Close
HomeNewsITllamafile – 단일 파일로 LLM 배포 및 실행…

llamafile – 단일 파일로 LLM 배포 및 실행 하기

노리컴퍼니ITNo Comments 84 views
  • 1개의 파일로 대부분의 컴퓨터에서 설치없이 LLM을 쉽게 실행 지원
  • llama.cpp와 Cosmopolitan Libc를 결합한 프레임워크
    • 1개의 빌드로 여러 OS, 다양한 CPU 아키텍처에서 실행 가능
  • 채팅 및 이미지 인식이 가능한 LLaVA 모델을 예제로 제공

You Might Also Like

Leave a Reply

Your email address will not be published. Required fields are marked *

이 사이트는 스팸을 줄이는 아키스밋을 사용합니다. 댓글이 어떻게 처리되는지 알아보십시오.

© 2024 NORICOMPANY