Web LLM – Llama2 7B/13B 지원 시작

• 서버 없이 브라우저에서 Llama, RedPajama, Vicuna 같은 LLM을 WASM으로 구동하는 서비스
• Llama 2 7B/13B 지원 시작
• Llama 2 70B도 지원하지만, 애플 실리콘 맥 + 64GB 램 이상에서만 사용 가능
• WebGPU로 가속

…

출처 : GeekNews – 개발/기술/스타트업 뉴스 서비스