OpenLM – 여러 LLM 호출이 가능한 OpenAI 호환 파이썬 클라이언트

• OpenAI의 API와 똑같은 파라미터로 HuggingFace, Cohere 및 자신의 모델등 다른 LLM을 호출 가능
• 현재는 Completion Endpoint만 지원하지만, Streaming/Embeddings 같은 엔드포인트도 추가예정
• 기존 코드에 import openlm as openai 해서 그대로 이용 가능

…

출처 : GeekNews – 개발/기술/스타트업 뉴스 서비스