- LLM의 답변을 캐시하여 조직의 LLM 비용을 줄이고 답변 속도를 빠르게
- 시맨틱 캐싱 전략을 통해서 비슷하거나 관련된 질의를 찾아서 캐시 히트율을 높임
- 임베딩 알고리듬을 통해 질의를 임베딩으로 변환하고 벡터 스토어를 통하여 이 임베팅에 대한 연관 검색을 수행
- L…
잼난 개발놀이, 노리컴퍼니