- TensorRT 딥러닝 컴파일러와 최적화된 커널, 전처리/후처리 단계, 멀티GPU/멀티노드 통신 기본요소 등을 포함
- C++ 이나 CUDA에 대한 깊은 지식 없이도 LLM에 최고 성능과 사용자 정의 기능을 빠르게 제공 가능
- 오픈소스 모듈식 Python API를 제공하여 사용 편의성과 확장성 제공
- Am…
잼난 개발놀이, 노리컴퍼니