NVIDIA, 에이전트 비용 최적화 위한 Nemotron-3-Embed-8B 출시

요약

NVIDIA가 추론 비용을 최적화하기 위해 효율적인 검색을 강조한 새로운 임베딩 모델 Nemotron-3-Embed-8B를 공개했다. 이 모델은 RTEB 벤치마크에서 78.46, MMTEB Retrieval에서 75.45의 평균 NDCG@10 점수를 기록하며 업계 최고 수준의 성능을 입증했다. 실제 에이전트 환경 테스트에서 더 정확한 검색 성능을 통해 불필요한 반복 검색과 추론 과정을 줄임으로써 전체 다운스트림 토큰 비용을 절감하는 효과를 거뒀다. 또한, NVIDIA는 효율적인 배포를 위해 1B 파라미터 모델 2종을 함께 출시했으며, Blackwell 최적화 NVFP4 버전은 BF16 대비 처리량을 최대 2배 향상하면서도 검색 품질은 99% 이상 유지한다. 모든 모델은 32K 컨텍스트를 지원하며 다국어·코드 검색, RAG, 에이전트 메모리 기능을 제공한다. 해당 모델의 가중치, 데이터, 레시피는 상업적 용도로 공개되었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.