참고X
인도 Sarvam AI, 고속 추론 모델 'Prism' 공개
105B 파라미터 규모로 44ms 응답 속도 기록. 저지연 AI 의사결정 모델을 찾는다면 참고.
요약
인도의 AI 스타트업 Sarvam AI가 고속 AI 의사결정 모델인 Prism을 새롭게 출시했다. 1050억 개의 파라미터를 갖춘 파운데이션 모델을 기반으로 설계되었으며, 3개의 의사결정 벤치마크에서 71.8점을 기록했다. 특히 44밀리초(ms) 만에 응답을 생성하여 100밀리초 미만으로 응답하는 25개 모델 중 가장 높은 평균 점수를 달성했다. 인도 언어와 기업용 워크플로우를 지원하는 것이 특징이다. 현재 Hugging Face를 통해 오픈 웨이트로 공개되었으며 API로도 제공된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @_TheTathya: 🚨 India's Sarvam AI Launches Prism, a High-Speed AI Decision Model! > Built on Sarvam's 105-billion-parameter foundation model. >
원문 보기 ↗