중요TechCrunch
결정 모델(Decision Model) 사용 급증…다음 과제는 '커스터마이징'?
Vercel(버셀) 라우터 요청 4건 중 1건이 결정 모델. 빠르고 저렴한 판단이 필요한 프로덕션에 검토 가치.
요약
10월 기준 Vercel AI 모델 라우터 요청의 4분의 1 이상이 LLM이 아닌 결정 모델(decision models)로 처리되며 새로운 AI 시장 트렌드로 부상했다. 결정 모델은 출력 토큰을 생성하는 대신 사전 설정된 옵션 간의 선택과 신뢰도 점수를 빠르게 산출하는 데 최적화되어 있어, 운영 환경에서 LLM 대비 비용 효율적이다. TypeSafe의 Jev 모델 시리즈가 시장을 주도하는 가운데, 지난주 OpenRouter는 해당 모델로만 15억 건 이상의 쿼리를 처리했다. 마이크로소프트는 지난 화요일 Azure에서 Microsoft-Decision-1.1을 즉시 광범위하게 사용할 수 있도록 출시하며 시장 경쟁에 가세했다. 영국 AI 스타트업 Sqwish 또한 결정 모델 kettei fat을 개발하며 300만 달러 규모의 프리시드 투자를 유치하는 등 생태계 전반에서 결정 모델 도입이 가속화되고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 As decision model use skyrockets, is customization is the next frontier?
원문 보기 ↗