의사결정 특화 모델 'Jev' 아키텍처 상세 분석

요약

TypeSafe AI가 전 ChatGPT 개발자인 @CompleteSkeptic이 구축한 새로운 시스템 1 모델 'Jev'를 공개했다. Jev는 텍스트 작성이나 코드 생성을 위한 LLM이 아닌, 상태와 유형화된 질문을 받아 단일 병렬 패스로 점수를 매기는 모델이다. 출력값은 확률과 함께 Choice, Score, Null로 엄격하게 구조화되어 있어 애플리케이션 로직이 신뢰도 높은 답변을 자동 라우팅하거나 나머지 작업을 에스컬레이션할 수 있게 돕는다. 호출당 70~500밀리초의 빠른 처리 속도를 자랑하며 출력 토큰 비용이 무료라는 장점이 있다. 다만 산술 연산이나 체인 추론에는 의도적으로 약하게 설계되어 보정된 의사결정에 특화된 아키텍처를 갖췄다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.