TypeSafe, 'System One' 신규 프론티어 모델 Jev 공개…비용 40~400배·속도 20~200배 개선 주장
챗 중심 LLM과 다른 '구조화 결정' 특화 모델. 자동화 파이프라인용으로 검증해볼 만하나 벤치마크 실증은 확인 필요.
요약
TypeSafe AI가 자동화에 특화된 새로운 클래스의 모델인 'System One'과 첫 번째 공개 모델 'Jev'를 발표했다. Jev는 기존 LLM 대비 System One 작업에서 유사한 지능 수준을 유지하면서도 속도는 20~200배, 비용은 40~400배 효율적인 성능을 제공한다. 이 모델은 자연어 생성을 포기하는 대신 정형화된 출력(structured outputs)에 최적화되어 환각 현상을 방지하고, 확률적 의사결정을 내릴 수 있도록 설계되었다. 이를 위해 새로운 모델 아키텍처와 병렬 샘플러, 'RLCD(Reinforcement Learning for Calibrated Decisions)'라 불리는 학습 방법을 적용했다. Jev는 비정형 데이터를 입력받아 타입이 지정된 확률적 의사결정을 출력하는 프런티어 인텔리전스 함수 호출 도구로 기능하며, 현재 얼리 액세스로 이용 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Jev: New frontier model 40-400x cheaper and 20-200x faster
원문 보기 ↗