전 OpenAI 엔지니어, 텍스트 생성 없는 고속 추론기 'Jev' 공개

요약

OpenAI 출신 디오고 알메이다가 설립한 'Typesafe AI'가 텍스트 생성 대신 구조화된 데이터로부터 확률적 의사결정을 도출하는 새로운 모델 'jev'를 공개했다. jev는 토큰 단위 생성 방식이 아닌 병렬 처리 방식을 사용하여 70~500밀리초 내에 응답하며, 기존 LLM 대비 압도적인 속도와 비용 효율성을 갖췄다. 이 모델은 RLHF 대신 'RLCD(Reinforcement Learning for Calibrated Decisions)' 방식을 적용해 할루시네이션 문제를 근본적으로 차단하고, 엄격하게 정의된 유형의 출력값만을 제공한다. jev는 범용 챗봇을 대체하는 모델이 아니라, 자동화 파이프라인 전후단에서 분류 및 라우팅을 수행하는 최적화된 의사결정 레이어로 설계되었다. Typesafe AI는 이번 공개와 함께 DCVC 주도로 4천만 달러 규모의 시드 투자를 유치했음을 밝혔다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.