아마존·클라우드플레어, 오픈소스 의사결정 모델 공개로 Jev에 도전장

요약

아마존과 클라우드플레어(Cloudflare)가 기존 TypeSafe의 Jev와 유사한 오픈소스 의사결정 모델을 각각 출시하며 경쟁이 본격화됐다. 아마존이 공개한 Strands Decider는 20억 파라미터 규모로 CPU나 GPU에서 로컬 구동이 가능하며, M3 맥북 기준 소규모 작업 시 약 153ms의 중간 지연 시간을 기록한다. 클라우드플레어의 Clef는 27B와 9B 모델로 제공되며, Jev 대비 두 배인 64K 컨텍스트 윈도우를 지원하고 이미지 인식 기능까지 갖췄다. 또한 Clef는 Jev와 호환되는 API 형식을 제공하며, 자체 테스트 결과 Clef-flash의 의사결정 속도는 약 39ms로 Jev의 524ms보다 월등히 빨랐다. 이들 모델은 주어진 선택지에서 확률을 반환하는 방식으로, 고객 지원 티켓 분류나 에이전트의 행동 승인 절차 등에 최적화되어 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.