중요TechCrunch
OpenAI(오픈AI), 'Decisions API' 정식 출시…초고속 의사결정 모델 경쟁 본격화
분류·선택 작업을 LLM보다 빠르고 싸게 처리. 라우팅·필터링 워크플로우에 LLM 대체 검토 가치.
요약
OpenAI는 최근 'Decisions API'를 모든 고객에게 정식으로 공개하며 빠르고 저렴한 지능형 모델 시장에 본격적으로 진입했다. 이 모델은 주어진 선택지에서 빠르게 결정을 내리고 신뢰도 점수를 제공하는 'System One' 모델로, 기존 LLM을 대체해 운영 속도를 높이고 비용을 대폭 절감할 수 있다. OpenAI는 기존 ChatGPT Luna 모델을 재구성하여 추론 속도를 기존 1~3초에서 100~180밀리초 수준으로 단축했다. 지난 9월 29일 개발자 행사에서 처음 언급된 이후 목요일부터 모든 사용자가 접근할 수 있게 되었으며, 새로운 음성 및 시각 기능도 추가되었다. 이는 최근 76억 달러 기업 가치를 인정받은 TypeSafe의 Jev 모델과 직접적으로 경쟁하는 서비스로 주목받고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 OpenAI makes its Jev competitor widely available as decision model competition heats up
원문 보기 ↗