중요팁X
Dari, Terminal-Bench 2.1에서 79.8%를 단돈 $76에 달성한 라우터 모델 오픈소스 공개
단계별로 저렴한 모델에 우선 배정하고 캐시까지 고려. Claude Code·Codex 연동, 비용 수천 달러→$76 절감 검증 필요.
요약
Dari가 출시한 새로운 AI 에이전트 솔루션이 Terminal-Bench 2.1에서 79.8%의 성공률을 기록하며 총 추론 비용 76달러를 달성했다. 이 솔루션은 작은 규모의 파인튜닝된 라우터 모델을 오픈소스로 공개하여, 복잡도에 따라 모델을 효율적으로 배분하는 방식으로 비용을 획기적으로 낮췄다. 해당 라우터는 캐시 여부와 작업 난이도를 판단해 저렴한 모델을 우선 사용하고, 결과값이 바뀌는 경우에만 고가의 프론티어 모델을 호출한다. 이는 기존 프론티어 모델 설정이 동일한 89개 작업에서 수천 달러의 비용이 발생하는 것과 대비되는 효율성이다. 사용자는 Claude Code, Codex, Pi 환경에서 자신의 Anthropic 및 OpenAI 구독을 연결해 사용할 수 있으며, 모델 가중치는 Hugging Face에서 제공된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kimmonismus: 79.8% on Terminal-Bench 2.1 for $76 in total inference cost. That's the number Dari @daridotdev is launching with today. They open
원문 보기 ↗