← promppy_ 실시간 AI 뉴스
참고팁X

LLM 라우터 'Drex', 비용 28배 절감하며 성능 동등 수준 입증

에이전트 워크플로우에서 토큰 비용을 최적화할 수 있는 라우팅 전략과 벤치마크 데이터 공유.

요약

NaceAI의 Drex Router가 306개 평가 프롬프트에서 8.80/10점의 답변 품질을 기록하며 Jev Router의 8.84/10점과 대등한 성능을 보였습니다. 특히 Drex Router는 1,000개 프롬프트당 0.28달러의 비용으로 Jev Router의 7.80달러 대비 약 28배 저렴하며 정확도 또한 87.6%로 앞섰습니다. Drex Router는 에이전트의 각 단계마다 최적의 LLM 또는 SLM을 선택하고 추론 강도를 결정하는 소형 결정 모델입니다. 기존의 세션 단위 라우팅은 단일 모델에 고정되지만, 이 모델은 단순 검색과 복잡한 계획 단계를 구분해 효율적인 모델 배분을 지원합니다. 이를 통해 각 단계마다 모델과 확률, 선택 이유를 제공받아 불필요한 고비용 모델 사용을 방지할 수 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 @ai_for_success: Drex Router from @NaceAI scored 8.80/10 on answer quality across 306 eval prompts at $0.28 per 1,000 prompts, matching Jev Router'

원문 보기 ↗

광고

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스