에이전트 워크플로우 최적화: Hermes와 Jev를 활용한 비용 절감법
고성능 모델로 스킬을 학습시키고, 이후 저렴한 모델로 실행하는 라우팅 전략. 에이전트 서비스 운영 비용 최적화에 즉시 참고할 만한 아키텍처.
요약
Hermes는 자체 작업을 통해 기술을 학습하고 이를 워크플로우로 저장하여 반복 작업을 자동화하는 에이전트 시스템이다. 새로운 업무를 수행할 때는 Opus 5.5와 같은 고성능 모델을 활용해 데이터를 정리하고 스크립트를 작성하여 기술을 습득한다. 이후 반복되는 유사 작업은 DeepSeek V4.1 Flash와 같이 저렴한 모델이 저장된 기술을 실행하여 동일한 결과를 도출한다. StraitlyAI의 JevRouter는 새로운 문제에는 고사양 모델을 배치하고, 숙련된 작업에는 비용 효율적인 모델을 자동 배정하여 비용을 최적화한다. 결과적으로 Hermes를 지속적으로 운영할수록 학습된 기술을 통해 반복 작업의 비용을 7배가량 절감할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @DataChaz: HERMES + JEV IS INSANE 🤯 Hermes learns skills from its own work. Now pair it with Jev and watch what happens: > First ask: "how m
원문 보기 ↗