에이전트 토큰 낭비 진단 CLI 'ChewMe-Audit' 공개

요약

한 개발자가 73개의 공개 벤치마크 에이전트 트레이스를 분석한 결과, 74%에서 토큰 낭비가 확인되었으며 일부 에이전트는 입출력 토큰의 35%를 반복적인 자체 검증에 소모하는 것으로 나타났다. 이를 해결하기 위해 개발자는 Langfuse, LangSmith, JSONL 등의 트레이스 형식을 지원하는 CLI 도구 'chewme-audit'을 공개했다. 이 도구는 로컬에서 실행되어 데이터 외부 유출 없이 토큰 낭비 지점을 분석하고 비용을 추산하며, 각 패턴별 최적화된 수정안을 제공한다. 실제로 한 사례에서는 반복되는 잘못된 편집 명령을 283번 시도하던 에이전트에 해당 도구의 수정안을 적용하자 루프가 즉시 해결되었다. 개발자는 'pip install chewme-audit' 명령어로 설치 후 분석할 파일과 모델 제공자를 지정하여 바로 사용할 수 있다고 밝혔다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.