참고팁Reddit
코딩 에이전트 컨텍스트 25% 절감: 결정론적 툴 출력 압축 오픈소스
에이전트의 불필요한 로그 출력을 제거하여 토큰 비용 절감 및 속도 최적화 가능.
요약
Hystax는 코딩 에이전트의 컨텍스트를 약 25% 축소할 수 있는 오픈소스(MIT 라이선스) 도구인 Kompressor를 공개했다. 코딩 에이전트가 매 턴 전체 히스토리를 재전송하는 과정에서 발생하는 방대한 툴 출력값(로그, 경고 등)을 줄이기 위해 개발되었다. 이 도구는 머신러닝 없이 규칙 기반(rule-based)으로 작동하며, CPU 환경에서 KB당 약 0.2ms의 속도로 처리한다. 특히 LLM 추론 시 프롬프트 캐싱 효율을 저해하지 않도록, 매 턴 동일한 입력에 대해 항상 동일한 출력 결과가 나오는 결정론적 방식을 채택했다. 별도의 모델 다운로드나 텔레메트리 없이 작동하며, Terminal-Bench 2.1을 통해 그 성능을 입증했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Shrinking coding-agent context ~25% without a model: deterministic tool-output compression (open source, Rust)
원문 보기 ↗