참고팁Reddit
코딩 에이전트 프롬프트 토큰 분석: 오해와 진실
하드웨어/설정 최적화 시 프롬프트 단순 길이보다 캐시 효율 및 설정 파일 영향력이 더 크다는 분석.
요약
최근 코딩 에이전트 간의 프롬프트 전 토큰 소모량(33k vs 7k) 비교 연구가 큰 화제를 모았으나, 실제 세부 내용을 분석하면 알려진 사실과 차이가 큽니다. 현실적인 설정(지시 파일 및 다수의 MCP 서버) 환경에서 테스트한 결과, 오히려 '가볍다'고 평가받던 하네스가 90.8k 토큰으로 더 많은 비용을 발생시켰습니다. 72KB 크기의 지시 파일만으로도 모든 요청에 약 20k 토큰이 추가되었으며, 연구진은 토큰 비용의 대부분이 하네스가 아닌 사용자의 설정값에서 발생한다고 결론지었습니다. 즉, 하네스는 최소 비용을 결정할 뿐 실제 비용은 사용자의 구성에 따라 달라집니다. 또한, 토큰의 절대량보다 캐시 동작의 효율성 차이가 전체 비용에 훨씬 큰 영향을 미치는 것으로 밝혀졌습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 That "33k tokens before your prompt" study everyone shared
원문 보기 ↗