Claude Code, 에이전트 컨텍스트 최적화로 프롬프트 토큰 80% 절감

요약

Anthropic은 Claude Code의 시스템 프롬프트를 80% 줄이는 최적화를 진행하여, 불필요한 토큰 소비를 150,000개에서 2,000개 수준으로 대폭 절감했다. 이는 에이전트가 매번 동일한 컨텍스트를 재구성하는 비효율을 방지하기 위해 툴 정의와 처리 결과를 사전 처리한 결과로, Cloudflare와 Andrej Karpathy 역시 유사한 방식을 채택하고 있다. 기존 AI 에이전트는 웹 검색 시 불필요한 광고와 반복된 뉴스, 참조 자료 부재 등으로 매번 과도한 비용을 지불하지만, 이 문제를 해결하려면 검색 시점이 아닌 크롤링 단계에서 데이터를 정제하고 구조화해야 한다. 실제로 Seltz와 같은 서비스는 웹을 미리 인덱싱하고 구조화된 데이터를 API로 제공하여, 에이전트가 요청 시마다 반복 작업을 수행하지 않도록 설계되어 있다. 이러한 접근 방식은 에이전트 워크플로우의 비용 효율성을 극대화하고 응답 속도를 개선하는 실무적인 대안으로 주목받고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.