← promppy_ 실시간 AI 뉴스
참고Reddit

Claude Code 캐시 만료 방지하여 토큰 비용 최적화하는 법

Claude Code의 컨텍스트 캐시 유지로 잦은 재작성 비용(cache-tax)을 회피하는 실무 팁.

요약

Claude Code 사용 시 세션이 만료되면 대규모 컨텍스트를 재작성하는 데 상당한 비용이 발생하는데, Fable 5.1 기준 캐시 재작성 비용은 캐시 읽기보다 80배 높다. 이를 해결하기 위해 개발된 'cache-tax' 도구는 '/keepwarm' 명령어로 세션을 6시간 동안 유지하며, 50분간 유휴 상태일 때 대화에 방해가 되지 않는 방식으로 자동 핑을 보낸다. 또한, 세션이 만료되어 '콜드' 상태로 복귀할 경우, 사용자가 재요청하기 전 예상 비용을 미리 알려주어 불필요한 과금을 방지한다. 실제로 330k 토큰 세션에서 간단한 요약 요청 시 $6.61의 비용이 발생한 사례가 확인되었으며, 이 도구는 캐시 읽기가 없거나 10% 이상의 쓰기가 감지되면 자동으로 작동을 중단한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 Keep Claude Code’s 1-hour cache warm during breaks. On Fable 5.1, rewriting it costs 80x a cache read.

원문 보기 ↗

광고

다음 뉴스 →

중요제논, 화면 인식·컴퓨터 조작 특화 '훈민 VLM 397B' 오픈소스 공개

큐원3.5-397B 기반 국산 컴퓨터 조작 VLM. GUI 에이전트 만든다면 상용 대안으로 검토 가치.

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스

최신 뉴스