참고팁Reddit
구글, LLM 에이전트 토큰 사용량 94% 절감하는 'SKILL.state' 기법 공개
대화 이력 대신 상태를 추적해 컨텍스트 윈도우를 최적화. 긴 세션의 에이전트 워크플로우를 운영 중이라면 도입 고려 가치 있음.
요약
구글 연구진은 에이전트의 긴 대화 세션에서 토큰 사용량을 94% 절감할 수 있는 'SKILL.state' 기법을 제안했다. 기존 에이전트는 추론 과정에서 대화 기록 전체를 입력으로 유지해야 하지만, SKILL.state는 현재 상태와 최신 관측값만을 구조화된 데이터로 관리하여 입력 크기를 일정하게 유지한다. Gemini-3-Flash 모델을 사용하여 100단계 벤치마크를 수행한 결과, SKILL.state는 65k 토큰을 사용하여 0.94의 정확도를 기록했다. 반면 LangGraph 방식의 기존 베이스라인은 1.1m 토큰을 사용하고도 0.91의 정확도를 보이는 데 그쳤다. 다만 이 방식은 에이전트가 향후 필요한 정보를 스스로 판단해 상태값에 저장해야 하므로, 그렇지 못할 경우 정보 재검색이 필요하다는 한계가 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Google paper cuts agent token usage by 94% in long sessions by tracking state instead of history
원문 보기 ↗