참고팁X
UC San Diego 'CarryOn': 에이전트 컨텍스트 관리 최적화로 토큰 52% 절감
에이전트가 전체 기록을 다시 읽지 않고 완료된 작업 상태를 참조하여 토큰 비용을 대폭 줄이는 연구. 에이전트 구축 시 도입 고려.
요약
UC San Diego 연구팀이 개발한 AI 에이전트 프레임워크인 CarryOn이 컴퓨터 작업 성능을 높이면서도 토큰 사용량을 52% 절감하는 성과를 거뒀다. 기존 에이전트와 달리 CarryOn은 작업 완료 후 과정을 반복해서 읽지 않고 이전 작업 상태를 참조하여 이어서 수행하도록 설계되었다. 이 방식은 문서의 편집 내용을 유지하면서 남은 목표와 최근 동작만을 확인해 효율성을 극대화한다. 동일한 Claude Opus 4.7 모델을 적용했을 때 OSWorld 2.0 작업 달성 점수는 43.9점에서 49.7점으로 상승했다. 또한 작업당 비용은 기존 36.83달러에서 23.62달러로 대폭 감소하여 경제적인 AI 에이전트 운용이 가능해졌다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @mark_k: An AI agent got better at computer tasks while using 52% fewer tokens! The improvement came from how it managed context. UC San Di
원문 보기 ↗