Cursor 엔지니어 공유: 에이전트 하네스 토큰 최적화 프롬프트

요약

Cursor의 에릭 자카리아손은 LLM 에이전트 하네스의 비용 효율성을 높이면서 품질을 유지하기 위한 구체적인 최적화 프롬프트를 공개했다. 핵심 목표는 작업 당 가격 가중치가 적용된 토큰 비용을 낮추는 것이며, 단순히 요청당 비용이 아닌 전체 작업의 토큰 소비를 측정해야 한다. 최적화 과정에서 '토큰을 아끼라'는 식의 지시는 모델의 성능을 저하시키므로 지양하고, 대신 도구 설명과 환경 정보를 명확히 제공하는 하네스 구조 개선에 집중해야 한다. 실제로 프롬프트 축소, 도구 오프로딩, 캐시 레이아웃 조정 등을 통해 품질 저하 없이 전체 토큰 비용을 약 7% 절감한 사례가 있다. 시스템 프롬프트는 불필요한 명령어를 제거하고 모델이 알 수 없는 정보 위주로 간결하게 구성하는 것이 유리하며, 정적 컨텍스트를 최소화할 때 에이전트의 효율이 극대화된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.