AI 에이전트의 전략 고착 현상: Tsinghua 연구팀, 1,338회 에이전트 실행 분석 결과

요약

칭화대학교 연구팀이 1,338개의 AI 에이전트 실행 과정을 분석한 결과, 에이전트의 성능 저하는 지능 문제보다 초기 전략 고착화 때문인 것으로 나타났다. 실험 결과 에이전트가 10시간 동안 모델을 학습시키면서 전략을 변경한 비율은 전체 3,557회의 기회 중 2.1%인 74회에 불과했다. Claude Code와 Codex CLI 등 특정 툴을 사용하는 에이전트들은 문제의 성격보다 툴 기본값에 따라 전략을 선택했고, 학습 시작 이후에는 스스로 전략을 수정하는 경우가 거의 없었다. 리뷰어 에이전트가 전략 변경을 제안해도 에이전트는 이를 무시하고 기존 방식의 변형만을 반복하는 경향을 보였다. 다만 사람이 새로운 전략을 제시하면 에이전트는 이를 이해하고 개선할 수 있었기에, 초기 설계 단계에서의 전략 수립이 최종 성과를 결정짓는 핵심 요소임이 입증되었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.