자기 개선형 에이전트 평가를 위한 '분리형 채점기' 구성법

요약

코딩 에이전트가 스스로 프롬프트나 툴 등 '하니스(harness)'를 수정하기 시작하면, 성능 개선 여부를 객관적으로 평가하기 어려워지는 문제가 발생한다. 새로운 하니스가 성능을 개선했는지, 아니면 단순히 평가 기준이 바뀐 것인지 구분하기 위해서는 동일한 과제와 평가 로직을 적용하는 과정이 필수적이다. 이를 해결하기 위해 등장한 'Reef'는 에이전트와 모델 엔드포인트 사이에서 상호작용과 피드백을 수집하며 중재자 역할을 수행한다. 운영자가 제공한 제안자(proposer)가 실패 피드백을 바탕으로 하니스 변경을 제안하면, Reef는 기존 하니스와 후보 하니스를 동일한 과제군에서 동시에 실행한다. 최종적으로 운영자의 평가자가 두 결과를 비교하며, 후보 버전이 기존 버전을 능가할 때만 정식 버전으로 배포되는 프로세스를 갖추고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.