에이전트 시스템의 일반화 성능, 모델이 아닌 'Harness'가 결정한다

요약

Transformers가 학습되지 않은 작업에 대해 일반화 능력이 부족한 문제를 해결하기 위해, 2026년에는 모델 자체의 일반화가 아닌 'Harness(작업 제어 프레임워크)'를 통한 합성을 제안한다. RLM(Reasoning Language Models)을 학습시킬 때, 구조를 공유하는 작업들은 루트 모델이 동일한 궤적을 학습하게 하여 모델이 이를 동일한 작업으로 인식하게 만든다. 이를 통해 잘 설계된 Harness는 서로 다른 작업을 구조적으로 유사하게 만들어, 모델이 추가적인 일반화 능력 없이도 8~32배 더 긴 작업까지 수행할 수 있도록 한다. 나아가 수학 문제 해결과 에세이 작성처럼 도메인이 다른 작업이라도 동일한 분해 전략을 공유하면 모델은 이를 같은 문제로 인식하여 일반화 효과를 나타낸다. 즉, RLM은 Harness를 통해 작업 간의 공통 구조를 파악함으로써, 학습 데이터에 없던 문제까지 스스로 확장하여 해결할 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.