J-Zero: 데이터 없이 자체 진화하는 모델 훈련 프레임워크 공개

요약

검증 가능한 영역뿐만 아니라 검증 불가능한 영역까지 스스로 개선할 수 있는 새로운 언어 모델 학습 프레임워크인 'J-Zero(Judge co-adaptation from Zero data)'가 제안되었습니다. 이 프레임워크는 도전자를 의미하는 Challenger와 해결사 Solver가 서로 대립하며 Challenger는 어려운 과제를 생성하고 Solver는 이에 대한 고품질 응답을 학습하는 방식으로 상호 진화합니다. 동시에 Judge는 사전에 정의된 응답 우선순위 데이터를 기반으로 스스로 적응하며 학습의 효율성을 높입니다. J-Zero는 기존 베이스라인 대비 검증 가능한 영역에서 평균 4.2점, 검증 불가능한 영역에서 평균 8.0점 더 높은 성능을 기록했습니다. 또한 기존 모델들이 2회 반복 후 성능이 저하되는 것과 달리, J-Zero는 최소 10회 이상의 반복 학습을 통해서도 지속적인 성능 향상을 보였습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.