참고X
Perplexity(퍼플렉시티), 모델 스스로 피드백 주는 학습 기법 'JOLT' 공개
학습 데이터 효율을 높이고 모델 스스로 피드백 루프를 생성하는 새로운 파인튜닝 연구.
요약
Perplexity AI가 새로운 사후 학습 방식인 JOLT를 공개했다. JOLT는 하나의 모델이 교사와 학생 역할을 동시에 수행하며, 교사 모델이 학생 모델이 활용할 수 있는 피드백을 제공하도록 학습시키는 구조다. 실제 성능 검증 결과, 수학 문제 데이터셋인 MATH에서 GRPO 대비 6.5배 적은 학습 토큰을 사용하고도 동일한 정확도를 기록했다. 이 방식은 효율적인 모델 학습과 최적화에 새로운 가능성을 제시할 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @perplexity_ai: New research: We developed JOLT, a post-training method where one model acts as both teacher and student, with the teacher trained
원문 보기 ↗