참고X
논문: 'Weak-to-Strong Generalization via Direct On-Policy Distillation' 공개
소형 모델을 이용해 대형 모델의 성능을 일반화하는 새로운 증류 기법 연구. 모델 최적화 연구자에게 유용.
원문 제목 @_akhaliq: Weak-to-Strong Generalization via Direct On-Policy Distillation https://t.co/NnwBKojvbx
원문 보기 ↗소형 모델을 이용해 대형 모델의 성능을 일반화하는 새로운 증류 기법 연구. 모델 최적화 연구자에게 유용.
원문 제목 @_akhaliq: Weak-to-Strong Generalization via Direct On-Policy Distillation https://t.co/NnwBKojvbx
원문 보기 ↗