참고X
NousResearch, Qwen(큐원) 기반 파인튜닝 모델 'Arete-27B' 공개
중국 모델의 사상 편향을 제거하고 서구적 가치를 주입한 파인튜닝 사례. 오픈 모델의 가치 정렬 기법을 참고할 가치가 있음.
요약
NousResearch가 서구적 가치를 반영하도록 사후 학습된 오픈 모델 'Arete-27B'를 공개했다. 이 모델은 기존 오픈 모델 중 성능이 가장 뛰어난 것으로 평가받는 Qwen3.8-27B를 기반으로 제작되었다. 연구진은 표현의 자유, 민주주의, 프라이버시 등 7개 범주에서 중국식 가치관 편향성을 측정하는 803개 프롬프트 평가셋을 구축하여 실험을 진행했다. 약 5,300만 개의 토큰으로 파인튜닝한 결과, Arete-27B의 선전(propaganda) 노출 비율은 기존 22%에서 1% 수준으로 낮아졌다. 또한 Hermes Bench 테스트 결과, 서구적 가치를 강화했음에도 모델 성능 저하는 거의 없는 것으로 확인되었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @NousResearch: Introducing Arete-27B: Qwen3.8-27B, post-trained to reinforce Western values. Chinese open models are currently the strongest avai
원문 보기 ↗