연구: 주요 LLM, 학습 데이터보다 파인튜닝 과정에서 '일본' 편향성 강화

요약

카디프 대학교와 바스크 센터 HiTZ의 공동 연구 결과, 주요 거대 언어 모델(LLM)들이 문화 관련 질문에서 일본에 과도하게 편향된 답변을 내놓는 현상이 발견되었습니다. 연구진이 GPT, Gemini, Claude 등 모델을 대상으로 24개 언어, 31,680개의 문화 관련 프롬프트를 테스트한 결과, 8개 모델 중 6개가 춤, 축제, 일상 관습 등을 물을 때 일본을 우선적으로 언급했습니다. 이러한 편향은 사전 학습 데이터가 아닌, 인간의 피드백을 통해 모델을 미세 조정(Fine-tuning)하는 과정에서 발생하는 것으로 분석되었습니다. 연구에 따르면 모델들은 일본 문화를 안전하고 인지도가 높은 '소프트 파워'의 상징으로 인식하여, 중립적인 정보 제공 대신 일본을 반복적으로 참조하게 됩니다. 결과적으로 지시 조정(Instruction tuning) 단계에서도 이러한 편향을 완전히 통제하지 못하고 미국과 일본 위주로 답변이 쏠리는 경향이 확인되었습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.