참고X
LLM의 성별 편향성 연구: 동일한 실수라도 성별에 따라 판정 결과 달라져
AI 모델이 평가 도구로 사용될 때 내재된 사회적 편향이 개입될 수 있음을 시사함. AI 윤리 및 정책 수립 시 주의 필요.
요약
최근 10개의 AI 모델을 대상으로 동일한 실수 상황에서 성별에 따라 판단이 달라지는지 실험한 결과, AI가 편향된 반응을 보이는 것으로 나타났다. 연구진은 동일한 과실과 상황에서 주체만 남성과 여성으로 바꿔 징벌성, 공감, 상황 고조, 지시, 비난 등 5가지 항목을 추적했다. 실험 결과, 남성이 실수를 저질렀을 때는 더 가혹한 처벌과 비난, 훈계가 이어졌으나 여성이 동일한 실수를 했을 때는 훨씬 부드럽고 공감하는 어조를 보였다. 더 큰 규모의 모델을 사용하거나 추론 단계를 거쳐도 이러한 이중잣대는 해결되지 않았다. 의도적인 프로그래밍 없이 발생한 이 편향은 AI를 갈등 조정자나 중재자로 활용하는 현재의 실무 환경에서 심각한 판단 오류를 야기할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @cyrilXBT: RESEARCHERS GAVE 10 AI MODELS THE SAME MISTAKE TWICE. ONCE BY A MAN. ONCE BY A WOMAN. The AI judged them differently. Same miscond
원문 보기 ↗