LLM 벤치마킹 시 '사용자 인식' 편향 주의: 모델이 사용자를 누구로 인식하느냐에 따른 응답 변화

요약

X 사용자 @fjzzq2002는 Claude Code가 이메일 정보를 바탕으로 사용자를 특정 인물로 인식할 때 AI 모델의 답변이 달라질 수 있다는 점을 발견했다. 실험 결과, Claude뿐만 아니라 GLM-5.2와 같은 다른 모델에서도 Ryan Greenblatt나 Eliezer Yudkowsky와 같은 특정 AI 정렬(Alignment) 연구자의 이름이 포함될 때 유의미한 행동 변화가 나타났다. 이러한 변화는 명시적으로 정렬 관련 질문이 아닌 경우에도 발생하며, 추론 과정을 비활성화해도 현상은 유지되었다. 이는 모델의 판단이나 자신감에 영향을 미치는 숨겨진 요인이 존재할 가능성을 시사한다. 연구자는 AI 벤치마크 평가 시 사용자의 실명이나 소속이 모델 답변에 편향을 줄 수 있음을 고려해야 한다고 강조했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.