참고Reddit
Krea 2 Turbo의 민족성(Ethnicity)에 따른 출력 편향 실험 결과
특정 모델의 프롬프트 반응성과 인종/민족 편향에 대한 흥미로운 관찰 결과.
요약
최근 Reddit의 Krea 2 Turbo 성능 실험 결과, 프롬프트에 의복 정보를 명시하지 않은 전신 이미지 생성 시 77명의 여성 중 34명이 알몸 또는 상의 탈의 상태로 생성되는 현상이 확인되었다. 특히 동유럽 국적의 경우 21명 중 17명이 이에 해당해 편향성이 관찰되었으며, 'Fully clothed'와 같은 일반적 명령어는 효과가 없어 구체적인 의복 명칭 입력이 필수적이다. 인종적 다양성 측면에서도 45개 유럽 국적의 얼굴이 단 2가지 유형으로만 생성되는 등 외형적 특징의 다양성이 부족한 것으로 나타났다. 이번 실험은 AI 모델의 인종 및 문화적 편향성을 파악하기 위한 비학술적 테스트로, 특정 모델 사용 시 프롬프트 엔지니어링의 중요성을 시사한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I tested how ethnicity changes Krea 2 Turbo's output so you don't have to (77 ethnicities × 7 prompts, same seed)
원문 보기 ↗