허깅페이스(Hugging Face), 비동의 딥페이크 음란물 확산 문제 지적받아

요약

유럽 비영리 단체 AI Forensics의 최근 보고서에 따르면, 오픈소스 AI 플랫폼 Hugging Face가 비동의 딥페이크 음란물 문제에 직면해 있다. 연구진이 Hugging Face 내 상위 이미지 편집 Spaces 9개를 테스트한 결과, 7개 모델에서 손쉽게 여성의 나체 이미지를 생성할 수 있는 것으로 확인되었다. 연구진이 허니팟 방식의 이미지 편집 Spaces를 개설해 일주일간 추적한 결과, 입력된 프롬프트의 73%가 성적인 내용이었으며 이 중 83%는 특정 인물을 탈의시키거나 성적 대상화하려는 목적이었다. 특히 전체 성적 요청의 95%가 여성을 대상으로 했고, 6.7%는 아동으로 추정되는 대상을 겨냥한 것으로 나타났다. 미국과 유럽 등이 딥페이크 음란물 규제를 강화하는 추세임에도 불구하고, Hugging Face와 같은 플랫폼에서 비동의 딥페이크 생성이 여전히 용이하다는 점이 실무적 보안 및 윤리적 이슈로 제기된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.