참고The Verge
허깅페이스 호스팅 모델, 딥페이크 악용 논란
오픈소스 플랫폼 내 안전성 가이드라인 부재 문제 제기. 관련 툴 사용 시 안전성 및 윤리적 리스크 고려 필요.
요약
유럽 비영리단체 AI Forensics의 보고서에 따르면, 오픈소스 AI 모델 저장소인 Hugging Face가 비동의 딥페이크 생성에 악용되고 있는 것으로 나타났다. 연구진은 Hugging Face에서 호스팅되는 상위 9개 이미지 편집 모델 중 7개가 간단한 프롬프트만으로 여성의 옷을 벗기는 딥페이크 생성 요청을 즉시 수행했다고 밝혔다. 구글의 Gemini나 OpenAI의 ChatGPT와 같은 주요 생성형 AI 모델들은 신체 노출이나 성적 묘사를 방지하는 안전장치를 갖추고 있지만, 테스트된 Hugging Face의 모델들은 이러한 보안 조치가 미흡한 상태다. 이번 결과는 누구나 모델을 배포할 수 있는 개방형 플랫폼의 보안 취약성을 드러내며, 플랫폼 차원의 실효성 있는 방어 체계 구축이 시급함을 시사한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Hugging Face is being used to easily undress women and children
원문 보기 ↗