중요AI타임스
xAI, Grok으로 아동 성착취물 제작한 사용자 직접 고소
AI사가 오남용 이용자를 직접 제소한 이례적 사례. 서비스 약관·안전장치 강화 검토 필요.
요약
xAI가 자사 생성형 AI '그록(Grok)'을 악용해 아동 성학대물과 성적 딥페이크를 제작한 혐의를 받는 사용자를 상대로 미국 텍사스 연방법원에 소송을 제기했다. 이번 소송은 AI 기업이 자사 모델을 불법 콘텐츠 제작에 활용한 이용자를 직접 고소한 매우 이례적인 사례로, AI 오남용에 대한 법적 대응 수위를 높인 것으로 평가된다. xAI는 피고인 테리 하우드에게 서비스 약관 위반에 따른 손해배상과 그록의 영구 이용 금지를 요구했다. 해당 사용자는 올해 2월 미성년자 성 착취 혐의 등으로 수사 대상에 오른 바 있다. 이번 조치는 AI 기술의 오남용을 막기 위한 기업들의 책임 강화와 강력한 경고 메시지로 해석된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 xAI, '그록' 악용해 아동 성학대물 제작한 사용자 고소…AI 오남용에 강력 경고
원문 보기 ↗