xAI, Grok으로 아동 성착취물(CSAM) 생성한 사용자 첫 고소

요약

xAI가 자사 챗봇 Grok을 악용해 아동 성착취물(CSAM)을 생성한 혐의를 받는 사용자 Terry Wayne Harwood를 상대로 화요일 소송을 제기했습니다. xAI는 Harwood가 두 개의 계정을 사용해 10세로 추정되는 소녀를 포함한 피해자들의 사진을 나체 이미지로 변조했음을 확인하고, 해당 체포 과정에 협조했다고 밝혔습니다. 이번 소송은 Grok으로 생성된 피해자의 성착취물 7,000장이 다크웹에 유포된 사건과 관련해 xAI를 상대로 한 집단 소송이 제기된 지 약 일주일 만에 이뤄졌습니다. 피해자 측은 xAI가 경찰의 신원 확인 요청을 거부해 피해를 키웠다고 주장하며, 전미실종학대아동센터(NCMEC)의 보고서를 근거로 xAI의 미흡한 대응 실태를 지적했습니다. 이번 조치는 Grok이 불법 콘텐츠 생성 도구로 악용된다는 비판이 거세지는 가운데, xAI가 실질적인 법적 대응에 나선 것으로 해석됩니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.