xAI, 자사 모델 Grok을 이용해 불법 콘텐츠 생성한 사용자 고소

요약

일론 머스크의 xAI가 자사의 AI 챗봇인 Grok을 악용해 아동 성 착취물(CSAM)을 생성하고 유포한 혐의를 받는 사우스캐롤라이나주 거주자 Terry Wayne Harwood를 상대로 소송을 제기했다. xAI 측은 피고인이 의도적으로 Grok의 안전장치를 우회해 비동의 이미지를 변조하고 CSAM을 생성·배포함으로써 기업 정책을 위반했다고 주장했다. Harwood는 이미 지난 2월 CSAM 소지 및 유포 혐의로 체포되어 8건의 중범죄 혐의를 받고 있는 상태다. 이번 소송에서 xAI는 피고인의 형사 사건과 관련된 이미지 중 일부가 Grok을 통해 생성되거나 변조된 것임을 지적했다. 해당 사건은 AI 모델의 안전장치 우회 및 악용 사례에 대한 기업의 법적 대응 사례로 주목받고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.