Anthropic, Claude에 적은 '위협성 일기' 경찰에 신고… 여성 중범죄 기소

요약

미국 플로리다주에 거주하는 한 여성이 Anthropic의 챗봇 Claude를 일기장으로 사용하던 중 '보안관 사무실을 총격하겠다'는 위협적인 내용을 작성했다가 경찰에 체포됐다. Claude의 안전 시스템이 해당 내용을 감지하고 인간 검토자에게 이를 보고했으며, 검토자는 해당 위협이 신뢰할 만하다고 판단해 법 집행 기관에 신고했다. Anthropic은 사망이나 심각한 신체적 부상을 방지하기 위해 필요하다고 판단될 경우 제한적인 상황에서 사용자 정보를 공유할 수 있다는 방침을 밝혔다. 경찰 조사 결과, 해당 여성은 플로리다주 법률 836.10조에 따라 대량 살상 또는 테러 행위 등의 서면 위협을 가한 혐의로 2급 중범죄 기소를 받았다. 이번 사례는 AI 도구에 입력하는 데이터가 모니터링되어 실제 법적 조치로 이어질 수 있음을 보여주는 대표적인 사례로 평가된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.