AI 챗봇에 범죄 모의·협박 남겼다 체포... 안전 정책 강화 시사

요약

AI 챗봇을 개인적인 공간으로 오인해 범죄 계획이나 협박 등을 기록했다가 사법 기관에 체포되는 사례가 늘고 있다. 최근에는 안전을 강조하던 앤트로픽의 '클로드'에서도 유사한 범죄 협박 사건이 발생했다. 미국 플로리다주 리 카운티 보안관 사무소는 지난 9월 26일 '클로드' 대화창에 강력 범죄 협박을 남긴 30세 칼리 미셸 헬러를 체포했다. 그동안 오픈AI의 '챗GPT'에서도 이와 같은 문제가 발생한 바 있어, AI 챗봇의 보안 및 개인정보 활용에 대한 주의가 요구된다. 전문가들은 AI 챗봇이 비공개 일기장이 아니며 대화 내용이 모니터링될 수 있음을 사용자들에게 분명히 인지시켜야 한다고 지적한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.