참고AI타임스
OpenAI, 범죄 계획 대화 탐지 후 FBI 신고... AI 프라이버시·감시 논란
AI 기업의 대화 내용 수사기관 제보 사례 발생. AI 서비스의 안전 가드레일 정책이 사생활 보호와 충돌하는 지점에 대한 논의 확산.
요약
오픈AI가 챗GPT 이용자의 대화에서 타인에 대한 구체적인 위해 계획을 탐지해 미 연방수사국(FBI)에 직접 신고했으며, 이를 통해 실제 스토킹 및 살해 협박 범죄 피의자 체포로 이어진 사실이 밝혀졌다. 이번 사건은 미국 플로리다주에 거주하던 전 골드만삭스 애널리스트 대런 저우가 3월 여자친구와 결별 후 챗GPT에 범행 계획을 입력하며 발생했다. 그동안 AI 기업이 이용자 대화 내용을 수사기관에 제보한 사례는 매우 드물어 업계의 주목을 받고 있다. 이번 사례를 두고 일각에서는 AI 챗봇의 안전장치 강화 필요성과 이용자의 사생활 보호 사이의 경계에 대한 논쟁이 재점화되고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI, 살해 계획 담긴 챗GPT 대화 경찰에 신고...AI 대화 감시·사생활 논란
원문 보기 ↗