미군, AI 환각 정보로 中 선박 나포 직전까지 갔다 오판 확인

요약

올해 봄, 미군 특수작전사령부 분석가가 생성형 AI를 활용해 작성한 정보 보고서가 중국 선박이 핵무기 부품을 운송 중이라는 잘못된 내용을 담아 하마터면 미·중 간 무력 충돌로 이어질 뻔했다. 해당 보고서를 기반으로 미군은 선박 나포를 위한 즉각적인 작전에 돌입했고, 군용기와 무장 병력까지 동원되는 긴박한 상황이 벌어졌다. 그러나 작전 직전, 해당 보고서의 정보가 AI 챗봇의 환각(hallucination) 현상으로 인해 완전히 거짓임이 밝혀지며 위기를 모면했다. 현재 미군과 정보 당국은 정보 분석, 타격 목표 선정, 물류 관리 등 업무 전반에 AI 도입을 적극 추진하고 있으나, 이번 사례로 AI 신뢰성과 검증 절차에 대한 우려가 커지고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.