AI가 환각한 첩보로 미군, 中 선박 나포 직전까지…美, 中에 'AI 핫라인' 제안

요약

최근 AI가 생성한 환각(hallucination) 정보로 인해 미군이 중국 선박을 핵무기 부품 운송 선박으로 오인하고 나포 작전을 준비할 뻔한 사건이 발생했다. CNN 보도에 따르면 해당 보고서는 특수작전사령부 분석가가 생성했으나 실제로는 검증되지 않은 AI 도구에 의존해 작성된 것으로 드러났다. 이 사건은 군사 작전 등 민감한 분야에서 AI의 정보 판단 오류가 실제 무력 충돌로 이어질 수 있는 심각한 위험을 경고했다. 이에 따라 미국은 오판에 의한 전쟁 위험을 방지하기 위해 중국과 AI 관련 핫라인 구축을 제안했다. 이번 사례는 AI 기술 도입 과정에서 철저한 검증과 인간의 개입이 필수적임을 실무적으로 시사한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.