챗봇 오분석이 정식 정보보고서로…미·중 군사 충돌 직전까지 갔다

요약

올해 봄, 미군 분석관이 AI를 활용해 작성한 잘못된 정보보고서로 인해 미국과 중국 간 군사 충돌이 발생할 뻔한 상황이 뒤늦게 밝혀졌다. 미군은 중동을 항해하던 중국 선박이 핵무기 프로그램 부품을 운송 중이라는 AI 분석 결과를 토대로 무장 병력과 군용기를 동원해 작전 직전 단계까지 돌입했다. 해당 보고서는 미군 분석관이 챗봇을 활용해 기밀 신호정보와 공개 정보를 통합 분석하는 과정에서 AI가 화물을 잘못 식별하며 작성됐다. 이번 사태는 미군 및 정보기관 내에서 AI 활용은 급증하고 있으나, AI 정보 검증 및 사람의 개입 단계에 대한 공통된 기준이 부재하다는 점을 드러냈다. 현재 미국 정부 기관과 군 조직은 각기 다른 AI 도구와 지침을 사용하고 있어, 군사 작전 등 민감한 분야에서의 AI 리스크 관리가 시급한 과제로 떠오르고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.