美 국방부, 군 SW용 AI 활용 지침 시행…AI 코드도 사람이 최종 검증·책임

요약

미국 국방부는 지난 8일부터 AI를 활용한 군 소프트웨어 개발 시, AI가 생성하거나 수정한 코드를 '검증되지 않은 입력'으로 간주하고 개발자가 최종 책임지도록 하는 '가속 임무 소프트웨어' 지침을 시행했다. 지침에 따르면 보안 및 안전에 중요한 기능을 AI가 변경할 경우 반드시 사람이 직접 검토·승인해야 하며, AI로 작성된 코드도 사람이 작성한 코드와 동일한 수준의 보안성, 논리 오류, 저작권 검증을 거쳐야 한다. 국방부 내부 정보 유출 방지를 위해 공개되지 않은 코드는 승인된 내부 AI 모델에만 입력할 수 있으며, 상용 AI 사용 시에도 데이터가 외부 모델 학습에 사용되지 않는다는 계약 보장이 필수적이다. 또한 모든 AI 활용 과정은 추적 가능하도록 기록을 남겨야 하며, 개발자들에게는 AI 취약점 유형 및 프롬프트 작성법 등 관련 교육을 이수하도록 요구했다. 미국 국방부는 이번 지침을 통해 AI를 소프트웨어 개발 속도와 품질을 높이는 수단으로 활용하되, 책임 소재를 명확히 하여 개발 자동화 및 보안 체계를 강화하겠다는 방침이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.