중요팁Simon Willison
Copilot for Word를 경유한 '프롬프트 주입' 웜 바이러스 발견
문서 내 숨겨진 명령이 AI 에이전트로 전파되어 자가 복제되는 취약점. 문서 기반 AI 워크플로우 보안 점검 필요.
요약
Håkon Måløy가 Microsoft Word의 Copilot 기능을 악용한 새로운 프롬프트 인젝션 공격 기법인 'AI 웜'을 발견했다. 공격자는 문서에 숨겨진 지시사항을 삽입하여 Copilot이 이를 사용자 요청의 일부로 해석하게 만들고, 결과물 문서에 해당 지시사항을 복제하도록 유도한다. 이로 인해 악성 코드가 포함된 문서가 다른 작업에서 다시 사용될 때 지시사항이 재발동하며 자가 복제 방식으로 확산되는 구조를 가진다. 기존의 '흰색 글자(white-on-white text)' 기법과 달리, 이 공격은 의도적으로 자신을 복제하여 전파한다는 점이 특징이다. Microsoft는 해당 취약점을 제보받아 144일 동안 대응했으나, 아직 전체 공격 유형을 완벽히 방어할 수 있는 해결책은 마련되지 않은 상태이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AI Worming through Word
원문 보기 ↗