중요Reddit
ChatGPT 검색 결과에 심어진 프롬프트 인젝션으로 악성코드 실행 유도
가짜 Cloudflare 인증으로 PowerShell 실행 유도. 오타 도메인·에이전트 검색 결과 검증 필수.
요약
최근 한 사용자가 ChatGPT를 통해 검색 결과를 확인하던 중 프롬프트 인젝션 공격에 노출될 뻔한 사례가 Reddit에 공유되었습니다. 공격자는 검색된 웹사이트에 접속 시 'Cloudflare' 인증을 위장한 팝업을 띄우고, 사용자에게 'Win+R', 'Ctrl+V', 'Enter'를 차례로 입력하도록 유도하여 파워쉘(PowerShell) 명령어를 실행하려 했습니다. 분석 결과, 이는 악성코드를 유포하는 커뮤니티 제작 모델이 검색 결과에 포함되면서 발생한 문제로 파악됩니다. 사용자가 공식 도메인인 chatgpt.com 대신 오타가 포함된 유사 사이트를 클릭하면서 피해에 노출된 것으로 보입니다. AI 서비스 이용 시 공식 URL 확인의 중요성과 함께, 검색 결과로 노출되는 외부 사이트의 지시사항을 무비판적으로 따르지 않도록 각별한 주의가 필요합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Be Careful Folks - Prompt Injection
원문 보기 ↗