프롬프트 인젝션 대부분은 텍스트가 아닌 HTML에 숨어 있다

요약

최근 LLM 개발자 커뮤니티에서 이메일 기반 프롬프트 인젝션이 텍스트가 아닌 HTML 코드 내부에 숨겨지는 사례가 급증하고 있다. 공격자들은 HTML 주석, display:none, 흰색 배경에 흰색 글자, text-indent:-9999px, 제로 너비 문자 등을 활용해 일반적인 텍스트 추출 방식으로는 감지하기 어렵게 만들고 있다. 단순히 텍스트만 검사하면 인젝션 공격을 놓칠 수 있으므로 메일 제목, 본문, 그리고 원본 HTML까지 모두 스캔해야 한다. 숨겨진 CSS 자체는 마케팅 메일에서도 흔히 쓰이지만, 특정 명령어와 결합할 경우 프롬프트 인젝션 위험도가 12점에서 25점까지 상승한다. 100점 만점에 60점을 넘는 위험 메일은 즉시 차단하지 않고, 시스템 프롬프트에 경고를 추가하여 모델이 응답을 생성하게 한 뒤 사람이 검수하는 방식을 권장한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.