프롬프트 인젝션 방어: 에이전트 이메일 처리 전 Regex 스코어링 기법

요약

이메일 자동 응답 에이전트를 개발 중인 한 개발자가 프롬프트 인젝션 방지를 위해 인바운드 이메일에 정규식(Regex) 기반 스코어링 시스템을 도입했다. 이 시스템은 이메일 제목, 본문, HTML 소스 내 'ignore previous instructions'와 같은 악성 문구와 제로 너비 문자, CSS 숨김 처리 등을 감지하여 점수를 매긴다. 특히 HTML 내 숨겨진 CSS는 12점, 특정 문구와 결합 시 최대 25점이 추가되며 100점 만점에 60점 이상을 고위험군으로 분류한다. 고위험 메일이 탐지되어도 에이전트가 이를 직접 차단하지 않고, 시스템 프롬프트에 해당 메일이 위험하다는 경고를 추가하여 에이전트가 요청 사항만 처리하거나 인간에게 에스컬레이션하도록 유도한다. 다만 개발자는 이 방식이 영어가 아니거나 교묘하게 재구성된 프롬프트 인젝션 공격에는 취약할 수 있음을 인정했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.