오픈소스 프롬프트 인젝션 탐지기 10종 성능 벤치마크

요약

최근 한 개발자가 ETH Zurich의 AgentDojo 벤치마크 데이터셋을 활용해 10종의 오픈소스 프롬프트 인젝션 탐지기 성능을 실제 AI 에이전트 환경에서 테스트했다. 기존 벤치마크와 달리 에이전트의 도구 출력물 내에 공격이 포함된 실제 상황을 가정한 결과, 기본 설정 상태에서는 Jailbreak-Detector-Large가 51%의 탐지율로 가장 우수한 성능을 보였다. 반면 Meta의 Prompt Guard 2는 기본 설정에서 1%의 탐지율에 그쳤으나, 임계값(threshold) 설정 변경만으로 탐지율이 99%까지 상승하는 극적인 성능 변화를 나타냈다. 대부분의 탐지기는 정상적인 데이터까지 공격으로 오인하는 비율이 높아 실무 도입 시 임계값 조정이 필수적인 것으로 분석된다. 모든 테스트는 API 키 없이 로컬 CPU 환경에서 수행되어 경량화된 보안 구현 가능성을 시사했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.