참고팁Reddit
로컬 실행형 오픈소스 LLM 프롬프트 인젝션 방어 도구 'bordair-detector'
이미지, 오디오 등 멀티모달 입력까지 대응하는 오픈소스 로컬 방어 도구. 엔드포인트 보안 검토 시 참고.
요약
LLM 애플리케이션을 위한 오픈소스 프롬프트 인젝션 탐지 도구 'bordair-detector'가 공개되었다. 이 도구는 Apache-2.0 라이선스로 제공되며, 텍스트뿐만 아니라 OCR 기반의 이미지, PDF, DOCX, 오디오 파일 등 멀티모달 입력 데이터의 인젝션 공격까지 탐지할 수 있다. 성능 최적화를 위해 1ms 이내 처리가 가능한 정규식(Regex) 기반의 1단계 필터링 후, 모호한 입력값만 모델로 전달하는 2단계 구조를 채택했다. 로컬 환경에서 실행되는 구조로 API 의존성이 없으며, Hugging Face에서 가중치를 받아와 캐싱하는 방식을 사용한다. 또한 여러 메시지에 분산된 공격 페이로드를 잡아내는 멀티턴(Multi-turn) 지원 기능도 포함되어 있어 실무 환경에 즉시 도입 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Open-source prompt-injection guard for LLM apps - pip install, runs locally, catches image/doc/audio injections too
원문 보기 ↗