참고팁Reddit
LLM 프록시에서 PII 및 프롬프트 인젝션 방어하는 실무 가이드
정규표현식과 Luhn 알고리즘을 활용해 모델 호출 전 개인정보를 차단하는 프록시 구축 전략입니다.
요약
최근 LLM 개발자 커뮤니티에서는 사용자 입력 데이터에 포함된 민감 정보(PII)나 프롬프트 인젝션 공격이 모델로 전달되기 전에 차단하는 프록시 레이어 구축이 화두가 되고 있다. 작성자는 SSN(사회보장번호), 이메일 패턴 등을 식별하기 위한 정규표현식(Regex)과 카드 번호 유효성 검사를 위한 Luhn 알고리즘, 알려진 인젝션 문구 목록을 활용해 필터링 로직을 구현했다. 해당 로직은 외부 모델 공급자로 프롬프트가 전송되기 전, 프록시 단에서 먼저 스캔을 수행하여 위험 요소를 사전 차단한다. 그러나 이러한 보안 방식은 정상적인 대화마저 차단하는 오탐(False-positive) 발생 가능성이 높아 엄격함과 유연함 사이의 균형을 맞추는 것이 핵심 과제다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 How are you catching PII / prompt-injection before it hits the model? Sharing my regex+Luhn approach and where it falls down.
원문 보기 ↗