오픈소스 LLM 가드레일 도구 'Cloakwall' 공개

요약

Cloakwall은 LLM 요청과 응답에서 이메일, 신용카드 번호, SSN, API 키 등 민감한 개인정보(PII)를 자동으로 마스킹하는 LiteLLM 가드레일 도구이다. 이 도구는 채팅 메시지, 시스템 프롬프트, 도구 호출, 임베딩 및 이미지 프롬프트 등 LLM 트래픽의 다양한 영역을 지원하며 스트리밍 출력 시 데이터가 쪼개져도 누락 없이 필터링할 수 있다. 모든 마스킹 이력은 SHA-256 해시 체인 기반의 감사 로그로 기록되어 데이터 변조 여부를 즉각 탐지할 수 있으며, 실제 민감 정보값은 로그에 저장하지 않는다. 외부 의존성 없이 표준 라이브러리(stdlib)만으로 구성되어 별도의 모델 다운로드나 네트워크 통신 없이 가볍게 운영 가능하다. 신용카드 번호는 Luhn 알고리즘, NHS 번호는 mod-11 알고리즘을 통해 유효성을 검증한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.