참고팁Reddit
LLM 워터마크 제거 프록시 'NullOrigin' 공개
LLM API 응답 내 KGW 워터마크를 실시간으로 탐지하고 무효화할 수 있는 오픈소스 연구 도구.
요약
NullOrigin은 LLM API와 애플리케이션 사이에서 작동하며 전송 중인 KGW(Kirchenbauer) 통계적 워터마크를 실시간으로 평가하고 제거하는 오픈소스 로컬 프록시 도구입니다. FastAPI 기반으로 개발되었으며 OpenAI, Anthropic, Gemini 등 주요 LLM API를 지원합니다. 작동 원리는 SSE 스트림을 가로챈 뒤, Ollama를 통해 Llama 3.2와 같은 로컬 SLM을 거치며 텍스트를 재구성하여 워터마크를 무력화하는 방식입니다. 이 도구는 워터마크 제거 외에도 이미지의 C2PA 매니페스트 삭제 및 Trojan Source(CVE-2021-42574) 취약점 스캔 기능을 제공합니다. 다만, 효과적인 워터마크 제거를 위해서는 Ollama나 vLLM과 같은 로컬 모델 구동 환경이 반드시 필요합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 NullOrigin: An open-source local proxy that intercepts LLM API streams to evaluate and strip KGW watermarks in transit.
원문 보기 ↗