LLM 대화 내 숨겨진 메시지 전송, 스테가노그래피 POC 공개

요약

최근 인스타그램의 종단간 암호화 철회와 EU의 CSAM 스캔 규정 연장 등 메시지 검열이 기본값이 되어가는 추세에 대응해 LLM 스테가노그래피 도구가 개발되었다. 이 도구는 LLM이 다음 토큰을 생성할 때 선택하는 확률 분포를 활용해 정상적인 대화 속에 비밀 메시지를 숨기는 방식을 사용한다. 산술 코딩을 통해 암호화된 페이로드 비트를 토큰 선택 과정에 적용하여, 언뜻 보기에는 평범한 LLM 대화처럼 보이는 메시지를 생성한다. 수신자는 동일한 모델, 토크나이저, 구성, 공유 비밀키 및 대화 상태를 가지고 있어야만 숨겨진 메시지를 복원할 수 있다. 이러한 기술은 플랫폼의 검열이 강화되는 환경에서 정보의 보안성을 유지하기 위한 하나의 실험적인 접근법으로 주목받고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.