Claude 워터마크 작동 원리 상세 해설…추론 시 토큰 선택을 통한 패턴 생성

요약

Claude의 워터마킹은 모델이 토큰을 생성할 때 특정 위치에서 높은 점수를 받은 토큰 중 특정 토큰을 선택하도록 유도하는 방식으로 작동한다. 이 과정에서 비밀 키와 이전 토큰이 난수 생성에 영향을 미치며, 여러 토큰 위치에서 이 패턴이 반복되면 통계적으로 자연발생하기 어려운 워터마크가 형성된다. 이는 별도의 모델 재학습이나 훈련 없이 추론 단계에서 적용 가능한 기술이다. 하지만 Claude 개발사 측은 EU 규제로 인해 이를 모든 사용자에게 의무적으로 적용해야 한다고 밝히고 있다. 추론 단계의 기술인 만큼 EU 사용자에게만 선별적으로 적용할 수도 있을 것으로 보이는데, 이에 대한 적용 범위 설정 배경에 의문이 제기된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.