참고Hacker News
Anthropic의 Claude 워터마킹 구현 방식 분석: "글쓰기의 본질 훼손"
워터마크가 눈에 보이지 않는 문자를 넣는 방식이 아니라, 토큰 선택 과정에서 통계적 지문을 남기는 방식임을 분석하며 품질 저하 이슈 제기.
요약
Anthropic은 EU 규정 준수를 위해 모든 Claude 모델이 생성하는 텍스트에 워터마크를 삽입할 계획이라고 발표했습니다. 초기에는 비가시적 유니코드 삽입을 예상했으나, 실제로는 추론 시점의 단어 선택(토큰 출력)을 조정하는 스테가노그래피 방식을 사용합니다. Anthropic은 이 방식이 텍스트의 의미, 품질, 가독성을 저해하지 않는다고 주장합니다. 그러나 원문 작성자는 이 기술이 확률적 탐지에 의존하며 작문의 품질을 변질시킬 수 있다고 지적합니다. 이번 조치는 향후 Claude 모델의 모든 출력물에 적용될 예정입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic's 'Watermark' Text Adulteration in Claude Is a Perversion of Writing
원문 보기 ↗