참고X
앤트로픽, 모델 증류 방지 정책 업데이트: API 이용 제한 및 과금 상세 공개
증류 방지 조치 강화로 기존 API 통합 환경에 변화 발생 가능, 차단된 추출 요청에도 비용이 청구됨.
요약
Anthropic은 경쟁 모델 개발자들이 Claude의 추론 과정을 학습하는 '증류(Distillation)' 행위를 90%에서 99%까지 차단했다고 밝혔다. Claude가 정답에 도달하는 과정을 담은 상세한 추론 기록은 타 모델 학습에 악용될 가치가 높아, 이를 방지하기 위해 추출 프롬프트 차단 및 계정 간 데이터 이동 제한 조치를 시행했다. Anthropic은 탐지 즉시 수만 개의 계정을 삭제하고 있으며, 반복적인 위반자는 영구 제재하고 있다. 다만 이번 조치로 유료 사용자의 일부 통합 기능에 변경이 필요하고, 차단된 추출 요청에 대해서도 비용이 청구되는 등의 제약이 발생한다. Anthropic은 해당 방어책이 아직 고도로 지능화된 우회 시도에는 검증되지 않았음을 인정하면서도, 지속적으로 방어 체계를 강화할 예정이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @mark_k: Anthropic says it has cut the Claude reasoning harvested by rival model developers by 90% to 99%. The target is distillation: coll
원문 보기 ↗