앤트로픽, 모델 성능 불법 증류 방어 체계 강화…추출 시도 99% 차단

요약

앤트로픽(Anthropic)이 12일(현지시간) 자사 AI 모델 ‘클로드(Claude)’의 핵심 추론 능력을 무단으로 복제하는 ‘불법 증류’를 차단하기 위해 보안 체계를 대폭 강화했다고 발표했다. 이번 조치를 통해 공격자가 AI 모델로부터 수집할 수 있는 추론 데이터양을 기존 대비 약 90~99%까지 감축하는 데 성공했다. 앤트로픽은 추론 데이터 보호 기능과 공격 탐지 시스템을 고도화했으며, 반복적으로 무단 복제를 시도하는 계정을 식별하여 대거 차단하는 강력한 대응에 나섰다. 증류 공격은 고성능 AI 모델의 응답 데이터를 활용해 성능을 모방하거나 저가형 모델을 학습시키는 행위로, 기업의 지식 재산권과 보안에 큰 위협이 되어왔다. 앤트로픽은 이번 방어 체계 업데이트를 통해 AI 서비스의 기술적 무결성을 보호하고 무단 데이터 추출 시도를 효과적으로 봉쇄할 계획이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.