Anthropic(앤트로픽), Claude(클로드) 증류 공격 방어 기술 공개…데이터 탈취 90~99% 차단

요약

Anthropic은 최근 도입한 새로운 방어 기법을 통해 Claude를 대상으로 하는 증류 공격(distillation attacks)의 효율성을 90~99%가량 감소시키는 성과를 거두었다. 증류 공격은 개발사의 허가 없이 선도 AI 모델의 역량을 추출해 복제하는 산업 규모의 무단 활동으로, 개발 비용과 시간을 절감하려는 목적으로 악용되고 있다. Anthropic은 증류된 모델이 생물학이나 사이버 보안 분야에서 부적절한 안전장치와 결합해 심각한 피해를 유발할 수 있다는 점을 경계하고 있다. 실제로 Zhipu의 GLM-5.3 모델 개발 과정에서 미국 선도 모델의 사이버 역량을 추출하려는 시도가 있었으며, 이들은 Claude Fable 5를 표적으로 삼기도 했다. 이번 조치는 이러한 무단 기술 탈취를 차단하고 모델의 안전성을 확보하기 위한 Anthropic의 전략적 대응의 일환이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.