중요Reddit
앤트로픽, "알리바바가 계정 2.5만 개로 Claude 복제" 美 상원에 신고
API 정상 이용만으로 6주간 2880만 건 대화 추출. 상업 API 제공 시 증류·남용 탐지 정책 재점검 필요.
요약
Anthropic은 Alibaba가 4월부터 6월까지 6주 동안 25,000개의 가짜 계정을 생성하여 Claude와 2,880만 건의 대화를 수행했다고 미국 상원에 보고했다. 이는 Anthropic의 에이전트 추론 및 코딩 기능을 추출해 자사의 모델인 Qwen을 학습시키려는 대규모 '증류 공격(distillation attack)'으로 파악된다. 이번 사건은 DeepSeek, Moonshot, MiniMax의 사례를 합친 것보다 큰 규모로, Anthropic 역사상 가장 큰 공격으로 기록되었다. 현행법상 이러한 대규모 데이터 추출이 명확한 불법인지 판단하기 어려워 Anthropic은 소송 대신 의회에 서한을 보내 대응했다. 이번 사안은 AI 모델의 데이터 추출 및 증류 문제에 대한 법적 규제 논의를 촉발하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic just told the US Senate that Alibaba ran 25,000 fake accounts and had 28.8 million conversations with Claude — not to use it, but to copy it
원문 보기 ↗