중요ZDNet Korea
美 NSA·CISA·FBI, 딥시크 등 중국 AI 6개사 '지식 증류' 공동 경보
모델 출력 무단 학습이 안보 위협으로 격상. API 제공 서비스는 비정상 토큰 추출 탐지·차단 검토 필요.
요약
미국 NSA, CISA, FBI는 9월 8일(현지시간) 딥시크, 문샷 AI, 알리바바, 미니맥스, 스텝펀, Z.AI 등 중국 AI 기업 6곳에 대한 공동 경보를 발표했다. 해당 기업들은 2024년 말부터 클로드, GPT, 제미나이, 그록 등 미국 최첨단 모델로부터 수십억 개의 토큰을 추출해 지식 증류에 활용한 혐의를 받고 있다. 지식 증류는 미국 AI 모델의 출력을 교재로 삼아 자국 모델을 학습시키는 행위로, 이는 개발 비용과 시간을 단축하는 수단으로 악용되고 있다. 미국 정부는 이러한 활동이 지식재산권 및 보안 위협을 초래한다고 판단해 중국 정부의 연루 가능성을 제기하며 이번 사태를 국가 차원의 위협으로 규정했다. 이에 따라 미국 AI 기업과 연구기관에는 모델 출력 모니터링 강화, 비정상적 접근 탐지, API 사용량 통제 등 기술적 방어 조치가 권고되었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 美 NSA·CISA·FBI, 중국 AI 6개사 '지식 증류' 경보…"수십억 토큰 빼갔다"
원문 보기 ↗