Anthropic, 'AI 오남용 대응 보고서' 공개…사이버 위협 및 모델 증류 시도 분석

요약

Anthropic의 Threat Intelligence 팀은 2025년 12월부터 2026년 8월까지 Claude를 악용하려는 위협 행위자들의 활동을 탐지하고 차단했다. 이번에 차단된 사례는 사이버 작전, 영향력 행사, 감시, 사기, 생물학적 오용, 재래식 무기 개발, 모델 증류 등 7개 영역에 걸쳐 발생했다. 악용에 사용된 모델은 Claude Haiku, Sonnet, Opus였으며, Claude Fable이나 Mythos 모델은 한 건의 증류 사례를 제외하고는 사용되지 않았다. Anthropic은 이번 보고서를 통해 가장 주목할 만하고 새로운 위협 사례를 공개하며, 기술 발전과 함께 증가하는 위험에 대비해 안전장치를 지속적으로 강화하고 있다고 밝혔다. 또한 확보한 위협 정보는 필요에 따라 당국 및 산업 파트너들과 공유하여 대응하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.