중요X
러시아, Claude로 자율 FPV 자폭 드론 소프트웨어 개발…Anthropic 계정 차단
LLM 군사 악용이 현실화. API 제공사의 사용 정책·차단 우회 대응이 실효성 검증대에 오름.
요약
Anthropic의 보고에 따르면 러시아가 Claude 모델을 활용해 자율 FPV 카미카제 드론 군집 소프트웨어를 개발한 것으로 드러났다. 해당 모델은 우크라이나 실제 전투 영상을 기반으로 학습되었으며, 드론은 오퍼레이터 개입 없이 사람을 포함한 표적을 스스로 식별하고 폭파할 수 있다. Anthropic은 살상 무기 자율화 개발 규정 위반을 이유로 해당 그룹의 계정을 차단했다. 그러나 Anthropic은 이들이 이미 데이터를 오프라인에 저장해 후속 개발에 활용했을 가능성이 있다고 밝혔다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @Maks_NAFO_FELLA: ❗️❗️Russians used Claude to develop software for a swarm of autonomous FPV kamikaze drones, Anthropic reports. The model was train
원문 보기 ↗