참고X
Anthropic, 이란 연계 세력의 Claude 악용 사례 보고서 공개
AI 모델이 정치적 선전 및 감시 도구로 악용될 위험성 확인. 보안 정책 및 가이드라인 검토 필요.
요약
Anthropic은 이란 정부와 연계된 계정들이 자사의 AI 모델인 Claude를 선전 활동에 악용했다고 공식 발표했다. 해당 계정들은 별도의 작전을 통해 미 해군을 표적으로 삼고, 국내 감시 및 이스라엘 내 인물 프로파일링을 수행하는 데 Claude를 활용한 것으로 드러났다. Anthropic은 이번 사례가 자사의 기술이 부적절한 목적으로 사용된 심각한 보안 위협임을 인정했다. 이에 따라 회사는 향후 악의적인 AI 활용을 차단하기 위한 보안 조치를 강화할 것으로 예상된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @unusual_whales: BREAKING: Anthropic said that Iranian state-aligned and Iran-linked accounts used Claude in separate operations involving propagan
원문 보기 ↗