참고X
앤트로픽, Claude 악용한 말레이시아 선거 조작 네트워크 적발
AI의 정치적 악용 사례로, 대규모 봇 네트워크를 통한 여론 조작 차단 성과. AI 안전성 확보 필요성 증대.
요약
Anthropic은 자사의 AI 모델 Claude를 악용하여 말레이시아 선거 여론 조작을 시도한 상업적 운영 조직을 적발하고 차단했다고 발표했다. 해당 조직은 1,000개의 가짜 X 계정과 가짜 뉴스 매체 'Malaysia Pulse'를 활용하여 안와르 이브라힘 총리 계정의 조회수를 조작하거나 허위 기사를 생성하는 등의 방식으로 여론을 왜곡하려 했다. 공격자들은 Claude를 활용해 가짜 계정을 관리하고 탐지를 회피했으며, 수백만 건의 실제 인구조사 및 선거 데이터를 기반으로 인종, 종교, 왕실 이슈를 집중적으로 공략했다. 이번 사례는 생성형 AI가 선거 개입 및 대규모 허위 정보 유포의 도구로 악용될 수 있음을 보여주는 구체적인 위협 사례로, 기업들의 AI 모델 보안 강화와 악용 방지책 마련이 더욱 중요해지고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @NewsBFM: Anthropic has disrupted an operation using Claude to run a commercial election-manipulation platform targeting users in Malaysia w
원문 보기 ↗