참고AI타임스
Anthropic(앤트로픽) 'Claude(클로드)' 기반 정보 수집, 인스타그램 봇 차단 시스템에 걸려 계정 정지
AI 에이전트의 웹 활동이 기존 보안 시스템과 충돌하는 사례. 에이전트 개발 시 플랫폼의 차단 정책 고려 필요.
요약
앤트로픽의 AI 모델인 '클로드'를 활용해 정보 수집을 하던 시민단체 '노 킹스(No Kings Coalition)'의 인스타그램 계정이 일시 정지되는 사태가 발생했다. 메타는 자사의 자동화 보안 시스템이 클로드의 활동을 자동화된 봇의 비정상적인 접근으로 오인해 발생한 오류라고 설명했다. 노 킹스는 오는 11월 3일 미국 중간선거를 앞두고 유권자들의 사전투표 참여를 독려하는 활동을 하던 중이었다. 메타는 이번 계정 정지 조치가 시스템 오류였음을 인정하고 사과했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 앤트로픽 ‘클로드’가 인스타그램 계정 정지 유발...메타 "봇 활동으로 오인"
원문 보기 ↗