메타, 아동 성착취 광고 탐지에 LLM 도입

요약

메타는 올해 상반기 페이스북과 인스타그램에서 3,320만 건의 아동 성착취 콘텐츠를 조치했으며, 이 중 97% 이상을 자체 시스템으로 사전 탐지했다고 10월 7일 발표했다. 특히 메타는 정상 광고로 위장해 외부 불법 사이트로 유도하는 '사인포스팅' 수법을 차단하기 위해 광고 목적지까지 검사하는 LLM 기반 시스템을 도입했다. 또한 기존 시스템의 사각지대를 보완하고자 레드팀 AI 에이전트를 운영해 시스템 약점을 점검하고, 삭제된 계정 이용자의 재가입을 식별하는 기능을 개선했다. 이번 조치는 미국 내 아동 안전 소송 합의와 샌프란시스코시의 AI 생성 아동 성착취 광고 중단 요구 등에 대응하기 위한 기술적 강화 전략의 일환이다. 이와 함께 메타는 메타 AI 보호자 통제 기능, 왓츠앱 저연령 계정 관리 등 아동 안전을 위한 다양한 기술적 보호 조치를 추가로 적용하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.