메타, AI 챗봇에 청소년 자해 징후 감지 기능 도입

요약

메타가 16일(현지시간) AI 챗봇 사용 중인 청소년의 자해 및 자살 위험 징후를 감지해 부모에게 알리는 안전 기능을 도입했다. 미국, 캐나다, 영국, 호주에서 우선 시행되는 이 기능은 부모가 패밀리 센터를 통해 직접 활성화할 수 있으며, 위험 징후가 감지되면 부모에게 알림이 발송되되 구체적인 대화 내용은 공유되지 않는다. 메타는 잠재적 위험을 식별하기 위해 AI 탐지 시스템을 구축하고 웰빙 자문단 및 정신건강 전문가들의 자문을 반영했다. 도입 초기에는 위험성을 사람이 직접 검토한 뒤 알림을 발송하며, 향후 위험이 확인될 경우 응급 구조 기관에 자동으로 알리는 기능도 개발 중이다. 이번 조치는 최근 소셜미디어 플랫폼의 청소년 정신건강 유해성 논란과 AI 챗봇의 위험 행동 조장 우려에 대응하기 위한 행보로 풀이된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.