중요The Verge
美 캘리포니아 주지사, AI '킬 스위치' 의무화 추진
프런티어 모델 대상 온사이트 감사·독립 검증 의무화 가능성. 미국 서비스 규제 리스크 점검 필요.
요약
개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사가 AI 모델의 안전성 강화를 위해 '킬 스위치(kill switch)' 도입을 검토하는 새로운 행정명령을 지난 금요일 발표했다. 이번 명령에 따라 전문가 그룹이 소집되어 2개월 내에 주 법률에 AI 안전 조치를 강화하기 위한 구체적인 권고안을 마련할 예정이다. 논의 내용에는 AI 기업이 독립적인 검증 그룹을 상주시켜 정기 감사를 받게 하거나, 투명성 보고서 및 위험 평가를 외부 감사 표준에 맞추는 방안이 포함된다. 또한, AI 모델의 오작동을 즉시 멈출 수 있는 킬 스위치 도입 여부도 주요 검토 대상이다. 캘리포니아주는 이번 조치를 통해 AI 규제 분야에서 선도적인 입지를 다지겠다는 전략이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Gavin Newsom is pushing for an AI kill switch
원문 보기 ↗