중요X
캘리포니아, 주 정부에 AI '킬 스위치' 권한 부여하는 규제안 추진
판결 전 즉시 셧다운·단계별 의무 테스트·48시간 사고보고 포함. 美 사업·배포 시 대응 검토 필요.
요약
캘리포니아주가 AI 모델이 파괴적인 위협을 초래한다고 판단될 경우 주 정부 관리가 즉시 가동을 중단시킬 수 있는 일명 '킬 스위치(kill switch)' 도입을 추진 중이다. 이번 제안에는 AI 모델의 훈련 단계마다 주 정부 승인을 거친 테스트를 의무화하고, 48시간 이내에 사고 보고서를 제출하게 하는 조항이 포함됐다. 특히 주 정부는 더 나은 AI 개발을 지원하는 AI 모델의 성능을 제한할 수 있는 권한까지 가질 전망인데, 이는 AI 연구 가속화를 저해할 수 있다는 우려를 낳고 있다. 이러한 조치는 법원의 판결 이전에 즉각적인 효력을 발휘하며, 기업은 중단 명령 이후에야 이의를 제기할 수 있다. 현재는 제안 단계이지만, 차기 주지사로 지목된 베세라(Becerra)는 해당 내용을 신속하게 법제화하겠다는 의지를 밝혔다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @mark_k: California wants a kill switch for AI, and it wants to be the one holding it. 💀 Newsom's new recommendations would let state offi
원문 보기 ↗