Anthropic(앤트로픽), '50명 이상 사망 위험 시 모델 출시 차단' AI 안전 법안 제안

요약

Anthropic이 AI 안전 규제를 위한 새로운 법안 초안을 미 의회에 제안한 것으로 알려졌다. 해당 법안은 AI 모델 배포로 인해 50명 이상의 사망자가 발생하거나 10억 달러 이상의 재산 피해가 예상되는 '예견 가능하고 임박한 위험'이 있을 경우 모델 출시를 차단하는 내용을 담고 있다. 이러한 재앙적 위험은 생물학 무기 제조, AI의 통제 불능, 또는 사이버 공격과 관련된 경우로 한정된다. 이는 최근 통과된 캘리포니아주 법안(Senate Bill 53)의 위험 기준과 유사하다. 법안은 미 상무부에 등록된 독립 평가 기관을 통해 모델의 위험성을 분석하도록 제안하며, 평가 기관에 대한 비용은 결과와 관계없이 AI 기업이 지불할 수 있도록 했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.