참고Reddit
Anthropic(앤트로픽), AI 안전 규제 기준 제시: 10억 달러 피해 시 제한 필요
AI 안전 기준 및 규제 범위에 대한 업계 논의가 본격화되는 가운데 주요 랩의 입장 표명.
요약
Anthropic이 자사의 AI 모델에 대해 특정 위협이 발생할 경우에만 사용 차단을 고려해야 한다는 기준을 제시했다. 구체적인 기준으로는 50명 이상의 사망자나 심각한 부상을 초래하거나 10억 달러 이상의 피해를 입히는 경우를 꼽았다. 이번 제안을 두고 Reddit의 r/ClaudeAI 커뮤니티에서는 해당 수치가 적절한지에 대한 논의가 이어지고 있다. 일부 이용자들은 Anthropic이 본격적인 사회적 논의를 이끌어내기 위해 초기 의제로 이 기준을 제시한 것이라고 분석하기도 했다. 실무자들은 이러한 안전 기준 설정이 향후 AI 정책 수립에 어떤 영향을 미칠지 주목하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic wants AI models blocked only if they threaten over $1 billion in damage or more than 50 deaths or serious injuries
원문 보기 ↗