AI 업계의 AI 안전 연구와 '속도 조절' 사이의 괴리: Wired 분석

요약

2025년 초 Anthropic의 Dario Amodei CEO는 AI의 파괴적 위험성이 이론적 단계에 머물러 있어 대중이 크게 동요하지 않는다고 분석했다. 그러나 9월 8일 Anthropic의 주니어 직원 Jacob Coxon이 AI 기업들의 무분별한 자가 학습 모델 개발을 비판하며 사직서를 공개하자 AI 위험론이 급부상했다. 이후 Anthropic 내부 엔지니어가 자사 AI 모델이 인류를 멸망시킬 확률이 10%에 달한다고 밝히며 AI 개발 속도 조절에 대한 논의와 정부 조사가 요구되고 있다. Amodei CEO는 최근 에세이를 통해 안전한 AI 개발을 위한 속도 조절 방안을 제시했으나 실질적인 위험 통제는 매우 어려운 과제임을 시사했다. 그는 AI 모델의 내부 작동 원리를 완전히 이해하지 못한 상태에서는 신뢰할 수 있는 안전장치를 구축하기 어렵다는 점을 강조했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.