Anthropic 핵심 연구진, 'AI 초지능 위험성' 공개 경고

요약

Anthropic의 Jacob Coxon이 OpenAI와 Anthropic이 책임감 없이 자기 개선형 초지능을 개발하여 인류의 생존을 도박에 걸고 있다고 비판하며 이번 주 사임했다. 현재 Anthropic에서 정렬 과학(Alignment Science)을 이끄는 Evan Hubinger는 해당 주장에 동의하며, AI가 향후 10년 내 인류를 멸종시킬 확률이 10% 이상이라고 언급했다. 또한 Hubinger는 Anthropic이 초지능 정렬에 대한 명확한 계획이나 해결 방안을 갖추지 못했음을 인정했다. Scalable Oversight 팀의 리더인 Samuel Marks 역시 동료들의 의견에 공감하는 입장을 표명했다. 안전을 최우선 가치로 내세웠던 Anthropic 내부 핵심 연구진들의 이번 폭로로 인해 AI 안전성 확보를 위한 기술적, 윤리적 대응 방안에 대한 논란이 가속화될 전망이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.