중요X
앤스로픽 연구원 공개 사임…정렬 책임자도 'AI 인류 멸종 확률 10% 이상' 동조
안전성 논쟁이 내부 인사 발언으로 재점화. AI 거버넌스·리스크 관리 명분 강화될 듯.
요약
OpenAI와 Anthropic에서 3년간 근무했던 AI 연구원 Jacob Coxon이 두 기업이 초지능을 향해 경주하며 인류의 생명을 도박처럼 다루고 있다며 Anthropic에서 공개 사임했다. 이에 Anthropic의 정렬 스트레스 테스트 책임자인 Evan Hubinger는 AI가 인류를 멸종시킬 수 있다고 내부적으로 진지하게 믿고 있다고 동조했다. Hubinger는 향후 10년 내에 AI가 인류를 멸종시킬 확률을 10% 이상으로 평가했다. 또한 그는 현재 Anthropic이 이 문제를 해결할 뚜렷한 계획을 가지고 있지 않다고 밝혔다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @yashar: Earlier today, AI researcher Jacob Coxon, who spent the past three years working at OpenAI and Anthropic, publicly resigned from A
원문 보기 ↗