참고X
Anthropic(앤트로픽)의 안전 정책 후퇴 및 상장 행보 비판 확산
AI 산업의 속도 경쟁과 안전성 사이의 딜레마를 지적하는 업계의 비판적 시각.
요약
네덜란드의 작가이자 사상가 Rutger Bregman은 Anthropic을 포함한 AI 산업 전반의 개발 속도를 즉각 멈춰야 한다고 비판했다. 그는 Anthropic이 안전 정책을 포기하고 데이터 센터에 9천억 달러 규모의 투자를 단행하며, 1조 달러 이상의 기업 가치로 상장을 준비하는 등 안전보다 경쟁을 우선시하고 있다고 지적했다. 특히 Anthropic의 정렬 과학 책임자인 Evan Hubinger조차 향후 10년 내 AI가 인류를 멸망시킬 확률을 10% 이상으로 예측하며, 통제 불가능한 상태임을 시사했다. Bregman은 AI 기업들이 스스로를 '기계 신'을 만드는 존재로 여기면서 정작 안전은 담보하지 못하고 있다고 비판했다. 그는 기업들이 장기적인 안전을 도모한다는 명분에도 불구하고, 실제로는 AI 경쟁을 가속화하여 위험을 초래하고 있다고 결론지었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @rutgerbregman: We need to stop the AI industry, including Anthropic, *right now*. I'll be honest: for a long time I put my hope in Anthropic. It
원문 보기 ↗