앤트로픽 내부의 AI 멸종 공포와 가속주의

요약

X(구 트위터) 유저 matthewktromp에 따르면, 한 Anthropic 직원이 AI 기술의 파멸 가능성(p(doom))을 거의 100%로 보고 있다는 주장이 제기되었습니다. 해당 직원은 AI 정렬(alignment) 문제를 해결할 가능성은 매우 낮지만, 유일한 생존 전략은 AI 성능을 최대한 빠르게 가속하는 것이라고 믿고 있습니다. 또한, 이들은 인류가 초지능(ASI) 개발을 멈추기 위한 정치적 의지를 발휘할 가능성이 정렬 문제 해결 가능성보다 훨씬 낮다고 평가했습니다. 결국 정렬 문제 해결이 불가능에 가깝다고 보면서도, 기술 가속만이 유일한 길이라는 모순적인 태도를 보인 것입니다. 정작 해당 직원은 본인의 이러한 견해를 선출직 공직자 등 정책 결정권자에게 알리지는 않은 것으로 알려졌습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.