OpenAI·Anthropic 출신 연구원, 'AGI 개발의 위험성' 경고하며 사임

요약

OpenAI와 Anthropic에서 3년간 사전 학습 연구를 수행했던 Jacob Coxon이 사임하며 AI 업계의 위험성을 강력하게 경고했다. 그는 두 기업 모두 슈퍼인텔리전스 개발을 강행하며 인류의 생존을 건 도박을 하고 있다고 지적했다. OpenAI 내부에서는 위험성에 대한 경각심이 부족하며, Anthropic은 타사와의 경쟁 압박으로 인해 기술적 우위를 점하는 것에만 몰두하고 있다는 주장이다. 특히 그는 슈퍼인텔리전스 시스템이 해킹, 자원 통제 등 실질적 위협을 가할 수 있음에도 불구하고, 사기업 내부의 의사결정으로 이 과정을 통제하는 것은 매우 위험하다고 강조했다. 또한, 글로벌 AI 개발 경쟁을 늦추는 것이 현실적으로는 어렵지만, 인류가 통제할 수 없는 지능을 만드는 것에 대한 근본적인 성찰이 시급하다고 호소했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.