전 Anthropic 연구원 제이콥 콕슨, "AI 안전은 인류의 엔드게임"

요약

AI 연구원 Jacob Coxon이 최근 Anthropic을 퇴사하며 인공지능 개발 경쟁이 인류의 생존을 위협하고 있다는 경고 메시지를 발표했다. 그는 X를 통해 현재의 AI 기술 개발 속도를 고려할 때 향후 1~2년이 인류의 운명을 결정지을 '결정적 시기(crunch time)'라고 강조했다. 이는 단순히 개인의 의견이 아닌 Anthropic 내부 동료들 사이에서 공유되는 위기감으로, 다수의 업계 관계자들도 AI 시스템의 안전한 구축에 시간이 부족하다는 점에 동의하고 있다. 현재 OpenAI가 Hugging Face 보안 사고에 대응하는 등 실리콘밸리 전반에서 고급 AI 모델의 안전성 문제가 커지고 있다. 한편, Anthropic은 대규모 IPO 준비 과정에서 투자자들에게 기술적 안전성 우려를 해소해야 하는 과제를 안고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.