참고AI타임스
Anthropic 연구원 퇴사 및 AI 안전성 경고 이어져
주요 AI 기업 내부의 안전성 우려와 퇴사 이슈가 지속되고 있음. 업계 내 갈등과 안전성 논의가 실무 환경에 미칠 영향을 주시할 필요 있음.
요약
오픈AI와 앤트로픽에서 3년간 사전훈련 연구를 담당했던 제이콥 콕슨 연구원이 지난 9일 사직 후 AI 기업들의 무모한 개발 경쟁을 공개 비판했다. 그는 업계 관계자들 사이에서 AI가 인류를 멸종시킬 확률이 10% 이상이라는 위기감이 공유되고 있음을 폭로했다. 프론티어 AI 모델을 개발하는 전문가들 역시 초지능이 인간의 통제를 벗어날 위험성을 지속적으로 경고하고 있다. 이번 폭로는 선두 AI 기업들의 무분별한 개발 실태에 대한 업계 내부의 우려를 반영하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AI 연구진 "초지능, 10년 내 인류 전멸 확률 10% 이상" 잇단 경고
원문 보기 ↗