오픈AI 수석 과학자 "자기개선 AI 시대, 인류는 준비되지 않았다"

요약

오픈AI의 야쿠부 파초키 수석 과학자가 AI 발전 속도가 지속될 경우 수년 내에 기계가 스스로 AI 개발을 진전시키는 '재귀적 자기개선(RSI)' 단계에 진입할 수 있다고 경고했다. 그는 AI가 인간의 능력을 빠르게 추월하고 있는 상황에서 이러한 급격한 지능 상승의 결과에 대해 인류가 준비되어 있지 않다는 점을 강조했다. 파초키는 2023년 오픈AI의 추론 모델 연구 프로젝트인 'Q*'를 언급하며 AI의 추론 능력이 향상되고 있음을 시사했다. 이에 따라 오픈AI 내부에서도 기술 발전 속도 조절과 강력한 안전장치 마련에 대한 목소리가 높아지고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.