AI의 '재귀적 자기 개선' 아직 멀었다…프린스턴대 연구팀, 개방형 연구 능력 한계 지적

요약

AI가 인간의 개입 없이 스스로 개선되는 '재귀적 자기 개선'이 곧 도래할 것이라는 기대와 달리, 이를 실현하기까지는 상당한 시간이 걸릴 것이라는 연구 결과가 나왔습니다. 프린스턴 대학교의 피터 커기스(Peter Kirgis)와 사야시 카푸어(Sayash Kapoor) 연구팀은 현재의 AI 에이전트가 AI 연구를 위한 공학적 문제는 해결할 수 있으나, 최고 수준의 머신러닝 학회에서 인정받을 만한 독창적인 연구를 수행할 판단력과 창의성은 부족하다고 평가했습니다. 기존 AI 연구 자동화 평가는 정답이 명확한 좁은 작업 위주로 이루어졌지만, 실제 AI 발전에는 가설 설정과 증거 판단 같은 개방형 사고가 필수적입니다. 연구진은 현재 AI 에이전트가 이러한 고차원적 연구 역량을 갖추지 못했다는 점을 근거로, AI 연구 자동화에 대한 낙관적인 전망이 과장되었을 수 있다고 지적했습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.