"AI가 AI 뇌수술"…MIT 연구서 모델이 타 모델 가중치 직접 수정해 수학 성능 8%→48%

요약

MIT 연구진이 GPT-6를 활용해 수학 문제에서 반복 오류를 보이던 소형 AI의 신경망 일부를 수정하는 일명 '뇌 수술'에 성공했다. GPT-6는 전체 신경망 중 0.016%에 해당하는 부분을 직접 수정했으며, 그 결과 해당 소형 AI의 수학 점수가 8%에서 48%로 대폭 향상되었다. 이 과정에서 별도의 추가 학습 없이 모델 간의 연결을 직접 재구성하는 방식이 사용되었다. 이번 사례는 AI가 스스로를 개선하는 '재귀적 자기 개선(RSI)'의 가능성을 보여주며, 향후 AI가 인간의 통제 없이 서로의 뇌를 수정하거나 스스로를 고도화할 수 있다는 위험성을 시사한다. 요슈아 벤지오와 제프리 힌튼 등 AI 석학들은 이러한 기술이 인류의 통제력을 상실하게 할 수 있다며 정부 차원의 규제를 촉구하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.