MIT 연구진, GPT-6(지피티 6) Astra로 타 모델 가중치 직접 수정하여 성능 개선

요약

MIT 연구진이 GPT-6 Astra를 활용해 소형 모델인 Qwen3.5-0.8B의 가중치를 직접 수정하는 데 성공했다. 연구진은 모델의 내부 가중치를 분석하여 수학 문제 풀이 시 무한 루프에 빠지는 버그를 찾아냈으며, 전체 가중치의 0.016%만 수정했다. 별도의 재학습이나 경사하강법 과정 없이 모델을 수정하자 수학 점수는 7.9%에서 48.1%로, 지시 이행 능력은 21%에서 62%로 대폭 향상되었다. 이번 실험은 모델의 새로운 능력을 추가한 것이 아니라 기존의 결함을 수정한 사례이다. 향후 AI가 코드처럼 가중치를 직접 수정할 수 있게 된다면, 모델 개선을 위한 재학습 비용을 획기적으로 줄일 수 있을 것으로 기대된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.