참고X
MIT '웨이트 스페이스 프로그래밍' 실험, 후속 검증서도 성능 향상 확인
타 모델 가중치를 직접 수정해 연산 성능을 높이는 방식이 범용 모델에서도 유효함을 입증.
요약
Alex Krentsel이 MIT의 가중치 공간 프로그래밍(weight-space programming) 실험을 다양한 모델 세대에 걸쳐 재현한 결과, 모델의 성능이 급격히 향상되는 것을 확인했습니다. 최신 모델들은 별도의 훈련이나 도구 없이도 'Breakout' 네트워크를 생성해냈습니다. 이러한 방식으로 생성된 네트워크는 강화학습(RL)으로 훈련된 기준 모델보다 최대 22배 높은 점수를 기록했습니다. 이번 실험은 모델 세대가 거듭될수록 가중치 공간 내에서 직접 프로그래밍하는 능력이 비약적으로 발전하고 있음을 시사합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kimmonismus: Let’s go: Alex Krentsel replicated MIT’s weight-space programming experiment across model generations and found a sharp capability
원문 보기 ↗