모델 가중치 직접 편집 연구, "성능 향상 원인은 도구 활용 능력" 비판 제기

요약

최근 GPT-6 Astra의 가중치 수정 연구 결과가 오해를 불러일으킬 수 있다는 지적이 제기되었다. spaCy 개발자인 매튜 호니발은 Astra가 Qwen의 가중치를 0.016%만 수정해 수학 점수를 약 6배 향상시켰다는 연구가 실질적인 '가중치 이해'와는 다르다고 비판했다. 그는 Astra가 직접 가중치를 이해한 것이 아니라, 파이썬 코드를 활용해 가중치를 분석·수정하고 테스트하는 과정을 거쳤다는 점을 지적했다. 즉, 이는 모델이 직접 신경망을 이해한 것이 아니라 유능한 ML 엔지니어처럼 도구를 사용해 작업한 것에 불과하다는 설명이다. 호니발은 연구의 성능 향상 수치 자체를 부정하지는 않으나, AI가 가중치를 직접 이해했다는 식의 해석에는 의문을 제기했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.