LLM 가중치 직접 수정: Gemma 4(젬마 4) 뉴런 편집을 통한 번역 스타일 최적화 실습

요약

MIT CSAIL은 최근 Qwen3.5-0.8B 모델의 뉴런 일부를 수정하여 수학 문제 해결 루프 문제를 해결하고 성능을 개선한 '웨이트 스페이스 프로그래밍(weight-space programming)' 사례를 공개했다. 이에 영감을 받은 한 개발자는 직접 Gemma 4 12B 모델의 뉴런 8개를 Claude로 수정하여 이탈리아어 시제 번역 방식을 변경하는 실험을 진행했다. 기존 Gemma 4 모델은 특정 과거 완료 시제 번역 시 사용자가 선호하지 않는 표현을 자주 사용했으나, 모델 가중치 직접 수정을 통해 추가 학습 없이 번역 스타일을 조정하는 데 성공했다. 이번 사례는 거대언어모델의 가중치를 직접 제어하여 특정 태스크의 성능을 미세 조정할 수 있는 새로운 접근법을 실무적으로 보여준다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.