참고팁Reddit
Generative UI 모델 미세조정: SFT 성능 저하 해결을 위한 자가 학습 기법
미세조정 시 성능 저하와 추론 속도 문제를 자가 학습(self-training) 루프로 해결한 구체적인 최적화 사례입니다.
요약
OpenUI 팀은 소비자용 GPU에서 작동하는 생성형 UI 모델을 개발하기 위해 DiffusionGemma 기반 모델을 실험하고 있습니다. 초기 LoRA 학습을 통해 학습 손실은 감소했으나, 오히려 모델이 깨진 컴포넌트 속성을 생성하는 등 벤치마크 성능이 저하되는 문제가 발생했습니다. 단일 컴포넌트 라이브러리로 학습을 개선했을 때는 구조적 유효성이 13%에서 28.8%로 상승했으나, 추론 속도가 1.6초에서 4.3초로 느려지고 생성 시간이 길어지는 부작용이 나타났습니다. 이를 해결하기 위해 연구진은 현재 모델로 프로그램을 생성하고, OpenUI Lang 파서로 유효한 출력을 선별한 뒤 결함만 수정하여 재학습하는 셀프 트레이닝 루프 방식을 도입했습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I'm fine-tuning a Open Weight model for Generative UI. SFT slowed it down; self-training fixed it.
원문 보기 ↗