참고팁Reddit
MiniMax H3의 32B 텍스트 인코더를 4B/8B로 대체하는 최적화 실험
고사양 텍스트 인코더를 경량 모델로 교체하고 리니어 맵을 통해 성능을 유지하는 기술적 실험 사례입니다.
요약
MiniMax H3 모델은 원래 32B 크기의 텍스트 인코더를 사용하여 프롬프트를 조건 텐서로 변환하는 데 15.7GB의 메모리를 필요로 합니다. 한 사용자가 이를 Qwen3-VL 4B 또는 8B 모델로 대체하고 학습된 맵을 추가하여 경량화하는 데 성공했습니다. 기존 32B 모델 대비 4B 및 8B 모델을 적용했을 때도 동일한 DiT, VAE, 샘플러를 사용하여 영상 생성 결과를 유지했습니다. 특히 오디오 출력 품질을 개선하여 기존 대비 음량 차이를 7.6dB에서 3.5dB로 줄여 음성 일치도를 높였습니다. 또한 선형 맵의 한계를 극복하기 위해 소형 잔차 네트워크를 추가한 결과, 프롬프트 추종 성능 지표가 0.7169에서 0.7944로 향상되었습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 MiniMax H3 with a 4B or 8B text encoder instead of the 32B: update, the voice matches now
원문 보기 ↗