참고팁X
MiniMax-H3 텍스트 인코더 NVFP4 양자화 버전 공개: 16GB VRAM에서 구동 가능
MiniMax-H3의 텍스트 인코더를 26.4GB에서 15.7GB로 경량화하여 단일 16GB GPU에서 운용 가능. 고성능 비전 모델 로컬 실행 시 VRAM 효율화에 유용.
요약
X 사용자 Tono_Ken3가 언센서드(Uncensored) 버전의 MiniMax-H3 텍스트 인코더를 NVFP4 포맷으로 재양자화하여 공개했다. 이번 재양자화를 통해 모델 용량은 기존 26.4GB에서 15.7GB로 대폭 축소되었다. 최적화된 덕분에 16GB VRAM을 갖춘 단일 그래픽 카드에서 구동이 가능하며, 실제 측정된 피크 VRAM 사용량은 9.9GB 수준이다. 해당 인코더는 Comfy-Org의 공식 NVFP4 인코더를 대체하여 바로 사용할 수 있다. 다만, 재양자화 과정에서 ConvRot 가중치를 미리 언로테이트(un-rotate)하지 않을 경우 프롬프트와 무관한 결과가 출력될 수 있으므로 주의가 필요하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @Tono_Ken3: 🎬 Uncensored MiniMax-H3 text encoder, re-quantized to NVFP4. 📦 26.4 GB → 15.7 GB 🖥️ Runs on a single 16 GB card (peak 9.9 GB VR
원문 보기 ↗