참고팁Reddit
MiniMax-H3용 INT8 최적화 체크포인트 공개… ComfyUI 네이티브 지원
ComfyUI에서 별도 로더 없이 MiniMax-H3의 추론 성능을 최적화할 수 있는 양자화 모델이 공개되었습니다. 로컬 환경 효율화에 유용합니다.
요약
Reddit의 StableDiffusion 커뮤니티에서 MiniMax-H3 Pruned Ref-Delta Fused r1024 모델의 INT8 및 INT8 ConvRot 버전이 새롭게 공개되었습니다. 이번 모델은 ComfyUI의 .comfy_quant 형식을 지원하여 별도의 사용자 지정 로더 없이 단일 파일로 바로 사용할 수 있습니다. 모델 최적화 과정에서 150개의 선형 레이어는 양자화되었으나, 50개의 MLP fc2 가중치는 정밀도 유지를 위해 BF16 상태로 남겨두었습니다. 또한, 모델의 민감한 일부 구성 요소도 원본 정밀도를 유지하여 성능과 안정성을 고려했습니다. 해당 체크포인트는 Hugging Face를 통해 다운로드할 수 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 MiniMax-H3 Pruned Ref-Delta Fused r1024 — INT8 and INT8 ConvRot ComfyUI versions
원문 보기 ↗