참고Reddit
Unsloth, Qwen3.6 NVFP4 양자화 최대 2.5배 가속…정확도 손실 없음
W4A4 4bit 텐서코어 활용. 로컬 Qwen3.6 구동 시 NVIDIA 기본 양자화보다 빠른 대안.
원문 제목 2.5x faster Qwen3.6 NVFP4 Unsloth quants
원문 보기 ↗W4A4 4bit 텐서코어 활용. 로컬 Qwen3.6 구동 시 NVIDIA 기본 양자화보다 빠른 대안.
원문 제목 2.5x faster Qwen3.6 NVFP4 Unsloth quants
원문 보기 ↗