참고Reddit
Qwen3.8(큐원 3.8)-Flash-Next GGUF 최적화 모델 업데이트
전문가 가중치(expert weights) 최적화를 통해 로컬 추론 성능을 조정한 최신 GGUF 빌드.
요약
Reddit r/LocalLLaMA 커뮤니티에서 화제가 된 ISTA-DASLab의 Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF 모델이 업데이트되었습니다. 이번 업데이트는 모델 내에서 유지되는 전문가 가중치를 변경하는 데 중점을 두었으며, 이전 릴리스와 비교하여 유지된 전문가 선택의 약 25%가 변경되었습니다. 다만 베이스 모델인 IQ3_S의 가중치는 수정되지 않았습니다. 해당 모델은 제한된 전문가 예산 내에서 영어 성능을 우선적으로 보존하도록 설계되어 다국어 능력은 포함되지 않았습니다. 따라서 오직 영어 환경에서만 사용할 수 있는 모델임을 유의해야 합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF updated
원문 보기 ↗