RTX 5090 환경 Qwen3.8(큐원 3.8)-Flash-Next 모델 양자화별 성능 벤치마크

요약

최근 한 사용자가 RTX 5090 환경에서 Qwen3.8-Flash-Next 모델의 3가지 변형(IQ3_XXS, IQ3_S, UD-IQ4_XS)에 대한 속도와 정확도를 테스트한 결과가 공유되었습니다. 테스트는 Strata 0.1.40 엔진과 Intel Core Ultra 7 270K Plus 프로세서, 128GB RAM이 탑재된 데스크톱 환경에서 진행되었습니다. 실험 결과, 4K 테스트에서 IQ3_XXS 모델이 가장 높은 중앙값 생성 속도를 기록했습니다. 하드웨어 환경은 NVIDIA RTX 5090(VRAM 32,607 MiB)과 CUDA 13.0을 기반으로 하며, GPU 전력 제한은 600W로 설정되었습니다. 이번 비교는 로컬 LLM 환경에서 모델 양자화 방식에 따른 성능 차이를 확인하려는 실무자들에게 유용한 데이터를 제공합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.