Qwen 3.8 27B 하드웨어별 최적화 벤치마크 공개… 성능 2~3배 향상

요약

Qwen 3.8 27B Dense 모델의 하드웨어별 토큰 생성 속도를 측정한 결과가 커뮤니티를 통해 빠르게 업데이트되고 있다. 최상위 성능을 보이는 RTX 5090 데스크톱은 144 tok/s로 기존 대비 120% 향상된 속도를 기록했다. RTX 4090은 75 tok/s, 3x 3090 텐서 병렬 구성은 96 tok/s를 달성하는 등 다양한 GPU 환경에서의 최적화 수치가 공개되었다. Ryzen AI Max APU와 Radeon 890M iGPU 또한 기존 대비 성능이 두 배가량 향상되는 결과를 보였다. 현재 커뮤니티 주도로 6가지 튜닝 규칙이 발견되었으며 관련 풀 리퀘스트(PR)가 지속적으로 병합되면서 실시간으로 속도 최적화가 이루어지고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.