참고팁X
Qwen 3.8 27B, RTX 5090 환경에서 200 tok/sec 성능 기록
27B급 모델임에도 최신 GPU 환경에서 초고속 추론 가능. 로컬 모델 서버 구축 시 참고.
원문 제목 @Hesamation: You can chill guys. Permanent underclass won’t be so permanent when you can run Qwen 3.8 27B on a single 5090 at 200 tok/sec. http
원문 보기 ↗