참고팁X
RTX 5090에서 Qwen 3.8(큐원 3.8) 27B 모델 700tps 실행 사례 화제
RTX 5090 환경에서 Qwen 3.8(큐원 3.8) 27B 모델이 700tps를 달성. 로컬 LLM 구동 시 하드웨어 최적화 지표로 참고.
원문 제목 @ashxhart: 🚨 I'VE DONE IT!!!!! Who wants ~700tps on a single 5090 Qwen 3.8 27B 🤯 https://t.co/Be129kPcbH
원문 보기 ↗