참고Reddit
Qwen3.8(큐원 3.8)-27B vs Gyro 모델 벤치마크: RTX 5060 Ti 기준 성능 비교
다양한 파생 모델의 프로그래밍 및 추론 성능을 실측한 데이터. 로컬 모델 선택 시 참고.
요약
최신 로컬 LLM인 Qwen3.8 기반 모델 3종(Qwen3.8-27B 3-bit, Gyro-S, Gyro-M)을 대상으로 프로그래밍, 게임 개발, 추론, 환각 탐지 등 100개 질문에 대한 벤치마크 테스트가 진행되었습니다. 테스트는 RTX 5060 Ti 16GB GPU 환경에서 'Max Thinking' 설정을 활성화한 상태로 수행되었습니다. 평가 결과, Qwen3.8-Flash-Next-Gyro-M 모델이 99/100점으로 가장 높은 정확도를 보였으나 속도는 16.7 tok/s로 가장 느렸습니다. 반면 Qwen3.8-27B 3-bit 모델은 95/100점의 준수한 점수와 함께 57.2 tok/s라는 가장 빠른 추론 속도를 기록했습니다. Qwen3.8-Flash-Next-Gyro-S 모델 역시 95/100점을 기록했으나, 속도는 25.6 tok/s로 나타났습니다. 로컬 LLM 운용 시 정확도와 처리 속도 사이의 트레이드오프를 고려한 모델 선택이 중요함을 시사합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Qwen3.8-27B 3-bit (IGNIS) vs. Gyro-S vs. Gyro-M — 100-question benchmark on an RTX 5060 Ti 16GB
원문 보기 ↗