로컬 LLM 벤치마크: Qwen3.8(큐원 3.8) Flash-next vs Qrnith 122B 성능 비교

요약

한 Reddit 사용자가 Qrnith 122B와 Qwen3.8 Flash-next 모델을 로컬 서버에 구축하여 성능을 비교한 결과, 6.1 sol 모델이 가장 우수했으며 Qwen3.8 Flash-next가 그 뒤를 이었습니다. Qrnith 122B는 벤치마크 점수는 높게 제시되었으나, 실제 테스트에서는 Qwen3.8 Flash-next보다 낮은 성능을 보였습니다. 특히 Qrnith 122B는 10B 활성 파라미터를 사용하고 12개의 풀 어텐션 레이어를 처리해야 해 로컬 추론 속도가 느리고 비용 효율성이 떨어지는 것으로 나타났습니다. 반면 Qwen3.8 Flash-next는 6B 활성 파라미터와 QSA 스파스 어텐션 기술을 활용해 더욱 효율적인 연산이 가능합니다. 사용자는 결과적으로 비용 대비 성능이 낮은 Qrnith 122B를 서버에서 제외하고 Qwen3.8 Flash-next 위주로 운용할 계획입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.