참고Hacker News
MiMo v2.5 추론 최적화: 하이브리드 SWA 효율 극한 도전 사례 공유
슬라이딩 윈도우 어텐션 기반 추론 최적화 기법. 로컬 LLM 서빙 최적화하는 실무자 참고용.
원문 제목 Inference Optimization for MiMo v2.5: Pushing Hybrid SWA Efficiency to the Limit
원문 보기 ↗슬라이딩 윈도우 어텐션 기반 추론 최적화 기법. 로컬 LLM 서빙 최적화하는 실무자 참고용.
원문 제목 Inference Optimization for MiMo v2.5: Pushing Hybrid SWA Efficiency to the Limit
원문 보기 ↗