참고팁X
DeepSeek V4 Flash, DGX Spark 2대 환경에서 115 tok/s 추론 성능 확인
2개 세션을 병합한 멀티 하드웨어 환경에서의 구체적인 추론 성능 사례로, 유사 인프라 구축 시 벤치마크로 참고할 것.
원문 제목 @MiaAI_lab: Still feels unbelievable sometimes. DeepSeek v4 Flash running on my 2× DGX Sparks at 115 tok/s, with 2 sessions aggregated. https:
원문 보기 ↗