참고Reddit
DeepSeek 4.1(딥시크 4.1) Flash 8xB300 벤치마크: vLLM vs DeepInfer 성능 비교
최신 모델의 로컬 추론 성능을 가늠할 수 있는 600K tokens/s 처리량 테스트 결과 공유.
원문 제목 Over 600K tokens/s: DeepSeek 4.1 Flash on 8×B300, vLLM vs DeepInfer
원문 보기 ↗광고
promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.
15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공