텐센트, Qwen3.8(큐원 3.8)-27B 전용 스펙큘레이티브 디코딩 모델 'DSpine' 공개

요약

텐센트가 Qwen3.8-27B 모델을 위한 추론 가속용 드래프트 모델 DSpine을 11월 7일 허깅페이스에 공개했다. DSpine은 5개 레이어로 구성된 드래프트 모델로, 한 번에 16개의 토큰 블록을 병렬로 생성하며 각 레이어에서 인접 위치로 이전 토큰의 특징을 전달해 인과적 순서를 유지한다. SGLang 0.5.22, BF16, FlashAttention 3 환경에서 테스트한 결과, 기존 DFlash2 대비 GSM8K, MATH-500, HumanEval 등 주요 벤치마크에서 더 높은 수용 길이를 기록했다. 이 모델은 일반적인 디코딩 방식 대비 2.7~3.8배의 엔드 투 엔드 속도 향상을 제공하는 것으로 보고되었다. 현재 관련 논문과 코드는 GitHub(Tencent/DSpine)에 공개되어 있으며 라이선스는 Apache-2.0을 따른다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.