腾讯发布Qwen3.8 DSpine草稿检查点
AI 总结
腾讯在 Hugging Face 发布采用 Apache 2.0 许可证的 Qwen3.8-27B-DSpine-b16 检查点。这是一款拥有五层、20亿参数的草稿模型,块大小为16,滑动窗口为8,192个词元;模型卡称其可并行生成草稿词元,并在所列智能体基准中报告了最高达到自回归解码3.84倍的端到端吞吐。
深度见解
该检查点为 Qwen3.8-27B 提供了并行推测解码的具体实现,其吞吐结果为模型推理提供了一种值得关注的优化选项。
tencent/Qwen3.8-27B-DSpine-b16 Text Generation • 2B • Updated 5 days ago • 6.92k • 316
license: apache-2.0 base_model:
- Qwen/Qwen3.8-27B pipeline_tag: text-generation inference: false tags:
- dspine
- speculative-decoding
- draft-model
- sglang
DSpine for Qwen3.8-27B
DSpine generates draft tokens in parallel. Each layer passes predicted predecessor features to adjacent positions, carrying causal dependencies through network depth.
#Tencent#Qwen3.8-27B#Qwen3.8-27B-DSpine-b16#DSpine#SGLang#DFlash2#DSpark