创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

腾讯发布Qwen3.8 DSpine草稿检查点

AI 总结

腾讯在 Hugging Face 发布采用 Apache 2.0 许可证的 Qwen3.8-27B-DSpine-b16 检查点。这是一款拥有五层、20亿参数的草稿模型,块大小为16,滑动窗口为8,192个词元;模型卡称其可并行生成草稿词元,并在所列智能体基准中报告了最高达到自回归解码3.84倍的端到端吞吐。

深度见解

该检查点为 Qwen3.8-27B 提供了并行推测解码的具体实现,其吞吐结果为模型推理提供了一种值得关注的优化选项。

tencent/Qwen3.8-27B-DSpine-b16 Text Generation • 2B • Updated 5 days ago • 6.92k • 316


license: apache-2.0 base_model:

  • Qwen/Qwen3.8-27B pipeline_tag: text-generation inference: false tags:
  • dspine
  • speculative-decoding
  • draft-model
  • sglang

DSpine for Qwen3.8-27B

DSpine generates draft tokens in parallel. Each layer passes predicted predecessor features to adjacent positions, carrying causal dependencies through network depth.

#Tencent#Qwen3.8-27B#Qwen3.8-27B-DSpine-b16#DSpine#SGLang#DFlash2#DSpark

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。