D3D实现异步扩散式推测解码
AI 总结
arXiv论文提出D3D,一种独立的扩散草拟器,通过分块去噪和辅助自回归监督解除连续草拟轮次之间的依赖。其工作不再依赖目标模型隐藏状态,因此可在验证进行时预草拟后续区块,并通过渐进式剪枝降低打包草拟成本。作者报告称,在七项基准测试中,以Qwen3-8B和Qwen3-32B为目标模型时平均解码加速分别达到5.00倍和5.71倍,在Qwen3-32B的GSM8K测试中达到7.48倍;这些数据仍为作者自述。
深度见解
D3D针对扩散式推测解码中的串行瓶颈提供了直接方案,r/LocalLLaMA分享还列出了六个公开的Qwen3衍生草拟检查点、剪枝变体、训练语料和代码。
Computer Science > Artificial Intelligence
arXiv:2611.06425 (cs)
[Submitted on 4 Nov 2026]
Title:D3D: Decoupled Diffusion Drafting for Asynchronous Speculative Decoding
Authors:Baoyou Chen, Ruiqiao Mei, Guancong Lin, Tao Song, Weihao Yuan, Qun Liu, Siyu Zhu
View a PDF of the paper titled D3D: Decoupled Diffusion Drafting for Asynchronous Speculative Decoding, by Baoyou Chen and 6 other authors