DoubtLess:免训练解码缩短推理链31%
AI 总结
一篇新的 arXiv 论文提出 DoubtLess,一种免训练的对比解码方法:用一个较小的推理模型在思维链(CoT)生成过程中引导大模型更简洁。小模型会对大模型当前的 CoT 读取两次,一次被提示为「简洁思考者」,一次为「冗长思考者」,两者 logit 向量之差按强度缩放后,在每一步加到 大模型的 logits 上。作者称,在竞赛数学、研究生水平科学与竞技编程等七个基准上,该方法使 Qwen3-32B 的 CoT 缩短 31% 且准确率不变,优于五个推理时基线;在自调试编程智能体中,每轮思考 token 减少 20% 而任务表现不变。
深度见解
如果这种免训练解码能稳定泛化,团队可以在不重训模型的情况下降低推理成本。
Computer Science > Computation and Language
arXiv:2610.18862 (cs)
[Submitted on 13 Oct 2026]
Title:DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning
Authors:Minghao Luo, Liang Chen
View a PDF of the paper titled DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning, by Minghao Luo and 1 other authors