RepForcing:表征空间初始化改进自回归视频蒸馏
AI 总结
该论文提出 Representation Forcing,用冻结视频扩散 transformer 的表征空间监督来学习少步因果初始化,取代中间教师轨迹回归,从而把预训练视频扩散模型蒸馏为少步自回归生成器;后续的非对称 DMD 流程保持不变。作者称在四步采样下,该方法在 DMD 之前比基于中间教师的初始化更好地保持生成质量,DMD 之后其四步分块模型相对所报告的因果 ODE 基线把 VBench Total 从 84.04 提升到 84.66,VisionReward 从 6.326 提升到 10.074(+59.25%)。论文以 arXiv:2610.20111 发布,作者为 Siming Fu、Zheming Fu、Lianrui Mu、Haoyang Huang、Chaojie Gu、Ruizhe He,提交日期为 2026 年 10 月 14 日。
深度见解
少步自回归视频生成是降低视频模型推理成本的重要方向,若该蒸馏改进可复现,或能简化训练流程。
Computer Science > Computer Vision and Pattern Recognition
arXiv:2610.20111 (cs)
[Submitted on 14 Oct 2026]
Title:RepForcing: Representation-Space Initialization for Autoregressive Video Distillation
Authors:Siming Fu, Zheming Fu, Lianrui Mu, Haoyang Huang, Chaojie Gu, Ruizhe He
View a PDF of the paper titled RepForcing: Representation-Space Initialization for Autoregressive Video Distillation, by Siming Fu and 5 other authors