QuantWM缓解视频世界模型量化闪烁
哈尔滨工业大学（深圳）iLearn-Lab与新加坡国立大学LV-Lab的研究团队提出QuantWM，一种面向视频世界模型的免训练2-bit KV Cache量化框架。团队称，该方法通过查询敏感性感知聚类和低秩注意力补偿改善视频稳定性，并在五种模型上实现最高6.20倍的KV Cache压缩。
这项工作表明，常见视频评测指标可能无法充分反映低比特KV Cache量化造成的时序不稳定。
机器之心 2026-10-07 09:49 北京
评测分数不代表一切。
视频世界模型（Video World Model）需要生成连续画面，并在用户指定动作的控制下维持场景一致性。对于基于自回归生成的视频世界模型，KV Cache 中保存着历史画面，使得生成时能够检索并重复利用此前生成的相似场景。然而随着生成的不断进行，KV Cache 的显存成本十分高昂。例如 LingBot-World-v2 生成约 5 秒、93 帧的视频，KV Cache 就需要超过 21 GiB 显存。
将 KV Cache 量化到 2-bit 是缓解这一问题的重要方向，目前已有方法将 2-bit KV Cache 量化应用于自回归视频生成，并取得接近 BF16 的 VBench 评测表现。但研究团队发现，当将这些方法应用于视频世界模型时，即使评测分数几乎不变，生成画面仍可能出现明显的闪烁、模糊和细节失真。
#QuantWM#iLearn-Lab#Harbin Institute of Technology (Shenzhen)#LV-Lab#National University of Singapore#LingBot-World-v2#HY-World 1.5#Matrix-Game-2#LongCat-Video#Causal-Forcing#Quant-VideoGen#KIVI