字节Seed揭DeepSeek-V4长文本周期性盲区
AI 总结
字节跳动Seed团队联合普林斯顿大学、斯坦福大学和加州大学伯克利分校，对DeepSeek-V4、V4.1展开系统测试，在论文《周期性弱点：分块KV缓存压缩引发的相位敏感性》中提出“相位敏感性”现象：由于CSA采用窗口长度8、步长4的重叠滑动窗口压缩KV缓存，同一信息只要前后移动几个Token，检索结果就会大幅波动。128K长上下文“大海捞针”实验中，V4-Flash基座模型最好与最差位置组的检索准确率分别为69.92%和29.69%，相差40.23个百分点；后训练版V4-Flash-0731差距缩至19.14个百分点，V4-Pro基座与后训练版分别为34.77和14.84个百分点。文章称DeepSeek在V4.1-Flash中已把压缩步长从4降到2并引入Engram模块，落差收窄到6.1个百分点，但周期性并未完全消除。
深度见解
它指出长上下文评测只看平均分可能掩盖固定位置的失效，提示业界关注最差表现而不仅是总分。