字节Seed揭示DeepSeek长上下文相位敏感问题
AI 总结
据DoNews报道，字节跳动Seed团队于2026年9月底在arXiv发布论文，指出分块KV缓存压缩引入的“相位敏感性”，是DeepSeek-V4系列模型长上下文检索性能波动的主因。研究覆盖DeepSeek-V4-Flash、V4-Pro与V4.1-Flash等开放权重模型：压缩窗口带来Token相位坐标，使相同信息在不同相位的检索准确率相差最高40个百分点，形成周期性性能衰减，且容易被平均基准分数掩盖。团队呼吁优化缓存压缩设计，以提升长上下文稳定性。
深度见解
若该结论成立，评估长上下文模型时不能只看平均分，还需要关注随相位波动的稳定性。