ByteDance Seed paper ties DeepSeek long-context swings to KV-cache phase sensitivity
Per DoNews, ByteDance's Seed team posted an arXiv paper in late September 2026 arguing that "phase sensitivity" introduced by chunked KV-cache compression is the main driver of long-context retrieval fluctuations in DeepSeek-V4 series models. Covering open-weight models including DeepSeek-V4-Flash, V4-Pro and V4.1-Flash, the work says compression windows impose token phase coordinates, so the same information can be retrieved with accuracy differing by as much as 40 percentage points across phases — a periodic degradation that averaged benchmark scores tend to hide. The team calls for better cache-compression designs to improve long-context stability.
Why it matters: If it holds, long-context evaluation and deployment need to track phase-dependent stability, not just average benchmark scores.
![]()
![]()
首页快讯商业 消费游戏3C家电汽车文娱
体育专栏直播专题APP
DoNews>快讯>字节Seed团队揭示DeepSeek模型相位敏感性问题
字节Seed团队揭示DeepSeek模型相位敏感性问题
2026-10-09 09:03:03
5621
2026年9月底,字节跳动Seed团队在arXiv发布论文,指出分块KV缓存压缩技术引发的‘相位敏感性’是DeepSeek-V4系列模型长上下文检索性能波动的主因。研究覆盖DeepSeek-V4-Flash、V4-Pro及V4.1-Flash等开源模型,发现因压缩窗口引入Token相位坐标,导致相同信息在不同相位下检索准确率差异高达40个百分点。该现象造成周期性性能衰减,易被平均基准分数掩盖。团队呼吁优化缓存压缩设计以提升长上下文稳定性。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。
最新文章
商业 尊界回应制动踏板支架底座相关问题:提供免费升级选择 尊界汽车称制动踏板支架底座无实际断裂故障,但将免费升级该部件并复核设计验证与质量管理,以提升安全冗余。 杨亮 11小时前
商业 OpenAI一次性公开377项AI数学成果 OpenAI发布377项AI生成数学成果,涵盖多领域;响应AGMAI建议,承诺规范发布流程、提升质量与透明度。 杨亮 13小时前
关于我们| 电子协议| 合作联系| 京ICP备2025120072号
网站信息![]()
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号
联系地址:北京市海淀区宝盛东路兴华绿色产业楼3层307室(东升地区)
邮箱:[email protected]
网上有害信息举报专区: www.12377.cn
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号


获取验证码 获取验证码
登录
密码登录 >
验证码登录 >
#热门搜索
热门文章
最新文章
推荐文章
How we got here
- ByteDance Seed ties long-context swings to chunked KV cache 'phase sensitivity'AIbase AI新闻 · DeepSeek
- China's tech giants raise ~$56B in debt and equity to pre-buy AI capacity36氪 人工智能 · DeepSeek
- Study: Only 3.6% of 857 Chinese frontier AI releases disclosed safety resultsSemiAnalysis · DeepSeek
- UK ICO secures data protection changes from 10 AI developers, targets agentsThe Next Web · DeepSeek
- Zhipu's GLM release cycle is turning Chinese LLM makers into 'product-cycle stocks'36氪 人工智能 · DeepSeek
- Chinese gaming giants pour billions into AI, with NetEase and Tencent backing DeepSeek钛媒体 · DeepSeek

商业 谷歌云发布 Gemini Agent,定位“通用工作智能体” 谷歌云发布Gemini智能体,定位通用工作AI,支持问答、知识处理、内容生成、编程等,可作个人助理或团队成员,兼容多模型并提供API,现处私有预览。 杨亮 11小时前
商业 Liquid AI 发布 Open d1 系列:3B 模型实现零输出 token Liquid AI发布零输出token实时决策模型Open d1:d1-3B(多模态)与d1-omni-600M(文本+图像/音频)。 杨亮 14小时前
京公网安备11010802023059号