创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

从8卡服务器到超节点:推理时代算力基建重构

AI 总结

在9月17日举行的2026 ITValue Summit数字价值年会上,超聚变算力领域副总裁王梁栋表示,AI已进入以推理为主的“干活”时代,全球Token消耗将持续爆发,算力竞争的衡量标准正从单卡峰值算力转向单位Token成本、集群吞吐与长期稳定性。文章援引多方数据:中国发展高层论坛2026年年会透露3月中国日均Token调用量突破140万亿,OpenRouter数据显示3月16日至22日中国占全球Token调用量的36%,摩根大通预计中国推理Token消耗五年增长约370倍,IDC预计2030年全球年Token消耗达15万Peta Token。作者认为万亿参数与高并发推理让传统8卡服务器范式遭遇卡间与机间通信瓶颈,华为昇腾960超节点(单节点4096卡、8E FP8算力)、联想万全异构智算平台V5.0与超聚变FusionPoD for AI整机柜方案成为新方向,但超节点仅适配大算力场景,互联技术路线尚未收敛,集群能否跑满仍取决于持续稳定的付费需求。

深度见解

算力投资的评价标准正从训练峰值性能转向单位Token成本与长期利用率,这会影响企业AI基础设施的采购与选型思路。

(本文作者为 硅碳变量,钛媒体经授权发布)

文|硅碳变量,作者|沈浪

9月17日,在2026 ITValue Summit数字价值年会上,超聚变算力领域副总裁王梁栋指出,伴随大模型能力加速演进,AI进入推理为主的“干活”时代,全球Token消耗将持续爆发,促使AI基础设施同步进化。

当下算力行业的竞争逻辑正在迭代,单纯依靠堆叠服务器和扩张硬件规模的粗放式发展路径,效用持续减弱。

随着AI重心从模型训练转向海量推理,算力基础设施正在经历底层变革,传统“堆硬件、扩规模”的建设思路,越来越难以匹配新阶段的产业需求。

Token的真实账单

Token不是噱头,是AI产业正在面对的真实账单。

#xFusion#Huawei#Ascend 960#Lenovo#CAICT#OpenRouter#IDC#JPMorgan

原文约 10 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。