创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

英伟达DSX POD瞄准14天部署AI工厂

AI 总结

英伟达宣布DSX POD模块化AI工厂参考设计,由合作伙伴在工厂预装计算、网络、布线和液冷管路,再运至客户现场。创业邦专栏称,该方案可在14天内上线,而此前周期约为半年;由合作伙伴正式交付的计划时间为2027年初。该专栏还分析了紧耦合超节点和标准化集成如何推动AI基础设施转向整机柜和Pod级交付。

深度见解

报道指出,AI基础设施的交付单位正由单台服务器转向预集成的整机柜和Pod。DSX POD的重要性在于把集成工作前置,并瞄准缩短客户现场的部署周期;不过,合作伙伴正式交付仍计划于2027年初开始。

编者按:本文来自微信公众号 “新眸”(ID:xinmouls),作者:李小东,创业邦经授权发布。

前几天,黄仁勋在柏林GTC的舞台上,身后是一块巨大的LED屏,展示着Vera Rubin机架的渲染图。

他宣布了一个叫DSX POD的东西——一种模块化的AI工厂参考设计,计算、网络、布线、液冷管路全部在合作伙伴的工厂里预装好,运到客户现场接上电和冷却,14天就能跑起来。此前,这个周期以半年计。

大模型训练对算力的需求,在过去两年里完成了一次不太引人注目但足够彻底的转向。千亿参数时代的经验是“加卡”,一张不够加八张,八张不够加一个集群。但当参数规模迈向万亿、MoE架构成为主流,跨节点通信的损耗开始吞噬线性堆卡带来的增益。

#NVIDIA#DSX POD#Vera Rubin NVL72#Huawei Ascend 960 SuperPoD#Alibaba Pangu AL128#Huawei UnifiedBus#Alibaba ICN Switch#ZTE OEX#China Academy of Information and Communications Technology#Dell#Supermicro#Quanta Computer

原文约 11 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。