微软发布第三代AI芯片Maia 300
AI 总结
微软于10月12日发布第三代自研AI芯片Maia 300，定位为微软产品与服务的“主要AI推理系统”，面向长上下文推理、低延迟对话和持续多步智能体任务。该芯片采用台积电N2P制程与芯粒架构，将计算、内存控制器和I/O分离，配备8堆栈HBM4、峰值带宽18TB/s、热设计功耗950W。微软云计算执行副总裁Scott Guthrie称，Maia 300每兆瓦可处理的Token数比领先的GPU系统高约40%，在96颗加速器的整机架配置下机架级Token吞吐量最高可达Maia 200的7倍；微软计划自2027年起将Azure Maia系列扩展至多吉瓦级部署。微软同时表示不会完全停止采购英伟达或AMD的GPU，训练等不同任务仍可能使用多种硬件，Maia 200目前已在Microsoft Copilot、GitHub Copilot和Microsoft Foundry等生产负载上运行。上述性能数据均来自微软自身介绍，尚待独立验证。
深度见解
这是微软把自研加速器推向推理主力地位的关键一步，可能降低其对英伟达GPU的依赖并改变云端AI推理的成本结构。