企业IT基础设施难以承载AI推理负载
AI 总结
TechRadar Pro 的一篇观点文章指出,企业 IT 架构仍以支撑模型训练为主,而推理正成为主导性工作负载。文中引用 IDC 数据称 2025 年全球 AI 投资超过 3000 亿美元,Deloitte 称推理已占算力约三分之二,McKinsey 预计到 2030 年推理将占数据中心总需求的 30% 至 40%。文章认为训练依赖集中式 GPU 集群与高速互联,而推理需要地理分布式算力、商用以太网与低延迟连接,二者需求几乎相反,同时自主智能体带来的突发多步调用会进一步放大网络压力。文中还引用 Gartner 预测到 2026 年底 40% 的企业应用将集成任务型智能体、IDC 预计到 2027 年智能体使用量增长十倍,以及 Gartner 调查中仅 28% 的 AI 用例完全达到 ROI 预期、20% 彻底失败。
深度见解
它提醒企业:在扩大 AI 部署前,需先按推理与智能体负载重建计算、网络与存储,否则投入可能难以转化为回报。