后摩智能公布2D/3D CIM双路线,A20已投产
AI 总结
后摩智能在10月14日首届生态合作伙伴大会上宣布,以SRAM-CIM为根技术布局2D CIM与3D CIM两条存算一体路线:前者面向高算力与存储容量需求(图像、视频生成、MoE等),后者面向稠密模型的高带宽需求,公司称与主流3D堆叠不同,其将底层Logic die升级为SRAM-Based CIM。公司同时公布芯片路线图:基于2D CIM的M30、M50已量产,首款3D CIM芯片A20已投产,号称算力利用率较上一代提升50%、最多支持16芯全互联;M6X系列在研,综合能力号称可达M50的3至6倍。后摩智能称M50量产不到一年获150余个产品定点、服务客户超百家,基于M50的联想AI主机P7可本地运行最高1220亿参数模型(整机190 TOPS、最大128K上下文、无网约50 Token/秒),更多细节将于10月24日发布会公布;其覆盖推理框架到ModelZoo的AI生态软件已开源。
深度见解
端边AI的竞争核心是功耗预算下的访存带宽,若双路线按计划落地,本地智能体的算力与带宽瓶颈有望缓解,但实际能效与量产表现仍待验证。