麒麟9050系列支持30B MoE端侧运行
AI 总结
华为宣布,麒麟9050系列采用新一代达芬奇架构NPU,可在不联网、不等待云端的条件下端侧运行30B MoE大模型。华为称该NPU性能提升140%、功耗降低66%,并支持Transformer引擎、超低功耗感知引擎、CANN异构计算架构、多级存算协同优化及低比特量化。华为还列举了AI屏幕朗读、Xmage智拍2.0、AI眼动翻页和熄屏地图2.0等功能。
深度见解
这项官宣显示华为正将30B级MoE模型推理能力引入手机芯片,但性能提升和功耗降低数据仍属于华为主张,并由IT之家转述。