面壁开源 MiniCPM-V 4.7:35B MoE 上手机
AI 总结
面壁智能与 OpenBMB 于 10 月 13 日开源新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 与 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。据官方介绍,该版本基于 LES(前瞻专家调度)推理加速技术,在 iPhone 17 Pro Max 上仅占约 3GB 内存即可实现 13+ token/s 的解码速度,官方称其为首个可在端侧无损流畅运行的开源 MoE 模型。官方还表示,35B-A3B 在 Instruct 模式下以更短的推理时间取得高于 Qwen3.6 35B-A3B 的综合得分,1B 版本则在综合得分与推理效率上领先 Qwen3.5 0.8B。模型同时支持 iOS、安卓与鸿蒙,并适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台,面壁还同步开源了 Self-Replay Fine-Tuning(SRFT)微调方案。
深度见解
若官方数据成立,35B 级开源 MoE 能在手机本地流畅推理,将进一步降低端侧多模态应用的部署门槛。