后摩智能开源M50全栈AI软件栈
AI 总结
在10月14日的生态合作伙伴大会上，后摩智能宣布将整套AI生态软件栈全面开源，覆盖模型量化编译、推理框架与算子库、领域套件与中间件、部署运维四层，分三批上线，到明年1月共15个开源项目陆续发布，其中包含对llama.cpp和vLLM的适配版；GitHub上已可看到postmo-modelzoo、postmo-quantflow、vllm-postmo等仓库。公司称M50芯片量产不到一年，已有150多款终端产品确定采用、合作客户破百，包括联想300克AI主机P7（最高48GB LPDDR5/5X、断网跑1220亿参数模型、每秒输出50 Token）、长城N90 Pro笔记本（银河麒麟V11、完全断网运行35B模型）以及绿联HomeAgent HA100 Pro等。后摩还称其基于SRAM的存算一体方案可把芯片面积减少约七成、功耗降至约十分之一，并称M50是国内唯一适配主流操作系统与CPU架构的高算力端边AI芯片。
深度见解
端边AI落地的门槛主要卡在模型适配与调优；把整条工具链开源，能让中小团队复用已有的工程经验，而不必每个项目从头摸索。