模域ModelSphere开源生产级AI部署平台
AI 总结
10月16日，范式智能联合北京睿思智联科技有限公司宣布，一站式生产级AI部署平台“模域”（ModelSphere）正式上线，面向企业用户免费开源，采用Apache 2.0协议并已在GitHub发布。平台将算力管理、模型部署与运行优化整合到统一流程，提供图形化操作面板、预置部署能力、自动弹性扩缩容、PD分离部署、三级KV缓存、高可用负载均衡和服务断流自动续写，并内置AutoTune调优策略以缩短首次响应时间。官方称，系统极限吞吐效率较基准提升约285%、性能达到原来的4倍，这些数据来自厂商自述，未获独立验证；平台融合EngineX推理引擎，可统一调度华为昇腾、天数智芯、摩尔线程、海光DCU等国产算力，并已适配DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流模型。
深度见解
它把多芯片调度与生产级推理运维打包成开源方案，试图降低企业落地开源大模型的工程门槛。