昇腾首日适配Kimi K3.1 Pro推理部署
AI 总结
据IT之家援引华为计算公众号,华为昇腾已通过 vLLM Ascend 和 SGLang 完成 Kimi K3.1 Pro 首日推理适配。华为称,该模型可部署于昇腾 Atlas 800 A3、Atlas 900 A3 SuperPod 和昇腾 950 超节点,并针对稀疏注意力、百万级上下文及多模态推理进行了优化。Kimi K3.1 Pro 于2026年11月4日公布完整权重,规模为2.8万亿参数。
深度见解
首日适配为开发者提供了使用昇腾部署新发布 Kimi K3.1 Pro 的即时路径,相关框架和算子优化覆盖大模型长上下文推理与服务需求。
#Kimi K3.1 Pro#Huawei Ascend#Moonshot AI#vLLM Ascend#SGLang#Atlas 800 A3#Atlas 900 A3 SuperPod#Ascend 950