阿里发布Qwen4-Max基座大模型
AI 总结
阿里巴巴发布Qwen4-Max,并宣称该模型拥有2.4万亿总参数、原生视觉能力和百万Token上下文窗口。该模型现已通过千问AI平台提供API服务,也可通过阿里Token Plan及多款千问应用调用;Qwen4系列中小尺寸模型也将陆续开源发布。
深度见解
Qwen4-Max以原生视觉、百万Token上下文和API服务进入Qwen产品线,为开发者评估新一代Qwen模型提供了直接可用的选择。
IT之家 11 月 16 日消息,阿里通义千问团队今日宣布推出新一代旗舰模型 Qwen4-Max,采用全新的 MoE(混合专家)架构,主干参数规模达到 2.4 万亿,原生支持视觉理解,并提供 100 万 Token 上下文窗口。
与此前 11 月 11 日先行开放的限时预览版不同,此次发布标志着 Qwen4-Max 作为正式版本接入千问 AI 平台,开发者可通过 Token Plan 或 API 调用。

Qwen4-Max 采用稀疏 MoE 架构,围绕 Attention、Residual 和 Embedding 三个层面做了系统性调整。每四层中三层使用 Gated DeltaNet 将历史信息压缩为固定状态,剩余一层以 Qwen Sparse Attention 按 block 粒度选择相关上下文,以降低长序列的注意力计算开销;Gated Residual 将残差流扩展为四条并行分支,增强跨层信息传递;N-gram Embedding 则在第二层以查表方式提供局部 token 模式表示,以较低额外算力扩展模型容量。