vLLM 首日支持 Muse Spark Open
AI 总结
vLLM 宣布与 Meta Superintelligence Labs 合作，在模型上线当天（Day 0）为开放权重的稀疏 MoE 模型 Muse Spark Open 提供推理支持。据 vLLM 博客介绍，该模型总参数 816B、每 token 激活 42B，上下文长度达 1M，提供 BF16 与 NVFP4 权重（AMD 另发布 MXFP4），并通过与 Muse Glimmer 相同的 Perception Encoder 原生支持图像、视频以及额外的音频输入。vLLM 还配套了由 Inferact 训练的 DSpark 投机解码草稿模型，支持 NVIDIA、AMD Instinct MI355X 与 TPU，并给出 LoRA 强化学习方案：在 16 张 GB300 上用 GRPO 训练 150 步后，AIME-2024（mean@8）从 0.56 升至 0.85。
深度见解
首日即可用的推理与强化学习支持，降低了开发者试用这一大型开放权重模型的门槛。