英伟达开源 Nemotron 3.5 Super VL
AI 总结
英伟达于 10 月 15 日发布开放多模态模型 Nemotron 3.5 Super VL，采用 1200 亿总参数、120 亿激活参数的混合专家（MoE）架构，把推理、指令遵循与工具调用同文本、图像、文档和视频理解整合在同一个模型中，面向需要长时间运行的智能体。英伟达称其在单张 GPU 上执行智能体任务的吞吐量最高可达同规模其他开放模型的 5 倍（10 万 token 输入下输出超过每秒 600 token），在 CharXiv 图表推理基准上得分 80.8%，结合 Python 代码解释后为 84%，并支持 NVFP4 量化与多 token 预测；BF16 和 NVFP4 权重已在 Hugging Face 开放，vLLM 与 Baseten 同日提供支持。同时发布的两款 Nemotron 3.5 Bolt 边缘模型中，74B-A9B 24GB 通过原生 2 位量化装入 24GB 显存、可本地运行并已开放，E4B 4GB 计划 10 月 23 日推出。
深度见解
开放权重把视觉理解与智能体执行合入同一模型，企业可在自有数据上后训练并自行部署，减少对闭源前沿模型的依赖。