创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

小米MiMo-V2.6公开规模化RL训练细节

AI 总结

小米MiMo团队10月8日发布技术报告《MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement》,披露两个稀疏MoE模型:MiMo-V2.6-Pro(总参数1.02T、激活42B)与MiMo-V2.6-Flash(总参数310B、激活15B)。报告称每个RL Step采样1568个Prompt、约2.5万条智能体轨迹、合计27亿至37亿Token,Pro的RL后训练成本约260万美元、Flash约90万美元。团队同时开源了7000多个RL环境、端到端RL框架及多Harness训练轻量框架。

深度见解

小米把RL的扩维对象从模型参数扩展到任务环境、Grader与Agent Harness,并公开了成本、故障与反Reward Hacking细节,为Agentic RL的可复现性提供了少见的完整样本。

10月8日,小米 MiMo 团队发布技术报告《MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement》。这篇报告披露了小米一套完整的规模化 Agentic RL 训练过程:通过同时扩大训练 Batch、任务环境与 Harness,以及用于评判 Agent 行为的 Grader Compute,来探索模型持续自我改进的路径。

此次发布包含 MiMo-V2.6-Pro 和 MiMo-V2.6-Flash 两个模型。其中,Pro 总参数量为 1.02T、每次推理激活 42B 参数;Flash 总参数量为 310B、激活 15B 参数。两者均采用稀疏混合专家(MoE)架构,并在文本主干中混合局部滑动窗口注意力(SWA)与全局注意力(GA)。

论文链接:

https://arxiv.org/pdf/2610.11959"

同时 Scale 了 Rollout、环境和 Grader

MiMo-V2.6 将强化学习算力拆成三个部分:Rollout、Grading 和 Training。

#Xiaomi#Xiaomi MiMo#MiMo-V2.6-Pro#MiMo-V2.6-Flash#Hugging Face#verl#mini-swe-agent#Codex#Claude Code#DeepSWE#Artificial Analysis

原文约 11 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。