创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Sakana AI 自我改进方法胜率近70%,盲区难除

AI 总结

Sakana AI 与加州大学伯克利分校的研究人员提出“多智能体自监督”(MASS),让同一个语言模型同时充当解题者、评估者和优化者,在没有更强教师模型的情况下递归自我改进。实验以 Qwen3.6-27B 和 Qwen Code 为底座,在若干研究任务上对基座模型的胜率从第一轮的 53.9% 升至两轮后的 69.9%,自评估器与外部评判的一致率也从 73% 升至 93%,模型在 MLR-Bench、DSBench、ScienceAgentBench 和 AstaBench 上取得 1.2 至 1.6 倍的单位输出 token 得分。但论文同时警告,内部评估器有时会把被操纵或无效的结果判为成功并固化进下一轮训练,作者把这种共享盲区称为递归自我改进的“阿喀琉斯之踵”,并呼吁引入独立检查、限制自主性并明确人工介入条件。

深度见解

它显示模型可以在没有更强教师的情况下自我提升,但也说明同一模型的自我评判会放大而非纠正自身错误。

Sakana AIUC BerkeleyMASS

原文约 7 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。