创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

苹果提出SSR:把智能体推理变为选择,单轮延迟降超90%

AI 总结

苹果机器学习研究团队发表论文《Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents》,提出“基于选择的结构化推理”(SSR)框架:把多模态智能体每步动作前的自由文本推理,改为从预先设定的可复用自然语言推理候选中挑选,模型依据当前上下文对候选打分即可,无需额外的任务头。由于推理轨迹是预先给定的,可用共享的上下文 KV cache 以 teacher-forcing 预填充方式并行计算各候选的 token 似然。作者称在七个多模态搜索基准上、使用 2B 与 4B 模型,并在多种强化学习目标与监督微调设置下,SSR 的任务成功率与同规模领先搜索智能体相当,单轮推理延迟降低逾 90%,每题模型总推理延迟降低 28%–54%。

深度见解

若效果可复现,这种“选择而非生成”的思路能显著压低小模型智能体的推理成本,为端侧与低成本多模态搜索智能体提供一条可行路径。

AppleApple Machine Learning ResearchCarnegie Mellon University

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。