创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

智能体为何需要持久经验层

AI 总结

作者认为,当前模型虽能在思维链中反思并重新规划,却很难把一次任务中的教训带到下一次。其介绍了 LobeHub 的“自进化”功能:通过 Experience Layer 沉淀、验证和调用成功方法与失败经验,同时保持模型参数不变。

深度见解

文章把反思、验证与长期经验积累视为外部 Harness 的核心职责,而非模型参数自身的功能。

昨天发烧了,早上9点多醒了,实在睡不着,就只能出来溜溜。 路过文庙的时候看到墙上写着孔子的「君子三戒」: 「少之时,血气未定,戒之在色;及其壮年也,血气方刚,戒之在斗;及其老也,血气既衰,戒之在得。」 看到这个,我突然想到一个挺有意思的问题。 人类其实很习惯通过这些古训、格言反思自己的行为。前人把经历和教训总结下来,后来的人看到之后,也会重新审视自己的行为。 那为什么模型不可以呢? 现在的模型在CoT过程中,其实已经具备一定的反思能力了。 它能发现自己哪一步做错了,为什么失败,甚至重新规划出更好的路径。 但问题是,这些反思很难真正沉淀下来。 这次任务里想明白的事情,下次可能又忘了,踩过的坑还得重新踩一遍。

所以人类才发明了Skill让Agent去规避这这些问题。 那这样的解法其实不本质,或者说太低效了。 这也让我重新理解了,为什么今年七月份加入LobeHub之后我们开始做的「自进化」这个功能。 当时的思路是,让 Agent 在特定领域不断执行任务,把成功的方法和失败的教训沉淀到一个Experience Layer(经验层里。 后来发现,这套机制确实能解决一些之前很难处理的任务,比如过去可能需要人为编写大量 Skills、维护各种Memory,现在Agent 可以在执行过程中自己总结、验证、积累经验,逐渐形成稳定的能力。 人的思考和模型的推理,人的经验积累和Agent的经验沉淀,其实有很相似的地方。 那如果顺着这个思路,其实对于未来模型和Harness的分工变化趋势也变得更清晰了。 模型可以近似理解为System 1,负责当下的推理和生成;外部Harness则承担一部分System 2的工作,负责反思、验证,以及经验的长期积累和调用。

#LobeHub#Experience Layer

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。