A case for persistent experience layers in AI agents
An author argues that current models can reflect within chain-of-thought, but the lessons are rarely retained across tasks. The post describes LobeHub’s self-evolution feature as an Experience Layer where agents summarize, validate and accumulate successful methods and failures without changing model parameters.
The post frames persistent reflection, validation and experience reuse as responsibilities of an agent’s external harness rather than only the model.
昨天发烧了,早上9点多醒了,实在睡不着,就只能出来溜溜。 路过文庙的时候看到墙上写着孔子的「君子三戒」: 「少之时,血气未定,戒之在色;及其壮年也,血气方刚,戒之在斗;及其老也,血气既衰,戒之在得。」 看到这个,我突然想到一个挺有意思的问题。 人类其实很习惯通过这些古训、格言反思自己的行为。前人把经历和教训总结下来,后来的人看到之后,也会重新审视自己的行为。 那为什么模型不可以呢? 现在的模型在CoT过程中,其实已经具备一定的反思能力了。 它能发现自己哪一步做错了,为什么失败,甚至重新规划出更好的路径。 但问题是,这些反思很难真正沉淀下来。 这次任务里想明白的事情,下次可能又忘了,踩过的坑还得重新踩一遍。
所以人类才发明了Skill让Agent去规避这这些问题。 那这样的解法其实不本质,或者说太低效了。 这也让我重新理解了,为什么今年七月份加入LobeHub之后我们开始做的「自进化」这个功能。 当时的思路是,让 Agent 在特定领域不断执行任务,把成功的方法和失败的教训沉淀到一个Experience Layer(经验层里。 后来发现,这套机制确实能解决一些之前很难处理的任务,比如过去可能需要人为编写大量 Skills、维护各种Memory,现在Agent 可以在执行过程中自己总结、验证、积累经验,逐渐形成稳定的能力。 人的思考和模型的推理,人的经验积累和Agent的经验沉淀,其实有很相似的地方。 那如果顺着这个思路,其实对于未来模型和Harness的分工变化趋势也变得更清晰了。 模型可以近似理解为System 1,负责当下的推理和生成;外部Harness则承担一部分System 2的工作,负责反思、验证,以及经验的长期积累和调用。