Create

Sign in to ReadmeX

or

How we handle your data: Privacy Policy

ReadmeX

Your AI reading companion

What would you like to catch up on?

Pick a briefing, or ask your own question.

Your community and people briefings stay personal to you.

Story

A case for persistent experience layers in AI agents

AI summary

An author argues that current models can reflect within chain-of-thought, but the lessons are rarely retained across tasks. The post describes LobeHub’s self-evolution feature as an Experience Layer where agents summarize, validate and accumulate successful methods and failures without changing model parameters.

In-depth insight

The post frames persistent reflection, validation and experience reuse as responsibilities of an agent’s external harness rather than only the model.

昨天发烧了,早上9点多醒了,实在睡不着,就只能出来溜溜。 路过文庙的时候看到墙上写着孔子的「君子三戒」: 「少之时,血气未定,戒之在色;及其壮年也,血气方刚,戒之在斗;及其老也,血气既衰,戒之在得。」 看到这个,我突然想到一个挺有意思的问题。 人类其实很习惯通过这些古训、格言反思自己的行为。前人把经历和教训总结下来,后来的人看到之后,也会重新审视自己的行为。 那为什么模型不可以呢? 现在的模型在CoT过程中,其实已经具备一定的反思能力了。 它能发现自己哪一步做错了,为什么失败,甚至重新规划出更好的路径。 但问题是,这些反思很难真正沉淀下来。 这次任务里想明白的事情,下次可能又忘了,踩过的坑还得重新踩一遍。

所以人类才发明了Skill让Agent去规避这这些问题。 那这样的解法其实不本质,或者说太低效了。 这也让我重新理解了,为什么今年七月份加入LobeHub之后我们开始做的「自进化」这个功能。 当时的思路是,让 Agent 在特定领域不断执行任务,把成功的方法和失败的教训沉淀到一个Experience Layer(经验层里。 后来发现,这套机制确实能解决一些之前很难处理的任务,比如过去可能需要人为编写大量 Skills、维护各种Memory,现在Agent 可以在执行过程中自己总结、验证、积累经验,逐渐形成稳定的能力。 人的思考和模型的推理,人的经验积累和Agent的经验沉淀,其实有很相似的地方。 那如果顺着这个思路,其实对于未来模型和Harness的分工变化趋势也变得更清晰了。 模型可以近似理解为System 1,负责当下的推理和生成;外部Harness则承担一部分System 2的工作,负责反思、验证,以及经验的长期积累和调用。

#LobeHub#Experience Layer

Original · 2 min readRead the original
Group chat

No comments yet. Start the conversation.