目标导向智能体从任务转向结果
AI 总结
一篇评论文章认为,AI 智能体设计正从分配离散任务转向委托结果与持续责任。在这种模式下,用户指定目标,智能体则将目标拆解为任务、更新任务列表,并持续朝目标推进。系统需要具备监测进度、获取人类反馈、在后台请求澄清、触发工作以及决定何时停止、暂停或不采取行动的机制。由于所需工具调用更难预测,开发者还需更严格地控制智能体可以使用哪些工具。相关的决策和反馈应跨运行保留并加以利用。
深度见解
这一转变会改变用户需要指定的内容、智能体承担的工作、系统的构建方式以及人与智能体的交互方式,使规划、后台澄清、反馈、触发机制、停止规则、工具治理和跨运行记忆成为智能体设计的核心。
As agents become more powerful, we’re moving from giving them tasks to giving them goals.
Tasks are:
- Write this email
- Draft this blog
- Fix this bug
Goals are:
- Reduce my coordination burden while keeping important commitments on track
- Maintain a blog
- Make this product successful
Under the hood, this move from tasks to goals consists of two more practical shifts: