Workrun追查一句问候消耗5671个Token
AI 总结
Workrun开发者称,输入“你好,今天过得怎么样?”后,系统虽正常回复,却消耗了5,671个Token,因此开始追查智能体的隐性成本。文章介绍了在OpenTelemetry基础上接入Langfuse进行链路观测、拆分路由与任务执行、通过LiteLLM Proxy管理团队访问与用量归属,以及适配DeepSeek模型路径的JSON输出。开发者还提出,编排评估应同时考察路由正确性、产物可用性、验证状态、用量、耗时和修复次数,而不能只看Token总量。
深度见解
这则Workrun一手案例展示了如何用链路追踪、路由边界、模型网关和面向任务的评测,识别并治理AI智能体的隐性成本。
我原来觉得,Workrun 的对话入口应该有一个足够能干的主 Agent。
用户说什么,它先理解。普通问题自己回答,需要工具就调用工具,需要 Workflow 就交给规划 Agent,方案确认后再交给编排 Agent。复杂性留在内部,用户只面对一个输入框。
直到我发了一句:
你好,今天过得怎么样?
回复没有异常,Workrun 自带的用量统计却显示:5671 Token。
这个数字让我不太舒服。倒不是一次问候的费用有多高,而是我解释不了它。用户没有提出复杂需求,系统为什么要做这么多准备?如果连这笔账都说不清,后面继续加工具、加 Skill、加 Agent,我又凭什么判断成本是合理的?