用函数调用实现可靠的结构化输出
AI 总结
这篇教程演示如何使用 LangChain 的 with_structured_output 搭配 Pydantic schema,将 LLM 的自由文本转换为经过校验的类型化对象。文章对比了函数调用、JSON mode 与 JSON Schema,并把结果接入 LangGraph state。作者同时指出,生产环境仍需补充重试、错误处理,并关注 schema 带来的 token 开销。
深度见解
对于需要将 LLM 输出直接交给下游程序处理的开发者,这套方法可减少手动清理代码围栏、解析字符串和逐字段检查的负担。
本系列用可运行的最小 demo 讲 LangGraph 实战。这是第 5 讲:让 LLM 稳定输出 JSON 的可靠做法——不是让它"输出 JSON",而是把"交卷"伪装成一次 tool call,用 Pydantic schema 当合同逼它返回合法、类型正确的对象。
TL;DR:直接让 LLM"输出 JSON"不可靠(markdown 代码围栏、废话、漏字段、类型漂移)。可靠做法是把"交卷"伪装成 tool call——model.with_structured_output(Schema) 一行,Pydantic schema 就是合同,返回类型化对象,零手工解析。
正文
§1 为什么「输出 JSON」不可靠
朴素"输出 JSON"不可靠——拿到的是字符串,json.loads 只保证"语法合法"、不保证"语义正确",字段、类型、枚举全无合同约束。