用 Token 日志核算每次请求成本
AI 总结
掘金 · 人工智能介绍开源脚本 cost_model.py,它结合结构化 Token 日志和可配置的模型价格表,计算总成本、平均每次请求成本及分模型成本。教程还涵盖预算阈值、适用于 CI 的退出码、模型与功能级归因,以及未配置价格的模型警告。示例输出使用合成日志和可配置价格表,另一次真实链路测试称 DeepSeek 档模型每次请求约为 0.001 元。
深度见解
单次请求成本归因能为 AI 功能定价、优化效果比较、成本突增定位和生产预算控制提供实用依据。
系列《AI 应用生产化手册》第 14 篇(共 30 篇)|配套开源项目:github.com/ChenYingbo/… 从本篇进入模块四:成本工程与 AI 网关——成本算得清,才谈得上优化(C02/C03)和采购治理(C04/C05)
一、先看问题:三个答不上来的问题
AI 应用上线后,老板/财务问的第一批问题,往往一个都答不上来:
- "这个月花了多少钱?"——只能翻云账单猜,猜完了也不知道花在哪个功能上。
- "每个请求平均多少钱?"——不知道就没法定价、没法判断某个功能"值不值得上"。
- "成本突然涨了,涨在哪?"——没有按模型/功能拆解,只能等月底对账,涨完才发现。
解法:成本模型——按模型价格表,从日志里的 token 用量算出每次请求、每个模型的成本,并对预算做告警。
核心认知:成本不是"月底账单",是"实时可观测的指标"。只有拿到「每请求成本」,你才能做三件事:定价(值不值)、优化(C02/C03 省在哪)、控制(预算告警在哪断)。