创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

用 Token 日志核算每次请求成本

AI 总结

掘金 · 人工智能介绍开源脚本 cost_model.py,它结合结构化 Token 日志和可配置的模型价格表,计算总成本、平均每次请求成本及分模型成本。教程还涵盖预算阈值、适用于 CI 的退出码、模型与功能级归因,以及未配置价格的模型警告。示例输出使用合成日志和可配置价格表,另一次真实链路测试称 DeepSeek 档模型每次请求约为 0.001 元。

深度见解

单次请求成本归因能为 AI 功能定价、优化效果比较、成本突增定位和生产预算控制提供实用依据。

系列《AI 应用生产化手册》第 14 篇(共 30 篇)|配套开源项目:github.com/ChenYingbo/… 从本篇进入模块四:成本工程与 AI 网关——成本算得清,才谈得上优化(C02/C03)和采购治理(C04/C05)

一、先看问题:三个答不上来的问题

AI 应用上线后,老板/财务问的第一批问题,往往一个都答不上来:

  • "这个月花了多少钱?"——只能翻云账单猜,猜完了也不知道花在哪个功能上。
  • "每个请求平均多少钱?"——不知道就没法定价、没法判断某个功能"值不值得上"。
  • "成本突然涨了,涨在哪?"——没有按模型/功能拆解,只能等月底对账,涨完才发现。

解法:成本模型——按模型价格表,从日志里的 token 用量算出每次请求、每个模型的成本,并对预算做告警。

核心认知:成本不是"月底账单",是"实时可观测的指标"。只有拿到「每请求成本」,你才能做三件事:定价(值不值)、优化(C02/C03 省在哪)、控制(预算告警在哪断)。

#ai-prod-demo#cost_model.py#DeepSeek#GPT-5-mini

原文约 6 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。