它会悄悄欠费吗?——给"会上瘾烧钱"的 Agent 装个成本阀门
19 篇过后,你有了一台能限流、重试、熔断的 Agent 服务,看起来又稳又能扛。但有个问题你可能一直在下意识地回避:
Agent 每次干活,都在花真金白银(每次调 LLM = 按 token 计费)。你部署一版"更聪明"的 Agent,一夜醒来账单翻了几倍——而你毫无感知,因为它不痛不痒。Demo 里一次调一次无关紧要,生产里一天几千上万次调用,"一次忘了控成本 → 月末账单爆炸"刷爆上线第一课。
这一篇,给 Agent 加第二道被忽略的护栏:成本记账 + 预算熔断。它会:
- 把每一天的每一笔调用写进一个账本;
- 盯"今天花了多少、离预算还有多远";
- 逼近警示线时自动降级(比如输入减半、换更小/便宜的模型);
- 突破硬预算线时直接拒绝,返回兜底——不让它再花一分赌注的钱。
不调任何真 LLM,纯 SQLite 记账 + 判定,所以可放任何 Agent 前面,真跑验证。
从"每调一次就是花一笔钱"开始想
一个直觉模型:
- 每次输入
in_tok、输出out_toktokens → 计费in/1e6 *