Skip to content

第 8 章:成本控制与单位经济 ​

AI 产品最容易亏的地方不是定价太低,是"每次调用都在花钱,而你不知道一次是多少"。这一章把账单拆开,再装四道闸门。


学习目标 ​

  • 把月度账单拆成固定与变动两部分,知道哪部分会随用户增长爆炸
  • 用四道闸门(缓存、限额、限流、降级)把不可控的变动成本变成可控的
  • 算出单个用户的成本与毛利,知道盈亏平衡点在哪
  • 给 Boss 项目做一份能对得上的月度成本表

8.1 账单拆解 ​

类别项目特征
固定服务器、域名、对象存储基础费用、证书(免费但可付费)与用户量基本无关
半固定带宽(有阶梯)、备份存储随数据量增长
变动模型输入/输出 token、第三方 API、CDN 流量、短信与使用量成正比,最危险

关键在于分清:固定成本是可预期的,变动成本是会背叛你的。

举一个量级示例(数字是假设,用来算结构,不是报价;真实单价以各厂商官网为准):

text
每次对话:输入 1.5k token,输出 500 token
假设单价:输入 0.01 元/千 token,输出 0.03 元/千 token
每次成本 = 1.5 × 0.01 + 0.5 × 0.03 = 0.015 + 0.015 = 0.03 元

每月 1,000 次对话 ≈ 30 元
每月 100,000 次对话 ≈ 3,000 元   ← 服务器还是 100 元,模型账单涨了 100 倍

这就是 AI 产品成本结构的真相:服务器几乎是常数,模型调用是变量。所以省钱的主战场不在买更便宜的机器,在每一次调用。


8.2 四道闸门 ​

从外到内,四道闸门依次拦请求进来每一次都可能产生费用,闸门的作用是"在花钱之前拦住"① 限流按 IP / 用户 / 全局挡住刷接口与爬虫省的是"被滥用"的钱② 配额每用户每日/每月额度用尽给提示与升级入口省的是"重度用户"的钱③ 缓存同问题命中缓存直接返回结果缓存 + 检索缓存省的是"重复"的钱④ 降级小模型、少检索、短上下文高峰期限流式降级省的是"不必要精度"的钱闸门之后才是真正的模型调用理想情况下,落到模型那一层的请求量应该远小于进来的请求量四道闸门的顺序不能反:先限流(挡外面的人)→ 再配额(挡自己的重度用户)→ 再缓存(挡重复)→ 最后降级(挡贵的那次)。只做降级不做限流,等于"把贵的东西打折卖给刷子"。四道都做,成本就从"随流量线性爆炸"变成"有上界的曲线"。

四条落地要点:

闸门具体做法参数从哪来
限流Nginx limit_req,或应用内按用户计数从日志里算真实峰值 × 3
配额Redis 计数 user:daily:{date},每日重置从单用户成本 × 可接受毛利倒推
缓存问题规范化后做 key,命中直接返回看日志里重复率有多高
降级高峰切小模型 / 减少检索条数 / 截断历史写进代码开关,别现场改

缓存要注意:AI 回答带随机性,同问题缓存会牺牲多样性。做法是给用户一个"重新生成"按钮,明确绕过缓存。别悄悄返回旧答案。


8.3 配额怎么定 ​

图个省事的算法:

text
可接受的单用户月度成本上限 = 定价 × (1 - 目标毛利率)
每日额度 ≈ 上限 ÷ 30 ÷ 单次成本

例:定价 20 元/月,目标毛利 80% → 成本上限 4 元/月
    单次 0.03 元 → 每月约 133 次 → 每日约 4 次

这个数字往往比想象中小得多,所以真实产品通常做三件事:

  1. 免费额度很小(比如每天 3 次),先让人试;
  2. 付费档给更多,但仍有上限;
  3. 超额后不是直接拒绝,而是降级(用小模型继续答),体验和成本都保住。

8.4 单位经济:一个用户赚不赚 ​

text
单用户月成本 = 固定成本 ÷ 活跃用户数 + 该用户变动成本
毛利 = ARPU(每用户月收入) - 单用户月成本
盈亏平衡用户数 = 固定成本 ÷ (ARPU - 单用户变动成本)

用一个具体算例(假设值,仅示范算法):

项数值
固定成本100 元/月(服务器 + 域名 + 存储)
ARPU20 元/月
轻度用户变动成本0.6 元/月(20 次对话)
重度用户变动成本15 元/月(500 次对话)
100 个付费用户中 10 个重度变动成本 = 90×0.6 + 10×15 = 54 + 150 = 204 元
总收入2,000 元
总成本100 + 204 = 304 元
毛利率≈ 85%

关键洞察:平均成本看起来很低,但重度用户是亏钱的(15 元成本 vs 20 元收入,再摊固定成本后基本不赚)。这就是为什么"配额"不是限制用户,而是产品定价的一部分。

反过来说:如果你的定价是无限量,那重度用户会直接决定你的生死。


8.5 成本异常监控 ​

成本也要进监控(第 6 章那套):

指标告警条件说明
每日 token 消耗超过近 7 日均值 2 倍可能被刷或在跑批
单用户日消耗超过配额 1.5 倍配额逻辑可能失效
模型调用失败率突然升高可能是降级在起作用,也可能是配置错
月度累计费用达到预算 80%提前干预,而不是月底才发现

再配一条日志:每天凌晨把"昨日花费 + 昨日请求数 + 单次均价"推到群里。一行数字,比月末看账单有用得多。


8.6 一次请求的成本路径 ​

注意最后两步:记账与写缓存必须在返回之前完成,否则并发下额度会被击穿。


8.7 Boss 落地:一份能对得上的月度账 ​

给 moqian-fin-lens(财报透视)做一张这样的表,每月填一次:

项本月上月变化原因
服务器
对象存储(PDF 与备份)
模型输入 token
模型输出 token
其他 API
合计
请求数 / 活跃用户
单次成本 / 单用户成本
收入
毛利

填三个月,你会得到两个东西:一条真实的成本曲线,和一个**"该不该涨价/该不该加配额"的判断依据**。这比任何成本优化技巧都重要。


本章小结 ​

要点说明
账单固定几乎不变,变动随使用量爆炸
四道闸门限流 → 配额 → 缓存 → 降级,顺序不能反
配额算法从定价与目标毛利倒推每日次数
单位经济平均不亏,重度用户会亏
监控日消耗、单用户消耗、月度预算 80%
记账时机返回前完成,否则并发击穿额度
落地每月一张成本表,填三个月再决策

全课收尾 ​

八章走完,你的项目应该已经具备这些:

章留下的东西
1十二项上线清单
2一台配好的机器 + 六条安全基线
3域名、证书、反代配置
4可复现的镜像 + 安全的迁移顺序
5一条 push 即部署、失败可回滚的流水线
6九项监控清单 + 能到手机的告警
73-2-1 备份 + 一次真的恢复演练
8四道闸门 + 一张月度成本表

Lv5「全栈产品化」到这一步就闭环了:AI 对话前端解决"别人愿不愿意用",这门课解决"你用不用得起、出事扛不扛得住"。

本文阅读--次|全站访问--次|访客--人