第 8 章:成本控制与单位经济
AI 产品最容易亏的地方不是定价太低,是"每次调用都在花钱,而你不知道一次是多少"。这一章把账单拆开,再装四道闸门。
学习目标
- 把月度账单拆成固定与变动两部分,知道哪部分会随用户增长爆炸
- 用四道闸门(缓存、限额、限流、降级)把不可控的变动成本变成可控的
- 算出单个用户的成本与毛利,知道盈亏平衡点在哪
- 给 Boss 项目做一份能对得上的月度成本表
8.1 账单拆解
| 类别 | 项目 | 特征 |
|---|---|---|
| 固定 | 服务器、域名、对象存储基础费用、证书(免费但可付费) | 与用户量基本无关 |
| 半固定 | 带宽(有阶梯)、备份存储 | 随数据量增长 |
| 变动 | 模型输入/输出 token、第三方 API、CDN 流量、短信 | 与使用量成正比,最危险 |
关键在于分清:固定成本是可预期的,变动成本是会背叛你的。
举一个量级示例(数字是假设,用来算结构,不是报价;真实单价以各厂商官网为准):
text
每次对话:输入 1.5k token,输出 500 token
假设单价:输入 0.01 元/千 token,输出 0.03 元/千 token
每次成本 = 1.5 × 0.01 + 0.5 × 0.03 = 0.015 + 0.015 = 0.03 元
每月 1,000 次对话 ≈ 30 元
每月 100,000 次对话 ≈ 3,000 元 ← 服务器还是 100 元,模型账单涨了 100 倍这就是 AI 产品成本结构的真相:服务器几乎是常数,模型调用是变量。所以省钱的主战场不在买更便宜的机器,在每一次调用。
8.2 四道闸门
四条落地要点:
| 闸门 | 具体做法 | 参数从哪来 |
|---|---|---|
| 限流 | Nginx limit_req,或应用内按用户计数 | 从日志里算真实峰值 × 3 |
| 配额 | Redis 计数 user:daily:{date},每日重置 | 从单用户成本 × 可接受毛利倒推 |
| 缓存 | 问题规范化后做 key,命中直接返回 | 看日志里重复率有多高 |
| 降级 | 高峰切小模型 / 减少检索条数 / 截断历史 | 写进代码开关,别现场改 |
缓存要注意:AI 回答带随机性,同问题缓存会牺牲多样性。做法是给用户一个"重新生成"按钮,明确绕过缓存。别悄悄返回旧答案。
8.3 配额怎么定
图个省事的算法:
text
可接受的单用户月度成本上限 = 定价 × (1 - 目标毛利率)
每日额度 ≈ 上限 ÷ 30 ÷ 单次成本
例:定价 20 元/月,目标毛利 80% → 成本上限 4 元/月
单次 0.03 元 → 每月约 133 次 → 每日约 4 次这个数字往往比想象中小得多,所以真实产品通常做三件事:
- 免费额度很小(比如每天 3 次),先让人试;
- 付费档给更多,但仍有上限;
- 超额后不是直接拒绝,而是降级(用小模型继续答),体验和成本都保住。
8.4 单位经济:一个用户赚不赚
text
单用户月成本 = 固定成本 ÷ 活跃用户数 + 该用户变动成本
毛利 = ARPU(每用户月收入) - 单用户月成本
盈亏平衡用户数 = 固定成本 ÷ (ARPU - 单用户变动成本)用一个具体算例(假设值,仅示范算法):
| 项 | 数值 |
|---|---|
| 固定成本 | 100 元/月(服务器 + 域名 + 存储) |
| ARPU | 20 元/月 |
| 轻度用户变动成本 | 0.6 元/月(20 次对话) |
| 重度用户变动成本 | 15 元/月(500 次对话) |
| 100 个付费用户中 10 个重度 | 变动成本 = 90×0.6 + 10×15 = 54 + 150 = 204 元 |
| 总收入 | 2,000 元 |
| 总成本 | 100 + 204 = 304 元 |
| 毛利率 | ≈ 85% |
关键洞察:平均成本看起来很低,但重度用户是亏钱的(15 元成本 vs 20 元收入,再摊固定成本后基本不赚)。这就是为什么"配额"不是限制用户,而是产品定价的一部分。
反过来说:如果你的定价是无限量,那重度用户会直接决定你的生死。
8.5 成本异常监控
成本也要进监控(第 6 章那套):
| 指标 | 告警条件 | 说明 |
|---|---|---|
| 每日 token 消耗 | 超过近 7 日均值 2 倍 | 可能被刷或在跑批 |
| 单用户日消耗 | 超过配额 1.5 倍 | 配额逻辑可能失效 |
| 模型调用失败率 | 突然升高 | 可能是降级在起作用,也可能是配置错 |
| 月度累计费用 | 达到预算 80% | 提前干预,而不是月底才发现 |
再配一条日志:每天凌晨把"昨日花费 + 昨日请求数 + 单次均价"推到群里。一行数字,比月末看账单有用得多。
8.6 一次请求的成本路径
注意最后两步:记账与写缓存必须在返回之前完成,否则并发下额度会被击穿。
8.7 Boss 落地:一份能对得上的月度账
给 moqian-fin-lens(财报透视)做一张这样的表,每月填一次:
| 项 | 本月 | 上月 | 变化原因 |
|---|---|---|---|
| 服务器 | |||
| 对象存储(PDF 与备份) | |||
| 模型输入 token | |||
| 模型输出 token | |||
| 其他 API | |||
| 合计 | |||
| 请求数 / 活跃用户 | |||
| 单次成本 / 单用户成本 | |||
| 收入 | |||
| 毛利 |
填三个月,你会得到两个东西:一条真实的成本曲线,和一个**"该不该涨价/该不该加配额"的判断依据**。这比任何成本优化技巧都重要。
本章小结
| 要点 | 说明 |
|---|---|
| 账单 | 固定几乎不变,变动随使用量爆炸 |
| 四道闸门 | 限流 → 配额 → 缓存 → 降级,顺序不能反 |
| 配额算法 | 从定价与目标毛利倒推每日次数 |
| 单位经济 | 平均不亏,重度用户会亏 |
| 监控 | 日消耗、单用户消耗、月度预算 80% |
| 记账时机 | 返回前完成,否则并发击穿额度 |
| 落地 | 每月一张成本表,填三个月再决策 |
全课收尾
八章走完,你的项目应该已经具备这些:
| 章 | 留下的东西 |
|---|---|
| 1 | 十二项上线清单 |
| 2 | 一台配好的机器 + 六条安全基线 |
| 3 | 域名、证书、反代配置 |
| 4 | 可复现的镜像 + 安全的迁移顺序 |
| 5 | 一条 push 即部署、失败可回滚的流水线 |
| 6 | 九项监控清单 + 能到手机的告警 |
| 7 | 3-2-1 备份 + 一次真的恢复演练 |
| 8 | 四道闸门 + 一张月度成本表 |
Lv5「全栈产品化」到这一步就闭环了:AI 对话前端解决"别人愿不愿意用",这门课解决"你用不用得起、出事扛不扛得住"。