第 10 章:上线:性能、可访问性与成本可见
最后一公里的三件事:跑得动、用得上、花得起。前九章做的是"能用",这一章决定"愿不愿意继续用"。
学习目标
- 找出对话页面真正的性能瓶颈,而不是盲目优化
- 让键盘用户和读屏用户也能用
- 处理移动端特有的三个问题
- 把 Token 消耗变成用户看得见的信息,而不是月底的账单
10.1 性能:四个真实瓶颈
| 瓶颈 | 表现 | 做法 |
|---|---|---|
| 长列表 | 300 条消息后滚动卡顿 | 虚拟化,只渲染可视区 |
| 重复解析 | 回答越长越慢 | 块级增量(第 5 章) |
| 包体积 | 首屏 3 秒以上 | 高亮器、图表库按需异步加载 |
| 内存 | 长时间使用后浏览器变卡 | 及时释放已结束的 AbortController 与 buffer |
tsx
// 高亮器按需加载,别进首屏包
const highlighter = await import("./highlight").then(m => m.create());一个容易忽视的点:流式过程中的字符串拼接是 O(n²)。每次 text + chunk 都会复制整个字符串,2000 字以上就明显。改法是用数组累积,渲染时再 join。
10.2 可访问性:四个必做
| 项 | 做法 |
|---|---|
| 焦点管理 | 生成开始把焦点留在输入框;错误出现时焦点移到错误条 |
| 键盘可达 | 停止/重试/复制都能 Tab 到,Enter/Space 触发 |
| 状态播报 | 用 aria-live="polite" 播报"回答已完成",不要播报每个片段 |
| 对比度 | 正文对比度 ≥ 4.5:1,占位文字别用浅灰 |
tsx
<div aria-live="polite" aria-atomic="false" className="sr-only">
{status === "done" ? "回答已完成" : ""}
</div>为什么不能逐字播报:读屏会把每个字都念一遍,等于噪音。只在"开始、完成、失败"三个节点播报。
10.3 移动端的三个坑
| 坑 | 表现 | 解法 |
|---|---|---|
| 软键盘弹起 | 输入框被顶出可视区 | env(safe-area-inset-bottom) + 滚动到可见 |
| 触屏滚动与跟随 | 用户一滑就被拽回底部 | 手指按下时暂停自动跟随 |
| 长按选择 | 想复制文字却触发了别的交互 | 消息区域允许文本选择,别全局禁选 |
css
.composer {
padding-bottom: calc(12px + env(safe-area-inset-bottom));
}10.4 成本可见
三个层次的成本展示:
| 层级 | 展示 |
|---|---|
| 单条 | 回答末尾小字:1.2k tokens · ≈ ¥0.008 |
| 单会话 | 会话头部:本轮累计 |
| 全局 | 设置页:本月用量、预算剩余 |
为什么要给用户看:按量计费的产品里,"不知道会花多少"是最大的使用阻力。让成本可见,反而会提升使用量。
统计口径一定写清:输入 token 与输出 token 通常计价不同,别只报一个总数。
一条回答的用量从哪来,也可以直接画给用户看:
四个来源里,历史消息与检索资料最容易被低估:多轮对话里它们会随轮次线性增长,而用户往往只盯着"回答有多长"。
10.5 如果改用 Vercel AI SDK
这一课刻意不用它,是为了让你先看清每一层在做什么。上生产时可以换成它——但要清楚它替换了什么:
| 本课手写 | AI SDK 里对应 | 你要自己保留的 |
|---|---|---|
| fetch + ReadableStream + SSEParser | useChat 内置传输 | 错误分类与重试策略 |
| parts 消息模型 | UIMessage + parts | 持久化与迁移 |
| 按帧合并更新 | 内部节流 | 滚动跟随与光标 |
| 工具三态 | 内置工具渲染钩子 | 卡片信息设计 |
| 中止 | stop() | 已生成内容如何保留与续写 |
建议:先用本课的方式写一遍最小可用版,再用 SDK 替换——这样它出问题时你知道该看哪一层。
SDK 的具体 API 与行为以其官方文档为准,版本迭代较快。
10.6 上线检查表
| 检查项 | 通过标准 |
|---|---|
| 停止 | 停止后内容保留、可续写 |
| 首字超时 | 有明确提示,不无限转圈 |
| 429 | 退避重试 + 倒计时 |
| 断网 | 输入禁用,恢复后自动续 |
| 长回答 | 2000 字不卡、代码高亮不闪 |
| 长列表 | 300 条滚动流畅 |
| 键盘 | 全流程可完成 |
| 播报 | 只在开始/完成/失败播报 |
| 移动端 | 键盘不遮输入框 |
| 成本 | 单条可见、会话可累计 |
| 埋点 | 有失败率、平均首字时延、平均轮次 |
最后一行最容易漏:没有埋点就没有优化依据。至少记录:请求数、失败分类、首字时延、平均回答长度。
10.7 从这一课到 Boss
Lv5 的 Boss 是 moqian-fin-lens「财报透视」(A 股年报 PDF → 可核对财务视图)。本课的每一层在那里都有对应:
| 本课 | 在 Boss 里的体现 |
|---|---|
| 流式接收 | 解析进度与结论边算边出 |
| Markdown 增量 | 指标解读与表格 |
| 工具调用卡片 | parse_pdf、compute_ratio 的执行过程 |
| 引用角标 | 每个数字点回原文页码 |
| 错误恢复 | PDF 过大、解析失败、限流 |
| 成本可见 | 一次分析用掉多少 token |
"每个数字可点回原文"这条,就是第 8 章那套引用链的落地。
本章小结
| 要点 | 说明 |
|---|---|
| 性能 | 长列表、重复解析、包体积、内存四瓶颈 |
| 字符串 | 别用 + 拼,用数组 join |
| 可访问性 | 焦点、键盘、三节点播报、对比度 |
| 移动端 | 安全区、软键盘、触屏暂停跟随 |
| 成本 | 单条 / 会话 / 全局三层可见 |
| SDK | 先手写再替换,清楚每层职责 |
下一章
本课结束。往下可以接 Lv6——回头解释"为什么这样设计有效",或者直接拿这套前端去接你的 Boss 项目。