第 6 章:会话与状态管理
界面卡不卡靠渲染,用得顺不顺靠状态。会话模型的形状,决定了"停止、重试、切换、恢复"这四件事能不能做对。
学习目标
- 设计一个能装下文本、工具、引用的消息模型
- 知道上下文该在哪一层裁,而不是让模型自己忘
- 让"切换会话时后台还在生成"这件事不串消息
- 会用 IndexedDB 存会话,并处理版本升级
6.1 消息模型
ts
type MessageStatus = "pending" | "streaming" | "done" | "aborted" | "error";
type Part =
| { type: "text"; text: string }
| { type: "tool"; name: string; status: "running" | "done" | "failed"; args?: unknown; result?: unknown }
| { type: "citation"; index: number; source: { title: string; url?: string; page?: number } };
interface Message {
id: string;
role: "user" | "assistant" | "system";
parts: Part[]; // 不用单个 content 字符串
status: MessageStatus;
createdAt: number;
error?: { code: string; message: string; retryable: boolean };
}为什么不直接用 content: string:一旦有工具调用和引用,字符串就要靠占位符拼,Markdown 渲染会把这几个占位符当正文。
6.2 五个状态各自意味着什么
| 状态 | 界面该做什么 | 数据该保留什么 |
|---|---|---|
pending | 显示"思考中"占位 | 空的 parts |
streaming | 增量渲染 + 光标 + 停止按钮 | 已收到的 parts |
done | 正常显示 + 复制/重试 | 全部 parts |
aborted | 显示"已停止"+ 继续生成按钮 | 已收到的 parts(不能丢) |
error | 错误说明 + 重试入口(区分能否重试) | 通常为空,或部分内容 |
aborted 是最容易被省略的状态,省略它的后果是:停止之后消息变成"done",用户无法"接着生成"。
6.3 上下文裁剪放哪一层
三条原则:
- 裁剪在前端或网关层做,不要在 Prompt 里写"请忽略前面的内容";
- system 提示永远保留,它定义角色与边界;
- 摘要要有标记:
[历史摘要] …,否则模型会把摘要当用户原话。
估算 token 的粗算法:中文约 1 字 ≈ 1 token 上下,英文约 4 字符 ≈ 1 token——这只是量级估算,真实值以模型 tokenizer 为准。
6.4 多会话:后台生成不能串
关键设计:生成任务属于会话,不属于组件。
ts
interface Conversation {
id: string;
title: string;
messages: Message[];
updatedAt: number;
// 正在进行的请求(不持久化)
controller?: AbortController;
}ts
// 切换会话:只是换"当前看哪一个"
const [activeId, setActiveId] = useState(convos[0].id);
// 生成中的会话即使不在前台,也会继续把片段写进自己的 messages
onChunk(convId, chunk);这样切换回来时,内容已经长好了,不会出现"切走就断、切回来从头开始"。
6.5 持久化:IndexedDB 而不是 localStorage
| 方案 | 容量 | 适合 |
|---|---|---|
| localStorage | 5MB 左右,同步阻塞 | 只存设置项 |
| IndexedDB | 大得多,异步 | 会话与消息 |
ts
import { openDB } from "idb";
const dbp = openDB("chat", 1, {
upgrade(db) {
const store = db.createObjectStore("conversations", { keyPath: "id" });
store.createIndex("updatedAt", "updatedAt");
},
});
async function save(c: Conversation) {
const { controller, ...persistable } = c; // 别把 AbortController 存进去
await (await dbp).put("conversations", persistable);
}两条纪律:
- 只存完成态:
streaming的消息存成aborted或丢掉,刷新后不要"假装还在生成"; - 版本升级要写迁移:
upgrade(db, oldVersion)里按版本补齐字段,否则老数据读出来是 undefined。
6.6 会话管理流程
写库要节流:每来一片就写一次 IndexedDB,会造成大量事务;每 1–2 秒或"停止/完成"时写一次就够。
6.7 三个常见错误
| 错误 | 后果 | 修法 |
|---|---|---|
| 状态存在组件 state | 切会话就丢、卸载就断 | 提到会话对象上 |
| 用数组下标当消息 key | 删除中间消息后错位 | 用稳定 id |
| 全量重写 history 数组 | 每次都复制大数组,卡 | 只替换目标消息 |
本章小结
| 要点 | 说明 |
|---|---|
| 消息模型 | parts 数组 + status + error |
| 五状态 | pending / streaming / done / aborted / error |
| 裁剪 | 保留 system + 最近 N 轮 + 摘要 |
| 多会话 | 任务挂在会话上,切走继续跑 |
| 持久化 | IndexedDB,只存完成态,写库节流 |
| 稳定 id | 不用数组下标当 key |
下一章
下一章处理"回答里不只有字"的情况:工具调用在界面上怎么显示三种状态。