第 1 章:接了向量库,为什么还是答不准
把文档灌进向量库、检索几条塞进提示词——这是所有人做的第一版 RAG。也是所有人失望的第一版。
学习目标
- 能把"答不准"拆成五个环节里的具体问题,而不是笼统地说"效果不好"
- 认识 RAG 每个环节的典型失效方式
- 知道这一课要做出什么东西
1.1 三个真实的失败
第一版 RAG 跑通那天,你会觉得它很聪明。第二天就会发现三种失败反复出现:
| 现象 | 用户问法 | 系统表现 |
|---|---|---|
| 检索不到 | "保修期多久" | 库里明明写着"三年质保",但召回的是"售后服务电话" |
| 检索到却答偏 | "退款要几天" | 召回的片段里三种情况都有,模型只挑了最显眼的那种 |
| 答对了但没法信 | "这个参数是多少" | 说对了,但给不出出处,客服不敢用 |
这三种问题,分别坏在召回、组装、溯源。它们都不是"模型不够强"。
1.2 把 RAG 拆成五个环节
五个环节对应的能力:
| 环节 | 决定什么 | 出问题的典型表现 |
|---|---|---|
| 解析 | 原文有没有被正确读出来 | 双栏 PDF 读成乱序、表格只剩数字 |
| 切分 | 每段是否语义完整 | 答案的后半句在另一段里 |
| 召回 | 该出现的有没有出现 | 明明有,却排在第 20 名 |
| 组装 | 模型看到的上下文质量 | 关键片段被截断或排在最末尾 |
| 生成 | 答案是否忠于材料 | 编造页码、把"大概"说成"确定" |
1.3 一个定位表
遇到"答不准",按这个顺序问自己:
先定位,再改。直接换模型是最常见的无效动作——它只会让"答得流畅"掩盖"答得不对"。
1.4 这一课要做什么
做一个能给自己用的问答服务:把一个文档库(PDF/Markdown 混着)变成可以提问、并且每个结论都能点回原文的接口。
| 阶段 | 章节 | 产出 |
|---|---|---|
| 打地基 | 2–3 | 把文档读干净、切得语义完整 |
| 建索引 | 4–6 | 能召回、能重排,召回率可测 |
| 拼上下文 | 7–9 | 上下文预算、引用、多轮追问 |
| 让它可信 | 10–12 | 评估、成本、上线 |
技术栈刻意保守:Python + FastAPI + Qdrant + 一个 reranker,不引入任何编排框架。框架解决的是"怎么串",本课解决的是"为什么这么串"。
Lv4 的 Boss 项目 moqian-rag-assistant 就是这条线的成品,学到第 12 章你会有一个可以直接部署的版本。
1.5 怎么读
- 如果你已经有一版"能跑但不好用"的 RAG:直接从第 3 章切入,切分是收益最大的改动;
- 如果还在选型:先读第 5、6 章,把召回和重排的账算清楚再决定用什么库;
- 如果准备上线:第 10–12 章是验收清单,别跳。
本章小结
| 要点 | 说明 |
|---|---|
| 三个失败 | 检索不到、检索到答偏、答对没出处 |
| 五个环节 | 解析、切分、召回、组装、生成 |
| 效果上限 | 由最弱那道工序决定 |
| 调优顺序 | 先定位环节,再改那一段 |
| 本课产出 | 一个带引用、可评估、能上线的 RAG 服务 |
下一章
从最脏的一步开始:PDF 读进来为什么是乱的,以及怎么把它读对。