Skip to content

第 1 章:接了向量库,为什么还是答不准 ​

把文档灌进向量库、检索几条塞进提示词——这是所有人做的第一版 RAG。也是所有人失望的第一版。


学习目标 ​

  • 能把"答不准"拆成五个环节里的具体问题,而不是笼统地说"效果不好"
  • 认识 RAG 每个环节的典型失效方式
  • 知道这一课要做出什么东西

1.1 三个真实的失败 ​

第一版 RAG 跑通那天,你会觉得它很聪明。第二天就会发现三种失败反复出现:

现象用户问法系统表现
检索不到"保修期多久"库里明明写着"三年质保",但召回的是"售后服务电话"
检索到却答偏"退款要几天"召回的片段里三种情况都有,模型只挑了最显眼的那种
答对了但没法信"这个参数是多少"说对了,但给不出出处,客服不敢用

这三种问题,分别坏在召回、组装、溯源。它们都不是"模型不够强"。


1.2 把 RAG 拆成五个环节 ​

一次回答,五道工序,每道都可能出错① 解析PDF / HTML / 扫描件双栏乱序、表格丢失② 切分按长度 / 按结构一句话被切成两半③ 召回向量 / 关键词 / 过滤意思到了,字没到④ 组装顺序 / 预算 / 去重关键那段排在第 8⑤ 生成引用 / 拒答编造出处失败时的样子,很好认:召回为空 / 全是无关片段先查 ① 解析和 ② 切分再查 ③ 的模型与阈值召回到相关片段,答案却偏先查 ④ 的片段顺序与预算再查 ⑤ 的提示词约束答案对,但给不出处 / 不敢用查 ⑤ 的引用机制:片段有没有带 id 和页码以及有没有"不知道就说不知道"的规则关键认识:RAG 的效果不是模型决定的,是这五道工序里最弱的那一道决定的。所以调优的正确顺序是:先量每一道工序,再改最弱的那一道——不是先换更大的模型。本课 12 章,就是把这五道工序一道一道做到能用。

五个环节对应的能力:

环节决定什么出问题的典型表现
解析原文有没有被正确读出来双栏 PDF 读成乱序、表格只剩数字
切分每段是否语义完整答案的后半句在另一段里
召回该出现的有没有出现明明有,却排在第 20 名
组装模型看到的上下文质量关键片段被截断或排在最末尾
生成答案是否忠于材料编造页码、把"大概"说成"确定"

1.3 一个定位表 ​

遇到"答不准",按这个顺序问自己:

先定位,再改。直接换模型是最常见的无效动作——它只会让"答得流畅"掩盖"答得不对"。


1.4 这一课要做什么 ​

做一个能给自己用的问答服务:把一个文档库(PDF/Markdown 混着)变成可以提问、并且每个结论都能点回原文的接口。

阶段章节产出
打地基2–3把文档读干净、切得语义完整
建索引4–6能召回、能重排,召回率可测
拼上下文7–9上下文预算、引用、多轮追问
让它可信10–12评估、成本、上线

技术栈刻意保守:Python + FastAPI + Qdrant + 一个 reranker,不引入任何编排框架。框架解决的是"怎么串",本课解决的是"为什么这么串"。

Lv4 的 Boss 项目 moqian-rag-assistant 就是这条线的成品,学到第 12 章你会有一个可以直接部署的版本。


1.5 怎么读 ​

  • 如果你已经有一版"能跑但不好用"的 RAG:直接从第 3 章切入,切分是收益最大的改动;
  • 如果还在选型:先读第 5、6 章,把召回和重排的账算清楚再决定用什么库;
  • 如果准备上线:第 10–12 章是验收清单,别跳。

本章小结 ​

要点说明
三个失败检索不到、检索到答偏、答对没出处
五个环节解析、切分、召回、组装、生成
效果上限由最弱那道工序决定
调优顺序先定位环节,再改那一段
本课产出一个带引用、可评估、能上线的 RAG 服务

下一章 ​

从最脏的一步开始:PDF 读进来为什么是乱的,以及怎么把它读对。

本文阅读--次|全站访问--次|访客--人