第 5 章:混合检索与重排
向量负责"意思像",关键词负责"字面准"。把它们的结果合起来,比任何一边单独用都稳。
学习目标
- 说清什么时候必须加关键词召回
- 会用 RRF 融合两路排名,能自己算一遍验证
- 知道重排模型解决的是什么问题、代价在哪
- 定下召回 K、重排 N、最终 M 三个数
5.1 为什么要两路
| 查询 | 向量单独 | 关键词单独 | 混合 |
|---|---|---|---|
| 孩子发烧怎么办 | ✅ | ❌ | ✅ |
| 订单 ORD-2024-8831 | ❌ 容易飘 | ✅ | ✅ |
| E1101 是什么错误 | ⚠️ 可能召回泛泛的"错误处理" | ✅ | ✅ |
| 退款要几天 | ✅ | ⚠️ 只匹配"退款" | ✅ |
规律很清楚:语义类问题靠向量,精确类问题靠关键词,真实流量里两者都有。
5.2 关键词那一路怎么做
传统做法是 BM25:按词频和逆文档频率打分,本质是"这个词在这篇里有多重要"。
在 Qdrant 里有两条路:
- 稀疏向量:把 BM25 或 SPLADE 的权重做成稀疏向量(大部分维度是 0),和稠密向量存在同一个集合里,用 named vectors 区分;
- 外部检索引擎:Elasticsearch / Meilisearch 做关键词,Qdrant 做向量,应用层融合。
小团队建议走第 1 条:一个库、一次查询、少一个组件。
python
# 概念示意,字段名以实际客户端版本为准
client.create_collection(
collection_name="books_hybrid",
vectors_config={
"dense": VectorParams(size=512, distance=Distance.COSINE),
},
sparse_vectors_config={
"sparse": SparseVectorParams(),
},
)5.3 融合:RRF 为什么好用
两路结果的分数体系完全不同——向量是 0–1 的余弦,BM25 是无上界的分数。直接加权相加要调权重,很难调。
RRF(Reciprocal Rank Fusion) 绕开了这件事:不看分数,只看排名。
score(d) = Σ 1 / (k + rank_i(d))k 通常取 60,作用是压平"第 1 名和第 2 名"的差距,避免某一路的第一名一票独大。
Qdrant 的 Query API 支持在服务端做融合(fusion 参数,可选 RRF 或 DBSF),也可以自己拿两路结果在应用层算。数据量小的时候,应用层算更直观。
5.4 重排:把"差不多相关"筛成"确实相关"
召回阶段的模型是双塔:问题和文档分别编码,再算相似度。快,但两者从没"见过面"。
重排用的是交叉编码器:把"问题 + 候选片段"拼成一个输入,让模型直接判断相关性。
| 召回(双塔) | 重排(交叉编码器) | |
|---|---|---|
| 计算方式 | 各自编码后比相似度 | 问题和文档一起过模型 |
| 速度 | 毫秒级,可对上百万条 | 每对都要算一遍,几十毫秒/对 |
| 精度 | 够用 | 明显更准 |
| 适合位置 | 从全库里筛 20–50 条 | 从 20–50 条里挑 3–5 条 |
python
from sentence_transformers import CrossEncoder
reranker = CrossEncoder("BAAI/bge-reranker-base")
pairs = [(query, c["text"]) for c in candidates]
scores = reranker.predict(pairs)
best = [c for c, s in sorted(zip(candidates, scores), key=lambda x: -x[1])][:3]代价很直接:候选数 × 每对耗时。20 条 × 30 ms = 0.6 秒,已经吃掉大半延迟预算。所以重排的候选数一般不超过 30。
5.5 三个数要一起定
| 参数 | 典型值 | 作用 |
|---|---|---|
| 召回 K | 20–50 | 从全库捞多少条进候选池 |
| 重排 N | 20–30 | 真正送进交叉编码器的条数 |
| 最终 M | 3–5 | 拼进提示词的片段数 |
一条原则:K 要宽、N 要窄、M 要精。K 宽是为了不漏,N 窄是因为重排贵,M 精是因为提示词里塞太多反而稀释重点。
5.6 完整链路
5.7 怎么知道改了有没有用
别凭感觉。建一个小测试集就够:
- 从真实问题里挑 50 条,人工标出"哪几条片段是正确依据";
- 每次改参数跑一遍,算两个指标:
| 指标 | 含义 | 关注点 |
|---|---|---|
recall@5 | 前 5 条里包含正确片段的查询占比 | 召回够不够 |
MRR | 第一个正确片段排在第几位的倒数平均 | 排得准不准 |
没有测试集时,退而求其次:固定 10 个典型问题,每次改完人工看一遍前 3 条。比不看强得多。
本章小结
| 要点 | 说明 |
|---|---|
| 两路分工 | 向量管语义,关键词管精确串 |
| 稀疏向量 | 在 Qdrant 里用 named vectors 存,省一个组件 |
| RRF | 只看排名不看分数,1/(60+rank) 求和 |
| 重排 | 交叉编码器逐对打分,准但贵 |
| 三个数 | K 宽(20–50)、N 窄(20–30)、M 精(3–5) |
| 评估 | 50 条测试集 + recall@5 / MRR |
下一章
链路完整了,但"用哪个库"还没定。下一章把 Qdrant、Milvus、pgvector、Chroma、Redis 放在一起比,说清各自什么时候该被选。