Skip to content
Lv3向量数据库进度 5 / 7

第 5 章:混合检索与重排 ​

向量负责"意思像",关键词负责"字面准"。把它们的结果合起来,比任何一边单独用都稳。


学习目标 ​

  • 说清什么时候必须加关键词召回
  • 会用 RRF 融合两路排名,能自己算一遍验证
  • 知道重排模型解决的是什么问题、代价在哪
  • 定下召回 K、重排 N、最终 M 三个数

5.1 为什么要两路 ​

查询向量单独关键词单独混合
孩子发烧怎么办✅❌✅
订单 ORD-2024-8831❌ 容易飘✅✅
E1101 是什么错误⚠️ 可能召回泛泛的"错误处理"✅✅
退款要几天✅⚠️ 只匹配"退款"✅

规律很清楚:语义类问题靠向量,精确类问题靠关键词,真实流量里两者都有。


5.2 关键词那一路怎么做 ​

传统做法是 BM25:按词频和逆文档频率打分,本质是"这个词在这篇里有多重要"。

在 Qdrant 里有两条路:

  1. 稀疏向量:把 BM25 或 SPLADE 的权重做成稀疏向量(大部分维度是 0),和稠密向量存在同一个集合里,用 named vectors 区分;
  2. 外部检索引擎:Elasticsearch / Meilisearch 做关键词,Qdrant 做向量,应用层融合。

小团队建议走第 1 条:一个库、一次查询、少一个组件。

python
# 概念示意,字段名以实际客户端版本为准
client.create_collection(
    collection_name="books_hybrid",
    vectors_config={
        "dense": VectorParams(size=512, distance=Distance.COSINE),
    },
    sparse_vectors_config={
        "sparse": SparseVectorParams(),
    },
)

5.3 融合:RRF 为什么好用 ​

两路结果的分数体系完全不同——向量是 0–1 的余弦,BM25 是无上界的分数。直接加权相加要调权重,很难调。

RRF(Reciprocal Rank Fusion) 绕开了这件事:不看分数,只看排名。

score(d) = Σ 1 / (k + rank_i(d))

k 通常取 60,作用是压平"第 1 名和第 2 名"的差距,避免某一路的第一名一票独大。

同一个问题,两路召回,合成一个排名向量召回1 A 0.812 B 0.773 C 0.65关键词(BM25)1 B 12.42 D 8.13 A 5.9k=60融合后1 B 0.03252 A 0.03233 D 0.0161C 掉到第 4A = 1/61 + 1/63 ≈ 0.0323;B = 1/62 + 1/61 ≈ 0.0325;D = 1/62 ≈ 0.0161;C = 1/63 ≈ 0.0159两路都靠前的 B 略胜一路第一的 A —— 这就是 RRF 的价值:共识优先。它不需要调权重,代价是丢掉了分数里"差距有多大"的信息。

Qdrant 的 Query API 支持在服务端做融合(fusion 参数,可选 RRF 或 DBSF),也可以自己拿两路结果在应用层算。数据量小的时候,应用层算更直观。


5.4 重排:把"差不多相关"筛成"确实相关" ​

召回阶段的模型是双塔:问题和文档分别编码,再算相似度。快,但两者从没"见过面"。

重排用的是交叉编码器:把"问题 + 候选片段"拼成一个输入,让模型直接判断相关性。

召回(双塔)重排(交叉编码器)
计算方式各自编码后比相似度问题和文档一起过模型
速度毫秒级,可对上百万条每对都要算一遍,几十毫秒/对
精度够用明显更准
适合位置从全库里筛 20–50 条从 20–50 条里挑 3–5 条
python
from sentence_transformers import CrossEncoder

reranker = CrossEncoder("BAAI/bge-reranker-base")
pairs = [(query, c["text"]) for c in candidates]
scores = reranker.predict(pairs)
best = [c for c, s in sorted(zip(candidates, scores), key=lambda x: -x[1])][:3]

代价很直接:候选数 × 每对耗时。20 条 × 30 ms = 0.6 秒,已经吃掉大半延迟预算。所以重排的候选数一般不超过 30。


5.5 三个数要一起定 ​

参数典型值作用
召回 K20–50从全库捞多少条进候选池
重排 N20–30真正送进交叉编码器的条数
最终 M3–5拼进提示词的片段数

一条原则:K 要宽、N 要窄、M 要精。K 宽是为了不漏,N 窄是因为重排贵,M 精是因为提示词里塞太多反而稀释重点。


5.6 完整链路 ​


5.7 怎么知道改了有没有用 ​

别凭感觉。建一个小测试集就够:

  1. 从真实问题里挑 50 条,人工标出"哪几条片段是正确依据";
  2. 每次改参数跑一遍,算两个指标:
指标含义关注点
recall@5前 5 条里包含正确片段的查询占比召回够不够
MRR第一个正确片段排在第几位的倒数平均排得准不准

没有测试集时,退而求其次:固定 10 个典型问题,每次改完人工看一遍前 3 条。比不看强得多。


本章小结 ​

要点说明
两路分工向量管语义,关键词管精确串
稀疏向量在 Qdrant 里用 named vectors 存,省一个组件
RRF只看排名不看分数,1/(60+rank) 求和
重排交叉编码器逐对打分,准但贵
三个数K 宽(20–50)、N 窄(20–30)、M 精(3–5)
评估50 条测试集 + recall@5 / MRR

下一章 ​

链路完整了,但"用哪个库"还没定。下一章把 Qdrant、Milvus、pgvector、Chroma、Redis 放在一起比,说清各自什么时候该被选。

本文阅读--次|全站访问--次|访客--人