Skip to content

第 5 章:缓存三大问题 ​

穿透、击穿、雪崩,三个词经常被混着说。它们的成因完全不同,解法也不通用。


学习目标 ​

  • 一眼分清三个问题:一个 key、一个热 key、一批 key
  • 每个问题掌握两种解法,知道各自的代价
  • 会设计"缓存与数据库"的更新顺序,明白为什么推荐删而不是改
  • 能用一张决策图定位自己遇到的属于哪一类

5.1 先分清:一个、一个热的、一批 ​

三种故障,三种形状穿透查的数据根本不存在id=-1id=9999缓存没有 → 查库 → 库也没有每次都白跑一趟数据库特征:key 一直不存在解法:空值缓存 / 布隆过滤器击穿一个热点 key 突然失效hot:homepage(万人在读)失效瞬间,上万个请求同时回源数据库瞬间被压垮特征:单个热 key,瞬时并发解法:互斥锁重建 / 逻辑过期雪崩一大批 key 同时失效同一时刻集体过期,或 Redis 整体挂掉所有流量直接压到数据库特征:批量失效,系统性冲击解法:随机 TTL / 多级缓存 / 降级判断口诀:一个不存在的 key 是穿透,一个太热的 key 是击穿,一批同时没了是雪崩。三种都表现为"数据库 QPS 突增",光看监控分不出来,要看 key 的分布。

5.2 穿透:防"查不存在的东西" ​

攻击者用一个不存在的 id 反复请求,缓存永远不命中,每次都打到数据库。两个解法:

解法一:缓存空值

python
def get_book(book_id):
    key = f"book:{book_id}"
    cached = r.get(key)
    if cached == "NULL":          # 空值标记
        return None
    if cached:
        return json.loads(cached)

    book = db.query_book(book_id)
    if book is None:
        r.set(key, "NULL", ex=60)   # 短 TTL,别太长
        return None
    r.set(key, json.dumps(book), ex=600)
    return book

代价:如果攻击者每次换不同的 id,会写进大量空值 key,占内存。TTL 要短(30–60 秒),并且配合限流。

解法二:布隆过滤器

把所有存在的 id 放进布隆过滤器,请求先问它:

  • 它说"不存在" → 一定不存在,直接返回,不查库;
  • 它说"存在" → 可能误判,继续走正常流程。
python
# 伪代码示意:bf 可以用 RedisBloom 模块,也可以用 bitmap 自己实现
if not bf.exists(book_id):
    return None

代价:有误判率(通常 0.1%–1%),且不能删除元素。适合"只增不删"的 id 集合。


5.3 击穿:只让一个请求去重建 ​

热点 key 到期的那一刻,缓存为空,上万个并发请求同时发现"没有",一起冲进数据库。

解法一:互斥锁重建(最常用)

python
def get_hot(key, rebuild, ttl=600):
    val = r.get(key)
    if val:
        return json.loads(val)

    lock_key = f"lock:{key}"
    if r.set(lock_key, "1", nx=True, ex=10):     # 只有一个人拿到锁
        try:
            data = rebuild()                      # 回源
            r.set(key, json.dumps(data), ex=ttl)
            return data
        finally:
            r.delete(lock_key)
    else:
        time.sleep(0.05)                          # 等别人重建完
        return get_hot(key, rebuild, ttl)

要点:拿到锁的只有一个,其它请求短暂等待后重试。代价是那一瞬间部分请求延迟变高,但数据库不会被压垮。

解法二:逻辑过期

value 里自己带一个 expire_at 字段,Redis 层面不设 TTL(永不"消失")。读到数据发现逻辑上过期了,就返回旧值,同时异步起一个任务刷新。

  • 优点:没有等待,读永远快;
  • 缺点:会有一段时间返回旧数据,适合"能容忍短暂陈旧"的场景(比如首页推荐)。

5.4 雪崩:别让它们同时消失 ​

成因解法
大量 key 设了相同的 TTLTTL 加随机抖动:ex = 600 + random.randint(0, 120)
Redis 实例整体挂掉多级缓存(本地缓存兜一层)、哨兵/集群、限流降级
冷启动时缓存全空启动预热,或灰度放量

TTL 抖动是最便宜的一招,一行代码就能把"同时失效"摊成"分散失效":

python
ttl = base_ttl + random.randint(0, max(1, base_ttl // 10))
r.set(key, value, ex=ttl)

至于"Redis 整体挂了"——那不是缓存问题,是架构问题:本地缓存(进程内 LRU)能挡一层,限流能保住数据库不被打死,剩下的就是接受降级。


5.5 写路径:先删缓存还是先更库 ​

这是面试常问、线上常错的地方。结论先给:先更新数据库,再删除缓存(Cache Aside)。

顺序问题
先删缓存,再更新库删完到更新之间,有请求读库拿到旧值并回填,缓存里留下旧数据
先更新库,再删缓存极小概率下仍有并发窗口,但概率低得多

为什么是"删"而不是"更新"缓存?

  • 更新缓存要算新值,可能涉及多表,成本高;
  • 并发更新时,两个请求的更新顺序可能颠倒,缓存里留下旧值;
  • 删除是幂等的,删错了最多多查一次库。

如果业务要求更严,可以加延迟双删:更新库 → 删缓存 → 等几百毫秒 → 再删一次。第二次删是为了清掉窗口期被回填的旧值。

别忘了最后一道保险:TTL。所有一致性方案都有窗口,TTL 决定这个窗口最长有多久。


5.6 定位自己遇到的是哪一类 ​


本章小结 ​

问题形状解法代价
穿透一个不存在的 key空值缓存、布隆过滤器空值占内存 / 有误判
击穿一个热 key 失效瞬间互斥锁、逻辑过期少量请求变慢 / 短暂旧数据
雪崩一批 key 同时失效TTL 抖动、多级缓存、限流架构复杂度
写路径库与缓存的一致性先更库再删缓存 + TTL 兜底仍有极小窗口
判断依据看 key 的分布,不看 QPS 曲线——

下一章 ​

缓存的事基本讲完了。接下来处理另一类需求:多个进程要互斥地做一件事。这就是分布式锁,也是 Redis 原子性最集中的地方。

本文阅读--次|全站访问--次|访客--人