2. 缓存失效策略概述：TTL、LRU、LFU、FIFO、随机淘汰策略的原理与适用场景

缓存失效策略决定了缓存系统在容量达到上限或数据过期时，如何选择被淘汰的数据项。不同的策略在命中率、计算开销、实现复杂度以及数据一致性保证上存在显著差异。本节将系统阐述五种主流失效策略的核心原理与典型适用场景。

2.1 策略分类与核心指标

失效策略可按照淘汰依据分为两类：

• 时间驱动：基于数据的存活时间（TTL）主动失效。
• 容量驱动：基于缓存空间不足时的被动淘汰（LRU、LFU、FIFO、随机）。

评估策略优劣的核心指标包括：

2.2 五种策略原理与适用场景

2.2.1 TTL（Time-To-Live，生存时间）

原理： 为每个缓存项设置一个绝对或相对过期时间。当系统读取缓存时，检查当前时间是否超过过期时间戳；若已过期，则视为失效并触发回源加载。TTL是唯一一种主动失效机制，不依赖缓存容量。

• 实现方式： 在缓存项中存储 expire_at 字段，后台可配合惰性删除（读取时校验）或定时扫描删除。
• 适用场景： 数据具有明确时效性的业务，如会话Session（30分钟）、验证码（5分钟）、新闻热点（1小时）、价格缓存（10分钟）。
• 优点： 实现简单，能保证数据最终一致性；可精确控制数据生命周期。
• 缺点： 无法应对缓存空间不足；过期时间设置过短会导致频繁回源，过长则数据陈旧。

2.2.2 LRU（Least Recently Used，最近最少使用）

原理： 淘汰最长时间未被访问的数据。基于“最近被访问过的数据，未来被访问的概率更高”的局部性原理。通常使用双向链表 + 哈希表实现：每次访问将节点移动到链表头部，淘汰时移除链表尾部节点。

• 实现方式： 标准LRU（O(1)访问）、LinkedHashMap（Java）、Redis的近似LRU（采样淘汰）。
• 适用场景： 通用型缓存，如用户画像、商品详情、API响应缓存。对大多数业务访问模式友好。
• 优点： 命中率高，能自动适应访问模式变化；实现成熟。
• 缺点： 抗扫描性差——一次全表扫描会清空热点数据；需要维护链表结构，内存开销略高。

2.2.3 LFU（Least Frequently Used，最不经常使用）

原理： 淘汰访问频率最低的数据。为每个缓存项维护一个访问计数器，每次命中时计数器+1，淘汰时选择计数最小的项。解决LRU中“一次扫描冲掉热点”的问题。

• 实现方式： 最小堆（O(log n)淘汰）、多级链表（如Redis的LFU实现，使用Morris计数器近似统计）。
• 适用场景： 访问模式长期稳定的场景，如CDN热点文件、数据库查询结果缓存、推荐系统特征缓存。
• 优点： 抗扫描性强；能长期保留高频热点数据。
• 缺点： 存在“缓存污染”——过去高频但当前不再访问的数据难以淘汰；计数器老化机制复杂；内存开销高于LRU。

2.2.4 FIFO（First In First Out，先进先出）

原理： 淘汰最早进入缓存的数据。使用队列实现，新数据插入队尾，淘汰时移除队首。完全不考虑访问频率或时间间隔。

• 实现方式： 循环队列或链表，O(1)淘汰。
• 适用场景： 数据访问模式均匀、无热点差异的场景；或作为二级缓存中的兜底策略。常用于消息队列中的去重缓存。
• 优点： 实现最简单，计算开销最低；公平性高，每个数据存活时间一致。
• 缺点： 命中率通常最低；无法区分热点与冷数据，可能导致高频数据被过早淘汰。

2.2.5 随机淘汰（Random）

原理： 当缓存满时，随机选择一个缓存项进行淘汰。不依赖任何元数据或访问历史。

• 实现方式： 使用随机数生成器选取索引，O(1)淘汰。
• 适用场景： 对命中率要求不高的场景；或作为基线策略用于对比测试；在数据量极大且访问模式完全随机时表现尚可。
• 优点： 实现极简，零元数据开销；无扫描攻击风险。
• 缺点： 命中率不可控，可能淘汰热点数据；不适合高价值缓存场景。

2.3 策略对比总览

2.4 失效策略选择决策流程

以下SVG图展示了从业务需求出发选择缓存失效策略的决策路径：

2.5 失效策略与缓存一致性

失效策略直接影响缓存与数据源之间的一致性窗口：

• TTL：提供确定性的一致性窗口。窗口大小 = TTL值。适合对一致性有明确SLA的场景。
• LRU/LFU/FIFO/随机：这些容量淘汰策略本身不保证一致性。当数据被淘汰后，下次访问会回源加载最新数据，从而被动修复一致性。但若数据在淘汰前已被更新，则存在陈旧数据风险。
• 组合策略：TTL + LRU 是最常见的组合。TTL保证数据不会无限期陈旧，LRU保证热点数据在TTL内尽可能不被淘汰。

2.6 实际应用中的策略组合