2. 缓存基础理论：缓存的定义、缓存命中与未命中、缓存淘汰策略（LRU、LFU、FIFO）

2.1 缓存的定义与核心价值

缓存（Cache）是一种将数据临时存储在高速存储层中的技术，目的是加速后续对相同数据的访问。在 OpenAPI 契约缓存场景中，缓存层位于 API 网关与后端服务之间，用于存储解析后的契约文件、权限策略或认证令牌。

2.2 缓存命中与未命中

缓存系统的两个核心状态决定了性能表现：

• 缓存命中（Cache Hit）： 请求的数据存在于缓存中，直接返回，延迟极低。
• 缓存未命中（Cache Miss）： 请求的数据不在缓存中，需要从原始数据源（后端服务、文件系统、数据库）重新获取，并写入缓存。

衡量缓存效率的关键指标是 命中率（Hit Ratio）：

命中率 = 缓存命中次数 / (缓存命中次数 + 缓存未命中次数) × 100%

在 OpenAPI 权限验证场景中，典型的命中率目标应 > 95%。低于此值时，缓存带来的性能收益会被频繁的未命中开销抵消。

2.3 缓存淘汰策略

当缓存空间达到上限时，必须移除部分旧数据以容纳新数据。不同的淘汰策略决定了哪些数据被优先移除，直接影响命中率。以下是三种最常用的策略：

2.4 三种淘汰策略的详细对比

2.4.1 LRU（最近最少使用）

LRU 假设最近被访问的数据在未来更可能被再次访问。实现时通常使用哈希表 + 双向链表，每次访问将节点移动到链表头部，淘汰时移除链表尾部节点。

# LRU 核心逻辑伪代码
def get(key):
    if key in cache:
        move_to_head(key)      # 移到链表头部
        return cache[key]
    return None

def put(key, value):
    if len(cache) >= MAX_SIZE:
        evict_tail()           # 淘汰链表尾部
    cache[key] = value
    add_to_head(key)           # 新节点加入头部

2.4.2 LFU（最不经常使用）

LFU 淘汰访问频率最低的数据。实现时需维护每个 key 的访问计数器，当缓存满时淘汰计数最小的 key。若多个 key 计数相同，则淘汰最久未访问的（LRU 作为次级策略）。

# LFU 核心逻辑伪代码
def get(key):
    if key in cache:
        increment_freq(key)    # 访问频率 +1
        return cache[key]
    return None

def put(key, value):
    if len(cache) >= MAX_SIZE:
        min_freq = find_min_freq()
        evict_lru_in_freq(min_freq)  # 在最低频率中淘汰最久未访问的
    cache[key] = value
    freq[key] = 1

2.4.3 FIFO（先进先出）

FIFO 按数据进入缓存的顺序淘汰，不考虑访问频率或最近访问时间。实现最简单，使用队列即可，但容易导致“缓存污染”——热点数据可能被冷数据挤出。

# FIFO 核心逻辑伪代码
def put(key, value):
    if len(cache) >= MAX_SIZE:
        oldest = queue.pop()   # 移除最早进入的 key
        del cache[oldest]
    cache[key] = value
    queue.push(key)            # 新 key 加入队列尾部

2.5 在 OpenAPI 缓存中的选择建议

基于 OpenAPI 权限验证的访问模式，给出以下选型建议：

• 默认选择 LRU： 大多数 API 网关的契约访问模式符合时间局部性——最近被调用的 API 路径在短时间内被再次调用的概率最高。
• 考虑 LFU 的场景： 当存在明显的“冷热”数据分层时（例如 20% 的 API 路径承载 80% 的流量），LFU 能更好地保护高频访问的契约缓存。
• 避免使用 FIFO： 在 OpenAPI 场景中，FIFO 容易导致热点契约被冷门契约挤出缓存，造成频繁的缓存未命中。
• 混合策略： 生产环境中可结合 TTL（Time-To-Live）使用，例如 LRU + 5 分钟 TTL，既保证热点数据常驻，又防止契约更新后缓存长期不失效。