第1章 本地缓存选型矩阵：缓存方案对比与边界决策
在微服务与云原生架构中，缓存是降低延迟、减少下游压力的核心手段。然而，“本地缓存 vs 分布式缓存”并非二元对立，而是一个需要根据数据一致性、访问模式、部署密度、内存预算四个维度权衡的选型问题。本章从架构边界、资源消耗、吞吐特性与适用场景四个维度给出结构化对比，并提供可落地的选型决策树。
1.1 本地缓存 vs 分布式缓存：整体对比
| 维度 | 本地缓存 | 分布式缓存 |
|---|---|---|
| 数据存储 | 每个进程/实例独立 | 集中或分片共享 |
| 一致性模型 | 最终一致（需主动失效） | 强一致/最终一致（取决于实现） |
| 延迟 | 纳秒级（堆内访问） | 毫秒级（网络往返） |
| 扩容方式 | 随进程水平伸缩 | 独立集群扩缩 |
| 管理复杂度 | 低（内嵌依赖） | 高（运维监控、网络分区） |
| 典型实现 | Caffeine, Guava, Ehcache | Redis, Memcached, Hazelcast |
架构建议：团队应优先考虑本地缓存 + 分布式缓存的两级结构。本地缓存处理高频、低变更的“热门数据”；分布式缓存用于跨进程共享和全局一致性。
1.2 内存占用评估与吞吐量对比
选型前必须量化峰值吞吐（QPS）与内存预算。下表给出三种典型方案的粗略参考值（基于 2019–2024 年生产数据综合）：
| 方案 | 单机吞吐 (QPS) | 单机内存 (万条目) | GC 影响 |
|---|---|---|---|
| 堆内本地缓存 (Caffeine) | 500万+ | 约200万（4GB堆，每条目约2KB） | 高（需频繁GC） |
| 堆外本地缓存 (Off-Heap) | 300万+ | 约800万（4GB直接内存） | 低（无堆内GC） |
| 分布式缓存 (Redis单实例) | 10万～20万 | 约500万（受网络和序列化影响） | N/A (独立进程) |
内存占用快速估算公式：
本地缓存堆内存 ≈ 条目数 × (键大小 + 值大小 + 额外开销约40字节)
本地缓存直接内存 ≈ 条目数 × (键大小 + 值大小 + 序列化头约80字节)
分布式缓存内存 ≈ 条目数 × (键大小 + 值大小 + Redis内部开销约200字节)
常见陷阱：许多团队仅凭“单机内存够”就选择本地缓存，忽略了GC停顿与冷启动“缓存击穿”。评估吞吐时必须考虑GC暂停带来的毛刺。
1.3 适用场景边界与选型决策树
决策树综合了数据一致性要求、访问热点分布、更新频率和跨进程共享需求四个因子。下方 SVG 给出了清晰的分支路径：
决策要点总结如下步骤：
- 第一步：数据一致性要求。若业务要求强一致性（如订单支付状态），必须选择分布式缓存（Redis+CAS）；否则继续。
- 第二步：跨进程共享需求。若多个服务实例需要共享相同的缓存数据（如用户会话），选分布式缓存；若每个实例独立处理自己的数据集，选本地缓存。
- 第三步：更新频率与写扩散。高频写入场景（如实时计数器）建议使用分布式缓存聚合写入，避免本地缓存频繁失效导致写扩散；低频读取（如配置表）可大胆使用本地缓存。
- 第四步：内存预算与GC容忍度。当预估堆内缓存超过堆总量的15%或GC暂停超过100ms，应转向堆外本地缓存或分片分布式缓存。
落地验收标准：
- 缓存命中率 ≥ 90%（本地缓存 + 分布式缓存之和）。
- P99 读取延迟 < 5ms（本地缓存 < 1ms，分布式缓存 < 10ms）。
- GC 暂停频率不高于每10分钟一次，且单次暂停 < 200ms。
- 冷启动预热时间 ≤ 60秒。