3. 缓存基础概念：Envoy 缓存类型与生命周期

在 Envoy 的灾备与高可用架构中，缓存是降低上游负载、提升故障切换速度的关键手段。Envoy 并非一个通用缓存代理，但其内部集成了三种核心缓存类型：路由缓存、DNS 缓存和 TLS 会话缓存。理解每种缓存的存储对象、生命周期和失效机制，是进行命中率巡检与调优的前提。

3.1 三种缓存类型概述

3.2 路由缓存（Route Cache）

Envoy 的路由引擎在收到请求时，会根据请求的 :authority、path、method 等头部匹配路由规则。路由缓存存储的是 匹配结果，即从路由表到目标 Cluster 的映射关系。该缓存由 Envoy 内部的路由表更新机制自动管理。

• 缓存键：请求的 Host、Path、HTTP Method 组合。
• 失效条件：当通过 xDS（如 RDS、VHDS）动态更新路由配置时，Envoy 会清空并重建路由缓存。
• 灾备意义：在灾备切换时，若路由规则发生变化（例如将流量切至备用集群），路由缓存会立即失效并重新填充，确保新路由规则即时生效。

3.3 DNS 缓存（DNS Cache）

当 Envoy 使用 STRICT_DNS 或 LOGICAL_DNS 集群类型时，会定期解析上游域名。DNS 缓存存储解析结果，避免每次健康检查或新建连接都触发 DNS 查询。

3.4 TLS 会话缓存（TLS Session Cache）

Envoy 作为反向代理与上游服务建立 TLS 连接时，会缓存会话参数以复用握手。TLS 会话缓存分为 服务端缓存（Envoy 作为 TLS 服务端）和 客户端缓存（Envoy 作为 TLS 客户端）。

• Session ID 缓存：基于 Session ID 的复用，由 Envoy 内部维护。
• Session Ticket 缓存：基于 Session Ticket 的复用，需要上游服务支持。
• 灾备意义：在灾备切换后，若上游集群 IP 发生变化，旧的 TLS 会话缓存会失效，导致新连接需要完整握手，增加延迟。

3.5 缓存生命周期与失效机制

三种缓存的生命周期管理遵循不同的失效策略，但都围绕 时间 和 事件 两个维度展开。

3.6 缓存命中率与灾备切换的关系

在灾备切换过程中，缓存命中率的变化是判断切换是否平稳的关键指标：

• 路由缓存命中率下降：可能意味着路由规则变更后，新规则尚未被请求触发填充，导致大量请求走慢路径。
• DNS 缓存命中率下降：切换后上游域名解析结果变化，旧缓存失效，新缓存尚未建立，导致 DNS 查询激增。
• TLS 会话缓存命中率下降：切换后上游 IP 变更，旧会话无法复用，新连接需完整 TLS 握手，增加延迟。

3.7 缓存配置示例（YAML）

以下是一个典型的 Envoy 配置片段，展示了 DNS 缓存和 TLS 会话缓存的关键参数设置：

static_resources:
  clusters:
  - name: upstream_cluster
    type: STRICT_DNS
    connect_timeout: 5s
    dns_resolution_config:
      dns_resolution_timeout: 10s
      dns_refresh_rate: 30s
      dns_failure_refresh_rate:
        base_interval: 5s
        max_interval: 30s
    upstream_connection_options:
      tls_session_cache_config:
        max_session_cache_size: 4096
        session_timeout: 3600s
    load_assignment:
      cluster_name: upstream_cluster
      endpoints:
      - lb_endpoints:
        - endpoint:
            address:
              socket_address:
                address: api.example.com
                port_value: 443