Envoy 基础架构：数据面架构与核心概念

在构建灾备缓存命中巡检体系之前，必须深入理解 Envoy 的数据面架构。Envoy 作为高性能 L7 代理和通信总线，其数据面负责处理所有实际流量。本章将拆解 Envoy 数据面的核心组件：Listener、Cluster 与 Endpoint，并阐明它们在灾备缓存场景中的协作关系。

Envoy 数据面架构概览

Envoy 数据面采用单进程-多线程模型，主线程负责配置管理与统计刷新，工作线程通过 L3-L4 网络过滤器和 L7 HTTP 过滤器链处理请求。数据面的核心抽象层包括：

• Listener：定义如何接收入站连接。
• Filter Chain：对流量进行解码、路由、限流、缓存判断等操作。
• Cluster：定义上游服务组及其负载均衡策略。
• Endpoint：Cluster 中的具体后端实例（IP:Port）。

Listener：流量入口与协议解码

Listener 是 Envoy 接收外部连接的入口点。每个 Listener 绑定一个或多个 IP:Port，并定义协议类型（TCP、HTTP、gRPC 等）。在灾备缓存场景中，Listener 通常配置为 HTTP 代理模式，用于解析请求中的缓存键（Cache Key）。

Cluster：上游服务抽象与负载均衡

Cluster 是 Envoy 对一组上游主机的抽象。它定义了如何发现端点、如何分发流量、如何进行健康检查。在灾备缓存架构中，通常至少存在两个 Cluster：

• 主缓存 Cluster：指向低延迟的主缓存集群（如 Redis 主从）。
• 灾备缓存 Cluster：指向跨地域或冷存储的灾备缓存集群（如 S3 或远端 Redis）。

Cluster 的核心配置参数直接影响缓存命中率与 RPO：

Endpoint：具体的缓存节点

Endpoint 是 Cluster 中的最小单元，代表一个具体的后端服务实例（IP:Port）。Envoy 通过 EDS（Endpoint Discovery Service） 或静态配置获取 Endpoint 列表。每个 Endpoint 可以携带元数据，用于区分主备角色。

# 静态 Endpoint 配置示例
static_resources:
  clusters:
  - name: primary_cache_cluster
    connect_timeout: 0.25s
    type: STATIC
    lb_policy: RING_HASH
    load_assignment:
      endpoints:
      - lb_endpoints:
        - endpoint:
            address:
              socket_address:
                address: 10.0.1.10
                port_value: 6379
          metadata:
            filter_metadata:
              envoy.lb:
                role: primary
  - name: dr_cache_cluster
    connect_timeout: 0.5s
    type: STATIC
    lb_policy: ROUND_ROBIN
    load_assignment:
      endpoints:
      - lb_endpoints:
        - endpoint:
            address:
              socket_address:
                address: 10.0.2.20
                port_value: 6379
          metadata:
            filter_metadata:
              envoy.lb:
                role: dr

Listener → Cluster → Endpoint 的协作流程

在灾备缓存命中巡检中，一次完整的请求路径如下：

1. Listener 接收请求：外部客户端向 Envoy 的 8080 端口发起 HTTP GET 请求，携带缓存键 /cache/user:123。
2. 过滤器链处理：HTTP 解码器解析请求，缓存命中判断过滤器检查本地缓存状态。若命中，直接返回；若未命中，进入路由阶段。
3. 路由至 Cluster：路由过滤器根据缓存键哈希，选择 primary_cache_cluster 或 dr_cache_cluster。
4. 负载均衡至 Endpoint：Cluster 根据负载均衡算法（如一致性哈希）选择一个具体的 Endpoint，转发请求。
5. 响应与统计：Endpoint 返回数据，Envoy 记录命中/未命中统计，并更新 RPO 相关指标。

核心概念在灾备缓存中的联合优化

理解 Listener、Cluster、Endpoint 的协作关系后，可以针对缓存命中率与 RPO 进行联合优化：