2. Envoy 数据面基础架构：Listener、Cluster、Endpoint、Filter 链、线程模型

Envoy 数据面是服务网格中处理所有进出流量的核心代理。理解其基础架构是排查容器网络缓存命中故障的前提。Envoy 采用 四层（L4）与七层（L7） 分离的架构，通过 Listener、Cluster、Endpoint、Filter 链 和 线程模型 五个核心概念构建出高性能、可观测的数据平面。

2.1 核心组件概览

2.2 Listener：流量入口

Listener 是 Envoy 接收外部流量的入口点。每个 Listener 绑定一个 IP:Port，并定义一组 Filter 链 来处理入站连接。Envoy 支持 TCP Listener（L4）和 HTTP Listener（L7），后者通过 HTTP 连接管理器（HCM）Filter 实现。

# 典型 Listener 配置片段（YAML）
listeners:
- name: ingress_listener
  address:
    socket_address:
      address: 0.0.0.0
      port_value: 8080
  filter_chains:
  - filters:
    - name: envoy.filters.network.http_connection_manager
      typed_config:
        "@type": type.googleapis.com/envoy.extensions.filters.network.http_connection_manager.v3.HttpConnectionManager
        stat_prefix: ingress_http
        route_config:
          name: local_route
          virtual_hosts:
          - name: backend
            domains: ["*"]
            routes:
            - match:
                prefix: "/"
              route:
                cluster: service_cluster
        http_filters:
        - name: envoy.filters.http.router

2.3 Cluster 与 Endpoint：上游服务抽象

Cluster 定义了一组逻辑上相同的上游服务实例，包含负载均衡策略（如 ROUND_ROBIN、LEAST_REQUEST、RING_HASH）、连接池参数、健康检查配置。Endpoint 是 Cluster 中的具体后端实例，通常由控制面通过 EDS（Endpoint Discovery Service）动态下发。

2.4 Filter 链：可插拔的处理管道

Filter 链是 Envoy 实现协议处理、路由、限流、日志、故障注入等功能的核心机制。Filter 分为 网络层 Filter（L4，如 TCP Proxy）和 HTTP 层 Filter（L7，如 Router、RBAC、Local Rate Limit）。Filter 按配置顺序依次执行，前一个 Filter 的输出作为后一个 Filter 的输入。

# HTTP Filter 链示例（顺序敏感）
http_filters:
- name: envoy.filters.http.local_ratelimit  # 限流在前
  typed_config:
    "@type": type.googleapis.com/envoy.extensions.filters.http.local_ratelimit.v3.LocalRateLimit
    stat_prefix: http_local_rate_limit
    _bucket:
      max_tokens: 100
      tokens_per_fill: 10
      fill_interval: 1s
    filter_enabled:
      runtime_key: local_rate_limit_enabled
      default_value:
        numerator: 100
        denominator: HUNDRED
    filter_enforced:
      runtime_key: local_rate_limit_enforced
      default_value:
        numerator: 100
        denominator: HUNDRED
- name: envoy.filters.http.router  # 路由在后

2.5 线程模型：无锁事件循环

Envoy 采用 主线程 + Worker 线程池 的模型，每个 Worker 线程拥有独立的 事件循环 和 连接池，线程之间通过 无锁消息传递 通信。这种设计避免了传统多线程模型中的锁竞争，大幅提升了并发性能。

2.6 线程模型对缓存故障的影响

• 连接不均衡： 如果 Worker 线程数设置不当（如过少），可能导致大量连接堆积在少数 Worker 上，造成 CPU 软中断不均衡，进而影响缓存请求的处理延迟。
• 连接池隔离： 每个 Worker 拥有独立的连接池，缓存后端的连接数上限是 Worker 数 × 单 Worker 连接池上限。如果连接池上限设置过低，可能导致缓存请求被排队或拒绝。
• 无锁优势： 在缓存命中场景中，无锁模型避免了多线程竞争缓存元数据，减少了上下文切换开销，提升了吞吐量。

2.7 数据面请求处理流程

一个完整的请求在 Envoy 数据面中的处理路径如下：

1. Listener 接收连接： Worker 线程从 Listener 的监听套接字 accept 新连接。
2. Filter 链处理： 连接经过网络层 Filter（如 TLS 解密、TCP Proxy），然后进入 HTTP 连接管理器（HCM）。
3. 路由匹配： HCM 根据请求的 Host、Path 等属性匹配 Virtual Host 和 Route，确定目标 Cluster。
4. 负载均衡： 从目标 Cluster 的 Endpoint 列表中，根据负载均衡策略选择一个 Endpoint。
5. 连接池获取连接： 从当前 Worker 线程的连接池中获取或创建到目标 Endpoint 的连接。
6. 转发请求： 将请求转发到上游 Endpoint，并等待响应。
7. 响应返回： 响应经过 Filter 链（如响应头修改、日志记录）返回给客户端。

2.8 故障排查要点