2. Envoy核心架构：Listener、Cluster、Endpoint、Filter链、线程模型与事件驱动机制

Envoy 的架构设计围绕高性能代理与可扩展性展开，其核心组件包括 Listener、Cluster、Endpoint、Filter 链，以及底层的线程模型与事件驱动机制。理解这些组件是掌握 Envoy 缓存与性能调优的基础。

2.1 核心组件概览

Envoy 的配置模型由四个基本构建块组成，它们共同定义了流量的接收、处理与转发路径。

2.2 组件关系与数据流

下图展示了 Envoy 内部核心组件之间的数据流关系，从 Listener 接收请求到最终转发至上游 Endpoint。

2.3 Filter 链：可插拔的处理管道

Filter 链是 Envoy 最强大的扩展机制。它允许将多个 Filter 串联成一个处理管道，每个 Filter 负责一个特定的功能，如协议解析、路由、限流、缓存、日志记录等。

• L4 Filter（网络层）：工作在 TCP/UDP 连接级别，可以修改原始字节流、实现 TCP 代理、TLS 终止等。
• L7 Filter（HTTP/gRPC 层）：工作在 HTTP 流级别，可以访问和修改 HTTP 头部、Body、Trailer，实现路由、缓存、限流、故障注入等。
• Filter 匹配条件：通过 filter_chain_match 配置，可以根据 SNI、源 IP、协议等条件选择不同的 Filter 链，实现多租户隔离。

2.4 线程模型与事件驱动机制

Envoy 采用 单进程多线程 架构，每个工作线程（Worker）运行一个独立的事件循环（Event Loop），基于 libevent 实现非阻塞 I/O。这种设计避免了多线程锁竞争，同时充分利用多核 CPU。

2.5 事件驱动工作流程

下图展示了 Worker 线程内部的事件驱动循环，以及请求从接收到响应的完整生命周期。

2.6 连接池与负载均衡

Envoy 为每个上游 Cluster 维护一个 连接池，避免为每个请求创建新的 TCP 连接，从而降低延迟和资源消耗。连接池与负载均衡策略紧密配合，共同决定请求如何分发到 Endpoint。

• 连接池类型：
  • HTTP/1.1 连接池：每个连接一次只能处理一个请求（pipelining 可选）。
  • HTTP/2 连接池：多路复用，一个连接可同时处理多个请求。
  • TCP 连接池：用于 L4 代理，维护原始 TCP 连接。
• 负载均衡策略：
  • Round Robin：轮询，简单公平。
  • Least Request：选择当前活跃请求最少的 Endpoint，适合长尾请求场景。
  • Ring Hash：一致性哈希，用于会话保持。
  • Maglev：Google 的一致性哈希算法，负载分布更均匀。
  • Random：随机选择，适合大规模集群。

2.7 配置示例：核心组件声明

以下是一个简化的 Envoy 配置片段，展示了 Listener、Filter 链、Cluster 和 Endpoint 的声明方式。

static_resources:
  listeners:
  - name: listener_http
    address:
      socket_address: { address: 0.0.0.0, port_value: 8080 }
    filter_chains:
    - filters:
      - name: envoy.filters.network.http_connection_manager
        typed_config:
          "@type": type.googleapis.com/envoy.extensions.filters.network.http_connection_manager.v3.HttpConnectionManager
          stat_prefix: ingress_http
          route_config:
            name: local_route
            virtual_hosts:
            - name: backend
              domains: ["*"]
              routes:
              - match: { prefix: "/" }
                route: { cluster: service_cluster }
          http_filters:
          - name: envoy.filters.http.router
            typed_config:
              "@type": type.googleapis.com/envoy.extensions.filters.http.router.v3.Router

  clusters:
  - name: service_cluster
    connect_timeout: 0.25s
    type: STRICT_DNS
    lb_policy: LEAST_REQUEST
    load_assignment:
      cluster_name: service_cluster
      endpoints:
      - lb_endpoints:
        - endpoint:
            address:
              socket_address: { address: 10.0.0.1, port_value: 8080 }
        - endpoint:
            address:
              socket_address: { address: 10.0.0.2, port_value: 8080 }

2.8 性能调优关键点

基于 Envoy 的核心架构，性能调优可以从以下几个维度入手：