3. Envoy HTTP/2 连接管理：连接池、并发流限制、最大并发请求

在 Envoy 作为多租户网关或 Sidecar 代理时，HTTP/2 连接管理是保障租户隔离性与资源公平性的核心机制。Envoy 通过连接池复用、并发流上限和最大请求数三个维度，精细控制上游集群的连接行为。理解这些参数如何协同工作，是进行故障域隔离与流控调优的前提。

3.1 连接池架构与复用策略

Envoy 为每个上游集群维护一个独立的 HTTP/2 连接池。连接池的核心目标是减少 TCP 连接建立开销，同时防止单个租户的突发流量耗尽系统资源。连接池采用“按需创建、空闲回收”的策略，并支持以下关键配置：

3.2 并发流限制与流控机制

HTTP/2 的多路复用特性允许在单个连接上并行处理多个流（Stream）。Envoy 通过 max_concurrent_streams 参数控制每个连接上允许的最大并发流数量。当并发流达到上限时，新的请求会被挂起或排队，直到有流完成释放。

流控机制采用滑动窗口算法，接收方通过 WINDOW_UPDATE 帧动态调整窗口大小。Envoy 作为代理，需要同时处理下游（客户端到 Envoy）和上游（Envoy 到后端）两个方向的流控。当上游窗口耗尽时，Envoy 会暂停从下游读取数据，形成背压（Backpressure）传递。

3.3 最大并发请求与排队行为

Envoy 在连接池层面提供了 max_pending_requests 和 max_requests 两个参数，用于控制请求的并发上限和排队深度：

3.4 参数调优建议与多租户隔离

在多租户场景下，Envoy 的 HTTP/2 连接管理参数需要结合租户的流量特征和 SLA 进行差异化配置。以下是一组推荐的调优策略：

• 连接池大小： 对于高并发租户，适当增大 max_connections 和 max_requests；对于低流量租户，设置较小的上限以节省资源。
• 并发流限制： 如果后端服务处理能力有限（如数据库连接池较小），降低 max_concurrent_streams 可防止后端过载。
• 排队深度： 对延迟敏感的租户，设置较小的 max_pending_requests，让请求快速失败（503）而不是长时间排队。
• 窗口大小： 在带宽充足、延迟较高的网络环境下，增大 initial_stream_window_size 和 initial_connection_window_size 可提升吞吐量。