1. 课程导论：容器网络缓存的重要性、Envoy数据面角色、资源配额对缓存的影响概述
1.1 为什么容器网络缓存是性能的关键
在微服务与容器化架构中，网络通信的延迟直接决定了端到端的响应时间。每一次服务间调用，数据包都需要经过宿主机内核协议栈、虚拟网络设备（如 veth pair）、iptables/ebpf 规则以及 Sidecar 代理。如果每次请求都重复执行完整的连接建立与协议解析流程，CPU 开销和延迟将不可接受。
网络缓存 的核心价值在于：
- 连接池复用：避免三次握手与 TLS 握手的重复开销。
- 连接空闲保活：减少因连接超时回收导致的突发建连。
- DNS 缓存：消除每次请求的 DNS 解析延迟。
- 响应数据缓存：对幂等请求直接返回缓存结果，降低上游负载。
关键指标：在生产环境中，连接池命中率每提升 10%，P99 延迟可降低 15-25ms；DNS 缓存未命中导致的额外延迟通常在 20-50ms 之间。
1.2 Envoy 数据面在缓存体系中的角色
Envoy 作为服务网格中事实标准的数据面代理，其缓存机制覆盖了 L3/L4 到 L7 的多个层次。在容器网络场景下，Envoy 并非简单的流量中转，而是缓存策略的执行者与状态管理者。
| 缓存层级 | Envoy 组件 | 作用范围 | 典型配置项 |
|---|---|---|---|
| 连接池 | Cluster / Connection Pool | 上游端点 | max_requests_per_connection, circuit_breakers |
| HTTP 连接复用 | HttpConnectionManager | 下游 → 上游 | http2_protocol_options, max_concurrent_streams |
| DNS 缓存 | Strict DNS / Logical DNS | 端点发现 | dns_refresh_rate, dns_failure_refresh_rate |
| 路由缓存 | Route Configuration | 请求匹配 | request_headers_to_add, metadata |
| 本地响应缓存 | Local Reply / Filter Chain | 故障注入/限流 | local_reply_config, rate_limit |
Envoy 数据面的缓存失效或命中率下降，往往表现为：请求延迟抖动、连接数暴涨、上游 P99 飙升。而这些问题的根因，经常与 资源配额 的配置不当直接相关。
1.3 资源配额对缓存影响的概述
Kubernetes 资源配额（Resource Quotas）与 LimitRange 是控制 Pod 级别资源使用的核心手段。当这些配额被错误配置或接近上限时，Envoy 数据面的缓存行为会发生显著劣化：
- CPU 配额不足：Envoy 的缓存清理与连接管理线程被节流，导致缓存过期检查延迟，连接池无法及时回收空闲连接。
- 内存配额不足：Envoy 的堆内存受限，连接池与 HTTP 流控缓冲区被频繁驱逐，缓存命中率急剧下降。
- 文件描述符限制：连接池无法维持足够的空闲连接，每次请求都需要新建连接，完全丧失复用效果。
- 连接数配额：Kubernetes 网络策略或服务网格的 circuit breaker 设置过小，导致连接池被截断，请求排队或直接拒绝。
常见误区：很多团队只关注 Envoy 的缓存策略配置（如连接池大小、超时时间），却忽略了底层资源配额对缓存实际运行状态的约束。资源配额是缓存命中的“硬边界”，配置不当会直接导致缓存策略失效。
1.4 缓存命中故障排查的总体思路
本课程将围绕以下核心路径展开：
- 指标采集：通过 Envoy 的 stats 接口、Prometheus 指标、Kubernetes Events 获取缓存命中率、连接池状态、资源使用量。
- 根因定位：区分是缓存策略配置问题，还是资源配额导致的被动失效。
- 实验验证：在测试环境中模拟资源配额不足，观察缓存命中率的变化曲线。
- 调优与加固：调整 Envoy 缓存参数、优化资源配额配置、引入自适应缓存策略。
1.5 课程目标与适用人群
| 角色 | 课程收益 |
|---|---|
| SRE / 运维工程师 | 掌握缓存命中故障的快速定位方法，减少故障恢复时间 |
| 平台架构师 | 理解资源配额与 Envoy 缓存之间的耦合关系，设计更健壮的网格架构 |
| 开发工程师 | 学会通过 Envoy 指标与日志分析缓存行为，优化服务调用性能 |
| 云原生初学者 | 建立容器网络缓存与资源配额的完整知识体系 |