1. 课程导论：容器镜像缓存的重要性、低命中率的业务影响、Envoy在镜像分发中的角色
1.1 容器镜像缓存：云原生基础设施的“冷启动”命脉
在Kubernetes与容器化架构中，镜像拉取是Pod生命周期中最耗时的阶段之一。镜像缓存的核心价值在于：将远程仓库的镜像层数据持久化到本地节点或代理节点，从而避免每次Pod调度都从零开始下载。
缓存命中率直接决定了工作节点的启动延迟与集群的资源利用率。下表对比了缓存命中与未命中时的关键差异：
| 对比维度 | 缓存命中（Hit） | 缓存未命中（Miss） |
|---|---|---|
| Pod启动延迟 | 毫秒~秒级（仅解压与挂载） | 分钟级（下载+解压+写入） |
| 网络带宽消耗 | 极低（仅元数据校验） | 高（全量层传输） |
| 仓库负载 | 低（本地读取） | 高（并发拉取风暴） |
| 弹性扩缩容效率 | 秒级完成 | 分钟级滞后 |
关键指标： 业界最佳实践要求节点级镜像缓存命中率 ≥ 95%。当命中率低于 80% 时，集群的 Pod 就绪时间将出现明显的长尾分布。
1.2 低命中率的业务影响：从成本到稳定性
镜像缓存低命中率并非单纯的运维问题，它会沿着调用链传导至业务层，产生以下三类典型影响：
- 服务启动风暴（Thundering Herd）：当HPA触发大规模扩容或节点故障恢复时，大量Pod同时拉取镜像，导致仓库出口带宽打满、节点磁盘I/O阻塞，进而引发Pod创建超时与调度失败。
- 部署回滚延迟：在蓝绿部署或金丝雀发布中，新版本镜像若未预热缓存，流量切换后Pod启动缓慢，造成服务降级甚至SLO违约。
- 资源浪费：重复的镜像层下载不仅消耗网络费用（尤其跨AZ/Region），还占用节点临时存储，加剧磁盘压力。
以下SVG图展示了低缓存命中率下，一次典型Pod启动的完整延迟分解：
避坑提示： 很多团队只关注镜像大小优化（如多阶段构建），却忽略了缓存分布策略。即使镜像只有 50MB，若缓存未命中，在百级并发拉取场景下仍会导致分钟级延迟。
1.3 Envoy在镜像分发中的角色：从代理到智能缓存网关
Envoy 通常被视为服务网格的数据面组件，但在镜像分发场景中，它可以扮演智能缓存代理的角色，位于工作节点与镜像仓库之间。其核心职责包括：
- 请求路由与负载均衡：将镜像拉取请求分发到多个镜像仓库或缓存节点，避免单点过载。
- 层缓存（Layer Caching）：基于HTTP缓存语义（Cache-Control、ETag）缓存镜像层数据，减少回源请求。
- 并发控制与限流：防止大量并发拉取请求打穿缓存，保护后端仓库。
- 可观测性：通过访问日志、指标（如缓存命中率、回源延迟）暴露缓存性能数据。
以下SVG架构图展示了Envoy在镜像分发链路中的位置与数据流：
1.4 课程核心目标与学习路径
本课程将围绕以下三条主线展开：
| 主线 | 核心内容 | 预期产出 |
|---|---|---|
| 瓶颈诊断 | 缓存命中率低的原因分析：层复用率、驱逐策略、并发模型 | 可复用的诊断工具与指标看板 |
| Envoy数据面优化 | 缓存策略配置、连接池调优、请求合并、限流降级 | 生产级Envoy配置模板 |
| 性能验证 | 压测方法论、对比实验设计、持续优化闭环 | 性能报告与调优checklist |