1. 冷启动问题概述

1.1 微服务冷启动的定义

微服务冷启动（Cold Start）是指新启动的服务实例在正式对外提供全量流量之前，需要经历一系列初始化过程，才能达到稳定服务状态的现象。在云原生环境中，冷启动通常发生在以下场景：

• 弹性扩缩容：HPA 触发新 Pod 创建，服务实例从 0 开始初始化
• 滚动更新：新版本服务实例替换旧实例，JVM/运行时需要预热
• 故障恢复：崩溃重启后，缓存、连接池、线程池需要重建
• 蓝绿部署/金丝雀发布：新版本集群首次接入流量

1.2 冷启动导致流量尖峰的原因

冷启动之所以会引发流量尖峰，根源在于服务能力曲线与流量接入曲线之间的错配。下表列出了冷启动期间各组件的能力变化：

当新实例刚注册到服务发现中心（如 Kubernetes Service、Consul、Nacos），负载均衡器或 Envoy 会立即将流量路由到该实例。此时实例的处理能力可能只有稳态的 10% ~ 30%，但流量却以全量接入，形成"能力低谷"与"流量高峰"的错配尖峰。

1.3 削峰填谷的必要性

削峰填谷（Peak Shaving and Valley Filling）是一种流量治理策略，其核心思想是：在服务能力爬坡期（冷启动窗口）主动限制流量接入速率，让流量曲线贴合能力曲线，避免瞬时过载。其必要性体现在三个层面：

1. 防止雪崩：冷启动实例处理慢 → 上游超时重试 → 重试流量叠加 → 实例过载崩溃 → 级联故障。削峰可以切断这个恶性循环。
2. 提升资源利用率：不削峰时，需要预留 3~5 倍冗余资源应对冷启动尖峰；削峰后，资源利用率可从 20% 提升到 60% 以上。
3. 保障 SLO：冷启动期间的 P99 延迟可能从 10ms 飙升到 2s，削峰可以将 P99 延迟控制在 SLO 阈值（如 200ms）以内。

1.4 冷启动削峰的技术挑战

在 Envoy 代理层面实现冷启动削峰，需要解决以下核心问题：