4. 网关性能优化与限流熔断
面试中，限流与熔断是网关岗位的核心考察点。你需要掌握常见限流算法（令牌桶、漏桶、滑动窗口）的适用场景，理解熔断状态机（关闭→开启→半开），并能够结合业务指标（QPS、P99延迟、错误率）给出优化策略。以下从回答框架到项目实战进行结构化解构。
面试问答卡片
Q1：请对比令牌桶和漏桶算法，并说明网关中如何选择？
考察点： 算法原理理解、场景匹配能力、对突发流量的容忍度认知。
回答框架：
- 简述两种算法核心：令牌桶允许突发，漏桶平滑输出。
- 指出网关常见需求：允许短时突发但长期平均可控 → 选令牌桶。
- 补充漏桶适用场景：保护下游不存在缓冲的服务（如写数据库）。
- 提及实现方式：Redis+Lua 或 Guava RateLimiter。
简短示例回答：
令牌桶以固定速率生成令牌，桶满后允许突发，适合网关应对流量尖峰。漏桶强制恒定输出，避免下游被压垮。我对大流量网关优先选令牌桶，配合动态速率调整。
可能追问：
- 如果突发流量远超桶容量，你怎么处理？
- 如何保证分布式环境下限流的一致性？
- Guava RateLimiter 的预热模式原理是什么？
⚠ 避坑提醒： 别只背定义，要结合网关“先限流再路由”的顺序说明。避免说“漏桶一定比令牌桶好”，面试官期望你讲出 trade-off。
Q2：熔断器三种状态如何工作？你如何设置熔断阈值？
考察点： 熔断状态机理解、实际阈值设置经验、半开恢复策略。
回答框架：
- 状态机：Closed（计数）/ Open（直接短路）/ Half-Open（试发探测请求）。
- 阈值设置：基于历史 P99 延迟、错误率（如 50% 请求失败）、滑动窗口大小。
- 半开策略：允许一定比例请求通过，成功后逐渐恢复，失败则重新开启。
- 结合组件（Sentinel/Hystrix）说明参数配置。
简短示例回答：
熔断器三态：关闭时累计失败数；达到阈值（比如 10s 内错误率超 60%）则开启，直接返回兜底；经过休眠时间进入半开，放行少量请求试探。我通常将熔断阈值设为错误率 50% + 最小请求数 5。
可能追问：
- 熔断和限流有什么区别？能相互替代吗？
- 如何避免熔断器频繁开关（俗称“抖动”）？
- 你在生产环境中遇到过熔断误触发吗？怎么排查？
⚠ 避坑提醒： 不要只说理论，必须提到“熔断降级一定要返回对用户友好的兜底数据（如缓存或默认值）”，而非直接抛异常。
Q3：网关性能优化的常用手段有哪些？你如何评估优化效果？
考察点： 性能优化广度（代码/架构/硬件）、压测与监控能力、量化思维。
回答框架：
- 分层优化：代码层（异步、减少序列化）、架构层（分流、缓存路由）、基础设施（连接池、内核参数）。
- 评估指标：QPS、P99/P999延迟、CPU/内存使用率、GC频率。
- 优化方法：压测（wrk / JMeter）→ 分析瓶颈 → 针对性优化 → 对比基线。
- 举例：将同步请求改为 WebFlux 响应式，QPS 提升 3 倍。
简短示例回答：
我优化过网关：首先将路由列表缓存到本地，减少 Nacos 频繁查询；然后改用连接池复用到下游；最后压测发现 GC 频繁，调大年轻代大小。最终 P99 延迟从 50ms 降到 18ms，QPS 提升 4 倍。
可能追问：
- 为什么选择响应式而非多线程？Netty 线程模型优缺点？
- 如何优化证书卸载（TLS 握手）的影响？
- 性能调优中你如何区分哪些是“必要优化”哪些是“过度优化”？
⚠ 避坑提醒： 避免只讲“加机器”这种无效回答。要突出“预防”思维（如限制请求体大小、提前压缩）和“数据驱动”验证。
项目案例：双11大促网关限流熔断系统
| 维度 | 内容 |
|---|---|
| 项目名称 | 电商大促网关限流熔断治理 |
| 业务背景 | 双11期间流量峰值突破10万 QPS，下游核心服务曾因流量冲击导致雪崩。 |
| 规模指标 | 网关集群 30 节点，覆盖 500+ 微服务接口，日均请求量 5 亿次。 |
| 技术栈 | Spring Cloud Gateway + Sentinel + Redis Cluster + Prometheus + Grafana |
| 核心难点 | ① 精准限流：不同接口流量模型差异大（订单/搜索/首页）；② 熔断误判：慢调用导致熔断过早；③ 动态调参：无法停机修改限流规则。 |
| 面试高频追问 |
|
| 可迁移回答话术 |
“我主导过双11大促的网关保障项目。首先根据历史流量按接口分组配置令牌桶速率；熔断阈值采用滑动窗口错误率 + 慢调用比例双重判断，并通过 apollo 配置中心实现动态调整。最终压测结果：单节点 QPS 从 800 提升至 3500，P99 延迟降低 60%，大促期间零宕机。” |
💡 面试亮点提示： 把项目案例中的“动态调参”和“自适应熔断”作为加分点，面试官很看重你对线上变更的敬畏之心。建议补充一句：“我们设置了熔断半开后的渐进式恢复比例，避免流量陡增再次触发熔断。”