3. API网关优化策略：网关层缓存、限流熔断、请求聚合、协议转换（REST vs gRPC）架构决策
API网关是IDP自助门户的流量入口与策略执行点。网关层优化不是简单的“加一层代理”，而是围绕缓存降本、限流保稳、聚合提效、协议适配四个维度进行架构决策。本章逐一拆解每项策略的适用场景、实现要点与权衡。
3.1 网关层缓存：减少穿透，降低后端负载
网关缓存适用于读多写少、数据时效性要求不高的接口。典型场景包括：用户权限元数据、服务实例列表、配置字典等。缓存策略分为本地缓存与分布式缓存两层。
| 缓存层级 | 存储介质 | 适用场景 | TTL典型值 | 风险 |
|---|---|---|---|---|
| L1 本地缓存 | 网关进程内（Caffeine/Guava） | 高频、小数据量、允许秒级不一致 | 5–60s | 节点间数据不一致 |
| L2 分布式缓存 | Redis / Memcached | 跨网关共享、数据量较大 | 30–300s | 网络延迟、缓存雪崩 |
实践建议：在网关层对GET /api/v1/tenants/{id}/permissions 这类接口开启本地缓存，命中率可达85%以上。配合Cache-Aside模式，后端服务更新时主动失效网关缓存，避免脏数据。
3.2 限流与熔断：保障网关稳定性
IDP自助门户可能面临突发流量（如批量导入、定时任务触发），网关必须具备限流（Rate Limiting）与熔断（Circuit Breaker）能力。两者分工不同：限流主动控制请求速率，熔断被动保护下游。
3.2.1 限流策略对比
| 算法 | 特点 | 适用场景 | 实现复杂度 |
|---|---|---|---|
| 令牌桶 | 允许突发，平滑速率 | API调用频率控制 | 低 |
| 漏桶 | 强制恒定速率，削峰填谷 | 数据库写入限流 | 低 |
| 滑动窗口 | 精确统计，避免临界问题 | 多租户配额管理 | 中 |
| 自适应限流 | 根据CPU/延迟动态调整 | 高并发微服务 | 高 |
3.2.2 熔断状态机
熔断器三个状态：CLOSED（正常）→ OPEN（熔断）→ HALF_OPEN（半开探测）。当错误率超过阈值（如50%），熔断器打开，请求快速失败；经过冷却时间后进入半开状态，允许少量请求探测下游是否恢复。
关键参数：熔断时间窗口（默认10s）、错误率阈值（50%–80%）、最小请求数（5–10）。设置过小容易误触发，设置过大失去保护意义。建议在生产环境通过灰度发布逐步调优。
3.3 请求聚合：合并多次调用为一次
IDP门户页面往往需要展示多个数据源的信息（如用户信息+权限列表+待办事项）。若前端逐个请求，会产生N次网络开销。网关层请求聚合（Request Aggregation）将多个后端调用合并为一次网关调用，显著减少客户端等待时间。
3.3.1 聚合模式
- 并行聚合：各子请求无依赖关系，同时发起，等待最慢的返回。适用于仪表盘、概览页。
- 串行聚合：子请求存在依赖（如先获取用户ID，再查权限），按顺序执行。适用于有数据依赖的场景。
- 混合聚合：部分并行、部分串行，通过CompletableFuture或响应式编程编排。
性能收益：某IDP门户首页原本需要6次HTTP调用（总耗时约800ms），经过网关聚合后降为1次网关调用（后端并行，总耗时约200ms），首屏加载速度提升75%。
3.4 协议转换：REST vs gRPC 架构决策
IDP自助门户前端通常使用RESTful API（JSON over HTTP），而后端微服务之间可能采用gRPC（Protobuf over HTTP/2）。网关需要承担协议转换的职责，将前端REST请求转为后端gRPC调用，再将响应转回JSON。
3.4.1 协议对比
| 维度 | REST (JSON/HTTP1.1) | gRPC (Protobuf/HTTP2) |
|---|---|---|
| 数据格式 | JSON（文本，可读性强） | Protobuf（二进制，体积小） |
| 序列化性能 | 较慢（反射解析） | 快（代码生成，零拷贝） |
| 传输协议 | HTTP/1.1（队头阻塞） | HTTP/2（多路复用） |
| 流式支持 | SSE / WebSocket | 原生双向流 |
| 浏览器兼容 | 原生支持 | 需gRPC-Web代理 |
| 网关转换开销 | 无（直接透传） | 有（JSON↔Protobuf转换） |
3.4.2 架构决策建议
- 前端到网关：始终使用REST/JSON，降低前端接入成本，利用浏览器原生fetch能力。
- 网关到后端：优先采用gRPC，利用HTTP/2多路复用与Protobuf高效序列化，减少网关与后端之间的延迟与带宽消耗。
- 混合场景：若后端已有REST服务且无性能瓶颈，可暂不迁移；新服务强制使用gRPC。
3.5 策略组合与优先级
在实际IDP门户中，上述策略并非孤立使用，而是按以下优先级组合部署：
- 限流熔断（最高优先级）—— 保障网关自身不被打垮。
- 网关缓存 —— 降低热点请求对后端的压力。
- 请求聚合 —— 减少客户端网络往返次数。
- 协议转换 —— 优化网关到后端的传输效率。
落地检查清单：① 是否对所有外部接口配置了限流规则？② 熔断器是否设置了合理的错误率阈值与冷却时间？③ 高频读接口是否开启了本地缓存？④ 前端页面是否存在可聚合的批量请求？⑤ 新后端服务是否默认采用gRPC协议？