3、API网关与流量入口：网关在高并发发布中的角色（限流、熔断、灰度路由），常见网关对比（Nginx、Kong、APISIX）

3.1 网关：高并发发布的第一道防线

在微服务架构中，API网关是所有外部请求的单一入口。当发布新版本时，网关承担着流量控制、安全防护和路由调度的核心职责。没有网关的精细化管控，灰度发布、蓝绿部署、熔断降级等高并发发布策略将无从落地。

3.2 网关在高并发发布中的三大角色

3.2.1 限流（Rate Limiting）—— 防止发布期间流量洪峰冲垮系统

发布新版本时，系统性能可能暂时下降（如JIT预热、缓存重建）。限流确保进入新版本的流量不超过其承载阈值。

• 作用时机：发布前、发布中、发布后持续生效。
• 常用算法：令牌桶、漏桶、滑动窗口、计数器。
• 粒度：全局限流、用户维度限流、API维度限流、IP维度限流。
• 响应方式：直接拒绝（429 Too Many Requests）、排队等待、降级返回缓存数据。

3.2.2 熔断（Circuit Breaker）—— 快速隔离故障版本

当新发布版本出现异常（如超时、错误率飙升），熔断机制自动切断流量，防止故障扩散到整个调用链。

• 状态机：关闭 → 打开 → 半开 → 关闭/打开。
• 触发条件：错误率阈值（如5%）、慢调用比例、最小请求数。
• 恢复策略：半开状态下允许少量探测请求，成功则关闭熔断器。
• 降级响应：返回默认值、缓存数据、错误提示。

3.2.3 灰度路由（Canary Routing）—— 精细化流量引导

灰度发布的核心是网关根据规则将流量按比例或按特征分发到不同版本。网关是灰度策略的执行者。

• 权重路由：按百分比分配流量（如5%到v2，95%到v1）。
• 条件路由：根据Header、Cookie、IP、用户ID等特征匹配。
• 版本感知：网关识别请求的目标版本，路由到对应服务实例。
• 动态切换：无需重启网关，实时调整路由规则。

3.3 常见网关对比：Nginx、Kong、APISIX

选择网关需要综合考虑性能、扩展性、社区生态和运维成本。以下是三款主流网关在高并发发布场景下的详细对比。

3.4 选型建议

• 小型团队 / 简单场景：Nginx + Lua脚本。成本低，性能好，但灰度路由和熔断需要自研。
• 中型团队 / 标准微服务：Kong。插件生态成熟，Admin API方便集成CI/CD，适合快速落地灰度发布。
• 大型团队 / 高并发复杂场景：APISIX。原生支持限流熔断灰度，动态路由能力强，适合大规模集群和精细化流量治理。

3.5 灰度路由配置示例（APISIX）

以下是一个APISIX灰度路由的配置示例，将5%的流量引导到v2版本，其余95%流向v1版本。

# APISIX 灰度路由配置（通过Admin API）
curl -X PUT http://127.0.0.1:9180/apisix/admin/routes/1 \
-H 'X-API-KEY: edd1c9f034335f136f87ad84b625c8f1' \
-d '{
  "uri": "/api/v1/orders",
  "plugins": {
    "traffic-split": {
      "rules": [
        {
          "weighted_upstreams": [
            {
              "upstream": {
                "type": "roundrobin",
                "nodes": {
                  "v1-service:8080": 95
                }
              },
              "weight": 95
            },
            {
              "upstream": {
                "type": "roundrobin",
                "nodes": {
                  "v2-service:8080": 5
                }
              },
              "weight": 5
            }
          ]
        }
      ]
    }
  }
}'

3.6 网关在高并发发布中的关键指标