2. API延迟的度量标准
在服务网格中，API延迟并非单一数值，而是一组多维度的度量指标。只有正确理解这些指标的定义、计算方式与适用场景，才能精准定位延迟瓶颈，避免“平均延迟掩盖长尾问题”等常见陷阱。本节将系统讲解延迟百分位数、平均延迟、吞吐量与延迟的关系，以及SLA/SLO/SLI的定义与联动。
2.1 延迟的百分位数：P50 / P90 / P99
百分位数（Percentile）是延迟度量中最核心的指标，它回答了“百分之X的请求在多少毫秒内完成”。服务网格中通常关注以下三个百分位：
| 百分位 | 含义 | 典型阈值（参考） | 关注点 |
|---|---|---|---|
| P50（中位数） | 50%的请求延迟低于此值 | 50–100 ms | 用户体验的“典型”感受 |
| P90 | 90%的请求延迟低于此值 | 200–500 ms | 大多数用户的体验边界 |
| P99 | 99%的请求延迟低于此值 | 500–2000 ms | 长尾延迟、异常请求、SLO达标 |
排障提示：P99是服务网格延迟诊断的“第一指标”。如果P99飙升而P50正常，说明存在少量请求遭遇了严重的排队、重试或熔断，需要立即排查尾部延迟来源。
下图展示了P50、P90、P99在延迟分布曲线上的位置关系：
2.2 平均延迟（Average Latency）
平均延迟是所有请求延迟的算术平均值。虽然计算简单、直观，但在服务网格排障中，平均延迟具有严重的误导性。
- 优点：快速反映整体趋势，适合长期监控的基线对比。
- 缺点：极易被极端值（尤其是少量高延迟请求）拉高，掩盖大多数请求的真实表现。
避坑指南：不要单独使用平均延迟作为SLO指标。一个典型的反例：某服务P50=80ms、P99=5000ms，平均延迟可能被拉高到800ms，看起来“整体恶化”，但实际上90%的用户体验正常。此时应优先关注P99，而非平均延迟。
2.3 吞吐量与延迟的关系
吞吐量（Throughput，通常以RPS或QPS衡量）与延迟之间存在经典的倒U型曲线关系。理解这一关系，是服务网格容量规划与限流配置的基础。
| 区域 | 吞吐量状态 | 延迟表现 | 服务网格排障要点 |
|---|---|---|---|
| 线性区 | 低于系统容量 | 延迟稳定，随吞吐量线性微增 | 正常状态，无需干预 |
| 拐点区 | 接近系统容量 | 延迟开始非线性上升 | 检查Sidecar资源限制、连接池耗尽 |
| 饱和区 | 超过系统容量 | 延迟急剧飙升，请求开始排队/超时 | 触发限流、熔断、扩容 |
下图展示了吞吐量与延迟的典型关系曲线：
服务网格排障实践：当吞吐量未明显变化但延迟飙升时，优先检查Sidecar（Envoy）的线程池、连接池是否耗尽，以及目标服务的CPU/内存是否达到瓶颈。当延迟正常但吞吐量下降时，则需排查路由规则、熔断策略或上游服务健康状态。
2.4 SLA / SLO / SLI 定义与联动
在API延迟排障中，SLA、SLO、SLI是三个必须区分的概念。它们构成了从“用户期望”到“技术指标”再到“实际度量”的完整链路。
| 术语 | 全称 | 定义 | 示例（API延迟场景） |
|---|---|---|---|
| SLI | Service Level Indicator 服务等级指标 |
实际测量的量化指标 | 过去1小时内，P99延迟 = 850 ms |
| SLO | Service Level Objective 服务等级目标 |
团队承诺达到的目标阈值 | P99延迟 ≤ 1000 ms，达标率 ≥ 99.9% |
| SLA | Service Level Agreement 服务等级协议 |
与客户签订的正式协议，含惩罚条款 | P99延迟 ≤ 2000 ms，否则赔偿5%月费 |
三者的关系可以概括为：SLI是“实际值”，SLO是“目标值”，SLA是“合同值”。SLO通常比SLA更严格，为SLA留出安全缓冲。
排障优先级：当SLI（如P99延迟）接近或超过SLO时，应立即启动排障流程；当SLI接近SLA时，则需升级为P0事件处理。服务网格的延迟监控仪表盘应同时展示SLI、SLO和SLA三条基准线。
下图展示了SLI、SLO、SLA在延迟监控中的层级关系：
2.5 延迟度量在服务网格中的落地
在Istio/Envoy服务网格中，上述指标通过以下方式采集与暴露：
- Envoy原生指标：通过
envoy_cluster_upstream_rq_time等指标，直接获取P50/P90/P99延迟。 - Prometheus + Grafana：使用
histogram_quantile函数计算百分位数。 - Kiali / Jaeger：提供分布式追踪视角的延迟分布。
关键查询示例（PromQL）：
# 计算过去5分钟P99延迟
histogram_quantile(0.99,
sum(rate(
istio_request_duration_milliseconds_bucket{reporter="destination"}[5m]
)) by (le, destination_service_name)
)
# 计算平均延迟
avg(rate(
istio_request_duration_milliseconds_sum{reporter="destination"}[5m]
) / rate(
istio_request_duration_milliseconds_count{reporter="destination"}[5m]
))通过上述度量标准，SRE团队可以建立从“用户感知”到“技术指标”再到“排障动作”的完整链路，确保服务网格中的API延迟问题能被及时发现、定位与修复。