2、四大黄金信号之延迟

2.1 延迟的定义

延迟（Latency）是指系统处理一个请求或操作所花费的时间。在可观测性领域，延迟衡量的是从客户端发出请求到收到完整响应之间的时间差。它直接反映了系统的响应速度，是用户体验最敏感的指标之一。

延迟不同于响应时间，响应时间通常包含网络传输、排队、处理、序列化等所有环节。在分布式系统中，延迟通常按以下维度分解：

2.2 延迟的测量方法：P50 / P90 / P99

延迟并非单一数值，而是一个分布。使用百分位数（Percentile）可以更准确地描述延迟的整体特征。常见的测量指标包括：

• P50（中位数延迟）：50% 的请求延迟低于此值。反映系统的"典型"性能。
• P90（90 分位延迟）：90% 的请求延迟低于此值。反映大多数用户的体验。
• P99（99 分位延迟）：99% 的请求延迟低于此值。反映尾部延迟，即最慢 1% 请求的表现。

百分位数的计算通常采用 T-Digest 或 HDR Histogram 算法，以在内存和精度之间取得平衡。以下是一个典型的延迟分布示例：

# 假设采集了 1000 个请求的延迟数据（单位：ms）
# 排序后取对应位置的值
P50 = 45    # 第 500 个请求的延迟
P90 = 120   # 第 900 个请求的延迟
P99 = 350   # 第 990 个请求的延迟
Max = 1200  # 最慢请求

2.3 延迟对用户体验的影响

延迟是用户体验的"隐形杀手"。研究表明，延迟每增加 100ms，用户满意度就会显著下降。以下是延迟对不同场景的具体影响：

2.4 延迟测量与监控架构

在可观测性平台中，延迟数据的采集通常采用以下架构：

延迟数据的采集方式包括：

• 客户端埋点：在浏览器或移动端 SDK 中记录请求发起和响应时间。
• 服务端中间件：在 API 网关、RPC 框架中自动拦截并记录处理耗时。
• 分布式追踪：通过 Trace ID 串联上下游调用，计算端到端延迟及各环节耗时。
• 指标聚合：使用 Prometheus Histogram 或 StatsD Timer 实时计算百分位数。