2. 低延迟基础概念：延迟、吞吐量、抖动（Jitter）的定义与衡量标准

在金融交易系统中，时间是最核心的竞争维度。理解延迟、吞吐量和抖动这三个基础概念，是评估和优化交易系统性能的前提。本章将精确定义这三个指标，并阐述它们对交易系统的具体影响。

2.1 延迟（Latency）

定义：延迟是指从事件发生到系统产生响应所经过的时间。在交易系统中，通常指从订单发出到收到确认（或成交回报）的单向耗时。

• 关键衡量标准：
  • 平均延迟（Average Latency）：所有交易请求延迟的算术平均值。容易受极端值影响，不能完全反映真实体验。
  • 百分位延迟（Percentile Latency）：如 P50（中位数）、P99（99%请求的延迟低于此值）、P99.9。金融系统更关注 P99.9 甚至 P99.99，以捕捉尾部风险。
  • 最小/最大延迟（Min/Max Latency）：分别代表系统的最佳和最差表现。

2.2 吞吐量（Throughput）

定义：吞吐量是指单位时间内系统能够处理的交易请求数量。常用单位是每秒交易笔数（TPS, Transactions Per Second）或每秒消息数（MPS, Messages Per Second）。

• 关键衡量标准：
  • 峰值吞吐量：系统在短时间内能承受的最大负载。
  • 持续吞吐量：系统在长时间内稳定处理的平均负载。
  • 饱和吞吐量：当系统资源（如CPU、内存、网络带宽）达到极限时的吞吐量。

2.3 抖动（Jitter）

定义：抖动是指延迟的变化程度，即延迟的方差或标准差。它衡量的是系统延迟的稳定性。低抖动意味着每次请求的延迟都高度一致；高抖动则意味着延迟忽高忽低，不可预测。

• 关键衡量标准：
  • 延迟标准差（Latency StdDev）：数值越大，抖动越严重。
  • 延迟范围（Latency Range）：最大延迟与最小延迟的差值。
  • 抖动频率（Jitter Frequency）：延迟波动发生的频率。

2.4 三者关系与系统影响

延迟、吞吐量和抖动并非独立存在，它们共同决定了交易系统的整体性能表现。下图展示了三者在系统负载变化下的典型关系。

2.5 衡量标准与工具

在实际工程中，衡量这些指标需要精确的工具和方法。以下是常用的衡量标准与工具对比：

2.6 对交易系统的综合影响

下表总结了三个指标对交易系统不同层面的具体影响：