4. 性能基准测试核心概念：吞吐量、延迟、资源消耗（CPU/内存）、P99延迟、并发能力

在 K8s 集群升级前对 Rego 策略进行性能基准测试，核心目标是量化策略执行对集群控制平面及工作节点的影响。基准测试围绕四个关键维度展开：吞吐量、延迟、资源消耗 和 并发能力。理解这些概念及其相互关系，是制定测试方案、分析瓶颈和进行优化的基础。

4.1 核心性能指标定义与对比

下表从定义、度量单位、典型关注场景三个维度，对四个核心指标进行对比：

4.2 延迟的深度剖析：平均值与百分位值

延迟是衡量策略执行效率最直接的指标。仅关注平均延迟（Average Latency）往往具有误导性，因为少量高延迟请求会拉高平均值，掩盖大多数请求的真实表现。因此，基准测试中必须引入百分位延迟，尤其是 P99 延迟。

• P50（中位数延迟）：50% 的请求在此时间内完成，反映典型性能。
• P90（第90百分位延迟）：90% 的请求在此时间内完成，反映大多数请求的上限。
• P99（第99百分位延迟）：99% 的请求在此时间内完成，反映极端情况下的性能表现，是衡量系统稳定性和尾部延迟的关键指标。
• P999（第99.9百分位延迟）：用于对延迟极其敏感的场景，如金融交易系统。

4.3 吞吐量与延迟的关系：Little's Law

吞吐量、延迟和并发数之间存在经典的数学关系，即 Little's Law：

L = λ × W

• L：系统中平均请求数（并发数）
• λ：吞吐量（每秒请求数）
• W：平均延迟（秒）

该定律揭示了：在系统资源（CPU/内存）固定的情况下，增加并发数（L）会同时增加吞吐量（λ）和延迟（W），但延迟的增长速度往往快于吞吐量。当并发数超过系统瓶颈时，延迟会急剧上升，吞吐量反而下降，形成“拐点”。

4.4 资源消耗：CPU 与内存的权衡

Rego 策略的执行本质上是计算密集型任务。资源消耗分析需关注以下方面：

• CPU 消耗：主要受策略复杂度（规则数量、循环嵌套深度、数据量）影响。复杂的 walk() 或 every 语句会显著增加 CPU 时间。
• 内存消耗：主要受输入数据大小（如完整的 Pod 或 Node 对象）和策略缓存策略影响。Rego 的 partial evaluation 和 caching 机制会占用额外内存。
• 权衡关系：有时可以通过增加内存消耗（如预计算并缓存中间结果）来降低 CPU 消耗，反之亦然。基准测试需要找到适合集群资源限制的平衡点。

4.5 并发能力与系统瓶颈

并发能力测试旨在评估 OPA 或策略引擎在同时处理多个请求时的表现。关键观察点包括：

• 锁竞争：Rego 策略中如果使用了全局变量或共享状态，在高并发下可能产生锁竞争，导致延迟飙升。
• 连接池耗尽：如果 OPA 与外部数据源（如外部 HTTP API）交互，并发数过高可能导致连接池耗尽，请求排队等待。
• Goroutine 调度：OPA 基于 Go 语言实现，高并发下 Go 调度器的开销也会影响性能。

4.6 性能基准测试核心概念关系图

下图展示了四个核心指标之间的逻辑关系及其在 K8s 集群升级场景中的位置：

4.7 基准测试指标选择策略

针对 K8s 集群升级场景，建议按以下优先级选择测试指标：

1. 首要指标：P99 延迟（确保不触发 API Server 超时）和 CPU 消耗（避免影响控制平面其他组件）。
2. 次要指标：吞吐量（确保满足集群规模需求）和内存消耗（避免 OOM Kill）。
3. 参考指标：并发能力（用于评估系统弹性伸缩能力）。