3. 自动扩缩基础：Knative Pod Autoscaler（KPA）工作原理、并发模型与目标利用率

Knative Pod Autoscaler（KPA）是 Knative Serving 内置的、基于请求驱动的自动扩缩组件。与 Kubernetes 原生的 HPA（基于 CPU/内存指标）不同，KPA 直接以并发请求数（Concurrency）作为核心指标，实现从零到 N 的平滑扩缩。理解 KPA 的工作原理、并发模型以及目标利用率（Target Utilization）是优化 Serverless 工作负载资源成本与响应延迟的基础。

3.1 KPA 核心工作原理

KPA 通过一个数据面 + 控制面的闭环架构实现自动扩缩。数据面的 Activator 和 Queue-Proxy 负责采集请求指标，控制面的 Autoscaler 组件负责计算期望 Pod 数并调整 Deployment 的副本数。

3.2 并发模型：单 Pod 并发上限与统计方式

KPA 的并发模型基于“软限制（Soft Limit）”与“硬限制（Hard Limit）”两个维度进行控制。Queue-Proxy 容器会拦截所有进出流量，实时统计当前正在处理的请求数（In-Flight Requests）。

3.3 目标利用率（Target Utilization）与扩缩决策

目标利用率（TU）是 KPA 扩缩决策的“触发器”。KPA 不会等到 Pod 并发达到软限制才扩容，而是当平均并发 / 软限制 ≥ TU 时开始扩容。计算公式如下：

期望副本数 = ceil( 当前总并发数 / (软限制 × 目标利用率) )

示例：
- 当前总并发数 = 350
- 软限制 = 100
- 目标利用率 = 70%（即 0.7）
- 期望副本数 = ceil( 350 / (100 × 0.7) ) = ceil( 350 / 70 ) = 5

KPA 的扩缩决策遵循“稳定窗口”机制，避免因瞬时抖动导致频繁扩缩：

• 扩容（Scale Up）：立即响应，无稳定窗口，只要指标超过阈值就扩容。
• 缩容（Scale Down）：默认 60 秒稳定窗口（可通过 scale-down-delay 配置），确保流量下降趋势稳定后再缩容。
• 缩容至零：当稳定窗口内无请求到达时，KPA 将 Pod 数缩至 0，释放资源。

3.4 并发模型与目标利用率的协同配置

在实际生产环境中，软限制与目标利用率需要根据业务特征协同调整。以下表格展示了不同场景下的推荐配置：

3.5 关键参数速查表

以下为 KPA 自动扩缩相关的核心配置参数，可在 Knative Service YAML 的 metadata.annotations 中设置：