2. PSI指标基础:数学定义、公式推导与统计学意义

2.1 PSI的数学定义

群体稳定性指标(Population Stability Index, PSI)是一种衡量两个概率分布或分数分布之间差异的标准化度量。在机器学习运维中,PSI 用于量化模型在训练/验证阶段(预期分布)与生产阶段(实际分布)之间特征或预测分数的偏移程度。

PSI 的数学定义基于信息论中的 Kullback-Leibler 散度(KL 散度)的对称化形式。对于两个离散概率分布 P(预期分布)和 Q(实际分布),PSI 定义为:

PSI = Σ (P_i - Q_i) * ln(P_i / Q_i)

其中:

  • P_i:第 i 个分箱中预期样本的占比(如训练集或上一生产周期)
  • Q_i:第 i 个分箱中实际样本的占比(如当前生产周期)
  • ln:自然对数
  • Σ:对所有分箱求和
关键理解: PSI 本质上是两个分布的“距离”度量。当 P 和 Q 完全一致时,每个分箱的 (P_i - Q_i) = 0,PSI = 0。分布差异越大,PSI 值越高。

2.2 PSI计算公式的逐步推导

PSI 的推导可以从 KL 散度出发。KL 散度衡量分布 P 相对于分布 Q 的信息损失:

KL(P || Q) = Σ P_i * ln(P_i / Q_i)

KL 散度是非对称的,即 KL(P || Q) ≠ KL(Q || P)。为了获得对称的度量,PSI 采用两个 KL 散度的和:

PSI = KL(P || Q) + KL(Q || P)

展开后得到:

PSI = Σ P_i * ln(P_i / Q_i) + Σ Q_i * ln(Q_i / P_i)

利用对数性质 ln(Q_i / P_i) = -ln(P_i / Q_i),合并两项:

PSI = Σ P_i * ln(P_i / Q_i) - Σ Q_i * ln(P_i / Q_i)
     = Σ (P_i - Q_i) * ln(P_i / Q_i)

这就是 PSI 的最终计算公式。在实际计算中,通常按以下步骤操作:

  1. 分箱:将分数或概率值划分为 K 个等宽或等频区间(通常 10 箱)
  2. 计算占比:统计每个区间在预期分布 P 和实际分布 Q 中的样本占比
  3. 处理零值:若某区间占比为 0,用极小值(如 0.0001)替代,避免对数计算错误
  4. 逐箱计算:对每个区间计算 (P_i - Q_i) * ln(P_i / Q_i)
  5. 求和:将所有区间的结果相加,得到 PSI 值
实践建议:分箱数量通常固定为 10。分箱过少会丢失分布细节,分箱过多会导致零值区间增多、计算不稳定。等频分箱比等宽分箱更能捕捉尾部变化。

2.3 PSI的统计学意义

PSI 的统计学意义可以从三个层面理解:

层面 解释 业务含义
信息论层面 PSI 衡量两个分布之间的“信息距离”,即用 Q 分布编码 P 分布时所需的额外信息量 分布偏移越大,模型需要“重新学习”的信息越多
概率论层面 PSI 是概率分布差异的对称化度量,对分布的形状、位置、尾部变化均敏感 均值不变但方差增大时,PSI 仍能检测到偏移
应用统计层面 PSI 值对应不同的漂移严重程度,行业通用阈值提供了可操作的判断标准 无需复杂统计检验,直接通过数值大小决定是否触发告警

行业通用的 PSI 阈值判断标准如下:

PSI 范围 漂移程度 建议操作
PSI < 0.1 无显著漂移 无需干预,继续监控
0.1 ≤ PSI < 0.25 轻度漂移 调查原因,加强监控频率
PSI ≥ 0.25 严重漂移 立即告警,启动模型重训或回滚
注意: 阈值并非绝对。在金融风控等高风险场景,建议将告警阈值下调至 0.15;在推荐系统等高频迭代场景,可适当上调至 0.3。阈值选择应结合业务容忍度和模型更新频率。

2.4 PSI计算流程与分布关系图示

下图展示了 PSI 从原始分布到最终指标的计算流程,以及预期分布与实际分布之间的对比关系:

PSI 计算流程与分布对比 预期分布 P 训练集 / 上一周期 分箱占比: P₁, P₂, ..., Pₖ 参考基准分布 (稳定期数据) 实际分布 Q 当前生产周期 分箱占比: Q₁, Q₂, ..., Qₖ 待评估分布 (近期数据) PSI 计算引擎 Σ (Pᵢ - Qᵢ) · ln(Pᵢ / Qᵢ) 逐箱求和 → 单一指标 PSI 输出值 0.00 ~ 1.00+ 阈值判断标准 PSI < 0.1 无显著漂移 0.1 ≤ PSI < 0.25 轻度漂移 PSI ≥ 0.25 严重漂移

2.5 PSI与KL散度的关系对比

理解 PSI 与 KL 散度的区别,有助于更深入地把握 PSI 的数学特性:

特性 KL 散度 PSI
对称性 非对称:KL(P||Q) ≠ KL(Q||P) 对称:PSI(P,Q) = PSI(Q,P)
取值范围 [0, +∞) [0, +∞)
最小值条件 P = Q 时 KL = 0 P = Q 时 PSI = 0
三角不等式 不满足 不满足(非严格距离度量)
对尾部敏感度 高(对数项放大尾部差异) 高(继承 KL 特性)
实际应用 信息论、变分推断 模型监控、特征漂移检测
核心结论: PSI 是 KL 散度的对称化版本,继承了 KL 散度对分布尾部差异敏感的优点,同时消除了方向性。这使得 PSI 成为模型监控中衡量分布偏移的“标准语言”——无论哪个分布作为基准,计算结果一致,便于团队沟通和自动化告警。