2. PSI 数学原理:公式推导与核心关系

PSI(Population Stability Index,群体稳定性指标)的核心思想是衡量两个概率分布之间的差异程度。在特征巡检场景中,它量化了特征在当前样本(实际分布)与期望基准(期望分布)之间的偏移量。理解其数学原理,是正确计算和解读 PSI 的前提。

2.1 PSI 的公式推导

PSI 的计算基于将连续变量分箱(Binning)后,比较每个箱体内实际占比与期望占比的差异。其标准计算公式如下:

PSI = Σ (Actual_i - Expected_i) * ln(Actual_i / Expected_i)

其中:
- i 表示第 i 个分箱(共 n 个箱)
- Actual_i   = 第 i 箱中实际样本数 / 总实际样本数(实际占比)
- Expected_i = 第 i 箱中期望样本数 / 总期望样本数(期望占比)
- ln 为自然对数

公式推导步骤:

  1. 分箱:将特征值域划分为 n 个互斥的区间(箱)。分箱方式可以是等距、等频或基于业务规则。
  2. 计算占比:分别计算每个箱在期望分布和实际分布中的样本占比。
  3. 计算差异项:对每个箱,计算 (Actual_i - Expected_i),代表占比的绝对差异。
  4. 计算权重项:计算 ln(Actual_i / Expected_i),代表占比的相对差异(对数比值)。
  5. 求和:将所有箱的乘积求和,得到最终的 PSI 值。
⚠️ 避坑提示:当某个箱的 Expected_i = 0 时,对数项无定义。实际处理中,通常会对占比进行平滑处理(如加一个小常数),或将该箱与相邻箱合并。当 Actual_i = 0 时,ln(0) 为负无穷,同样需要处理。

2.2 期望分布与实际分布的对数比值

公式中的 ln(Actual_i / Expected_i) 是 PSI 的核心敏感元件。它衡量了在每个分箱内,实际分布相对于期望分布的偏移方向与幅度。

  • 比值为 0: Actual_i = Expected_i,该箱无偏移,对 PSI 贡献为 0。
  • 比值 > 0: Actual_i > Expected_i,实际占比高于期望,该箱样本“过载”。
  • 比值 < 0: Actual_i < Expected_i,实际占比低于期望,该箱样本“缺失”。

对数函数具有“惩罚”特性:当比值远大于 1 或远小于 1 时,其绝对值增长迅速,使得 PSI 对极端偏移非常敏感。这种非线性映射确保了 PSI 能够有效捕捉到分布尾部的细微变化。

💡 关键理解:PSI 并非简单地累加绝对差异,而是通过“对数比值”对差异进行加权。一个占比差异很大但基数很小的箱,其贡献可能不如一个占比差异中等但基数很大的箱。

2.3 PSI 与 KL 散度的关系

PSI 在数学上与 KL 散度(Kullback-Leibler Divergence,相对熵)有着紧密的联系。KL 散度是衡量两个概率分布 P 和 Q 之间差异的非对称度量。

指标 公式 对称性 与 PSI 的关系
KL(P||Q) Σ P_i * ln(P_i / Q_i) 非对称(KL(P||Q) ≠ KL(Q||P)) PSI 是 KL(P||Q) 与 KL(Q||P) 的对称化形式
KL(Q||P) Σ Q_i * ln(Q_i / P_i) 非对称 PSI 的另一个方向
PSI Σ (P_i - Q_i) * ln(P_i / Q_i) 对称(PSI(P,Q) = PSI(Q,P)) KL(P||Q) + KL(Q||P)

从上表可以看出,PSI 实际上是两个 KL 散度的和:

PSI = KL(Actual || Expected) + KL(Expected || Actual)

这种对称性使得 PSI 成为一个更“公平”的度量指标,因为它同时考虑了从实际到期望和从期望到实际两个方向的差异,避免了 KL 散度因方向不同而结果迥异的问题。

📐 数学本质:PSI 是 KL 散度的对称版本,也称为“对称化 KL 散度”或“Jeffreys 散度”。在特征分布监控中,使用 PSI 比使用单向 KL 散度更能全面反映分布的双向漂移。
PSI 公式推导与 KL 散度关系 PSI 公式推导与 KL 散度关系 期望分布 (Expected) 实际分布 (Actual) 步骤 1: 分箱 (Binning) 步骤 2: 计算各箱占比 (Actual_i, Expected_i) 步骤 3: 计算 ln(Actual_i / Expected_i) 步骤 4: 加权求和 Σ (Actual_i - Expected_i) * ... PSI 值 KL 散度关系 KL(Actual||Expected) + KL(Expected||Actual) = PSI (对称化)

2.4 PSI 与 KL 散度的对比总结

为了在实际应用中更好地选择和使用这些指标,下表总结了它们的关键特性:

特性 PSI KL 散度
对称性 对称 非对称
取值范围 [0, +∞) [0, +∞)
对极端值的敏感度 高(对数加权) 高(对数加权)
业务解释性 强(有通用阈值标准) 较弱(无统一阈值)
主要应用场景 风控模型特征监控、数据质量巡检 信息论、模型分布拟合度评估
🎯 实践建议:在特征巡检和模型监控中,PSI 因其对称性和成熟的阈值体系(如 PSI < 0.1 表示稳定,0.1-0.25 需关注,> 0.25 表示显著漂移)而成为首选。理解其与 KL 散度的关系,有助于在需要更深入分析分布差异方向性时,灵活运用 KL 散度作为补充工具。