2. PSI 数学原理:公式推导与核心关系
PSI(Population Stability Index,群体稳定性指标)的核心思想是衡量两个概率分布之间的差异程度。在特征巡检场景中,它量化了特征在当前样本(实际分布)与期望基准(期望分布)之间的偏移量。理解其数学原理,是正确计算和解读 PSI 的前提。
2.1 PSI 的公式推导
PSI 的计算基于将连续变量分箱(Binning)后,比较每个箱体内实际占比与期望占比的差异。其标准计算公式如下:
PSI = Σ (Actual_i - Expected_i) * ln(Actual_i / Expected_i)
其中:
- i 表示第 i 个分箱(共 n 个箱)
- Actual_i = 第 i 箱中实际样本数 / 总实际样本数(实际占比)
- Expected_i = 第 i 箱中期望样本数 / 总期望样本数(期望占比)
- ln 为自然对数
公式推导步骤:
- 分箱:将特征值域划分为 n 个互斥的区间(箱)。分箱方式可以是等距、等频或基于业务规则。
- 计算占比:分别计算每个箱在期望分布和实际分布中的样本占比。
- 计算差异项:对每个箱,计算
(Actual_i - Expected_i),代表占比的绝对差异。 - 计算权重项:计算
ln(Actual_i / Expected_i),代表占比的相对差异(对数比值)。 - 求和:将所有箱的乘积求和,得到最终的 PSI 值。
⚠️ 避坑提示:当某个箱的
Expected_i = 0 时,对数项无定义。实际处理中,通常会对占比进行平滑处理(如加一个小常数),或将该箱与相邻箱合并。当 Actual_i = 0 时,ln(0) 为负无穷,同样需要处理。
2.2 期望分布与实际分布的对数比值
公式中的 ln(Actual_i / Expected_i) 是 PSI 的核心敏感元件。它衡量了在每个分箱内,实际分布相对于期望分布的偏移方向与幅度。
- 比值为 0:
Actual_i = Expected_i,该箱无偏移,对 PSI 贡献为 0。 - 比值 > 0:
Actual_i > Expected_i,实际占比高于期望,该箱样本“过载”。 - 比值 < 0:
Actual_i < Expected_i,实际占比低于期望,该箱样本“缺失”。
对数函数具有“惩罚”特性:当比值远大于 1 或远小于 1 时,其绝对值增长迅速,使得 PSI 对极端偏移非常敏感。这种非线性映射确保了 PSI 能够有效捕捉到分布尾部的细微变化。
💡 关键理解:PSI 并非简单地累加绝对差异,而是通过“对数比值”对差异进行加权。一个占比差异很大但基数很小的箱,其贡献可能不如一个占比差异中等但基数很大的箱。
2.3 PSI 与 KL 散度的关系
PSI 在数学上与 KL 散度(Kullback-Leibler Divergence,相对熵)有着紧密的联系。KL 散度是衡量两个概率分布 P 和 Q 之间差异的非对称度量。
| 指标 | 公式 | 对称性 | 与 PSI 的关系 |
|---|---|---|---|
| KL(P||Q) | Σ P_i * ln(P_i / Q_i) | 非对称(KL(P||Q) ≠ KL(Q||P)) | PSI 是 KL(P||Q) 与 KL(Q||P) 的对称化形式 |
| KL(Q||P) | Σ Q_i * ln(Q_i / P_i) | 非对称 | PSI 的另一个方向 |
| PSI | Σ (P_i - Q_i) * ln(P_i / Q_i) | 对称(PSI(P,Q) = PSI(Q,P)) | KL(P||Q) + KL(Q||P) |
从上表可以看出,PSI 实际上是两个 KL 散度的和:
PSI = KL(Actual || Expected) + KL(Expected || Actual)
这种对称性使得 PSI 成为一个更“公平”的度量指标,因为它同时考虑了从实际到期望和从期望到实际两个方向的差异,避免了 KL 散度因方向不同而结果迥异的问题。
📐 数学本质:PSI 是 KL 散度的对称版本,也称为“对称化 KL 散度”或“Jeffreys 散度”。在特征分布监控中,使用 PSI 比使用单向 KL 散度更能全面反映分布的双向漂移。
2.4 PSI 与 KL 散度的对比总结
为了在实际应用中更好地选择和使用这些指标,下表总结了它们的关键特性:
| 特性 | PSI | KL 散度 |
|---|---|---|
| 对称性 | 对称 | 非对称 |
| 取值范围 | [0, +∞) | [0, +∞) |
| 对极端值的敏感度 | 高(对数加权) | 高(对数加权) |
| 业务解释性 | 强(有通用阈值标准) | 较弱(无统一阈值) |
| 主要应用场景 | 风控模型特征监控、数据质量巡检 | 信息论、模型分布拟合度评估 |
🎯 实践建议:在特征巡检和模型监控中,PSI 因其对称性和成熟的阈值体系(如 PSI < 0.1 表示稳定,0.1-0.25 需关注,> 0.25 表示显著漂移)而成为首选。理解其与 KL 散度的关系,有助于在需要更深入分析分布差异方向性时,灵活运用 KL 散度作为补充工具。