2. PSI指标基础:数学定义、公式推导与统计学意义
2.1 PSI的数学定义
群体稳定性指标(Population Stability Index, PSI)是一种衡量两个概率分布或分数分布之间差异的标准化度量。在机器学习运维中,PSI 用于量化模型在训练/验证阶段(预期分布)与生产阶段(实际分布)之间特征或预测分数的偏移程度。
PSI 的数学定义基于信息论中的 Kullback-Leibler 散度(KL 散度)的对称化形式。对于两个离散概率分布 P(预期分布)和 Q(实际分布),PSI 定义为:
PSI = Σ (P_i - Q_i) * ln(P_i / Q_i)
其中:
- P_i:第 i 个分箱中预期样本的占比(如训练集或上一生产周期)
- Q_i:第 i 个分箱中实际样本的占比(如当前生产周期)
- ln:自然对数
- Σ:对所有分箱求和
关键理解: PSI 本质上是两个分布的“距离”度量。当 P 和 Q 完全一致时,每个分箱的 (P_i - Q_i) = 0,PSI = 0。分布差异越大,PSI 值越高。
2.2 PSI计算公式的逐步推导
PSI 的推导可以从 KL 散度出发。KL 散度衡量分布 P 相对于分布 Q 的信息损失:
KL(P || Q) = Σ P_i * ln(P_i / Q_i)
KL 散度是非对称的,即 KL(P || Q) ≠ KL(Q || P)。为了获得对称的度量,PSI 采用两个 KL 散度的和:
PSI = KL(P || Q) + KL(Q || P)
展开后得到:
PSI = Σ P_i * ln(P_i / Q_i) + Σ Q_i * ln(Q_i / P_i)
利用对数性质 ln(Q_i / P_i) = -ln(P_i / Q_i),合并两项:
PSI = Σ P_i * ln(P_i / Q_i) - Σ Q_i * ln(P_i / Q_i)
= Σ (P_i - Q_i) * ln(P_i / Q_i)
这就是 PSI 的最终计算公式。在实际计算中,通常按以下步骤操作:
- 分箱:将分数或概率值划分为 K 个等宽或等频区间(通常 10 箱)
- 计算占比:统计每个区间在预期分布 P 和实际分布 Q 中的样本占比
- 处理零值:若某区间占比为 0,用极小值(如 0.0001)替代,避免对数计算错误
- 逐箱计算:对每个区间计算 (P_i - Q_i) * ln(P_i / Q_i)
- 求和:将所有区间的结果相加,得到 PSI 值
实践建议:分箱数量通常固定为 10。分箱过少会丢失分布细节,分箱过多会导致零值区间增多、计算不稳定。等频分箱比等宽分箱更能捕捉尾部变化。
2.3 PSI的统计学意义
PSI 的统计学意义可以从三个层面理解:
| 层面 | 解释 | 业务含义 |
|---|---|---|
| 信息论层面 | PSI 衡量两个分布之间的“信息距离”,即用 Q 分布编码 P 分布时所需的额外信息量 | 分布偏移越大,模型需要“重新学习”的信息越多 |
| 概率论层面 | PSI 是概率分布差异的对称化度量,对分布的形状、位置、尾部变化均敏感 | 均值不变但方差增大时,PSI 仍能检测到偏移 |
| 应用统计层面 | PSI 值对应不同的漂移严重程度,行业通用阈值提供了可操作的判断标准 | 无需复杂统计检验,直接通过数值大小决定是否触发告警 |
行业通用的 PSI 阈值判断标准如下:
| PSI 范围 | 漂移程度 | 建议操作 |
|---|---|---|
| PSI < 0.1 | 无显著漂移 | 无需干预,继续监控 |
| 0.1 ≤ PSI < 0.25 | 轻度漂移 | 调查原因,加强监控频率 |
| PSI ≥ 0.25 | 严重漂移 | 立即告警,启动模型重训或回滚 |
注意: 阈值并非绝对。在金融风控等高风险场景,建议将告警阈值下调至 0.15;在推荐系统等高频迭代场景,可适当上调至 0.3。阈值选择应结合业务容忍度和模型更新频率。
2.4 PSI计算流程与分布关系图示
下图展示了 PSI 从原始分布到最终指标的计算流程,以及预期分布与实际分布之间的对比关系:
2.5 PSI与KL散度的关系对比
理解 PSI 与 KL 散度的区别,有助于更深入地把握 PSI 的数学特性:
| 特性 | KL 散度 | PSI |
|---|---|---|
| 对称性 | 非对称:KL(P||Q) ≠ KL(Q||P) | 对称:PSI(P,Q) = PSI(Q,P) |
| 取值范围 | [0, +∞) | [0, +∞) |
| 最小值条件 | P = Q 时 KL = 0 | P = Q 时 PSI = 0 |
| 三角不等式 | 不满足 | 不满足(非严格距离度量) |
| 对尾部敏感度 | 高(对数项放大尾部差异) | 高(继承 KL 特性) |
| 实际应用 | 信息论、变分推断 | 模型监控、特征漂移检测 |
核心结论: PSI 是 KL 散度的对称化版本,继承了 KL 散度对分布尾部差异敏感的优点,同时消除了方向性。这使得 PSI 成为模型监控中衡量分布偏移的“标准语言”——无论哪个分布作为基准,计算结果一致,便于团队沟通和自动化告警。