4. PSI指标原理:群体稳定性指标(PSI)的数学定义、计算公式、分箱策略

群体稳定性指标(Population Stability Index,PSI)是衡量模型评分或特征分布在时间维度上发生偏移程度的量化工具。在知识图谱阈值漂移巡查中,PSI用于监控图谱节点属性、边权重或社区密度等特征分布是否保持稳定,从而预警图谱结构或语义的退化。

4.1 数学定义与核心思想

PSI基于信息论中的相对熵(KL散度)思想,但通过对称化处理使其成为距离度量。其核心是比较两个分布:

  • 期望分布(Expected):通常为建模或上线初期的基准分布,记为 \( P \);
  • 实际分布(Actual):当前监控窗口内的分布,记为 \( Q \)。

PSI衡量的是 \( P \) 与 \( Q \) 之间的整体差异程度,值越大表示分布偏移越严重。

关键理解: PSI不是假设检验,而是工程化的分布距离指标。它不要求数据服从特定分布,适用于离散化后的任意概率分布比较。

4.2 计算公式

PSI的计算分为两步:先对连续变量或分数进行分箱(离散化),再逐箱计算贡献并求和。标准公式如下:

PSI = Σ [ (Actual_i - Expected_i) * ln(Actual_i / Expected_i) ]

其中:
- i = 第 i 个分箱(共 n 个箱)
- Actual_i = 当前分布在第 i 箱中的样本占比
- Expected_i = 基准分布在第 i 箱中的样本占比
- ln = 自然对数

当某个分箱中 Expected_i = 0 或 Actual_i = 0 时,为避免除零或对数无定义,通常采用以下处理方式:

  • 将占比为0的箱替换为一个极小值(如 0.0001);
  • 或将空箱与相邻箱合并。

4.3 分箱策略

分箱是PSI计算的关键前置步骤,直接影响指标的敏感性和稳定性。常见分箱策略如下表所示:

策略名称 方法描述 适用场景 注意事项
等距分箱 将数值范围均匀划分为k个区间 分布均匀、无极端值的连续变量 极端值可能导致空箱
等频分箱 按基准分布的分位数划分,使每箱样本数大致相等 偏态分布、长尾数据 分箱边界随基准分布变化
决策树分箱 利用决策树算法寻找最优切分点 需要最大化箱间差异的场景 计算成本较高
自定义分箱 根据业务知识或监管要求设定固定边界 图谱阈值有明确业务含义(如风险等级) 需定期验证边界合理性
图谱场景建议: 对于图谱节点度分布、PageRank值等幂律分布特征,推荐使用等频分箱,避免因长尾导致大量空箱;对于图谱社区规模、边权重等相对均匀的特征,等距分箱更直观。

4.4 PSI计算流程与分箱联动

下图展示了从原始分布到PSI值的完整计算链路,重点突出分箱策略在其中的核心位置:

PSI计算流程与分箱联动图 PSI计算流程与分箱联动 基准分布 P 当前分布 Q 分箱策略选择 分箱后 P' 分箱后 Q' 逐箱计算贡献 PSI = Σ贡献 阈值判定与预警 分箱策略影响PSI的敏感度

4.5 PSI阈值判定标准

在实际工程中,PSI值通常按以下经验阈值进行判定:

PSI范围 偏移程度 建议动作
PSI < 0.1 无显著偏移 无需干预,持续监控
0.1 ≤ PSI < 0.25 轻度偏移 触发告警,排查原因
PSI ≥ 0.25 严重偏移 立即介入,考虑模型或图谱更新
注意: 上述阈值为行业通用经验值,在知识图谱场景中,建议根据图谱特征的实际波动幅度进行校准。例如,对于高度动态的社交图谱,可适当放宽阈值;对于金融风控图谱,应保持更严格的阈值。

4.6 图谱场景中的PSI计算示例

假设监控图谱中“节点度”这一特征,基准分布与当前分布经等频分箱(5箱)后得到以下数据:

分箱编号 度范围 基准占比 Expected_i 当前占比 Actual_i 贡献值
1 [0, 2] 0.20 0.25 (0.25-0.20)*ln(0.25/0.20) = 0.0112
2 [3, 5] 0.20 0.18 (0.18-0.20)*ln(0.18/0.20) = 0.0021
3 [6, 10] 0.20 0.22 (0.22-0.20)*ln(0.22/0.20) = 0.0019
4 [11, 20] 0.20 0.15 (0.15-0.20)*ln(0.15/0.20) = 0.0144
5 [21, +∞) 0.20 0.20 0.0000
PSI = 0.0296

计算得到 PSI = 0.0296 < 0.1,表明当前图谱节点度分布与基准分布相比无显著偏移,图谱结构保持稳定。

工程要点: 在实际图谱监控系统中,PSI计算应支持自动化流水线,每日/每周定时计算,并将结果写入监控看板。分箱边界应基于基准分布固定,避免因分箱变化导致PSI值不可比。