4. PSI指标原理:群体稳定性指标(PSI)的数学定义、计算公式、分箱策略
群体稳定性指标(Population Stability Index,PSI)是衡量模型评分或特征分布在时间维度上发生偏移程度的量化工具。在知识图谱阈值漂移巡查中,PSI用于监控图谱节点属性、边权重或社区密度等特征分布是否保持稳定,从而预警图谱结构或语义的退化。
4.1 数学定义与核心思想
PSI基于信息论中的相对熵(KL散度)思想,但通过对称化处理使其成为距离度量。其核心是比较两个分布:
- 期望分布(Expected):通常为建模或上线初期的基准分布,记为 \( P \);
- 实际分布(Actual):当前监控窗口内的分布,记为 \( Q \)。
PSI衡量的是 \( P \) 与 \( Q \) 之间的整体差异程度,值越大表示分布偏移越严重。
关键理解: PSI不是假设检验,而是工程化的分布距离指标。它不要求数据服从特定分布,适用于离散化后的任意概率分布比较。
4.2 计算公式
PSI的计算分为两步:先对连续变量或分数进行分箱(离散化),再逐箱计算贡献并求和。标准公式如下:
PSI = Σ [ (Actual_i - Expected_i) * ln(Actual_i / Expected_i) ]
其中:
- i = 第 i 个分箱(共 n 个箱)
- Actual_i = 当前分布在第 i 箱中的样本占比
- Expected_i = 基准分布在第 i 箱中的样本占比
- ln = 自然对数
当某个分箱中 Expected_i = 0 或 Actual_i = 0 时,为避免除零或对数无定义,通常采用以下处理方式:
- 将占比为0的箱替换为一个极小值(如 0.0001);
- 或将空箱与相邻箱合并。
4.3 分箱策略
分箱是PSI计算的关键前置步骤,直接影响指标的敏感性和稳定性。常见分箱策略如下表所示:
| 策略名称 | 方法描述 | 适用场景 | 注意事项 |
|---|---|---|---|
| 等距分箱 | 将数值范围均匀划分为k个区间 | 分布均匀、无极端值的连续变量 | 极端值可能导致空箱 |
| 等频分箱 | 按基准分布的分位数划分,使每箱样本数大致相等 | 偏态分布、长尾数据 | 分箱边界随基准分布变化 |
| 决策树分箱 | 利用决策树算法寻找最优切分点 | 需要最大化箱间差异的场景 | 计算成本较高 |
| 自定义分箱 | 根据业务知识或监管要求设定固定边界 | 图谱阈值有明确业务含义(如风险等级) | 需定期验证边界合理性 |
图谱场景建议: 对于图谱节点度分布、PageRank值等幂律分布特征,推荐使用等频分箱,避免因长尾导致大量空箱;对于图谱社区规模、边权重等相对均匀的特征,等距分箱更直观。
4.4 PSI计算流程与分箱联动
下图展示了从原始分布到PSI值的完整计算链路,重点突出分箱策略在其中的核心位置:
4.5 PSI阈值判定标准
在实际工程中,PSI值通常按以下经验阈值进行判定:
| PSI范围 | 偏移程度 | 建议动作 |
|---|---|---|
| PSI < 0.1 | 无显著偏移 | 无需干预,持续监控 |
| 0.1 ≤ PSI < 0.25 | 轻度偏移 | 触发告警,排查原因 |
| PSI ≥ 0.25 | 严重偏移 | 立即介入,考虑模型或图谱更新 |
注意: 上述阈值为行业通用经验值,在知识图谱场景中,建议根据图谱特征的实际波动幅度进行校准。例如,对于高度动态的社交图谱,可适当放宽阈值;对于金融风控图谱,应保持更严格的阈值。
4.6 图谱场景中的PSI计算示例
假设监控图谱中“节点度”这一特征,基准分布与当前分布经等频分箱(5箱)后得到以下数据:
| 分箱编号 | 度范围 | 基准占比 Expected_i | 当前占比 Actual_i | 贡献值 |
|---|---|---|---|---|
| 1 | [0, 2] | 0.20 | 0.25 | (0.25-0.20)*ln(0.25/0.20) = 0.0112 |
| 2 | [3, 5] | 0.20 | 0.18 | (0.18-0.20)*ln(0.18/0.20) = 0.0021 |
| 3 | [6, 10] | 0.20 | 0.22 | (0.22-0.20)*ln(0.22/0.20) = 0.0019 |
| 4 | [11, 20] | 0.20 | 0.15 | (0.15-0.20)*ln(0.15/0.20) = 0.0144 |
| 5 | [21, +∞) | 0.20 | 0.20 | 0.0000 |
| PSI = | 0.0296 | |||
计算得到 PSI = 0.0296 < 0.1,表明当前图谱节点度分布与基准分布相比无显著偏移,图谱结构保持稳定。
工程要点: 在实际图谱监控系统中,PSI计算应支持自动化流水线,每日/每周定时计算,并将结果写入监控看板。分箱边界应基于基准分布固定,避免因分箱变化导致PSI值不可比。