PSI在精算模型延迟尖峰中的应用 - 第4节
4.1 PSI 的数学定义与公式推导
群体稳定性指标(Population Stability Index, PSI)衡量的是两个分布之间的整体偏移程度。在精算模型中,通常比较的是模型评分在期望(开发/基准)样本与观测(当前/生产)样本上的分布差异。
4.1.1 核心公式
PSI 的计算基于信息论中的 KL 散度(Kullback-Leibler divergence)的对称化形式。其基本公式为:
PSI = Σ (P_i - Q_i) × ln(P_i / Q_i)
其中:
- P_i:第 i 个分箱中观测样本的占比(实际发生比例)
- Q_i:第 i 个分箱中期望样本的占比(基准比例)
- i:分箱索引,从 1 到 N(总箱数)
公式解读: 当 P_i 与 Q_i 完全相等时,ln(P_i/Q_i) = 0,PSI = 0,表示分布无偏移。差值越大,PSI 值越高,群体稳定性越差。
4.1.2 从 KL 散度到 PSI 的推导
KL 散度衡量两个概率分布 P 和 Q 的不对称差异:
KL(P||Q) = Σ P_i × ln(P_i / Q_i)
KL(Q||P) = Σ Q_i × ln(Q_i / P_i)
PSI 实际上是两个 KL 散度的对称化求和:
PSI = KL(P||Q) + KL(Q||P)
= Σ P_i × ln(P_i / Q_i) + Σ Q_i × ln(Q_i / P_i)
= Σ (P_i - Q_i) × ln(P_i / Q_i)
这种对称化使得 PSI 对分布偏移的方向不敏感,只关注整体差异幅度。
精算应用要点: 在延迟尖峰检测中,PSI 的对称性确保无论模型评分是整体偏高还是偏低,都能被同等捕捉。
4.2 期望值与观测值的比较逻辑
PSI 的核心是比较两个时间点的分布差异。在精算模型延迟尖峰场景中,比较对象通常为:
| 比较维度 | 期望样本(基准) | 观测样本(当前) |
|---|---|---|
| 时间窗口 | 模型开发期(如 2023Q1–2023Q4) | 模型监控期(如 2024Q1) |
| 数据来源 | 训练/验证数据集 | 生产环境实时数据 |
| 评分分布 | 模型输出的预测概率或风险评分 | 模型输出的预测概率或风险评分 |
| 业务含义 | 模型预期的风险分布 | 实际发生的风险分布 |
当观测样本的分布相对于期望样本发生显著偏移时,PSI 值升高,提示模型可能面临延迟尖峰或概念漂移风险。
常见误区: 不要将 PSI 与模型性能指标(如 AUC、KS)混淆。PSI 只衡量输入/输出分布的变化,不直接衡量预测准确性。分布稳定是模型可靠的前提,但不是充分条件。
4.3 分箱策略
分箱是 PSI 计算的关键前置步骤。不同的分箱策略会直接影响 PSI 值的敏感性和稳定性。以下是三种主流分箱方法的对比。
4.3.1 等宽分箱(Equal Width Binning)
将评分范围划分为宽度相等的区间。例如,评分范围为 0–100,分 10 箱,则每箱宽度为 10。
箱宽 = (MaxScore - MinScore) / N
第 i 箱范围: [MinScore + (i-1)×箱宽, MinScore + i×箱宽)
优点: 实现简单,箱边界固定,易于解释。
缺点: 当数据分布不均匀时,某些箱可能包含极少量样本,导致 PSI 计算不稳定。
4.3.2 等频分箱(Equal Frequency Binning)
使每个箱包含大致相同数量的样本。基于期望样本的百分位数确定箱边界。
每箱样本数 ≈ 总样本数 / N
箱边界 = 期望样本的第 (100/N) 百分位数
优点: 每个箱都有足够的样本量,PSI 计算更稳健。
缺点: 箱边界依赖于期望样本的分布,当观测样本分布变化时,边界可能不再等频。
4.3.3 最优分箱(Optimal Binning)
基于统计准则(如卡方检验、信息价值 IV、最小熵)自动寻找最佳分箱点。常用方法包括:
- 卡方分箱: 合并相邻且分布差异不显著的箱,直到满足显著性阈值。
- 决策树分箱: 以目标变量(如是否发生延迟尖峰)为监督,递归分割评分区间。
- 基于 IV 的分箱: 最大化每个箱的信息价值,同时保证箱内样本充足。
精算推荐: 在延迟尖峰检测中,优先使用等频分箱作为默认策略,因为它对样本量分布不敏感,PSI 值更稳定。当需要更精细的边界划分时,可结合最优分箱进行调优。
4.4 分箱策略对比总结
| 策略 | 分箱依据 | 样本量均衡性 | PSI 稳定性 | 适用场景 |
|---|---|---|---|---|
| 等宽分箱 | 评分值等距 | 差(可能空箱) | 低 | 评分范围已知且分布均匀 |
| 等频分箱 | 样本百分位数 | 好 | 高 | 通用场景,延迟尖峰检测首选 |
| 最优分箱 | 统计准则 | 中等 | 中高 | 需要精细边界或监督信息 |
4.5 PSI 计算流程与分箱策略关系图
4.6 分箱策略对 PSI 敏感性的影响
为了直观展示不同分箱策略对 PSI 计算结果的影响,以下通过一个模拟示例进行对比。
| 评分区间 | 期望占比 Q_i | 观测占比 P_i | 等宽 PSI 贡献 | 等频 PSI 贡献 |
|---|---|---|---|---|
| 0–20 | 0.10 | 0.05 | 0.025 | — |
| 20–40 | 0.20 | 0.15 | 0.014 | — |
| 40–60 | 0.40 | 0.35 | 0.007 | — |
| 60–80 | 0.20 | 0.30 | 0.041 | — |
| 80–100 | 0.10 | 0.15 | 0.020 | — |
| PSI 合计 | 0.107 | 0.089 |
观察结论: 等宽分箱对极端值(如 0–20 和 80–100 区间)的偏移更敏感,PSI 值偏高;等频分箱由于样本量均衡,PSI 值更平滑。在延迟尖峰检测中,建议同时计算两种分箱策略的 PSI,取较高值作为预警信号,避免漏报。
4.7 分箱数量选择建议
分箱数量 N 的选择直接影响 PSI 的统计效力。以下是精算实践中的推荐规则:
- N = 10:行业标准,适用于大多数场景,平衡了敏感性与稳定性。
- N = 5–8:当样本量较小(< 1000)时使用,避免空箱或样本不足。
- N = 15–20:当样本量很大(> 100,000)且需要高灵敏度时使用。
- 经验法则: 每箱至少包含 50 个样本,确保 PSI 贡献的统计可靠性。
避坑提示: 不要使用过少的分箱(如 N < 5),否则 PSI 会丧失对局部偏移的敏感性;也不要使用过多的分箱(如 N > 30),否则噪声会被放大,导致频繁误报。