PSI在精算模型延迟尖峰中的应用 - 第4节

4.1 PSI 的数学定义与公式推导

群体稳定性指标(Population Stability Index, PSI)衡量的是两个分布之间的整体偏移程度。在精算模型中,通常比较的是模型评分在期望(开发/基准)样本与观测(当前/生产)样本上的分布差异。

4.1.1 核心公式

PSI 的计算基于信息论中的 KL 散度(Kullback-Leibler divergence)的对称化形式。其基本公式为:

PSI = Σ (P_i - Q_i) × ln(P_i / Q_i)

其中:

  • P_i:第 i 个分箱中观测样本的占比(实际发生比例)
  • Q_i:第 i 个分箱中期望样本的占比(基准比例)
  • i:分箱索引,从 1 到 N(总箱数)
公式解读: 当 P_i 与 Q_i 完全相等时,ln(P_i/Q_i) = 0,PSI = 0,表示分布无偏移。差值越大,PSI 值越高,群体稳定性越差。

4.1.2 从 KL 散度到 PSI 的推导

KL 散度衡量两个概率分布 P 和 Q 的不对称差异:

KL(P||Q) = Σ P_i × ln(P_i / Q_i)
KL(Q||P) = Σ Q_i × ln(Q_i / P_i)

PSI 实际上是两个 KL 散度的对称化求和:

PSI = KL(P||Q) + KL(Q||P)
    = Σ P_i × ln(P_i / Q_i) + Σ Q_i × ln(Q_i / P_i)
    = Σ (P_i - Q_i) × ln(P_i / Q_i)

这种对称化使得 PSI 对分布偏移的方向不敏感,只关注整体差异幅度。

精算应用要点: 在延迟尖峰检测中,PSI 的对称性确保无论模型评分是整体偏高还是偏低,都能被同等捕捉。

4.2 期望值与观测值的比较逻辑

PSI 的核心是比较两个时间点的分布差异。在精算模型延迟尖峰场景中,比较对象通常为:

比较维度 期望样本(基准) 观测样本(当前)
时间窗口 模型开发期(如 2023Q1–2023Q4) 模型监控期(如 2024Q1)
数据来源 训练/验证数据集 生产环境实时数据
评分分布 模型输出的预测概率或风险评分 模型输出的预测概率或风险评分
业务含义 模型预期的风险分布 实际发生的风险分布

当观测样本的分布相对于期望样本发生显著偏移时,PSI 值升高,提示模型可能面临延迟尖峰或概念漂移风险。

常见误区: 不要将 PSI 与模型性能指标(如 AUC、KS)混淆。PSI 只衡量输入/输出分布的变化,不直接衡量预测准确性。分布稳定是模型可靠的前提,但不是充分条件。

4.3 分箱策略

分箱是 PSI 计算的关键前置步骤。不同的分箱策略会直接影响 PSI 值的敏感性和稳定性。以下是三种主流分箱方法的对比。

4.3.1 等宽分箱(Equal Width Binning)

将评分范围划分为宽度相等的区间。例如,评分范围为 0–100,分 10 箱,则每箱宽度为 10。

箱宽 = (MaxScore - MinScore) / N
第 i 箱范围: [MinScore + (i-1)×箱宽, MinScore + i×箱宽)

优点: 实现简单,箱边界固定,易于解释。

缺点: 当数据分布不均匀时,某些箱可能包含极少量样本,导致 PSI 计算不稳定。

4.3.2 等频分箱(Equal Frequency Binning)

使每个箱包含大致相同数量的样本。基于期望样本的百分位数确定箱边界。

每箱样本数 ≈ 总样本数 / N
箱边界 = 期望样本的第 (100/N) 百分位数

优点: 每个箱都有足够的样本量,PSI 计算更稳健。

缺点: 箱边界依赖于期望样本的分布,当观测样本分布变化时,边界可能不再等频。

4.3.3 最优分箱(Optimal Binning)

基于统计准则(如卡方检验、信息价值 IV、最小熵)自动寻找最佳分箱点。常用方法包括:

  • 卡方分箱: 合并相邻且分布差异不显著的箱,直到满足显著性阈值。
  • 决策树分箱: 以目标变量(如是否发生延迟尖峰)为监督,递归分割评分区间。
  • 基于 IV 的分箱: 最大化每个箱的信息价值,同时保证箱内样本充足。
精算推荐: 在延迟尖峰检测中,优先使用等频分箱作为默认策略,因为它对样本量分布不敏感,PSI 值更稳定。当需要更精细的边界划分时,可结合最优分箱进行调优。

4.4 分箱策略对比总结

策略 分箱依据 样本量均衡性 PSI 稳定性 适用场景
等宽分箱 评分值等距 差(可能空箱) 低 评分范围已知且分布均匀
等频分箱 样本百分位数 好 高 通用场景,延迟尖峰检测首选
最优分箱 统计准则 中等 中高 需要精细边界或监督信息

4.5 PSI 计算流程与分箱策略关系图

PSI 计算流程与分箱策略关系图 输入:评分分布 分箱策略选择 等宽分箱 评分值等距划分 等频分箱 样本百分位数划分 最优分箱 统计准则自动划分 计算期望占比 Q_i 计算观测占比 P_i 输出 PSI 值

4.6 分箱策略对 PSI 敏感性的影响

为了直观展示不同分箱策略对 PSI 计算结果的影响,以下通过一个模拟示例进行对比。

评分区间 期望占比 Q_i 观测占比 P_i 等宽 PSI 贡献 等频 PSI 贡献
0–20 0.10 0.05 0.025 —
20–40 0.20 0.15 0.014 —
40–60 0.40 0.35 0.007 —
60–80 0.20 0.30 0.041 —
80–100 0.10 0.15 0.020 —
PSI 合计 0.107 0.089
观察结论: 等宽分箱对极端值(如 0–20 和 80–100 区间)的偏移更敏感,PSI 值偏高;等频分箱由于样本量均衡,PSI 值更平滑。在延迟尖峰检测中,建议同时计算两种分箱策略的 PSI,取较高值作为预警信号,避免漏报。

4.7 分箱数量选择建议

分箱数量 N 的选择直接影响 PSI 的统计效力。以下是精算实践中的推荐规则:

  • N = 10:行业标准,适用于大多数场景,平衡了敏感性与稳定性。
  • N = 5–8:当样本量较小(< 1000)时使用,避免空箱或样本不足。
  • N = 15–20:当样本量很大(> 100,000)且需要高灵敏度时使用。
  • 经验法则: 每箱至少包含 50 个样本,确保 PSI 贡献的统计可靠性。
避坑提示: 不要使用过少的分箱(如 N < 5),否则 PSI 会丧失对局部偏移的敏感性;也不要使用过多的分箱(如 N > 30),否则噪声会被放大,导致频繁误报。