4. PSI(群体稳定性指标)详解

群体稳定性指标(Population Stability Index, PSI)是衡量模型输入特征分布或模型输出分数随时间变化程度的量化工具。在策略编排与LightGBM重训决策中,PSI是判断“模型是否已失效”的核心依据之一。

4.1 PSI计算公式

PSI通过比较两个样本集(通常为训练集与当前生产集)在相同分箱上的分布差异来计算。其核心思想是:如果分布没有变化,每个分箱内的样本占比应基本一致;差异越大,PSI值越高。

计算步骤:

  1. 分箱:将特征或模型分数划分为 k 个等宽或等频区间(通常为10个分箱)。
  2. 计算实际占比:统计当前生产样本在每个分箱中的占比 Pi。
  3. 计算预期占比:统计训练集样本在每个分箱中的占比 Qi。
  4. 代入公式:
PSI = Σ (P_i - Q_i) * ln(P_i / Q_i)   (i = 1, 2, ..., k)

其中:

  • Pi:当前样本在第 i 个分箱中的占比。
  • Qi:训练样本在第 i 个分箱中的占比。
  • ln:自然对数。
⚠️ 分箱注意事项:当某个分箱中 Qi 或 Pi 为0时,会导致公式中的对数项无定义。实践中通常对空箱进行平滑处理(如加入极小值 0.0001),或使用等频分箱避免空箱。

4.2 PSI阈值设定

PSI的数值大小直接对应分布偏移的严重程度。行业通用阈值如下:

PSI 范围 稳定性等级 建议操作
< 0.1 稳定 无需干预,模型可继续使用。
0.1 – 0.2 需关注 触发预警,排查特征来源或业务逻辑是否发生变化。
> 0.2 偏移严重 立即启动重训流程,或回滚至上一稳定版本。
阈值调整说明:上述阈值为通用经验值。在风控、医疗等高风险场景中,建议将“需关注”阈值下调至 0.05;而在推荐系统等高频迭代场景中,可适当放宽至 0.15。阈值设定需结合业务容忍度与重训成本综合决定。

4.3 PSI在特征级与模型级的应用

PSI可分别应用于特征层面和模型输出层面,两者揭示的问题维度不同:

  • 特征级 PSI:监控每个输入特征的分布偏移。用于定位具体哪个特征发生了漂移,指导特征工程或数据修复。
  • 模型级 PSI:监控模型预测分数(如LightGBM输出的概率值)的整体分布偏移。用于判断模型整体是否失效,是触发重训的核心指标。

下表对比了两者的应用场景与差异:

应用层级 监控对象 主要用途 重训触发条件
特征级 单个特征(如年龄、收入) 定位偏移源,排查数据采集或业务变更 不直接触发重训,但作为辅助诊断
模型级 模型输出分数 评估模型整体稳定性 PSI > 0.2 时触发重训
实践建议:在LightGBM重训策略中,建议同时监控特征级与模型级PSI。当模型级PSI超过阈值时,先查看特征级PSI找出偏移最大的Top-5特征,再决定是修复数据、回滚特征还是直接重训模型。

4.4 PSI计算与监控流程

下图展示了从数据采集到重训决策的完整PSI监控流程:

PSI监控与重训决策流程 训练集分布 (Q) 生产集分布 (P) 等频/等宽分箱对齐 计算 PSI = Σ(P-Q)·ln(P/Q) PSI 阈值判断 PSI < 0.1:保持 0.1-0.2:预警排查 PSI > 0.2:重训 说明:特征级PSI与模型级PSI均适用此流程,仅需将输入分布替换为对应数据。

4.5 特征级PSI与模型级PSI的联动分析

在实际监控中,特征级PSI与模型级PSI并非孤立使用。下图展示了当模型级PSI触发预警时,如何通过特征级PSI进行根因定位:

特征级与模型级PSI联动分析 模型级 PSI = 0.25 触发重训预警,开始特征级排查 特征A PSI = 0.35 特征B PSI = 0.28 特征C PSI = 0.05 主要偏移源 → 修复 次要偏移源 → 关注 稳定特征 → 忽略
联动分析要点:
  • 当模型级PSI > 0.2时,立即计算所有特征的PSI,并按PSI值降序排列。
  • 重点关注PSI > 0.2的特征,这些是导致模型偏移的主要因素。
  • 对于PSI在0.1-0.2之间的特征,结合业务判断是否需要修复。
  • 如果所有特征PSI均 < 0.1但模型级PSI偏高,检查模型输出层的计算逻辑或样本权重是否发生变化。