3、监控指标体系:PSI、CSI 与模型性能衰减指标

在风险定价模型的持续监控中,群体稳定性指标(PSI)、特征稳定性指标(CSI)与模型性能衰减指标构成了三位一体的监控核心。PSI 衡量模型评分分布的整体偏移,CSI 定位具体特征的贡献变化,而性能衰减指标则直接评估模型预测能力的退化程度。三者协同工作,能够快速定位漂移源头并量化影响。

3.1 群体稳定性指标(PSI)

PSI 是监控模型评分分布稳定性的标准指标,用于比较模型在开发样本(期望分布)与监控样本(实际分布)之间的差异。其计算公式为:

PSI = Σ (实际占比_i - 期望占比_i) * ln(实际占比_i / 期望占比_i)

计算步骤通常包括:

  1. 分箱:将模型评分按等宽或等频方式划分为 10 个区间(通常为 10 箱)。
  2. 计算占比:分别统计每个区间在期望分布和实际分布中的样本占比。
  3. 计算单项贡献:对每个区间计算 (实际占比 - 期望占比) * ln(实际占比 / 期望占比)。
  4. 求和:将所有区间的贡献值相加得到 PSI。
PSI 判定阈值(行业通用标准)
  • PSI < 0.1:群体稳定,无需特别关注。
  • 0.1 ≤ PSI < 0.25:轻度漂移,需进一步分析原因。
  • PSI ≥ 0.25:显著漂移,必须触发模型重训或调整。
实践提示:当 PSI 超过 0.25 时,建议立即检查近期客群结构变化、宏观经济事件或产品策略调整。PSI 是“报警器”,但无法告诉你哪个特征出了问题——这需要 CSI 来回答。
PSI 计算流程与判定逻辑 PSI 计算流程与判定逻辑 期望分布 实际分布 等频/等宽分箱 计算 PSI 值 阈值判定 判定结果 PSI < 0.1 → 稳定 | 0.1 ≤ PSI < 0.25 → 轻度漂移 | PSI ≥ 0.25 → 显著漂移

3.2 特征稳定性指标(CSI)

CSI 是 PSI 的向下拆解,用于衡量单个特征在期望分布与实际分布之间的偏移程度。CSI 的计算公式与 PSI 完全相同,但计算对象从模型评分替换为具体特征值。CSI 能够帮助风控团队精准定位导致模型漂移的“元凶特征”。

指标 计算对象 监控目的 典型阈值
PSI 模型评分(Score) 整体群体稳定性 0.1 / 0.25
CSI 单个特征(Feature) 定位漂移特征 0.02 / 0.1
注意:CSI 的阈值通常比 PSI 更严格。对于重要特征(如收入、负债率),CSI 超过 0.1 即应视为高风险;对于次要特征,可适当放宽至 0.2。建议对每个特征设置差异化阈值,并结合业务逻辑判断。

CSI 的监控流程通常包含以下步骤:

  • 特征分箱:对连续特征进行分箱(等频或等宽),对离散特征直接使用原始类别。
  • 计算占比:统计每个箱/类别在期望样本和实际样本中的占比。
  • 计算 CSI:按 PSI 公式计算每个特征的 CSI 值。
  • 排序与排查:按 CSI 值从大到小排序,优先排查 CSI 最高的前 5-10 个特征。
PSI 与 CSI 层级关系及漂移定位流程 PSI 与 CSI 层级关系及漂移定位流程 模型评分(PSI) 特征 A(CSI=0.15) 特征 B(CSI=0.03) 特征 C(CSI=0.08) 按 CSI 排序 → 排查 Top 特征 → 业务归因 → 触发重训或特征工程 PSI 报警 → 查看 CSI 排序 → 定位高 CSI 特征 → 分析业务原因 → 决策是否重训

3.3 模型性能衰减指标

PSI 和 CSI 衡量的是输入分布的变化,而性能衰减指标直接评估模型输出质量的下滑。常用的性能衰减指标包括:

指标类别 具体指标 监控频率 衰减判定
区分能力 KS、AUC、Gini 月度/季度 KS 下降 > 0.05 或 AUC 下降 > 0.03
校准能力 校准曲线、Brier Score 月度 Brier Score 上升 > 0.02
排序能力 Lift 图、Gain 图 季度 Top 10% Lift 下降 > 10%
业务指标 坏账率、通过率、逾期率 周度/月度 坏账率上升 > 20% 或通过率波动 > 5%
性能衰减与分布漂移的关系

分布漂移(PSI/CSI 异常)不一定导致性能衰减,反之亦然。例如:

  • PSI 高但性能稳定:模型对分布变化鲁棒,或漂移发生在非关键特征上。
  • PSI 低但性能衰减:模型过拟合、环境突变或数据质量问题导致。

因此,必须同时监控分布指标和性能指标,避免单一视角的误判。

3.4 监控指标联动分析框架

在实际监控中,PSI、CSI 与性能衰减指标需要联动分析,形成完整的决策链路:

  1. 触发:PSI 超过 0.1 或性能指标(如 AUC)连续两个月下降。
  2. 定位:计算所有特征的 CSI,按贡献度排序,识别 Top 5 漂移特征。
  3. 归因:结合业务逻辑,分析漂移特征是否由客群结构变化、数据采集变更或外部环境导致。
  4. 决策:
    • 若漂移特征可解释且影响可控 → 更新特征工程或调整阈值。
    • 若漂移特征不可控且性能衰减严重 → 触发模型重训。
    • 若漂移特征为临时性波动 → 持续监控,暂不干预。
最佳实践:建议建立“监控仪表盘”,将 PSI、Top 5 CSI 特征、AUC 趋势、坏账率趋势放在同一视图中。当 PSI 或 AUC 触发预警时,自动高亮对应的 CSI 特征,缩短排查时间。