3、监控指标体系:PSI、CSI 与模型性能衰减指标
在风险定价模型的持续监控中,群体稳定性指标(PSI)、特征稳定性指标(CSI)与模型性能衰减指标构成了三位一体的监控核心。PSI 衡量模型评分分布的整体偏移,CSI 定位具体特征的贡献变化,而性能衰减指标则直接评估模型预测能力的退化程度。三者协同工作,能够快速定位漂移源头并量化影响。
3.1 群体稳定性指标(PSI)
PSI 是监控模型评分分布稳定性的标准指标,用于比较模型在开发样本(期望分布)与监控样本(实际分布)之间的差异。其计算公式为:
PSI = Σ (实际占比_i - 期望占比_i) * ln(实际占比_i / 期望占比_i)
计算步骤通常包括:
- 分箱:将模型评分按等宽或等频方式划分为 10 个区间(通常为 10 箱)。
- 计算占比:分别统计每个区间在期望分布和实际分布中的样本占比。
- 计算单项贡献:对每个区间计算 (实际占比 - 期望占比) * ln(实际占比 / 期望占比)。
- 求和:将所有区间的贡献值相加得到 PSI。
PSI 判定阈值(行业通用标准)
- PSI < 0.1:群体稳定,无需特别关注。
- 0.1 ≤ PSI < 0.25:轻度漂移,需进一步分析原因。
- PSI ≥ 0.25:显著漂移,必须触发模型重训或调整。
实践提示:当 PSI 超过 0.25 时,建议立即检查近期客群结构变化、宏观经济事件或产品策略调整。PSI 是“报警器”,但无法告诉你哪个特征出了问题——这需要 CSI 来回答。
3.2 特征稳定性指标(CSI)
CSI 是 PSI 的向下拆解,用于衡量单个特征在期望分布与实际分布之间的偏移程度。CSI 的计算公式与 PSI 完全相同,但计算对象从模型评分替换为具体特征值。CSI 能够帮助风控团队精准定位导致模型漂移的“元凶特征”。
| 指标 | 计算对象 | 监控目的 | 典型阈值 |
|---|---|---|---|
| PSI | 模型评分(Score) | 整体群体稳定性 | 0.1 / 0.25 |
| CSI | 单个特征(Feature) | 定位漂移特征 | 0.02 / 0.1 |
注意:CSI 的阈值通常比 PSI 更严格。对于重要特征(如收入、负债率),CSI 超过 0.1 即应视为高风险;对于次要特征,可适当放宽至 0.2。建议对每个特征设置差异化阈值,并结合业务逻辑判断。
CSI 的监控流程通常包含以下步骤:
- 特征分箱:对连续特征进行分箱(等频或等宽),对离散特征直接使用原始类别。
- 计算占比:统计每个箱/类别在期望样本和实际样本中的占比。
- 计算 CSI:按 PSI 公式计算每个特征的 CSI 值。
- 排序与排查:按 CSI 值从大到小排序,优先排查 CSI 最高的前 5-10 个特征。
3.3 模型性能衰减指标
PSI 和 CSI 衡量的是输入分布的变化,而性能衰减指标直接评估模型输出质量的下滑。常用的性能衰减指标包括:
| 指标类别 | 具体指标 | 监控频率 | 衰减判定 |
|---|---|---|---|
| 区分能力 | KS、AUC、Gini | 月度/季度 | KS 下降 > 0.05 或 AUC 下降 > 0.03 |
| 校准能力 | 校准曲线、Brier Score | 月度 | Brier Score 上升 > 0.02 |
| 排序能力 | Lift 图、Gain 图 | 季度 | Top 10% Lift 下降 > 10% |
| 业务指标 | 坏账率、通过率、逾期率 | 周度/月度 | 坏账率上升 > 20% 或通过率波动 > 5% |
性能衰减与分布漂移的关系
分布漂移(PSI/CSI 异常)不一定导致性能衰减,反之亦然。例如:
- PSI 高但性能稳定:模型对分布变化鲁棒,或漂移发生在非关键特征上。
- PSI 低但性能衰减:模型过拟合、环境突变或数据质量问题导致。
因此,必须同时监控分布指标和性能指标,避免单一视角的误判。
3.4 监控指标联动分析框架
在实际监控中,PSI、CSI 与性能衰减指标需要联动分析,形成完整的决策链路:
- 触发:PSI 超过 0.1 或性能指标(如 AUC)连续两个月下降。
- 定位:计算所有特征的 CSI,按贡献度排序,识别 Top 5 漂移特征。
- 归因:结合业务逻辑,分析漂移特征是否由客群结构变化、数据采集变更或外部环境导致。
- 决策:
- 若漂移特征可解释且影响可控 → 更新特征工程或调整阈值。
- 若漂移特征不可控且性能衰减严重 → 触发模型重训。
- 若漂移特征为临时性波动 → 持续监控,暂不干预。
最佳实践:建议建立“监控仪表盘”,将 PSI、Top 5 CSI 特征、AUC 趋势、坏账率趋势放在同一视图中。当 PSI 或 AUC 触发预警时,自动高亮对应的 CSI 特征,缩短排查时间。