4. 巡检指标体系:PSI、CSI、KS、AUC 在稳定性监控中的角色
在定价模型的生命周期管理中,稳定性监控是确保模型“上线后不跑偏”的核心防线。本章聚焦四个最关键的量化指标:PSI(群体稳定性指标)、CSI(特征稳定性指标)、KS(区分度指标)和AUC(区分能力指标)。它们分别从“分数分布漂移”、“特征贡献漂移”、“排序能力衰减”和“整体区分力衰减”四个维度,构成完整的稳定性监控矩阵。
核心认知:PSI 和 CSI 回答“模型输入/输出是否变了”,KS 和 AUC 回答“模型效果是否还可靠”。四者缺一不可,不能互相替代。
4.1 PSI:群体稳定性指标(Population Stability Index)
PSI 衡量模型评分(Score)在开发样本与监控样本之间的分布偏移程度。它是稳定性监控的“第一道防线”,通常按月或按周计算。
| 维度 | 说明 |
|---|---|
| 计算公式 | PSI = Σ (实际占比 - 预期占比) × ln(实际占比 / 预期占比) |
| 监控对象 | 模型输出的分数(Score)或概率(Probability) |
| 分箱方式 | 通常等频分 10 箱,每箱约 10% 样本 |
| 阈值标准 | PSI < 0.1:无显著偏移;0.1 ≤ PSI < 0.25:需关注;PSI ≥ 0.25:严重偏移,需紧急排查 |
| 触发动作 | 轻度偏移:发送预警通知;中度偏移:启动特征归因分析;重度偏移:暂停模型使用 |
实战避坑:PSI 对分箱方式敏感。等宽分箱在长尾分布下容易导致空箱,建议统一使用等频分箱。若监控样本量不足 1000,PSI 的统计稳定性会显著下降,此时应优先累积样本再计算。
4.2 CSI:特征稳定性指标(Characteristic Stability Index)
CSI 是 PSI 的“拆解版”,它将 PSI 的偏移量按特征维度分解,定位到底是哪个特征导致了分数漂移。CSI 的计算逻辑与 PSI 相同,但监控对象从“模型分数”换成了“单个特征的分布”。
- 计算方式:对每个特征分别计算 PSI,得到该特征的 CSI 值。
- 排序归因:按 CSI 值从大到小排序,CSI 最大的前 3-5 个特征即为“漂移元凶”。
- 联动分析:CSI 高的特征,如果同时是模型的重要特征(高 SHAP 值或高 IV 值),则风险等级最高。
- 阈值参考:单个特征 CSI > 0.02 即需关注;CSI > 0.1 视为严重漂移。
常见误区:不要只看 CSI 绝对值。一个 CSI 为 0.05 但模型权重极低的特征,其影响远小于 CSI 为 0.02 但权重排名第一的特征。必须结合特征重要性(Feature Importance)做加权评估。
4.3 KS:区分度指标(Kolmogorov-Smirnov)
KS 衡量模型对“好客户”和“坏客户”的排序区分能力。在稳定性监控中,KS 的下降意味着模型正在丧失区分好坏的能力。
| 监控维度 | 具体含义 |
|---|---|
| 定义 | 好客户累计分布与坏客户累计分布的最大差值 |
| 监控频率 | 月度或季度,与模型重检周期对齐 |
| 衰减判定 | KS 下降超过开发集 KS 的 15%-20% 视为显著衰减 |
| 与 PSI 的关系 | PSI 正常但 KS 下降:说明分数分布没变,但好坏标签的分布关系变了(如客群结构变化) |
| 应对策略 | 重新校准模型阈值、检查标签定义是否失效、考虑模型重建 |
4.4 AUC:区分能力指标(Area Under the ROC Curve)
AUC 是模型整体排序能力的“黄金标准”。在稳定性监控中,AUC 的持续下滑是模型退化的最直接证据。
- 监控方式:每月计算监控样本的 AUC,与开发集 AUC 做对比。
- 衰减阈值:AUC 下降超过 0.03-0.05 视为显著退化(具体阈值取决于业务容忍度)。
- 与 KS 的差异:AUC 衡量全局排序能力,KS 衡量最大区分点。AUC 更稳健,KS 对局部变化更敏感。
- 联合使用:当 AUC 下降但 KS 不变时,说明模型在非最优切点处的排序能力下降;当 KS 下降但 AUC 不变时,说明最大区分点漂移但整体排序尚可。
监控组合建议:PSI + CSI 做“输入输出漂移检测”,KS + AUC 做“效果衰减检测”。四个指标同时正常,模型才可判定为稳定;任意一个指标触发阈值,都应启动人工排查流程。
4.5 四指标联动监控架构
下图展示了四个指标在稳定性监控中的层级关系与联动逻辑:PSI 和 CSI 位于“分布层”,KS 和 AUC 位于“效果层”,两层之间通过“特征归因”和“标签验证”形成闭环。
4.6 四指标对比总结
| 指标 | 监控对象 | 回答的问题 | 计算前提 | 典型阈值 | 响应速度 |
|---|---|---|---|---|---|
| PSI | 模型分数分布 | 分数整体漂移了吗? | 仅需分数 | < 0.1 正常 | 快(周级) |
| CSI | 单个特征分布 | 哪个特征漂移了? | 需特征数据 | < 0.02 正常 | 快(周级) |
| KS | 好坏分布最大差距 | 模型还能区分好坏吗? | 需真实标签 | 下降 < 15% | 中(月级) |
| AUC | 全局排序能力 | 模型整体效果退化了吗? | 需真实标签 | 下降 < 0.03 | 中(月级) |
最佳实践:在自动化监控平台中,将 PSI 和 CSI 设为“高频低阈值”告警(每周计算,PSI≥0.1 告警),将 KS 和 AUC 设为“低频高阈值”告警(每月计算,KS 下降≥15% 或 AUC 下降≥0.03 告警)。这样既能快速发现分布漂移,又能避免因标签延迟导致的误报。