4. 巡检指标体系:PSI、CSI、KS、AUC 在稳定性监控中的角色

在定价模型的生命周期管理中,稳定性监控是确保模型“上线后不跑偏”的核心防线。本章聚焦四个最关键的量化指标:PSI(群体稳定性指标)、CSI(特征稳定性指标)、KS(区分度指标)和AUC(区分能力指标)。它们分别从“分数分布漂移”、“特征贡献漂移”、“排序能力衰减”和“整体区分力衰减”四个维度,构成完整的稳定性监控矩阵。

核心认知:PSI 和 CSI 回答“模型输入/输出是否变了”,KS 和 AUC 回答“模型效果是否还可靠”。四者缺一不可,不能互相替代。

4.1 PSI:群体稳定性指标(Population Stability Index)

PSI 衡量模型评分(Score)在开发样本与监控样本之间的分布偏移程度。它是稳定性监控的“第一道防线”,通常按月或按周计算。

维度 说明
计算公式 PSI = Σ (实际占比 - 预期占比) × ln(实际占比 / 预期占比)
监控对象 模型输出的分数(Score)或概率(Probability)
分箱方式 通常等频分 10 箱,每箱约 10% 样本
阈值标准 PSI < 0.1:无显著偏移;0.1 ≤ PSI < 0.25:需关注;PSI ≥ 0.25:严重偏移,需紧急排查
触发动作 轻度偏移:发送预警通知;中度偏移:启动特征归因分析;重度偏移:暂停模型使用
实战避坑:PSI 对分箱方式敏感。等宽分箱在长尾分布下容易导致空箱,建议统一使用等频分箱。若监控样本量不足 1000,PSI 的统计稳定性会显著下降,此时应优先累积样本再计算。

4.2 CSI:特征稳定性指标(Characteristic Stability Index)

CSI 是 PSI 的“拆解版”,它将 PSI 的偏移量按特征维度分解,定位到底是哪个特征导致了分数漂移。CSI 的计算逻辑与 PSI 相同,但监控对象从“模型分数”换成了“单个特征的分布”。

  • 计算方式:对每个特征分别计算 PSI,得到该特征的 CSI 值。
  • 排序归因:按 CSI 值从大到小排序,CSI 最大的前 3-5 个特征即为“漂移元凶”。
  • 联动分析:CSI 高的特征,如果同时是模型的重要特征(高 SHAP 值或高 IV 值),则风险等级最高。
  • 阈值参考:单个特征 CSI > 0.02 即需关注;CSI > 0.1 视为严重漂移。
常见误区:不要只看 CSI 绝对值。一个 CSI 为 0.05 但模型权重极低的特征,其影响远小于 CSI 为 0.02 但权重排名第一的特征。必须结合特征重要性(Feature Importance)做加权评估。

4.3 KS:区分度指标(Kolmogorov-Smirnov)

KS 衡量模型对“好客户”和“坏客户”的排序区分能力。在稳定性监控中,KS 的下降意味着模型正在丧失区分好坏的能力。

监控维度 具体含义
定义 好客户累计分布与坏客户累计分布的最大差值
监控频率 月度或季度,与模型重检周期对齐
衰减判定 KS 下降超过开发集 KS 的 15%-20% 视为显著衰减
与 PSI 的关系 PSI 正常但 KS 下降:说明分数分布没变,但好坏标签的分布关系变了(如客群结构变化)
应对策略 重新校准模型阈值、检查标签定义是否失效、考虑模型重建

4.4 AUC:区分能力指标(Area Under the ROC Curve)

AUC 是模型整体排序能力的“黄金标准”。在稳定性监控中,AUC 的持续下滑是模型退化的最直接证据。

  • 监控方式:每月计算监控样本的 AUC,与开发集 AUC 做对比。
  • 衰减阈值:AUC 下降超过 0.03-0.05 视为显著退化(具体阈值取决于业务容忍度)。
  • 与 KS 的差异:AUC 衡量全局排序能力,KS 衡量最大区分点。AUC 更稳健,KS 对局部变化更敏感。
  • 联合使用:当 AUC 下降但 KS 不变时,说明模型在非最优切点处的排序能力下降;当 KS 下降但 AUC 不变时,说明最大区分点漂移但整体排序尚可。
监控组合建议:PSI + CSI 做“输入输出漂移检测”,KS + AUC 做“效果衰减检测”。四个指标同时正常,模型才可判定为稳定;任意一个指标触发阈值,都应启动人工排查流程。

4.5 四指标联动监控架构

下图展示了四个指标在稳定性监控中的层级关系与联动逻辑:PSI 和 CSI 位于“分布层”,KS 和 AUC 位于“效果层”,两层之间通过“特征归因”和“标签验证”形成闭环。

定价模型稳定性监控四指标联动架构 分布层:输入输出漂移检测 PSI 群体分数分布偏移 CSI 特征级分布偏移 PSI 异常 → 拆解 CSI 定位漂移特征 CSI 高 + 特征重要 → 高风险告警 效果层:模型能力衰减检测 KS 最大区分点衰减 AUC 全局排序能力衰减 KS 下降 → 检查标签定义与客群结构 AUC 下降 → 模型重建或阈值重校准 四指标联动闭环决策 PSI/CSI 正常 + KS/AUC 正常 → 模型稳定,继续监控 PSI/CSI 异常 + KS/AUC 正常 → 特征漂移但效果未损,启动预警 PSI/CSI 异常 + KS/AUC 异常 → 模型已退化,立即暂停并重建 监控频率:PSI/CSI 每周计算,KS/AUC 每月计算 数据要求:PSI/CSI 需有标签或分数分布;KS/AUC 需有真实标签 分布层 决策层

4.6 四指标对比总结

指标 监控对象 回答的问题 计算前提 典型阈值 响应速度
PSI 模型分数分布 分数整体漂移了吗? 仅需分数 < 0.1 正常 快(周级)
CSI 单个特征分布 哪个特征漂移了? 需特征数据 < 0.02 正常 快(周级)
KS 好坏分布最大差距 模型还能区分好坏吗? 需真实标签 下降 < 15% 中(月级)
AUC 全局排序能力 模型整体效果退化了吗? 需真实标签 下降 < 0.03 中(月级)
最佳实践:在自动化监控平台中,将 PSI 和 CSI 设为“高频低阈值”告警(每周计算,PSI≥0.1 告警),将 KS 和 AUC 设为“低频高阈值”告警(每月计算,KS 下降≥15% 或 AUC 下降≥0.03 告警)。这样既能快速发现分布漂移,又能避免因标签延迟导致的误报。