4. 常见稳定性度量指标
在信贷模型监控体系中,稳定性度量指标是判断模型是否“失效”的第一道防线。但很多团队的问题不是没有指标,而是指标混用:把区分度指标当成稳定性指标,把单变量指标当成模型指标,或者只看一个阈值就触发重训。本节把常用指标分成三类:分布稳定性指标(PSI、CSI、迁移率)、区分度指标(KS、AUC、Gini),并说明它们的原理、计算口径与适用边界。
一、核心原理:稳定性与区分度是两件事
稳定性回答的是“输入分布或分数分布有没有变”,区分度回答的是“模型还能不能把好坏客户分开”。两者可能同时恶化,也可能单独恶化。例如:客群整体下沉,分数分布右移,PSI 很高,但排序能力仍然不错,KS 没掉;反过来,分数分布几乎没变,但某个关键变量的业务含义变了,KS 可能悄悄下降。因此监控必须同时覆盖两类指标。
一句话记忆:PSI/CSI/迁移率看“变没变”,KS/AUC/Gini 看“还准不准”。稳定性指标用于早期预警,区分度指标用于确认失效。
二、分布稳定性指标:PSI、CSI 与迁移率
1. PSI(Population Stability Index)
PSI 衡量两个时间窗口内分数分布的差异。它把分数分箱后,比较每箱的占比变化:
PSI = Σ (Actual% - Expected%) × ln(Actual% / Expected%)
其中 Expected% 是基准期(如训练集或上一稳定期)占比,Actual% 是监控期占比。经验阈值:PSI < 0.1 稳定;0.1~0.25 需关注;> 0.25 显著偏移,应排查并考虑重训。注意 PSI 对分箱数量和空箱敏感,空箱需做平滑处理(如用 0.0001 替代 0)。
2. CSI(Characteristic Stability Index)
CSI 是 PSI 在单变量上的应用,逐特征计算分布偏移。它回答“是哪个变量把模型带偏了”。实践中常按 CSI 降序排列,定位 Top 偏移变量。CSI 高不一定导致模型失效,但能解释 PSI 的来源。建议对入模变量全量监控,对强规则变量和客群标签变量重点监控。
3. 迁移率(Migration Rate)
迁移率衡量同一客户在不同时间点分数等级或风险等级的跃迁比例。常见形式是分数段迁移矩阵:行是基准期等级,列是监控期等级,对角线是未迁移比例。迁移率过高说明客户风险排序不稳定,即使 PSI 不高,也可能影响审批策略和额度管理。迁移率特别适合贷中行为评分和额度调整场景。
| 指标 | 度量对象 | 核心问题 | 典型阈值/用法 | 适用场景 |
|---|---|---|---|---|
| PSI | 模型分数分布 | 整体分数是否偏移 | <0.1 稳定;>0.25 预警 | 模型层月度监控 |
| CSI | 单变量分布 | 哪个变量导致偏移 | 按值排序定位 Top 变量 | 变量层归因 |
| 迁移率 | 分数/风险等级 | 客户等级是否跳变 | 看矩阵对角线占比 | 贷中、额度、策略联动 |
| KS | 好坏排序能力 | 区分度是否下降 | 下降 >20% 需警惕 | 模型层效果监控 |
| AUC | 整体排序能力 | 综合区分能力 | 与基准期对比 | 跨模型对比 |
| Gini | 排序能力归一化 | 与 AUC 等价表达 | Gini = 2×AUC−1 | 汇报与阈值统一 |
三、区分度指标:KS、AUC 与 Gini
KS 衡量好坏样本累计分布的最大差值,取值 0~1,越大区分度越强。信贷评分卡常用 KS 评估,优点是直观、对阈值敏感;缺点是只取一个最大点,忽略整体排序。AUC 衡量随机取一个好客户和一个坏客户,模型给好客户更高分的概率,取值 0.5~1。AUC 更综合,但对极端不平衡样本仍稳定。Gini 是 AUC 的线性变换:Gini = 2×AUC − 1,常用于风控汇报,因为更符合“0~1”直觉。
监控建议:不要只看绝对值,要看相对基准期的变化。例如 KS 从 0.42 降到 0.35,降幅 16.7%,虽未跌破绝对阈值,但趋势已值得预警。建议同时维护“绝对阈值 + 相对降幅”双规则。
四、案例与场景:一次典型的稳定性排查
某现金贷模型月度监控发现:PSI = 0.31,KS 从 0.40 降到 0.33,迁移率对角线占比从 82% 降到 61%。排查步骤:
- 先看 CSI,发现“近 6 个月查询次数”CSI = 0.28,“负债收入比”CSI = 0.19,说明客群查询行为和负债结构明显变化。
- 再看分数迁移矩阵,发现大量客户从 B 级跳到 C 级,说明风险排序整体下移。
- 结合业务确认:渠道引流策略变化,导致低资质客群占比上升。
- 结论:不是模型代码问题,而是客群偏移。处理方式:先做分数校准,再评估是否重训,同时调整准入策略。
常见误区:① 用 PSI 判断模型好坏——PSI 只反映分布变化,不反映排序能力;② 只看一个指标就触发重训——应结合 CSI 归因、KS/AUC 确认、迁移率看业务影响;③ 忽略样本时间窗口——基准期选择不同,PSI 结果差异很大,必须固定口径;④ 空箱不处理——会导致 PSI 虚高或计算错误。
五、方法流程:指标监控的标准动作
1. 固定基准期:训练集或上一个稳定窗口,写入配置。
2. 按月/周计算:PSI(分数)、CSI(变量)、迁移率(等级)。
3. 计算区分度:KS、AUC、Gini,并与基准期对比。
4. 设置双阈值:绝对阈值 + 相对降幅。
5. 触发归因:CSI Top 变量 + 迁移矩阵 + 业务事件。
6. 决策:继续观察 / 分数校准 / 重训 / 策略调整。
只有把“分布稳定性”和“区分度”放在同一张监控看板上,才能避免误判。PSI 和 CSI 负责早期预警,迁移率负责业务影响评估,KS、AUC、Gini 负责确认模型是否还具备排序能力。四类指标配合使用,才能为后续的重训触发提供可靠依据。