2. 模型稳定性基础概念
模型稳定性是生产环境机器学习系统的核心质量属性。一个稳定的模型在时间推移、数据分布变化或业务环境迁移时,其预测行为、性能指标和决策边界应保持可预期的水平。当模型不再稳定时,即发生模型漂移。理解漂移的类型与区别,是构建监控体系的第一步。
核心观点: 模型稳定性 ≠ 模型永远不变,而是指模型在合理范围内的性能波动可被量化、可被解释、可被预警。
2.1 什么是模型稳定性
模型稳定性(Model Stability)衡量模型在时间维度上输出分布与性能指标的一致性。常用量化指标包括:
- PSI(Population Stability Index):衡量模型预测分数分布随时间的变化程度。
- CSI(Characteristic Stability Index):衡量输入特征分布随时间的变化程度。
- 性能指标波动:如 AUC、准确率、F1-score 在时间窗口内的标准差或变异系数。
| 稳定性等级 | PSI 范围 | 业务含义 | 建议动作 |
|---|---|---|---|
| 稳定 | < 0.1 | 分布无显著变化 | 常规监控 |
| 轻度漂移 | 0.1 – 0.25 | 分布出现偏移,需关注 | 排查特征或环境变化 |
| 严重漂移 | > 0.25 | 分布发生显著变化 | 立即告警,考虑模型重训 |
实践提示: PSI 阈值并非绝对,不同业务场景可调整。例如,信贷风控模型通常采用 0.1/0.2 作为双阈值,而推荐系统可适当放宽至 0.15/0.3。
2.2 模型漂移的三种类型
模型漂移(Model Drift)根据变化来源可分为三类:概念漂移、数据漂移和标签漂移。三者相互关联,但成因与应对策略截然不同。
2.2.1 概念漂移(Concept Drift)
概念漂移指输入特征 X 与目标变量 y 之间的映射关系发生变化。即:同样的特征值,在时间 t 和 t+1 对应不同的真实标签分布。
- 示例: 疫情期间,用户消费行为与信用风险的关系发生根本性改变——原本低风险的用户群体因行业冲击出现大量逾期。
- 检测方法: 监控模型性能指标(AUC、KS、准确率)随时间的变化趋势。
- 应对策略: 模型重训、在线学习、集成自适应模型。
2.2.2 数据漂移(Data Drift / Covariate Shift)
数据漂移指输入特征 X 的分布发生变化,但 X 与 y 的映射关系保持不变。即:模型看到的输入数据整体偏移了训练集的分布。
- 示例: 信贷模型训练时用户年龄集中在 25-40 岁,上线后因新渠道获客,用户年龄分布变为 18-25 岁为主。
- 检测方法: PSI、CSI、KS 检验、卡方检验、JS 散度。
- 应对策略: 特征工程调整、数据重采样、模型校准、定期重训。
2.2.3 标签漂移(Label Drift / Prior Probability Shift)
标签漂移指目标变量 y 的先验分布发生变化,而特征分布和映射关系可能不变。即:正负样本比例发生系统性偏移。
- 示例: 反欺诈模型中,正常交易与欺诈交易的比例从 1000:1 变为 500:1,导致模型预测概率整体偏高。
- 检测方法: 监控标签分布、样本比例、预测概率的直方图变化。
- 应对策略: 阈值调整、样本加权、代价敏感学习。
常见误区: 很多团队只监控 PSI(数据漂移),却忽略了概念漂移和标签漂移。实际上,PSI 正常但模型性能下降的情况,往往就是概念漂移或标签漂移在起作用。
2.3 三种漂移的对比与关系
| 维度 | 概念漂移 | 数据漂移 | 标签漂移 |
|---|---|---|---|
| 变化对象 | P(y|X) 映射关系 | P(X) 特征分布 | P(y) 标签先验 |
| 典型表现 | 模型性能下降,但输入分布正常 | 输入分布偏移,性能可能下降 | 正负样本比例变化 |
| 检测指标 | AUC、KS、准确率趋势 | PSI、CSI、KS 检验 | 标签率、预测概率分布 |
| 修复难度 | 高(需重新建模) | 中(重训+特征调整) | 低(阈值/权重调整) |
| 发生频率 | 低,但影响大 | 高,最常见 | 中,业务策略变化时 |
三种漂移在实际场景中往往同时发生或相互诱发。例如:数据漂移(新用户群体进入)可能导致概念漂移(新群体的风险模式不同),进而引发标签漂移(整体逾期率变化)。因此,联合监控策略比单一指标监控更可靠。
2.4 漂移检测的常见误区
- 只监控 PSI 就足够:PSI 仅反映数据漂移,无法捕捉概念漂移和标签漂移。
- 漂移一定需要立即重训:轻度漂移可通过阈值调整或特征工程缓解,频繁重训反而引入不稳定。
- 训练集与测试集分布一致即代表稳定:线上环境随时间变化,离线评估无法替代持续监控。
- 所有特征漂移都同等重要:应优先监控 SHAP 重要性高的特征,而非所有特征。
最佳实践: 建立分层监控体系——第一层用 PSI 监控整体数据漂移,第二层用 SHAP 监控特征重要性变化(概念漂移线索),第三层用标签分布监控标签漂移。三层联动,才能全面覆盖模型稳定性。