4. 特征漂移的数学定义
在授信决策引擎的监控体系中,特征漂移并非一个笼统的概念,而是由三种具有严格数学定义的分布变化组成。理解这三种漂移的数学本质,是后续使用 LightGBM 进行归因分析的理论基础。
4.1 三种漂移的数学形式化
设 X 为特征向量,Y 为标签(如是否逾期),S 为时间或样本域。联合分布 P(X, Y) 的变化可以分解为三种条件概率的变化。下表总结了它们的数学定义与在风控场景中的典型表现:
| 漂移类型 | 数学定义 | 条件概率变化 | 风控场景举例 |
|---|---|---|---|
| 数据分布漂移 (Covariate Shift) |
P(X) 变化,P(Y|X) 不变 | 特征边缘分布改变,但条件风险不变 | 客群年龄结构变化,但相同年龄的逾期率不变 |
| 概念漂移 (Concept Drift) |
P(Y|X) 变化,P(X) 不变 | 特征与标签的映射关系改变 | 相同收入水平,因经济环境变化导致逾期率上升 |
| 先验概率漂移 (Prior Probability Shift) |
P(Y) 变化,P(X|Y) 不变 | 标签边缘分布改变,类条件分布不变 | 整体逾期率从 2% 升至 5%,但好/坏客户的收入分布未变 |
关键区分: 在风控建模中,概念漂移对模型预测能力的破坏最大,因为它直接改变了模型学习到的决策边界。而数据分布漂移虽然常见,但若模型对特征分布具有鲁棒性,则可能不影响排序能力。
4.2 三种漂移的数学关系与示意图
下图展示了三种漂移在概率图结构上的本质区别。箭头表示条件依赖关系,阴影节点表示发生变化的分布。
4.3 漂移检测的统计方法
在工程实践中,我们通常使用以下统计检验方法来量化漂移程度。这些方法将作为后续 LightGBM 特征重要性分析的对比基准。
- PSI (Population Stability Index): 衡量特征分布的整体偏移,公式为 PSI = Σ (Pi - Qi) * ln(Pi / Qi),其中 Pi 为实际分布占比,Qi 为期望分布占比。PSI > 0.25 通常表示显著漂移。
- KS 检验 (Kolmogorov-Smirnov Test): 用于检测连续特征分布是否发生显著变化,计算两个累积分布函数的最大垂直距离。
- JS 散度 (Jensen-Shannon Divergence): 对 PSI 的对称化改进,取值范围 [0, 1],更适合作为特征漂移的归一化指标。
实践建议: 在授信决策引擎中,建议将 PSI 作为日常监控指标,将 KS 检验作为深度分析工具。当 PSI 超过 0.1 时,应启动特征重要性分析流程,定位导致漂移的关键特征。
4.4 漂移对 LightGBM 模型的影响路径
理解三种漂移的数学定义后,我们需要明确它们如何影响 LightGBM 模型的输出:
- 数据分布漂移 → 特征空间偏移: 模型在训练集上学习到的特征分箱边界(如收入 5000 元的分割点)在测试集中不再最优,导致叶子节点样本分布不均。
- 概念漂移 → 树结构失效: 特征与标签的映射关系改变,使得训练时构建的决策树分裂点(如“收入 > 10000 → 好客户”)不再准确,模型 AUC 显著下降。
- 先验概率漂移 → 阈值偏移: 整体逾期率变化导致模型输出的概率分布整体平移,需要重新校准决策阈值,否则会大幅增加坏账率或拒绝率。
注意: LightGBM 的 feature importance(如 Gain)在概念漂移发生时可能产生误导。一个特征在训练时 Gain 很高,但在漂移后可能完全失去预测能力。因此,不能仅依赖静态重要性,必须结合时间维度的漂移分析。