4. 特征漂移的数学定义

在授信决策引擎的监控体系中,特征漂移并非一个笼统的概念,而是由三种具有严格数学定义的分布变化组成。理解这三种漂移的数学本质,是后续使用 LightGBM 进行归因分析的理论基础。

4.1 三种漂移的数学形式化

设 X 为特征向量,Y 为标签(如是否逾期),S 为时间或样本域。联合分布 P(X, Y) 的变化可以分解为三种条件概率的变化。下表总结了它们的数学定义与在风控场景中的典型表现:

漂移类型 数学定义 条件概率变化 风控场景举例
数据分布漂移
(Covariate Shift)
P(X) 变化,P(Y|X) 不变 特征边缘分布改变,但条件风险不变 客群年龄结构变化,但相同年龄的逾期率不变
概念漂移
(Concept Drift)
P(Y|X) 变化,P(X) 不变 特征与标签的映射关系改变 相同收入水平,因经济环境变化导致逾期率上升
先验概率漂移
(Prior Probability Shift)
P(Y) 变化,P(X|Y) 不变 标签边缘分布改变,类条件分布不变 整体逾期率从 2% 升至 5%,但好/坏客户的收入分布未变
关键区分: 在风控建模中,概念漂移对模型预测能力的破坏最大,因为它直接改变了模型学习到的决策边界。而数据分布漂移虽然常见,但若模型对特征分布具有鲁棒性,则可能不影响排序能力。

4.2 三种漂移的数学关系与示意图

下图展示了三种漂移在概率图结构上的本质区别。箭头表示条件依赖关系,阴影节点表示发生变化的分布。

三种特征漂移的概率图对比 数据分布漂移 P(X) 变化 P(Y|X) 不变 概念漂移 P(X) 不变 P(Y|X) 变化 先验概率漂移 P(Y) 变化 P(X|Y) 不变 实际风控场景中的混合漂移 授信数据通常同时包含多种漂移: 客群结构变化(数据分布漂移)+ 经济周期影响(概念漂移)

4.3 漂移检测的统计方法

在工程实践中,我们通常使用以下统计检验方法来量化漂移程度。这些方法将作为后续 LightGBM 特征重要性分析的对比基准。

  • PSI (Population Stability Index): 衡量特征分布的整体偏移,公式为 PSI = Σ (Pi - Qi) * ln(Pi / Qi),其中 Pi 为实际分布占比,Qi 为期望分布占比。PSI > 0.25 通常表示显著漂移。
  • KS 检验 (Kolmogorov-Smirnov Test): 用于检测连续特征分布是否发生显著变化,计算两个累积分布函数的最大垂直距离。
  • JS 散度 (Jensen-Shannon Divergence): 对 PSI 的对称化改进,取值范围 [0, 1],更适合作为特征漂移的归一化指标。
实践建议: 在授信决策引擎中,建议将 PSI 作为日常监控指标,将 KS 检验作为深度分析工具。当 PSI 超过 0.1 时,应启动特征重要性分析流程,定位导致漂移的关键特征。

4.4 漂移对 LightGBM 模型的影响路径

理解三种漂移的数学定义后,我们需要明确它们如何影响 LightGBM 模型的输出:

  1. 数据分布漂移 → 特征空间偏移: 模型在训练集上学习到的特征分箱边界(如收入 5000 元的分割点)在测试集中不再最优,导致叶子节点样本分布不均。
  2. 概念漂移 → 树结构失效: 特征与标签的映射关系改变,使得训练时构建的决策树分裂点(如“收入 > 10000 → 好客户”)不再准确,模型 AUC 显著下降。
  3. 先验概率漂移 → 阈值偏移: 整体逾期率变化导致模型输出的概率分布整体平移,需要重新校准决策阈值,否则会大幅增加坏账率或拒绝率。
注意: LightGBM 的 feature importance(如 Gain)在概念漂移发生时可能产生误导。一个特征在训练时 Gain 很高,但在漂移后可能完全失去预测能力。因此,不能仅依赖静态重要性,必须结合时间维度的漂移分析。