2. 批次偏移基础概念:训练集与线上评分集的分布差异、概念漂移、数据漂移、标签漂移的定义与区别

在授信决策引擎的持续监控中,批次偏移(Batch Shift)是导致模型性能衰减的核心原因。理解偏移的类型与区别,是进行SQL特征分布对比的前提。本章将系统定义训练集与线上评分集的分布差异,并厘清概念漂移、数据漂移、标签漂移三个关键术语。

2.1 训练集与线上评分集的分布差异

模型在开发时基于历史样本(训练集)学习规律,上线后对实时或近线申请(线上评分集)进行预测。当两个数据集的统计分布不一致时,即发生分布差异。这种差异通常表现为特征分布、标签分布或两者联合分布的变化。

核心观察: 分布差异是批次偏移的“症状”,而概念漂移、数据漂移、标签漂移是导致该症状的三种根本“病因”。
对比维度 训练集(开发期) 线上评分集(生产期)
时间窗口 历史固定区间(如2023Q1-Q2) 当前或近期批次(如2024Q1)
样本来源 已过观察期的授信申请 实时或近线新申请
标签可用性 标签已知(好坏客户已确定) 标签未知(需等待表现期)
分布稳定性 相对稳定(回放时无环境变化) 易受宏观、客群、策略调整影响

2.2 三种漂移的定义与区别

为了精确诊断分布差异的根源,业界将漂移分为三类:数据漂移(Data Drift)、概念漂移(Concept Drift)、标签漂移(Label Drift)。三者相互关联,但成因与影响不同。

2.2.1 数据漂移(Data Drift)

指模型输入特征 X 的边缘分布发生变化,即 P(X) 在训练集与线上集之间不一致。常见原因包括:客群结构变化(如年轻客群占比上升)、数据采集口径变更、外部宏观经济波动等。

  • 典型表现: 特征均值、方差、分位数发生显著偏移。
  • 影响: 模型输入的“原材料”变了,即使模型参数不变,输出分数分布也会随之改变。
  • 检测方法: 单特征分布对比(如PSI、KS、KL散度)。

2.2.2 概念漂移(Concept Drift)

指特征与标签之间的条件分布 P(Y|X) 发生变化,即相同的特征值对应不同的违约概率。通常由市场环境、政策法规、用户行为模式改变引起。

  • 典型表现: 模型评分与真实违约率之间的校准曲线发生偏移。
  • 影响: 模型决策边界失效,AUC或KS指标下降,但特征分布可能保持不变。
  • 检测方法: 需要标签反馈,通过时间序列监控模型性能指标(如Gini、Lift)。

2.2.3 标签漂移(Label Drift)

指标签 Y 的边缘分布发生变化,即 P(Y) 在训练集与线上集之间不一致。通常由整体客群质量变化或业务定义调整(如逾期口径从M1改为M2)引起。

  • 典型表现: 整体坏账率(Bad Rate)显著上升或下降。
  • 影响: 模型阈值需要重新校准,但特征与标签的关系可能未变。
  • 检测方法: 监控线上批次的实际违约率与训练集先验违约率的差异。
实战提示: 在授信场景中,数据漂移最容易通过SQL特征分布对比发现;概念漂移最难诊断,因为它需要标签表现期的数据;标签漂移则直接影响策略阈值调整。

2.3 三类漂移的关系与对比

下表从定义、检测时机、典型原因三个维度对三类漂移进行对比,帮助你在实际监控中快速定位问题类型。

漂移类型 定义(数学表达) 检测时机 典型原因
数据漂移 P(X) 变化 评分时(无需标签) 客群结构变化、数据源变更
概念漂移 P(Y|X) 变化 表现期结束后(需标签) 经济周期、政策调整、欺诈模式演变
标签漂移 P(Y) 变化 表现期结束后(需标签) 整体客群质量变化、标签定义变更

2.4 三类漂移的关系示意图

下图展示了三类漂移在授信决策流程中的位置与相互关系。数据漂移发生在输入层,概念漂移发生在模型映射层,标签漂移发生在输出层。

三类漂移在授信决策流程中的关系 训练集 P(X), P(Y|X), P(Y) 线上评分集 P'(X), P'(Y|X), P'(Y) 分布差异 数据漂移 P(X) ≠ P'(X) 特征分布变化 概念漂移 P(Y|X) ≠ P'(Y|X) 条件分布变化 标签漂移 P(Y) ≠ P'(Y) 标签分布变化 说明: • 数据漂移:输入特征变了,模型“看到”的数据不同了。 • 概念漂移:特征与标签的关系变了,模型“学到的规律”过时了。 • 标签漂移:整体违约率变了,模型“预测的基准”偏移了。

2.5 批次偏移的典型场景案例

为了加深理解,以下通过一个授信场景的简化案例,展示三类漂移如何独立或组合出现。

案例背景: 某消费金融公司2023年开发了收入预测模型,训练集为2022年数据。2024年Q1线上评分集出现以下现象:
  1. 数据漂移: 线上申请客群中,自由职业者占比从15%升至35%,导致“收入稳定性”特征分布偏移。
  2. 概念漂移: 2024年经济复苏,相同收入水平的客户违约率显著低于2022年,即 P(违约|收入) 发生变化。
  3. 标签漂移: 公司调整了逾期定义(从M1+改为M2+),导致整体坏账率从5%降至3%,标签分布改变。

在实际监控中,三类漂移往往同时发生。SQL特征分布对比方法主要解决数据漂移的检测问题,但理解概念漂移和标签漂移有助于你更全面地解读分布对比结果,避免误判。

注意: 不要将特征分布稳定等同于模型性能稳定。即使数据漂移为零,概念漂移仍可能导致模型失效。SQL对比是监控的第一道防线,但并非唯一防线。