3、缺失值类型与分类:完全随机缺失(MCAR)、随机缺失(MAR)、非随机缺失(MNAR)在金融数据中的实例

在金融风控与特征工程中,缺失值并非简单的“数据空白”。理解缺失机制是选择填充策略、评估模型偏差的前提。缺失机制分为三类:完全随机缺失(MCAR)、随机缺失(MAR)和非随机缺失(MNAR)。误判缺失类型会导致填充偏差,直接影响信用评分模型的区分度与稳定性。

3.1 三类缺失机制的核心定义与对比

缺失类型 定义 缺失概率是否依赖其他变量 缺失概率是否依赖自身 金融典型场景
MCAR 缺失完全随机,与任何观测/未观测数据无关 否 否 系统随机抽样失败、传输丢包
MAR 缺失依赖于其他已观测变量,但不依赖于缺失变量本身 是(依赖已观测变量) 否 高收入群体更少填写收入字段
MNAR 缺失依赖于缺失变量本身的值 是(依赖未观测值) 是 逾期客户故意不填联系方式
关键认知:金融风控中,MNAR 是最危险且最常见的缺失类型。若直接删除或简单均值填充,会引入系统性偏差,导致模型低估高风险客户的违约概率。

3.2 金融数据中的实例详解

3.2.1 完全随机缺失(MCAR)实例

场景:某银行信贷申请系统在特定时段(如凌晨2:00-2:05)因数据库连接池抖动,导致该时段内所有申请记录的“职业类型”字段随机丢失。

  • 缺失特征:职业类型(categorical)
  • 缺失原因:系统故障,与客户资质、收入、信用分无关
  • 验证方法:对缺失组与非缺失组的其他特征(如收入、年龄、负债率)做 t 检验或 KS 检验,若无显著差异,则支持 MCAR 假设。
  • 处理建议:可直接删除缺失样本(若比例<5%),或使用众数填充,不会引入偏差。

3.2.2 随机缺失(MAR)实例

场景:在信用卡申请数据中,“年收入”字段的缺失概率与已观测的“职业类型”和“学历”相关。自由职业者(已观测)比公务员更倾向于不填写收入。

  • 缺失特征:年收入(continuous)
  • 缺失原因:依赖于已观测的“职业类型”和“学历”,但与收入本身的高低无关(即高收入者不一定缺失)
  • 验证方法:构建逻辑回归模型,以“是否缺失收入”为因变量,以“职业类型”、“学历”等为自变量,若系数显著,则支持 MAR。
  • 处理建议:使用多重插补(MICE)或基于回归的预测填充,利用已观测变量信息。

3.2.3 非随机缺失(MNAR)实例

场景:在贷后管理数据中,“客户最新联系电话”字段的缺失。逾期超过90天的客户(高风险)故意不更新联系方式,而正常还款客户联系方式完整。

  • 缺失特征:联系电话(categorical)
  • 缺失原因:缺失概率依赖于“是否逾期”这个未观测或难以观测的状态,且与缺失变量本身(联系方式)直接相关——越不想被催收的客户越不提供。
  • 验证方法:无法直接通过数据验证,需结合业务逻辑或外部数据(如催收记录、第三方联系人匹配率)推断。
  • 处理建议:不能简单填充。需引入辅助变量(如催收次数、第三方数据),或使用选择模型(Heckman correction)进行偏差校正。
⚠️ 风控实战避坑:很多团队默认所有缺失都是 MCAR,直接删除或均值填充。在 MNAR 场景下,这种做法会使模型对高风险样本的预测概率系统性偏低,导致坏账率上升。务必结合业务逻辑判断缺失机制。

3.3 三类缺失机制的识别流程

在实际金融数据中,严格区分三类缺失并不容易。以下是一个实用的识别决策流程:

  1. 业务溯源:与数据采集团队确认缺失原因(系统故障、用户主动跳过、字段废弃)。
  2. 统计检验:对缺失组与非缺失组的其他特征做分布差异检验(t检验、卡方检验)。
  3. 逻辑回归诊断:以缺失标志为因变量,其他特征为自变量,观察显著变量。
  4. 领域知识判断:若缺失与敏感信息(如收入、逾期状态)强相关,优先怀疑 MNAR。
  5. 敏感性分析:分别用 MCAR、MAR、MNAR 假设下的填充策略建模,观察模型稳定性。
💡 专家建议:在特征监控巡检中,建议将“缺失率”与“缺失模式”作为每日监控指标。当某个特征的缺失率突然上升时,先按上述流程判断缺失类型,再决定是否触发告警或调整填充策略。

3.4 三类缺失机制的关系与决策树

下图展示了从数据缺失到处理策略的完整决策路径,帮助你在金融特征监控中快速定位缺失类型并选择对应方法。

金融数据缺失机制识别与处理决策树 缺失数据出现 步骤1:业务溯源与系统日志检查 步骤2:缺失组 vs 非缺失组特征分布检验 MCAR 假设 无显著差异 MAR 假设 依赖已观测变量 MNAR 假设 依赖缺失变量本身 直接删除 / 均值填充 无偏估计 多重插补 / 回归预测 利用观测变量信息 选择模型 / 辅助变量 偏差校正 ⚠️ 金融风控中,MNAR 场景需结合业务逻辑与外部数据验证 不可仅依赖统计检验

3.5 缺失类型对特征监控的影响

在特征缺失巡检中,不同缺失类型对监控指标的影响差异显著:

监控维度 MCAR MAR MNAR
缺失率稳定性 长期稳定,波动小 随其他特征分布漂移 随目标变量(如逾期率)波动
填充后偏差 无偏差 可校正,偏差可控 系统性偏差,难以校正
监控告警阈值 固定阈值(如5%) 动态阈值,需联动其他特征 需结合业务事件(如政策变更)
模型影响 降低样本量,不影响分布 可能引入轻微偏差 严重扭曲模型预测
巡检实践要点:在每日特征监控中,若发现某个特征的缺失率与模型预测的违约概率(PD)出现同向趋势变化,应高度怀疑 MNAR 机制,立即触发人工复核,并暂停该特征在模型中的使用,直至完成偏差评估。