3、缺失值类型与分类:完全随机缺失(MCAR)、随机缺失(MAR)、非随机缺失(MNAR)在金融数据中的实例
在金融风控与特征工程中,缺失值并非简单的“数据空白”。理解缺失机制是选择填充策略、评估模型偏差的前提。缺失机制分为三类:完全随机缺失(MCAR)、随机缺失(MAR)和非随机缺失(MNAR)。误判缺失类型会导致填充偏差,直接影响信用评分模型的区分度与稳定性。
3.1 三类缺失机制的核心定义与对比
| 缺失类型 | 定义 | 缺失概率是否依赖其他变量 | 缺失概率是否依赖自身 | 金融典型场景 |
|---|---|---|---|---|
| MCAR | 缺失完全随机,与任何观测/未观测数据无关 | 否 | 否 | 系统随机抽样失败、传输丢包 |
| MAR | 缺失依赖于其他已观测变量,但不依赖于缺失变量本身 | 是(依赖已观测变量) | 否 | 高收入群体更少填写收入字段 |
| MNAR | 缺失依赖于缺失变量本身的值 | 是(依赖未观测值) | 是 | 逾期客户故意不填联系方式 |
关键认知:金融风控中,MNAR 是最危险且最常见的缺失类型。若直接删除或简单均值填充,会引入系统性偏差,导致模型低估高风险客户的违约概率。
3.2 金融数据中的实例详解
3.2.1 完全随机缺失(MCAR)实例
场景:某银行信贷申请系统在特定时段(如凌晨2:00-2:05)因数据库连接池抖动,导致该时段内所有申请记录的“职业类型”字段随机丢失。
- 缺失特征:职业类型(categorical)
- 缺失原因:系统故障,与客户资质、收入、信用分无关
- 验证方法:对缺失组与非缺失组的其他特征(如收入、年龄、负债率)做 t 检验或 KS 检验,若无显著差异,则支持 MCAR 假设。
- 处理建议:可直接删除缺失样本(若比例<5%),或使用众数填充,不会引入偏差。
3.2.2 随机缺失(MAR)实例
场景:在信用卡申请数据中,“年收入”字段的缺失概率与已观测的“职业类型”和“学历”相关。自由职业者(已观测)比公务员更倾向于不填写收入。
- 缺失特征:年收入(continuous)
- 缺失原因:依赖于已观测的“职业类型”和“学历”,但与收入本身的高低无关(即高收入者不一定缺失)
- 验证方法:构建逻辑回归模型,以“是否缺失收入”为因变量,以“职业类型”、“学历”等为自变量,若系数显著,则支持 MAR。
- 处理建议:使用多重插补(MICE)或基于回归的预测填充,利用已观测变量信息。
3.2.3 非随机缺失(MNAR)实例
场景:在贷后管理数据中,“客户最新联系电话”字段的缺失。逾期超过90天的客户(高风险)故意不更新联系方式,而正常还款客户联系方式完整。
- 缺失特征:联系电话(categorical)
- 缺失原因:缺失概率依赖于“是否逾期”这个未观测或难以观测的状态,且与缺失变量本身(联系方式)直接相关——越不想被催收的客户越不提供。
- 验证方法:无法直接通过数据验证,需结合业务逻辑或外部数据(如催收记录、第三方联系人匹配率)推断。
- 处理建议:不能简单填充。需引入辅助变量(如催收次数、第三方数据),或使用选择模型(Heckman correction)进行偏差校正。
⚠️ 风控实战避坑:很多团队默认所有缺失都是 MCAR,直接删除或均值填充。在 MNAR 场景下,这种做法会使模型对高风险样本的预测概率系统性偏低,导致坏账率上升。务必结合业务逻辑判断缺失机制。
3.3 三类缺失机制的识别流程
在实际金融数据中,严格区分三类缺失并不容易。以下是一个实用的识别决策流程:
- 业务溯源:与数据采集团队确认缺失原因(系统故障、用户主动跳过、字段废弃)。
- 统计检验:对缺失组与非缺失组的其他特征做分布差异检验(t检验、卡方检验)。
- 逻辑回归诊断:以缺失标志为因变量,其他特征为自变量,观察显著变量。
- 领域知识判断:若缺失与敏感信息(如收入、逾期状态)强相关,优先怀疑 MNAR。
- 敏感性分析:分别用 MCAR、MAR、MNAR 假设下的填充策略建模,观察模型稳定性。
💡 专家建议:在特征监控巡检中,建议将“缺失率”与“缺失模式”作为每日监控指标。当某个特征的缺失率突然上升时,先按上述流程判断缺失类型,再决定是否触发告警或调整填充策略。
3.4 三类缺失机制的关系与决策树
下图展示了从数据缺失到处理策略的完整决策路径,帮助你在金融特征监控中快速定位缺失类型并选择对应方法。
3.5 缺失类型对特征监控的影响
在特征缺失巡检中,不同缺失类型对监控指标的影响差异显著:
| 监控维度 | MCAR | MAR | MNAR |
|---|---|---|---|
| 缺失率稳定性 | 长期稳定,波动小 | 随其他特征分布漂移 | 随目标变量(如逾期率)波动 |
| 填充后偏差 | 无偏差 | 可校正,偏差可控 | 系统性偏差,难以校正 |
| 监控告警阈值 | 固定阈值(如5%) | 动态阈值,需联动其他特征 | 需结合业务事件(如政策变更) |
| 模型影响 | 降低样本量,不影响分布 | 可能引入轻微偏差 | 严重扭曲模型预测 |
巡检实践要点:在每日特征监控中,若发现某个特征的缺失率与模型预测的违约概率(PD)出现同向趋势变化,应高度怀疑 MNAR 机制,立即触发人工复核,并暂停该特征在模型中的使用,直至完成偏差评估。