1. 课程导论:特征缺失的定义、缺失数据在风控场景中的普遍性、课程目标与学习路径概览

1.1 特征缺失的定义与本质

在风控建模中,特征缺失(Feature Missing)是指数据集中某个或某些样本的特定特征字段没有值、值为空或值为无效占位符的现象。缺失并非简单的“数据丢失”,它往往反映了数据采集流程、用户行为模式或系统处理逻辑中的深层信息。

缺失类型 定义 风控场景典型示例
完全随机缺失(MCAR) 缺失与否完全独立于观测数据和未观测数据 系统随机丢包导致某笔交易的用户设备指纹字段为空
随机缺失(MAR) 缺失与否依赖于其他已观测特征 高收入用户更倾向于不填写“月收入”字段,收入缺失与职业、学历相关
非随机缺失(MNAR) 缺失与否依赖于缺失值本身 逾期用户故意不提供“紧急联系人”信息,缺失本身即风险信号
核心认知:特征缺失不是“数据错误”,而是风控建模中一种高价值的信息载体。缺失模式本身往往比填充后的数值更具预测力。

1.2 缺失数据在风控场景中的普遍性

风控数据源高度异构、采集链路长、用户配合度差异大,导致特征缺失成为常态而非例外。以下统计反映了缺失在风控领域的普遍程度:

  • 信贷申请场景:超过 70% 的申请样本至少存在一个缺失特征,收入、职业、居住时长等核心字段缺失率可达 15%–40%。
  • 交易反欺诈场景:设备指纹、IP 地理位置、生物特征等实时采集字段,因网络延迟或 SDK 兼容性问题,缺失率在 5%–25% 之间波动。
  • 存量客户监控:历史还款记录、多头借贷查询、社保公积金等第三方数据源,因数据源更新延迟或接口异常,缺失率随时间推移呈上升趋势。
风控全链路特征缺失分布 风控全链路特征缺失分布 数据采集层 设备指纹 / IP / GPS 缺失率 5%–25% 用户授权层 收入 / 职业 / 联系人 缺失率 15%–40% 第三方数据层 征信 / 多头 / 社保 缺失率 10%–35% ⚠ 关键洞察 缺失率并非越低越好:完全无缺失的数据集往往意味着特征已被“人工清洗”,可能丢失了真实风险信号

1.3 课程目标

本课程旨在帮助风控建模从业者系统掌握特征缺失的处理方法论,并建立“缺失即信号”的实战思维。完成本课程后,你将能够:

  1. 诊断缺失模式:使用统计检验和可视化工具区分 MCAR / MAR / MNAR。
  2. 选择填充策略:根据业务场景和数据分布,在均值/中位数填充、模型预测填充、多重插补等方法中做出合理选择。
  3. 构建缺失衍生特征:将缺失指示器、缺失率、缺失模式编码作为独立特征加入模型,提升区分度。
  4. 评估缺失影响:量化缺失对模型 AUC、KS、PSI 等核心指标的影响,制定缺失监控阈值。
  5. 落地生产部署:设计在线/离线统一的缺失处理管线,确保训练与推理一致性。

1.4 学习路径概览

课程按“认知 → 诊断 → 处理 → 评估 → 部署”五阶段递进设计,共 30 章。以下为整体学习路径:

课程学习路径五阶段 课程学习路径:五阶段递进 阶段 1 认知与定义 第 1–5 章 阶段 2 缺失诊断 第 6–10 章 阶段 3 填充与衍生 第 11–18 章 阶段 4 评估与监控 第 19–25 章 阶段 5 生产部署 第 26–30 章 💡 学习建议 每阶段结束后完成配套实战练习,确保理论理解与代码实现同步推进
课前准备:建议提前安装 Python 3.8+、pandas、scikit-learn、missingno、lightgbm 等常用库。课程所有代码示例均可在 Jupyter Notebook 中复现。