3. 数据基础与合规

贷后逾期概率预测的上限,往往不由模型算法决定,而由数据基础与合规边界决定。模型可以迭代,特征可以筛选,但如果数据来源不清、口径混乱、缺失处理随意,或触碰隐私合规红线,后续所有预警阈值优化都会失去可信度。本节围绕四个关键环节展开:数据来源梳理、数据清洗、缺失值处理、隐私合规与数据安全。

一、核心原理:贷后数据是“时间切片+行为轨迹”的组合

贷后数据与贷前申请数据最大的区别在于:贷前数据描述“客户是谁”,贷后数据描述“客户正在变成谁”。因此,贷后数据天然具有时间序列属性,必须按“观察点—表现期—观察期”三层结构组织。

  • 观察点:当前做预测的时间节点,例如2024-06-30。
  • 观察期:观察点之前用于构造特征的时间窗口,如近3个月、近6个月。
  • 表现期:观察点之后用于定义标签的时间窗口,如未来30天是否逾期。

数据来源通常分为五类:

数据类别典型字段更新频率主要风险
账户与合同放款金额、利率、期限、还款方式低口径不一致
还款行为应还、实还、逾期天数、还款渠道日/实时延迟入账
额度与支用授信额度、已用额度、支用次数日循环授信口径
外部征信查询次数、负债、共债机构数月/季授权与时效
行为埋点登录、点击、客服通话实时隐私与噪声
核心原则:任何进入模型的特征,都必须能回答三个问题——从哪来、什么时候来、以什么口径来。回答不了,就不应进入生产模型。

二、方法流程:从原始表到建模宽表的清洗链路

贷后数据清洗不是一次性动作,而是一条可复现的流水线。建议按以下步骤落地:

  1. 数据接入与快照:按日分区落库,保留原始快照,避免“覆盖式更新”导致历史不可追溯。
  2. 主键与实体对齐:统一客户号、合同号、账户号,处理一人多户、一户多合同。
  3. 口径标准化:逾期天数统一按“自然日”或“账单日”计算,避免混用。
  4. 异常值识别:如还款金额为负、逾期天数超过合同期限、时间戳倒挂。
  5. 去重与合并:同一客户同一观察点只保留一条记录,防止标签泄漏。
  6. 特征衍生:生成滚动窗口统计,如近3期平均逾期天数、近6月最大连续逾期。

以下是一个典型的清洗配置示例,用于约束时间窗口与口径:

observation_date: 2024-06-30
observation_window:
  short: 90d
  long: 180d
performance_window: 30d
label:
  overdue_days_threshold: 1
  definition: "表现期内最大逾期天数 >= 1"
dedup:
  key: [customer_id, observation_date]
  keep: latest
timezone: Asia/Shanghai

清洗完成后,应输出一份数据质量日志,至少包含:记录数、去重数、缺失率、异常值数、标签分布。日志本身也是合规审计的一部分。

三、缺失值处理:先判断“为什么缺”,再决定“怎么补”

贷后缺失值通常有三类成因:

  • 业务未发生:客户从未支用,额度使用字段为空。这类缺失本身有信息量,应保留为“未发生”类别。
  • 系统未采集:外部征信未授权或接口失败。这类缺失与客户资质相关,不能简单均值填充。
  • 随机丢失:如渠道字段偶发为空。可考虑中位数、众数或模型插补。
推荐做法:对每一列缺失值先做“缺失率—标签相关性”分析。若缺失本身与逾期显著相关,应生成“是否缺失”指示变量,而不是直接填充。

常见处理策略对比:

策略适用场景风险
删除记录缺失率极低且随机样本偏差
均值/中位数连续变量、随机缺失低估方差
众数/特殊值类别变量、业务未发生需明确语义
模型插补缺失率中等、变量相关引入泄漏
缺失指示变量缺失有业务含义维度增加

需要特别警惕的是“用未来信息补过去”。例如用客户后续还款表现回填当前缺失,会直接造成标签泄漏,使离线指标虚高、上线后失效。

四、隐私合规与数据安全要点

贷后数据涉及大量个人金融信息,合规不是附加项,而是前置条件。落地时至少关注以下要点:

  • 授权与目的限制:外部征信、运营商、行为埋点等数据必须有明确授权,且仅用于约定用途。
  • 最小必要:模型只使用与逾期预测直接相关的字段,避免过度采集。
  • 去标识化与假名化:建模环境中用客户编号替代身份证、手机号等直接标识。
  • 访问控制:按角色分配数据权限,敏感字段脱敏展示,操作留痕。
  • 存储与传输:加密存储、加密传输,明确保留期限与销毁机制。
  • 审计与追溯:保留数据血缘、特征口径、模型版本,支持监管问询。
常见误区:把“内部数据”等同于“可随意使用”。即使是自有贷后数据,只要可识别到个人,就受个人信息保护相关法规约束。合规检查应覆盖采集、存储、使用、共享、销毁全生命周期。

五、案例复盘:一次因缺失处理不当导致的预警失效

某消费金融团队在构建逾期预警模型时,将“近6月外部查询次数”缺失值统一填充为0。离线AUC达到0.82,但上线后预警命中率明显下降。复盘发现:缺失该字段的客户,多为未授权征信查询的新客,其真实风险高于均值。填充为0相当于把高风险客户“洗白”为低风险,导致阈值优化方向错误。

修正方案是:保留缺失指示变量,并对该字段单独分箱,将“未授权”作为一个独立类别进入模型。调整后离线指标略降,但上线后预警稳定性显著提升。这个案例说明:缺失值处理不是技术细节,而是业务语义与合规边界的体现。

本节小结:贷后数据基础决定模型可信度。来源要可追溯,清洗要可复现,缺失要可解释,合规要可审计。只有这四点同时成立,后续的逾期概率预测与预警阈值优化才有坚实底座。