3. 数据基础与合规
贷后逾期概率预测的上限,往往不由模型算法决定,而由数据基础与合规边界决定。模型可以迭代,特征可以筛选,但如果数据来源不清、口径混乱、缺失处理随意,或触碰隐私合规红线,后续所有预警阈值优化都会失去可信度。本节围绕四个关键环节展开:数据来源梳理、数据清洗、缺失值处理、隐私合规与数据安全。
一、核心原理:贷后数据是“时间切片+行为轨迹”的组合
贷后数据与贷前申请数据最大的区别在于:贷前数据描述“客户是谁”,贷后数据描述“客户正在变成谁”。因此,贷后数据天然具有时间序列属性,必须按“观察点—表现期—观察期”三层结构组织。
- 观察点:当前做预测的时间节点,例如2024-06-30。
- 观察期:观察点之前用于构造特征的时间窗口,如近3个月、近6个月。
- 表现期:观察点之后用于定义标签的时间窗口,如未来30天是否逾期。
数据来源通常分为五类:
| 数据类别 | 典型字段 | 更新频率 | 主要风险 |
|---|---|---|---|
| 账户与合同 | 放款金额、利率、期限、还款方式 | 低 | 口径不一致 |
| 还款行为 | 应还、实还、逾期天数、还款渠道 | 日/实时 | 延迟入账 |
| 额度与支用 | 授信额度、已用额度、支用次数 | 日 | 循环授信口径 |
| 外部征信 | 查询次数、负债、共债机构数 | 月/季 | 授权与时效 |
| 行为埋点 | 登录、点击、客服通话 | 实时 | 隐私与噪声 |
核心原则:任何进入模型的特征,都必须能回答三个问题——从哪来、什么时候来、以什么口径来。回答不了,就不应进入生产模型。
二、方法流程:从原始表到建模宽表的清洗链路
贷后数据清洗不是一次性动作,而是一条可复现的流水线。建议按以下步骤落地:
- 数据接入与快照:按日分区落库,保留原始快照,避免“覆盖式更新”导致历史不可追溯。
- 主键与实体对齐:统一客户号、合同号、账户号,处理一人多户、一户多合同。
- 口径标准化:逾期天数统一按“自然日”或“账单日”计算,避免混用。
- 异常值识别:如还款金额为负、逾期天数超过合同期限、时间戳倒挂。
- 去重与合并:同一客户同一观察点只保留一条记录,防止标签泄漏。
- 特征衍生:生成滚动窗口统计,如近3期平均逾期天数、近6月最大连续逾期。
以下是一个典型的清洗配置示例,用于约束时间窗口与口径:
observation_date: 2024-06-30
observation_window:
short: 90d
long: 180d
performance_window: 30d
label:
overdue_days_threshold: 1
definition: "表现期内最大逾期天数 >= 1"
dedup:
key: [customer_id, observation_date]
keep: latest
timezone: Asia/Shanghai
清洗完成后,应输出一份数据质量日志,至少包含:记录数、去重数、缺失率、异常值数、标签分布。日志本身也是合规审计的一部分。
三、缺失值处理:先判断“为什么缺”,再决定“怎么补”
贷后缺失值通常有三类成因:
- 业务未发生:客户从未支用,额度使用字段为空。这类缺失本身有信息量,应保留为“未发生”类别。
- 系统未采集:外部征信未授权或接口失败。这类缺失与客户资质相关,不能简单均值填充。
- 随机丢失:如渠道字段偶发为空。可考虑中位数、众数或模型插补。
推荐做法:对每一列缺失值先做“缺失率—标签相关性”分析。若缺失本身与逾期显著相关,应生成“是否缺失”指示变量,而不是直接填充。
常见处理策略对比:
| 策略 | 适用场景 | 风险 |
|---|---|---|
| 删除记录 | 缺失率极低且随机 | 样本偏差 |
| 均值/中位数 | 连续变量、随机缺失 | 低估方差 |
| 众数/特殊值 | 类别变量、业务未发生 | 需明确语义 |
| 模型插补 | 缺失率中等、变量相关 | 引入泄漏 |
| 缺失指示变量 | 缺失有业务含义 | 维度增加 |
需要特别警惕的是“用未来信息补过去”。例如用客户后续还款表现回填当前缺失,会直接造成标签泄漏,使离线指标虚高、上线后失效。
四、隐私合规与数据安全要点
贷后数据涉及大量个人金融信息,合规不是附加项,而是前置条件。落地时至少关注以下要点:
- 授权与目的限制:外部征信、运营商、行为埋点等数据必须有明确授权,且仅用于约定用途。
- 最小必要:模型只使用与逾期预测直接相关的字段,避免过度采集。
- 去标识化与假名化:建模环境中用客户编号替代身份证、手机号等直接标识。
- 访问控制:按角色分配数据权限,敏感字段脱敏展示,操作留痕。
- 存储与传输:加密存储、加密传输,明确保留期限与销毁机制。
- 审计与追溯:保留数据血缘、特征口径、模型版本,支持监管问询。
常见误区:把“内部数据”等同于“可随意使用”。即使是自有贷后数据,只要可识别到个人,就受个人信息保护相关法规约束。合规检查应覆盖采集、存储、使用、共享、销毁全生命周期。
五、案例复盘:一次因缺失处理不当导致的预警失效
某消费金融团队在构建逾期预警模型时,将“近6月外部查询次数”缺失值统一填充为0。离线AUC达到0.82,但上线后预警命中率明显下降。复盘发现:缺失该字段的客户,多为未授权征信查询的新客,其真实风险高于均值。填充为0相当于把高风险客户“洗白”为低风险,导致阈值优化方向错误。
修正方案是:保留缺失指示变量,并对该字段单独分箱,将“未授权”作为一个独立类别进入模型。调整后离线指标略降,但上线后预警稳定性显著提升。这个案例说明:缺失值处理不是技术细节,而是业务语义与合规边界的体现。
本节小结:贷后数据基础决定模型可信度。来源要可追溯,清洗要可复现,缺失要可解释,合规要可审计。只有这四点同时成立,后续的逾期概率预测与预警阈值优化才有坚实底座。