4. 数据准备与预处理:特征筛选、缺失值处理、异常值处理、数据标准化对PSI的影响

贷后逾期预测模型的稳定性高度依赖输入数据的质量与分布一致性。在模型上线后,若数据预处理逻辑与训练阶段不一致,或特征分布发生结构性偏移,PSI(群体稳定性指标)将直接反映为异常波动。本章系统梳理特征筛选、缺失值处理、异常值处理、数据标准化四个环节对PSI的具体影响机制与操作规范。

4.1 特征筛选对PSI的影响

特征筛选不仅决定模型性能上限,更直接影响PSI的敏感度。若保留过多噪声特征或低区分度特征,PSI容易被无关波动干扰;若剔除重要特征,则可能掩盖真实分布偏移。

特征类型 对PSI的影响 筛选建议
高区分度稳定特征 PSI波动小,反映真实客群变化 优先保留,定期监控分箱边界
低区分度噪声特征 PSI易被随机波动拉高 剔除或降维处理
高相关性冗余特征 PSI信号重叠,难以定位偏移源 保留代表性特征,删除冗余
随时间衰减特征 PSI持续上升,但非客群变化 设置有效期或动态重训练

关键原则:特征筛选应以“训练集-验证集-测试集”三阶段分布一致性为基准,优先选择IV值高且PSI长期低于0.10的特征。

4.2 缺失值处理对PSI的影响

缺失值处理方式若在训练与监控阶段不一致,会直接改变特征分布形态,导致PSI计算失真。常见缺失值填充方法对PSI的影响如下:

  • 均值/中位数填充:若监控期缺失率上升,填充值会拉低特征均值,PSI偏向负向偏移。
  • 众数填充(分类特征):缺失率变化会改变众数类别占比,PSI对类别分布敏感。
  • 模型预测填充:填充值依赖模型,若模型泛化能力下降,PSI可能掩盖真实偏移。
  • 缺失指示变量:新增“是否缺失”二值特征,可单独监控缺失模式变化,避免污染原始分布。

最佳实践:建议对连续特征使用“中位数填充 + 缺失指示变量”组合,对分类特征使用“众数填充 + 缺失指示变量”,并在PSI监控中同时跟踪原始特征与缺失指示变量的稳定性。

4.3 异常值处理对PSI的影响

异常值处理(截尾、盖帽、剔除)若在训练与监控阶段采用不同阈值或方法,会直接改变特征分布的尾部形态,导致PSI计算出现假阳性或假阴性。

异常值处理方法 PSI潜在风险 监控建议
固定阈值截尾(如±3σ) 监控期分布方差变化时,截尾比例改变 使用分位数阈值(如1%/99%)替代固定σ
分位数盖帽 盖帽比例固定,但分布偏移后盖帽值变化 同时监控盖帽前后PSI
模型异常检测剔除 剔除逻辑复杂,难以复现 仅用于训练阶段,监控阶段统一规则

注意:异常值处理必须在训练阶段确定规则并固化,监控阶段严格复用同一规则,不得动态调整阈值。

4.4 数据标准化对PSI的影响

标准化方法(Z-score、Min-Max、RobustScaler)会改变特征的数值范围与分布形态,直接影响PSI的分箱结果与计算值。不同标准化方法对PSI的敏感度差异显著:

  • Z-score标准化:依赖均值和标准差,若监控期分布偏移,标准化后特征分布可能被压缩或拉伸,PSI对均值偏移敏感。
  • Min-Max标准化:依赖最小值和最大值,监控期若出现新极值,标准化后分布整体偏移,PSI易被拉高。
  • RobustScaler:基于中位数和四分位距,对异常值鲁棒,PSI波动相对稳定。

推荐方案:贷后逾期预测模型建议使用RobustScaler进行标准化,并在PSI监控中同时计算标准化前后的PSI,以区分“原始分布偏移”与“标准化方法引入的偏移”。

4.5 数据预处理对PSI影响的整体流程

数据预处理对PSI影响的监控流程 原始数据 特征筛选 缺失值处理 异常值处理 数据标准化 PSI计算与监控 关键监控点 • 特征分布一致性 • 缺失率变化 • 异常值比例变化 标准化方法对比 • Z-score:均值敏感 • Min-Max:极值敏感 • RobustScaler:推荐

4.6 预处理规则固化与PSI基线

为确保PSI监控的可靠性,所有数据预处理逻辑必须在模型训练阶段完成固化,并记录为预处理配置文件。监控阶段严格复用该配置,不得动态调整。

# 预处理规则固化示例(Python伪代码)
preprocessing_config = {
    "features_to_keep": ["age", "income", "credit_score", "loan_amount"],
    "missing_fill": {
        "age": "median",
        "income": "median",
        "credit_score": "median",
        "loan_amount": "median"
    },
    "missing_indicator": ["income", "credit_score"],
    "outlier_cap": {
        "age": {"lower": 0.01, "upper": 0.99},
        "income": {"lower": 0.01, "upper": 0.99}
    },
    "scaler": "RobustScaler",
    "scaler_params": {
        "center": True,
        "scale": True,
        "quantile_range": (25.0, 75.0)
    }
}

PSI基线设定:在训练集与验证集上计算预处理后的PSI作为基线值。若监控期PSI超过基线值0.05以上,需排查预处理环节是否出现规则偏差或数据分布结构性变化。

4.7 预处理环节PSI异常排查清单

PSI异常表现 可能原因 排查方向
PSI持续上升 特征筛选遗漏重要变量 重新评估特征IV值与稳定性
PSI突然跳变 缺失值处理规则变更 检查缺失率与填充逻辑
PSI尾部偏移 异常值阈值不一致 核对截尾/盖帽参数
PSI整体偏移 标准化参数与训练期不符 验证scaler参数是否固化

重要提醒:任何预处理规则的变更(包括参数调整、新增特征、填充方法替换)都必须重新计算PSI基线,并记录变更日志。未经基线校准的PSI监控结果不可用于模型稳定性判断。