4、特征工程方法:特征构造、特征选择、特征缩放、时间序列特征提取

在贷后预警模型中,原始数据通常无法直接用于建模。特征工程是将原始数据转化为模型可理解、可学习的高质量特征的过程。本章围绕特征构造、特征选择、特征缩放与时间序列特征提取四大核心方法展开,结合贷后预警场景进行详细阐述。

4.1 特征构造

特征构造是从现有字段中通过数学变换、组合或业务逻辑生成新特征的过程。在贷后预警中,常见的构造方式包括:

  • 聚合统计:对客户历史行为进行统计,如近3个月逾期次数、近6个月最大逾期天数、平均还款金额等。
  • 比率特征:如负债收入比(DTI)、信用卡使用率、月还款额/月收入。
  • 交叉组合:将离散特征进行笛卡尔积,如“职业 × 地区”组合后的逾期率编码。
  • 差分与变化率:如当前额度与上月额度的差值、近3个月收入增长率。
贷后场景提示: 特征构造应紧密结合业务逻辑。例如,对于“还款意愿”的刻画,可构造“近3个月最低还款次数”或“连续逾期后全额还款标志”等特征,这些比原始字段更具判别力。

4.2 特征选择

特征选择旨在从高维特征集中筛选出对预警任务最有贡献的子集,降低过拟合风险并提升模型可解释性。常用方法分为三类:

方法类别 代表算法 贷后预警适用场景
过滤法(Filter) 方差阈值、卡方检验、互信息、相关系数 快速剔除低方差或与目标变量无关的特征
包裹法(Wrapper) 递归特征消除(RFE)、前向/后向搜索 特征数较少时(如<50),追求最优子集
嵌入法(Embedded) Lasso回归、树模型特征重要性、XGBoost增益 高维数据,自动在训练过程中完成选择
实践建议: 在贷后预警实验中,推荐先使用过滤法快速剔除冗余特征,再结合嵌入法(如XGBoost特征重要性)进行精筛。包裹法计算成本高,仅在特征维度较低且对精度要求极高时使用。

4.3 特征缩放

特征缩放解决不同特征量纲差异对模型的影响。在贷后预警中,涉及距离计算(如KNN、K-Means)或梯度下降(如逻辑回归、神经网络)的模型对尺度敏感,必须进行缩放。

  • 标准化(Z-score):将特征转换为均值为0、标准差为1的分布。公式:\( z = \frac{x - \mu}{\sigma} \)。适用于数据近似正态分布的场景。
  • 归一化(Min-Max):将特征缩放到[0,1]区间。公式:\( x' = \frac{x - min}{max - min} \)。适用于边界明确、无异常值的特征。
  • 稳健缩放(RobustScaler):使用中位数和四分位距(IQR)进行缩放,对异常值不敏感。公式:\( x' = \frac{x - median}{IQR} \)。贷后数据常含极端值,推荐优先使用。
注意: 特征缩放必须在训练集上拟合参数(如均值、标准差),再应用到验证集和测试集,避免数据泄露。对于树模型(决策树、随机森林、XGBoost),特征缩放通常不是必需的。

4.4 时间序列特征提取

贷后预警数据天然具有时间序列属性,如客户每月的还款记录、额度变化、逾期状态等。时间序列特征提取旨在捕捉时序中的趋势、周期性和突变点。

常用提取方法包括:

  • 滑动窗口统计:对过去N个时间步计算均值、标准差、最大值、最小值、斜率等。例如,近3个月还款金额的波动率。
  • 滞后特征:将过去时刻的值作为当前特征,如T-1、T-2期的逾期状态。
  • 差分与季节性分解:提取一阶差分(变化量)、同比/环比增长率、季节性成分。
  • 时序聚合编码:对时间序列进行全局聚合,如总逾期次数、最长连续逾期天数、最近一次逾期距今时间。
贷后场景案例: 某客户近6个月的还款金额序列为[5000, 5000, 4500, 4000, 3000, 2000]。可提取特征:近3个月均值=3000,近3个月斜率=-1000(下降趋势),近6个月标准差≈1145(波动增大),这些特征对预警模型识别“还款能力恶化”至关重要。

下图展示了贷后预警中特征工程四大模块的完整流程与相互关系:

贷后预警特征工程流程 贷后预警特征工程四大模块流程 原始数据 特征构造 聚合·比率·交叉·差分 特征选择 过滤·包裹·嵌入 特征缩放 标准化·归一化·稳健 时间序列特征提取 滑动窗口·滞后·差分 最终特征集 说明:特征构造、选择、缩放为并行前置步骤,时间序列特征提取可独立进行,最终合并为特征集用于模型训练。

4.5 特征工程在贷后预警中的综合应用

在实际贷后预警实验中,特征工程并非孤立执行,而是形成一套流水线。下图展示了特征工程与模型训练、评估的集成关系:

特征工程与模型训练集成流程 特征工程与模型训练集成流程 原始数据 特征工程流水线 构造→选择→缩放→时序 训练/测试拆分 时间序列交叉验证 模型训练 XGBoost/LR 特征迭代优化反馈 模型评估 说明:特征工程完成后需进行时间序列交叉验证拆分,避免未来信息泄露。模型评估结果可反馈至特征工程环节进行迭代优化。

4.6 特征工程实验评估要点

在贷后预警实验中,评估特征工程效果需关注以下指标:

  • 特征重要性排序:使用树模型或Permutation Importance识别Top-N特征,验证其业务合理性。
  • 特征稳定性:通过PSI(群体稳定性指标)监控特征在时间窗口上的分布变化,避免特征漂移。
  • 模型性能增益:对比加入新特征前后模型AUC、KS、召回率等指标的变化,量化特征贡献。
  • 计算效率:记录特征构造与选择的耗时,确保在贷后实时预警场景中满足延迟要求。
实验记录模板: 建议在实验报告中为每个特征工程步骤记录:方法名称、参数设置、输出特征数量、对模型AUC的提升幅度、计算耗时。例如:“特征构造:滑动窗口3个月均值,窗口=3,新增特征5个,AUC提升0.012,耗时0.3秒”。