4. 偏差校验指标体系:稳定性指标(PSI)、区分度指标(IV)、缺失率、异常值比例、分布一致性指标
在金融风控特征平台中,特征质量直接决定模型的上线效果与长期稳定性。本章构建一套完整的偏差校验指标体系,从稳定性、区分度、完整性、合规性和分布一致性五个维度对特征进行量化评估。以下逐一拆解各指标的定义、计算公式、阈值标准及业务含义。
4.1 稳定性指标(PSI)
群体稳定性指标(Population Stability Index, PSI)衡量特征在时间维度上的分布偏移程度,是监控模型退化的核心指标。
- 计算公式:PSI = Σ (实际占比 - 预期占比) × ln(实际占比 / 预期占比)
- 分箱规则:通常将特征按等频或等距分为10箱,每箱占比不低于5%。
- 阈值标准:
- PSI < 0.1:特征稳定,无需干预。
- 0.1 ≤ PSI < 0.25:轻度偏移,需关注并分析原因。
- PSI ≥ 0.25:严重偏移,特征需回退或重建。
实训提示:PSI计算前必须确保训练集与测试集的分箱边界一致。若特征分布出现双峰或长尾,建议使用等频分箱替代等距分箱,避免空箱导致计算异常。
4.2 区分度指标(IV)
信息量(Information Value, IV)衡量特征对好坏样本的区分能力,是特征筛选与入模决策的关键依据。
| IV 范围 | 区分能力 | 业务建议 |
|---|---|---|
| < 0.02 | 无预测力 | 建议剔除 |
| 0.02 ~ 0.10 | 弱 | 可结合业务逻辑保留 |
| 0.10 ~ 0.30 | 中等 | 适合入模 |
| 0.30 ~ 0.50 | 强 | 优先保留 |
| > 0.50 | 极强(需怀疑) | 检查是否过拟合或数据泄露 |
避坑指南:IV值过高(>0.5)的特征往往存在未来信息泄露或极端分箱问题。务必结合WOE单调性检验,避免将噪声当作强特征。
4.3 缺失率
缺失率反映特征在采集、传输、存储过程中的数据完整性问题。缺失率过高会导致模型训练偏差或线上推理失败。
- 计算公式:缺失率 = 缺失样本数 / 总样本数 × 100%
- 分级阈值:
- 缺失率 < 5%:正常,可直接填充或保留。
- 5% ≤ 缺失率 < 20%:需分析缺失机制(随机/非随机),选择合适填充策略。
- 缺失率 ≥ 20%:特征质量存疑,建议重新采集或剔除。
偏差校验要点:对比训练集与测试集的缺失率差异。若测试集缺失率突然升高,需排查上游数据源是否变更或接口超时。
4.4 异常值比例
异常值比例用于检测特征中是否存在超出业务合理范围的极端值。异常值会拉偏模型权重,导致泛化能力下降。
- 检测方法:
- IQR法则:超出 [Q1 - 1.5×IQR, Q3 + 1.5×IQR] 视为异常。
- Z-Score法:|Z| > 3 视为异常(适用于近似正态分布)。
- 业务阈值法:根据金融业务逻辑设定上下限(如年龄 > 120岁)。
- 阈值标准:异常值比例 < 1% 为正常;1% ~ 5% 需核查;> 5% 建议截尾或剔除。
# 异常值检测示例(IQR法则)
import numpy as np
def detect_outliers_iqr(data):
Q1 = np.percentile(data, 25)
Q3 = np.percentile(data, 75)
IQR = Q3 - Q1
lower_bound = Q1 - 1.5 * IQR
upper_bound = Q3 + 1.5 * IQR
outliers = (data < lower_bound) | (data > upper_bound)
return outliers, lower_bound, upper_bound
4.5 分布一致性指标
分布一致性指标用于检验特征在训练集与测试集(或不同时间窗口)之间是否服从同一分布。常用方法包括KS检验和JS散度。
| 方法 | 适用场景 | 阈值 | 说明 |
|---|---|---|---|
| KS检验 | 连续型特征 | p < 0.05 拒绝原假设 | 对分布中心偏移敏感 |
| JS散度 | 离散型或连续型 | JS < 0.1 视为一致 | 对称且平滑,适合多分布对比 |
| 卡方检验 | 分类型特征 | p < 0.05 拒绝原假设 | 需保证期望频数≥5 |
实训提示:分布一致性校验应作为特征上线前的必检项。建议同时使用KS检验和JS散度,两者互补可覆盖位置偏移与形状变化两种异常模式。
4.6 指标体系总览
以下SVG图展示偏差校验指标体系的完整框架,包含五个核心维度及其相互关联关系。
4.7 指标联动分析示例
实际业务中,单一指标异常往往伴随其他指标同步恶化。以下表格展示一个典型的联动分析场景:
| 特征名称 | PSI | IV | 缺失率 | 异常值比例 | KS p值 | 综合结论 |
|---|---|---|---|---|---|---|
| 近3月逾期次数 | 0.32 | 0.45 | 2.1% | 0.3% | 0.001 | 分布偏移严重,需回退版本 |
| 收入负债比 | 0.08 | 0.12 | 18.5% | 4.2% | 0.210 | 缺失率偏高,需优化填充策略 |
| 年龄 | 0.04 | 0.03 | 0.0% | 0.1% | 0.450 | 稳定但区分度弱,可考虑剔除 |
实训要点:在特征平台中,建议将上述五个指标封装为自动化校验流水线。每次特征上线或数据源变更时,自动触发全量校验并生成偏差报告,确保模型输入质量可控。