3、常见偏差类型：特征值缺失率偏差、特征值分布偏差、特征值统计量偏差、特征重要性偏差
在特征服务上线与迭代过程中，样本偏差并非单一形态。根据实际生产环境中的高频故障模式，我们将最常见的偏差归纳为以下四种类型。理解这些类型的定义、成因与检测方法是进行偏差校验的基础。
3.1 特征值缺失率偏差
定义：训练样本与线上服务样本中，同一特征的缺失比例出现显著差异。
典型场景：
- 上游链路变更：特征计算逻辑升级后，新版本对空值处理不当，导致线上缺失率从 2% 飙升至 30%。
- 数据源切换：训练时使用离线数仓（缺失率 5%），线上切换为实时流处理（缺失率 25%）。
- 时间衰减：用户画像特征在训练时完整，线上因缓存过期导致大量缺失。
校验指标：缺失率差值（ΔMissingRate）> 阈值（如 5%）即触发告警。建议按特征粒度分别设定阈值，对高重要性特征采用更严格的 1% 阈值。
3.2 特征值分布偏差
定义：特征值的整体概率分布（如直方图、分位数）在训练集与线上集之间发生偏移。
常见子类型：
| 子类型 | 描述 | 典型原因 |
|---|---|---|
| 均值漂移 | 分布中心位置移动 | 用户群体季节性变化 |
| 方差变化 | 分布离散程度改变 | 特征归一化参数未更新 |
| 尾部偏移 | 极端值比例异常 | 异常检测策略变更 |
| 模态变化 | 单峰变双峰或反之 | 数据源合并/拆分 |
检测方法：连续特征常用 KS 检验（Kolmogorov-Smirnov Test）或 PSI（Population Stability Index）；离散特征常用卡方检验或 JS 散度。PSI > 0.1 通常视为显著偏差。
3.3 特征值统计量偏差
定义：特征的基本统计量（均值、方差、中位数、最大/最小值、分位数）在训练与线上之间存在系统性差异。
与分布偏差不同，统计量偏差更关注数值层面的具体差异，即使整体分布形状相似，关键统计量的偏移也可能导致模型输出不稳定。
常见陷阱：归一化/标准化参数（如 MinMaxScaler 的 min/max）在训练时固定，但线上新数据超出原始范围，导致特征值被截断或缩放异常。这是统计量偏差的高发区。
校验清单：
- 均值偏差：ΔMean / Mean_train > 10% 需关注。
- 方差偏差：ΔVariance / Variance_train > 20% 需排查。
- 极值偏差：线上 max 超出训练 max 的 1.5 倍 IQR 范围。
- 分位数偏差：P50/P90/P99 偏移超过 5%。
3.4 特征重要性偏差
定义：特征对模型预测的贡献度（重要性）在训练环境与线上环境之间发生显著变化。
这是最隐蔽的偏差类型——即使特征值本身未变，特征与目标变量之间的关系也可能因环境变化而改变。
| 重要性度量方法 | 训练环境 | 线上环境 | 偏差表现 |
|---|---|---|---|
| SHAP Value | 特征 A 贡献 0.35 | 特征 A 贡献 0.12 | 特征失效或概念漂移 |
| Permutation Importance | 特征 B 排名第 2 | 特征 B 排名第 8 | 特征排序剧烈变化 |
| Gain / Split Count | 特征 C 分裂增益 0.8 | 特征 C 分裂增益 0.2 | 树模型特征退化 |
最佳实践：在特征服务中部署重要性漂移监控，定期（如每小时）计算线上样本的 SHAP 值，与训练基线对比。Top-5 特征的重要性排序变化超过 2 位即触发人工审核。
3.5 四种偏差类型的关联与优先级
在实际生产中，这四种偏差往往相互关联、层层递进：
- 缺失率偏差通常是第一道防线，最容易检测，也最常由工程问题引发。
- 分布偏差和统计量偏差是第二层，反映特征值本身的数值变化。
- 重要性偏差是最终表现，即使前两层未触发，重要性也可能因特征间交互关系变化而漂移。
推荐校验优先级：缺失率 → 统计量 → 分布 → 重要性。前两者可高频（分钟级）检测，后两者适合低频（小时级）深度分析。