4. 选择偏差详解：训练集与线上真实流量分布不一致、采样策略导致的偏差、拒绝推断问题

选择偏差（Selection Bias）是实时风控特征工程中最隐蔽、破坏性最强的样本偏差类型。它源于训练样本的选取过程与线上真实推理环境之间的系统性差异。本章将深入剖析三种核心选择偏差场景：训练/线上分布不一致、采样策略偏差以及拒绝推断问题，并提供可落地的诊断与缓解方案。

4.1 训练集与线上真实流量分布不一致

这是最基础也最常见的选择偏差。模型在历史样本上训练，但线上流量分布会随时间、渠道、用户群体、外部环境等因素发生漂移。如果训练集不能代表当前线上的真实分布，模型性能将急剧下降。

4.1.1 分布不一致的典型表现

4.1.2 诊断方法：PSI 与特征分布对比

群体稳定性指标（Population Stability Index, PSI）是量化分布偏移的标准工具。对于每个特征，计算训练集与线上近期样本的分布差异。

# PSI 计算示例（Python 伪代码）
import numpy as np

def calculate_psi(expected, actual, bins=10):
    # expected: 训练集特征值数组
    # actual: 线上近期特征值数组
    # 分箱
    percentiles = np.percentile(expected, np.linspace(0, 100, bins + 1))
    expected_bins = np.histogram(expected, bins=percentiles)[0] / len(expected)
    actual_bins = np.histogram(actual, bins=percentiles)[0] / len(actual)
    # 避免除零
    expected_bins = np.clip(expected_bins, 0.001, 1)
    actual_bins = np.clip(actual_bins, 0.001, 1)
    # 计算 PSI
    psi = np.sum((expected_bins - actual_bins) * np.log(expected_bins / actual_bins))
    return psi

# 阈值判断
psi_value = calculate_psi(train_feature, online_feature)
if psi_value > 0.25:
    print("特征分布发生显著偏移，需要重新训练或特征工程")
elif psi_value > 0.1:
    print("特征分布轻度偏移，建议监控")
else:
    print("分布稳定")

4.2 采样策略导致的偏差

为了应对风控场景中极端的正负样本不平衡（坏账率通常低于 1%），工程师常采用各种采样策略来构建训练集。然而，不当的采样会引入系统性偏差，使模型学到的决策边界偏离真实风险分布。

4.2.1 常见采样策略及其偏差

4.2.2 采样偏差的缓解方法

• 使用加权损失函数：不改变样本分布，而是通过调整损失函数中正负样本的权重来平衡学习。例如，在 XGBoost 中设置 scale_pos_weight 参数。
• 保留原始分布进行验证：无论采用何种采样策略训练模型，验证集和测试集必须保持与线上一致的原始分布，否则无法准确评估模型真实性能。
• 校准模型输出概率：采样后的模型输出概率存在偏移，需要使用 Platt Scaling 或 Isotonic Regression 进行概率校准，使其接近真实风险概率。

# 概率校准示例（使用 XGBoost + Platt Scaling）
from sklearn.calibration import CalibratedClassifierCV
import xgboost as xgb

# 原始模型（在采样数据上训练）
model = xgb.XGBClassifier(scale_pos_weight=100)
model.fit(X_train_sampled, y_train_sampled)

# 在保留原始分布的验证集上进行概率校准
calibrated_model = CalibratedClassifierCV(model, method='sigmoid', cv=5)
calibrated_model.fit(X_val_original, y_val_original)

# 线上推理时使用校准后的模型
online_prob = calibrated_model.predict_proba(X_online)[:, 1]

4.3 拒绝推断问题

拒绝推断（Reject Inference）是风控领域最经典、最棘手的选择偏差问题。其核心困境是：模型只能看到“被通过的样本”的真实标签（好/坏），而“被拒绝的样本”的真实标签永远无法观测。如果直接用通过样本训练模型，模型学到的只是“在通过人群中的风险区分能力”，而非“在全量申请人群中的真实风险区分能力”。

4.3.1 拒绝推断的三种主流方法

4.3.2 两阶段法（Heckman 校正）实践

两阶段法是经济学中处理样本选择偏差的经典方法，在风控拒绝推断中同样有效。其核心是引入一个“排他性变量”——该变量影响样本是否被通过，但不直接影响风险标签。

# 两阶段法拒绝推断（Python 伪代码）
import statsmodels.api as sm
from statsmodels.sandbox.regression.gmm import IV2SLS

# 第一阶段：选择方程（Probit 模型）
# 目标：建模样本被通过的概率
# 特征 X_selection 包含排他性变量（如：申请渠道、设备指纹评分）
selection_model = sm.Probit(y_approved, X_selection)
selection_results = selection_model.fit()
# 计算逆米尔斯比率（IMR）
imr = selection_results.predict(X_selection, linear=True)
imr = sm.distributions.norm.pdf(imr) / sm.distributions.norm.cdf(imr)

# 第二阶段：风险方程（在通过样本上训练）
# 将 IMR 作为校正特征加入风险模型
X_risk_with_imr = np.column_stack([X_risk_approved, imr[approved_mask]])
risk_model = sm.Logit(y_risk_approved, X_risk_with_imr)
risk_results = risk_model.fit()

# 线上推理时，先计算 IMR，再预测风险
imr_online = ...  # 根据线上特征计算
risk_score = risk_model.predict(np.column_stack([X_online, imr_online]))

4.4 选择偏差的实时监控与治理框架

选择偏差无法完全消除，但可以通过系统化的监控和治理框架将其影响降到最低。下图展示了实时风控中选择偏差的闭环治理流程。

4.4.1 治理要点总结

• 持续监控：对每个特征和模型输出进行 PSI、KS、分布对比，设置告警阈值。
• 分层验证：在训练、验证、测试阶段保持与线上一致的分布，避免采样偏差污染评估。
• 拒绝推断迭代：将拒绝推断作为模型训练的标准流程，而非一次性补救措施。
• 回滚机制：当线上监控发现选择偏差导致模型效果下降时，能够快速回滚到上一版本或使用规则兜底。