3. 数据漂移检测原理：PSI（群体稳定性指标）
群体稳定性指标（Population Stability Index, PSI）是监控模型输入特征分布随时间变化最常用的量化工具。PSI 通过比较两个样本集（通常为训练集/基准集 vs. 当前生产集）在相同分箱上的概率分布差异，判断特征是否发生显著漂移。其核心思想是：如果特征分布稳定，则各分箱的样本占比应基本一致；反之，占比差异越大，PSI 值越高。
3.1 PSI 的计算方法
PSI 的计算分为四个步骤：分箱 → 计算占比 → 逐箱计算贡献 → 求和。具体流程如下：
- 分箱（Binning）：将连续特征或离散特征划分为 k 个区间（通常为 10 个等频分箱或业务自定义分箱）。
- 计算基准占比（p_i）：统计基准集（如训练集）中落在第 i 个分箱的样本比例。
- 计算当前占比（q_i）：统计当前监控集（如最近一周的生产数据）中落在第 i 个分箱的样本比例。
- 计算 PSI：
PSI = Σ ( (q_i - p_i) * ln(q_i / p_i) ) for i = 1 to k其中，ln 为自然对数。若某个分箱中 p_i 或 q_i 为 0，通常使用极小值（如 0.0001）替换，避免对数无定义。
计算示例： 假设某特征分为 3 箱，基准占比分别为 [0.5, 0.3, 0.2]，当前占比为 [0.4, 0.4, 0.2]。则 PSI = (0.4-0.5)*ln(0.4/0.5) + (0.4-0.3)*ln(0.4/0.3) + (0.2-0.2)*ln(0.2/0.2) ≈ 0.0223 + 0.0288 + 0 = 0.0511。
3.2 阈值设定
PSI 的阈值设定在业界有通用经验值，但需结合业务场景和模型风险容忍度进行调整。下表总结了常用阈值区间及其含义：
| PSI 范围 | 漂移程度 | 建议行动 |
|---|---|---|
| < 0.1 | 无显著漂移 | 无需干预，持续监控 |
| 0.1 ~ 0.25 | 轻度漂移 | 触发告警，排查特征变化原因，评估是否需要重训 |
| > 0.25 | 严重漂移 | 立即暂停模型决策，启动紧急复盘与模型重建 |
阈值调整建议： 对于高风险场景（如信贷审批、医疗诊断），建议将告警阈值下调至 0.05；对于低风险场景（如推荐排序），可适当放宽至 0.15。同时，建议结合特征重要性加权 PSI，对重要特征设置更严格的阈值。
3.3 PSI 的优缺点
PSI 作为工业界最成熟的漂移指标之一，既有显著优势，也存在固有局限。下表从多个维度进行对比：
| 维度 | 优点 | 缺点 |
|---|---|---|
| 可解释性 | 数值直观，阈值通用，业务人员易于理解 | 无法直接反映漂移对模型性能的具体影响 |
| 计算效率 | 计算简单，仅需统计分箱占比，适合大规模实时监控 | 对分箱数量敏感，分箱过少会掩盖局部漂移，分箱过多则噪声增大 |
| 分布敏感性 | 能同时检测均值漂移和形状变化 | 对零值分箱处理不鲁棒，需人工填充极小值 |
| 适用场景 | 适用于连续特征和有序离散特征 | 不适用于高基数无序类别特征（如用户 ID），需先做聚合或嵌入 |
| 因果关系 | 仅描述分布差异，不假设因果关系 | 无法区分“数据质量变化”与“真实业务变化” |
3.4 PSI 计算与漂移判定流程
下图展示了从原始特征到 PSI 告警的完整处理链路：
3.5 PSI 的局限性及应对策略
尽管 PSI 应用广泛，但在实际生产环境中存在以下常见陷阱，需要运维人员特别注意：
- 分箱敏感性：不同分箱策略（等频 vs. 等距）会导致 PSI 值差异较大。建议固定分箱方式，并在模型上线前确定基准分箱边界。
- 零值分箱问题：当某个分箱在基准集中占比为 0 时，
ln(0)无定义。常用做法是给所有分箱占比加上一个极小平滑值（如 1e-6）。 - 无法区分漂移方向：PSI 只反映分布差异的大小，不反映漂移方向（左偏/右偏）。建议结合特征均值、分位数等统计量辅助判断。
- 对样本量敏感：当当前集样本量过小时，PSI 容易产生波动。建议设置最小样本量阈值（如 > 1000 条）再计算 PSI。
避坑提醒： 不要仅依赖 PSI 一个指标做漂移决策。建议将 PSI 与特征重要性、模型性能指标（如 AUC、KS）联合监控。当 PSI 超过 0.1 但模型性能未下降时，应优先排查数据质量而非立即重训。
3.6 PSI 与替代指标对比
除 PSI 外，业界还使用其他分布差异指标。下表对比了 PSI 与常见替代方案的适用场景：
| 指标 | 核心原理 | 适用场景 | 与 PSI 的差异 |
|---|---|---|---|
| PSI | 分箱概率比的对数加权和 | 连续特征、有序离散特征 | 基准指标，对分布形状敏感 |
| KL 散度 | 相对熵，衡量分布差异 | 概率分布对比 | 非对称，PSI 是其对称化变体 |
| KS 检验 | 经验分布函数的最大垂直距离 | 连续分布差异检测 | 无需分箱，但对尾部漂移不敏感 |
| Wasserstein 距离 | 最优传输距离 | 高维分布、图像特征 | 计算成本高，但能反映几何漂移 |
在实际 MRM 监控体系中，PSI 通常作为第一道防线，配合 KS 检验和模型性能指标形成多维度漂移检测矩阵，确保及时发现并定位数据漂移根因。