1. PSI 概念与背景
1.1 什么是特征漂移
在机器学习模型上线后,生产环境中的数据分布并非一成不变。当模型输入特征的统计分布随时间发生显著变化时,即发生特征漂移。特征漂移是模型性能衰减的核心诱因之一,直接导致模型预测精度下降、业务决策偏差。
特征漂移的常见成因包括:
- 外部环境变化:用户行为习惯改变、季节性波动、政策法规调整。
- 数据采集机制变更:埋点升级、数据源切换、特征工程逻辑更新。
- 样本选择性偏差:训练集与线上真实分布存在系统性差异。
关键认知:特征漂移 ≠ 模型失效。但持续未检测的漂移会逐步侵蚀模型效果,因此需要量化指标进行监控。
1.2 PSI 的定义
群体稳定性指标(Population Stability Index, PSI)是衡量两个样本分布差异的标准化度量。在模型监控场景中,PSI 用于量化当前生产数据分布相对于训练基准分布的偏移程度。
PSI 的计算基于分箱(binning)思想,将连续特征或模型预测分数划分为 K 个区间,然后比较每个区间内样本占比的变化。其数学公式为:
PSI = Σ (P_i - Q_i) × ln(P_i / Q_i)
其中:
- P_i = 当前分布在第 i 个分箱中的样本占比
- Q_i = 基准分布在第 i 个分箱中的样本占比
- i = 1, 2, ..., K(分箱总数)
PSI 值越大,表示两个分布差异越显著。业界通用的判定阈值如下:
| PSI 范围 | 漂移程度 | 建议动作 |
|---|---|---|
| < 0.10 | 无显著漂移 | 持续常规监控 |
| 0.10 ~ 0.25 | 轻度漂移 | 排查原因,加强监控频率 |
| > 0.25 | 严重漂移 | 立即告警,触发模型重训或回滚 |
实践提示:PSI 对分箱数量敏感。通常建议分箱数 K 在 10~20 之间,且每个分箱的基准样本占比不低于 5%,避免零分母导致计算异常。
1.3 PSI 在模型监控中的重要性
PSI 是模型监控体系中的核心量化指标,其重要性体现在以下三个层面:
- 早期预警:在模型性能指标(如 AUC、准确率)明显下降之前,PSI 能提前捕捉到特征分布的细微变化,为运维团队争取响应时间。
- 归因定位:当模型效果衰减时,PSI 可逐特征计算,快速定位是哪个特征发生了漂移,缩小排查范围。
- 决策依据:PSI 阈值提供了客观的模型重训或回滚标准,避免人工主观判断带来的误操作。
下图展示了 PSI 在模型监控闭环中的位置与作用:
常见误区:PSI 仅衡量分布差异,不直接反映模型预测能力。低 PSI 不代表模型一定有效,高 PSI 也不代表模型一定失效。需结合模型性能指标(AUC、KS、准确率等)综合判断。
1.4 PSI 与其它漂移指标的对比
除 PSI 外,业界还有多种分布漂移检测指标。下表对比了 PSI 与常用替代方案的特点:
| 指标 | 核心原理 | 适用场景 | 主要优势 | 主要局限 |
|---|---|---|---|---|
| PSI | 分箱后计算占比对数比加权和 | 连续特征、模型分数 | 业界标准,阈值成熟,解释性强 | 对分箱方式敏感 |
| KL 散度 | 信息论中的相对熵 | 概率分布对比 | 数学基础严谨 | 非对称,无固定阈值 |
| JS 散度 | KL 散度的对称化版本 | 对称分布对比 | 对称且有界 [0,1] | 计算复杂度略高 |
| KS 检验 | 两样本累积分布最大垂直距离 | 单特征分布对比 | 无需分箱,统计检验完备 | 对样本量敏感,不适用于多特征 |
| Wasserstein 距离 | 最优传输理论中的推土机距离 | 高维分布对比 | 考虑分布几何结构 | 计算成本高,阈值难定义 |
选型建议:在工业级模型监控中,PSI 凭借其阈值标准化和跨团队沟通成本低的优势,成为最广泛采用的漂移指标。建议以 PSI 为主,KS 检验为辅,形成双重校验机制。