Kafka实时流PSI漂移检测实操 - 第2节
2.1 群体稳定性指标（PSI）的定义与业务含义
群体稳定性指标（Population Stability Index，PSI）是衡量两个样本分布之间差异程度的统计量，在风控、营销、运维等场景中广泛用于监测模型评分或业务特征随时间是否发生显著偏移。PSI 的核心思想是：如果两个分布一致，则各分箱内的样本占比应大致相同；若差异越大，PSI 值越高，说明群体结构发生了实质性变化。
业务含义：PSI 直接反映“今天的人群”与“建模/上线时的人群”是否仍属于同一分布。PSI 过高意味着模型赖以训练的数据分布已发生漂移，模型预测能力可能退化，需要触发重训或告警。
2.1.1 PSI 计算公式
PSI 的计算基于分箱后的实际占比（Actual）与预期占比（Expected），公式如下：
PSI = Σ (Actual_i - Expected_i) × ln(Actual_i / Expected_i)
其中：
- i 表示第 i 个分箱（共 n 个分箱）
- Actual_i = 当前样本在第 i 箱中的占比
- Expected_i = 基准样本在第 i 箱中的占比
- ln 为自然对数当某个分箱的 Expected_i 或 Actual_i 为 0 时，通常做平滑处理（如加一个小常数 ε = 1e-6），避免对数无定义。
2.1.2 PSI 数值的业务解读
| PSI 范围 | 漂移程度 | 建议动作 |
|---|---|---|
| < 0.1 | 无显著漂移 | 模型可继续使用，持续监控 |
| 0.1 ~ 0.25 | 轻度漂移 | 需关注，排查特征或业务变化 |
| > 0.25 | 严重漂移 | 立即告警，触发模型重训或回滚 |
注意：上述阈值是行业经验值，实际业务中应根据模型敏感度和业务容忍度动态调整。例如，信贷审批模型通常要求 PSI < 0.1，而营销响应模型可放宽至 0.2。
2.2 分箱策略：PSI 计算的前提
PSI 的计算依赖分箱（Binning），分箱方式直接影响 PSI 的灵敏度和稳定性。常见分箱策略有三种：
- 等距分箱（Equal Width）：将数值范围等分为 k 段，适用于均匀分布的特征。
- 等频分箱（Equal Frequency）：使每个分箱包含大致相同的样本数，对长尾分布更鲁棒。
- 自定义分箱（Custom Binning）：基于业务规则或模型分数阈值（如 A/B/C 等级）划分，最贴合业务逻辑。
2.2.1 分箱策略对比
| 策略 | 优点 | 缺点 | 适用场景 |
|---|---|---|---|
| 等距分箱 | 实现简单，边界直观 | 数据稀疏时箱内样本可能为 0 | 均匀分布、分数范围已知 |
| 等频分箱 | 避免空箱，对分布变化敏感 | 边界不固定，跨时间可比性弱 | 长尾分布、实时流数据 |
| 自定义分箱 | 业务可解释性强 | 需要专家经验，维护成本高 | 评分卡、信用等级 |
2.3 PSI 计算流程与分箱关系
下图展示了从原始数据到 PSI 输出的完整计算链路，其中分箱策略是承上启下的关键环节：
2.4 分箱数量与 PSI 稳定性
分箱数量（k）是 PSI 计算的重要超参数。k 值过小会掩盖局部漂移，k 值过大会放大噪声。经验规则如下：
- k = 10：最常用，平衡灵敏度与稳定性，适用于大多数评分模型。
- k = 5 ~ 8：样本量较小或特征离散程度低时使用。
- k = 15 ~ 20：样本量极大且需要捕捉细微漂移时使用，但需配合等频分箱避免空箱。
实践建议：在 Kafka 实时流场景中，推荐使用等频分箱 + k=10 的组合。等频分箱保证每个窗口都有足够的样本计算占比，避免因数据倾斜导致 PSI 突变。
2.5 PSI 与业务决策的联动
PSI 本身是一个统计指标，但最终要服务于业务决策。下图展示了 PSI 从计算到业务动作的完整链路：
2.6 本章小结
- PSI 定义：衡量两个分布差异的统计量，核心公式为 Σ (Actual_i - Expected_i) × ln(Actual_i / Expected_i)。
- 分箱策略：等距、等频、自定义三种，实时流推荐等频分箱 + k=10。
- 业务阈值：< 0.1 稳定，0.1~0.25 关注，> 0.25 告警。
- 计算前提：分箱方式直接影响 PSI 的灵敏度和可靠性，需根据数据分布和业务场景选择。