PSI指标详解：群体稳定性指标
群体稳定性指标（Population Stability Index，PSI）是衡量两个样本分布之间差异程度的统计量。在机器学习模型监控与Kafka流处理场景中，PSI用于量化模型评分或特征分布在时间维度上的漂移幅度，是判断模型是否需要重新训练或告警的核心依据。
一、PSI的定义与业务含义
PSI通过比较两个概率分布（通常为基准分布与当前分布）在每个分箱上的差异，累加得到单一数值。其核心业务含义如下：
| 业务场景 | PSI含义 | 典型阈值 |
|---|---|---|
| 模型评分监控 | 模型输出分数分布是否发生显著偏移 | PSI < 0.1：无漂移；0.1 ~ 0.25：需关注；> 0.25：严重漂移 |
| 特征分布监控 | 输入特征分布是否随时间变化 | PSI < 0.1：稳定；≥ 0.1：特征漂移告警 |
| 数据质量校验 | 实时数据流与历史数据分布是否一致 | PSI > 0.2：数据管道异常 |
实践要点：在Kafka流处理中，PSI通常以滑动窗口（如过去24小时）为当前分布，以训练集或历史稳定窗口为基准分布，实现实时漂移检测。
二、PSI计算公式
PSI的计算分为三个步骤：分箱、计算各箱占比、累加差异。公式如下：
PSI = Σ ( (Actual_i - Expected_i) * ln(Actual_i / Expected_i) )其中：
- Expected_i：基准分布在第i个分箱中的样本占比
- Actual_i：当前分布在第i个分箱中的样本占比
- ln：自然对数
分箱方式通常有两种：
| 分箱方法 | 适用场景 | 注意事项 |
|---|---|---|
| 等距分箱 | 评分卡、概率输出（0~1） | 箱数通常为10，避免空箱 |
| 分位数分箱 | 特征值分布不均匀 | 保证每箱样本量均衡 |
避坑提示：当某分箱中Actual_i或Expected_i为0时，ln(0)无定义。实践中需对空箱做平滑处理，例如添加极小值（如1e-6）或合并相邻分箱。
三、PSI计算流程
下图展示了从原始数据到PSI值的完整计算链路：
四、PSI与KL散度的关系
PSI在数学上等价于两个KL散度的对称和：
PSI = KL(Actual || Expected) + KL(Expected || Actual)其中KL散度定义为：
KL(P || Q) = Σ P_i * ln(P_i / Q_i)这种对称性使得PSI比单向KL散度更适合衡量分布漂移，因为它同时惩罚了基准分布向当前分布偏移和当前分布向基准分布偏移两种方向的不一致。
| 指标 | 对称性 | 取值范围 | 业务解释性 |
|---|---|---|---|
| PSI | 对称 | [0, +∞) | 强，有成熟阈值体系 |
| KL散度 | 非对称 | [0, +∞) | 弱，需结合方向解释 |
| JS散度 | 对称 | [0, ln2] | 中等，阈值需自定义 |
工程建议：在Kafka流处理中，推荐使用PSI而非KL散度，因为PSI的阈值体系（0.1/0.25）经过大量工业验证，可直接用于告警规则配置。
五、PSI在Kafka流处理中的计算示例
假设模型输出评分（0~1），基准分布与当前分布各1000个样本，分10个等距箱：
分箱区间: [0-0.1), [0.1-0.2), ..., [0.9-1.0]
基准分布(Expected):
箱1: 50 (5%), 箱2: 80 (8%), 箱3: 120 (12%), 箱4: 150 (15%),
箱5: 180 (18%), 箱6: 160 (16%), 箱7: 120 (12%), 箱8: 80 (8%),
箱9: 40 (4%), 箱10: 20 (2%)
当前分布(Actual):
箱1: 100 (10%), 箱2: 130 (13%), 箱3: 150 (15%), 箱4: 140 (14%),
箱5: 130 (13%), 箱6: 110 (11%), 箱7: 90 (9%), 箱8: 70 (7%),
箱9: 50 (5%), 箱10: 30 (3%)
PSI计算（以箱1为例）:
(0.10 - 0.05) * ln(0.10 / 0.05) = 0.05 * 0.6931 = 0.0347
各箱累加后 PSI ≈ 0.087（小于0.1，判定为无显著漂移）
Kafka集成提示：在Kafka Streams中，可使用状态存储（State Store）维护基准分布的分箱计数，通过滑动窗口聚合当前分布，每批次计算PSI并输出到告警Topic。
六、PSI的局限性
- 分箱敏感性：不同分箱策略可能导致PSI值差异，需固定分箱方案
- 样本量依赖：小样本下PSI波动大，建议每箱至少50个样本
- 无法定位漂移源：PSI仅指示漂移存在，不指明是哪个特征或评分区间导致
- 对极端值不敏感：当漂移集中在少数分箱时，PSI可能被稀释
下图展示了PSI在不同漂移程度下的响应特性：