4、看板指标体系设计:一级指标(交易量、拒绝率)、二级指标(分客群拒绝率、分模型版本拒绝率)、三级指标(PSI、KS、AUC)
实时风控看板的指标体系采用三级分层结构,从宏观业务健康度到微观模型稳定性与区分力,逐层下钻。一级指标回答“整体是否正常”,二级指标定位“异常发生在哪个客群或版本”,三级指标诊断“模型本身是否退化”。
设计原则:上层指标驱动快速决策,下层指标提供根因分析。看板默认展示一级,支持一键下钻至二、三级。
4.1 一级指标:业务全景监控
一级指标面向风控负责人与运营团队,聚焦交易量与拒绝率两个核心KPI,实时反映风控策略对业务流量的影响。
| 指标名称 | 定义 | 监控频率 | 异常阈值(示例) |
|---|---|---|---|
| 交易量 | 单位时间内通过风控审核的交易笔数 | 1分钟 / 5分钟 | 环比下降 > 20% 或绝对值低于基线 |
| 拒绝率 | 被风控拒绝的交易数 / 总交易数 × 100% | 1分钟 / 5分钟 | 拒绝率 > 基线 + 3σ 或绝对值 > 15% |
实战建议:拒绝率需结合交易量一起看。拒绝率飙升但交易量骤降,可能是策略误杀;拒绝率微升但交易量平稳,可能是攻击流量被有效拦截。
4.2 二级指标:下钻定位异常来源
当一级指标触发告警时,二级指标帮助快速定位异常发生在哪个客群或哪个模型版本。
4.2.1 分客群拒绝率
按用户分层(新客/老客、高/中/低风险、渠道来源等)拆解拒绝率,识别策略是否对特定客群过度收紧。
- 新客拒绝率 vs 老客拒绝率:新客拒绝率过高可能说明准入策略过严,影响拉新。
- 渠道拒绝率:某渠道拒绝率异常升高,可能该渠道遭遇批量攻击或数据质量下降。
- 设备指纹拒绝率:特定设备环境拒绝率突变,需排查设备指纹规则是否误判。
4.2.2 分模型版本拒绝率
当模型迭代上线后,对比旧版本(基线)与新版本(实验组)的拒绝率差异,判断模型行为是否偏移。
| 模型版本 | 拒绝率 | 交易量占比 | 状态 |
|---|---|---|---|
| v2.3.1(基线) | 8.2% | 70% | 稳定 |
| v2.4.0(实验) | 11.5% | 30% | ⚠️ 拒绝率偏高,需关注 |
注意:分模型版本拒绝率差异需排除客群分布差异。建议在实验组与基线组之间做PSM(倾向性得分匹配)后再对比。
4.3 三级指标:模型稳定性与区分力诊断
三级指标直接评估模型本身的稳定性(PSI)和区分能力(KS、AUC),是模型健康度的核心度量。
4.3.1 PSI(群体稳定性指标)
衡量模型评分分布随时间的变化程度。PSI < 0.1 表示稳定,0.1 ~ 0.25 需关注,> 0.25 表示显著偏移。
PSI = Σ (实际占比_i - 期望占比_i) × ln(实际占比_i / 期望占比_i)
4.3.2 KS(Kolmogorov-Smirnov 统计量)
衡量模型区分好坏样本的最大能力。KS 越高,模型区分力越强,但 KS 骤降可能预示模型失效。
- KS > 0.3:模型区分力良好
- KS 0.2 ~ 0.3:区分力一般,需监控
- KS < 0.2:区分力弱,建议迭代
4.3.3 AUC(ROC曲线下面积)
综合评估模型在所有阈值下的排序能力。AUC 接近 1 表示完美,0.5 表示随机。
| 指标 | 监控频率 | 正常范围 | 告警阈值 |
|---|---|---|---|
| PSI | 每日 / 每周 | < 0.1 | > 0.25 |
| KS | 每日 | > 0.3 | 环比下降 > 0.05 |
| AUC | 每日 | > 0.75 | 环比下降 > 0.03 |
4.4 三级指标体系架构图
下图展示从一级到三级指标的下钻路径与联动关系,帮助理解看板的数据流与决策链路。
4.5 看板指标联动示例
假设某时刻看板触发一级告警:拒绝率从 8% 飙升至 14%。下钻流程如下:
- 二级下钻(客群):发现新客拒绝率从 10% 升至 22%,老客拒绝率仅从 7% 升至 8%。定位问题出在新客策略。
- 二级下钻(版本):新客模型 v2.4.0 拒绝率 23%,v2.3.1 拒绝率 11%。确认是新模型版本导致。
- 三级诊断:检查 v2.4.0 的 PSI 为 0.31(显著偏移),KS 从 0.38 降至 0.22(区分力下降)。结论:模型分布偏移,需回滚或重新训练。
最佳实践:在看板中为每个三级指标设置趋势线(7日/30日滑动平均),比单点值更能反映模型退化趋势。PSI 建议同时展示分箱占比变化图。