4. 实验设计第一步:定义核心指标
贷后预警 A/B 测试的成败,首先取决于指标定义是否清晰、可量化、可对比。预警策略的目标通常是“在控制成本与客诉的前提下,尽早识别并催回逾期风险”,因此核心指标需要覆盖 效果、效率、成本、风险 四个维度。
4.1 四大核心指标概览
| 指标名称 | 维度 | 定义公式 | 业务含义 |
|---|---|---|---|
| 30天入催率 | 风险 | 实验组入催客户数 / 实验组总客户数 | 预警后30天内进入催收阶段的比例,越低说明预警越有效 |
| 回收率 | 效果 | 实验组回款金额 / 实验组应还总额 | 预警干预带来的实际回款效果,越高越好 |
| 联系率 | 效率 | 实验组成功联系客户数 / 实验组尝试联系客户数 | 预警触达的覆盖能力,联系率低说明渠道或话术失效 |
| 投诉率 | 成本 | 实验组投诉客户数 / 实验组总客户数 | 预警策略对客户体验的负面影响,需控制在阈值内 |
指标选择原则: 贷后预警实验至少应包含 1 个风险指标(入催率)和 1 个效果指标(回收率),联系率和投诉率作为辅助判断指标,避免单一指标优化导致策略偏差。
4.2 指标定义中的常见陷阱
- 时间窗口不一致: 入催率用30天,回收率用60天,导致两个指标无法在同一时间点对比。建议统一使用 30天 作为核心观察窗口。
- 分母口径模糊: “入催率”的分母是“预警触达客户”还是“全部实验客户”?必须明确。推荐使用 实验组全量客户 作为分母,避免幸存者偏差。
- 投诉率阈值缺失: 只关注回收率提升,忽略投诉率飙升,可能导致监管风险。建议设定 投诉率上限(如:不超过对照组投诉率的 1.5 倍),作为实验停止条件。
4.3 指标之间的权衡关系
四个指标并非独立,而是相互制约。例如:提高联系率(增加外呼频次)可能同时提升回收率,但也可能推高投诉率。实验设计时需要明确 主要指标 和 次要指标,并设定 可接受的权衡区间。
4.4 指标计算示例
假设某贷后预警实验的分组数据如下,我们演示核心指标的计算过程:
| 分组 | 总客户数 | 30天入催客户数 | 应还总额(万元) | 回款金额(万元) | 尝试联系客户数 | 成功联系客户数 | 投诉客户数 |
|---|---|---|---|---|---|---|---|
| 对照组 | 10,000 | 1,200 | 500 | 350 | 8,000 | 4,800 | 30 |
| 实验组 | 10,000 | 980 | 500 | 375 | 8,000 | 5,600 | 55 |
根据上表数据,计算各指标:
对照组 30天入催率 = 1,200 / 10,000 = 12.00%
实验组 30天入催率 = 980 / 10,000 = 9.80%
→ 入催率相对下降 18.33%
对照组回收率 = 350 / 500 = 70.00%
实验组回收率 = 375 / 500 = 75.00%
→ 回收率相对提升 7.14%
对照组联系率 = 4,800 / 8,000 = 60.00%
实验组联系率 = 5,600 / 8,000 = 70.00%
→ 联系率相对提升 16.67%
对照组投诉率 = 30 / 10,000 = 0.30%
实验组投诉率 = 55 / 10,000 = 0.55%
→ 投诉率相对上升 83.33%
注意: 实验组投诉率从 0.30% 升至 0.55%,虽然绝对值仍低,但相对增幅较大。如果该策略无法通过话术优化或频次控制来降低投诉率,即使回收率提升,也可能因客诉风险而被否决。
4.5 指标优先级与决策矩阵
在实际业务中,四个指标很少同时改善。建议在实验开始前,由风控、运营、合规三方共同确定 指标优先级 和 决策规则:
- 第一优先级: 30天入催率(风险底线)
- 第二优先级: 回收率(业务目标)
- 第三优先级: 联系率(过程指标)
- 约束条件: 投诉率不超过对照组 1.5 倍
决策时可采用以下矩阵快速判断:
| 入催率 | 回收率 | 投诉率 | 决策建议 |
|---|---|---|---|
| ↓ 显著下降 | ↑ 显著提升 | ≤ 1.5倍 | 全量上线 |
| ↓ 显著下降 | → 无显著变化 | ≤ 1.5倍 | 建议上线,持续优化回收 |
| → 无显著变化 | ↑ 显著提升 | ≤ 1.5倍 | 有条件上线,需监控风险 |
| ↓ 显著下降 | ↑ 显著提升 | > 1.5倍 | 暂缓上线,优化客诉 |
| ↑ 显著上升 | ↓ 显著下降 | 任意 | 立即停止实验 |
关键总结: 定义核心指标不是简单的公式罗列,而是需要明确时间窗口、分母口径、优先级和决策规则。只有指标定义清晰,后续的统计检验和策略上线才有据可依。