2. 统计学基础回顾:假设检验
在风控A/B测试中,我们无法直接知道策略的真实效果,只能通过样本数据来推断总体。假设检验正是这套推断的“裁判系统”——它帮助我们判断观察到的差异是真实存在的,还是仅仅由随机波动造成的。
2.1 原假设与备择假设
假设检验的第一步是建立一对互斥的假设:
| 假设类型 | 符号 | 含义 | 风控A/B测试示例 |
|---|---|---|---|
| 原假设(零假设) | H₀ | 无差异、无效果、无变化 | 新风控策略与旧策略的逾期率相同 |
| 备择假设(对立假设) | H₁ 或 Hₐ | 存在差异、有效果、有变化 | 新风控策略的逾期率低于旧策略 |
原假设是我们试图推翻的“默认立场”。在风控场景中,除非有足够证据,否则我们不会轻易上线新策略——这就是“无罪推定”的统计版本。
💡 风控实战提示: 备择假设分为单侧(如“新策略逾期率更低”)和双侧(如“新策略与旧策略逾期率不同”)。在风控A/B测试中,我们通常使用单侧检验,因为我们只关心新策略是否优于旧策略。
2.2 P值:证据的量化标尺
P值是在原假设为真的前提下,观察到当前样本结果(或更极端结果)的概率。它衡量的是“巧合”的可能性。
- P值小(如 0.01):在原假设成立时,出现当前结果的概率极低,说明数据与原假设不兼容,倾向于拒绝 H₀。
- P值大(如 0.50):在原假设成立时,出现当前结果很常见,没有足够证据拒绝 H₀。
⚠️ 常见误区: P值不是“原假设为真的概率”,也不是“策略有效的概率”。它只是“数据与原假设的兼容程度”。P值 = 0.03 意味着:如果新旧策略真的无差异,那么重复实验100次,只有约3次会看到像本次这么大的差异。
2.3 显著性水平(α):决策的阈值
显著性水平 α 是我们预先设定的“拒绝门槛”,通常取 0.05 或 0.01。
| α 值 | 含义 | 风控场景适用性 |
|---|---|---|
| 0.10 | 有10%的概率误判(第一类错误) | 低风险策略探索,可容忍一定误判 |
| 0.05 | 有5%的概率误判 | 常规风控策略上线,行业标准 |
| 0.01 | 有1%的概率误判 | 高风险策略(如大额授信、核心规则变更) |
决策规则:
如果 P值 ≤ α,拒绝 H₀,认为差异具有统计显著性。
如果 P值 > α,不拒绝 H₀,认为差异不显著。
2.4 置信区间:效果的范围估计
置信区间给出了参数真实值可能落入的范围,同时附带了置信水平(如 95%)。它比单一的P值提供了更多信息——不仅告诉我们“是否有效”,还告诉我们“效果有多大”。
- 95% 置信区间:如果重复抽样100次并计算区间,大约有95个区间会包含真实的总体参数。
- 风控应用:假设新策略使逾期率降低 0.3%,95% 置信区间为 [0.1%, 0.5%]。这意味着我们有95%的把握认为真实降低幅度在0.1%到0.5%之间。
📐 置信区间与假设检验的关系: 如果95%置信区间不包含0(或原假设值),则对应的P值一定小于0.05。两者在数学上是等价的,但置信区间提供了效果大小的直观范围。
2.5 统计功效:发现真实效果的能力
统计功效(Power)是当备择假设为真时,正确拒绝原假设的概率。简单说,就是“当策略真的有效时,我们能够发现它的能力”。
统计功效受四个因素影响:
| 因素 | 关系 | 风控A/B测试建议 |
|---|---|---|
| 样本量(n) | 样本量越大,功效越高 | 风控测试通常需要数万至数十万样本 |
| 效应量(Effect Size) | 真实差异越大,功效越高 | 预期逾期率降低 0.5% 比 0.1% 更容易检测 |
| 显著性水平(α) | α 越大,功效越高(但假阳性风险增加) | 平衡 α 与功效,通常取 0.05 |
| 数据变异性(σ) | 变异性越小,功效越高 | 控制实验环境,减少外部噪声 |
🔍 风控实战案例: 某风控团队测试新策略,预期逾期率从 2.0% 降至 1.8%(效应量 0.2%)。若每组仅取 5000 样本,统计功效可能只有 30%——意味着即使新策略真的有效,也有 70% 的概率无法通过假设检验。这就是为什么风控A/B测试需要事前功效分析来确定最小样本量。
2.6 假设检验的完整步骤
- 建立假设:明确 H₀ 和 H₁,确定单侧或双侧检验。
- 设定显著性水平:通常 α = 0.05。
- 选择检验方法:根据数据类型选择 t 检验、z 检验、卡方检验等。
- 计算检验统计量:基于样本数据计算。
- 计算 P 值:或与临界值比较。
- 做出决策:P ≤ α 拒绝 H₀,否则不拒绝。
- 报告结果:包含 P 值、置信区间、效应量。
📌 核心要点: 假设检验不是“证明”策略有效,而是评估数据是否提供了足够强的证据来推翻“策略无效”的默认立场。在风控A/B测试中,我们既要控制假阳性(α,避免上线无效策略),也要保证足够的统计功效(1-β,避免错过有效策略)。下一章将深入讲解如何在实际风控场景中选择合适的检验方法。