2. 统计学基础回顾:假设检验

在风控A/B测试中,我们无法直接知道策略的真实效果,只能通过样本数据来推断总体。假设检验正是这套推断的“裁判系统”——它帮助我们判断观察到的差异是真实存在的,还是仅仅由随机波动造成的。

2.1 原假设与备择假设

假设检验的第一步是建立一对互斥的假设:

假设类型 符号 含义 风控A/B测试示例
原假设(零假设) H₀ 无差异、无效果、无变化 新风控策略与旧策略的逾期率相同
备择假设(对立假设) H₁ 或 Hₐ 存在差异、有效果、有变化 新风控策略的逾期率低于旧策略

原假设是我们试图推翻的“默认立场”。在风控场景中,除非有足够证据,否则我们不会轻易上线新策略——这就是“无罪推定”的统计版本。

💡 风控实战提示: 备择假设分为单侧(如“新策略逾期率更低”)和双侧(如“新策略与旧策略逾期率不同”)。在风控A/B测试中,我们通常使用单侧检验,因为我们只关心新策略是否优于旧策略。

2.2 P值:证据的量化标尺

P值是在原假设为真的前提下,观察到当前样本结果(或更极端结果)的概率。它衡量的是“巧合”的可能性。

  • P值小(如 0.01):在原假设成立时,出现当前结果的概率极低,说明数据与原假设不兼容,倾向于拒绝 H₀。
  • P值大(如 0.50):在原假设成立时,出现当前结果很常见,没有足够证据拒绝 H₀。
⚠️ 常见误区: P值不是“原假设为真的概率”,也不是“策略有效的概率”。它只是“数据与原假设的兼容程度”。P值 = 0.03 意味着:如果新旧策略真的无差异,那么重复实验100次,只有约3次会看到像本次这么大的差异。

2.3 显著性水平(α):决策的阈值

显著性水平 α 是我们预先设定的“拒绝门槛”,通常取 0.05 或 0.01。

α 值 含义 风控场景适用性
0.10 有10%的概率误判(第一类错误) 低风险策略探索,可容忍一定误判
0.05 有5%的概率误判 常规风控策略上线,行业标准
0.01 有1%的概率误判 高风险策略(如大额授信、核心规则变更)

决策规则:
如果 P值 ≤ α,拒绝 H₀,认为差异具有统计显著性。
如果 P值 > α,不拒绝 H₀,认为差异不显著。

2.4 置信区间:效果的范围估计

置信区间给出了参数真实值可能落入的范围,同时附带了置信水平(如 95%)。它比单一的P值提供了更多信息——不仅告诉我们“是否有效”,还告诉我们“效果有多大”。

  • 95% 置信区间:如果重复抽样100次并计算区间,大约有95个区间会包含真实的总体参数。
  • 风控应用:假设新策略使逾期率降低 0.3%,95% 置信区间为 [0.1%, 0.5%]。这意味着我们有95%的把握认为真实降低幅度在0.1%到0.5%之间。
📐 置信区间与假设检验的关系: 如果95%置信区间不包含0(或原假设值),则对应的P值一定小于0.05。两者在数学上是等价的,但置信区间提供了效果大小的直观范围。
假设检验决策流程 提出 H₀ 与 H₁ 收集样本数据 计算检验统计量 & P值 P值 ≤ α ? 关键参数 α:显著性水平(阈值) P值:证据强度 置信区间:效果范围 两类错误 第一类错误:假阳性(α) 第二类错误:假阴性(β) 统计功效 = 1 - β

2.5 统计功效:发现真实效果的能力

统计功效(Power)是当备择假设为真时,正确拒绝原假设的概率。简单说,就是“当策略真的有效时,我们能够发现它的能力”。

统计功效受四个因素影响:

因素 关系 风控A/B测试建议
样本量(n) 样本量越大,功效越高 风控测试通常需要数万至数十万样本
效应量(Effect Size) 真实差异越大,功效越高 预期逾期率降低 0.5% 比 0.1% 更容易检测
显著性水平(α) α 越大,功效越高(但假阳性风险增加) 平衡 α 与功效,通常取 0.05
数据变异性(σ) 变异性越小,功效越高 控制实验环境,减少外部噪声
🔍 风控实战案例: 某风控团队测试新策略,预期逾期率从 2.0% 降至 1.8%(效应量 0.2%)。若每组仅取 5000 样本,统计功效可能只有 30%——意味着即使新策略真的有效,也有 70% 的概率无法通过假设检验。这就是为什么风控A/B测试需要事前功效分析来确定最小样本量。

2.6 假设检验的完整步骤

  1. 建立假设:明确 H₀ 和 H₁,确定单侧或双侧检验。
  2. 设定显著性水平:通常 α = 0.05。
  3. 选择检验方法:根据数据类型选择 t 检验、z 检验、卡方检验等。
  4. 计算检验统计量:基于样本数据计算。
  5. 计算 P 值:或与临界值比较。
  6. 做出决策:P ≤ α 拒绝 H₀,否则不拒绝。
  7. 报告结果:包含 P 值、置信区间、效应量。
统计功效与样本量的关系 样本量(n) 统计功效 大效应量 中效应量 小效应量 80% 风控测试通常要求 功效 ≥ 80%
📌 核心要点: 假设检验不是“证明”策略有效,而是评估数据是否提供了足够强的证据来推翻“策略无效”的默认立场。在风控A/B测试中,我们既要控制假阳性(α,避免上线无效策略),也要保证足够的统计功效(1-β,避免错过有效策略)。下一章将深入讲解如何在实际风控场景中选择合适的检验方法。