3. 假设检验基础:零假设与备择假设、第一类与第二类错误、显著性水平与统计功效
在商户风险实验评估中,我们经常需要判断某个策略(如新的风控规则、优惠券发放策略)是否真正有效。假设检验是统计学中用于做出这种判断的核心工具。它通过构建两个对立的假设,并基于样本数据计算概率,来决定是否拒绝其中一个假设。
3.1 零假设与备择假设
假设检验的第一步是建立一对互斥的假设:
- 零假设(H₀):通常代表“无效果”、“无差异”或“现状”。它是我们试图推翻的假设。例如:“新风控规则对欺诈率无影响”。
- 备择假设(H₁ 或 Hₐ):代表“有效果”、“有差异”或“新策略更好”。它是我们试图证明的假设。例如:“新规则能显著降低欺诈率”。
商户风险实验中的常见设定:
H₀:实验组(新策略)与对照组(旧策略)的坏账率相同。
H₁:实验组的坏账率低于对照组。
H₀:实验组(新策略)与对照组(旧策略)的坏账率相同。
H₁:实验组的坏账率低于对照组。
检验结果只有两种:要么拒绝 H₀(认为新策略有效),要么不拒绝 H₀(样本证据不足以推翻现状)。
3.2 第一类错误与第二类错误
由于我们基于样本推断总体,判断不可能 100% 准确。下表总结了四种可能的结果:
| 统计决策 | H₀ 为真(策略无效) | H₁ 为真(策略有效) |
|---|---|---|
| 不拒绝 H₀ | ✅ 正确决策(真阴性) | ❌ 第二类错误(假阴性) β 概率 |
| 拒绝 H₀ | ❌ 第一类错误(假阳性) α 概率 |
✅ 正确决策(真阳性) 1-β 概率(统计功效) |
- 第一类错误(α):错误地拒绝了真实的零假设。在风控中,相当于“误判”,即认为新策略有效,但实际上它无效,导致投入资源实施无效策略。
- 第二类错误(β):错误地接受了错误的零假设。相当于“漏判”,即新策略实际有效,但实验未能检测出来,错失了优化机会。
风控场景权衡:在商户风险实验中,第一类错误(误判)通常代价更高,因为它可能导致错误的策略上线,直接造成资金损失。因此,我们通常优先控制 α 在较低水平(如 0.05)。
3.3 显著性水平与统计功效
这两个指标是设计实验时预先设定的关键参数,直接影响实验的可靠性和样本量需求。
3.3.1 显著性水平(α)
显著性水平是研究者愿意承受的“第一类错误”的最大概率。通常设定为 0.05(5%)或 0.01(1%)。α 越小,拒绝 H₀ 的门槛越高,结果越可靠,但同时也增加了犯第二类错误的风险。
3.3.2 统计功效(1 - β)
统计功效是当备择假设为真时,正确拒绝零假设的概率。它衡量了实验“发现真实效果”的能力。通常要求统计功效达到 0.8(80%)或 0.9(90%)。
核心公式关系:
- 降低 α → 提高拒绝门槛 → 可能增加 β(降低功效)。
- 增加样本量 → 同时降低 α 和 β(提高功效)。
- 效果量(Effect Size)越大 → 越容易被检测到 → 功效越高。
3.4 实验设计中的权衡与样本量计算
在商户风险实验中,设计一个有效的 A/B 测试需要平衡以下四个要素:
| 要素 | 描述 | 对实验的影响 |
|---|---|---|
| 显著性水平(α) | 愿意接受的误判风险 | α 越低,所需样本量越大 |
| 统计功效(1-β) | 发现真实效果的能力 | 功效越高,所需样本量越大 |
| 效果量(Effect Size) | 预期的最小有意义差异 | 效果量越小,所需样本量越大 |
| 样本量(n) | 每组实验的商户数量 | 样本量越大,估计越精确 |
在风控实验中,通常使用以下 Python 代码进行样本量估算:
import statsmodels.stats.api as sms
# 参数设定
effect_size = 0.05 # 预期坏账率降低 5%(相对效果量)
alpha = 0.05 # 显著性水平
power = 0.80 # 统计功效
# 计算所需样本量(每组)
required_n = sms.NormalIndPower().solve_power(
effect_size=effect_size,
alpha=alpha,
power=power,
alternative='two-sided'
)
print(f"每组所需最小样本量: {int(required_n)}")
# 输出: 每组所需最小样本量: 1570
实践建议:在商户风险实验中,如果预期效果量较小(如坏账率降低 0.5%),所需样本量会急剧增加。此时可考虑:
1. 提高效果量阈值(只关注有业务意义的大效果)。
2. 延长实验周期以积累更多样本。
3. 使用分层抽样或 CUPED 等方法降低方差。
1. 提高效果量阈值(只关注有业务意义的大效果)。
2. 延长实验周期以积累更多样本。
3. 使用分层抽样或 CUPED 等方法降低方差。