第2章 原假设与备择假设:定义、检验方向与数学表达

本章聚焦 A/B 实验假设构建的核心——原假设 H₀ 与备择假设 H₁ 的定义、单侧与双侧检验的选取逻辑,以及假设对立的数学表达方式。正确构建 H₀ 与 H₁ 是实验统计推断的基石,决定了后续检验方法的选择和结论的有效性。

2.1 适用场景

原假设与备择假设的定义适用于以下具体场景:

  • 新功能/策略效果验证:判断实验组与对照组在核心指标上是否存在统计显著差异。
  • 指标优化方向确认:已知预期变化方向(提升或降低)时,选择单侧检验;无明确方向时使用双侧检验。
  • 风险控制实验:需要验证新版本不劣于当前版本(非劣效性)时,构造单侧假设。
  • 多指标同时检验:每个指标独立构建 H₀/H₁ 对,并调整多重比较校正。
  • 监管或合规性报告:需提供统计假设文档以证明实验设计的严谨性。
核心原则:H₀ 与 H₁ 必须互斥且完备(Mutually Exclusive & Collectively Exhaustive),即所有可能的结果恰好被两个假设覆盖,且无重叠。

2.2 前置条件

在定义 H₀ 与 H₁ 之前,团队必须完成以下准备工作:

前置条件说明验收标准
实验目标明确业务方与数据团队对实验要验证的因果效应达成一致已签署实验目标文档
核心指标选定确定一个或多个主要评价指标(如转化率、人均时长)指标定义文档已评审
最小效应量(MDE)确定业务方给出可接受的最小实践改善幅度MDE 值记录在实验设计表中
样本量与统计功效估算基于 MDE 和 α 计算出所需样本量样本量估算报告已输出
方向性判断业务预期是单向改善还是双向未知在实验设计表中标注检验方向

2.3 操作步骤

假设构建遵循五步法,每一步都有明确的输入和输出:

  1. 明确实验问题:用一句话描述要验证的因果链,例如“将按钮颜色改为红色能否提高点击率”。
  2. 定义原假设 H₀:H₀ 代表“无差异”或“现状”,通常包含等号(=、≤、≥)。
  3. 定义备择假设 H₁:H₁ 代表“有差异”或“变化”,与 H₀ 严格对立。
  4. 选择检验方向:根据业务预期选择单侧(大于/小于)或双侧(不等于)。
  5. 写出数学表达式:用参数符号(μ、p、RR 等)将 H₀ 与 H₁ 形式化。

下图展示了从实验问题到数学表达式的完整构建流程:

原假设与备择假设构建流程 阶段一:假设定义 ① 实验问题 / 目标 原假设 H₀:无差异 备择假设 H₁:有差异 阶段二:检验方向选择 选择检验方向 单侧检验 H₁:μ > μ₀ 或 μ < μ₀ 双侧检验 H₁:μ ≠ μ₀ 数学表达式 H₀: μ = μ₀ vs H₁: μ ≠ μ₀ / > / < 核心原则:H₀ 与 H₁ 必须互斥且完备
专家提示:在 A/B 实验中,H₀ 通常设定为“实验组与对照组指标无差异”(μA = μB),H₁ 则为“有差异”。若业务明确预期指标不会变差,可使用单侧检验以提升统计功效。

2.4 输入输出物

类别名称说明示例
输入实验目标文档描述实验背景、核心指标、预期效应方向“新版注册流程转化率提升 0.5pp”
输入最小效应量 MDE业务认可的最小实践改善幅度Δ = 0.5%
输入显著性水平 α通常取 0.05 或 0.01α = 0.05
输出假设对文档包含 H₀、H₁、检验方向、数学表达式见下方记录材料模板
输出检验方向决策记录选择单侧/双侧的依据与审批人业务 VP 确认单向预期

2.5 责任边界

  • 数据科学家/分析师:负责将业务问题转化为统计假设,选择正确的检验方向,书写数学表达式,并验证 H₀ 与 H₁ 的对立性。
  • 业务方/产品经理:提供预期效应方向(单向/双向)和最小效应量 MDE,确认假设是否符合业务逻辑。
  • 技术负责人:确保实验分组、指标埋点和数据采集满足假设检验的要求。
  • 评审委员会(可选):在大型或高风险实验中,对假设构建进行 cross-review,防止方向性错误。
常见责任模糊点:业务方未明确预期方向时,分析师默认使用双侧检验,但后续若出现单侧显著而双侧不显著的情况,容易引发争议。建议在实验设计阶段强制要求业务方填写“预期方向”字段并签字确认。

2.6 记录材料

每次实验的假设构建必须留痕,推荐使用以下模板:

---
实验名称: 注册页按钮颜色 A/B Test
实验编号: EXP-2025-003
版本日期: 2025-04-07

原假设 H₀: μ_红色 = μ_蓝色  (按钮点击率无差异)
备择假设 H₁: μ_红色 > μ_蓝色 (红色按钮点击率更高)
检验方向: 单侧(右侧)
显著性水平 α: 0.05
最小效应量 MDE: 0.3pp

检验统计量: 两样本 z 检验
样本量规划: 每组 15,000 用户

业务方确认: 张三 (产品总监)
分析师: 李四 (数据科学部)
---

该模板应存放于实验管理系统的“假设定义”子模块中,并与实验配置、分析结果关联。

2.7 异常处理

异常情况可能原因解决方案
H₀ 与 H₁ 不互斥使用了重叠区间,例如 H₀: μ ≤ 0.5 且 H₁: μ > 0.4重新定义,确保 H₀ 包含等号,H₁ 为严格反向
检验方向选择错误业务预期为双向但选了单侧,或反之回归业务目标文档,重新与业务方确认预期方向
数学表达式与实际指标不一致指标是比率但用了均值符号统一使用正确的参数符号(p 为比率,μ 为均值,RR 为相对风险)
假设文档缺失审批流程未嵌入实验中台在实验创建环节设置“假设定义”为必填步骤,并触发审批流
后期发现 H₀ 写反匆忙上线未做对立性验证执行验收检查(见 2.8),强制要求分析师逐项自检
对立性自检方法:将 H₀ 和 H₁ 同时取反,看是否得到另一对合理的假设。例如 H₀: μ ≤ 0.5 取反得 μ > 0.5,恰好是 H₁,说明定义正确。

2.8 验收标准

完成假设构建后,使用以下检查清单逐项验收,全部通过方可进入实验实施阶段:

#检查项通过条件
1互斥性H₀ 与 H₁ 没有重叠区间
2完备性所有可能的结果恰好被 H₀ 或 H₁ 覆盖
3方向匹配检验方向与业务预期方向一致(单侧/双侧)
4符号正确H₀ 包含等号(=、≤、≥),H₁ 为反向(≠、>、<)
5参数一致数学表达式中使用的参数符号与核心指标定义一致
6文档完整假设文档包含实验名称、H₀/H₁、α、MDE、检验方向、责任人
7审批完成业务方与数据方已签字确认
验收建议:将上述 7 项检查嵌入实验管理系统的“假设定义”页面,