第3章 研究问题转化为假设:业务问题拆解、可检验假设构建、单双侧选择
章节定位:本章是实验设计的“翻译层”——将模糊的业务诉求转化为可被统计检验严格验证的假设结构。完成本章后,你将具备从业务语言到统计语言的标准转换能力。
3.1 适用场景
- 业务问题模糊:业务方提出笼统需求(如“提升转化率”),需拆解为具体可测指标。
- 实验假设待定:已确定实验对象,但尚未形成明确的统计假设形式(H₀ / H₁)。
- 检验方向存疑:不确定应该使用双侧检验还是单侧检验,需根据业务损失偏好做决策。
- 多方对齐:需要将业务团队、数据团队、决策者对实验目标的认知统一到同一假设框架下。
3.2 前置条件
| 序号 | 前置条件 | 验收标准 |
|---|---|---|
| 1 | 已明确实验的基本业务场景与待改进痛点 | 能用一句话描述“当前现状 + 期望改进方向” |
| 2 | 已选定核心指标(KPI)及其测量方式 | 指标可量化、可采集、有明确的计算口径 |
| 3 | 已定义干预/策略的具体内容 | 能说清楚“实验组做什么,对照组做什么” |
| 4 | 团队对业务风险的容忍度有初步共识 | 明确“方向错误”和“幅度不足”哪个代价更高 |
3.3 操作步骤
本章的转化流程分为三个子步骤,必须按顺序执行,不可跳步。
步骤A:业务问题拆解(问题→变量)
- 剥离业务背景:去除场景描述、情绪判断、主观期望,只保留可测量元素。
- 识别自变量与因变量:
- 自变量(X):你打算改变/操纵的因素。
- 因变量(Y):你打算观测/测量的结果。
- 界定变量操作化定义:明确X的两种取值(实验组 vs 对照组),Y的计量单位与聚合方式。
- 输出拆解表:如下表所示。
| 业务原始描述 | 自变量(X) | 自变量取值 | 因变量(Y) | Y计量方式 |
|---|---|---|---|---|
| “新版首页能提高用户参与度” | 首页版本 | 新版 vs 旧版 | 平均停留时长 | 单次会话秒数,取组均值 |
| “短信提醒降低逾期率” | 提醒策略 | 短信组 vs 无提醒组 | 逾期比例 | 逾期订单数 / 总订单数 |
步骤B:可检验假设构建(变量→假设对)
- 写出零假设 H₀:通常表示“无差异”或“无效果”,包含等号(=, ≤, ≥)。
- 写出备择假设 H₁:表示“存在差异”或“有效果”,与H₀互斥且完备。
- 使用统计符号标准化:
- μ₁ = 实验组总体均值,μ₂ = 对照组总体均值。
- p₁ = 实验组总体比例,p₂ = 对照组总体比例。
- 验证可检验性:假设中所有参数必须可被样本数据估计,不能包含潜变量。
正确示例:H₀: μ₁ − μ₂ ≤ 0 vs H₁: μ₁ − μ₂ > 0 (单侧,检验新版是否优于旧版)
错误示例:H₁: 用户更喜欢新版 (“喜欢”无法直接测量,必须转化为可观测指标)
错误示例:H₁: 用户更喜欢新版 (“喜欢”无法直接测量,必须转化为可观测指标)
步骤C:单双侧选择(假设→检验方向)
| 业务决策情境 | 推荐检验方向 | 原理说明 |
|---|---|---|
| 只关心“是否优于”或“是否差于”,另一方无业务损失 | 单侧(上尾或下尾) | 统计功效更高,所需样本量更小 |
| 关心“是否有差异”,无论方向,两侧均有业务代价 | 双侧 | 更保守,避免忽略反向风险 |
| 已有强先验证据认为只可能往一个方向变化 | 单侧 | 利用已有信息,减少不确定性 |
| 监管/合规要求必须检验双向风险 | 双侧 | 强制覆盖全部分布尾部 |
常见陷阱:在实验结束后根据结果方向临时改为单侧检验。这会导致第一类错误率膨胀,必须在实验设计阶段就确定检验方向,并记录在预注册文档中。
3.4 输入输出物
| 类别 | 名称 | 格式/载体 | 责任人 |
|---|---|---|---|
| 输入 | 业务需求说明书(1页以内) | 文档 / 邮件 / 任务单 | 业务方 |
| 输入 | 指标字典(含口径定义) | 电子表格 / Wiki | 数据工程师 |
| 输出 | 变量拆解表 | 表格(步骤A产出) | 实验设计师 |
| 输出 | 假设对文档(H₀ / H₁) | 实验设计记录 | 实验设计师 |
| 输出 | 检验方向确认单 | 签字/审批流 | 业务方 + 实验设计师 |
3.5 责任边界
- 业务方:提供原始业务问题,确认拆解后的变量是否反映真实业务意图,承担方向选择中的业务风险。
- 实验设计师:主导问题拆解与假设构建,确保假设在统计上可检验,给出单/双侧建议并说明理由。
- 数据工程师:确认变量可采集、指标口径可实现,反馈数据可行性约束。
- 决策者(审批人):对检验方向做最终确认,尤其在单侧场景中书面记录风险告知。
3.6 记录材料
本章工作需留存的记录清单:
- 业务原始描述原文(截图或引用)。
- 变量拆解表(含自变量、因变量及操作化定义)。
- 假设对标准写法(H₀ 与 H₁ 的统计表达式)。
- 检验方向决策记录(含选择理由、确认人、确认时间)。
- 如存在争议或备选方案,记录讨论纪要。
3.7 异常处理
| 异常场景 | 处理方式 | 触发升级条件 |
|---|---|---|
| 业务方无法清晰描述自变量取值 | 引导业务方给出“做A vs 做B”的具体行为对比 | 经过三轮引导仍无法给出具体版本/策略 |
| 因变量存在多个候选指标,无法选定 | 使用“核心指标 + 辅助指标”分层,核心指标唯一 | 业务方坚持同时设置两个核心指标 |
| 业务方在单/双侧选择上摇摆 | 用量化方式展示两种选择的样本量差异与风险差异 | 涉及重大业务损失(如千万级营收影响) |
| 指标口径无法对齐 | 暂停转化,由数据工程师出具口径说明文档 | 口径争议涉及跨部门数据源 |
3.8 验收标准
- 完整性:变量拆解表、假设对、检验方向三者齐全,无缺失。
- 可检验性:假设中的所有参数均可在实验周期内被样本数据估计,不存在不可测潜变量。
- 方向确定性:检验方向已书面确认,且确认人签字或邮件存档。
- 可回溯性:从最终假设反推回原始业务问题,语义连贯,无逻辑断裂。
- 一致性:自变量取值与实验分组方案一致,因变量与指标字典口径一致。
3.9 本章自检清单
| 检查项 | 自检结果 | 备注 |
|---|---|---|
| 变量拆解表中X是否只有两种取值(实验 vs 对照) | □ 是 □ 否 | 多取值需拆分为多个假设 |
| Y是否可被单一定量指标表达 | □ 是 □ 否 | 复合指标需事先定义合成规则 |
| H₀ 中是否包含等号(=, ≤, ≥) | □ 是 □ 否 | 零假设必须含等号 |
| H₁ 方向是否与检验方向一致 | □ 是 □ 否 | 单侧时 H₁ 必须带方向 |
| 检验方向是否已书面确认 | □ 是 □ 否 | 确认人:_________ |