2. 统计学基础回顾:总体与样本、参数与统计量、抽样分布、中心极限定理
A/B 测试本质上是一种统计推断过程。在开始设计实验和分析结果之前,必须牢固掌握统计学中最核心的四个基础概念:总体与样本、参数与统计量、抽样分布以及中心极限定理。这些概念构成了从实验数据到业务结论的桥梁。
2.1 总体与样本
总体(Population)是研究对象的全体集合,通常包含所有可能的数据点。在 A/B 测试中,总体是所有未来可能看到实验版本的用户。然而,我们无法观测到所有用户,因此必须从总体中抽取一个子集——样本(Sample)——来进行测量和推断。
关键区别:总体是“我们想知道的”,样本是“我们实际能测到的”。A/B 测试的结论最终要推广到总体,但所有计算都基于样本。
| 概念 | 定义 | A/B 测试中的例子 |
|---|---|---|
| 总体 | 所有符合条件的研究对象 | 未来一年内所有访问着陆页的用户 |
| 样本 | 从总体中抽取的一部分 | 实验期间随机分配到 A/B 组的 10,000 名用户 |
| 抽样 | 从总体中选取样本的过程 | 使用随机分流算法将用户均匀分配到对照组和实验组 |
模型验证提示:样本的代表性直接决定推断的有效性。如果抽样过程存在偏差(例如仅抽取活跃用户),即使样本量很大,结论也无法推广到总体。
2.2 参数与统计量
参数(Parameter)是描述总体特征的数值,通常是固定的未知常数。例如,总体均值 μ、总体方差 σ²。统计量(Statistic)是描述样本特征的数值,由样本数据计算得出,是随机变量。例如,样本均值 x̄、样本方差 s²。
在 A/B 测试中,我们永远无法知道真实的总体参数,只能通过样本统计量来估计它们。统计量的质量决定了估计的准确性。
| 类别 | 符号 | 名称 | 是否已知 |
|---|---|---|---|
| 参数 | μ | 总体均值 | 未知(需要估计) |
| σ² | 总体方差 | 未知(需要估计) | |
| 统计量 | x̄ | 样本均值 | 已知(由数据计算) |
| s² | 样本方差 | 已知(由数据计算) |
2.3 抽样分布
抽样分布(Sampling Distribution)是统计推断的核心概念。它描述的是:如果我们从同一个总体中反复抽取相同大小的样本,并计算某个统计量(如样本均值),这些统计量所构成的分布。
理解抽样分布的关键在于:统计量本身也是一个随机变量。每次抽样得到的 x̄ 都会不同,抽样分布刻画了这种随机性的规律。
常见误区:不要将样本分布(单个样本中数据的分布)与抽样分布(多次抽样中统计量的分布)混淆。前者描述数据,后者描述统计量的行为。
抽样分布的两个重要性质:
- 均值:样本均值的抽样分布的均值等于总体均值 μ。
- 标准差:样本均值的抽样分布的标准差(称为标准误)等于 σ / √n,其中 n 为样本量。
2.4 中心极限定理
中心极限定理(Central Limit Theorem, CLT)是统计学中最重要的定理之一,也是 A/B 测试能够使用正态分布进行推断的理论基础。
定理内容:无论总体分布是什么形状,只要样本量 n 足够大(通常认为 n ≥ 30),样本均值 x̄ 的抽样分布就近似服从正态分布。
核心意义:中心极限定理让我们可以在不知道总体分布的情况下,使用正态分布的性质来构造置信区间和进行假设检验。这是 A/B 测试中几乎所有统计方法的前提。
中心极限定理在 A/B 测试中的三个关键应用:
- 计算标准误:SE = σ / √n,用于衡量样本均值的波动范围。
- 构造置信区间:基于正态分布的分位数,计算实验效应可能落在的范围。
- 进行假设检验:计算 z 统计量或 t 统计量,判断观察到的差异是否显著。
模型验证工程师的视角:在验证 A/B 测试结果时,需要检查中心极限定理的适用条件。如果样本量不足(n < 30)或数据存在严重的离群值,正态近似可能失效,此时应考虑使用非参数检验或 Bootstrap 方法。
2.5 四个概念的关系总结
这四个概念构成了统计推断的完整链条:
- 总体是我们关心的目标,但不可完全观测。
- 样本是实际观测到的数据,通过随机抽样获得。
- 参数是总体的固定特征,统计量是样本的随机特征,我们用统计量来估计参数。
- 抽样分布描述了统计量的随机行为,中心极限定理保证了在大样本下抽样分布近似正态。
| 步骤 | 操作 | 统计基础 |
|---|---|---|
| 1 | 定义总体和参数 | 明确实验目标(如提升转化率 μ) |
| 2 | 抽取样本并计算统计量 | 计算实验组和对照组的样本均值 x̄ |
| 3 | 构建抽样分布 | 利用中心极限定理,x̄ 的分布近似正态 |
| 4 | 进行统计推断 | 计算 p 值或置信区间,判断差异是否显著 |
常见陷阱:即使中心极限定理保证了样本均值的正态性,也不意味着原始数据本身是正态的。在报告结果时,应同时报告原始数据的分布特征和样本量,以便他人评估统计方法的适用性。