2. 统计学基础回顾:总体与样本、参数与统计量、抽样分布、中心极限定理

A/B 测试本质上是一种统计推断过程。在开始设计实验和分析结果之前,必须牢固掌握统计学中最核心的四个基础概念:总体与样本、参数与统计量、抽样分布以及中心极限定理。这些概念构成了从实验数据到业务结论的桥梁。

2.1 总体与样本

总体(Population)是研究对象的全体集合,通常包含所有可能的数据点。在 A/B 测试中,总体是所有未来可能看到实验版本的用户。然而,我们无法观测到所有用户,因此必须从总体中抽取一个子集——样本(Sample)——来进行测量和推断。

关键区别:总体是“我们想知道的”,样本是“我们实际能测到的”。A/B 测试的结论最终要推广到总体,但所有计算都基于样本。
概念 定义 A/B 测试中的例子
总体 所有符合条件的研究对象 未来一年内所有访问着陆页的用户
样本 从总体中抽取的一部分 实验期间随机分配到 A/B 组的 10,000 名用户
抽样 从总体中选取样本的过程 使用随机分流算法将用户均匀分配到对照组和实验组
模型验证提示:样本的代表性直接决定推断的有效性。如果抽样过程存在偏差(例如仅抽取活跃用户),即使样本量很大,结论也无法推广到总体。

2.2 参数与统计量

参数(Parameter)是描述总体特征的数值,通常是固定的未知常数。例如,总体均值 μ、总体方差 σ²。统计量(Statistic)是描述样本特征的数值,由样本数据计算得出,是随机变量。例如,样本均值 x̄、样本方差 s²。

在 A/B 测试中,我们永远无法知道真实的总体参数,只能通过样本统计量来估计它们。统计量的质量决定了估计的准确性。

类别 符号 名称 是否已知
参数 μ 总体均值 未知(需要估计)
σ² 总体方差 未知(需要估计)
统计量 x̄ 样本均值 已知(由数据计算)
s² 样本方差 已知(由数据计算)

2.3 抽样分布

抽样分布(Sampling Distribution)是统计推断的核心概念。它描述的是:如果我们从同一个总体中反复抽取相同大小的样本,并计算某个统计量(如样本均值),这些统计量所构成的分布。

理解抽样分布的关键在于:统计量本身也是一个随机变量。每次抽样得到的 x̄ 都会不同,抽样分布刻画了这种随机性的规律。

常见误区:不要将样本分布(单个样本中数据的分布)与抽样分布(多次抽样中统计量的分布)混淆。前者描述数据,后者描述统计量的行为。

抽样分布的两个重要性质:

  • 均值:样本均值的抽样分布的均值等于总体均值 μ。
  • 标准差:样本均值的抽样分布的标准差(称为标准误)等于 σ / √n,其中 n 为样本量。
抽样分布的形成过程 总体 参数 μ, σ² 样本 1 (n) x̄₁ 样本 2 (n) x̄₂ 样本 3 (n) x̄₃ … 抽样分布 所有 x̄ 的分布 近似正态分布 均值 = μ 标准误 = σ / √n

2.4 中心极限定理

中心极限定理(Central Limit Theorem, CLT)是统计学中最重要的定理之一,也是 A/B 测试能够使用正态分布进行推断的理论基础。

定理内容:无论总体分布是什么形状,只要样本量 n 足够大(通常认为 n ≥ 30),样本均值 x̄ 的抽样分布就近似服从正态分布。

核心意义:中心极限定理让我们可以在不知道总体分布的情况下,使用正态分布的性质来构造置信区间和进行假设检验。这是 A/B 测试中几乎所有统计方法的前提。

中心极限定理在 A/B 测试中的三个关键应用:

  1. 计算标准误:SE = σ / √n,用于衡量样本均值的波动范围。
  2. 构造置信区间:基于正态分布的分位数,计算实验效应可能落在的范围。
  3. 进行假设检验:计算 z 统计量或 t 统计量,判断观察到的差异是否显著。
中心极限定理:不同总体分布下的样本均值分布 总体分布 均匀分布 U(0, 1) 样本均值分布 n ≥ 30 近似正态 总体分布 指数分布 Exp(λ) 样本均值分布 n ≥ 30 近似正态 中心极限定理 无论总体分布形状如何 当 n 足够大时 样本均值 x̄ 的分布 近似服从正态分布 x̄ ~ N(μ, σ²/n)
模型验证工程师的视角:在验证 A/B 测试结果时,需要检查中心极限定理的适用条件。如果样本量不足(n < 30)或数据存在严重的离群值,正态近似可能失效,此时应考虑使用非参数检验或 Bootstrap 方法。

2.5 四个概念的关系总结

这四个概念构成了统计推断的完整链条:

  • 总体是我们关心的目标,但不可完全观测。
  • 样本是实际观测到的数据,通过随机抽样获得。
  • 参数是总体的固定特征,统计量是样本的随机特征,我们用统计量来估计参数。
  • 抽样分布描述了统计量的随机行为,中心极限定理保证了在大样本下抽样分布近似正态。
步骤 操作 统计基础
1 定义总体和参数 明确实验目标(如提升转化率 μ)
2 抽取样本并计算统计量 计算实验组和对照组的样本均值 x̄
3 构建抽样分布 利用中心极限定理,x̄ 的分布近似正态
4 进行统计推断 计算 p 值或置信区间,判断差异是否显著
常见陷阱:即使中心极限定理保证了样本均值的正态性,也不意味着原始数据本身是正态的。在报告结果时,应同时报告原始数据的分布特征和样本量,以便他人评估统计方法的适用性。