2. p值的定义与解读:p值不是效应概率、p值分布、常见误解
p值(p-value)是显著性检验中最常被报告、也最常被误读的数字。许多实践者把 p值当作“干预有效的概率”或“原假设为真的概率”,这两种理解都是错误的。本章从定义出发,借助分布图、类比和典型误区,澄清 p值的真正含义。
2.1 p值的正式定义
p值是指在原假设(H₀)为真的前提下,观测到当前结果(或比当前结果更极端的结果)的概率。
关键词拆解:
- 前提:假设H₀成立(例如:两组转化率无差异)
- 概率对象:当前样本统计量 + 更极端的样本统计量
- 不是:H₀为真的概率,也不是效应存在的概率
用公式表达(以双侧检验为例):
p = P( |t| ≥ |t_obs| | H₀ )
其中 t_obs 是基于样本计算的检验统计量。p值刻画的是样本结果在 H₀ 下的“罕见程度”。
2.2 核心区别:p值 ≠ 效应概率
| 概念 | p值 | 效应概率(如贝叶斯后验) |
|---|---|---|
| 定义 | H₀为真时,出现当前或更极端结果的概率 | 备择假设H₁为真的概率(给定数据) |
| 依赖先验 | 不需要先验分布 | 需要指定先验 |
| 可解释方向 | 证据强度(反证角度) | 假设的直接概率 |
| 常见误区 | “p=0.03表示H₀为真的概率是3%” | 常被混淆为“效应存在的确定性” |
典型错觉:p=0.03 不意味着“干预有效的概率是97%”。p值是对数据的陈述,不是对假设的概率陈述。
2.3 内联SVG:p值的分布与含义
上图展示了在 H₀ 为真的抽样分布下,p值对应的是分布两端更极端区域的面积总和。该面积越小,说明观测结果在 H₀ 下越罕见。
2.4 p值的分布特性
如果 H₀ 为真,且检验的前提条件满足,那么 p值本身服从 均匀分布 U(0,1)。这意味着:
- 在所有重复实验里,p值有 5% 的概率小于 0.05,有 20% 的概率小于 0.20。
- p值在不同样本间波动很大,单个 p值不包含效应大小的信息。
- p值 ≈ 0.04 与 p值 ≈ 0.06 之间的差异,远没有通常认为的那么“显著”。
实务含义:不要因 p=0.051 就放弃一个潜在有效改进,也不要因 p=0.049 就盲目上线。p值只是证据强度的一个连续指标,而非“及格/不及格”转换开关。
2.5 常见误解清单
| 误解 | 错误表述 | 正确解读 |
|---|---|---|
| “效应概率” | p=0.03 意味着干预有效的概率是97% | p值不是效应的概率。效应是否真实取决于实验设计、混淆控制等,p值只衡量数据在原假设下的罕见性 |
| “原假设概率” | p=0.03 意味着原假设为真的概率是3% | 原假设为真的概率需要贝叶斯框架,p值假定H₀为真,无法给H₀本身赋予概率 |
| “重复性保证” | p=0.01 表示如果重复实验,99%会得到同样结论 | 重复实验的p值本身会波动,p值不提供重复概率 |
| “效应大小” | p值越小说明效果越大 | 样本量很大时,微小效果也能产生很小p值;p值不反映效应量 |
| “显著性门槛” | p<0.05 表示结果一定有意义 | 0.05是人为约定,p值要结合效应量、置信区间和业务背景共同判断 |
2.6 应用边界:何时 p值有用?何时失效?
- 适用场景:随机化对照实验、明确原假设、检验统计量分布已知或可近似、样本独立。
- 不适用场景:
- 观测性研究中滥用p值(混杂变量多,p值无法校正偏差)
- 多重比较不校正(p值膨胀)
- 小样本且分布严重偏离(p值计算不准)
- 想要直接回答“效果大小”或“业务价值”(需要效应量和置信区间)
一句话总结:p值回答的是“如果没有任何真实差异,仅凭随机抽样,看到现在这个结果(或更极端结果)的概率是多少?”它不回答“差异有多大”“有多大概率存在差异”“下次实验能否复现”。
2.7 本章练习题
- 在一次A/B测试中,你得到 p=0.04。以下哪个陈述是正确的?
a) 实验组比对照组更好的概率是96%。
b) 原假设为真的概率是4%。
c) 如果两组实际上没有差异,那么仅因随机性得到当前结果(或更极端结果)的概率是4%。
d) 重复实验100次,会有96次得到统计显著结果。 - 假设两个实验得到相同的效应大小,但样本量不同:实验A(n=1000, p=0.01),实验B(n=100, p=0.20)。以下说法正确的是?
a) 实验A的效果比实验B更大。
b) 实验A提供了更强的证据拒绝H₀。
c) 两个实验的p值可以直接比较效应大小。
d) 实验B由于p>0.05,所以没有效应。 - 判断题:p值服从(0,1)上的均匀分布,当且仅当原假设为真且所有模型假设成立。
参考答案与解析
- 1. 正确答案:c。a和b是典型的p值误解,d混淆了p值与重复性。
- 2. 正确答案:b。p=0.01比p=0.20提供更强的反对H₀的证据,但效应大小相同时也可能因为样本量大而p值更小,a和c错误;d将p值当作“是否有效应”的开关,忽略了统计功效。
- 3. 正确。这是p值的基本分布特性,也是为什么p值可以作为一个“证据刻度”的原因。