2. p值的定义与解读:p值不是效应概率、p值分布、常见误解

p值(p-value)是显著性检验中最常被报告、也最常被误读的数字。许多实践者把 p值当作“干预有效的概率”或“原假设为真的概率”,这两种理解都是错误的。本章从定义出发,借助分布图、类比和典型误区,澄清 p值的真正含义。

2.1 p值的正式定义

p值是指在原假设(H₀)为真的前提下,观测到当前结果(或比当前结果更极端的结果)的概率。

关键词拆解:
  • 前提:假设H₀成立(例如:两组转化率无差异)
  • 概率对象:当前样本统计量 + 更极端的样本统计量
  • 不是:H₀为真的概率,也不是效应存在的概率

用公式表达(以双侧检验为例):

p = P( |t| ≥ |t_obs| | H₀ )

其中 t_obs 是基于样本计算的检验统计量。p值刻画的是样本结果在 H₀ 下的“罕见程度”。

2.2 核心区别:p值 ≠ 效应概率

p值 vs 效应概率 关键对比
概念p值效应概率(如贝叶斯后验)
定义H₀为真时,出现当前或更极端结果的概率备择假设H₁为真的概率(给定数据)
依赖先验不需要先验分布需要指定先验
可解释方向证据强度(反证角度)假设的直接概率
常见误区“p=0.03表示H₀为真的概率是3%”常被混淆为“效应存在的确定性”
典型错觉:p=0.03 不意味着“干预有效的概率是97%”。p值是对数据的陈述,不是对假设的概率陈述。

2.3 内联SVG:p值的分布与含义

p值的分布解释:在H₀为真时样本结果的尾部概率 H₀ 期望值 左尾 p/2 右尾 p/2 观测值 t_obs 对称观测值 p值 = 左尾面积 + 右尾面积(双侧检验)= 2 × 单尾面积

上图展示了在 H₀ 为真的抽样分布下,p值对应的是分布两端更极端区域的面积总和。该面积越小,说明观测结果在 H₀ 下越罕见。

2.4 p值的分布特性

如果 H₀ 为真,且检验的前提条件满足,那么 p值本身服从 均匀分布 U(0,1)。这意味着:

  • 在所有重复实验里,p值有 5% 的概率小于 0.05,有 20% 的概率小于 0.20。
  • p值在不同样本间波动很大,单个 p值不包含效应大小的信息。
  • p值 ≈ 0.04 与 p值 ≈ 0.06 之间的差异,远没有通常认为的那么“显著”。
实务含义:不要因 p=0.051 就放弃一个潜在有效改进,也不要因 p=0.049 就盲目上线。p值只是证据强度的一个连续指标,而非“及格/不及格”转换开关。

2.5 常见误解清单

p值常见误解与正确理解
误解错误表述正确解读
“效应概率”p=0.03 意味着干预有效的概率是97%p值不是效应的概率。效应是否真实取决于实验设计、混淆控制等,p值只衡量数据在原假设下的罕见性
“原假设概率”p=0.03 意味着原假设为真的概率是3%原假设为真的概率需要贝叶斯框架,p值假定H₀为真,无法给H₀本身赋予概率
“重复性保证”p=0.01 表示如果重复实验,99%会得到同样结论重复实验的p值本身会波动,p值不提供重复概率
“效应大小”p值越小说明效果越大样本量很大时,微小效果也能产生很小p值;p值不反映效应量
“显著性门槛”p<0.05 表示结果一定有意义0.05是人为约定,p值要结合效应量、置信区间和业务背景共同判断

2.6 应用边界:何时 p值有用?何时失效?

  • 适用场景:随机化对照实验、明确原假设、检验统计量分布已知或可近似、样本独立。
  • 不适用场景:
    - 观测性研究中滥用p值(混杂变量多,p值无法校正偏差)
    - 多重比较不校正(p值膨胀)
    - 小样本且分布严重偏离(p值计算不准)
    - 想要直接回答“效果大小”或“业务价值”(需要效应量和置信区间)
一句话总结:p值回答的是“如果没有任何真实差异,仅凭随机抽样,看到现在这个结果(或更极端结果)的概率是多少?”它不回答“差异有多大”“有多大概率存在差异”“下次实验能否复现”。

2.7 本章练习题

  1. 在一次A/B测试中,你得到 p=0.04。以下哪个陈述是正确的?
    a) 实验组比对照组更好的概率是96%。
    b) 原假设为真的概率是4%。
    c) 如果两组实际上没有差异,那么仅因随机性得到当前结果(或更极端结果)的概率是4%。
    d) 重复实验100次,会有96次得到统计显著结果。
  2. 假设两个实验得到相同的效应大小,但样本量不同:实验A(n=1000, p=0.01),实验B(n=100, p=0.20)。以下说法正确的是?
    a) 实验A的效果比实验B更大。
    b) 实验A提供了更强的证据拒绝H₀。
    c) 两个实验的p值可以直接比较效应大小。
    d) 实验B由于p>0.05,所以没有效应。
  3. 判断题:p值服从(0,1)上的均匀分布,当且仅当原假设为真且所有模型假设成立。
参考答案与解析
  • 1. 正确答案:c。a和b是典型的p值误解,d混淆了p值与重复性。
  • 2. 正确答案:b。p=0.01比p=0.20提供更强的反对H₀的证据,但效应大小相同时也可能因为样本量大而p值更小,a和c错误;d将p值当作“是否有效应”的开关,忽略了统计功效。
  • 3. 正确。这是p值的基本分布特性,也是为什么p值可以作为一个“证据刻度”的原因。