4. 假设检验原理:原假设与备择假设、第一类错误与第二类错误、显著性水平 α
假设检验是 A/B 测试的统计学基石。在量化策略评估中,我们通过假设检验来判断策略改进是否具有统计显著性,而非仅仅归因于随机波动。本节将系统阐述假设检验的核心概念。
4.1 原假设与备择假设
任何假设检验都包含两个互斥的假设:
- 原假设 H₀:通常代表“无效果”或“无差异”的保守立场。在 A/B 测试中,H₀ 通常表述为“新策略与旧策略的收益无显著差异”。
- 备择假设 H₁:与原假设相对立,代表我们想要证明的结论。例如“新策略的夏普比率显著高于旧策略”。
量化策略中的常见设定:
H₀: μ新 − μ旧 = 0 (策略收益无差异)
H₁: μ新 − μ旧 ≠ 0 (策略收益有差异,双尾检验)
或 H₁: μ新 − μ旧 > 0 (新策略更优,单尾检验)
H₀: μ新 − μ旧 = 0 (策略收益无差异)
H₁: μ新 − μ旧 ≠ 0 (策略收益有差异,双尾检验)
或 H₁: μ新 − μ旧 > 0 (新策略更优,单尾检验)
4.2 第一类错误与第二类错误
由于我们只能基于样本推断总体,决策过程必然存在犯错的风险。两类错误是假设检验的核心风险度量:
| 错误类型 | 定义 | 概率符号 | 量化策略中的后果 |
|---|---|---|---|
| 第一类错误 | H₀ 为真时错误地拒绝 H₀(假阳性) | α | 将无效策略误判为有效,导致实盘亏损 |
| 第二类错误 | H₁ 为真时错误地接受 H₀(假阴性) | β | 错过真正有效的策略,丧失收益机会 |
记忆口诀:
“第一类错误是‘冤枉好人’——把没效果的策略当成有效;
第二类错误是‘放走坏人’——把有效的策略当成没效果。”
“第一类错误是‘冤枉好人’——把没效果的策略当成有效;
第二类错误是‘放走坏人’——把有效的策略当成没效果。”
4.3 显著性水平 α
显著性水平 α 是研究者预先设定的、愿意承受的第一类错误最大概率。在量化策略评估中,α 通常取 0.05 或 0.01。
- α = 0.05:意味着如果 H₀ 为真,我们最多有 5% 的概率错误地拒绝它。
- α 与置信水平:置信水平 = 1 − α。α = 0.05 对应 95% 置信水平。
- p 值与 α 的比较:若 p 值 < α,则拒绝 H₀,认为结果具有统计显著性。
量化策略中的 α 选择建议:
- 回测阶段:α = 0.05(较宽松,允许更多探索)
- 实盘前验证:α = 0.01(更严格,降低假阳性风险)
- 多策略多重比较时:需进行 Bonferroni 校正,将 α 除以比较次数
- 回测阶段:α = 0.05(较宽松,允许更多探索)
- 实盘前验证:α = 0.01(更严格,降低假阳性风险)
- 多策略多重比较时:需进行 Bonferroni 校正,将 α 除以比较次数
4.4 假设检验的完整步骤
在量化策略 A/B 测试中,假设检验通常按以下流程执行:
- 设定假设:明确 H₀ 和 H₁,确定单尾或双尾检验。
- 选择显著性水平 α:通常取 0.05 或 0.01。
- 收集样本数据:运行 A/B 测试,获取策略 A 和策略 B 的收益序列。
- 计算检验统计量:如 t 统计量、z 统计量等。
- 计算 p 值:在 H₀ 为真的假设下,观察到当前结果或更极端结果的概率。
- 做出决策:若 p 值 < α,拒绝 H₀;否则,不拒绝 H₀。
Python 示例:双样本 t 检验
import numpy as np
from scipy import stats
# 模拟策略收益数据
np.random.seed(42)
strategy_A = np.random.normal(0.001, 0.02, 100) # 旧策略
strategy_B = np.random.normal(0.003, 0.02, 100) # 新策略
# 执行双样本 t 检验
t_stat, p_value = stats.ttest_ind(strategy_B, strategy_A)
alpha = 0.05
print(f"t 统计量: {t_stat:.4f}")
print(f"p 值: {p_value:.4f}")
print(f"显著性水平 α: {alpha}")
if p_value < alpha:
print("结论: 拒绝 H₀,新策略具有统计显著性差异")
else:
print("结论: 不拒绝 H₀,未发现显著差异")
4.5 量化策略中的实际考量
| 概念 | 量化策略场景 | 注意事项 |
|---|---|---|
| 原假设 H₀ | 新策略与基准策略的夏普比率之差 = 0 | 需确保基准策略的样本量足够 |
| 备择假设 H₁ | 新策略夏普比率 > 基准策略(单尾) | 单尾检验统计功效更高,但需有方向性依据 |
| 第一类错误 α | 将随机噪声误判为有效信号 | 回测过拟合常导致 α 膨胀 |
| 第二类错误 β | 错过真实有效的策略改进 | 样本量不足时 β 会很大 |
| 统计功效 1−β | 检测到真实策略差异的概率 | 通常要求功效 ≥ 0.80 |
核心原则: 在量化策略评估中,宁可犯第二类错误(错过机会),也要尽量避免第一类错误(采用无效策略导致实盘亏损)。因此,建议在实盘前使用更严格的 α 水平(如 0.01),并配合足够的样本量来维持统计功效。