4. 实验变量设计:单一变量原则、多变量实验(MVT)的适用场景、变量粒度的选择

变量设计是授信引擎 A/B 测试的核心环节。错误的变量设计会导致实验结论不可信、无法归因,甚至误导策略迭代。本章聚焦三个关键问题:改什么(变量选择)、改几个(变量数量)、改多细(变量粒度)。

4.1 单一变量原则:因果归因的黄金标准

单一变量原则(A/B Testing with One Variable)要求实验组与对照组之间仅有一个变量不同,其余条件完全一致。这是保证实验结果可归因于该变量的最低要求。

核心公式: 实验效果 = 目标变量变化带来的效果 + 随机误差。若同时改变多个变量,则无法区分效果来自哪个变量,实验沦为“黑盒测试”。

4.1.1 适用场景

  • 策略微调验证:如仅调整“收入门槛”从 3000 元变为 5000 元,其他规则不变。
  • 参数调优:如仅修改“多头借贷阈值”从 3 次变为 5 次。
  • 模型版本替换:如仅将评分卡 A 替换为评分卡 B,决策逻辑不变。

4.1.2 常见陷阱

陷阱 错误示例 后果
隐含变量改变 调整“收入门槛”时,连带修改了“收入验证方式” 无法判断效果来自门槛还是验证方式
变量定义模糊 “优化风控规则”作为变量,实际包含 5 条规则修改 实验结论无法落地
环境不一致 实验组用新模型,对照组用旧模型但数据源不同 归因失效
实操建议:在实验设计文档中,使用“变量变更清单”逐条列出唯一变更项,并由第二人复核。任何非目标变量的差异都应视为实验污染。

4.2 多变量实验(MVT)的适用场景

多变量实验(Multivariate Testing, MVT)允许同时测试多个变量的不同组合,以发现变量间的交互效应。MVT 并非单一变量原则的替代,而是其补充——当变量间可能存在协同或拮抗作用时,MVT 是更优选择。

4.2.1 何时使用 MVT

  • 变量间存在强交互:如“额度上限”与“利率”同时调整时,对通过率的影响不是简单叠加。
  • 需要寻找最优组合:如同时测试 3 种额度策略 × 2 种利率策略 × 2 种期限策略。
  • 实验成本可控:MVT 需要更大的样本量,适用于高流量场景。

4.2.2 MVT vs. 单一变量实验

对比维度 单一变量实验 多变量实验(MVT)
变量数量 1 个 ≥2 个
样本需求 低 高(组合数指数增长)
交互效应检测 无法检测 可检测
结论清晰度 高,直接归因 中等,需分析主效应与交互效应
典型场景 单规则调优 策略组合优化
注意:MVT 不适用于低流量场景。若每日授信申请量低于 1000 笔,建议优先使用单一变量实验,或采用“分阶段多变量实验”(先测主效应,再测交互)。

4.3 变量粒度的选择

变量粒度指变量取值的离散化程度。粒度太粗会丢失信息,粒度太细会导致实验组过多、样本稀释。合理的粒度选择是实验可行性与信息量的平衡。

4.3.1 粒度选择原则

  • 业务可解释性优先:如“收入”按 0-3000、3000-8000、8000+ 分段,而非按每 100 元分段。
  • 保证每组最小样本量:每个实验组至少需要 1000 笔有效样本(或按统计功效计算)。
  • 避免过度离散:连续变量建议分 3-5 档,分类变量建议合并低频类别。

4.3.2 粒度选择对比

变量类型 粒度过粗 粒度过细 推荐粒度
年龄 青年/中年/老年 每 1 岁一组 5 岁一组(如 18-22, 23-27...)
额度 低/中/高 每 100 元一组 按业务分位数分 4-5 档
信用评分 好/差 每 1 分一组 按风险等级分 5-7 档
产品类型 现金贷/分期 每个产品 ID 一组 按产品线合并(如 3-5 类)

4.4 变量设计决策流程

以下 SVG 展示了从实验目标到变量设计的完整决策路径,帮助你在实际项目中快速选择正确的变量策略。

变量设计决策流程 实验目标定义 变量数量:单一变量 vs 多变量? 单一变量:仅改变 1 个因素 MVT:多因素组合 粒度选择:粗/中/细? 粒度选择:粗/中/细? 检查:每组样本量 ≥ 1000? 检查:样本量充足? 输出:实验变量设计方案 提示:若样本量不足,优先降低粒度(合并分组)或改为单一变量实验

4.5 变量设计检查清单

在提交实验方案前,请逐项确认以下内容:

  1. 变量唯一性:实验组与对照组之间是否只有 1 个变量不同?(单一变量实验)或变量组合是否已完整定义?(MVT)
  2. 变量可测量:变量取值是否可被系统准确记录和回溯?
  3. 粒度合理性:每个实验组是否满足最小样本量要求?
  4. 交互效应考虑:若使用 MVT,是否已列出所有可能的交互项?
  5. 业务对齐:变量取值是否与业务规则、监管要求一致?
最佳实践:在授信引擎 A/B 测试中,建议 80% 的实验采用单一变量原则,15% 采用 2-3 变量的 MVT,仅 5% 的高流量场景使用 4 变量以上的 MVT。变量粒度优先使用业务分档(如低/中/高),而非统计分箱。