1. 阈值分层试验概述

1.1 什么是阈值分层试验

阈值分层试验(Threshold Stratified Experiment)是一种通过设定多个决策阈值,将用户或样本划分为不同层级,并在每个层级内独立进行效果评估的试验方法。其核心思想是:不追求单一最优阈值,而是通过分层策略,在不同风险/价值区间内寻找局部最优决策边界。

核心公式: 分层收益 = Σ (层级权重 × 层级内试验效果)

与传统的“一刀切”式阈值设定不同,阈值分层试验允许数据驱动地探索多个候选阈值,并通过统计检验确定每个层级的最佳策略。这种方法特别适用于连续型决策变量(如信用评分、点击率预估分、购买概率)的优化场景。

1.2 典型应用场景

阈值分层试验在以下三个领域有广泛且成熟的应用:

领域 典型问题 分层阈值示例 试验目标
风控 信用评分卡阈值优化 评分 600/650/700/750 在坏账率与通过率之间取得平衡
营销 优惠券发放门槛 消费满 50/100/200 元 提升 ROI 与用户转化率
推荐系统 推荐物品截断阈值 推荐概率 0.3/0.5/0.7 平衡多样性、准确性与覆盖率
实践提示: 在风控场景中,阈值分层试验常用于“通过率-坏账率”的帕累托前沿搜索。例如,将信用评分按 50 分一个区间分层,在每个区间内测试不同的拒绝阈值,最终绘制出完整的风险-收益曲线。

1.3 与传统 A/B 测试的区别

阈值分层试验并非传统 A/B 测试的替代品,而是其在连续决策空间上的扩展。两者在试验设计、统计方法和业务目标上存在显著差异:

对比维度 传统 A/B 测试 阈值分层试验
决策变量 离散方案(A vs B) 连续阈值(多个切分点)
分组方式 随机均匀分组 按阈值分层 + 随机分配
统计检验 单一假设检验 多重比较 + 层级校正
输出结果 哪个方案更优 每个层级的最优阈值
适用场景 页面改版、文案测试 风控评分卡、定价策略
常见误区: 不要将阈值分层试验等同于“多组 A/B 测试”。传统多组测试只是比较多个离散方案,而阈值分层试验的核心在于利用阈值对样本进行结构性分层,使得每个层级内的样本在风险/价值上更加同质,从而提升试验的统计功效和决策精度。

1.4 阈值分层试验的流程框架

下图展示了阈值分层试验的完整流程,从业务问题定义到最终策略部署:

阈值分层试验标准流程 1. 定义业务目标 2. 确定候选阈值 3. 样本分层与分配 4. 执行试验与采集 5. 分层统计检验 6. 策略输出与部署 明确核心指标与约束条件 基于业务经验或分位数 保证各层样本量充足 记录用户行为与结果 多重比较校正 + 层级检验 输出各层最优阈值策略

1.5 阈值分层试验的 SQL 实现思路

在本课程中,我们将使用 SQL 实现上述流程中的核心步骤。以下是一个典型的分层与试验分配 SQL 示例:

-- 示例:按信用评分分层并随机分配试验组
WITH user_scored AS (
  SELECT
    user_id,
    credit_score,
    CASE
      WHEN credit_score < 600 THEN '高风险层'
      WHEN credit_score BETWEEN 600 AND 699 THEN '中风险层'
      WHEN credit_score BETWEEN 700 AND 799 THEN '低风险层'
      ELSE '优质层'
    END AS risk_tier
  FROM user_profile
),
tier_assignment AS (
  SELECT
    user_id,
    risk_tier,
    -- 在每个层级内随机分配试验组
    CASE
      WHEN RAND() < 0.5 THEN '试验组'
      ELSE '对照组'
    END AS experiment_group
  FROM user_scored
)
SELECT
  risk_tier,
  experiment_group,
  COUNT(*) AS user_count
FROM tier_assignment
GROUP BY risk_tier, experiment_group
ORDER BY risk_tier, experiment_group;