3. 先验分布的选择与构建

贝叶斯推断的结论由“似然 × 先验”共同决定,因此先验不是可有可无的装饰,而是模型的一部分。先验的选择本质上是在回答一个问题:在看到当前数据之前,我们对参数知道多少?答案可能是“几乎一无所知”,可能是“知道它属于某个分布族”,也可能是“有明确的历史经验或专家判断”。对应地,先验大致分为无信息先验、共轭先验、弱信息先验与主观先验四类。它们并非互斥的等级,而是从“尽量让数据说话”到“尽量把已有知识编码进模型”的一条连续谱。

四类先验的定位与构建方式

无信息先验的目标是让先验对后验的影响尽可能小,常用于缺乏背景知识或希望结果可被他人复现的场景。最朴素的做法是均匀先验,例如对成功概率 p 取 Uniform(0,1),等价于 Beta(1,1)。但“无信息”并不等于“在任何参数化下都平坦”:若对 p 均匀,则对 logit(p) 并不均匀。因此更严谨的做法是使用 Jeffreys 先验,它以 Fisher 信息的平方根为密度,具有参数化不变性。以二项分布为例,Jeffreys 先验为 Beta(0.5, 0.5);以正态分布均值(方差已知)为例,平坦先验为 p(μ) ∝ 1。需要注意, improper 先验(积分发散)在多数常见模型中仍能得到 proper 后验,但必须验证后验确实可归一化,否则采样与推断都会失效。

共轭先验追求的是计算上的解析便利:先验与似然属于同一分布族,后验仍落在该族内,从而可以用闭式公式更新。典型组合包括:二项似然配 Beta 先验、泊松似然配 Gamma 先验、正态似然(方差已知)配正态先验。以 Beta-二项为例,若先验为 Beta(α, β),观测到 s 次成功、f 次失败,则后验为 Beta(α+s, β+f),后验均值可直接写为 (α+s)/(α+β+s+f)。共轭先验的“强度”由 α+β 体现:α+β 越大,先验越“重”,需要更多数据才能被推动。构建时应把 α、β 解释为“伪计数”,例如 Beta(2,2) 相当于事先看过 2 次成功和 2 次失败。

弱信息先验介于无信息与强主观之间:它不强行指定参数的具体取值,但通过分布形状排除明显不合理的区域,从而提升数值稳定性与估计的合理性。例如在逻辑回归系数上放置 N(0, 2.5) 或 Cauchy(0, 1) 先验,既允许较大效应存在,又抑制极端值;在方差参数上使用 Half-Normal 或 Half-Cauchy 先验,避免方差趋近于零导致的退化。弱信息先验的关键是“尺度要结合变量的实际量纲来定”,而不是机械套用默认值。

主观先验则主动编码领域知识,如历史试验结果、专家对效应方向的判断、设备已知的精度范围。构建方式通常是从专家处引出分位数(如中位数、90% 区间),再拟合一个分布。例如专家认为某转化率的 90% 区间为 [0.05, 0.15],可据此拟合 Beta 或正态分布,并检查拟合分布的分位数是否与专家判断一致。主观先验必须记录来源与引出过程,否则难以审计。

先验谱系:从“让数据说话”到“编码领域知识” 无信息先验 共轭先验 弱信息先验 主观先验 影响最小 / 可复现 解析更新 / 伪计数 约束形状 / 稳定数值 专家判断 / 需审计 Beta(1,1) 均匀,平坦 Jeffreys: Beta(.5,.5) 需验证后验可归一 参数化不变性优先 Beta(2,2) 伪计数 2 成功 2 失败 后验 Beta(α+s, β+f) 强度 = α+β 闭式更新,便于教学 Beta(5,5) 弱约束,排除极端 尺度结合量纲设定 回归系数 N(0,2.5) 方差用 Half-Cauchy Beta(8,2) 专家判断偏高水平 分位数引出后拟合 记录来源与过程 需做敏感性检验 同一数据下,先验强度如何改变后验位置 p = 0 p = 1 成功概率 p Beta(1,1):宽而平 Beta(2,2):轻微集中 Beta(5,5):明显集中 Beta(8,2):偏向高值

先验敏感性分析的基本思路

先验敏感性分析要回答的是:结论在多大程度上依赖先验的选取?基本思路不是“换一个先验看看”,而是有目的地构造一组可比先验,观察关键后验量(后验均值、区间、决策阈值概率)如何随之变化。常用做法有三类:其一,在同一分布族内改变强度,例如把 Beta(2,2) 换成 Beta(5,5)、Beta(20,20),观察后验均值向数据比例靠拢的速度;其二,更换先验族,例如把正态先验换成 Cauchy 或 Laplace,检验对厚尾的稳健性;其三,与无信息或弱信息先验对照,判断数据本身提供了多少信息。

一个可操作的示例:某按钮的转化试验中,观测到 30 次成功、70 次失败,样本比例 0.30。若先验取 Beta(2,2),后验为 Beta(32,72),后验均值约 0.308;若先验取 Beta(20,20),后验为 Beta(50,90),后验均值约 0.357;若先验取 Beta(1,1),后验均值恰为 0.30。可以看到,先验强度越大,后验被拉向先验中心越明显。敏感性分析应把这几组结果并列呈现,并说明在业务决策阈值(例如“转化率是否高于 0.25”)下,后验概率是否发生方向性改变。若不同先验下结论一致,说明数据主导、结论稳健;若结论翻转,则必须回到先验的合理性上做论证,而不是挑选对自己有利的那一个。

做敏感性分析时,建议固定随机种子与采样设置,只改变先验,这样差异才能归因于先验本身;同时报告先验的“等效样本量”(如 α+β),它比分布名称更能说明先验的分量。
不要把“无信息先验”当作绝对中立。平坦先验在变换参数后可能变得有信息,improper 先验还可能产生不可归一的后验。使用前应确认后验 proper,并在报告中写明先验形式与参数化方式。

最后需要强调,先验的选择应当先于看到数据、并基于领域知识或可辩护的原则确定。敏感性分析是事后检验,不是事后挑选。把先验来源、参数含义、等效样本量和敏感性结果一并记录,才能让贝叶斯模型既表达知识,又经得起复核。