3. 先验分布的选择与构建
贝叶斯推断的结论由“似然 × 先验”共同决定,因此先验不是可有可无的装饰,而是模型的一部分。先验的选择本质上是在回答一个问题:在看到当前数据之前,我们对参数知道多少?答案可能是“几乎一无所知”,可能是“知道它属于某个分布族”,也可能是“有明确的历史经验或专家判断”。对应地,先验大致分为无信息先验、共轭先验、弱信息先验与主观先验四类。它们并非互斥的等级,而是从“尽量让数据说话”到“尽量把已有知识编码进模型”的一条连续谱。
四类先验的定位与构建方式
无信息先验的目标是让先验对后验的影响尽可能小,常用于缺乏背景知识或希望结果可被他人复现的场景。最朴素的做法是均匀先验,例如对成功概率 p 取 Uniform(0,1),等价于 Beta(1,1)。但“无信息”并不等于“在任何参数化下都平坦”:若对 p 均匀,则对 logit(p) 并不均匀。因此更严谨的做法是使用 Jeffreys 先验,它以 Fisher 信息的平方根为密度,具有参数化不变性。以二项分布为例,Jeffreys 先验为 Beta(0.5, 0.5);以正态分布均值(方差已知)为例,平坦先验为 p(μ) ∝ 1。需要注意, improper 先验(积分发散)在多数常见模型中仍能得到 proper 后验,但必须验证后验确实可归一化,否则采样与推断都会失效。
共轭先验追求的是计算上的解析便利:先验与似然属于同一分布族,后验仍落在该族内,从而可以用闭式公式更新。典型组合包括:二项似然配 Beta 先验、泊松似然配 Gamma 先验、正态似然(方差已知)配正态先验。以 Beta-二项为例,若先验为 Beta(α, β),观测到 s 次成功、f 次失败,则后验为 Beta(α+s, β+f),后验均值可直接写为 (α+s)/(α+β+s+f)。共轭先验的“强度”由 α+β 体现:α+β 越大,先验越“重”,需要更多数据才能被推动。构建时应把 α、β 解释为“伪计数”,例如 Beta(2,2) 相当于事先看过 2 次成功和 2 次失败。
弱信息先验介于无信息与强主观之间:它不强行指定参数的具体取值,但通过分布形状排除明显不合理的区域,从而提升数值稳定性与估计的合理性。例如在逻辑回归系数上放置 N(0, 2.5) 或 Cauchy(0, 1) 先验,既允许较大效应存在,又抑制极端值;在方差参数上使用 Half-Normal 或 Half-Cauchy 先验,避免方差趋近于零导致的退化。弱信息先验的关键是“尺度要结合变量的实际量纲来定”,而不是机械套用默认值。
主观先验则主动编码领域知识,如历史试验结果、专家对效应方向的判断、设备已知的精度范围。构建方式通常是从专家处引出分位数(如中位数、90% 区间),再拟合一个分布。例如专家认为某转化率的 90% 区间为 [0.05, 0.15],可据此拟合 Beta 或正态分布,并检查拟合分布的分位数是否与专家判断一致。主观先验必须记录来源与引出过程,否则难以审计。
先验敏感性分析的基本思路
先验敏感性分析要回答的是:结论在多大程度上依赖先验的选取?基本思路不是“换一个先验看看”,而是有目的地构造一组可比先验,观察关键后验量(后验均值、区间、决策阈值概率)如何随之变化。常用做法有三类:其一,在同一分布族内改变强度,例如把 Beta(2,2) 换成 Beta(5,5)、Beta(20,20),观察后验均值向数据比例靠拢的速度;其二,更换先验族,例如把正态先验换成 Cauchy 或 Laplace,检验对厚尾的稳健性;其三,与无信息或弱信息先验对照,判断数据本身提供了多少信息。
一个可操作的示例:某按钮的转化试验中,观测到 30 次成功、70 次失败,样本比例 0.30。若先验取 Beta(2,2),后验为 Beta(32,72),后验均值约 0.308;若先验取 Beta(20,20),后验为 Beta(50,90),后验均值约 0.357;若先验取 Beta(1,1),后验均值恰为 0.30。可以看到,先验强度越大,后验被拉向先验中心越明显。敏感性分析应把这几组结果并列呈现,并说明在业务决策阈值(例如“转化率是否高于 0.25”)下,后验概率是否发生方向性改变。若不同先验下结论一致,说明数据主导、结论稳健;若结论翻转,则必须回到先验的合理性上做论证,而不是挑选对自己有利的那一个。
最后需要强调,先验的选择应当先于看到数据、并基于领域知识或可辩护的原则确定。敏感性分析是事后检验,不是事后挑选。把先验来源、参数含义、等效样本量和敏感性结果一并记录,才能让贝叶斯模型既表达知识,又经得起复核。