4. 共轭先验分布
在贝叶斯推断中,后验分布的计算往往涉及复杂的积分。共轭先验分布(Conjugate Prior)的引入,使得先验与后验属于同一分布族,从而极大简化了计算过程。本章将系统定义共轭先验,并介绍可靠性工程中最常用的三个共轭分布族。
4.1 共轭先验的定义
设观测数据 X 的似然函数为 f(x | θ),参数 θ 的先验分布为 π(θ)。若对于任意观测值 x,后验分布 π(θ | x) 与先验分布 π(θ) 属于同一概率分布族(仅参数不同),则称 π(θ) 为似然函数 f(x | θ) 的共轭先验。
核心价值:共轭先验将贝叶斯更新转化为参数的代数更新,无需数值积分,特别适合可靠性现场数据的快速迭代。
共轭先验的数学本质在于:先验分布与似然函数相乘后,其核(kernel)形式保持不变。这意味着后验分布的超参数可以通过先验超参数与样本统计量的简单组合得到。
4.2 常见共轭分布族
以下三个共轭分布族覆盖了可靠性工程中绝大多数应用场景:成败型数据、计数型数据、寿命型数据。
4.2.1 Beta-Binomial 共轭族
适用场景:成败型试验(如导弹发射成功/失败、电子元件通过/不通过测试)。
| 角色 | 分布 | 参数 | 概率密度/质量函数 |
|---|---|---|---|
| 先验 | Beta(α, β) | α > 0, β > 0 | π(p) ∝ pα−1(1−p)β−1 |
| 似然 | Binomial(n, p) | n 次试验, x 次成功 | f(x | p) ∝ px(1−p)n−x |
| 后验 | Beta(α+x, β+n−x) | 更新后超参数 | π(p | x) ∝ pα+x−1(1−p)β+n−x−1 |
更新规则:后验 Beta 分布的超参数 = 先验超参数 + 样本成功/失败计数。
可靠性应用示例:某型发动机历史数据表明可靠性先验为 Beta(2, 18)。新批次进行 10 次试车,成功 9 次。则后验分布为 Beta(2+9, 18+1) = Beta(11, 19),可靠性均值从 0.10 更新为 0.37。
4.2.2 Gamma-Poisson 共轭族
适用场景:计数型数据(如系统在固定时间内的故障次数、维修事件发生次数)。
| 角色 | 分布 | 参数 | 概率密度/质量函数 |
|---|---|---|---|
| 先验 | Gamma(α, β) | α > 0 (形状), β > 0 (速率) | π(λ) ∝ λα−1e−βλ |
| 似然 | Poisson(λt) | 时间 t 内发生 x 次 | f(x | λ) ∝ λxe−λt |
| 后验 | Gamma(α+x, β+t) | 更新后超参数 | π(λ | x) ∝ λα+x−1e−(β+t)λ |
更新规则:后验 Gamma 的形状参数 = 先验形状 + 观测故障次数;速率参数 = 先验速率 + 观测时间。
注意:Gamma 分布有两种参数化形式——形状-速率(shape-rate)和形状-尺度(shape-scale)。本课程统一使用形状-速率参数化,因为其更新规则最直观。若使用尺度参数 θ = 1/β,则后验尺度为 θ/(1+θt),形式较复杂。
4.2.3 Normal-Normal 共轭族
适用场景:寿命型数据(如元件的失效时间、系统的平均无故障时间 MTBF),当数据近似正态分布时。
| 角色 | 分布 | 参数 | 概率密度函数 |
|---|---|---|---|
| 先验 | Normal(μ0, σ02) | 均值 μ0, 方差 σ02 | π(μ) ∝ exp[−(1/2σ02)(μ−μ0)2] |
| 似然 | Normal(μ, σ2) | 已知方差 σ2, n 个样本 | f(x | μ) ∝ exp[−(1/2σ2)∑(xi−μ)2] |
| 后验 | Normal(μn, σn2) | 更新后均值与方差 | 见下方公式 |
后验参数更新公式:
后验均值 μ_n = (μ₀/σ₀² + n·x̄/σ²) / (1/σ₀² + n/σ²)
后验方差 σ_n² = 1 / (1/σ₀² + n/σ²)
其中 x̄ 为样本均值。后验均值是先验均值与样本均值的精度加权平均,精度(方差的倒数)越高,权重越大。
4.3 共轭分布族对比总览
| 共轭族 | 数据类型 | 先验分布 | 似然分布 | 后验超参数更新 | 可靠性典型应用 |
|---|---|---|---|---|---|
| Beta-Binomial | 成败型(0/1) | Beta(α, β) | Binomial(n, p) | α′ = α+x, β′ = β+n−x | 可靠度估计、通过/不通过试验 |
| Gamma-Poisson | 计数型(次数) | Gamma(α, β) | Poisson(λt) | α′ = α+x, β′ = β+t | 故障率估计、维修率估计 |
| Normal-Normal | 连续型(寿命) | Normal(μ0, σ02) | Normal(μ, σ2) | 精度加权平均 | MTBF 估计、寿命参数更新 |
4.4 共轭先验的贝叶斯更新流程
下图展示了共轭先验在贝叶斯框架下的完整更新闭环:
4.5 共轭先验的选择策略
在实际可靠性工程中,选择共轭先验需遵循以下步骤:
- 识别数据类型:成败型 → Beta-Binomial;计数型 → Gamma-Poisson;连续寿命型 → Normal-Normal(或 Inverse-Gamma-Normal)。
- 确定先验超参数:利用历史数据、专家经验或等效样本量法(Prior Effective Sample Size, PESS)设定。
- 收集现场数据:记录试验次数/成功次数、观测时间/故障次数、样本均值等。
- 执行代数更新:按对应共轭族的更新规则计算后验超参数。
- 提取后验推断:计算后验均值、后验方差、可信区间等。
等效样本量法(PESS)示例:若希望先验 Beta(α, β) 等效于 m 次试验,则令 α+β = m。例如,先验 Beta(2, 18) 等效于 20 次试验中成功 2 次,先验信息强度相当于 20 次历史试验。
4.6 非共轭场景的应对
当实际数据分布不存在共轭先验(如 Weibull 分布、对数正态分布)时,可采用以下替代方案:
- 数值积分:直接计算后验归一化常数,适用于低维参数空间。
- MCMC 采样:使用 Metropolis-Hastings 或 Gibbs 采样近似后验分布。
- 近似共轭:将非共轭模型近似为共轭形式(如用 Gamma 近似 Weibull 的尺度参数先验)。