3. 贝叶斯反问题的概率建模框架

贝叶斯反问题的核心思想,是把“未知参数”和“观测数据”都视为随机变量,用概率分布统一描述它们的不确定性,再通过贝叶斯公式把观测带来的信息注入到参数估计中。本节围绕四个关键环节展开:未知参数与观测的联合分布、似然函数的构造、先验选择原则,以及后验密度的形式化表达。理解这四者的逻辑关系,是后续所有数值采样与近似推断的基础。

一、未知参数与观测的联合分布

设反问题的未知参数为 m ∈ R^n,观测数据为 d ∈ R^p。贝叶斯框架的第一步,是写出二者的联合概率密度 π(m, d)。利用概率乘法公式,联合分布可分解为:

π(m, d) = π(d | m) · π(m)

其中 π(m) 是参数的先验密度,π(d | m) 是给定参数时观测的条件密度,也就是似然。这个分解不是数学技巧,而是建模假设的体现:它声明观测数据只通过正向模型依赖参数,参数本身的随机性独立于观测过程。联合分布因此成为整个框架的“总账本”,先验与似然都是它的组成部分。

需要强调的是,联合分布中的 d 在真实问题里是已经实现的一次观测,而 m 是待推断的随机量。贝叶斯推断不改变联合分布,只是把视角从“m 和 d 一起随机”切换到“在 d 已固定的条件下看 m”。这一视角切换正是后验的来源。

二、似然函数的构造

似然函数 L(m) = π(d_obs | m) 描述的是:如果参数取某个值,观测到当前数据的可能性有多大。构造似然的关键,是把正向模型与噪声模型分开写清楚。典型形式为:

d = G(m) + ε,   ε ~ N(0, Γ_noise)

其中 G 是正向算子(可能是 PDE 求解、积分算子或矩阵映射),ε 是观测噪声。若噪声为加性高斯且协方差为 Γ_noise,则似然为:

π(d_obs | m) ∝ exp( -½ (d_obs - G(m))ᵀ Γ_noise⁻¹ (d_obs - G(m)) )

这里 Γ_noise⁻¹ 起加权作用:噪声小的观测分量权重高,噪声大的分量权重低。实际建模时常见的错误是忽略噪声相关性,直接把 Γ_noise 取为单位矩阵的倍数,这会在数据相关时系统性低估或高估某些方向的信息量。构造似然时应明确三件事:正向模型是否包含模型误差、噪声是加性还是乘性、噪声协方差是否已知或需一并估计。

若正向模型本身存在离散化误差或模型简化误差,可将其并入噪声项,写成 ε = ε_obs + ε_model,此时 Γ_noise 是观测噪声与模型误差协方差之和。这一处理能让似然更诚实,避免后验过度自信。

三、先验选择原则

先验 π(m) 编码了在观测之前对参数的认知。选择先验不是越“无信息”越好,而是要与参数的物理含义、取值范围和已知结构相匹配。常用原则包括:

  • 支撑集匹配:参数有物理下限(如浓度非负、波速为正)时,应选用支撑集相符的分布,如对数正态或截断高斯,避免先验质量落在不可行区域。
  • 尺度与相关性:参数各分量量纲不同或空间相关时,用协方差 Γ_prior 表达尺度与相关结构,而不是简单取独立同分布。
  • 正则化解释:高斯先验 m ~ N(m_prior, Γ_prior) 等价于在负对数后验中加入二次罚项,先验协方差的逆起正则化作用,这与确定性反问题中的 Tikhonov 正则化有对应关系。
  • 弱信息与敏感性:先验过强会压制数据信息,过弱则后验可能病态。应做先验敏感性检查,观察后验是否被先验主导。

以地下水渗透率反演为例,渗透率跨多个数量级且恒为正,常用对数正态先验;若已知介质分层,则用带相关长度的高斯随机场先验描述空间连续性。先验的选择直接决定后验的可行域和计算难度。

四、后验密度的形式化表达

由贝叶斯公式,后验密度为:

π(m | d_obs) = π(d_obs | m) · π(m) / π(d_obs)

分母 π(d_obs) = ∫ π(d_obs | m) π(m) dm 是证据(边缘似然),对参数 m 是常数。因此实际计算中常写成比例形式:

π(m | d_obs) ∝ π(d_obs | m) · π(m)

取负对数后得到更便于优化的形式:

-ln π(m | d_obs) = ½(d_obs - G(m))ᵀ Γ_noise⁻¹ (d_obs - G(m))
                 + ½(m - m_prior)ᵀ Γ_prior⁻¹ (m - m_prior) + const

这个表达式清楚显示后验是“数据失配项”与“先验偏离项”的加权折中。两项的相对权重由 Γ_noise 和 Γ_prior 决定:噪声越小或先验越宽,数据项越占主导;反之先验主导。最大后验估计(MAP)就是最小化该负对数后验,而完整后验还需要通过采样或变分方法刻画其分布形状。

贝叶斯反问题概率建模框架 先验 π(m) 物理约束 · 尺度 · 相关性 如对数正态 / 高斯随机场 正向模型 G(m) + ε 观测噪声协方差 Γ_noise 可并入模型误差 观测数据 d_obs 已实现的一次观测 维度 p,含噪声 似然 π(d_obs | m) 数据失配加权 (d−G(m))ᵀΓ⁻¹(d−G(m)) 联合分布 π(m,d) = π(d | m) · π(m) 建模假设的总账本 后验 π(m | d_obs) ∝ 似然 × 先验 数据项与先验项的折中 先验信息 贝叶斯公式

五、建模流程中的一致性检查

把上述四部分串起来时,最容易出问题的是量纲与协方差的一致性。一个实用的检查顺序是:先确认 G(m) 的输出与 d_obs 同量纲;再确认 Γ_noise 的对角元与观测误差量级相符;然后检查 Γ_prior 的相关长度是否与参数的空间分辨率匹配;最后用先验采样生成若干 m,正向计算得到预测数据,观察其分布是否覆盖真实观测。若预测数据分布与观测明显不重叠,说明先验或噪声模型设定有偏,需要回到前两步修正。