3. 贝叶斯反问题的概率建模框架
贝叶斯反问题的核心思想,是把“未知参数”和“观测数据”都视为随机变量,用概率分布统一描述它们的不确定性,再通过贝叶斯公式把观测带来的信息注入到参数估计中。本节围绕四个关键环节展开:未知参数与观测的联合分布、似然函数的构造、先验选择原则,以及后验密度的形式化表达。理解这四者的逻辑关系,是后续所有数值采样与近似推断的基础。
一、未知参数与观测的联合分布
设反问题的未知参数为 m ∈ R^n,观测数据为 d ∈ R^p。贝叶斯框架的第一步,是写出二者的联合概率密度 π(m, d)。利用概率乘法公式,联合分布可分解为:
π(m, d) = π(d | m) · π(m)
其中 π(m) 是参数的先验密度,π(d | m) 是给定参数时观测的条件密度,也就是似然。这个分解不是数学技巧,而是建模假设的体现:它声明观测数据只通过正向模型依赖参数,参数本身的随机性独立于观测过程。联合分布因此成为整个框架的“总账本”,先验与似然都是它的组成部分。
需要强调的是,联合分布中的 d 在真实问题里是已经实现的一次观测,而 m 是待推断的随机量。贝叶斯推断不改变联合分布,只是把视角从“m 和 d 一起随机”切换到“在 d 已固定的条件下看 m”。这一视角切换正是后验的来源。
二、似然函数的构造
似然函数 L(m) = π(d_obs | m) 描述的是:如果参数取某个值,观测到当前数据的可能性有多大。构造似然的关键,是把正向模型与噪声模型分开写清楚。典型形式为:
d = G(m) + ε, ε ~ N(0, Γ_noise)
其中 G 是正向算子(可能是 PDE 求解、积分算子或矩阵映射),ε 是观测噪声。若噪声为加性高斯且协方差为 Γ_noise,则似然为:
π(d_obs | m) ∝ exp( -½ (d_obs - G(m))ᵀ Γ_noise⁻¹ (d_obs - G(m)) )
这里 Γ_noise⁻¹ 起加权作用:噪声小的观测分量权重高,噪声大的分量权重低。实际建模时常见的错误是忽略噪声相关性,直接把 Γ_noise 取为单位矩阵的倍数,这会在数据相关时系统性低估或高估某些方向的信息量。构造似然时应明确三件事:正向模型是否包含模型误差、噪声是加性还是乘性、噪声协方差是否已知或需一并估计。
ε = ε_obs + ε_model,此时 Γ_noise 是观测噪声与模型误差协方差之和。这一处理能让似然更诚实,避免后验过度自信。三、先验选择原则
先验 π(m) 编码了在观测之前对参数的认知。选择先验不是越“无信息”越好,而是要与参数的物理含义、取值范围和已知结构相匹配。常用原则包括:
- 支撑集匹配:参数有物理下限(如浓度非负、波速为正)时,应选用支撑集相符的分布,如对数正态或截断高斯,避免先验质量落在不可行区域。
- 尺度与相关性:参数各分量量纲不同或空间相关时,用协方差
Γ_prior表达尺度与相关结构,而不是简单取独立同分布。 - 正则化解释:高斯先验
m ~ N(m_prior, Γ_prior)等价于在负对数后验中加入二次罚项,先验协方差的逆起正则化作用,这与确定性反问题中的 Tikhonov 正则化有对应关系。 - 弱信息与敏感性:先验过强会压制数据信息,过弱则后验可能病态。应做先验敏感性检查,观察后验是否被先验主导。
以地下水渗透率反演为例,渗透率跨多个数量级且恒为正,常用对数正态先验;若已知介质分层,则用带相关长度的高斯随机场先验描述空间连续性。先验的选择直接决定后验的可行域和计算难度。
四、后验密度的形式化表达
由贝叶斯公式,后验密度为:
π(m | d_obs) = π(d_obs | m) · π(m) / π(d_obs)
分母 π(d_obs) = ∫ π(d_obs | m) π(m) dm 是证据(边缘似然),对参数 m 是常数。因此实际计算中常写成比例形式:
π(m | d_obs) ∝ π(d_obs | m) · π(m)
取负对数后得到更便于优化的形式:
-ln π(m | d_obs) = ½(d_obs - G(m))ᵀ Γ_noise⁻¹ (d_obs - G(m))
+ ½(m - m_prior)ᵀ Γ_prior⁻¹ (m - m_prior) + const
这个表达式清楚显示后验是“数据失配项”与“先验偏离项”的加权折中。两项的相对权重由 Γ_noise 和 Γ_prior 决定:噪声越小或先验越宽,数据项越占主导;反之先验主导。最大后验估计(MAP)就是最小化该负对数后验,而完整后验还需要通过采样或变分方法刻画其分布形状。
五、建模流程中的一致性检查
把上述四部分串起来时,最容易出问题的是量纲与协方差的一致性。一个实用的检查顺序是:先确认 G(m) 的输出与 d_obs 同量纲;再确认 Γ_noise 的对角元与观测误差量级相符;然后检查 Γ_prior 的相关长度是否与参数的空间分辨率匹配;最后用先验采样生成若干 m,正向计算得到预测数据,观察其分布是否覆盖真实观测。若预测数据分布与观测明显不重叠,说明先验或噪声模型设定有偏,需要回到前两步修正。