2. 贝叶斯决策理论:先验概率与后验概率、贝叶斯公式、最小错误率贝叶斯决策、最小风险贝叶斯决策

各位同学,咱们今天聊聊贝叶斯决策理论。说实话,这玩意儿是目标跟踪和传感器融合的基石。我当年刚入行时,总觉得贝叶斯就是个数学公式,背下来就完事了。直到有一次做雷达目标识别,数据明明很好,结果却一塌糊涂——后来才发现,是我对先验概率的理解出了偏差。嗯,从那以后,我再也不敢小看这个理论了。

2.1 先验概率与后验概率

先说说先验概率。说白了,就是在你看到任何观测数据之前,对某个事件发生的概率的估计。比如,我告诉你明天要识别一个目标,根据历史统计,这个目标是卡车的概率是70%,是轿车的概率是30%。这个70%和30%,就是先验概率。

我个人习惯用 P(ωi) 来表示先验概率,其中 ωi 代表第 i 类目标。先验概率通常来自历史数据、专家经验,或者干脆就是拍脑袋——当然,拍脑袋要拍得有依据。

那后验概率呢?就是当你看到了观测数据 x 之后,重新评估这个目标属于哪一类的概率。记作 P(ωi | x)。你想想看,观测数据 x 可能是雷达回波、红外图像、激光点云等等。有了这些数据,你对目标的判断就更准确了。

举个例子:

  • 先验:明天遇到卡车的概率是70%
  • 观测:雷达回波显示目标很大,速度很慢
  • 后验:看到这个回波后,是卡车的概率变成了95%

为什么会这样?因为观测数据提供了新的信息,修正了我们的初始判断。这就是贝叶斯决策的核心思想——用数据更新认知。

核心要点:先验概率是"事前判断",后验概率是"事后修正"。没有先验,决策会盲目;没有后验,决策会僵化。

2.2 贝叶斯公式

贝叶斯公式就是连接先验和后验的桥梁。公式长这样:

P(ωᵢ | x) = [p(x | ωᵢ) × P(ωᵢ)] / p(x)

其中:

  • P(ωi | x) 是后验概率
  • p(x | ωi) 是似然函数——给定目标类别下,观测数据出现的概率密度
  • P(ωi) 是先验概率
  • p(x) 是证据因子——所有类别下观测数据出现的总概率

我记得刚学这个公式时,总觉得分母 p(x) 很烦人。后来做项目多了才明白,p(x) 其实就是个归一化常数,保证所有后验概率加起来等于1。在实际计算中,很多时候我们只需要比较不同类别的后验概率大小,分母可以忽略。

实战技巧:在目标跟踪中,我们经常用贝叶斯公式的"非归一化"形式:P(ωᵢ | x) ∝ p(x | ωᵢ) × P(ωᵢ)。这样计算量小很多,而且不影响决策结果。

2.3 最小错误率贝叶斯决策

好,现在有了后验概率,怎么决策呢?最直观的想法是:哪个类别的后验概率最大,我就选哪个。这就是最小错误率贝叶斯决策。

决策规则很简单:

如果 P(ω₁ | x) > P(ω₂ | x),则决策为 ω₁
否则决策为 ω₂

为什么叫"最小错误率"?因为这种决策方式从理论上保证了分类错误的概率最小。我曾经在一个多传感器融合项目中,用这个规则做目标识别,准确率从85%直接提升到了93%。

但要注意,最小错误率决策有个隐含假设:所有分类错误的代价是一样的。也就是说,把卡车误判为轿车,和把轿车误判为卡车,后果一样严重。但在实际工程中,这个假设往往不成立。

避坑指南:我曾经在自动驾驶项目中,用最小错误率决策做行人检测。结果发现,把行人误判为背景的代价,远高于把背景误判为行人的代价。前者可能出人命,后者只是虚警。所以,别盲目用最小错误率,要看实际场景。

2.4 最小风险贝叶斯决策

这就引出了最小风险贝叶斯决策。它引入了"风险"的概念——不同错误类型,代价不同。

我们定义一个损失函数 λij,表示把真实类别 ωj 误判为 ωi 的代价。然后计算每个决策的期望风险:

R(ωᵢ | x) = Σⱼ λᵢⱼ × P(ωⱼ | x)

决策规则变成:选择期望风险最小的那个类别。

举个例子,假设有两类目标:行人(ω₁)和背景(ω₂)。损失矩阵可能是:

真实为行人 真实为背景
决策为行人 0(正确) 1(虚警)
决策为背景 100(漏检) 0(正确)

你看,漏检行人的代价是100,虚警的代价只有1。这时候,即使后验概率 P(行人 | x) 只有0.1,期望风险也可能比决策为背景要小。所以,最小风险决策会倾向于"宁可虚警,不可漏检"。

我个人习惯在项目中先建一个损失矩阵,再跑决策。这样既保证了理论最优,又贴合了工程需求。

知识体系总览

下面这张图,是我自己总结的贝叶斯决策知识体系。你把它存下来,以后做项目时对照着看,思路会清晰很多。

贝叶斯决策理论知识体系 先验概率 P(ωᵢ) 事前判断 历史统计 / 专家经验 不依赖观测数据 贝叶斯公式 后验 ∝ 似然 × 先验 P(ωᵢ|x) ∝ p(x|ωᵢ)×P(ωᵢ) 连接先验与后验的桥梁 后验概率 P(ωᵢ|x) 事后修正 融合观测数据后的判断 决策的依据 最小错误率贝叶斯决策 选择后验概率最大的类别 假设所有错误代价相同 理论错误率最低 适用于代价对称场景 最小风险贝叶斯决策 引入损失函数 λᵢⱼ 计算期望风险 R(ωᵢ|x) 选择风险最小的类别 适用于代价不对称场景 核心思想:用先验知识 + 观测数据 → 后验概率 → 最小化风险决策

总结一下今天的内容:先验概率是起点,贝叶斯公式是工具,后验概率是结果。有了后验概率,你可以选择最小错误率决策(简单粗暴),也可以选择最小风险决策(更贴合实际)。我个人建议,在工程中优先考虑最小风险决策——毕竟,不同错误的代价,往往天差地别。

好了,这一章就到这里。记住,贝叶斯决策不是死板的公式,而是一种思维方式——用数据不断修正你的判断。下次做目标跟踪时,不妨想想:我的先验合理吗?我的损失函数设对了吗?

一句话总结:贝叶斯决策 = 先验知识 + 观测数据 + 风险意识。三者缺一不可。