3、阈值过滤原理：置信度阈值、IoU阈值、类别概率阈值的作用与选择策略
在TFLite Micro的检测模型后处理链路中，阈值过滤是决定最终输出质量的核心关卡。模型推理得到的原始输出通常是数千个候选框及其对应的类别概率向量，若不做任何过滤，这些原始输出会包含大量重叠框、低置信度框和背景噪声。阈值过滤的目标是在有限的计算资源下，从海量候选中筛选出真正有意义的检测结果。本章将深入剖析三类阈值——置信度阈值、IoU阈值、类别概率阈值——各自的数学含义、作用边界以及在实际嵌入式项目中的选择策略。
3.1 三类阈值的核心原理与作用边界
在目标检测模型中，每个候选框的输出通常包含两部分信息：边界框坐标（x, y, w, h）和类别概率分布。类别概率分布是一个长度为C的向量（C为类别数），其中每个元素表示该框属于对应类别的概率。这三类阈值分别作用于不同的过滤阶段，解决不同性质的问题。
| 阈值类型 | 作用对象 | 核心功能 | 典型取值范围 | 计算开销 |
|---|---|---|---|---|
| 类别概率阈值 | 类别概率向量 | 过滤背景类、确定最终类别标签 | 0.3 ~ 0.6 | 极低（逐元素比较） |
| 置信度阈值 | 综合置信度分数 | 过滤低质量检测框、控制误检率 | 0.4 ~ 0.7 | 极低（单值比较） |
| IoU阈值 | 两个边界框的重叠程度 | NMS去重、抑制重复检测 | 0.4 ~ 0.6 | 中等（需计算两两IoU） |
类别概率阈值解决的是"这个框属于哪个类别"的问题。在嵌入式部署中，模型通常使用Softmax或Sigmoid输出类别概率。对于单类别检测任务，类别概率阈值直接决定该框是否被保留；对于多类别任务，它决定该框被赋予哪个类别标签。值得注意的是，类别概率阈值与置信度阈值有时会合并为一个值——当模型直接输出"类别概率×目标存在概率"作为综合置信度时，两者就统一了。
置信度阈值解决的是"这个框是否值得信任"的问题。它综合了目标存在概率和类别概率，是衡量检测框整体质量的核心指标。在TFLite Micro中，置信度阈值通常被量化为定点数（如Q7或Q15格式），以减少比较运算的开销。过高的置信度阈值会导致漏检（false negative），过低则会导致误检（false positive）。
IoU阈值解决的是"两个框是否在描述同一个目标"的问题。IoU（Intersection over Union）计算两个边界框的交集面积与并集面积之比，取值范围为[0, 1]。在NMS（Non-Maximum Suppression）过程中，IoU阈值决定了哪些重叠框应该被抑制。IoU阈值越高，保留的重叠框越多，检测结果越密集；IoU阈值越低，抑制越激进，可能误伤相邻目标。
关键认知：三类阈值并非独立工作，而是形成级联过滤链路。类别概率阈值首先粗筛掉大量背景框，置信度阈值进一步精筛低质量框，最后IoU阈值在NMS中消除重复框。在TFLite Micro中，这个链路必须被设计为低延迟、低内存占用的流水线，因为嵌入式设备的算力通常只有几十到几百MOPS。
3.2 阈值选择的判断方法与操作流程
阈值选择没有"万能公式"，但可以通过系统化的方法找到适合特定场景的参数组合。以下是在TFLite Micro项目中常用的阈值调优流程：
- 收集验证集检测结果分布：在开发板上运行模型，收集所有候选框的置信度分数和类别概率分布，绘制直方图。观察分数分布形态，通常会出现"双峰"特征——低分峰对应背景/噪声，高分峰对应真实目标。
- 确定置信度阈值下限：选择直方图中两个峰之间的"谷底"位置作为置信度阈值的初始值。如果谷底不明显，可以使用验证集上的F1分数最大化原则来确定。
- 调整类别概率阈值：对于多类别任务，检查每个类别的概率分布。某些类别（如"人"）可能天然具有较高的概率峰值，而某些类别（如"水杯"）可能概率偏低。必要时为不同类别设置不同的概率阈值。
- 迭代优化IoU阈值：在固定置信度阈值后，以0.05为步长在[0.3, 0.7]范围内扫描IoU阈值，观察mAP（mean Average Precision）变化。选择mAP最高点对应的IoU值。
- 嵌入式资源约束校验：在TFLite Micro中，阈值选择还需考虑计算资源。较高的IoU阈值意味着NMS需要保留更多候选框，增加排序和比较的开销。如果设备内存紧张，可以适当降低IoU阈值以减少候选框数量。
经验法则：对于大多数嵌入式视觉场景，可以从置信度阈值0.5、类别概率阈值0.4、IoU阈值0.5开始调优。如果检测结果中误检较多，优先提高置信度阈值；如果漏检较多，优先降低置信度阈值；如果同一目标出现多个重叠框，优先降低IoU阈值。
3.3 案例拆解：智能门禁中的人脸检测阈值调优
以一个基于TFLite Micro的智能门禁系统为例，该设备使用STM32F746（Cortex-M7, 216MHz）运行人脸检测模型，输入图像尺寸为96×96，模型输出为10×10×15的特征图（对应100个候选框，3个锚点，5个参数：x, y, w, h, 置信度）。
初始现象：使用默认阈值（置信度0.5，IoU 0.5）时，系统在距离门禁1米处的人脸检测率仅为78%，且偶尔出现将背景纹理误检为人脸的情况。用户反馈"走近一点才能识别"。
分析过程：
- 收集100帧验证集数据，统计候选框置信度分布。发现真实人脸框的置信度集中在0.45~0.85之间，而背景误检框的置信度集中在0.3~0.55之间，两个分布有较大重叠区域。
- 进一步分析发现，当人脸距离较远（>1.5米）时，人脸在96×96图像中仅占约20×20像素，模型输出的置信度普遍偏低（0.4~0.55）。
- 检查类别概率输出，发现该模型使用Sigmoid输出，类别概率与置信度是同一个值，因此不需要单独设置类别概率阈值。
实际操作步骤：
// TFLite Micro中的阈值参数配置示例
typedef struct {
float conf_threshold; // 置信度阈值
float iou_threshold; // IoU阈值
int max_detections; // 最大检测框数
} DetectionParams;
// 初始参数
DetectionParams params = {0.50f, 0.50f, 5};
// 调优后参数
DetectionParams params_tuned = {0.40f, 0.45f, 5};调优过程：
- 将置信度阈值从0.5降至0.4，检测率提升至89%，但误检率从2%上升至5%。
- 将IoU阈值从0.5降至0.45，NMS抑制更激进，误检率回落至3%，检测率保持在87%。
- 进一步分析误检样本，发现误检主要出现在光线较暗的角落。在预处理阶段增加直方图均衡化后，误检率降至1.5%。
- 最终在验证集上达到检测率91%，误检率1.5%的效果，满足门禁系统的使用要求。
结果对比：
| 参数配置 | 检测率 | 误检率 | 平均推理时间 | 内存占用 |
|---|---|---|---|---|
| 初始（0.5/0.5） | 78% | 2% | 85ms | 42KB |
| 调优后（0.4/0.45） | 91% | 1.5% | 92ms | 45KB |
风险与代价：降低置信度阈值导致NMS需要处理更多候选框，平均推理时间增加了约8%。在电池供电的设备上，这意味着功耗略有上升。此外，更激进的IoU阈值可能导致相邻两人同时出现在画面中时，其中一人被错误抑制。
复盘经验：阈值调优不是一次性的工作，需要结合具体应用场景、硬件资源和用户反馈持续迭代。在嵌入式设备上，建议将阈值参数存储在非易失性存储器中，方便现场调试时通过串口或蓝牙进行动态调整。
3.4 常见误区与总结复盘
在TFLite Micro的阈值配置中，开发者常犯以下错误：
误区一：盲目套用PC端阈值。嵌入式模型通常经过量化（如int8），量化误差会导致置信度分数整体偏移。在PC上表现良好的阈值（如0.5）在嵌入式设备上可能需要调整为0.45或0.55。务必在目标硬件上重新校准阈值。
误区二：忽略类别概率阈值的作用。在多类别检测中，不同类别的概率分布差异可能很大。例如，"人"类别的平均概率为0.7，而"猫"类别的平均概率仅为0.4。使用统一的类别概率阈值会导致稀有类别几乎无法被检测到。
误区三：将IoU阈值与置信度阈值混为一谈。IoU阈值只影响NMS阶段的重叠框抑制，不影响单框的保留与否。有些开发者误以为降低IoU阈值可以过滤低置信度框，这是错误的。
误区四：忽视阈值对推理延迟的影响。在TFLite Micro中，NMS的排序和比较操作是计算密集型的。过低的置信度阈值会导致大量候选框进入NMS阶段，显著增加延迟。在资源受限的设备上，需要在检测率和实时性之间做出权衡。
总结复盘：阈值过滤是TFLite Micro后处理中最具"性价比"的优化环节——不需要修改模型结构，仅通过调整三个参数就能显著改善检测效果。正确的做法是：先理解三类阈值的数学含义和作用边界，再通过数据驱动的方式在目标硬件上进行系统化调优。建议建立"阈值-指标"对照表，记录不同参数组合下的检测率、误检率、推理时间和内存占用，形成可复用的调优经验库。
在实际项目中，阈值选择还应考虑业务场景的容错性。例如，安防监控场景更看重低误检率，可以适当提高置信度阈值；而工业质检场景更看重低漏检率，可以适当降低置信度阈值。最终的目标是在嵌入式设备的算力、内存和功耗约束下，找到满足业务需求的最优参数组合。