3、跟踪范式:TBD(Tracking-by-Detection)、DFT(Detection-Free Tracking)、联合检测与跟踪(Joint Detection and Tracking)的对比

视频多目标跟踪(MOT)的工程实现,首先面临的是范式选择问题。范式决定了系统如何组织检测器与轨迹管理模块之间的关系,也决定了计算资源分配、延迟特性以及应对遮挡和漏检的能力。当前主流方案可归纳为三大类:TBD(先检测后跟踪)、DFT(免检测跟踪,也称初始框跟踪)以及近年兴起的联合检测与跟踪(Joint Detection and Tracking)。三者的核心差异在于“目标假设从何而来”以及“检测与关联是否共享特征”。本章将从原理、流程、适用场景和工程代价四个维度展开对比,并给出选型建议。

TBD 先检测后跟踪 DFT 免检测跟踪 Joint 联合检测与跟踪 每帧独立检测器 检测框集合 D_t 匈牙利/图匹配关联 轨迹更新/生命周期管理 优点:模块解耦、易调试 缺点:漏检直接断轨迹 第一帧人工/自动框选 模板/相关滤波建模 局部搜索+响应峰值定位 模板在线更新 优点:无需每帧检测 缺点:新目标无法自动出现 单阶段网络共享Backbone 同时输出检测+Embedding 检测与ReID特征对齐 帧间Embedding关联 优点:端到端、低延迟 缺点:训练复杂、算力高

3.1 核心原理与范式定位

TBD(Tracking-by-Detection)是目前工业界应用最广泛的范式。其核心思想是将跟踪问题拆解为两个独立子任务:每一帧先运行一个目标检测器(如YOLO、Faster R-CNN),得到该帧所有目标的边界框;然后利用运动模型(如卡尔曼滤波)和外观特征(如ReID特征)将当前帧检测框与已有轨迹进行数据关联。TBD的典型代表是SORT和DeepSORT系列。由于检测器与关联模块完全解耦,开发者可以独立替换或升级检测器,而不影响轨迹管理逻辑。

DFT(Detection-Free Tracking)则完全绕开逐帧检测。它要求在第一帧(或前几帧)由人工或外部模块指定目标框,之后算法仅围绕这些初始框进行局部模板匹配或相关滤波跟踪。经典算法包括KCF、MOSSE以及部分基于Siamese网络的跟踪器(如SiamFC)。DFT的核心假设是目标外观在连续帧间变化平缓,且目标不会突然消失或大量新增。

Joint Detection and Tracking(联合检测与跟踪)是近年来的研究热点,代表工作包括FairMOT、JDE、TrackFormer等。这类方法将检测和ReID特征提取统一到一个端到端网络中,共享Backbone特征,同时输出目标框和身份嵌入向量。在推理阶段,网络直接输出“检测+外观特征”,随后仅需轻量级关联即可完成跟踪。其核心优势在于避免了TBD中“检测器与ReID模型特征不一致”的问题,同时减少了重复计算。

维度TBDDFTJoint
目标假设来源每帧检测器输出首帧人工指定网络同时输出检测与特征
新目标发现自动发现无法发现自动发现
特征一致性检测与ReID分离,可能不一致仅依赖模板共享特征,天然一致
计算开销检测+ReID两次前向仅局部搜索单次前向
典型场景行人/车辆密集场景单目标/少量目标实时性要求高的密集场景

3.2 判断方法与选型流程

在实际项目中,选择哪种范式不能仅凭“哪个更先进”来判断,而应基于以下四个约束条件:

  1. 目标数量与密度:如果画面中目标数量超过20个且频繁交叉,DFT几乎不可用,因为模板更新会漂移;TBD和Joint均可,但Joint在密集场景下关联更稳定。
  2. 计算资源与延迟:边缘设备(如Jetson Nano)上,TBD的检测+ReID双模型可能达到30ms以上;Joint单模型可压缩到15ms以内。DFT虽然最快,但无法处理目标出现/消失。
  3. 是否需要自动发现新目标:安防监控、交通流量统计必须自动发现新进入画面的目标,此时只能选TBD或Joint。
  4. 训练数据与标注成本:TBD可以分别训练检测器和ReID模型,数据要求相对宽松;Joint需要同时标注检测框和跨帧ID,标注成本高。
经验判断:如果项目周期短且已有现成的高精度检测器,优先选择TBD;如果从零开始且需要极低延迟,选择Joint;如果目标数量极少(≤3)且场景固定(如无人机锁定单一车辆),DFT仍有一席之地。

3.3 案例拆解:智慧路口的多目标跟踪方案选型

某智慧交通项目需要对城市路口进行全时段车辆跟踪,要求输出每辆车的连续轨迹,并统计转向流量。硬件为NVIDIA Jetson AGX Orin,算力约275 TOPS,视频流为1080p@25fps。初始方案采用TBD(YOLOv5s + DeepSORT),实测单路延迟约28ms,满足实时性。但在晚高峰时段,路口车辆密集且相互遮挡,出现两个问题:

  • 检测器漏检导致轨迹中断,ID Switch率高达18%;
  • ReID模型在车辆外观相似(同色同款)时区分度不足。

团队随后评估Joint方案,选用FairMOT(DLA-34 backbone)。关键调整如下:

# FairMOT 推理配置示例
model: fairmot_dla34
conf_threshold: 0.4
track_buffer: 30
max_per_image: 80
# 启用ReID特征维度为512维
reid_dim: 512

切换后,单路延迟降至18ms,ID Switch率降至6.2%。但训练阶段需要同时标注检测框和跨帧ID,标注工作量比TBD增加了约40%。此外,FairMOT在夜间低光照下的检测召回率略低于YOLOv5s,团队额外引入了图像增强预处理。最终方案采用Joint为主、TBD作为兜底:当Joint的检测置信度低于阈值时,触发TBD的检测器进行二次确认。

风险提示:Joint方法虽然端到端,但训练难度较高。如果训练数据不足或场景迁移较大(如从白天到雨天),其性能下降可能比TBD更剧烈。务必在部署前采集目标场景的少量数据做微调。

3.4 常见误区与总结复盘

误区一:认为DFT已经过时。实际上,在无人机单目标锁定、体育赛事中追踪单个运动员等场景,DFT的实时性(可达1ms以内)和低功耗优势仍然明显。但必须配合异常检测机制,当响应峰值低于阈值时自动切换为TBD。

误区二:盲目追求Joint而忽略数据成本。Joint的训练需要同时优化分类、回归和ReID三个损失,如果标注质量不高,容易出现“检测好但关联差”或反之。建议在数据量不足时,先使用TBD快速上线,再逐步积累数据切换Joint。

误区三:忽略轨迹稳定性评估。无论哪种范式,都应使用MOTA、ID Switch、MT(Mostly Tracked)等指标综合评估。仅看MOTA可能掩盖轨迹频繁断裂的问题。工程上建议增加“轨迹连续性”指标——即每条轨迹的平均存活帧数与理论帧数的比值。

总结:三种范式并非简单的替代关系,而是针对不同约束的工程折中。TBD适合模块化开发、快速迭代;DFT适合极低延迟的专用场景;Joint适合高密度、高实时性且具备数据积累能力的项目。在实际系统中,混合架构(如Joint为主+TBD兜底)往往能取得最佳平衡。选型时务必先明确目标数量、算力预算、数据标注能力和场景动态性,再决定范式方向。