1. 课程导入

欢迎进入《TensorRT边缘工业视觉：低延迟缺陷检测项目实战》的第一章。在正式开始技术栈与代码实战之前，我们有必要先建立全局视野。工业视觉与互联网推理存在显著差异：它要求确定性延迟、长时间稳定运行、硬件成本受限，并且往往部署在恶劣的物理环境中。本章将帮助你明确学习边界、评估自身基础、理解项目全貌，并预览最终交付的成果形态。无论你是算法工程师、嵌入式开发人员还是产线自动化负责人，这一章都将为你绘制一张清晰的“作战地图”。

1.1 学习目标：从“能跑通”到“能上线”

本课程不是简单的TensorRT API教程，而是围绕工业缺陷检测场景的完整工程化训练。学完本课程后，你将具备以下核心能力：

• 模型优化能力：能够将PyTorch/YOLOv5训练好的检测模型，通过ONNX中间格式转换为TensorRT引擎，并完成FP16与INT8量化，在精度损失可控的前提下将推理速度提升3-8倍。
• 低延迟系统设计能力：掌握多线程流水线、CUDA异步拷贝、双缓冲队列等关键技术，确保从相机取流到结果输出的端到端延迟稳定在15ms以内，且抖动不超过±2ms。
• 边缘部署能力：能够在Jetson Orin、Xavier NX或带有NVIDIA GPU的工控机上完成环境配置、TensorRT引擎部署、持久化运行与看门狗守护。
• 业务集成能力：理解如何与PLC通过Modbus TCP通信、如何将检测结果写入本地数据库或MQTT消息队列，以及如何设计可视化监控界面。

1.2 适用人群：你的基础决定学习路径

本课程内容跨度较大，从模型训练到硬件部署均有涉及。为了帮助你高效学习，我们将适用人群分为三类，并给出对应的学习建议：

1.3 课程项目全景：从数据到产线的完整链路

本项目以一个典型的PCB板缺陷检测场景为背景。产线节拍要求为每秒钟检测2块PCB板，每块板需要拍摄4个不同角度的图像。这意味着系统需要以不低于8FPS的吞吐量处理4路图像流，且每路图像的推理延迟不得超过120ms。实际项目中，我们通常将单路推理延迟控制在15ms以内，以留出足够的余量应对突发流量。

整个项目分为五个阶段，每个阶段对应课程中的若干章节：

1. 数据准备与模型训练（第2-3章）：使用开源的PCB缺陷数据集（如DeepPCB）进行训练，得到基线YOLOv5s模型。该阶段的关键是确保mAP@0.5达到0.95以上，为后续量化留出精度余量。
2. 模型转换与TensorRT引擎构建（第4-5章）：将PyTorch模型导出为ONNX，再通过trtexec或TensorRT Python API构建FP16引擎。此阶段需要处理动态尺寸、插件兼容性等问题。
3. 低延迟推理系统设计（第6-7章）：设计基于C++或Python的多线程流水线，包括相机采集线程、预处理线程、推理线程、后处理线程。使用环形缓冲区减少线程间锁竞争。
4. 边缘设备部署与调优（第8-9章）：在Jetson Orin NX 16GB设备上进行部署，开启NVENC硬解码（如果使用视频流）、设置GPU锁频、调整电源模式，确保长时间运行不掉帧。
5. 系统集成与可视化（第10章）：通过Modbus TCP将检测结果发送至PLC，同时将缺陷图像与统计信息上传至本地Web服务，供质量部门查看。

1.4 最终成果预览：你将交付什么

完成本课程所有项目后，你将获得一个完整的、可演示的工业视觉检测系统。具体交付物包括：

• 可运行的TensorRT推理引擎：针对PCB缺陷检测模型优化的FP16引擎文件（.engine），单张图像推理时间≤3ms（在Jetson Orin NX上）。
• 低延迟推理服务程序：支持4路相机并行采集，端到端延迟≤15ms，CPU占用率≤40%，GPU显存占用≤2GB。
• 可视化监控面板：基于Flask + WebSocket的实时监控页面，显示当前检测帧率、延迟曲线、缺陷类型统计、最近50张缺陷图像缩略图。
• 部署与运维脚本：包括TensorRT环境一键配置脚本、系统服务注册脚本（systemd）、日志轮转与看门狗脚本。
• 完整项目文档：包括架构设计文档、接口说明文档、性能测试报告、常见问题排查手册。

1.5 学习路径与时间投入建议

根据我们的教学经验，不同背景的学员完成本课程所需时间差异较大。以下是一个参考时间表：

需要特别说明的是，以上时间基于每天投入3-4小时的学习与实操。如果你在模型训练或C++编程方面遇到困难，建议适当延长基础章节的学习时间，不要急于进入TensorRT部分。工业视觉项目最忌讳“基础不牢、地动山摇”——一个在训练阶段就存在数据泄漏的模型，无论推理优化做得多好，都无法在产线上稳定运行。