2、边缘AI基础：边缘计算与AI推理的基本概念、边缘设备类型（如Jetson、树莓派、工业PC）及在缺陷检测中的典型部署架构
在工业缺陷检测场景中，传统方案通常将工业相机采集的图像通过千兆网或CameraLink上传到中心服务器，由GPU服务器完成推理。这种“端-云”架构在实验室环境中表现良好，但一旦进入产线，就会面临带宽不足、时延抖动、数据隐私和断网停线等现实问题。边缘AI的核心思想，是将推理计算下沉到靠近数据源头的设备侧，在毫秒级时间内完成缺陷判定，只将必要的元数据或异常样本上传到云端。本章将系统梳理边缘计算与AI推理的基本概念，对比三类主流边缘设备的选型要点，并给出缺陷检测场景中经过验证的典型部署架构。
2.1 边缘计算与AI推理的核心概念
边缘计算（Edge Computing）是一种分布式计算范式，它将数据处理和推理能力从中心化的云端下沉到网络边缘，即数据产生源附近。在缺陷检测场景中，边缘计算并非简单地“把服务器搬到产线旁”，而是需要重新设计数据流、推理引擎和运维体系。AI推理（Inference）是指使用训练完成的深度学习模型，对新的输入数据（如产品图像）进行计算，输出缺陷类别、位置和置信度的过程。与训练阶段不同，推理阶段对延迟、吞吐量和功耗有严苛要求。
理解边缘AI需要把握三个关键维度：时延预算、数据本地性和资源约束。时延预算指从相机曝光到输出判定结果所允许的最大时间，在高速产线上通常为50-200ms；数据本地性指原始图像不出产线网络，避免敏感数据外泄；资源约束则指边缘设备的算力、内存和功耗远低于云端GPU服务器，必须通过模型压缩、量化、剪枝等手段适配。
2.2 主流边缘设备类型与选型对比
缺陷检测项目中，边缘设备的选择直接决定了推理性能、部署成本和长期运维复杂度。目前主流设备分为三大类：NVIDIA Jetson系列、树莓派（Raspberry Pi）和工业PC（Industrial PC）。三类设备在算力、接口、环境适应性和价格上差异显著。
| 对比维度 | NVIDIA Jetson（Orin NX/Nano） | 树莓派（Pi 4B/5） | 工业PC（IPC+GPU） |
|---|---|---|---|
| AI算力 | 20-275 TOPS（TensorRT加速） | 0.5-1 TOPS（CPU/GPU极弱） | 取决于GPU（如RTX 4060约200 TOPS） |
| 典型功耗 | 10-40W | 5-15W | 150-500W |
| 工作温度 | -25℃~80℃（工业级） | 0℃~50℃（消费级） | -20℃~60℃（工业级） |
| 接口丰富度 | GigE、USB3.0、CAN、GPIO | USB2.0/3.0、HDMI、GPIO | PCIe、多网口、串口、DIO |
| 开发生态 | JetPack SDK、TensorRT、DeepStream | 社区丰富，但AI库支持弱 | 标准x86环境，兼容所有框架 |
| 单台成本（含散热） | 3000-15000元 | 500-1500元 | 8000-30000元 |
| 适用场景 | 多相机、复杂模型、产线嵌入式 | 原型验证、低帧率、简单分类 | 高帧率、多工位、扩展性要求高 |
选型时需遵循“算力匹配、接口够用、环境耐受、成本可控”四项原则。例如，一个检测节拍为2秒/件的电子元件外观检测工位，使用Jetson Orin NX即可满足；但如果是检测速度达每分钟300件的瓶盖缺陷检测，则需要工业PC搭配中端GPU，以保证稳定的高吞吐推理。
2.3 缺陷检测中的典型部署架构
在真实产线中，边缘AI缺陷检测系统通常采用“相机-边缘节点-产线网络-远程运维”的四层架构。根据产线规模和检测复杂度，可细分为三种典型模式：单机独立模式、多节点协同模式和边缘-云端混合模式。
单机独立模式是最简架构，一台边缘设备连接1-2台相机，独立完成采集、推理、结果输出和本地存储。适用于检测工位独立、节拍要求不高的场景。其优势是部署简单、故障隔离；劣势是无法共享算力，扩展性差。
多节点协同模式适用于一条产线多个检测工位的情况。每个工位部署一台边缘设备，通过工业交换机连接至产线本地服务器，统一收集检测结果和日志。该模式支持按工位动态调整检测算法，且单点故障不影响其他工位运行。
边缘-云端混合模式则进一步将云端纳入架构，边缘设备负责实时推理和快速响应，云端负责模型再训练、跨产线数据分析和远程诊断。这种模式适合集团级工厂，需要统一管理多个生产基地的检测标准。
2.4 实战场景：Jetson部署案例拆解
某汽车零部件工厂需要在一条活塞环外观检测线上部署AI视觉系统，检测项目包括表面划痕、磕碰和镀层脱落。产线节拍为每件3秒，相机分辨率为1200万像素，使用GigE接口。初始方案采用中心服务器推理，但实际运行中发现网络带宽不足导致图像传输延迟，且服务器故障会导致全线停线。
关键约束与初始现象：产线网络为百兆工业环网，多台相机同时传输时丢包率高达5%；服务器距离产线约200米，光纤布线成本高；工厂要求检测系统在断网情况下仍能独立运行8小时。
分析判断过程：经过现场评估，决定采用Jetson Orin NX作为边缘推理节点。首先，Orin NX的TensorRT引擎可将YOLOv5s模型从FP32量化到INT8，推理速度从每帧120ms降至35ms，满足3秒节拍要求。其次，Orin NX支持双GigE网口，可同时接入两台相机，减少交换机压力。最后，通过JetPack自带的CSI接口连接备用相机，实现主备切换。
实际操作步骤：
- 在开发机上使用TensorRT对YOLOv5s模型进行INT8量化，校准数据集使用现场采集的2000张典型缺陷图像。
- 将量化后的engine文件部署到Orin NX，使用DeepStream SDK构建推理流水线，实现解码-缩放-推理-后处理的全流程GPU加速。
- 配置本地缓存目录，将原始图像以JPEG格式存储于NVMe SSD，保留7天。
- 编写Python监控脚本，每5秒记录一次GPU温度、显存占用、FPS和推理时延，写入本地SQLite数据库。
- 通过MQTT协议将检测结果（缺陷类型、坐标、置信度）实时上报至产线MES系统。
结果对比与复盘：部署后，单件检测耗时从原来的1.8秒（含传输）降至0.6秒，系统连续运行30天无死机。温度稳定在65℃左右（环境温度30℃），帧率稳定在12FPS。断网测试中，边缘节点独立运行8小时，缓存图像约2.3万张，网络恢复后自动续传。复盘发现，初期风扇策略过于保守导致GPU降频，通过调整JetPack的nvpmodel模式为MAXN并更换高风量散热器解决。
2.5 常见误区与总结复盘
在边缘AI缺陷检测项目的规划与实施中，工程师常陷入以下误区：
- 误区一：盲目追求高算力。算力越高的设备功耗和成本也越高，且散热设计更复杂。应根据实际帧率和模型复杂度计算所需TOPS，预留20%余量即可。
- 误区二：忽略数据缓存设计。边缘设备不仅要“算得快”，还要“存得稳”。SSD的写入寿命、掉电保护机制必须在选型时考虑。
- 误区三：将边缘设备当作“小服务器”管理。边缘设备通常无专人值守，必须设计自动重启、看门狗、日志轮转和远程升级机制。
- 误区四：模型精度与推理速度的平衡失当。在边缘端，应优先使用轻量化模型（如YOLOv5s、MobileNetV3）配合量化，而不是直接部署大模型。