4. 边缘AI概述
在智慧工厂场景中，摄像头、振动传感器、PLC、机械臂控制器每秒都在产生大量数据。如果所有数据都先上传云端再等待结果返回，网络抖动、带宽成本和响应延迟都会成为瓶颈。边缘AI（Edge AI）的核心思想，是把模型推理能力下沉到靠近数据源和设备的位置，让“感知—判断—控制”在本地闭环完成。它并不是简单地把云端模型搬到工控机上，而是围绕算力、功耗、实时性、可靠性重新设计的一套工程体系。
一、边缘AI的核心概念
边缘AI指在数据产生端或靠近数据产生端的边缘节点上运行人工智能模型，完成推理甚至轻量训练。边缘节点可以是工业网关、边缘服务器、AI盒子、嵌入式模组，也可以直接集成在相机、机械臂或AGV内部。其关键特征包括：
- 低延迟：推理在本地完成，避免数据往返云端的网络时延，适合缺陷检测、急停判断、协同控制等毫秒级任务。
- 数据本地化：原始图像、声音、振动波形不必全部上云，降低带宽压力，也更容易满足隐私与合规要求。
- 弱网可用：工厂网络可能中断或受限，边缘节点仍能独立完成关键推理与控制。
- 云边协同：云端负责模型训练、版本管理、全局优化，边缘负责实时推理与数据预处理，形成分工。
二、边缘AI技术栈与推理框架
从下到上，边缘AI技术栈通常分为硬件层、系统层、推理运行时层、模型层和应用层。硬件层包括CPU、GPU、NPU、FPGA及工业接口；系统层包括Linux、RTOS、容器与设备管理；推理运行时层负责模型加载、算子调度、内存复用和硬件加速；模型层关注量化、剪枝、蒸馏等轻量化技术；应用层则对接MES、SCADA、PLC和视觉系统。
常见推理框架各有侧重：TensorFlow Lite适合移动与嵌入式设备；ONNX Runtime强调跨平台模型交换；OpenVINO面向Intel CPU/GPU/NPU优化；TensorRT用于NVIDIA GPU高吞吐推理；NCNN、MNN、Tengine则常见于国产ARM边缘设备。实际选型时，要同时看模型格式、算子支持、量化能力、硬件后端和部署工具链。
# 以 ONNX Runtime 为例：加载量化后的缺陷检测模型
import onnxruntime as ort
sess = ort.InferenceSession(
"defect_det_int8.onnx",
providers=["CPUExecutionProvider"]
)
inputs = {"images": preprocessed_tensor}
outputs = sess.run(None, inputs)
boxes, scores = outputs[0], outputs[1]
在工业现场，模型往往需要从FP32量化为INT8，以降低内存占用并提升推理速度。量化后要重新评估mAP、误检率和漏检率，不能只看速度提升。
三、边缘AI与云端AI的对比
| 对比维度 | 边缘AI | 云端AI |
|---|---|---|
| 响应延迟 | 毫秒级，本地闭环 | 受网络影响，通常几十到几百毫秒 |
| 带宽占用 | 低，仅上传结果或摘要 | 高，原始数据需上传 |
| 算力规模 | 受限，强调能效比 | 弹性强，可大规模训练 |
| 模型更新 | 需OTA与版本管理 | 集中更新，效率高 |
| 可靠性 | 弱网可运行，现场自治 | 依赖网络与云服务可用性 |
| 典型任务 | 缺陷检测、异常振动、安全帽识别 | 大规模训练、跨厂区分析、报表 |
因此，边缘AI与云端AI不是替代关系，而是协同关系。训练在云、推理在边、控制在场，是当前智慧工厂较常见的落地路径。
四、典型工业用例与部署流程
以“电机轴承异常检测”为例：振动传感器以20kHz采样，边缘网关先做FFT特征提取，再用轻量CNN或孤立森林判断异常，若超过阈值则通过Modbus TCP通知PLC降速并推送告警到MES。整个过程在本地完成，云端只接收特征摘要和告警记录，用于后续模型迭代。
- 数据采集：传感器、相机、PLC按统一时间戳采集。
- 预处理：去噪、归一化、ROI裁剪、FFT或MFCC特征提取。
- 模型推理：在NPU/GPU上运行量化模型，输出类别或异常分数。
- 决策与控制：结合阈值、工艺规则和PLC逻辑执行动作。
- 云边同步：上传结果、日志和难例样本，云端再训练后OTA下发。
五、常见误区与复盘
误区一：认为边缘AI就是“把模型塞进小盒子”。实际上，模型精度、量化误差、散热、供电和振动都会影响现场表现。误区二：只看推理速度，忽略端到端延迟。图像解码、预处理、后处理和PLC通信往往才是瓶颈。误区三：没有版本管理和回滚机制，OTA升级后模型异常却无法快速恢复。误区四：忽视数据漂移，季节变化、换料、换灯源都会导致模型退化，必须建立持续采样和再训练机制。
复盘时建议记录三类指标：业务指标（漏检率、误检率、停机时间）、系统指标（端到端延迟、CPU/NPU占用、内存）、运维指标（OTA成功率、回滚次数、告警准确率）。只有把这三类指标放在同一张看板上，边缘AI才真正具备可运营性。
总结来看，边缘AI在智慧工厂中的定位是“实时智能的执行层”。它把模型、算力和控制逻辑放到离设备最近的地方，同时通过云边协同保持模型持续进化。理解技术栈、推理框架和云边分工，是后续设计具体边缘AI方案的基础。