2、边缘AI基础概念：边缘计算、AI推理、端边云协同、与云AI的对比
在智慧工厂场景中，摄像头、传感器、PLC（可编程逻辑控制器）和机械臂每天产生海量数据。如果将这些数据全部上传到云端处理，网络延迟、带宽成本和数据安全都会成为瓶颈。边缘AI正是为解决这一问题而生——它将AI推理能力下沉到靠近数据源头的网络边缘侧，让设备在本地就能完成实时决策。本章将系统梳理边缘计算、AI推理、端边云协同的核心概念，并通过与云AI的对比，帮助您建立清晰的边缘AI技术认知框架。
2.1 边缘计算：为什么智慧工厂离不开它
核心原理：边缘计算是一种分布式计算范式，它将数据处理、存储和应用运行从中心化的云端下沉到网络边缘——即数据产生源附近。在智慧工厂中，边缘计算节点通常部署在产线旁的控制柜、车间机房或设备本体上，以就近提供计算服务。其本质是"在数据产生的地方完成大部分计算，只将必要的结果上传云端"。
边缘计算的核心理念可以概括为三个关键词：就近计算（数据不必长途跋涉到云端）、实时响应（毫秒级决策成为可能）、带宽节省（只传结果而非原始数据）。以一条典型的手机组装产线为例，一台高速相机每秒产生约50MB的图像数据，如果8台相机同时工作，每小时将产生约1.4TB数据。若全部上传云端，不仅需要昂贵的专线带宽，而且网络抖动将直接导致质检节拍跟不上产线速度。
2.2 AI推理：从训练到部署的关键一跳
核心原理：AI推理（Inference）是指使用训练好的深度学习模型，对新的输入数据进行分析并产生预测结果的过程。与训练阶段不同，推理阶段对延迟和吞吐量有极高要求。在边缘设备上，推理通常经过以下流程：模型转换（将PyTorch/TensorFlow模型转换为ONNX或TensorRT格式）→ 量化压缩（将FP32精度降为FP16或INT8）→ 推理引擎加载（使用TensorRT、OpenVINO或RKNN等运行时）→ 前处理（图像缩放、归一化）→ 模型计算（卷积、池化等算子）→ 后处理（NMS非极大值抑制、阈值过滤）→ 结果输出（缺陷坐标、类别、置信度）。
在智慧工厂质检场景中，推理的实时性直接决定产线节拍。例如，一个目标检测模型在Jetson Orin上运行YOLOv8s模型，输入分辨率640×640，FP16精度下推理延迟约15ms，加上前后处理总耗时约25ms，可以满足每分钟60件产品的检测需求。但如果使用INT8量化，推理延迟可降至8ms，但精度可能下降0.5%-1%，需要根据产品缺陷类型权衡。
| 推理优化手段 | 原理说明 | 延迟收益 | 精度代价 | 适用场景 |
|---|---|---|---|---|
| 模型剪枝 | 移除不重要的神经元连接 | 降低20%-40% | 通常<0.5% | 模型过大、算力受限 |
| INT8量化 | 将权重从FP32转为INT8 | 降低50%-70% | 0.5%-2% | 对精度不敏感的检测任务 |
| TensorRT加速 | 算子融合、内核自动调优 | 降低30%-50% | 几乎无损 | NVIDIA GPU平台 |
| 多batch推理 | 同时处理多张图像 | 吞吐量提升2-4倍 | 无 | 批量检测、离线分析 |
2.3 端边云协同：三层架构的职责划分
核心原理：端边云协同不是简单的"端侧采集、云端计算"，而是一种动态的任务分配与协作机制。在智慧工厂中，三层架构各司其职：端侧（传感器、相机、PLC）负责原始数据采集和简单逻辑判断；边侧（边缘网关、智能盒子）负责实时推理、数据预处理和本地决策；云侧负责模型训练、全局优化和历史数据分析。
这种协同模式的关键在于模型生命周期管理。云侧训练好的模型通过容器化或模型仓库下发到边缘节点，边缘节点在本地进行推理并持续收集难例样本（推理置信度低或错误的样本），定期回传云端进行增量训练，形成"数据飞轮"效应。同时，边缘节点需要具备本地自治能力——当与云端连接中断时，产线检测不能停摆，边缘节点应能独立运行数小时甚至数天，并在网络恢复后自动同步数据。
2.4 边缘AI与云AI的对比：如何选择
核心原理：边缘AI与云AI并非替代关系，而是互补关系。理解两者的差异，有助于在方案设计时做出正确决策。下表从多个维度进行对比：
| 对比维度 | 边缘AI | 云AI | 选型建议 |
|---|---|---|---|
| 响应延迟 | 毫秒级（5-50ms） | 百毫秒级（100-500ms） | 产线实时控制必须选边缘 |
| 网络依赖 | 弱依赖，断网可用 | 强依赖，断网即停 | 7×24小时连续生产选边缘 |
| 数据隐私 | 数据不出厂区 | 数据需上传云端 | 涉及工艺机密选边缘 |
| 算力扩展 | 受硬件限制，扩展成本高 | 弹性扩展，按需付费 | 算力需求波动大选云 |
| 部署成本 | 一次性硬件投入（2-8万/节点） | 按年订阅（约1-3万/年） | 长期运行选边缘更划算 |
| 模型更新 | 需手动或半自动下发 | 云端即时更新 | 模型迭代频繁选云 |
| 多厂区管理 | 需逐点维护 | 集中管理、统一运维 | 多厂区标准化选云 |
判断方法：在实际项目中，建议采用"边缘优先、云为辅"的默认策略。具体决策流程为：第一步，列出所有AI应用场景；第二步，标注每个场景的时延要求、数据量、断网容忍度；第三步，将时延要求<100ms或数据量>10GB/天或断网必须可用的场景划入边缘侧；第四步，将需要全局数据汇聚、跨厂区对比分析的场景划入云侧；第五步，对边缘侧场景进一步评估算力需求，选择适合的硬件平台。
2.5 常见误区与总结复盘
误区一：边缘AI就是"把云服务器搬到工厂"。实际上，边缘AI硬件在功耗、散热、防尘、抗震等方面有严格要求，工业级边缘设备通常采用无风扇设计、宽温工作（-20℃~70℃）、支持DIN导轨安装，与普通服务器完全不同。
误区二：模型精度越高越好。在边缘场景中，模型大小、推理延迟与精度同等重要。一个精度99.2%但推理延迟200ms的模型，可能不如一个精度98.5%但推理延迟20ms的模型实用——因为后者才能跟上产线节拍。
误区三：边缘节点越多越好。边缘节点数量应根据产线布局、数据汇聚需求和管理复杂度综合决定。过多的边缘节点会增加运维负担，过少则可能导致单点故障影响范围过大。一般建议每条产线部署1-2个边缘节点，车间级部署1个汇聚节点。
总结复盘：本章的核心要点可以归纳为"一个中心、两个基本点、三层架构"。一个中心：以业务实时性需求为中心决定计算位置；两个基本点：AI推理的实时性优化和模型生命周期管理；三层架构：端侧采集、边侧推理、云侧训练。在实际项目中，建议先进行小规模概念验证（PoC），用真实产线数据验证边缘AI的可行性，再逐步推广到全厂。下一阶段，我们将深入探讨智慧工厂中边缘AI的具体硬件选型与部署方案。