1. 课程导入与Intel边缘视觉终端全景
机器视觉正在从“把图像送到云端算”转向“在摄像头旁边算”。原因很直接:一条产线的缺陷检测往往要求单帧在几十毫秒内给出结论,高清视频流持续上传会吃掉大量带宽,而工厂、电力、交通等现场又常常不允许数据离开本地。Intel 的边缘计算产品线正是围绕这一需求构建的——它把 x86 通用算力、集成显卡、专用视觉加速器和低功耗推理棒组合成不同形态的终端,让开发者可以在离相机最近的位置完成采集、推理、决策与回传。
学习目标与课程定位
本课程的目标不是泛泛介绍“边缘计算是什么”,而是让读者能够独立完成一条可运行的 Intel 边缘视觉链路:选对硬件形态,装好系统与驱动,用 OpenVINO™ 把训练好的模型转换成可在目标设备上高效执行的格式,接入相机或视频源,写出推理程序,最后用延迟、吞吐和准确率三个维度判断部署是否达标。学完本课程,你应当能回答四个问题:这块终端能不能跑我的模型?模型该怎么转换和量化?相机到推理结果之间的数据怎么流动?现场出问题时先查哪一层?
课程按“硬件认知—环境搭建—模型优化—应用开发—性能调优—场景落地”推进,每一章都尽量给出可复现的对象、参数和判断依据,而不是停留在概念层面。
Intel 边缘计算产品线全景
Intel 面向边缘视觉的硬件大致可分为四类,它们在算力、功耗、扩展性和部署位置上各有取舍。
- NUC 迷你主机:体积小、功耗低,通常搭载酷睿 i5/i7 处理器并集成 Iris Xe 显卡。适合单路或双路相机、模型规模中等的场景,例如工位级外观检测、零售客流分析。它的优势是开箱即用、x86 生态完整,缺点是 PCIe 扩展有限,难以插入多张加速卡。
- 工业 PC:具备宽温、防尘、多网口和多 PCIe 插槽,可安装独立显卡或 VPU 卡。适合多相机同步、产线级检测、需要长期稳定运行的场合。选型时要重点关注供电方式、散热设计和相机接口(GigE、USB3、Camera Link)。
- VPU(视觉处理单元):以 Intel Movidius 系列为代表,典型型号如 Myriad X。它专为低功耗视觉推理设计,可在 1~2 瓦级别提供可观的推理能力,常用于无人机、机器人、智能摄像头等对功耗和体积敏感的设备。
- 神经计算棒(NCS):把 VPU 做成 USB 形态,插入主机即可获得额外推理算力。NCS2 适合原型验证、小批量部署或给已有 PC 增加一路推理能力,但不适合作为高吞吐生产系统的唯一算力来源。
选择哪一类,取决于三个约束:模型的计算量、相机的路数与分辨率、现场的功耗与空间限制。一个实用的判断顺序是——先估算模型单帧算力需求,再看终端能否在目标帧率下满足,最后才比较价格和体积。
典型部署场景与选型示例
为了让选型更具体,这里给出一个教学示例。假设某工位需要检测零件表面划痕,相机为 1920×1080、30 FPS,模型为轻量级分割网络,单帧在桌面 CPU 上推理约 40 ms。若目标是在边缘端达到 25 FPS 以上,单靠 CPU 显然不够,此时可选用带 Iris Xe 显卡的 NUC,把推理设备设为 GPU,通常能把单帧降到 10~15 ms;若现场有多路相机且需要宽温运行,则应换成工业 PC 并考虑加装 VPU 或独立显卡。这个估算过程不需要精确到毫秒,但必须建立“模型算力—终端能力—目标帧率”三者的对应关系。
开发流程中的关键节点
整条开发链路可以概括为五个节点。第一是需求与选型,明确模型、相机、帧率和环境约束;第二是环境搭建,安装操作系统、相机驱动、OpenVINO Runtime 和必要的 Python 依赖;第三是模型转换,把 PyTorch 或 TensorFlow 模型导出为 ONNX,再用 Model Optimizer 转成 IR,并根据精度损失容忍度决定是否做 INT8 量化;第四是应用开发,编写采集、预处理、推理、后处理和结果输出的代码;第五是调优与验证,用真实数据测量延迟、吞吐和准确率,不达标则回到前序节点迭代。
这五个节点不是一次性直线,而是一个带反馈的循环。实际项目中最常见的返工发生在“模型转换”和“调优验证”之间:量化后精度下降,需要调整校准集或改用混合精度;或者推理速度达标但后处理成为瓶颈,需要把 NMS 等操作也纳入优化范围。
本课程的学习路径
后续章节会沿着这条链路逐层展开。你会先认识各类终端的接口与供电,再动手安装 OpenVINO 并验证设备是否被正确识别;接着学习模型转换与量化的具体命令和参数;然后编写一个完整的相机到推理结果的应用;最后通过延迟分解和吞吐测试,判断系统瓶颈在采集、预处理、推理还是后处理。每一章都会给出可执行的命令、可观察的输出和可判断的指标,帮助你把这套流程真正跑通。