2. Intel边缘硬件平台选型与配置
在Intel边缘视觉终端上做推理部署,最先要回答的问题不是“用哪个模型”,而是“把模型放到哪块计算单元上跑”。同一台终端里往往同时存在CPU、集成GPU、VPU(Movidius)以及可选FPGA加速卡,它们并不是互相替代的关系,而是各自承担不同形态的负载。选型的本质,是把视觉任务的算力需求、功耗预算、接口约束和软件栈成熟度,与这些计算单元的特性做匹配。
四类计算单元在视觉推理中的定位
CPU是通用控制核心,负责图像采集调度、预处理、后处理、业务逻辑和结果上报。它的优势是编程模型统一、生态完整、分支与不规则计算灵活;劣势是并行吞吐有限,跑大分辨率卷积网络时功耗效率低。在边缘终端上,CPU通常承担YOLO类模型的NMS、坐标还原、跟踪逻辑,以及OpenVINO推理管线的编排。
集成GPU(Intel UHD/Iris Xe)拥有大量EU执行单元,适合高并行度的卷积、矩阵运算和图像缩放。它共享系统内存,无需额外拷贝即可做零拷贝推理,适合多路视频解码后直接推理的场景。典型用法是把ResNet、MobileNet、YOLOv8等模型编译为GPU插件执行,吞吐通常明显高于CPU,但功耗也随占用上升。
VPU(Movidius Myriad X)是专用视觉加速器,内置神经计算引擎和16个SHAVE向量核,主打低功耗下的定点推理。它适合7×24小时常驻的轻量检测、分类任务,例如1080p下的人形检测、人脸检测。代价是算子支持受限于定点量化,动态shape和复杂后处理需要回落到CPU。
FPGA(如Arria 10、Cyclone V SoC)提供可编程逻辑,能把预处理、推理、后处理整条流水线硬化,延迟确定、能效比高,适合多路高帧率、超低延迟的工业检测。但开发门槛高,需要RTL或OpenCL/oneAPI定制,迭代周期长,通常只在CPU/GPU/VPU都无法满足确定性延迟时才选用。
按功耗、算力、接口做选型
选型可以按三个维度依次收敛。第一是算力需求:先估算目标模型的单帧计算量。以YOLOv8n为例,输入640×640时约8.7 GFLOPs,若要求30 FPS,则需约260 GFLOP/s的持续算力。CPU单核通常只能提供几十GFLOP/s,集成GPU可达数百GFLOP/s,VPU在INT8下约1 TOPS量级,FPGA则取决于逻辑资源与时钟。第二是功耗预算:无风扇工控机整机常限制在15~25 W,VPU方案可压到5 W以内,GPU方案通常需要10 W以上并考虑散热。第三是接口需求:多路GigE Vision相机需要多网口与PoE,MIPI相机需要专用CSI通道,FPGA方案还要考虑PCIe带宽与DMA。
一个实用的判断顺序是:先用VPU试跑量化后的轻量模型,若精度或算子支持不满足,再升级到集成GPU;若需要多路高帧率且延迟抖动必须小于毫秒级,才考虑FPGA。CPU始终保留,用于编排和兜底。
基础系统安装与验证
以Ubuntu 22.04 LTS为例,安装完成后先确认内核与设备识别。安装OpenVINO运行时并检查各计算单元是否可用:
# 查看CPU与集成GPU
lscpu | grep "Model name"
ls /dev/dri/render* # 集成GPU渲染节点
# 查看VPU(需插入Movidius并安装驱动)
lsusb | grep -i movidius
ls /dev/vpu* 2>/dev/null
# 安装OpenVINO并列出可用设备
source /opt/intel/openvino/setupvars.sh
benchmark_app -m model.xml -d AUTO -hint throughput
其中 -d AUTO 会让OpenVINO自动选择可用设备,-d GPU、-d MYRIAD、-d CPU 可分别指定。运行 benchmark_app 后重点看三项:Throughput(FPS)、Latency(ms)和设备实际占用。若VPU报算子不支持,日志会提示回退到CPU的层,此时应改用INT8量化模型或更换算子。
一份可执行的选型对照表
| 场景 | 推荐单元 | 典型功耗 | 关键约束 |
|---|---|---|---|
| 单路1080p人形检测,常驻 | VPU | 3~5 W | 需INT8量化,算子受限 |
| 4路1080p YOLOv8,25 FPS | 集成GPU | 12~20 W | 共享内存带宽,需散热 |
| 复杂后处理与业务逻辑 | CPU | 随负载 | 避免大卷积占用 |
| 8路高帧率,延迟<1 ms | FPGA | 8~15 W | 开发周期长,需定制 |
完成选型后,建议先用 benchmark_app 在目标设备上跑通模型,记录FPS与延迟,再接入实际视频流做端到端验证。只有当推理吞吐、延迟和功耗三项都落在预算内,硬件选型才算真正闭环。