2. Intel推理硬件选型
工业AI推理的硬件选型，本质上不是“谁最快”的比较，而是“在给定约束下谁最合适”的匹配问题。工业现场通常同时存在四类约束：实时性（延迟与抖动）、功耗与散热（机箱、无风扇、宽温）、部署规模（单机几路到上百路）、以及软件生态与生命周期（驱动、框架、模型转换工具链）。Intel在这四类约束下提供了五种可用的推理载体：CPU、集成GPU、独立GPU、VPU（Movidius/Myriad类视觉处理单元）与FPGA（Agilex/Stratix系列）。它们并非互相替代，而是覆盖不同的工作区间。
五种载体的能力画像
CPU是工业推理的默认底座。借助AVX-512 VNNI、AMX（第四代至强起）等指令集，CPU在INT8量化模型上已能提供可观的吞吐，优势在于无需额外硬件、内存容量大、支持任意算子与动态shape，适合小批量、多模型、控制逻辑与推理混合的场景。其边界是：当并发路数上升或模型为大型视觉骨干网络时，单靠CPU会迅速吃满核心并推高功耗。
集成GPU（如第11/12代酷睿Iris Xe、酷睿Ultra Arc核显）以极低增量功耗提供并行算力，适合单机1~4路视频的轻量检测、分类与预处理加速。它共享系统内存，省去独立显存，但算力上限和显存带宽有限，不适合大batch或高分辨率多路并发。
独立GPU（Arc、Data Center GPU Flex/Max系列）是吞吐主力，具备独立显存与高带宽，适合多路高分辨率视频分析、大模型推理与需要低延迟高并发的产线质检。代价是功耗（数十至数百瓦）、散热与成本，且需要更完整的驱动与容器化部署。
VPU（如Movidius Myriad X）以1~2W级功耗完成固定视觉网络推理，常用于USB/板载形态的边缘相机、机器人、低功耗终端。它的边界很清晰：算子支持受限于OpenVINO的VPU插件，模型需转换为blob，动态shape与自定义算子支持弱，适合“模型固定、功耗极敏感”的场景。
FPGA（Agilex/Stratix）提供确定性延迟与可编程数据通路，适合超低延迟（微秒级）、多传感器同步、协议转换与流水线前处理融合的场景，例如高速缺陷检测触发、时间敏感网络中的推理卸载。其代价是开发周期长、需要RTL/HLS能力，单卡成本高，适合量产且算法稳定的专用设备。
性能功耗比与适用边界
选型时最容易被忽略的是“性能功耗比”并非单一数字，而是随batch、精度、模型结构变化的曲线。以OpenVINO在典型工业模型上的量级为例（以下为教学示例参数，非实测）：
| 载体 | 典型功耗 | INT8吞吐量级 | 延迟特性 | 适用边界 |
|---|---|---|---|---|
| CPU（至强/酷睿） | 35~150W | 中 | 中等，抖动可控 | 小批量、多模型、控制混合 |
| 集成GPU | +15~35W | 中低 | 低 | 1~4路轻量视觉 |
| 独立GPU | 75~300W | 高 | 低且稳定 | 多路高分辨率、大模型 |
| VPU | 1~2W | 低 | 低 | 固定模型、功耗极敏感终端 |
| FPGA | 10~75W | 中（可定制） | 确定性微秒级 | 超低延迟、专用流水线 |
从表中可以看出：VPU与FPGA并不在“吞吐量”维度竞争，而是在“功耗”和“确定性”维度取胜；独立GPU在吞吐维度领先，但功耗与散热成本最高；CPU与集成GPU则占据“通用性—成本”的中间地带。
选型决策方法
建议按以下顺序收敛，而不是先看算力参数：
- 先定延迟与抖动上限。若要求端到端延迟低于10ms且抖动极小，优先考虑FPGA或独立GPU；若允许50~200ms，CPU与集成GPU通常足够。
- 再定功耗与散热边界。无风扇、宽温、电池供电的终端，VPU与低功耗CPU是首选；有主动散热与市电的机柜，独立GPU可行。
- 然后定模型与算子兼容性。用OpenVINO Model Optimizer试转换目标模型，检查是否有回退到CPU的算子。VPU对动态shape和自定义算子支持有限，FPGA需要专用编译流程。
- 最后做吞吐与成本核算。以“路数×分辨率×帧率”估算所需吞吐，再对照候选载体的量级，避免为峰值预留过多算力。
决策路径可视化
下图把上述判断关系整理为一张决策路径图：从延迟、功耗、模型兼容性三个入口出发，收敛到五种载体的推荐区间。图中标注了关键判断条件与典型适用场景，便于在项目早期快速定位候选硬件。
把这张图当作项目启动时的“第一张纸”：先回答三个入口问题，再核算吞吐量，最后对照五种载体的适用边界。多数工业项目会落在CPU+集成GPU或CPU+独立GPU的组合上；只有当功耗、延迟或确定性成为不可妥协的硬指标时，VPU与FPGA才进入候选。选型的终点不是“最强硬件”，而是“在约束内可长期稳定运行、且软件可维护的那一个”。