4. 边缘AI项目需求分析与指标定义

边缘AI项目失败,往往不是模型不够先进,而是需求从一开始就没有被翻译成可验证的工程指标。业务方说“要能实时识别”“功耗要低”“成本要控制”,这些描述无法直接指导选型、训练和部署。需求分析的核心任务,是把模糊的业务语言逐层拆解为模型精度、延迟、功耗、内存和成本五类可交付指标,并明确它们之间的约束关系与优先级。

从业务需求到工程指标的翻译链

以“工厂传送带零件缺陷检测”为例。业务需求是“替代人工目检,漏检率低于人工水平,单条产线改造成本可控”。这条需求需要经过三次翻译:第一次翻译为功能需求——识别划痕、缺角、污渍三类缺陷,输入为传送带上方固定工位的图像;第二次翻译为性能需求——传送带速度0.5 m/s,相机视野覆盖200 mm,要求每件零件在视野内至少被采集3帧,因此单帧处理周期必须小于约130 ms;第三次翻译为资源需求——设备由24 V工业电源供电且有散热限制,整机功耗预算不超过5 W,模型与运行时内存不超过可用RAM的70%。

这个翻译链说明:延迟指标不是拍脑袋定的,而是由物理速度、视野和采样帧数反推出来的。同理,精度指标也不是越高越好,而是要与人工目检的漏检率、误检率对齐,并留出工程余量。

五类核心指标的量化方法

精度指标要区分离线指标与在线指标。离线常用mAP、Top-1、IoU、F1;在线则要定义业务级指标,如漏检率(缺陷被判为合格的比率)和过杀率(合格品被判为缺陷的比率)。两者需要分别设定阈值,因为漏检通常比过杀代价更高。示例中可设定:漏检率≤1.5%,过杀率≤5%,并在验证集上按缺陷类别分别统计,避免某一类缺陷被平均值掩盖。

延迟指标要区分单帧推理延迟、端到端延迟和吞吐。单帧推理延迟是模型前向时间;端到端延迟还包括图像采集、预处理、后处理和非极大值抑制。对传送带场景,真正决定节拍的是端到端延迟。建议用P50和P95两个分位数描述,P95更能反映最坏情况。示例目标:端到端P95≤120 ms,吞吐≥8 FPS。

功耗指标要区分峰值功耗与平均功耗。STM32N6这类带NPU的MCU在NPU满载时电流会明显上升,而传送带场景大部分时间可能处于等待触发状态。因此应定义工作模式功耗和待机模式功耗,并给出占空比假设。示例:推理阶段平均功耗≤3.5 W,待机≤0.5 W,按70%占空比估算整机平均功耗。

内存指标包括Flash占用、RAM占用和NPU专用内存。模型权重、激活值、输入输出张量、中间缓冲区都要计入。常见做法是给出“模型+运行时”总占用上限,并保留20%余量。示例:Flash≤8 MB,RAM≤4 MB,其中激活缓冲区不超过1.5 MB。

成本指标要覆盖BOM成本、开发成本和运维成本。BOM包括主控、传感器、电源、结构件;开发成本包括数据标注、训练算力和人力;运维成本包括现场部署和远程更新。示例:单台BOM目标≤180元,年出货1万台时开发成本摊薄≤15元/台。

边缘AI需求翻译与指标约束关系 业务需求 替代人工目检 成本可控 功能需求 划痕/缺角/污渍识别 固定工位图像输入 性能需求 0.5 m/s 传送带 每件≥3帧采样 精度 漏检率≤1.5% 过杀率≤5% 分类别统计 延迟 端到端P95≤120ms 吞吐≥8 FPS 含预处理/后处理 功耗 推理≤3.5 W 待机≤0.5 W 按70%占空比 内存 Flash≤8 MB RAM≤4 MB 激活≤1.5 MB 成本 BOM≤180元 开发摊薄≤15元 含运维成本 指标间的约束与权衡 精度↑ → 模型↑ → 延迟↑ 内存↑ → 功耗↑ 成本↑ 延迟↓ → 量化/剪枝 → 精度可能↓ → 需重新验证 功耗↓ → 降频/休眠 → 延迟↑ → 需平衡占空比

指标优先级与冲突处理

五类指标不可能同时最优。工程上必须先确定“硬约束”和“软目标”。硬约束是不可违反的底线,例如漏检率、端到端P95延迟、整机功耗上限;软目标是在满足硬约束后尽量优化的方向,例如过杀率、BOM成本。建议用一张指标卡记录每项指标的数值、单位、测量条件、验证方法和优先级。

当指标冲突时,按以下顺序决策:先保安全与合规,再保业务核心指标,最后优化成本。例如,若量化到INT8后漏检率从1.2%升到2.0%,超过1.5%的硬约束,则不能直接接受,而应尝试混合量化、对缺陷类样本做重加权微调,或提高输入分辨率。若这些手段仍不达标,则需要回到业务侧重新协商漏检率阈值,而不是在工程侧偷偷放宽。

可交付的指标定义模板

下面给出一份可直接填写的指标定义表,字段均围绕边缘AI交付所需的最小信息集。示例数值来自前述传送带场景的合理假设,实际项目应按现场测量替换。

指标类别 指标名称 目标值 测量条件 验证方法 优先级
精度 漏检率 ≤1.5% 验证集,按缺陷类别 混淆矩阵统计 硬约束
精度 过杀率 ≤5% 验证集,合格品样本 混淆矩阵统计 软目标
延迟 端到端P95 ≤120 ms 满负载,连续1000帧 时间戳打点 硬约束
功耗 推理平均功耗 ≤3.5 W NPU满载,25°C 功率计采样 硬约束
内存 RAM峰值 ≤4 MB 推理全过程 链接脚本+运行时统计 硬约束
成本 单台BOM ≤180元 1万台批量 BOM清单核算 软目标
指标定义完成后,应让业务方、算法工程师和嵌入式工程师共同评审。任何一项指标缺少测量条件或验证方法,都视为未完成定义,不能进入下一阶段。

常见误区与检查要点

第一个误区是把离线精度当成在线精度。验证集分布与现场光照、振动、镜头污染差异很大,必须预留现场采集的测试集。第二个误区是只测平均延迟,忽略P95和内存峰值。第三个误区是功耗只测推理瞬间,忽略待机和启动过程。第四个误区是成本只算主控,忽略传感器、电源、连接器和结构件。

检查要点可以归纳为四问:指标是否有明确数值和单位?测量条件是否可复现?验证方法是否可执行?优先级是否已排序?四问全部通过,需求分析才算闭环,后续的模型选型、量化和部署才有稳定的判断依据。