3、Edge AI项目交付概览：掌握从模型训练到设备部署的完整链路

Edge AI项目的交付并非简单的“训练一个模型，然后烧录固件”这样两步走。在实际工程中，从数据准备、模型训练、模型转换与量化，到固件集成、设备烧录、现场调试与验收，是一条环环相扣的完整链路。任何一个环节的疏漏，都可能导致模型精度达标但设备无法稳定运行，或者固件功能正常但推理性能不达标。本章作为交付概览，旨在帮助项目负责人和技术骨干建立全局视角，明确模型、固件、部署文档三者之间的依赖关系与交付标准，为后续章节的深入操作打下基础。

3.1 核心原理：三要素的职责边界与依赖关系

在Edge AI项目中，模型（Model）、固件（Firmware）与部署文档（Deployment Documentation）构成了交付物的三大支柱。理解三者的职责边界，是避免项目后期混乱的前提。

• 模型：指经过训练、转换并针对目标芯片（如RK3588、RK3566）优化后的推理文件，通常为.rknn格式。它承载了算法的推理能力，是AI功能的“大脑”。模型交付的核心指标包括：精度（Accuracy）、推理延迟（Latency）、模型大小（Size）以及在不同输入分辨率下的鲁棒性。
• 固件：指运行在设备上的完整软件栈，包括Bootloader、内核（Kernel）、设备树（DTB）、根文件系统（Rootfs）以及用户态应用程序。固件是模型的“载体”，负责提供NPU驱动、内存管理、外设通信等底层支持。固件交付的核心指标是：系统稳定性、启动时间、外设兼容性以及NPU算力的有效利用。
• 部署文档：并非简单的“操作手册”，而是连接开发与运维的桥梁。它需要完整记录环境依赖、编译/烧录步骤、配置参数、API接口说明、性能测试方法以及常见故障排查指南。文档的交付标准是“可复现性”——一个具备基础技能的工程师，仅凭文档即可完成从裸机到可用系统的搭建。

三者之间存在严格的依赖关系：模型依赖固件提供的NPU驱动才能运行；固件依赖模型文件来定义其AI能力边界；而文档则是对前两者所有操作和约束的显性化描述。任何一方的变更，都必须同步评估对另外两方的影响。

3.2 判断方法与操作流程：从训练到交付的六步法

一个标准的Edge AI项目交付流程可以拆解为六个关键步骤。每一步都有明确的输入、输出和质量门禁（Quality Gate）。

1. 需求分析与可行性评估：明确设备端算力（TOPS）、内存带宽、摄像头接口类型、工作温度范围等约束。此阶段输出《项目约束清单》。
2. 模型训练与量化准备：在PC端完成模型训练，使用验证集评估精度。随后使用RKNN-Toolkit2进行模型转换，并尝试INT8量化。此阶段输出《量化前后精度对比报告》。
3. 交叉编译与系统集成：在Ubuntu主机上搭建交叉编译环境，将RKNN Runtime库、OpenCV等依赖编译进根文件系统。同时编写设备端推理应用程序。此阶段输出《可烧录固件镜像》。
4. 硬件在环调试（HIL）：将固件烧录至开发板，连接真实摄像头或传感器，进行端到端推理测试。重点观察NPU利用率、CPU占用率、内存峰值。此阶段输出《性能调优记录》。
5. 稳定性与压力测试：执行7x24小时连续运行测试，监控内存泄漏、温度过高导致的降频、SD卡读写错误等问题。此阶段输出《稳定性测试报告》。
6. 文档归档与版本冻结：将最终固件、模型文件、烧录工具、源码补丁、配置文件全部归档，并编写详细的部署文档。此阶段输出《交付物清单V1.0》。

3.3 案例拆解：智能安防摄像头项目的交付复盘

某智慧园区项目需要部署一台基于RK3588的AI网络摄像头，实现人员入侵检测。项目周期为4周，团队共3人（1名算法工程师、1名嵌入式工程师、1名测试兼文档工程师）。

初始目标与约束：检测精度mAP@0.5需达到85%以上，端到端延迟（从图像采集到告警输出）小于300ms，设备需在-20℃至60℃环境下稳定工作。

关键数据与现象：算法工程师在PC上训练的YOLOv5s模型mAP达到92%，但转换为RKNN并INT8量化后，mAP降至78%，且NPU推理延迟为45ms，加上前后处理，总延迟达到280ms，接近上限。

分析判断过程：通过RKNN-Toolkit2的逐层分析功能，发现模型中的Detect层（输出解码）在NPU上运行效率较低。同时，量化校准集仅使用了500张图片，样本多样性不足，导致量化损失过大。

实际操作步骤：

1. 将校准集扩充至2000张，覆盖不同光照、不同距离、不同遮挡情况。
2. 对Detect层进行算子融合优化，将部分解码操作移至CPU端，利用RK3588的4核A76高性能核心处理。
3. 将图像预处理（Resize、Normalize）从CPU移至RGA硬件加速模块，减少CPU负载。

结果对比：优化后，mAP回升至88.5%，满足要求；端到端延迟降至210ms，其中NPU推理35ms，CPU后处理120ms，RGA预处理55ms。系统在高温箱中60℃连续运行72小时，未出现降频或死机。

风险与代价：由于增加了校准集数量，模型转换时间从2小时延长至6小时。同时，将解码逻辑移至CPU增加了代码复杂度，需要更细致的多线程同步管理。

复盘经验：量化校准集的质量远比数量重要，但数量不足时质量也无法保证。硬件加速单元（RGA、NPU、CPU）的协同工作，需要从系统层面进行流水线设计，而非简单地将各模块串联。

3.4 常见误区与总结复盘

在Edge AI项目交付中，以下误区最为常见，需要项目管理者重点防范：

• 误区一：模型精度高 = 产品体验好。实际中，模型的鲁棒性（对恶劣环境的适应能力）比精度更重要。一个在晴天测试集上mAP 95%的模型，可能在雨天或逆光场景下表现远差于一个mAP 88%但训练数据更丰富的模型。
• 误区二：固件烧录成功 = 部署完成。烧录成功仅代表系统能启动，但NPU驱动是否加载、内存频率是否适配、看门狗是否配置正确，都需要通过日志和压力测试验证。
• 误区三：文档是“事后补写”的。优秀的部署文档应在开发过程中同步更新。例如，当嵌入式工程师发现某个内核配置必须开启时，应立即记录，否则两周后可能连自己都忘记原因。
• 误区四：忽略版本管理。模型文件、固件镜像、依赖库必须使用Git或SVN进行版本管理，且每次变更需更新校验和（MD5/SHA256）。否则现场设备出现问题后，无法追溯是哪个版本引入的缺陷。