1. 课程导入与工程全景
在开始动手部署之前，先把整门课要用的“地图”铺开。边缘 AI 部署不是把 PC 上训练好的模型直接拷进芯片就能跑起来，它是一条从模型到硅片的完整工程链：模型要经过量化、转换、算子适配，运行时要在有限的 SRAM 和 Flash 里调度张量，推理结果还要通过外设实时输出。NXP MCX 系列微控制器与 eIQ 软件栈，正是为这条链路提供的一套端到端方案。
MCX 系列：面向边缘智能的 MCU 家族
MCX 是 NXP 在通用 MCU 领域的一次架构整合，它把原先分散的 Kinetis、LPC 等产品线收敛为统一的 MCX 命名体系，按性能与用途划分为 MCX A、MCX E、MCX N、MCX W 等子系列。对边缘 AI 而言，最值得关注的是 MCX N 系列：它采用双核 Cortex-M33 架构，主频可达 150 MHz 级别，片上集成 eIQ Neutron NPU（神经处理单元），并配备大容量 SRAM 与 FlexSPI 外部存储接口。这意味着它既能承担传统实时控制任务，又能把神经网络推理卸载到 NPU 上，降低 CPU 占用与功耗。
需要明确一个定位：MCX 上的边缘 AI 属于 TinyML 范畴，处理的是关键词唤醒、振动异常检测、简单视觉分类、手势识别这类小模型任务，参数量通常在几十 KB 到几百 KB 量级。它不是用来跑大语言模型或高分辨率目标检测的。理解这个边界，才能合理选择模型结构和量化策略。
eIQ 软件栈：从模型到固件的工具链
eIQ 是 NXP 的边缘智能软件集合，它本身不是一个推理引擎，而是一套“工具 + 运行时 + 示例”的组合。其核心组成包括：
- eIQ Toolkit：图形化与命令行工具集，负责模型导入、量化、转换、性能评估，并集成 Neutron 编译流程。
- 推理运行时：在 MCX N 上通常使用 TensorFlow Lite Micro（TFLM）作为上层框架，配合 Neutron NPU 的驱动与算子库；纯 CPU 路径则依赖 CMSIS-NN 优化内核。
- eIQ Neutron SDK：提供 NPU 的图编译、算子映射与内存规划能力，把 TFLite 模型中的可加速算子下沉到 NPU。
- 示例工程：如关键词识别（KWS）、人员检测、异常检测等，基于 MCUXpresso SDK 与 IDE 构建，可直接烧录验证。
这条栈的关键价值在于：它把“模型量化—算子兼容性检查—NPU 映射—内存分配—固件集成”这些容易出错的环节，收敛到一套可复现的流程里。下图给出本节需要建立的整体工程全景，包括数据流方向与各层职责。
边缘 AI 部署的核心挑战
把模型放到 MCU 上，真正的难点集中在三组约束上，它们互相牵制，构成部署工程的核心矛盾。
第一是内存约束。MCX N 的片上 SRAM 通常在几百 KB 量级，而一个未量化的浮点模型权重就可能超过这个容量。因此必须做 INT8 量化，把权重从 4 字节压缩到 1 字节，同时把激活张量控制在 SRAM 可容纳的范围内。这里的关键判断是：模型权重放 Flash，激活放 SRAM，中间张量通过内存复用（arena）共享同一块区域。如果激活峰值超过可用 SRAM，就需要减小输入尺寸、裁剪通道数，或启用外部 PSRAM。
第二是算力与延迟约束。CPU 上跑卷积非常吃力，NPU 的价值就在这里。但 NPU 只支持部分算子，遇到不支持的算子会回退到 CPU，形成 CPU/NPU 混合执行。回退过多会显著拉高延迟。因此量化后必须检查算子映射报告，确认关键算子是否被 NPU 接管。
第三是精度约束。INT8 量化会引入精度损失。典型做法是用一批有代表性的校准数据（例如 100～500 个样本）统计激活范围，确定量化参数。如果量化后精度掉得太多，可以考虑混合量化（部分层保留 INT16）或调整校准集。
课程实战项目总览
本课程围绕一个贯穿始终的实战项目展开：基于 MCX N 的振动异常检测与关键词唤醒双任务系统。选择这个项目，是因为它同时覆盖了 TinyML 的两类典型输入——时序传感器信号与音频信号，并且能在同一块板上体现资源竞争与任务调度。
项目分为几个可独立验证的阶段：
- 环境搭建：安装 MCUXpresso IDE 与 eIQ Toolkit，准备 MCX N 开发板与调试器，跑通第一个 LED 与串口工程。
- 模型准备：使用公开的振动数据集训练一个小型 1D-CNN 异常检测模型，导出为 TFLite；同时准备一个关键词唤醒模型。
- 量化与转换：用 eIQ Toolkit 完成 INT8 量化，检查算子兼容性，生成 C 数组。
- 固件集成：把模型集成进 MCUXpresso 工程，配置内存布局，调用 TFLM 推理接口。
- 性能评估：测量单次推理延迟、SRAM 占用、Flash 占用，对比 CPU 与 NPU 路径。
- 系统联调：让两个任务分时复用 NPU，观察调度开销与实时性。
每个阶段都有明确的验收标准。例如量化阶段的验收标准是：量化后模型在测试集上的准确率下降不超过 2 个百分点，且算子映射报告中 NPU 覆盖率不低于 70%。性能阶段的验收标准是：单次推理延迟低于 10 ms，SRAM 峰值占用不超过可用容量的 80%。这些数字是教学示例中的合理目标，实际项目中需要根据具体模型和板卡调整。
本课程的学习路径
后续章节会沿着“工具链 → 模型 → 量化 → 集成 → 优化 → 联调”的顺序推进，每一章都尽量给出可复现的操作、参数和判断依据。你不需要事先精通嵌入式 AI，但需要具备基本的 C 语言能力、了解 MCU 外设概念，并对神经网络的前向计算有直观认识。如果这三项中有短板，建议在动手前先补齐，否则在内存布局和算子调试环节会感到吃力。
现在，先确认你手头的硬件与软件环境，我们将在下一阶段进入具体的工具安装与工程创建。