3、端侧AI基础：嵌入式机器学习（TinyML）概念、端侧推理与云端的区别、常见端侧硬件与传感器选型
在开始使用 Edge Impulse 构建端侧AI项目之前，必须先建立对嵌入式机器学习（TinyML）的清晰认知。很多初学者容易将端侧AI与云端AI混为一谈，或者认为只要模型能跑在服务器上，就一定能部署到单片机中。事实上，端侧AI的约束条件、技术选型和工程方法论与云端AI有着本质差异。本章将系统梳理 TinyML 的核心概念、端侧推理与云端推理的对比维度，以及硬件与传感器的选型逻辑，为后续在 Edge Impulse 中完成数据采集、模型训练与部署打下坚实基础。
上图展示了端侧AI系统的完整数据链路：传感器采集物理信号，经过信号调理后送入MCU/MPU进行推理，最终驱动执行器或输出决策。整个过程在本地完成，云端仅作为可选的辅助环节。这张图贯穿了本章所有核心概念，下面我们将逐一深入拆解。
3.1 TinyML 核心概念与边界
TinyML（Tiny Machine Learning）是机器学习与嵌入式物联网系统的交叉领域，其核心目标是在功耗受限、计算资源有限的微控制器（MCU）上部署和运行机器学习模型。与传统的云端AI不同，TinyML 强调在设备本地完成数据采集、特征提取、推理和决策，而非将原始数据上传至服务器处理。
要准确理解 TinyML 的边界，需要从三个维度来界定：硬件资源维度、模型复杂度维度和功耗约束维度。在硬件资源上，典型的 TinyML 目标设备通常具备 16KB 至 512KB 的 RAM，以及 64KB 至 2MB 的 Flash 存储空间。这意味着模型参数量通常被限制在几十KB到几百KB之间，远小于云端模型动辄数百MB的规模。在模型复杂度上，TinyML 常用模型包括决策树、随机森林、轻量级CNN（如MobileNetV1的极小变体）、以及专门为MCU设计的模型架构（如TinyMLPerf基准中的模型）。在功耗约束上，TinyML 设备通常由电池供电，要求平均功耗在毫瓦级甚至微瓦级，这直接影响了模型推理频率和传感器采样策略。
在工程实践中，TinyML 并非简单地将模型"压缩"后塞进MCU，而是需要从数据采集阶段就考虑端侧约束。例如，在 Edge Impulse 中，采样频率、窗口大小、特征提取方法的选择，都会直接影响最终模型在MCU上的运行效率。一个常见的误区是：先在大数据集上训练一个高精度模型，再试图通过量化压缩到MCU上运行。这种做法往往导致精度大幅下降或模型无法适配内存限制。正确的做法是：从硬件约束出发，反向设计数据采集方案和模型架构。
3.2 端侧推理与云端推理的全面对比
理解端侧推理与云端推理的区别，不能仅停留在"一个在本地、一个在云端"的表面认知。两者在延迟、带宽、隐私、可靠性、成本等维度上存在系统性差异，这些差异直接决定了技术选型和架构设计。
| 对比维度 | 端侧推理（TinyML） | 云端推理 | 关键影响 |
|---|---|---|---|
| 推理延迟 | 毫秒级~微秒级（本地计算） | 100ms~数秒（含网络传输） | 实时控制类应用必须端侧 |
| 网络依赖 | 完全离线可用 | 必须联网，断网即失效 | 工业现场/偏远地区适用性 |
| 数据隐私 | 数据不出设备，隐私性高 | 原始数据上传，存在泄露风险 | 医疗/安防等敏感场景 |
| 功耗预算 | mW级~µW级 | 设备端需通信模块，功耗高 | 电池寿命决定部署周期 |
| 模型更新 | 需OTA或本地烧录 | 云端更新即时生效 | 大规模设备管理复杂度 |
| 计算资源 | 受限（KB级RAM） | 充裕（GB级内存/GPU） | 模型复杂度上限不同 |
| 单设备成本 | 低（$1~$20） | 需通信模块+云服务费 | 大规模部署总拥有成本 |
从上表可以看出，端侧推理并非要取代云端推理，而是两者形成互补关系。在实际项目中，常见的架构模式是"端侧实时决策 + 云端定期训练"：端侧设备负责低延迟、高可靠的实时推理，而云端负责模型训练、更新和全局数据分析。例如，一个工业振动监测系统，端侧MCU每秒钟对振动信号进行FFT特征提取和异常分类，一旦检测到异常立即触发本地报警；同时，设备每隔一周将压缩后的特征摘要上传至云端，用于更新全局故障模型。
在 Edge Impulse 的部署流程中，这种混合架构体现为：模型在云端完成训练和验证后，通过 Edge Impulse 的部署功能生成针对特定MCU的优化库（C++源码或二进制），然后烧录到设备中。Edge Impulse 还支持后续的模型更新流程，可以通过OTA方式将新模型推送到设备，但需要设备端预留足够的Flash空间和引导加载程序支持。
3.3 常见端侧硬件平台选型
端侧AI的硬件选型是项目成功的关键环节。不同级别的硬件平台对应不同的性能、功耗和成本，需要根据应用场景的具体需求进行匹配。以下将硬件平台分为三个层级进行介绍。
3.3.1 入门级MCU平台（适合学习与原型验证）
这类平台以 Arduino 系列和 STM32 入门系列为代表，特点是生态成熟、资料丰富、上手门槛低。Arduino Nano 33 BLE Sense 是 TinyML 学习的经典选择，它搭载 Nordic nRF52840 芯片，具备 256KB RAM 和 1MB Flash，内置加速度计、陀螺仪、麦克风、温湿度传感器和环境光传感器，几乎为 TinyML 教学量身定制。STM32F746G-DISCO 开发板则提供了更充裕的资源（320KB RAM、1MB Flash），并支持硬件浮点运算，适合运行稍复杂的CNN模型。
对于纯入门学习者，建议选择带有板载传感器的开发板，这样可以避免额外的硬件连接工作，专注于模型训练和部署流程。Edge Impulse 官方对 Arduino Nano 33 BLE Sense 和 STM32 系列提供了完善的SDK支持，可以直接通过USB连接进行数据采集和模型烧录。
3.3.2 高性能MCU/跨界MPU平台（适合复杂模型与产品原型）
当模型复杂度提升，或者需要同时处理多路传感器数据时，需要选择更高性能的平台。ESP32-S3 是一款性价比极高的选择，它搭载 Xtensa LX7 双核处理器，主频可达240MHz，内置 512KB SRAM 和 8MB Flash（部分型号），并支持向量指令加速，对神经网络推理有较好的支持。ESP32-S3 还内置Wi-Fi和蓝牙，方便实现端云协同。
另一类值得关注的是带有专用NPU（神经网络处理单元）的芯片，如恩智浦 i.MX RT1170 系列（集成eIQ Neutron NPU）和瑞萨 RA8D1（集成HALO NPU）。这些芯片的NPU可以提供 1-4 TOPS 的算力，能够运行轻量级目标检测模型（如MobileNet SSD），同时保持较低的功耗。这类平台适合需要视觉识别的端侧AI产品，如智能门锁、工业视觉检测等。
3.3.3 低功耗MCU平台（适合电池供电的长期运行设备）
对于需要数月甚至数年电池寿命的应用（如环境监测节点、可穿戴设备），低功耗是首要考量。TI MSP430 系列和 Ambiq Apollo4 系列是典型代表。Apollo4 采用亚阈值电压优化技术，在运行TensorFlow Lite Micro 推理时，功耗可低至 3µA/MHz 级别。这类平台通常需要开发者对功耗管理有深入理解，包括动态电压频率调节（DVFS）、深度睡眠模式、事件驱动唤醒等。
在 Edge Impulse 中，针对低功耗平台，需要特别关注推理频率和传感器采样策略。例如，一个使用Apollo4的跌倒检测设备，加速度计可以以50Hz采样，但推理引擎可以每100ms唤醒一次进行特征计算和分类，其余时间保持深度睡眠。Edge Impulse 的 EON Tuner 工具可以帮助开发者自动搜索最优的模型架构和推理频率组合，以最小化功耗。
3.4 传感器选型与数据采集策略
传感器是端侧AI系统的"眼睛"和"耳朵"，其选型直接决定了模型能学到什么。在TinyML项目中，传感器选型不仅要考虑测量精度，还要考虑功耗、采样率、接口类型和信号调理复杂度。
常见的端侧AI传感器类型包括：惯性传感器（加速度计、陀螺仪、磁力计），适用于姿态识别、跌倒检测、振动分析；声学传感器（MEMS麦克风），适用于关键词唤醒、异常声音检测、声学场景分类；光学传感器（摄像头、环境光、PPG），适用于图像分类、存在检测、心率监测；环境传感器（温湿度、气压、气体），适用于环境监测、预测性维护。
在数据采集策略上，需要关注三个关键参数：采样率、窗口大小和采样触发方式。采样率由信号的最高频率决定，根据奈奎斯特定理，采样率至少为信号最高频率的2倍。例如，人体振动信号通常在0.5Hz~50Hz之间，采样率设为100Hz即可；而音频信号最高频率为20kHz，采样率至少需要40kHz（通常设为16kHz或8kHz以降低计算量）。窗口大小决定了每次推理所使用的时间序列长度，窗口越长，频率分辨率越高，但推理延迟和内存占用也越大。采样触发方式分为连续采样和事件触发采样，事件触发（如运动超过阈值才启动采样）可以显著降低平均功耗。
在 Edge Impulse 中，数据采集界面允许开发者设置采样频率和窗口长度，并实时预览信号波形。一个重要的实践建议是：在采集训练数据时，应覆盖目标场景中的所有变化情况。例如，训练一个风扇异常检测模型，需要采集正常转速、不同负载、不同磨损程度下的振动数据，并且每个类别至少采集数分钟的数据，以保证模型泛化能力。
- 确定传感器：选用ADXL345或MPU6050加速度计，量程±16g，采样率设为200Hz（覆盖振动基频及谐波）。
- 确定窗口：窗口长度设为256个采样点（约1.28秒），步长64点（约0.32秒），保证频率分辨率约0.78Hz。
- 采集场景：正常状态（5分钟）、轴承磨损（5分钟）、转子不平衡（5分钟）、负载突变（5分钟）。
- 标注策略：每个窗口自动标注为对应类别，确保类别均衡。
- 数据分割：80%训练、10%验证、10%测试，且确保同一连续时间段的数据不跨集合，避免数据泄漏。
3.5 案例拆解：智能工业振动监测节点的端侧AI实现
为了将上述概念串联起来，我们以一个具体的工业振动监测项目为例，展示从硬件选型到数据采集、模型部署的完整闭环。
项目背景与约束：某工厂需要对生产线上的关键电机进行24小时不间断振动监测，目标是提前48小时预警轴承故障。现场环境存在较强电磁干扰，且设备安装位置无法布设网线，只能使用电池供电。初始约束条件为：电池容量2000mAh（3.7V），要求设备至少连续运行6个月；推理延迟不超过200ms；误报率低于5%。
硬件选型过程：根据约束条件，首先排除需要持续Wi-Fi通信的云端推理方案（功耗过高）。在端侧方案中，选择STM32L4系列MCU（内置FPU，主频80MHz，512KB Flash，128KB SRAM），搭配ADXL357加速度计（低噪声、低功耗，量程可配置）。该组合在连续采样+推理模式下的平均功耗约为15mW，加上深度睡眠策略（每10秒唤醒一次进行1秒采样和推理），平均功耗可降至约2mW，满足6个月电池寿命要求。
数据采集与模型训练：使用Edge Impulse采集了三种状态的数据：正常（8分钟）、轴承外圈故障（6分钟）、轴承滚动体故障（6分钟）。采样率设为512Hz，窗口大小1024点（2秒），特征提取采用频谱分析（FFT）和统计特征（均值、方差、峰值因子）。使用Edge Impulse的EON Tuner搜索最优模型，最终选择了深度神经网络（DNN）架构，输入层为13个频带能量特征，隐藏层为32个节点，输出层为3个类别。模型量化后大小为8.2KB，RAM占用约4.5KB。
部署与验证：通过Edge Impulse生成STM32的C++库，集成到Keil工程中。在实验室测试中，模型对三种状态的分类准确率达到97.3%，单次推理耗时约35ms（含特征提取），满足200ms延迟要求。现场部署后，设备在运行第3天成功预警了2号电机轴承的早期故障，经停机检修确认与模型预测一致。
风险与代价：项目中也遇到了一些问题。首先，现场电磁干扰导致部分采样数据出现尖峰噪声，通过增加中值滤波（窗口长度5）解决了该问题。其次，电池在低温环境下容量衰减明显，导致实际续航比预期缩短约15%，后续方案中增加了保温措施。最后，模型对未知故障类型（如保持架断裂）无法识别，需要后续通过OTA更新模型来扩展故障类别。
3.6 常见误区与总结
在TinyML项目的实践中，初学者常陷入以下几个误区，需要特别警惕。
误区一：忽视硬件约束，先训练大模型再压缩。这种做法往往导致模型在压缩后精度大幅下降，或者压缩后的模型仍然超出MCU的内存限制。正确的做法是从硬件规格出发，设定模型大小和计算量的上限，再设计或搜索合适的模型架构。
误区二：采样率越高越好。过高的采样率不仅增加功耗和存储开销，还会引入大量冗余信息，增加模型训练的难度。应根据信号的物理特性和应用需求，选择合适的采样率。例如，人体活动识别通常50Hz即可，而电机振动分析可能需要1kHz以上。
误区三：忽略数据标注质量。TinyML模型的性能上限由数据质量决定。在数据采集时，应确保每个类别的样本数量均衡，且覆盖所有可能的工况变化。同时，标注应尽量精确到窗口级别，而非文件级别。
误区四：认为端侧AI不需要云端。虽然端侧推理可以独立运行，但模型训练、版本管理、批量更新和全局数据分析仍然需要云端支持。一个成熟的TinyML产品，通常是端云协同的架构。
总结而言，端侧AI（TinyML）的核心在于在资源受限的设备上实现可靠的智能决策。本章所阐述的概念、对比、硬件选型和数据采集策略，构成了后续在Edge Impulse中开展项目的基础。在下一阶段的实践中，你将使用Edge Impulse完成从数据采集到模型部署的完整流程，届时本章的知识将直接指导你的每一步操作。