📚 课程目录第3章 TinyML与边缘部署概述

3. TinyML与边缘部署概述

TinyML（微型机器学习）是机器学习与嵌入式物联网系统交叉融合的前沿领域，其核心目标是在功耗受限、计算资源极度有限的微控制器（MCU）上运行机器学习推理模型。与云端或移动端AI不同，TinyML强调“近数据计算”——传感器数据在本地完成采集、预处理、推理和决策，仅在必要时上传结果或异常事件。对于振动监测场景而言，TinyML的价值尤为突出：工业旋转机械（如电机、泵、风机）的振动信号往往具有高频、连续、非平稳的特点，若将原始振动数据全部上传云端，不仅消耗大量带宽和电能，还会引入不可控的网络延迟。本章将系统阐述TinyML的定义边界、微控制器的资源约束，以及从模型训练到量化、部署、阈值校准的完整工程链路，为后续振动模型量化与阈值调优奠定基础。

3.1 TinyML定义与技术边界

TinyML并非简单的“小模型”或“轻量级深度学习”，而是一套完整的系统工程方法论。根据TinyML基金会（TinyML Foundation）的权威定义，TinyML是“在功耗极低、资源受限的嵌入式设备上，实现机器学习推理能力的技术与方法的集合”。其核心特征可归纳为三个维度：极低功耗（通常低于毫瓦级）、实时响应（推理延迟在毫秒到百毫秒级）、本地化决策（不依赖云连接）。在振动监测场景中，TinyML模型通常接收来自加速度计（如ADXL345、MPU6050）或压电传感器的时域振动信号，经过短时傅里叶变换（STFT）或梅尔频谱等特征提取后，由轻量级神经网络（如MobileNetV1、TinyConv、LSTM变体）完成故障分类或异常检测。

需要特别强调的是，TinyML与边缘计算（Edge Computing）存在本质区别。边缘计算通常指在网络边缘侧（如网关、工业PC）执行计算，这些设备往往具备Linux操作系统、数GB内存和GPU加速能力；而TinyML面向的是裸机或RTOS环境下的MCU，其RAM通常以KB为单位，Flash以MB为单位，且没有操作系统级别的内存管理。这种差异直接决定了模型设计策略：TinyML模型必须采用静态内存分配、避免动态张量、使用定点运算替代浮点运算。

  关键判断标准：一个系统是否属于TinyML范畴，可依据以下三条硬性指标：① 处理器为MCU（ARM Cortex-M系列、RISC-V等），而非应用处理器；② 内存容量 ≤ 1MB RAM，Flash ≤ 4MB；③ 推理功耗 ≤ 100mW（典型值10mW以下）。若超出上述范围，则应考虑使用边缘计算或移动端AI方案。

3.2 微控制器资源限制与振动模型的适配策略

微控制器的资源限制是TinyML设计的“第一性约束”。以工业振动监测中常用的STM32L4系列（Cortex-M4F内核，80MHz主频）为例，其典型资源配置为：256KB Flash、64KB RAM、无外部存储接口（或仅支持低速SPI Flash扩展）。这样的资源环境对振动模型提出了严苛要求：一个典型的1D-CNN振动分类模型，若采用FP32精度，每层卷积核权重占用4字节/参数，一个包含10万参数的模型就需要400KB Flash——这已经超出多数MCU的存储能力。因此，量化（Quantization）成为TinyML部署的必经之路。

振动信号本身具有高频特性（工业设备振动频率通常在10Hz-10kHz），这意味着采样率至少需要20kHz以上。若每次推理处理1秒的振动数据，则输入特征维度为20000点。直接输入原始波形会消耗大量RAM（20000 × 4字节 = 80KB），因此必须进行特征压缩。常用的策略包括：频域特征提取（FFT后取前128-256个频点）、统计特征（RMS、峰值因子、峭度等）、小波包分解。这些特征压缩手段不仅降低RAM占用，还能提升模型对噪声的鲁棒性。

资源类型	典型容量（Cortex-M4）	振动模型占用估算	优化策略
Flash（代码+模型）	256KB - 1MB	INT8模型：50-200KB；FP32模型：200-800KB	权重共享、深度可分离卷积、INT8量化
RAM（运行时）	64KB - 256KB	激活值：10-50KB；中间缓冲：5-20KB	特征压缩、单帧处理、内存复用
算力（MAC/s）	10-100 MMAC/s	1D-CNN推理：5-50ms	减少卷积核数、使用深度可分离卷积
功耗	1-50mW	连续采样+推理：10-30mW	低功耗模式、事件驱动采样

3.3 典型部署流程：训练→量化→部署→校准

TinyML振动模型的完整部署链路包含四个核心阶段，每个阶段都有其独立的工程挑战和验证标准。以下以“电机轴承故障分类”为例，详细拆解每个阶段的操作流程。

阶段一：模型训练（PC端）

在PC端使用TensorFlow或PyTorch完成模型训练。振动数据采集时需注意：采样率应满足奈奎斯特采样定理（至少为最高分析频率的2倍），工业现场建议采样率≥20kHz；每个工况类别至少采集100组样本，每组样本时长1-2秒。模型结构推荐使用1D-CNN或TinyLSTM，输入特征为FFT频谱（128-256点）或原始波形（下采样至1024点）。训练完成后，需评估模型在验证集上的准确率、召回率和F1分数，确保基线模型性能达标（通常要求F1≥0.95）。

# 训练阶段关键代码（Python/TensorFlow）
model = tf.keras.Sequential([
    tf.keras.layers.Input(shape=(256, 1)),  # 256点FFT频谱
    tf.keras.layers.Conv1D(16, 3, activation='relu'),
    tf.keras.layers.MaxPooling1D(2),
    tf.keras.layers.Conv1D(32, 3, activation='relu'),
    tf.keras.layers.GlobalAveragePooling1D(),
    tf.keras.layers.Dense(4, activation='softmax')  # 4类故障
])
model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])

阶段二：量化压缩（PC端）

量化是将FP32模型转换为INT8或INT16精度的过程。TensorFlow Lite提供了post_training_quantization接口，但振动模型量化时需特别注意：校准数据集（Calibration Dataset）必须覆盖所有故障类别和典型工况，通常选取训练集中5%-10%的样本。量化后需对比量化前后模型的输出差异，使用最大误差（Max Abs Error）和余弦相似度作为评估指标。若量化后精度下降超过2%，应考虑使用量化感知训练（QAT）。

经验提示：振动模型的激活值分布通常呈长尾分布（少数大值、多数小值），直接使用默认的MinMax校准可能导致量化误差集中在峰值区域。建议使用百分位校准（如99.99%分位）替代全局最小/最大值，可显著提升量化后精度。

阶段三：MCU部署（嵌入式端）

将量化后的TFLite模型转换为C字节数组，集成到嵌入式工程中。部署时需关注以下要点：① 使用CMSIS-NN或专用DSP库加速卷积运算；② 确保模型输入缓冲区与DMA采集缓冲区内存对齐（通常要求4字节对齐）；③ 在RTOS中为推理任务分配独立栈空间（建议≥4KB）。部署完成后，先在开发板上使用仿真输入验证推理结果与PC端一致。

阶段四：阈值校准（现场端）

阈值校准是TinyML振动监测系统落地中最关键、也最容易被忽视的环节。模型输出的Softmax概率或异常分数需要映射为“报警/正常”的二元决策，而这一映射阈值不能简单使用0.5。现场环境中的振动噪声、传感器安装差异、设备工况波动都会导致模型输出分布偏移。校准流程如下：

基线采集：在设备正常运行状态下连续采集24小时数据，记录模型输出的概率分布（正常类别的Softmax值）。
阈值初设：以正常样本输出的第5百分位数作为初始报警阈值（即正常样本中95%的输出值应高于此阈值）。
故障注入测试：在设备上人为模拟轻微故障（如增加不平衡质量块），验证模型能否在阈值下触发报警。
误报率调整：若误报率过高，提高阈值；若漏报率过高，降低阈值。使用ROC曲线辅助确定最优工作点。

3.4 案例拆解：电机轴承振动监测的端到端部署

背景与约束：某工厂需要对10台冷却水泵电机进行轴承故障监测。每台电机配备一个三轴加速度计（ADXL345，量程±16g），通过I2C接口连接至STM32L431微控制器（80MHz，64KB RAM，256KB Flash）。系统要求：电池供电（3.7V 2000mAh锂电池），连续工作≥6个月；故障报警响应时间≤2秒；误报率≤1次/周。

初始目标与数据：采集正常、外圈磨损、内圈磨损、滚动体磨损四类工况数据。每类采集200组样本，采样率25.6kHz，每组样本时长1秒（25600点）。PC端训练一个1D-CNN模型，输入为256点FFT频谱（对1秒数据分8帧，每帧3200点做FFT后取平均），模型参数量为18,432个，FP32精度下模型大小为73.7KB。

量化与部署过程：使用TensorFlow Lite进行INT8量化，校准数据集选取每类50个样本（共200个）。量化后模型大小为18.4KB，Flash占用满足要求。但部署后实测发现：模型推理耗时38ms，RAM峰值占用41KB（激活值28KB + 中间缓冲13KB），接近64KB上限。进一步优化：将输入FFT点数从256降至128（保留0-12.8kHz频段），模型参数量降至9,216个，推理耗时降至21ms，RAM峰值降至26KB。

阈值校准与结果：现场连续运行7天，采集正常工况数据。模型对正常样本输出的正常类别概率均值为0.93，标准差0.04。初始阈值设为0.85（均值-2σ）。在第三天人为模拟外圈磨损故障（在轴承座上加装不平衡块），模型输出正常类别概率降至0.31，成功触发报警。但第七天出现一次误报：排查发现是电机启动瞬间的电流冲击导致振动信号异常。分析后调整策略：增加“连续3次推理均低于阈值才报警”的确认机制，误报率降至0次/周。

风险提示：阈值校准不是一次性工作。设备老化、季节温度变化、负载波动都会导致振动基线漂移。建议在部署后第1个月每周复核一次阈值，之后每月复核一次。若发现模型输出分布整体偏移超过±10%，应重新采集数据并更新校准阈值。

3.5 常见误区与总结复盘

误区一：认为量化只是简单的精度损失。实际上，合理的量化（配合校准数据集和QAT）可以将精度损失控制在1%以内，同时获得4倍存储压缩和2-3倍推理加速。关键在于校准数据集的质量和量化参数的选择。

误区二：忽视RAM的峰值管理。许多开发者只关注模型大小（Flash占用），却忽略了推理过程中的临时缓冲区。振动模型的特征提取（FFT）需要额外RAM，若与模型激活值同时分配，极易导致内存溢出。建议使用内存池复用技术，将FFT缓冲区和第一层卷积输入共享。

误区三：阈值固定不变。振动信号是非平稳的，设备在不同负载、不同转速下振动特征差异显著。固定阈值要么导致大量误报，要么导致漏报。推荐使用自适应阈值：根据最近N次推理输出的滑动平均值动态调整阈值，或使用EWMA（指数加权移动平均）方法。

误区四：跳过现场验证直接上线。实验室环境与工业现场存在巨大差异：传感器安装共振、电磁干扰、温度漂移等都会影响模型输入分布。务必进行至少72小时的现场试运行，收集真实数据验证模型鲁棒性。