4. 端侧分类基础
在TinyML视觉隐私保护场景中，图像分类是判断画面中是否存在敏感信息（如人脸、车牌、室内陈设）的第一道关口。与云端推理不同，MCU和边缘设备必须在有限算力、有限内存、有限功耗的约束下完成实时分类。理解端侧分类的实现原理，是设计隐私脱敏策略的前提——只有先知道"看到了什么"，才能决定"如何遮挡"。本章从模型压缩、量化、轻量化网络设计三个维度，系统拆解图像分类在端侧落地的完整链路。
4.1 端侧图像分类的核心约束与设计原则
MCU和边缘设备上的图像分类，本质上是在资源受限条件下做"足够好"的决策。以常见的ARM Cortex-M7（主频480MHz，RAM 512KB，Flash 2MB）为例，运行一个MobileNetV2量化模型（输入96×96×3，INT8），单次推理约需80~150ms，内存占用约200~300KB。这意味着分类器必须同时满足三个硬性指标：模型体积（Flash占用）、运行时内存（RAM占用）、单帧延迟（推理时间）。
设计原则可以归纳为"三优先"：优先小输入分辨率（96×96或64×64足够区分人脸/非人脸）、优先深度可分离卷积（参数量和计算量仅为标准卷积的1/8~1/9）、优先INT8量化（内存减4倍，速度提升2~4倍）。此外，端侧分类器通常只做二分类或少数类别分类（如"有人脸/无人脸""敏感/非敏感"），避免复杂的多类别任务，以降低最后一层全连接的开销。
4.2 模型压缩：从结构上减小计算量
模型压缩是端侧部署的第一步，目标是在保持分类准确率的前提下，减少参数量和计算量。常用方法包括：
- 深度可分离卷积（Depthwise Separable Convolution）：将标准卷积分解为逐通道卷积（Depthwise）和逐点卷积（Pointwise）。以3×3卷积为例，计算量从 H×W×C_in×C_out×9 降为 H×W×C_in×(9+C_out)，当C_out较大时压缩比接近1/8。
- 倒残差结构（Inverted Residual）：MobileNetV2的核心设计，先通过1×1卷积升维，再深度卷积，最后1×1卷积降维。相比传统残差块，在相同参数量下表达能力更强。
- 通道剪枝（Channel Pruning）：训练后移除对输出影响较小的卷积核通道。例如将64通道剪至48通道，模型体积减少25%，精度损失通常控制在1%以内。
- 知识蒸馏（Knowledge Distillation）：用大模型（教师）指导小模型（学生）训练，学生模型学习教师输出的软标签（soft label），收敛更快、精度更高。
| 压缩方法 | 原理 | 压缩比 | 精度影响 | 适用阶段 |
|---|---|---|---|---|
| 深度可分离卷积 | 分解标准卷积 | 6~9倍 | 低（结构设计） | 网络设计时 |
| 通道剪枝 | 移除冗余通道 | 1.5~3倍 | 中（需微调） | 训练后 |
| 知识蒸馏 | 大模型指导小模型 | 2~4倍 | 低（训练时） | 训练阶段 |
| 权重共享/哈夫曼编码 | 减少存储位数 | 1.2~1.5倍 | 极低 | 部署前 |
4.3 量化：让模型在整数域高效运行
量化是将浮点模型（FP32）转换为整数模型（INT8/INT16）的过程。MCU通常没有FPU（浮点运算单元）或FPU性能较弱，整数运算比浮点快3~5倍，内存占用减少4倍。端侧量化主要有两种方案：
- 训练后量化（Post-Training Quantization, PTQ）：直接对训练好的FP32模型进行量化。需要准备少量校准数据集（通常100~500张图片），统计每层激活值的动态范围，计算缩放因子（scale）和零点（zero point）。优点是无需重新训练，缺点是当模型对量化敏感时精度下降明显。
- 量化感知训练（Quantization-Aware Training, QAT）：在训练过程中模拟量化误差，让模型权重适应低比特表示。精度通常比PTQ高1~3%，但需要重新训练，耗时较长。
以TensorFlow Lite Micro为例，INT8量化模型在Cortex-M7上的推理流程如下：
// 伪代码示例：INT8推理核心循环
for (int layer = 0; layer < num_layers; layer++) {
// 1. 反量化输入：real_input = (int8_input - zero_point) * scale
// 2. 执行整数卷积/深度卷积（CMSIS-NN加速）
// 3. 累加器使用INT32，防止溢出
// 4. 激活函数（ReLU）在整数域直接比较
// 5. 量化输出：int8_output = round(real_output / scale) + zero_point
}
4.4 轻量化网络设计：从零构建端侧分类器
除了使用现成的MobileNetV2、EfficientNet-Lite等骨干网络，实际项目中往往需要根据具体任务定制更小的网络。一个典型的端侧分类网络结构如下：
- 输入层：96×96×3（RGB565格式，减少转换开销）
- 特征提取层：3个深度可分离卷积块，每块包含1×1升维→3×3深度卷积→1×1降维，通道数从16增至32再增至48
- 池化层：全局平均池化（Global Average Pooling），将特征图压缩为1×1×48
- 分类层：全连接层（48→2），输出"敏感/非敏感"二分类概率
该网络参数量约15K，模型大小约60KB（INT8），在Cortex-M7上推理时间约35ms，RAM占用约80KB。相比MobileNetV2（参数量2.2M），体积缩小了100倍以上，精度在二分类任务上仅下降2~3%。
4.5 实战案例：室内监控场景的人脸检测分类器
背景与约束：某智能家居摄像头需要在本地判断画面中是否出现人脸，若检测到人脸则触发模糊脱敏，再上传云端。硬件为ESP32-S3（双核240MHz，512KB SRAM，8MB PSRAM），要求单帧处理时间<200ms，模型体积<300KB。
初始现象：直接使用OpenCV的Haar Cascade人脸检测，在ESP32上单帧耗时超过800ms，且误检率高达30%（将玩偶、壁画误判为人脸）。改用MobileNetV2 FP32模型，模型体积14MB，无法放入Flash。
分析判断过程：Haar Cascade是传统特征方法，计算量大且对姿态变化敏感；MobileNetV2 FP32体积过大。需要设计一个专门针对"正脸/非正脸"二分类的轻量网络，并量化到INT8。
实际操作步骤：
- 收集数据：从公开数据集（WIDER Face）和自拍视频中截取5000张正脸、5000张非正脸（含背景、家具、宠物），统一缩放到96×96。
- 设计网络：采用4.4节描述的定制网络，使用TensorFlow/Keras搭建，加入BatchNorm和Dropout(0.3)防止过拟合。
- 训练与蒸馏：先用MobileNetV2作为教师模型，在相同数据上训练，然后用教师模型的软标签训练学生网络（温度T=3），最终学生模型准确率98.2%。
- 量化：使用TensorFlow Lite Converter进行INT8量化，校准数据集200张，量化后模型大小68KB。
- 部署：使用TensorFlow Lite Micro在ESP32-S3上运行，启用CMSIS-NN优化。
结果对比：
| 方案 | 模型大小 | 推理时间 | 准确率 | RAM占用 |
|---|---|---|---|---|
| Haar Cascade | 900KB | 820ms | 70%（误检高） | 150KB |
| MobileNetV2 FP32 | 14MB | 无法运行 | — | — |
| 定制网络 INT8 | 68KB | 45ms | 98.2% | 85KB |
风险与代价：定制网络对训练数据质量敏感，若训练集中正脸角度单一，部署后对侧脸、低头场景可能漏检。解决方案是数据增强（随机旋转±15°、亮度扰动、遮挡模拟）。另外，INT8量化后最后一层softmax的精度略有损失，但二分类场景下影响可忽略。
复盘经验：端侧分类器的设计应该从"任务需求"倒推网络结构，而不是盲目套用大模型。二分类任务用15K参数的网络即可达到98%准确率，说明"小模型+好数据"远胜"大模型+差数据"。同时，量化感知训练（QAT）虽然耗时，但在精度敏感场景下值得投入。
4.6 常见误区与总结复盘
误区一：追求高分辨率输入。很多开发者习惯使用224×224输入，但在MCU上，96×96已经足够。分辨率每降低一半，计算量减少4倍。建议从64×64开始测试，逐步增大直到精度满足需求。
误区二：忽略预处理开销。图像缩放、格式转换（RGB888→RGB565）在MCU上可能消耗10~20ms。应使用DMA（直接内存访问）和查表法加速，避免逐像素浮点运算。
误区三：量化后不验证。INT8量化后必须在真实硬件上测试，不能只依赖PC端模拟。CMSIS-NN和硬件加速器（如Helium MVE）的数值行为可能与模拟器有细微差异。
误区四：忽视功耗约束。连续推理时，MCU的功耗可能从待机10μA飙升至50mA。对于电池供电设备，应设计"事件触发"模式——仅在PIR传感器检测到运动时才启动分类器，而非持续运行。