课程导入：TinyML 与模型文件大小的价值

TinyML（微型机器学习）是机器学习与嵌入式物联网系统交叉融合的前沿领域，其核心目标是在功耗受限、计算资源有限、存储空间狭小的微控制器（MCU）上部署和运行机器学习模型。与云端或移动端 AI 不同，TinyML 设备通常只有几十 KB 到几 MB 的 Flash 存储空间，运行内存（RAM）往往不足 512KB，处理器主频也仅在几十到几百 MHz 之间。在这样的约束下，模型文件大小直接决定了模型能否被烧录进设备、能否在设备上高效运行，以及整个产品的成本与功耗表现。本课程将聚焦“剪枝（Pruning）”这一关键技术，通过对比剪枝前后的模型文件大小，帮助学习者建立对 TinyML 模型压缩的直观认知与实操能力。

上图展示了 TinyML 模型文件大小问题的核心逻辑：硬件约束决定了模型文件大小的上限，而剪枝技术则是突破这一约束的关键手段。在后续章节中，我们将深入探讨剪枝的原理、方法以及如何通过 TensorFlow Lite for Microcontrollers 等工具链实际测量剪枝前后的文件大小变化。

1.1 TinyML 的定义与核心特征

TinyML 并非简单的“小模型机器学习”，而是一套完整的工程方法论，涵盖模型设计、压缩、编译优化、运行时调度以及硬件适配等多个层面。从技术定义上看，TinyML 是指在功耗极低（通常为毫瓦级甚至微瓦级）、资源极度受限的嵌入式设备上，实现机器学习推理（有时也包括训练）的技术总称。这类设备往往由纽扣电池或能量采集模块供电，需要持续运行数月甚至数年而无需更换电池。

TinyML 的核心特征可以归纳为以下四点：

• 极致的资源约束：以常见的 Cortex-M4 或 Cortex-M7 内核 MCU 为例，其 Flash 容量通常在 256KB 到 2MB 之间，RAM 在 64KB 到 512KB 之间。这意味着模型文件（通常存储在 Flash 中）必须足够小，才能为应用程序代码、运行时库和操作系统预留空间。
• 实时性与低延迟：许多 TinyML 应用（如工业异常检测、可穿戴设备手势识别）要求推理延迟在几十毫秒以内。模型文件大小直接影响内存访问次数和计算量，进而影响推理延迟。
• 离线与隐私保护：TinyML 设备通常在本地完成推理，无需将数据上传到云端，这既降低了网络带宽需求，也保护了用户隐私。但离线运行意味着模型一旦烧录，更新成本较高，因此模型文件大小也关系到后续 OTA（空中升级）的可行性。
• 软硬件协同设计：TinyML 不仅涉及算法，还涉及编译器优化（如 CMSIS-NN）、硬件加速指令（如 DSP 扩展）以及量化感知训练等。模型文件大小是软硬件协同设计中的一个关键优化目标。

1.2 TinyML 的典型应用场景

TinyML 的应用场景正在快速扩展，几乎覆盖了所有需要“端侧智能”的领域。理解这些场景有助于我们明确模型文件大小优化的实际意义。

应用领域	典型场景	模型文件大小要求	剪枝的必要性
工业预测性维护	电机振动异常检测、轴承故障分类	< 64KB（适配老旧 PLC 或 MCU）	高——现场设备往往 Flash 较小，且更换成本高
可穿戴设备	手势识别、步态分析、心率异常预警	< 128KB（为电池和传感器留空间）	高——直接影响设备体积和续航
智能家居	语音关键词唤醒（KWS）、人体存在检测	< 256KB（通常有 Wi-Fi 模块共存）	中——需要平衡精度与响应速度
农业与环境监测	土壤湿度分类、害虫图像识别（低分辨率）	< 512KB（太阳能供电设备）	中——主要受功耗约束
医疗健康	心电图（ECG）异常分类、癫痫发作检测	< 128KB（需通过安全认证）	高——模型文件越小，认证测试越简单

以工业电机振动检测为例，一个典型的 CNN 模型（包含 3 个卷积层和 2 个全连接层）在未压缩时，模型文件大小约为 180KB。对于一款仅有 512KB Flash 的 STM32F4 系列 MCU 而言，这意味着模型占据了 35% 的存储空间，留给 RTOS、传感器驱动和通信协议栈的空间非常紧张。通过剪枝将模型压缩至 45KB 后，不仅 Flash 占用降至 8.8%，推理时间也从 62ms 缩短至 21ms，使得设备能够以更高的采样率进行实时监测。

1.3 模型文件大小的重要性：从工程视角审视

模型文件大小在 TinyML 工程中扮演着“一票否决”的角色。许多在 PC 上表现优异的模型，因为文件大小超出 MCU 的 Flash 容量而无法部署。具体而言，模型文件大小的重要性体现在以下四个维度：

1. 硬件选型与成本控制：模型文件大小直接决定了所需 MCU 的最低 Flash 规格。例如，一个 200KB 的模型需要至少 512KB Flash 的芯片，而一个 50KB 的模型则可以使用 128KB Flash 的芯片。在批量生产中，芯片单价差异可能达到 0.5~2 美元，对于百万级出货量的产品，这意味着数十万到数百万美元的成本差异。
2. 启动与推理延迟：模型文件通常存储在外部 Flash 或内部 Flash 中。MCU 在推理时需要将权重从 Flash 读取到 RAM 中。更大的模型文件意味着更多的 Flash 读取操作，这会显著增加推理延迟。例如，在 8MHz SPI Flash 上读取 128KB 数据需要约 16ms，而读取 32KB 数据仅需 4ms。
3. OTA 升级与维护成本：物联网设备通常需要远程升级模型以修复漏洞或提升精度。OTA 升级包的大小直接与模型文件大小相关。在 NB-IoT 或 LoRa 等低带宽网络下，一个 128KB 的升级包可能需要数小时才能完成传输，而 32KB 的升级包仅需几十分钟。此外，运营商通常按流量计费，更小的模型文件意味着更低的运营成本。
4. 系统可靠性与功耗：较大的模型文件在 Flash 中占用更多空间，可能导致 Flash 磨损均衡策略失效，缩短 Flash 寿命。同时，读取大文件需要更长的活跃时间，增加动态功耗。对于电池供电的设备，这意味着更短的续航时间。

1.4 本课程的学习目标与最终成果

本课程共 30 章，旨在帮助学习者系统掌握 TinyML 模型剪枝的理论与实践。通过本课程的学习，你将能够：

• 理解剪枝的核心原理：掌握权重剪枝、通道剪枝、结构化剪枝与非结构化剪枝的区别与适用场景，理解剪枝如何影响模型文件大小和推理效率。
• 掌握剪枝工具链：熟练使用 TensorFlow Model Optimization Toolkit、Keras 剪枝 API 以及 TensorFlow Lite Converter 进行剪枝与模型转换。
• 量化模型文件大小对比方法：学会使用 ls -l、stat 命令以及 Python 脚本精确测量剪枝前后的 .tflite 文件大小，并生成对比报告。
• 实战部署与验证：在 STM32F746G-Discovery 或 Arduino Nano 33 BLE Sense 等开发板上实际部署剪枝前后的模型，测量推理时间、Flash 占用和精度变化。
• 制定剪枝策略：根据实际应用场景（如电池供电、实时性要求高、精度敏感等），制定合理的剪枝比例与微调策略。

最终，你将完成一个完整的“剪枝前后模型文件大小对比”项目，包括：

1. 一个经过剪枝的 TinyML 模型（例如关键词唤醒模型或手势识别模型），其文件大小至少减小 50%，精度损失不超过 2%。
2. 一份详细的对比报告，包含剪枝前后的模型文件大小、推理时间、RAM 占用、精度等关键指标。
3. 一段可复现的 Python 代码，用于自动执行剪枝、转换和文件大小测量。

1.5 常见误区与总结复盘

在开始剪枝之旅前，我们先梳理几个常见的认知误区，帮助你在后续学习中少走弯路。

误区	错误认知	正确理解
误区一	剪枝就是简单地删除权重，模型文件大小自然减小	非结构化剪枝（删除单个权重）后，模型文件可能不会减小，因为稀疏矩阵仍需存储索引信息。只有结构化剪枝（删除整个通道或滤波器）才能有效减小文件大小。
误区二	模型文件越小越好	模型文件过小可能导致精度大幅下降，甚至无法收敛。需要根据应用场景设定精度下限，在满足精度要求的前提下追求最小文件。
误区三	剪枝后不需要微调	剪枝会破坏模型原有的权重分布，必须进行微调（Fine-tuning）以恢复精度。通常需要 5~10 个 epoch 的微调。
误区四	剪枝和量化是同一回事	剪枝是减少权重数量，量化是降低每个权重的位宽（如 FP32→INT8）。两者可以结合使用，但属于不同的优化维度。

总结复盘：本章作为课程导入，我们明确了 TinyML 的定义、应用场景以及模型文件大小的工程意义。核心要点如下：

• TinyML 是在资源极度受限的 MCU 上运行机器学习模型的技术，模型文件大小是决定部署可行性的关键指标。
• 模型文件大小影响硬件成本、推理延迟、OTA 升级成本和系统功耗，需要从系统工程角度综合权衡。
• 剪枝是减小模型文件大小的有效手段，但需要与量化、微调等技术配合使用，并设定合理的精度损失阈值。
• 本课程将通过 30 章的系统学习，帮助你掌握从剪枝原理到实际部署的全链路技能。