课程导入：学习目标、核心概念、整体框架——理解时序模型压缩在Edge AI中的重要性

欢迎来到《Edge AI时序模型压缩》课程。在正式进入参数压缩的技术细节之前，我们首先需要建立对整个领域的宏观认知。本章作为全课程的基石，将帮助你明确学习目标、掌握核心概念、理解整体框架，并深刻认识到时序模型压缩在边缘人工智能（Edge AI）部署中的战略意义。我们将从“为什么需要压缩”这一根本问题出发，逐步剖析边缘设备面临的资源约束、时序数据的独特挑战，以及模型压缩如何成为连接先进AI算法与物理世界之间的关键桥梁。

1.1 学习目标：从“能跑”到“跑得好”

本课程的学习目标并非仅仅停留在“把模型变小”这一单一维度，而是建立一套系统化的工程思维。完成本章及后续学习后，你将能够：第一，准确识别边缘设备上部署时序模型时的资源瓶颈，并量化评估模型的计算量（FLOPs）、参数量（Params）、内存占用（RAM/Flash）和延迟（Latency）等关键指标；第二，掌握针对时序模型（如LSTM、GRU、TCN、1D-CNN）的专用压缩策略，理解通用压缩方法在时序结构上的适配与限制；第三，构建一套从“模型训练→压缩→评估→部署”的完整工作流，能够根据具体的传感器类型（加速度计、陀螺仪、心率传感器等）和应用场景（异常检测、行为识别、故障诊断）选择最合适的压缩组合方案。

更重要的是，我们希望培养你的“压缩感知”能力——即在设计模型架构之初就考虑部署约束，而非在训练完成后再进行“补救式”压缩。这种前置思维能够显著减少迭代成本，并提升最终部署模型的鲁棒性。课程将围绕一个贯穿始终的案例——基于加速度计的工业设备振动分类模型——展开，该模型需要部署在基于Cortex-M4内核的MCU上，Flash容量仅512KB，RAM仅128KB，这将是检验所有压缩技术有效性的“试金石”。

1.2 核心概念：时序模型、Edge AI与模型压缩

在深入技术细节之前，我们必须厘清三个核心概念的内涵与外延，避免在后续学习中产生混淆。

（1）Edge AI（边缘人工智能）：指在靠近数据源头的物理设备上直接运行AI算法，而非将数据上传至云端处理。其核心价值在于低延迟（无需网络往返）、数据隐私（敏感数据不出本地）、离线可用（不依赖网络连接）以及带宽节省。然而，边缘设备的资源极度受限，这构成了AI部署的主要矛盾。

（2）时序模型（Temporal Models）：特指处理具有时间顺序依赖关系数据的模型。与图像（空间数据）不同，时序数据（如振动波形、心电信号、温度变化）的每个样本点与其前后样本点存在强关联。经典模型包括：RNN家族（LSTM、GRU，擅长捕捉长短期依赖）、TCN（时间卷积网络，通过膨胀因果卷积实现并行计算）、以及1D-CNN（轻量级时序特征提取器）。这些模型的结构差异直接影响了压缩策略的选择——例如，对LSTM进行剪枝时需考虑其门控结构的特殊性，而对TCN剪枝则更接近CNN的通道剪枝。

（3）模型压缩（Model Compression）：指在保持模型性能（精度、召回率等）基本不变的前提下，通过特定算法减少模型的存储体积、计算复杂度和内存占用。主要技术路线包括：参数剪枝（移除不重要的权重或神经元）、量化（降低权重和激活值的位宽，如从FP32降至INT8）、低秩分解（将权重矩阵分解为多个小矩阵的乘积）、知识蒸馏（用大模型指导小模型训练）以及轻量架构设计（直接设计高效算子）。对于时序模型，还需额外关注时间步展开带来的计算图膨胀问题。

1.3 整体框架：四步走压缩方法论

本课程将遵循一个清晰的四阶段框架，帮助你系统化地实施压缩工程。这一框架并非线性流程，而是包含反馈回路的迭代过程。

阶段	核心任务	关键技术	输出物
阶段一：分析与基准	评估原始模型资源消耗，建立性能基线	FLOPs计算、参数量统计、内存分析、延迟测量	资源消耗报告、精度基线
阶段二：压缩实施	应用一种或多种压缩技术	剪枝、量化、蒸馏、低秩分解	压缩后模型文件
阶段三：微调与恢复	恢复因压缩损失的精度	知识蒸馏微调、学习率调度、正则化	高精度压缩模型
阶段四：部署与验证	在目标硬件上验证实际效果	模型转换（TFLite Micro/CMSIS-NN）、硬件在环测试	可部署的二进制文件、实测报告

这一框架的核心在于“评估-压缩-再评估”的闭环。很多初学者容易忽略阶段一的深度分析，直接跳到压缩步骤，导致压缩后的模型在硬件上出现意外的性能下降（如INT8量化后精度暴跌）。因此，我们将在第2章详细讲解如何建立准确的资源消耗模型。

1.4 案例拆解：为什么一个简单的LSTM无法部署在MCU上？

让我们通过一个具体的量化案例来直观感受时序模型压缩的必要性。假设我们要部署一个用于工业风机轴承故障分类的LSTM模型，输入为3轴加速度计的振动信号，采样频率为2kHz，窗口长度为1秒（即2000个时间步）。模型结构为一个隐藏层包含128个LSTM单元的LSTM网络，后接一个全连接分类层（4类故障）。

初始参数计算：LSTM单元的参数公式为：4 × (输入维度 + 隐藏单元数) × 隐藏单元数。输入维度为3（三轴），隐藏单元数为128。则单个LSTM层的参数量为：4 × (3 + 128) × 128 = 67,072个参数。加上全连接层（128×4 + 4偏置 = 516个参数），总参数量约为67,588个。若以FP32（4字节）存储，模型大小为 67,588 × 4 ≈ 270KB。这看似不大，但请注意：LSTM的推理过程需要保存所有时间步的隐状态和细胞状态。对于2000个时间步，每个时间步需要保存128个浮点数的隐状态和128个浮点数的细胞状态，即每个时间步需要 128×2×4 = 1KB。但通常我们不需要保存所有时间步的隐状态用于反向传播（推理时只需保留最后一步），然而在推理时，中间隐状态的计算需要临时存储，且计算量巨大。

计算量（FLOPs）估算：LSTM单个时间步的计算量约为：4 × (输入维度 + 隐藏单元数) × 隐藏单元数 × 2（乘加算两次操作）。即 4 × (3+128) × 128 × 2 = 134,144 FLOPs。对于2000个时间步，总计算量约为 268 MFLOPs。而一个典型的Cortex-M4内核MCU，在168MHz主频下，其峰值算力约为 168M × 1（MAC/cycle）≈ 168 MMAC/s，即约336 MFLOPs/s。这意味着，仅运行一次LSTM推理就需要约0.8秒，这远远无法满足实时性要求（通常要求<50ms）。

内存瓶颈：更致命的是内存。LSTM的权重矩阵为 4×128×128 = 65,536个参数，加上输入权重 4×3×128 = 1,536个参数，总计约67,000个FP32参数，占用约268KB Flash。但MCU的Flash通常只有512KB，且还需存储程序代码和操作系统。此外，推理时所需的中间激活值缓冲区（用于存储每个时间步的隐状态）至少需要 128×4 = 512字节，但若考虑批量处理或梯度计算，内存占用会急剧膨胀。

压缩方案设计：面对上述瓶颈，我们采用组合压缩策略。首先，将LSTM替换为1D-CNN + 全局平均池化结构，参数量可降至约5,000个（减少93%）。其次，应用INT8量化，将模型大小从约20KB（FP32）降至5KB。最后，通过知识蒸馏，用原始LSTM作为教师网络，指导轻量CNN学生网络的训练，以恢复因结构简化带来的精度损失。经过压缩后，模型大小降至4.8KB，单次推理计算量降至2.3 MFLOPs，在MCU上推理时间约为15ms，完全满足实时性要求，且分类精度仅下降1.2%。

1.5 常见误区与总结复盘

在课程导入阶段，我们需要澄清几个常见的认知误区，这些误区可能导致后续学习方向偏差。

• 误区一：压缩只是“减小模型文件大小”。实际上，模型文件大小只是最表面的指标。更关键的是运行时内存峰值（RAM占用）和计算延迟。一个模型文件可能很小，但推理时需要巨大的临时缓冲区，导致无法在MCU上运行。
• 误区二：所有压缩方法对所有模型都有效。例如，非结构化剪枝（将权重置零）虽然能减少参数量，但稀疏矩阵在硬件上难以加速，除非硬件支持稀疏计算。对于时序模型，结构化剪枝（如剪掉整个LSTM单元或卷积通道）更利于硬件实现。
• 误区三：量化就是简单的“FP32转INT8”。时序模型对量化误差更敏感，尤其是LSTM中的门控激活函数（sigmoid/tanh）在低比特下容易饱和。需要采用逐层混合量化或量化感知训练来缓解。
• 误区四：压缩后无需微调。几乎所有压缩技术都会引入精度损失，必须通过微调（Fine-tuning）来恢复性能。微调时需使用较小的学习率，并冻结部分层。

总结复盘：本章我们建立了课程的整体认知框架。核心要点如下：第一，Edge AI的部署约束（计算、存储、功耗、实时性）是压缩的根本驱动力；第二，时序模型的结构特性（时间依赖、状态记忆）决定了压缩策略必须兼顾空间与时间维度；第三，一个完整的压缩流程包含分析基准、压缩实施、微调恢复、部署验证四个阶段，且需要迭代优化；第四，通过LSTM部署案例，我们直观看到了未压缩模型在MCU上的不可行性，以及组合压缩策略带来的显著效果。在下一章中，我们将深入探讨如何精确测量模型的资源消耗，为后续压缩决策提供数据支撑。