3. 模型压缩基础
无人机机载平台对深度学习模型的部署约束极为苛刻：算力通常仅有几TOPS到几十TOPS，内存带宽受限，且必须满足实时性要求（如目标检测需在30ms内完成单帧推理）。在模型精度与资源占用之间寻找平衡点，是无人机模型量化部署的核心命题。剪枝、蒸馏、量化是三种最基础且互补的模型压缩技术，它们分别从结构稀疏化、知识迁移和数值精度降维三个维度切入，解决不同层面的部署瓶颈。理解三者的原理边界、操作流程和适用场景，是后续进行混合压缩策略设计的前提。
3.1 剪枝：从结构上剔除冗余
核心原理：剪枝的核心假设是深度神经网络中存在大量冗余参数，移除这些参数不会显著影响模型表达能力。剪枝分为非结构化剪枝和结构化剪枝两类。非结构化剪枝将权重矩阵中值小于阈值的单个元素置零，产生细粒度稀疏，理论上压缩比高，但实际推理时需要稀疏卷积库或专用硬件支持，在通用NPU上加速效果有限。结构化剪枝则以通道（Channel）、滤波器（Filter）或层为最小单位进行裁剪，直接改变张量形状，虽然压缩比略低，但能直接利用现有BLAS库和NPU加速，是无人机部署的主流选择。
判断方法与操作流程：选择剪枝方案需评估三个关键指标：模型冗余度（可通过分析权重分布和激活值稀疏度判断）、目标硬件对稀疏计算的支持程度、以及精度敏感度。标准流程包括：
- 预训练：确保模型在原始任务上充分收敛，剪枝前精度需高于目标精度2-3个百分点作为冗余。
- 重要性评估：常用L1/L2范数、BN层缩放因子、泰勒展开梯度等指标衡量通道重要性。
- 迭代剪枝-微调：每次剪掉5%-10%的通道，然后微调恢复精度，重复多轮。
- 全局重训练：最终剪枝完成后，进行较长周期的重训练以恢复最终精度。
3.2 知识蒸馏：让轻量模型学习“暗知识”
核心原理：知识蒸馏通过训练一个参数量庞大的教师模型（Teacher），将知识迁移到参数量较小的学生模型（Student）。其关键创新在于使用教师模型的软标签（Soft Label，即类别概率分布）而非硬标签（One-hot）来训练学生。软标签包含了类别间的相似性信息（例如“猫”和“狗”的概率分布中隐含了二者视觉特征的相似度），这种“暗知识”能有效引导学生模型收敛到更好的局部最优。蒸馏温度T控制软标签的平滑程度，T越高，概率分布越均匀，暗知识暴露越充分。
操作流程与关键参数：蒸馏训练的核心是损失函数设计，通常由学生模型的硬标签交叉熵损失和软标签KL散度损失加权组成：
L = α * CE(y_student, y_hard) + (1-α) * T² * KL(softmax(z_student/T), softmax(z_teacher/T))其中α为权重系数，T为温度参数，z为logits输出。T²因子用于平衡梯度尺度。实际调参中，T通常设置在3-8之间，α在0.7-0.9之间。蒸馏的适用场景非常明确：当需要将模型压缩到极小规模（如MobileNetV3-Small或自研微型网络）时，仅靠剪枝和量化无法维持精度，蒸馏是唯一能有效恢复精度的手段。
| 对比维度 | 剪枝 | 知识蒸馏 | 量化 |
|---|---|---|---|
| 压缩机制 | 移除冗余结构 | 知识迁移+结构重设计 | 降低数值精度 |
| 典型压缩比 | 2x-5x | 3x-10x | 3x-4x（INT8） |
| 精度恢复方式 | 微调/重训练 | 蒸馏训练 | PTQ校准/QAT训练 |
| 硬件适配性 | 需稀疏加速支持 | 通用 | 通用（NPU/GPU/DSP） |
| 训练成本 | 中（多轮微调） | 高（需训练教师模型） | 低（PTQ）至高（QAT） |
| 主要风险 | 结构破坏导致精度崩塌 | 教师模型质量瓶颈 | 激活值分布偏移 |
| 最佳适用场景 | 大模型冗余压缩 | 极小型模型设计 | 通用部署前处理 |
3.3 量化：从数值精度上降本增效
核心原理：量化将浮点32位（FP32）权重和激活值映射到低比特整数（如INT8、INT4），核心是确定缩放因子（Scale）和零点（Zero Point）。对称量化将数值范围映射到[-127, 127]，非对称量化则利用零点映射到[0, 255]，后者对ReLU激活后的非负分布更友好。量化误差主要来源于数值范围的截断和舍入，因此校准策略至关重要。训练后量化（PTQ）使用少量校准数据集统计激活值分布，确定最优量化参数，无需重新训练；量化感知训练（QAT）则在训练过程中模拟量化误差，让模型自适应调整权重分布，精度更高但训练成本增加。
判断方法与操作流程：选择PTQ还是QAT，取决于精度损失是否在可接受范围内。经验法则是：若PTQ后精度下降小于0.5%，直接采用PTQ；若下降在0.5%-2%之间，优先尝试优化校准策略（如使用更多校准样本、逐通道量化、混合精度量化）；若下降超过2%，则必须使用QAT。在无人机视觉任务中，检测模型对量化比分类模型更敏感，因为边界框回归需要较高的数值精度。
3.4 案例拆解：无人机视觉检测模型的混合压缩实战
背景与约束：某工业无人机项目需要在瑞芯微RK3588平台（6 TOPS NPU）上部署实时目标检测模型，要求：检测帧率≥30FPS，mAP≥0.85（COCO标准），模型文件≤10MB。初始模型为YOLOv5m（21MB，FP32），在RK3588上实测帧率仅12FPS，无法满足要求。
初始现象与目标差距：模型体积超标2.1倍，帧率差距2.5倍，精度尚有余量（原始mAP为0.89）。
分析判断过程：首先评估三种技术的适用性。RK3588 NPU对稀疏计算支持有限，非结构化剪枝不适用；结构化剪枝可减少计算量，但NPU对通道数有对齐要求（通常为8或16的倍数），需谨慎设计。蒸馏可以压缩模型结构，但需要额外训练教师模型，周期较长。量化是NPU部署的必经之路，但单独量化只能将模型压缩至约5.3MB（INT8），帧率提升至约25FPS，仍差5FPS。因此决定采用“结构化剪枝→蒸馏→量化”的组合策略。
实际操作步骤：
- 结构化剪枝：对YOLOv5m的Backbone和Neck部分按通道L2范数进行重要性排序，以8通道为对齐单位，迭代剪枝40%。剪枝后模型体积降至12.8MB，帧率提升至20FPS，mAP降至0.86。
- 知识蒸馏：以原始YOLOv5m为教师模型，剪枝后的模型为学生模型，进行200轮蒸馏训练。温度T=5，α=0.8。蒸馏后mAP恢复至0.875。
- 量化：对蒸馏后的模型进行PTQ量化，使用500张验证集图像进行KL散度校准。量化后模型体积为3.8MB，帧率达到33FPS，mAP为0.862。
结果对比与复盘：最终模型满足全部指标，且留有约10%的帧率余量。复盘经验：①剪枝比例需结合NPU硬件对齐要求，盲目追求高压缩比会导致NPU利用率下降；②蒸馏对剪枝后的精度恢复效果显著，但需注意教师模型与学生模型的结构差异不宜过大；③PTQ校准集应覆盖不同光照和天气条件，避免量化参数过拟合单一场景。风险与代价：整个压缩流程耗时约3天（含训练），且蒸馏阶段需要额外GPU资源，但相比重新设计轻量网络，周期缩短了约60%。