4、剪枝粒度分类：细粒度、向量级、核级、通道级、层级剪枝的对比与适用场景

在Edge AI的结构化剪枝实践中，剪枝粒度决定了模型稀疏化的基本单元、存储格式、硬件加速效率以及精度恢复的难度。粒度选择本质上是“灵活性”与“结构性”之间的权衡：粒度越细，理论上可去除的冗余参数越多，但产生的非结构化稀疏模式对硬件缓存和并行计算极不友好；粒度越粗，剪枝后张量形状越规整，越容易映射到NPU、DSP或GPU Tensor Core等并行单元，但可剪除的冗余比例往往受限。本章系统对比五种主流剪枝粒度——细粒度（非结构化）、向量级、核级（Filter/Kernel级）、通道级（Channel级）和层级（Layer级），从数学定义、硬件适配性、精度影响和工程落地四个维度展开，帮助开发者在模型压缩项目中做出合理的粒度决策。

4.1 五种粒度的定义与数学表达

剪枝粒度的本质是对权重张量 W ∈ R^{C_out × C_in × K_h × K_w} 施加不同形状的稀疏掩码（Mask）。细粒度剪枝（Fine-grained Pruning）对每个独立权重元素施加0/1掩码，掩码矩阵与权重张量形状完全一致，稀疏模式完全非结构化。向量级剪枝（Vector-level Pruning）以一行、一列或一个连续块为最小剪枝单元，例如将 K_h × K_w 卷积核中的某一行全部置零，或对全连接层权重矩阵的某一列进行裁剪。核级剪枝（Kernel-level Pruning）将单个卷积核 K_h × K_w 整体置零，即 W[n, :, :, :] 中某个输入通道对应的卷积核被完全移除。通道级剪枝（Channel-level Pruning）则直接删除整个输出通道 W[n, :, :, :] 及其对应的特征图，同时影响下一层的输入通道数。层级剪枝（Layer-level Pruning）最为激进，直接跳过或删除整个卷积层、全连接层或残差块。

从存储和计算角度看，细粒度剪枝需要额外的索引矩阵记录非零权重位置，通常采用CSR（Compressed Sparse Row）或CSC格式存储，内存开销约为稠密模型的30%-50%。向量级剪枝的索引开销略低，但依然需要记录非零块的位置。核级和通道级剪枝由于剪枝单元规整，只需记录保留的通道索引或核索引，索引开销可忽略不计。层级剪枝则完全改变网络拓扑结构，无需任何掩码存储。

4.2 粒度选择的判断方法与硬件适配性分析

选择剪枝粒度时，首先需要明确目标硬件平台的计算特性。CPU平台通常支持SIMD指令集（如ARM NEON、x86 AVX），对向量级剪枝有较好的加速效果，因为SIMD指令天然按128位或256位向量处理数据。GPU平台（如NVIDIA Jetson系列）的Tensor Core支持2:4结构化稀疏模式，即每4个连续权重中保留2个，这属于一种特殊的向量级剪枝。NPU（如瑞萨RZ/V系列、耐能KL720）通常要求通道数为4或8的整数倍，通道级剪枝需要对齐到硬件支持的最小通道粒度。DSP（如高通Hexagon）对核级剪枝的缓存命中率较高，因为去除整个卷积核后，DMA传输的数据块更加规整。

判断流程建议遵循以下步骤：第一步，统计模型各层的参数分布和计算量占比，确定剪枝的重点层（通常是卷积层和全连接层）；第二步，查阅目标硬件的数据手册或基准测试报告，确认其支持的最小稀疏粒度；第三步，在验证集上对不同粒度进行小规模对比实验，观察精度-压缩率曲线；第四步，结合模型部署时的内存带宽和延迟要求，选择最优粒度组合。例如，对于内存带宽受限的Edge设备，通道级剪枝能直接减少特征图的内存占用，效果优于核级剪枝；而对于计算单元利用率低的设备，核级剪枝可能更合适。

4.3 案例拆解：MobileNetV3在Cortex-M55上的粒度选择实战

某智能家居产品需要在Cortex-M55内核的MCU上部署MobileNetV3-Small图像分类模型（输入尺寸96×96，参数量约1.5M，FLOPs约56M）。初始模型在STM32H747上推理延迟为385ms，远超过产品要求的100ms实时响应。团队面临三种剪枝方案的选择：细粒度剪枝（目标稀疏度80%）、通道级剪枝（目标压缩率50%）和层级剪枝（移除最后一个Bottleneck块）。

通过分析Cortex-M55的CMSIS-NN库特性，团队发现该内核支持4元素向量的SIMD指令，但对非结构化稀疏矩阵的加速效果极差——实测80%稀疏度的细粒度模型仅获得1.2倍加速，因为权重解码开销抵消了计算节省。通道级剪枝方案中，团队对每个Bottleneck块的通道数进行L1正则化训练，最终将最后一个Bottleneck的通道从96剪至48，同时将第一个卷积层的32通道剪至24，模型参数量降至0.9M，FLOPs降至31M。层级剪枝方案则直接移除了最后一个Bottleneck块，参数量降至1.1M，FLOPs降至42M，但精度下降了4.2%。

实际部署测试结果：通道级剪枝后的模型在Cortex-M55上延迟为82ms，精度仅下降1.8%（从87.3%降至85.5%），满足产品需求。层级剪枝方案延迟为95ms，但精度下降过多。细粒度方案延迟为320ms，几乎无实际加速效果。团队最终选择通道级剪枝，并额外使用8bit量化将模型进一步压缩至0.45MB Flash占用。复盘经验：在MCU类设备上，通道级剪枝是唯一能同时获得存储和延迟收益的粒度方案，细粒度剪枝在缺乏专用稀疏加速指令的平台上几乎没有工程价值。

4.4 常见误区与工程复盘

误区一：盲目追求高稀疏度。许多开发者以稀疏度作为唯一指标，但稀疏度并不等于实际加速比。在Cortex-M55上，70%稀疏度的细粒度模型仅获得1.1倍加速，而50%通道剪枝可获得2.1倍加速。衡量剪枝效果应使用实际推理延迟而非稀疏度百分比。

误区二：忽略通道对齐约束。NPU和DSP通常要求通道数为4、8或16的倍数。若通道级剪枝后某层通道数变为36，而硬件要求对齐到40，则实际节省的计算量远低于预期。剪枝前必须查阅硬件文档，将通道数对齐到硬件粒度。

误区三：层级剪枝的“一刀切”风险。直接删除整个层虽然实现简单，但会破坏残差连接或改变特征图维度，导致精度骤降。层级剪枝更适合与知识蒸馏结合，用教师网络指导剪枝后的学生网络训练。

误区四：混合粒度策略的缺失。实际工程中，不同层对剪枝粒度的敏感度不同。浅层特征包含更多底层纹理信息，适合保守的通道级剪枝；深层特征冗余度更高，可尝试核级剪枝。建议采用“通道级为主、核级为辅”的混合策略，在保持硬件友好性的同时提高压缩率。

总结而言，剪枝粒度的选择应遵循“硬件优先、精度兜底、组合优化”的原则。在Edge AI场景中，通道级剪枝是性价比最高的起点，核级剪枝可作为补充手段，细粒度剪枝仅在目标硬件明确支持稀疏计算（如NVIDIA 2:4模式）时才值得考虑。层级剪枝则更适合作为极端压缩场景下的最后手段，且必须配合知识蒸馏或重新训练使用。开发者应建立“粒度-硬件-精度”的三维评估矩阵，在项目早期就确定最优粒度组合，避免后期返工。