2. 模型轻量化技术（上）：模型剪枝原理与实现

模型剪枝，说白了就是给神经网络“瘦身”。

你想想看，一个训练好的大模型，里面其实有很多参数是冗余的。就像一棵大树，有些枝叶虽然长着，但光合作用效率极低。剪掉它们，树反而长得更好。

我在农业AI项目里遇到过好几次这种情况：模型在服务器上跑得飞快，一部署到田间的边缘设备上，直接卡死。内存不够，推理延迟高得离谱。怎么办？剪枝就是第一把刀。

2.1 剪枝的核心逻辑

剪枝的本质，是移除模型中不重要的连接或神经元。判断“重要性”的标准有很多，最常见的是看权重绝对值的大小。

我个人习惯用这个比喻：权重就像神经网络里的“话语权”。权重小的神经元，说话没人听，留着干嘛？直接砍掉。

但这里有个坑。我曾经天真地以为，剪完枝直接部署就完事了。结果模型精度掉得一塌糊涂。为什么？因为剪枝太猛，把关键路径剪断了。

2.2 结构化剪枝 vs 非结构化剪枝

这是剪枝领域最核心的分水岭。我刚开始接触时也搞混过，后来在部署一个小麦病害检测模型时，才真正体会到两者的天壤之别。

2.2.1 非结构化剪枝

非结构化剪枝，是对单个权重下手。它不管什么通道、什么卷积核，只看哪个权重不重要，直接把它置零。

• 粒度：单个权重（细粒度）
• 效果：压缩率高，理论上可以剪掉90%以上的参数
• 痛点：权重变成稀疏矩阵，普通硬件加速不了

举个例子，你有一个卷积层，里面有1000个权重。非结构化剪枝可能只保留其中200个非零值，其余800个都是0。模型文件变小了，但推理时，CPU/GPU还是得处理这些0，计算量没降多少。

2.2.2 结构化剪枝

结构化剪枝，是对整个结构单元下手。比如剪掉一个卷积核、一个通道、甚至一个层。它不产生稀疏矩阵，而是直接改变网络结构。

• 粒度：通道/卷积核/层（粗粒度）
• 效果：压缩率相对低一些，但推理速度提升明显
• 优势：剪完后的模型是“胖”的，硬件直接支持

我在部署水稻病虫害模型时，用的就是结构化剪枝。把不重要的通道直接删掉，模型体积从50MB降到12MB，推理速度提升了3倍，精度只掉了0.5%。微调两轮就回来了。

2.3 两种剪枝方式的对比

对比维度	非结构化剪枝	结构化剪枝
剪枝粒度	单个权重	通道/卷积核/层
压缩率	高（可达90%+）	中（通常30%-60%）
推理加速	依赖稀疏计算库	直接加速，无需特殊硬件
硬件兼容性	差（多数芯片不支持）	好（通用硬件直接跑）
精度恢复难度	较难（微调周期长）	较易（微调几轮即可）
部署场景	云端/学术研究	边缘设备/嵌入式

看到这个表，你应该明白了。在农业AI部署中，我几乎只推荐结构化剪枝。为什么？因为田间的设备大多是树莓派、Jetson Nano这类边缘盒子，它们没有稀疏计算能力。结构化剪枝剪完，模型直接变小变快，立竿见影。

2.4 结构化剪枝的代码实现

光说不练假把式。下面我用 PyTorch 演示一个最简单的通道剪枝。这个代码我在部署棉花病害模型时用过，效果不错。

import torch
import torch.nn as nn
import torch.nn.utils.prune as prune

# 定义一个简单的卷积层
conv = nn.Conv2d(3, 64, kernel_size=3)

# 结构化剪枝：按通道的 L2 范数排序，剪掉最不重要的 20% 通道
def channel_prune(conv, prune_ratio=0.2):
    # 计算每个卷积核的 L2 范数
    weight = conv.weight.data  # shape: [64, 3, 3, 3]
    l2_norm = torch.norm(weight.view(weight.size(0), -1), dim=1)
    
    # 找到要保留的通道索引
    num_channels = weight.size(0)
    num_keep = int(num_channels * (1 - prune_ratio))
    _, indices = torch.topk(l2_norm, num_keep)
    
    # 只保留重要通道
    conv.weight.data = weight[indices]
    if conv.bias is not None:
        conv.bias.data = conv.bias[indices]
    
    # 更新输出通道数
    conv.out_channels = num_keep
    
    return conv

# 执行剪枝
pruned_conv = channel_prune(conv, prune_ratio=0.3)
print(f"剪枝前: 64通道, 剪枝后: {pruned_conv.out_channels}通道")

2.5 知识体系总览

为了让你更直观地理解剪枝的全局脉络，我画了一张图。它把剪枝的分类、流程和部署决策串在了一起。

2.6 剪枝后的微调策略

剪枝不是终点。剪完后的模型，精度一定会掉。我见过有人剪完直接部署，结果模型在田里乱识别，把杂草当成了水稻。

正确的做法是：剪枝 + 微调。微调时，我建议用更小的学习率，大概是原始训练的十分之一。同时，只训练剪枝后保留的参数，被剪掉的部分冻结不动。

嗯，这里要注意。微调不是万能的。如果剪枝率超过 50%，精度可能很难恢复。我一般控制在 30%-40% 之间，这样既能显著减小模型，又能通过微调把精度拉回 98% 以上。