4. YOLO核心算子解析(上)：Conv2d、BatchNorm、SiLU激活函数、上采样(Upsample)的数学原理与实现

各位同学，欢迎来到第四章。从这章开始，我们正式进入YOLO的“内脏”部分。

很多同学跑完YOLO模型，发现推理速度慢、精度不对，或者部署到NPU上直接报错。问题出在哪？八成是对底层算子理解不够深。你想想看，如果连Conv2d的padding策略都搞不清楚，怎么去排查NPU的算子兼容性问题？

我个人习惯是，在动手适配之前，先把每个算子的数学公式和实现细节吃透。今天我们就来拆解YOLOv5/v8中最核心的四个算子：Conv2d、BatchNorm、SiLU、Upsample。

4.1 Conv2d：YOLO的骨架

Conv2d是YOLO里出现频率最高的算子，没有之一。YOLOv5s的模型里，Conv2d占了总计算量的90%以上。

它的数学公式其实很简单：

输出特征图 = 输入特征图 ⊗ 卷积核 + 偏置

但实际实现时，有几个关键参数决定了它的行为：

• kernel_size：卷积核大小，YOLO里常用3x3和1x1。
• stride：步长，控制输出尺寸的缩放。
• padding：填充方式，YOLO里常用'SAME'或'VALID'。
• groups：分组数，YOLOv5的C3模块里用了分组卷积。

在ONNX中，Conv2d算子有明确的定义。我们来看一个典型的ONNX节点：

node {
  input: "input_tensor"
  input: "conv_weight"
  input: "conv_bias"
  output: "conv_output"
  op_type: "Conv"
  attribute {
    name: "dilations"
    ints: 1
    ints: 1
  }
  attribute {
    name: "group"
    i: 1
  }
  attribute {
    name: "kernel_shape"
    ints: 3
    ints: 3
  }
  attribute {
    name: "pads"
    ints: 1
    ints: 1
    ints: 1
    ints: 1
  }
  attribute {
    name: "strides"
    ints: 2
    ints: 2
  }
}

注意这里的pads属性，它表示上下左右的填充值。很多同学在导出ONNX时，padding设置不对，导致输出尺寸和预期不符。

4.2 BatchNorm：训练和推理的差异

BatchNorm在训练时和推理时的行为完全不同。这一点，我见过太多人搞混了。

训练时，BN的公式是：

y = gamma * (x - mean) / sqrt(var + eps) + beta

其中mean和var是当前batch的统计量。

推理时，BN使用训练过程中累积的running_mean和running_var，不再计算当前batch的统计量。

BN融合的数学原理很简单：

Conv2d: y = w * x + b
BN:     y' = gamma * (y - mean) / sqrt(var + eps) + beta

融合后：
w' = w * gamma / sqrt(var + eps)
b' = (b - mean) * gamma / sqrt(var + eps) + beta

这样，我们就把两个算子合并成了一个。在ONNX中，我们可以通过torch.nn.utils.fuse_conv_bn_eval来实现。

4.3 SiLU激活函数：平滑的ReLU替代品

SiLU，也叫Swish，是YOLOv5/v8中默认的激活函数。它的公式是：

SiLU(x) = x * sigmoid(x)

为什么YOLO要用SiLU而不是ReLU？说白了，SiLU在负半轴不是完全截断的，而是有一个平滑的过渡。这有助于梯度流动，让模型训练得更稳定。

从数学上看，SiLU的导数也很优雅：

d(SiLU)/dx = sigmoid(x) * (1 + x * (1 - sigmoid(x)))

这个导数在x=0附近是平滑的，不会像ReLU那样在0点处导数突变。

在ONNX中，SiLU通常被表示为：

node {
  input: "x"
  output: "silu_output"
  op_type: "Sigmoid"
}
node {
  input: "x"
  input: "silu_output"
  output: "final_output"
  op_type: "Mul"
}

也就是说，ONNX里没有原生的SiLU算子，而是用Sigmoid + Mul组合来实现。这一点在算子适配时要特别注意。

4.4 Upsample：特征图放大

Upsample在YOLO中主要用于FPN/PAN结构，把低分辨率的特征图放大到高分辨率，然后进行特征融合。

YOLOv5/v8默认使用最近邻插值，因为它计算简单，速度快。公式也很直观：

输出像素值 = 输入中距离最近的像素值

举个例子，如果放大倍数是2，那么输出中(0,0)位置的像素值，就等于输入中(0,0)位置的像素值。

在ONNX中，Upsample算子的定义如下：

node {
  input: "input_feature"
  input: "scales"
  output: "upsampled_output"
  op_type: "Resize"
  attribute {
    name: "mode"
    s: "nearest"
  }
  attribute {
    name: "coordinate_transformation_mode"
    s: "asymmetric"
  }
}

注意这里的coordinate_transformation_mode属性。不同的框架对这个属性的默认值不同，PyTorch和TensorFlow的默认值就不一样。我遇到过一个问题：PyTorch导出的ONNX，在TensorRT上推理时，Upsample的输出和PyTorch不一致。排查了半天，发现就是coordinate_transformation_mode设置不同导致的。

下表总结了四个算子的关键适配要点：