3. 经典神经网络回顾与量子化动机

在进入量子神经网络(QNN)之前,有必要把经典神经网络的关键机制重新梳理一遍。QNN 并不是凭空出现的新范式,它的参数化思想、训练循环和优化目标,几乎都能在经典前馈网络中找到对应物。理解这些对应关系,才能看清“量子化”究竟改变了什么、保留了什么。

前馈网络:从输入到输出的确定性映射

一个标准的前馈网络由若干全连接层堆叠而成。设第 l 层的权重矩阵为 W(l)、偏置为 b(l),则该层输出为:

a^(l) = f( W^(l) · a^(l-1) + b^(l) )

其中 f 为非线性激活函数(如 ReLU、Sigmoid、Tanh)。前馈的本质是:输入向量经过一系列线性变换与非线性挤压,逐层映射到输出空间。以手写数字分类为例,输入是 784 维像素向量,经过 128→64→10 的隐藏层结构,最终输出 10 个类别的概率。这个过程中,每一层的权重都是可训练参数,网络容量由层数与每层宽度共同决定。

值得注意的是,前馈网络的计算图是有向无环的:数据单向流动,不存在回路。这一点与量子线路中“酉变换可逆、测量不可逆”的结构形成有趣对照——量子线路的演化本身是可逆的,但测量会引入不可逆的坍缩,这与经典网络中的非线性激活在信息论意义上都有“压缩/丢弃信息”的作用。

反向传播与梯度下降:训练的两条腿

前馈网络定义了“怎么算”,反向传播定义了“怎么学”。训练的目标是最小化损失函数 L(如交叉熵)。反向传播利用链式法则,从输出层向输入层逐层计算损失对每个参数的偏导:

∂L/∂W^(l) = δ^(l) · (a^(l-1))^T
δ^(l)   = (W^(l+1))^T · δ^(l+1) ⊙ f'(z^(l))

得到梯度后,梯度下降按 W ← W − η·∂L/∂W 更新参数,其中 η 为学习率。实际训练中常用小批量随机梯度下降(SGD)或 Adam 等自适应优化器。这里有两个关键点值得强调:其一,梯度计算依赖激活函数的可微性,ReLU 在负半轴梯度为零,可能造成“神经元死亡”;其二,学习率的选择直接影响收敛——过大导致震荡发散,过小导致收敛缓慢。

把这两条腿放在一起看:前馈是前向评估,反向传播是误差归因,梯度下降是参数修正。三者构成一个闭环,这也是 QNN 训练循环的基本骨架。

经典训练闭环 → 量子化映射 经典神经网络训练闭环 输入 x 784维像素向量 前向传播 W·a+b → 激活 损失 L 交叉熵 反向传播 链式法则求梯度 梯度下降更新参数 W ← W − η·∂L/∂W 迭代 量子化后的对应结构 量子态编码 角度/振幅编码 参数化量子线路 旋转门+纠缠门 测量期望值 ⟨Z⟩ 等可观测量 参数梯度 参数移位规则 经典优化器更新 θ θ ← θ − η·∂L/∂θ 量子化 映射

为什么要量子化:动机的三层逻辑

把神经网络“量子化”的动机,可以从三个层面理解。

表达能力的扩展。经典网络的输入输出是实数向量,而量子线路作用于 2n 维希尔伯特空间中的态矢量。一个 n 量子比特的线路天然携带 2n 个复振幅,这种指数级的状态空间为某些函数类(如周期函数、纠缠相关函数)提供了经典网络难以高效逼近的表达能力。典型例子是量子核方法与变分量子线路在特定分类任务上的理论优势。

参数效率的考量。经典大模型的参数量已达千亿级,而变分量子线路(VQC)用几十个旋转门参数就能在低维子空间内构造复杂的酉变换。当然,这并不意味着“参数少就一定好”——量子线路的可训练性和表达能力受限于纠缠结构与测量方式,参数效率与可训练性之间存在张力。

硬件与算法的协同。量子处理器天然执行酉演化,把“网络层”设计成参数化量子门序列,可以让算法与硬件指令集对齐,减少编译开销。这也是变分量子算法(VQA)在近期量子设备上受到关注的原因。

量子化的挑战与典型思路

动机之外,挑战同样明确。首先是数据编码瓶颈:把经典数据映射到量子态需要编码线路,编码深度过大会抵消量子优势。其次是梯度问题:量子线路的梯度通过参数移位规则计算,∂⟨O⟩/∂θ = [⟨O(θ+π/2)⟩ − ⟨O(θ−π/2)⟩]/2,但深线路中梯度可能指数衰减(贫瘠高原现象)。第三是测量开销:每次测量只能得到有限次采样的统计估计,梯度估计需要多次线路执行。

典型思路大致有三类:其一,变分量子线路,用经典优化器训练量子线路参数,是当前最主流的 QNN 形态;其二,量子核方法,用量子线路计算样本间内积,再交给经典分类器;其三,量子-经典混合架构,把量子层嵌入经典网络中间,形成“经典编码—量子处理—经典解码”的流水线。这三类思路的共同点是:量子部分承担特征变换或核计算,经典部分承担优化与决策。

理解 QNN 的一个实用视角:把参数化量子线路看作一个“受量子物理约束的特殊层”,它的前向是酉演化加测量,它的反向是参数移位而非链式法则。训练循环的外壳仍然是经典优化器,这正是“混合”二字的含义。