1. 课程导入与问题界定
量子机器学习(QML)常被寄予厚望:借助量子态的高维希尔伯特空间与纠缠表达能力,模型似乎天然具备更强的拟合能力。但“表达能力更强”恰恰意味着过拟合风险并不比经典模型小,甚至更隐蔽。本节作为全课程起点,先厘清一个核心问题:在量子机器学习中,过拟合到底长什么样、从哪来、如何被诊断,并给出贯穿后续 29 节的诊断与改进整体框架。
一、为什么量子模型的过拟合更“难看见”
经典过拟合的典型信号是训练损失持续下降而验证损失回升,配合参数范数增大、泛化间隙扩大。量子模型同样会出现这些现象,但多了几层“遮蔽”:
- 测量采样噪声:量子线路输出的是期望值估计,需通过有限次测量(shots)获得。若每轮仅用 1024 shots,单点估计标准差约为
sqrt(p(1-p)/N),在 p≈0.5 时约 0.0156。验证损失曲线会因采样噪声而抖动,容易被误判为“过拟合波动”或掩盖真实回升。 - 参数化线路的表达能力与数据规模不匹配:变分量子线路(VQC)的参数量、纠缠层数与可训练频率共同决定容量。层数堆叠过多时,模型可在训练集上逼近任意标签,但泛化间隙迅速扩大。
- 贫瘠高原与训练动态耦合:梯度随量子比特数指数衰减,优化器可能长时间停在“看似收敛”的平台区,训练损失与验证损失都居高不下,形成“欠拟合假象”,掩盖了容量过剩问题。
- 数据编码本身引入偏差:角度编码、振幅编码对特征尺度敏感,编码层若与可训练层耦合过紧,模型可能记忆训练样本的编码指纹而非学习规律。
因此,QML 过拟合诊断不能照搬经典流程,必须把采样预算、线路容量、编码方式、优化动态四个量子特有因素纳入同一分析框架。
二、量子模型与传统模型过拟合的异同
相同点在于本质:模型容量超过数据所支持的有效复杂度时,训练集经验风险下降而真实风险上升。不同点集中在“容量从哪来”和“噪声如何干扰判断”两处。经典模型容量主要由参数数量、网络宽度深度决定;量子模型的容量还取决于纠缠结构、测量算符选择与编码映射。经典训练噪声多来自随机初始化与小批量采样,量子模型则叠加了本质性的测量采样噪声与硬件退相干噪声。
| 对比维度 | 经典模型 | 量子模型 |
|---|---|---|
| 容量来源 | 参数量、层数、宽度 | 参数量、纠缠层、编码映射、测量算符 |
| 训练信号噪声 | 小批量采样噪声 | shots 采样噪声 + 退相干 + 门误差 |
| 典型过拟合信号 | 验证损失回升、泛化间隙扩大 | 同样信号,但被采样抖动掩盖,需多次重复估计 |
| 正则化手段 | 权重衰减、Dropout、早停 | 线路简化、纠缠约束、数据增强、噪声注入、早停 |
三、诊断与改进的整体框架
本课程后续内容围绕一条主线展开:先量化泛化间隙,再定位容量与噪声来源,最后施加针对性改进并复验。下图给出整体框架,也是后续各节将逐层展开的路线图。
框架分四层:输入层决定数据划分与编码,模型层决定容量,训练层决定优化与采样预算,诊断层负责量化泛化间隙,改进层施加干预,最后回到测试集复验。注意图中诊断层特别标注“多次重复估计消除 shots 抖动”,这是量子场景下与经典流程最实质的差异之一。
四、一个可操作的教学示例
设一个二分类任务,训练集 200 条、验证集 80 条,特征 4 维,采用角度编码 + 4 量子比特 VQC。基线配置:2 个纠缠层、8 个可训练参数、每轮 2048 shots、Adam 优化器、学习率 0.05。合理假设下,训练 60 轮后可能出现:训练损失从 0.69 降至 0.21,验证损失先降至 0.34 后回升至 0.41,泛化间隙约 0.20。此时不应立即判定过拟合,而应先做重复估计:对验证集用 3 组不同随机种子各测 5 次,若验证损失均值仍稳定在 0.40 以上且标准差小于 0.02,则可确认回升不是采样噪声。随后把纠缠层从 2 层减到 1 层、参数量降到 4,重新训练,若验证损失稳定在 0.30 附近且训练损失约 0.28,泛化间隙收窄到 0.02 量级,说明容量约束有效。以上数值为教学示例,实际结果需以真实运行日志为准。
五、课程目标与学习路径
完成本课程后,你应能:独立设计 QML 过拟合诊断实验,区分采样噪声与真实泛化退化;根据线路容量、编码方式与数据规模给出改进方案;用测试集复验改进效果并形成可复现的记录。学习路径按“问题界定 → 诊断方法 → 改进手段 → 综合案例”推进,本节建立的四层框架将在后续各节被反复引用和细化。