4. 半监督学习基本范式
在医学影像分割与分类任务中,标注成本极高:一位放射科医师勾画一例肝脏肿瘤边界往往需要 10~30 分钟,而同一批未标注的 CT/MR 数据却可以成百上千地获得。半监督学习(Semi-Supervised Learning, SSL)正是利用“少量标注 + 大量未标注”这一现实分布的核心技术路线。本节围绕四类基本范式——一致性正则、伪标签、熵最小化与生成式方法——讨论它们在医学影像中的适配方式、关键参数与常见陷阱。
一、一致性正则:让扰动下的预测保持稳定
一致性正则(Consistency Regularization)的核心假设是:对同一张未标注图像施加两种不改变语义的扰动,模型应给出相近的预测。医学影像中“不改变语义”的扰动包括:随机旋转(±15°)、弹性形变、灰度伽马变换、加性高斯噪声、通道丢弃,以及针对 MRI 的偏置场扰动。需要特别注意的是,翻转、旋转在肝脏、肺等对称器官上安全,但在心脏、脊柱等具有明确左右/上下解剖语义的部位可能破坏标签一致性,因此扰动集合必须按解剖部位裁剪。
典型实现是 Mean Teacher:学生网络接收强扰动,教师网络接收弱扰动,教师权重由学生权重的指数滑动平均(EMA)更新,衰减系数常取 0.99~0.999。损失由两部分组成:标注数据上的监督损失 L_sup,以及未标注数据上学生与教师预测的一致性损失 L_con(常用均方误差或 Dice 一致性)。总损失可写为 L = L_sup + λ(t)·L_con,其中 λ(t) 采用高斯上升(ramp-up)策略,例如在前 40 个 epoch 内从 0 线性升至 1,避免训练早期教师预测不可靠时被错误约束。
二、伪标签:自训练在医学场景的落地
伪标签(Pseudo-Labeling)用当前模型对未标注数据生成“硬标签”,再将其当作真实标签参与训练。医学影像中直接使用 argmax 硬标签风险较大,因为肿瘤边界处模型置信度低,错误伪标签会被反复强化。更稳妥的做法是:
- 设置置信度阈值 τ(如 0.9),仅保留高置信像素;
- 对边界区域采用软标签(soft label)或忽略(ignore index);
- 使用类别平衡采样,防止背景像素主导伪标签分布;
- 每轮重新生成伪标签(online pseudo-label),而非一次性固化。
一个可参考的教学示例:在 30 例标注 + 300 例未标注的肝脏 CT 分割任务中,初始模型仅用 30 例训练得到 Dice 0.72;加入置信度阈值 0.9 的伪标签后,第二轮 Dice 提升至 0.79,第三轮达到 0.81 后趋于饱和。若阈值降至 0.7,Dice 反而下降至 0.76,说明低置信伪标签引入了噪声。该数值为教学假设示例,实际结果依赖数据与网络。
三、熵最小化:推动决策边界远离数据
熵最小化(Entropy Minimization)不依赖人工伪标签,而是直接对未标注样本的预测概率分布施加低熵约束,使模型输出更“尖锐”。在医学影像中,这等价于鼓励模型在未标注区域给出接近 0 或 1 的概率,从而让决策边界穿过低密度区域。实现上通常加入熵损失 L_ent = -Σ p·log p,权重常取 0.1~0.5。熵最小化与伪标签关系密切:伪标签可视为熵最小化的硬版本,而熵最小化是软版本,梯度更平滑,适合边界模糊的病灶。
四、生成式方法:从数据分布中借力
生成式半监督方法(如 VAE、GAN、扩散模型)通过建模数据分布 p(x) 来辅助判别任务。医学影像中的适配方式主要有三类:
- 生成伪样本:用 GAN 合成带病灶的 CT 切片,扩充标注集,但需控制合成样本的解剖合理性;
- 共享隐空间:VAE 编码器与分割网络共享特征,使隐变量同时承载重建与分割信息;
- 扩散模型做数据增强:以扩散模型生成不同噪声水平下的图像,作为一致性正则的强扰动来源。
生成式方法在医学影像中的主要风险是“生成失真”:合成图像可能包含不存在的解剖结构,导致模型学到虚假相关性。因此通常要求生成样本经过放射科医师抽检,或使用解剖约束(如器官形状先验)过滤。
五、四类范式的医学适配对比
| 范式 | 核心信号 | 医学适配要点 | 典型风险 |
|---|---|---|---|
| 一致性正则 | 扰动前后预测一致 | 扰动需符合解剖语义,EMA 教师稳定 | 翻转/旋转破坏左右语义 |
| 伪标签 | 高置信预测作为标签 | 阈值 τ≥0.9,边界忽略,在线更新 | 错误伪标签累积放大 |
| 熵最小化 | 预测分布低熵 | 必须配合类别加权或 Dice | 退化为全背景预测 |
| 生成式方法 | 数据分布 p(x) | 解剖约束 + 医师抽检 | 生成失真引入虚假相关 |
六、组合使用与训练闭环
实际医学项目中,四类范式很少单独使用。一个常见的组合策略是:以 Mean Teacher 为骨架,学生网络对未标注数据输出软预测,经阈值 τ=0.9 生成伪标签,同时对该软预测施加熵最小化;生成式扩散模型则用于扩充强扰动样本。训练闭环可概括为:
- 用标注数据预训练 20~30 epoch,得到初始模型;
- 对未标注数据前向推理,保留置信度 ≥ τ 的像素作为伪标签;
- 联合优化 L_sup + λ(t)·L_con + β·L_ent,λ 与 β 分别 ramp-up;
- 每 5 个 epoch 重新生成伪标签,并监控验证集 Dice;
- 若验证 Dice 连续 3 次下降,则降低伪标签比例或提高 τ。
判断半监督是否真正生效,不能只看训练损失,而应观察验证集 Dice 与伪标签覆盖率的变化。若伪标签覆盖率快速上升但验证 Dice 停滞,通常意味着模型在自我确认偏差中退化,此时应提高阈值或引入更强的数据增强。医学影像的半监督学习,本质上是在“利用未标注数据”与“避免错误累积”之间寻找平衡点。