1. 多模态影像组学融合建模导论

影像组学(Radiomics)的核心思想,是把医学图像从"给人看的图"转化为"给机器算的数":在分割出的感兴趣区(ROI)内提取成百上千个定量特征,用它们刻画病灶的形状、强度和纹理。但单一模态只能看到病灶的一个侧面——CT 擅长反映密度与钙化,MRI 多参数序列分别敏感于细胞密度、水扩散与血供,PET 反映代谢活性,超声提供实时形态与血流信息。多模态影像组学融合建模,就是把这些来自不同成像物理机制、不同空间分辨率、不同采集时间的信息,在特征层或决策层上整合为一个统一模型,从而得到比任何单模态都更稳健、更贴近病理与基因表型的预测结果。

一、什么是多模态影像组学

需要先厘清三个层次的概念。第一层是多模态图像:同一患者、同一部位、不同成像方式或不同序列的图像集合,例如肺癌中的平扫/增强 CT 与 PET-CT,脑胶质瘤中的 T1、T1c、T2、FLAIR 四个 MRI 序列。第二层是多模态影像组学:对每个模态分别完成分割与特征提取,得到若干组特征向量,再研究它们之间的互补性与冗余性。第三层是融合建模:把多组特征按某种策略组合,训练出单一预测模型,输出如良恶性判别、分级、疗效反应或生存风险等临床终点。

这里有一个容易被忽略的前提:多模态数据必须空间对齐。不同模态的体素间距、层厚、扫描体位往往不同,通常需要以某一模态为参考进行刚性或形变配准,再把分割掩膜重采样到统一网格。若配准误差超过病灶半径的 10%~15%,纹理特征就会明显失真,融合反而引入噪声。因此"配准—重采样—分割—特征提取"这条前置链路的质量,直接决定融合模型的上限。

二、融合建模的目标与挑战

融合的目标可以概括为三点:互补(用不同物理机制覆盖单一模态的盲区)、稳健(降低对某一模态采集质量波动的依赖)、可解释(让临床医生理解模型依据了哪些影像证据)。

挑战同样明确。其一是维度灾难:4 个序列 × 每序列约 1000 维特征 = 4000 维,而样本量常只有几百例,特征数远多于样本数。其二是尺度与量纲不一致:CT 的 HU 值、MRI 的任意信号强度、PET 的 SUV 值量纲完全不同,必须逐模态标准化。其三是缺失模态:真实临床中并非每位患者都做全了检查,模型需要具备容忍缺失的能力。其四是过拟合与验证偏差:若同一患者的图像被随机分到训练集和测试集,会因数据泄漏导致性能虚高,正确做法是按患者划分,并尽量采用外部中心验证。

多模态影像组学融合建模流程与关键控制点 ① 多模态输入 CT(平扫/增强) HU 值 · 密度/钙化 MRI(T1/T1c/T2/FLAIR) 信号强度 · 软组织对比 PET / PET-CT SUV · 代谢活性 超声 / 临床变量 形态 · 血流 · 年龄等 ② 配准与预处理 刚性/形变配准 以参考模态为基准 重采样至统一网格 如 1×1×1 mm³ ROI 分割与校验 配准误差 ≤ 病灶半径 10% 逐模态强度标准化 Z-score / 离散化 ③ 特征提取 形状特征 体积 · 球形度 一阶统计 均值 · 偏度 · 熵 纹理特征 GLCM · GLRLM · GLSZM 小波/滤波特征 多尺度分解 每模态约 1000 维 ④ 融合与建模 特征层拼接 Z-score 后 concat 特征选择 ICC 去冗余 + LASSO 分类器 Logistic / SVM / RF 决策层融合 多模型概率加权 按患者划分训练/测试 ⑤ 输出与验证:良恶性判别 · 分级 · 疗效反应 · 生存风险 评价指标:AUC · 敏感度 · 特异度 · 校准曲线 · 决策曲线(DCA) 核心挑战 • 高维小样本(p ≫ n) • 跨模态量纲不一致 • 模态缺失与配准误差 • 数据泄漏与外部验证 迭代优化

三、典型临床应用场景

融合建模的价值在几个场景中体现得尤为突出。在肺结节良恶性判别中,CT 提供形态与密度特征,PET 提供 SUVmax 与代谢异质性,二者融合后对亚实性结节的判别 AUC 常优于单模态。在脑胶质瘤分级与分子分型中,T1c 反映血脑屏障破坏、FLAIR 反映水肿范围、T2 反映肿瘤浸润,多序列融合可无创预测 IDH 突变与 1p/19q 共缺失状态。在直肠癌新辅助放化疗疗效预测中,治疗前 MRI 的纹理特征结合临床 T/N 分期,可提前识别病理完全缓解(pCR)人群,辅助保肛决策。在肝癌微血管侵犯预测中,增强 CT 多期相(动脉期、门脉期、延迟期)的融合特征与 MVI 病理结果相关性显著。

这些场景的共同点是:临床终点明确、金标准可获得、单模态信息确实不足。反过来说,如果单模态已经能给出足够准确的判断,融合只会增加复杂度而不增加价值。

四、课程项目与数据准备

本课程将围绕一个贯穿始终的示例项目展开:基于多序列 MRI 的脑胶质瘤分级与 IDH 状态预测。选择它的理由是公开数据可得、模态齐全、临床意义清晰。

数据准备建议按以下顺序推进。第一步,获取公开数据集,如 BraTS(多序列 MRI 配准良好、含分割标注)或 TCIA 上的对应集合,同时记录每例的年龄、性别、WHO 分级、IDH 状态等标签。第二步,建立数据清单表,至少包含:患者 ID、各模态文件路径、分割掩膜路径、标签、数据来源中心。第三步,做质量筛查,剔除运动伪影严重、层厚过大(如 >5 mm)、配准明显失败的病例,并记录剔除原因与数量。第四步,按患者划分训练集/验证集/测试集,建议比例 6:2:2,若有多中心数据,优先采用"留一中心"的外部验证方案。

一个可直接使用的数据清单字段示例如下:

patient_id, center, T1_path, T1c_path, T2_path, FLAIR_path, mask_path, grade, idh_status, age, sex, exclude_reason
P0001, A, /data/P0001/T1.nii.gz, /data/P0001/T1c.nii.gz, /data/P0001/T2.nii.gz, /data/P0001/FLAIR.nii.gz, /data/P0001/seg.nii.gz, III, mutant, 47, M, 
P0002, A, /data/P0002/T1.nii.gz, /data/P0002/T1c.nii.gz, /data/P0002/T2.nii.gz, /data/P0002/FLAIR.nii.gz, /data/P0002/seg.nii.gz, IV, wildtype, 58, F, 
P0003, B, /data/P0003/T1.nii.gz, /data/P0003/T1c.nii.gz, /data/P0003/T2.nii.gz, /data/P0003/FLAIR.nii.gz, /data/P0003/seg.nii.gz, IV, wildtype, 63, M, motion_artifact
建议在项目开始时就固定随机种子、划分方案与特征提取参数(如 bin width、是否各向同性重采样),并把它们写入配置文件。影像组学结果对参数敏感,若中途更改,前后实验将不可比。
常见误区:把同一患者的不同序列或不同时间点当作独立样本。这会造成严重的数据泄漏,使测试集 AUC 虚高 0.1 以上。务必以患者为最小划分单位。