4. 数据融合的层次与策略
在组学与药物数据融合建模中,“融合”并不是把几张表拼在一起这么简单。不同模态的数据在采样尺度、噪声结构、缺失模式和信息粒度上差异极大:转录组是约 2 万个基因的连续表达值,药物数据可能是分子指纹、理化描述符或靶点结合谱,临床表型则常是稀疏、类别化的终点标签。融合发生在建模管线的哪个位置,直接决定了模型能捕捉到多细的跨模态交互,也决定了它对缺失数据和样本量的鲁棒性。本节按融合发生的“层次”划分四类策略,并给出可操作的工程选型依据。
四种融合层次的定义与信息流
早期融合(early fusion,又称特征级融合)在进入模型之前就把各模态特征拼接成一个大矩阵。中期融合(intermediate fusion)让每个模态先经过各自的编码器,在中间表示层(隐空间)进行拼接、注意力交互或张量积。晚期融合(late fusion,决策级融合)让每个模态独立建模并输出预测分数,最后在决策层加权或投票。混合融合(hybrid fusion)则在不同深度同时使用多种融合方式,例如底层晚期、中层中期、顶层早期,或对部分模态做中期交互、对另一部分做晚期集成。
早期融合:交互最充分,但代价也最大
早期融合把组学矩阵 X₁(n×p₁)与药物特征矩阵 X₂(n×p₂)按样本对齐后横向拼接为 X=[X₁, X₂],再送入一个统一模型(如弹性网络、随机森林或全连接网络)。它的优势是模型可以在任意特征之间学习交互项,例如“某基因高表达且药物具有某官能团”这类联合模式。代价是特征维度迅速膨胀:若 p₁=20000、p₂=2048,则拼接后维度超过 22000,在样本量 n 只有几百时极易过拟合。
工程上使用早期融合前,建议先做模态内降维或特征选择。例如对转录组取方差最大的 2000 个基因,对药物分子指纹做 PCA 保留 128 维,再拼接为 2128 维。一个可参考的配置是:VarianceThreshold(threshold=0.01) 过滤低变异基因,PCA(n_components=128) 压缩药物指纹,最后用 StandardScaler 统一量纲。若不做量纲统一,表达值(量级 10³)会淹没指纹位(0/1),模型将几乎只依赖组学。
中期融合:在隐空间做“有约束的交互”
中期融合的核心思想是“先各自理解,再交互”。每个模态先经过独立编码器得到低维表示 z₁=E₁(X₁)、z₂=E₂(X₂),然后在隐空间进行拼接、逐元素乘、注意力或双线性池化。以双线性池化为例,交互表示为 z = z₁ᵀ W z₂,其中 W 是可学习矩阵,控制交互的秩和复杂度。相比早期融合,中期融合保留了模态特有的结构,也更容易处理模态内缺失——某个模态缺失时,只需将其编码器输出置零或使用可学习的缺失标记。
在药物-组学场景中,一个常见做法是:组学编码器用 2 层全连接(2000→256→64),药物编码器用图神经网络或 1D 卷积处理分子指纹(2048→128→64),然后在 64 维隐空间做拼接,再送入预测头。训练时可采用模态 dropout(每个 batch 以 0.1 概率随机屏蔽一个模态),迫使模型在单模态下也能给出合理预测,从而提升对缺失模态的鲁棒性。
晚期融合:模态独立,决策集成
晚期融合让每个模态独立训练一个模型,最后对预测分数做加权平均、堆叠(stacking)或投票。它的最大优点是抗缺失:当某个样本只有组学没有药物数据时,仍可用组学模型给出预测。同时,各模态模型可以独立调参、独立验证,工程上易于并行和迭代。
晚期融合的代价是丢失了跨模态交互。若两个模态之间存在强协同信号(例如某基因突变只有在特定药物存在时才影响疗效),晚期融合的决策层很难捕捉这种条件依赖。实践中常用加权融合:p_final = α·p₁ + (1-α)·p₂,α 在验证集上通过网格搜索确定。若两个模型性能相近且相关性低,α≈0.5 通常稳健;若组学模型 AUC 明显更高,α 可设为 0.7~0.8。
混合融合:按信息粒度分层组合
混合融合不是简单的“全都用”,而是根据模态的信息粒度选择融合位置。例如:对同源、同尺度的两个转录组平台(RNA-seq 与 microarray)采用早期融合,因为它们特征语义一致;对药物分子指纹与组学采用中期融合,因为需要学习跨模态交互;对临床终点这类稀疏、异质的数据采用晚期融合,避免其噪声污染隐空间。这样,模型在不同深度上分别处理“同质拼接”“异质交互”“独立决策”三类需求。
混合融合的工程复杂度最高,需要管理多条前向路径和多个损失项。建议先用中期融合建立基线,再逐步引入晚期分支,每次只增加一个融合点,并在验证集上监控各分支的贡献(如通过消融实验比较去掉某分支后的 AUC 变化)。
工程选型决策表
下表给出一个可直接参考的选型框架。使用时先回答“样本量是否充足”“模态缺失是否严重”“是否需要跨模态交互”三个问题,再对照选择。
| 条件 | 优先策略 | 理由 |
|---|---|---|
| n≥1000,模态完整,特征语义一致 | 早期融合 | 可充分学习交互,过拟合风险可控 |
| n=200~800,需跨模态交互 | 中期融合 | 隐空间降维后交互,兼顾表达力与泛化 |
| 模态缺失率>20%,或需独立解释 | 晚期融合 | 单模态可独立预测,缺失不致命 |
| 模态异质性强,且部分模态样本极少 | 混合融合 | 按粒度分层,避免弱模态拖累强模态 |
总结来看,融合层次的选择本质是在“交互表达力”与“鲁棒性、可维护性”之间做权衡。早期融合适合数据充足、模态同质的场景;中期融合是多数药物-组学任务的平衡点;晚期融合在缺失严重或需要独立解释时更稳妥;混合融合则用于模态异质性极高、单一策略无法覆盖全部需求的复杂项目。工程上建议从晚期融合或中期融合起步,用消融实验验证交互增益后,再决定是否向早期或混合方向演进。