1. 课程导入

在真实业务中，我们很少能拿到一个“完美覆盖所有场景”的数据集。更常见的情况是：数据分散在多个来源、多个采集设备、多个时间段、多个标注团队，甚至多个业务域中。每个子集都有自己的分布特征、标注规范、类别体系和噪声模式。如果只挑其中一个数据集训练，模型往往在训练域表现尚可，一旦换到另一个域就明显退化；如果简单把多个数据集拼在一起训练，又容易出现域冲突、梯度主导、类别错位和负迁移。本课程要解决的核心问题，就是如何让模型在多个数据集上“联合学习”，同时通过域适配技术缩小域间差异，使模型在目标域上也能稳定工作。

学习目标

完成本课程后，你应当能够从工程视角独立设计一套多数据集联合训练方案，具体包括：

• 理解联合训练、域适配、域泛化、迁移学习之间的区别与联系，能准确判断当前任务属于哪一类问题。
• 掌握多数据集混合采样的策略设计，包括按样本数加权、按域重要性加权、温度采样和课程式采样。
• 能够处理类别空间不一致问题，包括标签映射、统一类别表、忽略标签和部分标注学习。
• 掌握域适配的常见方法族：基于分布对齐、基于对抗、基于重建、基于伪标签和基于提示微调。
• 能够搭建可复现的训练流水线，记录域标签、采样比例、损失权重和评估指标。
• 能够诊断负迁移、域崩溃、梯度冲突等典型故障，并给出可执行的修复方案。

核心概念与整体框架

多数据集联合训练的本质，是在一个统一的优化目标下，同时利用多个数据分布的信息。设我们有 K 个数据集 D₁…D_K，每个数据集对应一个域分布 P_k(x, y)。联合训练的目标不是简单最小化平均损失，而是希望学到的表示 f(x) 在多个域上都具有判别力，并且对域偏移不敏感。域适配则进一步假设：源域有标注，目标域可能只有少量标注或无标注，我们需要通过分布对齐、特征变换或伪标签等方式，把源域知识迁移到目标域。

整体框架可以拆成五个层次：数据层负责多源数据接入、清洗、标签映射和采样；模型层负责共享骨干与域特定分支的设计；损失层负责任务损失、域对齐损失、一致性损失和正则项的组合；训练层负责梯度协调、课程调度和混合精度；评估层负责跨域验证、域间差距分析和回归测试。下面这张图展示了从多数据集输入到跨域评估的完整信号链与数据流关系。

方法流程：从数据接入到跨域评估

一个可落地的联合训练流程通常包含以下步骤。第一步是数据盘点：统计每个数据集的样本量、类别分布、域标签、标注质量和采集条件。第二步是标签统一：建立全局类别表，把各数据集的原始类别映射到统一空间，无法映射的样本标记为忽略。第三步是采样策略设计：确定每个 batch 中来自各域的样本比例，常用做法是按样本量平方根加权，避免大数据集完全主导。第四步是模型与损失设计：选择共享骨干，加入域判别器或分布对齐损失，并设置损失权重。第五步是训练调度：先预热任务损失，再逐步加入域适配损失，避免早期对齐破坏特征学习。第六步是评估与回归：在源域和目标域上分别评估，计算域间差距，并保存可复现的配置。

# 多数据集联合训练配置示例
datasets:
  - name: source_a
    path: /data/source_a
    domain: src
    weight: 1.0
  - name: source_b
    path: /data/source_b
    domain: src
    weight: 0.8
  - name: target_c
    path: /data/target_c
    domain: tgt
    weight: 0.5
    labeled_ratio: 0.1

training:
  sampler: sqrt_weighted
  batch_size: 64
  loss:
    task: 1.0
    domain_align: 0.3
    consistency: 0.2
  warmup_epochs: 3
  align_start_epoch: 4

典型应用场景

多数据集联合训练与域适配在工业界有广泛落地。在自动驾驶感知中，不同城市、天气、摄像头型号构成多个域，联合训练可以提升模型在雨雾天气和夜间场景的鲁棒性。在医疗影像中，不同医院、不同扫描设备的数据分布差异显著，域适配可以把大型公开数据集上学到的特征迁移到小规模院内数据。在工业质检中，不同产线、不同光照条件下的缺陷样本需要统一建模。在自然语言处理中，多语言语料、多领域文本的联合训练也是典型场景。这些场景的共同点是：单域数据不足，多域数据分布不一致，且目标域标注成本高。

常见误区与复盘要点

本课程后续将围绕上述框架逐层展开：先讲数据层的多源接入与标签统一，再讲模型层的共享与域特定设计，然后深入损失层的对齐方法与训练层的调度策略，最后落到评估、排障和工程化落地。掌握这套方法后，你面对的不再是“一个数据集调参”，而是“多个分布协同建模”的系统工程问题。