2. 联邦学习系统架构模式

联邦学习系统的架构模式决定了“谁协调、谁训练、谁聚合、数据在哪里流动”。同一个联邦学习算法,放在不同架构上,通信开销、容错能力、隐私边界和工程复杂度会完全不同。本节先建立四种典型架构的结构直觉,再把“跨孤岛”和“跨设备”作为两种部署场景维度,最后给出一套可操作的选型判断方法。

四种基础架构模式

客户端-服务器(Client-Server, CS)是最常见的联邦学习架构。一个中心服务器持有全局模型,每轮选择一部分客户端下发当前模型参数;客户端用本地数据训练若干步,把模型更新(梯度或参数增量)回传;服务器执行加权聚合(如 FedAvg),得到新一轮全局模型。它的核心特征是星型拓扑、中心协调、同步轮次。优点是实现简单、聚合逻辑集中、易于做安全聚合与差分隐私;缺点是中心节点是通信与信任瓶颈,客户端规模大时“落后者”会拖慢整轮。

对等网络(Peer-to-Peer, P2P)去掉了中心服务器,节点之间按某种拓扑(环形、网格、随机图)交换模型或梯度,通过gossip或分布式共识逐步收敛。它没有单点故障,适合节点地位平等、互不信任、或中心不可用的场景。代价是收敛速度依赖网络连通度,难以做全局严格的隐私预算控制,模型一致性也更难验证。

分层联邦(Hierarchical Federated Learning, HFL)在客户端与中心之间加入边缘聚合层:客户端先汇聚到边缘服务器,边缘服务器再汇聚到云中心。它把“广域网通信”压缩为“局域网通信+少量跨域通信”,显著降低中心带宽压力,同时让边缘层承担部分容错与本地调度。典型三层结构是“设备—边缘—云”,适合地理分散、边缘节点具备一定算力的场景。

跨孤岛与跨设备不是拓扑,而是两种部署场景维度。跨孤岛(Cross-Silo)指参与方是机构(医院、银行、企业),数量少(2~100),每个孤岛数据量大、算力稳定、可长期在线,通常要求横向或纵向联邦,强调合规与审计。跨设备(Cross-Device)指参与方是海量终端(手机、IoT),数量可达10⁴~10⁶,单设备数据少、算力弱、网络不稳定、频繁掉线,强调客户端采样、异步容错与通信压缩。

客户端-服务器(CS) Server C1 C2 C3 星型拓扑 · 同步轮次 · 中心聚合 对等网络(P2P) N1 N2 N3 N4 无中心 · gossip 交换 · 收敛依赖连通度 分层联邦(HFL) 云中心 边缘1 边缘2 D1 D2 D3 D4 设备—边缘—云 · 分层聚合 · 降低广域带宽 跨孤岛 vs 跨设备:部署场景维度对比 跨孤岛(Cross-Silo) 参与方:医院 / 银行 / 企业等机构 规模:2 ~ 100 个孤岛 数据:单方数据量大,特征/样本可对齐 算力:稳定在线,可长期参与 重点:合规审计、纵向/横向联邦、安全聚合 跨设备(Cross-Device) 参与方:手机 / IoT / 边缘终端 规模:10⁴ ~ 10⁶ 个设备 数据:单设备数据少,非独立同分布 算力:弱、掉线频繁、网络不稳定 重点:客户端采样、异步容错、通信压缩

架构对比:从五个维度看差异

把四种架构放在同一张“选型坐标系”里,可以从五个维度比较:通信模式、容错能力、隐私控制粒度、收敛效率、工程复杂度。CS 架构通信是“中心—客户端”双向同步,容错依赖服务器重试与客户端采样,隐私控制集中在服务器侧(可做安全聚合),收敛效率高但受落后者影响,工程复杂度最低。P2P 通信是邻居间异步交换,容错靠冗余连接,隐私控制分散且难以统一预算,收敛效率受拓扑影响大,工程复杂度中等偏高。HFL 通信是“设备—边缘—云”分层,容错可在边缘层局部处理,隐私控制可分层实施,收敛效率介于 CS 与 P2P 之间,工程复杂度最高。跨孤岛通常采用 CS 或 HFL,跨设备通常采用 CS 加采样与压缩。

选型判断:先问三个问题

实际选型时,不要先问“哪种架构最先进”,而要先问三个问题。第一,参与方是谁、有多少?如果是几十家机构,优先 CS 或 HFL;如果是百万级终端,必须考虑客户端采样、异步聚合与通信压缩,CS 仍是主流,但需要工程加固。第二,网络与算力是否稳定?机构侧稳定在线,可用同步 CS;终端侧频繁掉线,应引入异步或半异步机制,并设置每轮最小参与数。第三,隐私与合规要求有多强?需要严格审计时,CS 加安全聚合与差分隐私更容易落地;P2P 适合互不信任但难以统一隐私预算的场景。

一个可执行的选型示例

假设某医疗联合建模项目:3 家医院,各持有 5 万~20 万条病历,要求模型不出院、可审计、每轮训练时间可控。按上述判断:参与方是机构(跨孤岛),数量少,网络稳定,合规要求高。选型结论是客户端-服务器 + 安全聚合 + 差分隐私,服务器部署在可信第三方或牵头医院,每轮选择全部 3 家参与,聚合权重按样本量加权。若医院数量增长到 50 家以上,可升级为 HFL:每家医院内部先做边缘聚合,再上传到中心,降低中心并发压力。

选型不是一次性的。系统上线后,随着参与方数量、网络条件、合规要求变化,架构可以从 CS 演进到 HFL,或在 CS 内部增加异步与压缩模块。关键是先明确当前瓶颈是“通信、容错、隐私还是规模”,再决定改哪一层。

常见误区与排障线索

第一个误区是“跨设备一定要用 P2P”。实际上,跨设备场景中 CS 仍是主流,因为中心聚合更容易做采样、压缩和版本控制;P2P 更适合节点对等且中心不可用的特殊场景。第二个误区是“分层联邦一定比 CS 快”。HFL 减少的是广域网通信,但增加了边缘层调度与两层聚合的复杂度,如果边缘节点算力不足,反而可能变慢。排障时,若发现每轮耗时波动大,先看客户端采样与落后者比例;若模型精度下降,先检查非独立同分布数据与聚合权重;若通信量居高不下,优先启用梯度量化或稀疏化,再考虑改架构。

总结来说,CS 是默认起点,P2P 是去中心化备选,HFL 是规模扩展方案,跨孤岛与跨设备决定的是“参与方特征与工程约束”。选型的核心不是追求最复杂的架构,而是让架构匹配当前的参与方规模、网络条件与合规边界。