1. 课程导入与平台全景
在AI训练集群、分布式存储、高性能计算和云数据中心中,网络已经从“配套资源”变成决定算力利用率的关键基础设施。当GPU集群规模从几十张卡扩展到数千张卡时,参数同步、AllReduce、KV Cache传输、存储读写都会把压力集中到交换芯片与网卡上。Broadcom数据中心高带宽网络平台正是围绕这一需求构建的完整技术栈:以Tomahawk系列交换芯片提供超高吞吐交换能力,以Jericho系列面向深度缓冲与路由扩展,以Trident系列覆盖中等规模与多业务接入,再配合NetXtreme/Thor网卡、SerDes、PCIe、以太网协议栈和SDK/SAI软件接口,形成从芯片、板卡、系统到上层控制面的全链路平台。
理解这个平台,首先要抓住它的核心价值:用可编程、可扩展的以太网交换与网卡芯片,把数据中心内部的东西向流量组织成高带宽、低时延、可运维的网络结构。典型场景包括:AI训练后端网络(RoCEv2无损以太网)、存储前端网络(NVMe over Fabrics)、通用云数据中心叶脊架构、运营商边缘路由与数据中心互联。不同场景对缓冲区、时延、队列、拥塞控制、遥测能力的要求不同,因此平台不是单一芯片,而是一组按带宽、缓冲、功能分层组合的产品族。
从整体软硬件架构看,可以分成四层。最底层是芯片与SerDes:交换芯片内部包含MAC、MMU、流量管理器、包处理器、SerDes收发器;网卡芯片包含PCIe接口、以太网MAC、RDMA引擎、队列管理。第二层是板卡与系统:交换板卡、线卡、光模块、风扇、电源、管理BMC,决定端口密度、散热和信号完整性。第三层是SDK与驱动:Broadcom SDK、OpenNSL、SAI、NetXtreme驱动、RDMA verbs,负责把硬件能力抽象成可配置对象。第四层是控制面与编排:SONiC、SAI适配层、Telemetry、P4/可编程流水线、自动化运维工具。开发工作通常横跨第三、四层,既要理解寄存器与表项,也要理解上层业务对转发行为的要求。
开发路线图可以按“先通、再优、后智”三个阶段推进。第一阶段是平台认知与基础打通:确认芯片型号、端口映射、SerDes速率、PCIe链路宽度,完成SDK编译、驱动加载、端口up、基本二层转发和VLAN隔离。第二阶段是性能与可靠性调优:配置RoCEv2无损以太网,包括PFC优先级、ECN门限、DCQCN参数、队列调度、缓冲区分配,并用perftest、ib_write_bw、交换机计数器验证带宽、时延和丢包。第三阶段是可编程与自动化:通过SAI/SONiC下发ACL、路由、Telemetry,接入INT带内遥测,实现拥塞可视、故障定位和策略闭环。
以一个AI训练后端网络为例,假设采用64端口400G Tomahawk交换芯片构建两层叶脊:叶交换机下行连接8台GPU服务器,每台服务器配双口200G Thor网卡,上行4×400G到脊交换机;脊交换机之间全互联。此时需要关注的关键参数包括:端口SerDes模式(如8×50G PAM4)、PFC优先级队列(通常优先级3承载RoCEv2)、ECN标记门限(示例可设为队列深度的30%)、DCQCN速率恢复定时器。开发时先在SDK中读取端口能力与SerDes状态,再通过SAI创建主机接口、下一跳、邻居和路由表项,最后用流量测试验证AllReduce场景下的有效带宽是否接近线速。