1. 课程导入:学习目标、课程结构、InfiniBand网络概述
1.1 学习目标与课程定位
欢迎进入《InfiniBand交换机路由原理》课程。在HPC(高性能计算)、AI训练集群以及大规模存储网络中,InfiniBand已从“可选的高速互联”演变为“核心的计算底座”。本课程不讨论网卡驱动如何安装,也不讨论线缆如何插拔,而是聚焦于交换机内部最关键的决策机制——路由。学完本课程,你将能够:
- 理解转发基石:掌握InfiniBand的LID(局部标识符)寻址机制,以及它与IP路由的本质差异。
- 掌握路由算法:深入理解线性转发表(LFT)的构建逻辑,以及SM(子网管理器)如何计算并下发路由。
- 分析路径特性:区分自适应路由(AR)与静态路由的适用场景,理解拥塞控制如何影响路由决策。
- 应对故障场景:学会在链路down、LID冲突、SM主备切换等异常情况下,快速定位路由层面的根因。
1.2 课程结构总览
本课程共30章,按“基础→原理→进阶→实战”四个阶段递进。前5章建立LID与子网管理器的核心概念;第6-12章深入路由算法与LFT的硬件实现;第13-20章聚焦自适应路由、拥塞控制与多路径;第21-30章则通过大量故障案例与配置实验,将知识转化为排障能力。下表展示了本课程的核心模块划分:
| 模块 | 章节范围 | 核心主题 | 关键能力 |
|---|---|---|---|
| 基础篇 | 第1-5章 | IB网络架构、LID寻址、子网管理器 | 读懂IB网络拓扑与地址规划 |
| 路由原理篇 | 第6-12章 | 线性转发表、路由算法、路径计算 | 理解路由表如何生成与下发 |
| 进阶机制篇 | 第13-20章 | 自适应路由、拥塞控制、多路径 | 掌握动态路由与流量调优 |
| 实战排障篇 | 第21-30章 | 配置实验、故障注入、性能分析 | 独立诊断路由相关问题 |
1.3 InfiniBand网络概述
InfiniBand最初由Intel、Microsoft等公司于1999年提出,旨在替代PCI总线成为服务器内部I/O互联标准。虽然它在通用计算领域未能普及,却在HPC和AI集群中找到了最适合的土壤。与以太网“尽力而为”的转发模式不同,IB网络从设计之初就强调高带宽、低延迟、零丢包的传输保证。
一个典型的IB网络由以下核心组件构成:
- 端节点(Host Channel Adapter, HCA):服务器上的IB网卡,负责将CPU/GPU的内存数据封装为IB报文。
- 交换机(Switch):本课程的主角,根据LID转发报文,不感知IP地址。
- 子网管理器(Subnet Manager, SM):逻辑上的“网络大脑”,负责发现拓扑、分配LID、计算路由表并下发到各交换机。
- 链路(Link):支持1X、4X、12X等宽度,以及SDR(2.5Gbps)、DDR(5Gbps)、QDR(10Gbps)、FDR(14Gbps)、EDR(25Gbps)、HDR(50Gbps)、NDR(100Gbps)等速率。
IB网络采用子网(Subnet)作为管理域的基本单位。一个子网内最多可容纳49151个端节点(LID范围1-0xBFFF),子网之间通过路由器(IB Router)互联。值得注意的是,IB路由器并不像IP路由器那样逐跳解析最长前缀匹配,而是基于LID进行转发,这使得IB交换机的转发逻辑远比以太网交换机简单——但也带来了不同的挑战,例如LFT的规模限制和路由对称性要求。
下图展示了本课程反复会用到的基础IB网络拓扑,以及SM如何将路由决策下发到交换机中。请重点关注LID与端口的映射关系,这是理解后续所有路由机制的基础。
1.4 一个典型场景:为什么需要路由?
假设服务器A(LID=1)需要向存储阵列(LID=4)写入数据。在IP网络中,A会先通过ARP解析存储阵列的MAC地址,然后封装以太网帧。但在IB网络中,A的HCA直接生成一个携带DLID=4的报文,发送到交换机端口1。交换机查询自己的LFT,发现LID=4对应的出端口是端口3,于是将报文从端口3转发出去。整个过程不需要ARP广播,也不需要IP路由表——这就是IB“无广播、无IP”的简洁转发模型。
然而,这种简洁性也带来了一个关键问题:LFT必须由SM预先计算并下发。如果SM没有为LID=4生成正确的路由条目,交换机就会丢弃该报文。因此,理解SM的路由计算逻辑(如最短路径、避免死锁、流量均衡)是掌握IB网络运维的核心。
1.5 学习路径与常见误区
在开始后续章节之前,请先建立以下三个正确认知:
- LID不是IP地址:LID由SM动态分配,仅在子网内有效。重启SM后,LID可能发生变化。
- 交换机不学习MAC地址:IB交换机没有类似以太网MAC地址表的自学习机制,所有转发信息完全依赖SM下发的LFT。
- 路由与拥塞控制紧密相关:IB的拥塞控制机制(如CNP、ECN)会影响路由算法的路径选择,不能孤立地学习路由。
本课程将使用OpenSM(开源子网管理器)作为实验工具,配合Mellanox(现NVIDIA)交换机进行实操验证。建议在学习过程中搭建一个至少包含2台交换机、4台服务器的实验环境,以便直观观察LFT的变化。
- IB网络由HCA、交换机、SM和链路组成,SM是路由决策的核心。
- 交换机基于DLID查询LFT进行转发,LFT由SM统一计算下发。
- 本课程30章分为基础、原理、进阶、实战四个阶段,建议按顺序学习。
- 后续章节将深入LID分配机制、LFT的硬件实现细节以及自适应路由算法。