1. 课程导入:学习目标、课程结构、InfiniBand网络概述

1.1 学习目标与课程定位

欢迎进入《InfiniBand交换机路由原理》课程。在HPC(高性能计算)、AI训练集群以及大规模存储网络中,InfiniBand已从“可选的高速互联”演变为“核心的计算底座”。本课程不讨论网卡驱动如何安装,也不讨论线缆如何插拔,而是聚焦于交换机内部最关键的决策机制——路由。学完本课程,你将能够:

  • 理解转发基石:掌握InfiniBand的LID(局部标识符)寻址机制,以及它与IP路由的本质差异。
  • 掌握路由算法:深入理解线性转发表(LFT)的构建逻辑,以及SM(子网管理器)如何计算并下发路由。
  • 分析路径特性:区分自适应路由(AR)与静态路由的适用场景,理解拥塞控制如何影响路由决策。
  • 应对故障场景:学会在链路down、LID冲突、SM主备切换等异常情况下,快速定位路由层面的根因。
学习建议:本课程需要一定的网络基础,但不必精通TCP/IP。建议在学习过程中始终带着一个问题:“一个数据包从端口A进来,交换机凭什么决定从端口B出去?”——这就是路由的本质。

1.2 课程结构总览

本课程共30章,按“基础→原理→进阶→实战”四个阶段递进。前5章建立LID与子网管理器的核心概念;第6-12章深入路由算法与LFT的硬件实现;第13-20章聚焦自适应路由、拥塞控制与多路径;第21-30章则通过大量故障案例与配置实验,将知识转化为排障能力。下表展示了本课程的核心模块划分:

模块 章节范围 核心主题 关键能力
基础篇 第1-5章 IB网络架构、LID寻址、子网管理器 读懂IB网络拓扑与地址规划
路由原理篇 第6-12章 线性转发表、路由算法、路径计算 理解路由表如何生成与下发
进阶机制篇 第13-20章 自适应路由、拥塞控制、多路径 掌握动态路由与流量调优
实战排障篇 第21-30章 配置实验、故障注入、性能分析 独立诊断路由相关问题

1.3 InfiniBand网络概述

InfiniBand最初由Intel、Microsoft等公司于1999年提出,旨在替代PCI总线成为服务器内部I/O互联标准。虽然它在通用计算领域未能普及,却在HPC和AI集群中找到了最适合的土壤。与以太网“尽力而为”的转发模式不同,IB网络从设计之初就强调高带宽、低延迟、零丢包的传输保证。

一个典型的IB网络由以下核心组件构成:

  • 端节点(Host Channel Adapter, HCA):服务器上的IB网卡,负责将CPU/GPU的内存数据封装为IB报文。
  • 交换机(Switch):本课程的主角,根据LID转发报文,不感知IP地址。
  • 子网管理器(Subnet Manager, SM):逻辑上的“网络大脑”,负责发现拓扑、分配LID、计算路由表并下发到各交换机。
  • 链路(Link):支持1X、4X、12X等宽度,以及SDR(2.5Gbps)、DDR(5Gbps)、QDR(10Gbps)、FDR(14Gbps)、EDR(25Gbps)、HDR(50Gbps)、NDR(100Gbps)等速率。

IB网络采用子网(Subnet)作为管理域的基本单位。一个子网内最多可容纳49151个端节点(LID范围1-0xBFFF),子网之间通过路由器(IB Router)互联。值得注意的是,IB路由器并不像IP路由器那样逐跳解析最长前缀匹配,而是基于LID进行转发,这使得IB交换机的转发逻辑远比以太网交换机简单——但也带来了不同的挑战,例如LFT的规模限制和路由对称性要求。

下图展示了本课程反复会用到的基础IB网络拓扑,以及SM如何将路由决策下发到交换机中。请重点关注LID与端口的映射关系,这是理解后续所有路由机制的基础。

InfiniBand 子网路由核心机制示意图 子网管理器 (SM) LID分配 + 路由计算 下发LFT 核心交换机 (LID=3) 线性转发表 (LFT) 端口1→LID 1 | 端口2→LID 2 | 端口3→LID 4 端口1 端口2 端口3 服务器 A HCA (LID=1) IP: 10.0.0.1 服务器 B HCA (LID=2) IP: 10.0.0.2 存储阵列 HCA (LID=4) 目标器 数据包: DLID=2 关键点:交换机仅依据报文中的 DLID(目标LID)查询LFT,决定从哪个端口发出,不关心IP地址 LID是二层地址,IP是三层地址——IB交换机工作在“二层”

1.4 一个典型场景:为什么需要路由?

假设服务器A(LID=1)需要向存储阵列(LID=4)写入数据。在IP网络中,A会先通过ARP解析存储阵列的MAC地址,然后封装以太网帧。但在IB网络中,A的HCA直接生成一个携带DLID=4的报文,发送到交换机端口1。交换机查询自己的LFT,发现LID=4对应的出端口是端口3,于是将报文从端口3转发出去。整个过程不需要ARP广播,也不需要IP路由表——这就是IB“无广播、无IP”的简洁转发模型。

然而,这种简洁性也带来了一个关键问题:LFT必须由SM预先计算并下发。如果SM没有为LID=4生成正确的路由条目,交换机就会丢弃该报文。因此,理解SM的路由计算逻辑(如最短路径、避免死锁、流量均衡)是掌握IB网络运维的核心。

常见误区:很多初学者试图用“IB路由器”的概念类比IP路由器。实际上,IB交换机只做LID转发,不做任何网络层决策。真正的“路由”发生在SM中——SM是集中式的控制平面,而交换机只是执行转发指令的数据平面。这种“控制与转发分离”的架构,正是SDN思想的早期实践。

1.5 学习路径与常见误区

在开始后续章节之前,请先建立以下三个正确认知:

  1. LID不是IP地址:LID由SM动态分配,仅在子网内有效。重启SM后,LID可能发生变化。
  2. 交换机不学习MAC地址:IB交换机没有类似以太网MAC地址表的自学习机制,所有转发信息完全依赖SM下发的LFT。
  3. 路由与拥塞控制紧密相关:IB的拥塞控制机制(如CNP、ECN)会影响路由算法的路径选择,不能孤立地学习路由。

本课程将使用OpenSM(开源子网管理器)作为实验工具,配合Mellanox(现NVIDIA)交换机进行实操验证。建议在学习过程中搭建一个至少包含2台交换机、4台服务器的实验环境,以便直观观察LFT的变化。

本节要点回顾:
  • IB网络由HCA、交换机、SM和链路组成,SM是路由决策的核心。
  • 交换机基于DLID查询LFT进行转发,LFT由SM统一计算下发。
  • 本课程30章分为基础、原理、进阶、实战四个阶段,建议按顺序学习。
  • 后续章节将深入LID分配机制、LFT的硬件实现细节以及自适应路由算法。