课程导入：学习目标、课程大纲、适用人群与前置知识

欢迎来到《GPU Direct与RDMA直连加速入门》课程。在数据中心与高性能计算领域，数据搬运的速度往往决定了整个系统的效率上限。传统架构中，GPU、CPU、网卡之间的数据需要多次经过主机内存拷贝，不仅增加延迟，还大量消耗CPU资源。本课程将带你系统性地理解并掌握GPU Direct与RDMA这两项关键技术，帮助你构建真正意义上的端到端高速数据通路。

1. 学习目标

完成本课程后，你将能够：

• 理解核心原理：清晰阐述GPU Direct家族技术（P2P、RDMA、Async）的底层机制，以及RDMA的三种队列语义与传输操作。
• 掌握硬件拓扑与配置：识别PCIe链路、NUMA节点、GPU与网卡（NIC）的物理位置关系，并能正确配置IO虚拟化（SR-IOV）与BAR地址映射。
• 独立完成环境部署：在主流Linux发行版上安装并验证NVIDIA驱动、CUDA、Mellanox OFED驱动，并正确编译运行测试样例。
• 具备性能调优与排障能力：使用nvidia-smi、ibstatus、perftest等工具定位带宽瓶颈、检查错误计数，并理解常见故障的根因。
• 掌握编程接口：能够使用CUDA Runtime API与libibverbs编写简单的GPU Direct P2P与RDMA通信示例。

2. 课程大纲概览

本课程共30章，分为六大模块，循序渐进地从基础概念过渡到实战调优。下表展示了各模块的核心主题与章节范围：

3. 适用人群

本课程主要面向以下三类学习者：

• 系统软件工程师：负责数据中心AI训练集群、分布式存储或高性能网络中间件的开发与维护，需要深入理解数据通路。
• HPC/深度学习平台运维人员：需要诊断多机多卡训练中的通信瓶颈，配置GPU直连网络，提升集群利用率。
• 在校研究生或高年级本科生：研究方向为并行计算、计算机体系结构或高性能网络，希望获得工程实践视角。

4. 前置知识要求

为了确保学习效果，建议你具备以下基础。如果某些部分尚不熟悉，请先补充相关知识：

为了让你直观理解本课程的核心——GPU Direct与RDMA如何协同工作，下图展示了典型的四机八卡直连架构中，数据从GPU显存跨越PCIe总线、经过RDMA网卡直接传输到远端GPU的路径，全程无需经过主机内存与CPU拷贝：

5. 学习路径与建议

为了帮助你高效掌握这门课程，我们建议遵循以下学习路径：

1. 夯实基础（第1-5章）：不要跳过PCIe与DMA原理，这是理解后续所有硬件加速技术的基石。
2. 动手实践（第6-16章）：每学习完一个章节，务必在真实或虚拟化环境中运行示例代码。仅阅读而不操作，很难真正理解RDMA的异步语义。
3. 性能调优（第17-22章）：学会使用perftest等工具测量带宽与延迟，并尝试修改代码参数观察性能变化。
4. 综合应用（第23-30章）：结合NCCL、MPI等框架，理解GPU Direct在真实分布式训练中的价值。