VIP20

本课程属于：020-多卡通信 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

高性能AI训练带宽测试方法实战

📚 共计 30 章节

带宽测试概述

为什么带宽是AI训练的命脉？理解带宽、延迟与吞吐量的区别。

测试环境搭建

硬件选型（NVIDIA GPU、Mellanox网卡）、软件栈（NCCL、OFED、CUDA Toolkit）安装与验证。

核心工具介绍

NCCL Tests（all_reduce_perf、sendrecv_perf）、ib_write_bw、iperf3 的适用场景与基本用法。

单机多卡测试

使用 NCCL Tests 测试单机内 GPU 间 P2P 带宽（NVLink/NVSwitch），理解拓扑对带宽的影响。

多机多卡测试

配置 RoCE 或 InfiniBand，使用 NCCL Tests 进行跨节点 all_reduce 测试，分析网络瓶颈。

NCCL 环境变量（NCCL_ALGO、NCCL_PROTO、NCCL_NET_GDR_LEVEL）对带宽的影响与调优策略。

如何解读带宽测试日志，识别 PCIe 瓶颈、网络拥塞、CPU 过载等常见问题。

自动化测试脚本

编写 Python 脚本批量运行带宽测试，自动解析日志并生成可视化报告。

某 8 节点 A100 集群的带宽测试全流程复盘，从环境准备到问题定位。

NVLink Switch 系统（DGX GH200）的带宽测试方法，以及未来 CXL 互连对带宽测试的影响。

带宽测试概述

为什么带宽是AI训练的命脉？理解带宽、延迟与吞吐量的区别。

测试环境搭建

硬件选型（NVIDIA GPU、Mellanox网卡）、软件栈（NCCL、OFED、CUDA Toolkit）安装与验证。

核心工具介绍

NCCL Tests（all_reduce_perf、sendrecv_perf）、ib_write_bw、iperf3 的适用场景与基本用法。

单机多卡测试

使用 NCCL Tests 测试单机内 GPU 间 P2P 带宽（NVLink/NVSwitch），理解拓扑对带宽的影响。

多机多卡测试

配置 RoCE 或 InfiniBand，使用 NCCL Tests 进行跨节点 all_reduce 测试，分析网络瓶颈。

NCCL 环境变量（NCCL_ALGO、NCCL_PROTO、NCCL_NET_GDR_LEVEL）对带宽的影响与调优策略。

如何解读带宽测试日志，识别 PCIe 瓶颈、网络拥塞、CPU 过载等常见问题。

自动化测试脚本

编写 Python 脚本批量运行带宽测试，自动解析日志并生成可视化报告。

某 8 节点 A100 集群的带宽测试全流程复盘，从环境准备到问题定位。

NVLink Switch 系统（DGX GH200）的带宽测试方法，以及未来 CXL 互连对带宽测试的影响。

带宽测试概述

为什么带宽是AI训练的命脉？理解带宽、延迟与吞吐量的区别。

测试环境搭建

硬件选型（NVIDIA GPU、Mellanox网卡）、软件栈（NCCL、OFED、CUDA Toolkit）安装与验证。

核心工具介绍

NCCL Tests（all_reduce_perf、sendrecv_perf）、ib_write_bw、iperf3 的适用场景与基本用法。

单机多卡测试

使用 NCCL Tests 测试单机内 GPU 间 P2P 带宽（NVLink/NVSwitch），理解拓扑对带宽的影响。

多机多卡测试

配置 RoCE 或 InfiniBand，使用 NCCL Tests 进行跨节点 all_reduce 测试，分析网络瓶颈。

NCCL 环境变量（NCCL_ALGO、NCCL_PROTO、NCCL_NET_GDR_LEVEL）对带宽的影响与调优策略。

如何解读带宽测试日志，识别 PCIe 瓶颈、网络拥塞、CPU 过载等常见问题。

自动化测试脚本

编写 Python 脚本批量运行带宽测试，自动解析日志并生成可视化报告。

某 8 节点 A100 集群的带宽测试全流程复盘，从环境准备到问题定位。

NVLink Switch 系统（DGX GH200）的带宽测试方法，以及未来 CXL 互连对带宽测试的影响。