01
NCCL概述
什么是NCCL · 发展历史 · 分布式训练核心地位 · 与MPI区别
基础概念
02
NCCL安装与配置
环境依赖 · 源码编译 · 二进制包 · nvlink/pcie拓扑检测
环境部署
03
NCCL通信原语
AllReduce · AllGather · ReduceScatter · Broadcast · Reduce
原语原理
04
NCCL通信模式
Ring算法 · Tree算法 · NVLink/PCIe混合 · 多节点拓扑
算法拓扑
05
NCCL环境变量详解
NCCL_DEBUG · IB_HCA · SOCKET_IFNAME · NET_GDR_LEVEL
调优变量
06
NCCL性能调优
带宽/延迟测试 · 通信算子选择 · 数据分片策略
性能调优
07
NCCL常见错误（一）
初始化失败 · 设备不可用 · 版本不匹配
排错初始化
08
NCCL常见错误（二）
超时错误 · 连接断开 · OOM问题排查
排错网络
09
NCCL常见错误（三）
死锁 · 数据不一致 · 校验和错误
排错一致性
10
NCCL与PyTorch集成
DDP原理 · NCCL后端 · 分布式DataLoader
PyTorchDDP
11
NCCL与TensorFlow集成
MirroredStrategy · MultiWorker · NCCL配置
TensorFlow策略
12
NCCL与Megatron-LM集成
张量并行 · 流水线并行 · 数据并行通信
Megatron并行
13
NCCL与DeepSpeed集成
ZeRO优化器 · 混合精度 · 通信压缩
DeepSpeedZeRO
14
NCCL多节点通信
InfiniBand · RoCE · 跨节点拓扑优化
网络多节点
15
NCCL网络故障排查
丢包检测 · 带宽瓶颈 · 路由问题
网络故障
16
NCCL与GPU拓扑
NVLink · NVSwitch · PCIe Switch拓扑
拓扑GPU
17
NCCL通信组管理
ncclCommInitRank · InitAll · 动态通信组
API组管理
18
NCCL异步通信
ncclGroupStart/End · 非阻塞通信 · 事件同步
异步同步
19
NCCL内存管理
注册内存 · 固定内存 · 内存池优化
内存优化
20
NCCL与CUDA Graph
图捕获 · 图重放 · 通信与计算重叠
CUDAGraph
21
NCCL Profiling
Nsight Systems · trace分析 · 性能瓶颈定位
分析Nsight
22
NCCL 2.x新特性
多节点AllReduce优化 · NVLink带宽 · 自适应算法
新特性2.x
23
NCCL容错机制
超时重试 · 节点故障恢复 · checkpoint/restart
容错可靠性
24
NCCL与容器化
Docker配置 · Kubernetes部署 · 网络插件
容器K8s
25
NCCL与虚拟化
GPU直通 · vGPU · MIG场景配置
虚拟化MIG
26
NCCL与国产GPU
华为昇腾 · 寒武纪 · 海光DCU兼容方案
国产适配
27
NCCL安全
通信加密 · 身份认证 · 数据隔离
安全加密
28
NCCL大规模集群实战
千卡优化 · 拓扑感知调度 · 通信计算重叠
集群实战
29
NCCL问题诊断工具
nccl-tests · rdma-sharp-plugins · 自定义调试
工具诊断
30
NCCL未来展望
NCCL 3.0 · SHARP技术 · 量子通信融合趋势
未来趋势