VIP20

本课程属于：002-NCCL多卡通信 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NCCL任务调度与GPU资源分配实战课程

📚 共计 30 章节

NCCL是什么 · 分布式训练角色 · 与MPI的区别

GPU拓扑结构

NVLink · PCIe · NVSwitch 及性能影响

ncclCommInitAll / InitRank · 通信域创建

点对点通信

ncclSend/Recv · 同步与异步模式

集合通信原语

AllReduce · AllGather · ReduceScatter · Broadcast

AllReduce深入

Ring vs Tree 算法对比 · 性能调优

NCCL通信模式

同步/异步 · ncclGroupStart/End 场景

绑定CUDA流 · 计算通信重叠

NCCL环境变量

NCCL_DEBUG · IB_HCA · SOCKET_IFNAME 等

NCCL网络协议

InfiniBand · RoCEv2 · GDR (GPU Direct RDMA)

NCCL拓扑检测

nvidia-smi topo -m · 自动最优路径

NCCL性能分析

nsys · NCCL_DEBUG=INFO 定位瓶颈

profiling工具

多节点通信

跨节点配置 · SSH免密 · 网络接口选择

多节点分布式

NCCL与PyTorch DDP

DDP中NCCL后端集成与配置

Horovod+NCCL后端 · 与MPI对比

NCCL与DeepSpeed

ZeRO优化器 · 通信配置与调优

NCCL与Megatron-LM

张量并行 · 流水线并行通信模式

NCCL错误处理

ncclSystemError · InternalError 排查

NCCL超时设置

NCCL_TIMEOUT · BLOCKING_WAIT 稳定性

超时稳定性

NCCL内存管理

GPU/CPU内存 · 避免OOM

NCCL多进程通信

多进程初始化 · 资源隔离

多进程隔离

NCCL与CUDA Graph

捕获NCCL操作 · 减少启动开销

CUDA Graph优化

A100/A800 MIG模式配置与限制

NCCL与容器化

Docker/K8s 网络配置与权限

NCCL版本管理

版本特性差异 · 升级/降级

NCCL与GPU Direct Storage

GDS · GPU与NVMe直接通路

NCCL与CUDA MPS

MPS对通信性能影响与配置

NCCL性能基准测试

nccl-tests · 带宽/延迟解读

基准nccl-tests

大规模集群实践

千卡/万卡常见问题与优化

大规模集群

NCCL未来趋势

B100支持 · AI Infra演进方向