所属分类：工控物联网与网络通信 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

NCCL通信框架与RDMA协同优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
NCCL与RDMA协同优化的背景 · 学习目标 · 课程整体框架与适用人群
课程导入NCCL
02
分布式训练基础
数据并行 · 模型并行 · 流水线并行的通信模式与瓶颈分析
分布式训练基础数据并行
03
NCCL核心概念
通信域 · 集合通信操作（AllReduce · Broadcast
NCCL核心概念
04
NCCL架构解析
NCCL的层次结构 · 核心模块（transport · collectives
NCCL架构解析
05
RDMA技术基础
InfiniBand与RoCEv2的… · RDMA操作（Send/Recv · RDMA Read/Write）
RDMA技术基础
06
NCCL与RDMA的协同机制
NCCL如何利用RDMA实现高效数据… · 包括QP管理 · 内存注册
NCCLRDMA
07
NCCL拓扑感知与网络规划
环形 · 树形 · NVLink
NCCL拓扑感知
08
NCCL环境变量与配置
常用环境变量（NCCL_IB_DIS… · NCCL_SOCKET_IFNAME · NCCL_IB_HCA等）的作用与调…
NCCL环境变量
09
RDMA网络性能评估
带宽 · 延迟 · 消息速率等关键指标
RDMA网络性能评估
10
NCCL性能分析工具
NCCL_DEBUG · NCCL_DEBUG_FILE · NCCL_DEBUG_SUBSYS
NCCL性能分析工具
11
NCCL通信模式优化
针对不同消息大小选择最优算法（rin… · tree · collnet）
NCCL通信模式优化
12
RDMA拥塞控制与流控
DCQCN · ECN · PFC等机制对NCCL性能的影响及配…
RDMA拥塞控制
13
多机多卡环境搭建
NCCL与RDMA在集群中的部署步骤 · 包括驱动 · 固件
多机多卡环境搭建NCCL
14
NCCL与GPU Direct RDMA
GPUDirect RDMA技术原理 · 配置方法及性能收益
NCCLGPU
15
NCCL与共享内存协同
单机多卡场景下共享内存传输与RDMA…
NCCL共享内存协同
16
NCCL通信超时与故障排查
常见超时错误 · 网络异常 · 内存注册失败等问题的诊断与解决
NCCL通信超时
17
NCCL与深度学习框架集成
PyTorch · TensorFlow · Megatron等框架中NCCL的使…
NCCL深度学习框架集成
18
NCCL通信与计算重叠
通过流 · 事件 · 异步操作实现通信与计算重叠
NCCL通信
19
NCCL多流与多线程优化
多线程调用NCCL的注意事项 · 线程安全 · 以及多流并发通信的调优
NCCL多流
20
NCCL内存池与缓冲区管理
NCCL内部内存分配策略 · 用户缓冲区注册 · 以及避免内存拷贝的方法
NCCL内存池
21
NCCL与网络协议栈协同
RDMA与TCP/IP协议栈的对比 · NCCL如何选择传输协议及切换条件
NCCL网络协议栈协同
22
NCCL在大规模集群中的扩展性
千卡/万卡集群中的通信瓶颈 · 拓扑感知调度与分层通信优化
NCCL大规模集群
23
NCCL与集合通信库对比
NCCL · Gloo · MPI
NCCL集合通信库对比
24
NCCL性能调优实战案例
基于实际训练任务（如BERT · ）的NCCL与RDMA调优流程…
NCCL性能调优实战案例
25
NCCL与RDMA的故障恢复与容错
网络抖动 · 链路故障 · 节点故障时的NCCL行为与恢复机制
NCCLRDMA
26
NCCL与云环境优化
云上虚拟化网络 · 弹性网卡 · SR-IOV对NCCL性能的影响及优…
NCCL云环境优化
27
NCCL与RDMA安全与隔离
多租户环境下的网络隔离 · QoS配置及安全注意事项
NCCLRDMA
28
NCCL与RDMA的进阶调优
使用NCCL_IB_TIMEOUT · NCCL_IB_RETRY_CNT · NCCL_IB_SL等参数进行深度优…
NCCLRDMA
29
NCCL与RDMA的监控与运维
使用NCCL的统计接口 · Prometheus监控 · 日志分析进行日常运维
NCCLRDMA
30
综合项目实战
从零搭建一个基于NCCL与RDMA的… · 完成性能调优 · 问题排查与总结报告
综合项目实战NCCL