VIP20

本课程属于：052-NVIDIA Networking高速数据中心网络工程 网络通信与数字安全工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NVIDIA AI数据中心网络性能调优与容量规划

共计 30 章节

可可资料掘金营 · 点击在线试看

课程导入与AI网络全景

目标=明确AI数据中心网络性能调优与… · 梳理GPU集群 · RDMA

AI训练与推理流量特征建模

目标=分析AllReduce · AllGather · ReduceScatter

NVIDIA AI数据中心网络架构选型

目标=对比InfiniBand与以太… · 讲解Fat-Tree · Rail-Optimized

GPU直连通信与NVLink/NVSwitch性能边界

目标=剖析NVLink · NVSwitch · GPUDirect RDMA

GPUNVLink/NVSwi…

RDMA与RoCEv2协议栈调优基础

目标=讲解RDMA队列对 · 完成队列 · 内存注册

InfiniBand网络关键机制与调优入口

目标=解析InfiniBand的LI… · SL/VL · 自适应路由

InfiniBand网络关键机制

NCCL通信库性能调优实战

目标=围绕NCCL拓扑探测 · 算法选择 · 通道数

NCCL通信库性能调优实…

GPUDirect RDMA与零拷贝路径验证

目标=设计实验验证GPU显存到网卡的… · 排查IOMMU · ACS

网络时延分解与瓶颈定位方法

目标=建立应用时延 · 集合通信时延 · 网络往返时延

网络时延分解瓶颈定位方法

带宽、PPS与消息速率容量测算

目标=根据GPU数量 · 模型并行策略 · 梯度大小

交换机缓冲区与拥塞点分析

目标=分析共享缓冲区 · 动态阈值 · PFC风暴

交换机缓冲区拥塞点分析

PFC、ECN与DCQCN联合调优

目标=针对RoCEv2无损网络 · 设计PFC优先级 · ECN门限

自适应路由与负载均衡调优

目标=在InfiniBand和Spe… · 动态负载均衡 · 包喷洒策略

自适应路由负载均衡调优

SHARP与网内计算加速集合通信

目标=讲解SHARP在InfiniB… · 配置SHARP树 · 聚合节点与NCCL集成

SHARP网内计算加速集合…

多租户与QoS隔离下的AI网络性能

目标=设计多租户AI集群的QoS策略 · 包括SL/VL映射 · DSCP

存储网络与AI数据流水线协同

目标=分析GPUDirect Sto… · NFS over RDMA · NVMe-oF在训练数据加载

NVIDIA网络遥测与性能监控体系

目标=部署并解读What-just-… · 流遥测 · 拥塞遥测

NVIDIA网络遥测

基于Nsight与DCGM的端到端性能剖析

目标=结合Nsight System… · Nsight Compute · DCGM

AI集群网络容量规划方法论

目标=从业务SLA · 模型规模 · 并行策略

AI集群网络容量规划…

Clos网络规模设计与收敛比权衡

目标=计算叶脊端口数 · 上行收敛比 · 超额订阅比

Clos网络规模设计

光模块、线缆与物理层容量约束

目标=分析AOC · DAC · 光模块

光模块线缆

故障域、冗余与网络可用性规划

目标=设计多平面 · 双归 · 链路聚合

故障域冗余

训练任务通信模式与网络容量匹配

目标=针对数据并行 · 张量并行 · 流水线并行

训练任务通信模式网络容量匹配

推理集群网络容量与SLA规划

目标=分析KV Cache传输 · PD分离 · 多模型服务

SLA推理集群网络容量

网络性能基准测试与验收方案

目标=设计从单链路 · 单交换机 · 单Pod到全集群的分层基准测试

网络性能基准测试验收方案

典型AI训练网络性能问题排查案例

目标=复现并解决AllReduce带… · RoCE丢包 · PFC死锁

大规模集群扩容与在线变更规划

目标=制定从千卡到万卡集群的网络扩容… · 包括拓扑扩展 · 地址规划

大规模集群扩容线变更规划

网络配置自动化与合规校验

目标=使用Ansible · NVIDIA NetQ · UFM

网络配置自动化合规校验

成本、功耗与性能的容量优化

目标=建立TCO模型 · 权衡交换机端口速率 · 光模块数量

目标=端到端AI网络调优与容量规划项… · 模型训练目标与预算约束 · 完成流量建模