VIP8

本课程属于：155-NVLink与GPU高速互联 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NVLink与NVSwitch GPU集群互联

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

NVLink与NVSwitch的定位 · 发展历程 · 在AI/HPC集群中的价值

课程导入NVLink

GPU互联基础

PCIe · NVLink · NVSwitch的对比

GPU互联基础

NVLink核心技术

NVLink的物理层 · 协议层 · 多代版本（NVLink 1.0/2.…

NVLink核心技术

NVLink拓扑结构

GPU间直接连接 · GPU到GPU的NVLink网状拓扑 · 以及多GPU（如DGX系列）的典型连…

NVLink拓扑结构

NVSwitch芯片的内部结构 · 端口数量 · 交换能力

NVSwitch集群拓扑

NVSwitch的层级设计（如DGX… · DGX A100 · DGX H100）

NVSwitch集群拓扑

NVLink与NVSwitch的协同

GPU与NVSwitch之间的连接方… · 如何实现GPU间高速通信 · 以及数据流路径

NVLink与NVSwitch的软件栈

CUDA · NCCL · NVML等软件如何利用NVLink/…

NCCL与集合通信

NCCL的AllReduce · AllGather等操作如何利用NV… · 以及环形

NCCL集合通信

NVLink性能测试

使用带宽测试工具（如nvidia-s… · nvbandwidth · NCCL测试）测量NVLink实际带…

NVLink性能测试

NVLink故障排查

常见NVLink错误 · 链路降级 · 拓扑检测方法

NVLink故障排查

NVSwitch的固件升级 · 状态监控 · 错误日志

多节点集群互联

NVLink/NVSwitch与In… · 如何构建GPU集群的混合互联架构

多节点集群互联NVLink/NVSwi…

NVLink over Fabric

NVLink over Infini… · 架构和适用场景

NVLink与NVSwitch的功耗与散热

功耗预算 · 散热设计 · 能效比

NVLink与NVSwitch的可靠性

链路冗余 · 故障转移 · ECC保护

NVLink与NVSwitch的虚拟化

GPU虚拟化（如vGPU）如何支持N… · 以及多租户环境下的资源隔离

NVLink与NVSwitch在AI训练中的应用

大模型训练（如 · BERT）如何受益于高速互联 · 以及分布式训练策略

NVLink与NVSwitch在推理中的应用

大规模推理服务 · 模型并行 · 张量并行如何利用NVLink降低延迟

NVLink与NVSwitch在HPC中的应用

科学计算 · 分子动力学 · 气象模拟等场景对互联的需求和优化

NVLink与NVSwitch的集群设计案例

基于DGX A100/H100构建集… · 网络规划 · 机架布局

NVLink与NVSwitch的集群部署实战

从硬件安装 · 驱动安装 · 固件升级到集群验证的完整流程

NVLink与NVSwitch的集群监控

使用DCGM · Prometheus · Grafana等工具监控GPU和NV…

NVLink与NVSwitch的集群调优

调整NCCL环境变量 · GPU频率 · NVLink速率等参数提升性能

NVLink与NVSwitch的常见问题

链路不稳定 · 性能不达标 · 兼容性问题

NVLink与NVSwitch的进阶特性

NVLink SHARP（In-Ne… · 多播 · 原子操作等高级功能

NVLink与NVSwitch的未来趋势

NVLink 5.0 · NVSwitch 3.0 · 以及与其他互联技术（如CXL）的竞争…

NVLink与NVSwitch的生态集成

与Kubernetes · Slurm等调度系统集成 · 以及容器化环境下的使用

NVLink与NVSwitch的实战项目

搭建一个4节点GPU集群 · 配置NVLink/NVSwitch · 运行分布式训练并优化性能

课程总结与综合提升

回顾核心知识点 · 分析典型故障案例 · 探讨如何设计高性能GPU集群

课程总结综合提升