VIP20
本课程属于:017-Nsight AI算力与GPU工程 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Nsight入门到GPU集群实战

📚 共计 30 章节
01
Nsight工具链全景
NVIDIA开发者工具生态 · Nsight系列定位 · 安装与版本管理
生态入门
02
Nsight Systems入门
界面布局 · 时间轴视图 · CPU/GPU并发 · Profile流程
时间轴Profile
03
Nsight Systems深度分析
Trace/Sample模式 · CUDA API跟踪 · Kernel时间线 · 内存操作
TraceCUDA
04
Nsight Systems实战
CPU-GPU同步瓶颈 · 数据传输开销 · Host-Device交互优化
同步优化
05
Nsight Compute入门
Kernel Profiling · 性能计数器 · Roofline模型初探
KernelRoofline
06
Nsight Compute深度分析
指令级并行 · 内存访问模式 · Occupancy与Warp调度
指令Occupancy
07
Nsight Compute实战
优化矩阵乘法 · 访存瓶颈 · Shared Memory提升性能
Shared MemoryGEMM
08
Nsight Graphics入门
帧调试器 · Shader分析 · GPU管线状态查看
图形管线
09
Nsight Graphics实战
渲染瓶颈 · Draw Call优化 · 纹理与缓冲区分析
渲染优化
10
Nsight Eclipse Edition
IDE配置 · CUDA调试 · 内存检查
Eclipse调试
11
Nsight Visual Studio Edition
Windows集成 · 断点调试 · Warp状态查看
VSWarp
12
GPU架构基础
SM与Warp · CUDA Core/Tensor Core · 内存层次
架构SM
13
CUDA编程回顾
Kernel Launch · Grid-Block-Thread · 同步与原子操作
CUDA同步
14
性能指标解读
吞吐量 · 延迟 · Occupancy · 利用率 · 带宽
指标性能
15
Roofline模型实战
计算强度 · 带宽/计算上限 · 瓶颈定位
Roofline分析
16
GPU集群概述
集群拓扑 · NVLink/InfiniBand · 作业调度系统
集群拓扑
17
Nsight Systems集群模式
多节点Profile · NCCL/MPI分布式通信分析
集群NCCL
18
Nsight Compute集群模式
跨节点Kernel对比 · 规模化性能分析
跨节点对比
19
NCCL性能分析
AllReduce/AllGather/ReduceScatter · 带宽利用率
NCCL通信
20
MPI与GPU通信
CUDA-Aware MPI · P2P/GDR · 通信与计算重叠
MPIGDR
21
集群存储分析
并行文件系统 · 数据加载瓶颈 · I/O Profile
存储I/O
22
大规模训练Profiling
数据并行 · 模型并行 · 流水线并行 · 混合精度
训练并行
23
推理优化Profiling
TensorRT集成 · 动态形状 · 批处理优化
推理TensorRT
24
Nsight CLI工具
命令行Profiling · 脚本自动化 · CI/CD集成
CLI自动化
25
Nsight Docker集成
容器化环境配置 · Profile容器内应用
Docker容器
26
Nsight与PyTorch/TensorFlow
自动Profiling · 框架层性能分析
PyTorchTF
27
性能回归测试
基线建立 · 自动化比较 · 告警机制
回归CI
28
案例研究1:单GPU图像分类
从Baseline到2x加速 · 优化全流程
案例图像分类
29
案例研究2:多节点LLM训练
通信与计算平衡 · 大规模调优
LLM多节点
30
案例研究3:推荐系统推理
吞吐量与延迟权衡 · 大规模优化
推荐推理