01
Nsight概述
什么是Nsight · 系列工具介绍 · GPU编程重要性
概念入门
02
环境搭建
Nsight Systems/Compute安装 · CUDA兼容性检查
安装配置
03
Nsight Systems入门
界面布局 · 第一个Profile项目 · 时间轴视图
界面时间轴
04
Nsight Compute入门
界面布局 · Kernel Profiling · 执行时间
Kernel性能
05
GPU硬件架构基础
SM概念 · Warp调度 · 内存层次结构
硬件架构
06
CUDA编程模型回顾
Kernel Launch · Grid/Block/Thread · 同步异步
CUDA编程
07
Nsight Systems实战
CPU/GPU时间线 · 同步瓶颈 · API调用开销
分析瓶颈
08
Nsight Compute实战
Occupancy · Warp Stall · 计算/内存瓶颈
Occupancy调优
09
内存带宽分析
Global Memory访问 · Coalescing · 内存效率
带宽合并
10
Shared Memory优化
Bank Conflict检测 · Shared Memory性能分析
Shared冲突
11
寄存器与Local Memory
寄存器压力 · Register Spilling · Local访问优化
寄存器Spilling
12
Warp Divergence分析
产生原因 · Nsight检测 · 分支优化
分支Warp
13
指令级并行
ILP概念 · 指令吞吐量 · 流水线优化
ILP指令
14
Stream与并发
CUDA Stream · 分析Stream并发 · 计算/传输Overlap
Stream并发
15
异步数据传输
Pinned/Pageable · 数据传输时间 · Host-Device通信
异步传输
16
CUDA Graphs
Graph介绍 · Nsight分析 · Graph vs Stream
Graph性能
17
Nsight Systems高级功能
自定义Annotations · NVTX · 多进程/多GPU
NVTX高级
18
Nsight Compute高级功能
Source Correlator · PC Sampling · Metric表达式
采样自定义
19
性能指标解读
Occupancy · SM Efficiency · Memory Throughput
指标效率
20
瓶颈定位方法论
Roofline模型 · Nsight生成Roofline · 优化策略
Roofline方法论
21
矩阵乘法优化案例(上)
Naive实现 · Shared Memory Tiling · 性能对比
矩阵Tiling
22
矩阵乘法优化案例(下)
Bank Conflict消除 · Register Tuning · 最终调优
Bank调优
23
Reduce(归约)优化案例
Warp Shuffle · 原子操作 · Nsight分析Reduce
归约Shuffle
24
卷积操作优化案例
Im2Col+GEMM · Direct Convolution · Nsight优化
卷积Im2Col
25
深度学习框架集成
PyTorch/TensorFlow Profiler · Nsight集成 · 训练Pipeline
PyTorchTensorFlow
26
多GPU编程分析
NCCL通信 · P2P传输 · 多GPU扩展性
NCCL多GPU
27
Nsight命令行工具
nsys/nv-nsight-cu-cli · 自动化Profiling脚本
命令行脚本
28
性能回归测试
性能基线 · 自动化测试 · CI/CD集成
回归CI/CD
29
常见问题与调试
Profiling Overhead · 采样精度 · 版本兼容性
调试兼容
30
综合实战项目
端到端优化流程 · 完整案例 · 最佳实践
实战总结