01
Nsight概述
什么是Nsight · 工具家族 · GPU开发角色
概念入门
02
Nsight Systems入门
安装配置 · 界面布局 · 基本工作流程
工具配置
03
Nsight Compute入门
安装配置 · 界面布局 · Kernel Profiling
分析Kernel
04
任务调度基础
GPU调度模型 · Stream · Grid/Block/Warp
调度核心
05
流水线基础
GPU流水线架构 · 指令/内存流水线 · 计算访存重叠
架构流水线
06
Nsight Systems时间线分析
Timeline视图 · CPU/GPU追踪 · API追踪
可视化追踪
07
Nsight Systems性能指标
吞吐量 · 延迟 · 占用率 · 带宽利用率
指标性能
08
Nsight Compute Kernel分析
Profiling详解 · 性能计数器 · Roofline模型
分析Roofline
09
Nsight Compute性能瓶颈定位
计算瓶颈 · 访存瓶颈 · 延迟隐藏
瓶颈优化
10
Stream与并发执行
多Stream创建 · Stream优先级 · 同步
并发Stream
11
依赖与同步
CUDA Event · Stream Callback · 依赖图
同步依赖
12
流水线深度与吞吐量
流水线级数 · 吞吐量计算 · 最佳深度
吞吐量设计
13
指令级并行
ILP概念 · 编译器优化 · 手动提升技巧
ILP优化
14
线程级并行
Warp调度 · Divergence · Occupancy优化
Warp占用率
15
内存级并行
Global/Shared/Register调度
内存层次
16
异步操作与重叠
Memcpy与Kernel重叠 · CUDA Graphs · MPS
异步重叠
17
Nsight Systems高级功能
Range分析 · 自定义标记 · Trace分析
高级标记
18
Nsight Compute高级功能
Section定制 · Metric公式 · 脚本化分析
定制脚本
19
任务调度优化案例
矩阵乘法调度 · Stencil计算调度
案例调度
20
流水线优化案例
卷积前向传播 · Transformer推理流水线
案例流水线
21
多GPU任务调度
P2P通信 · NCCL调度 · 多Stream跨GPU
多GPUNCCL
22
动态并行与任务图
Dynamic Parallelism · CUDA Graphs · Graph优化
动态Graph
23
Nsight联合分析
工作流 · 数据关联 · 综合调优
联合调优
24
性能模型与预测
Roofline实战 · Little's Law · 性能建模
模型预测
25
常见性能陷阱
过度同步 · 小Kernel开销 · 内存碎片 · Warp饥饿
陷阱避坑
26
调试与验证
Nsight Debugger · Memory Checker · Race Detection
调试验证
27
深度学习框架中的调度
PyTorch CUDA Graph · TensorFlow XLA · 自定义算子
框架调度
28
HPC应用中的调度
MPI+CUDA · CUDA Aware MPI · 任务依赖管理
HPCMPI
29
Nsight最佳实践
分析流程 · 优化迭代 · 团队协作
实践流程
30
综合实战
端到端任务调度与流水线优化项目
实战项目