01
Nsight入门
什么是Nsight · 家族产品 · Systems vs Compute · 安装配置
入门工具链
02
Profile基础
GPU架构 · SM/Warp调度 · 内存层次 · 基本流程
架构核心概念
03
Nsight Systems实战
Timeline · CPU/GPU交互 · API Trace · 导入导出
可视化Trace
04
Nsight Compute实战
Kernel Profiling · Occupancy · Memory/Compute
Kernel指标
05
算子瓶颈定位
访存/计算密集型 · 带宽利用率 · 指令吞吐
瓶颈分析
06
CUDA Kernel优化
Grid/Block调优 · Shared Memory · Bank Conflict · Warp Divergence
优化Warp
07
内存优化
Global合并 · Pinned Memory · Unified Memory · L1/L2命中
内存Cache
08
高级Profile技巧
CLI使用 · 自动化脚本 · 多GPU · 回归测试
自动化CLI
09
实战案例1：矩阵乘法
Naive→Tiled · Shared Memory · Tensor Core
GEMMTensorCore
10
实战案例2：Reduce算子
Warp Shuffle · 原子操作 · 多Block协作
ReduceShuffle
11
实战案例3：卷积算子
Im2Col+GEMM · Winograd · cuDNN对比
卷积Winograd
12
实战案例4：Attention优化
Flash Attention · Online Softmax · Tiling
TransformerFlash
13
实战案例5：GNN算子
SpMM/SDDMM · Gather/Scatter · 邻居采样
GNN稀疏
14
实战案例6：图像处理
直方图均衡 · 双边滤波 · NPP库对比
图像NPP
15
实战案例7：自定义算子
CUDA Extension · PyTorch集成 · Profile验证
自定义PyTorch
16
Nsight Compute Metrics详解
SM Occupancy · Achieved Occupancy · Sector · Warp Stall
MetricsOccupancy
17
Nsight Compute Source视图
源码关联 · 汇编级 · PTX/SASS · 编译器优化
PTXSASS
18
Nsight Compute Speedup Tips
Launch Bounds · Pragma Unroll · __restrict__ · 数学函数
优化编译
19
Nsight Systems Trace分析
NVTX Range · 自定义事件 · Trace对比 · 瓶颈可视化
NVTX可视化
20
Nsight Systems GPU Trace
硬件队列 · Kernel并发 · MemCpy重叠 · Stream优先级
GPU并发
21
Nsight Systems CPU Trace
CPU线程 · OpenMP/MPI · 同步开销 · 锁竞争
CPU同步
22
Nsight Systems Power Profile
功耗 · 温度 · 频率调节 · 能效比
功耗能效
23
Nsight Systems Memory Profile
内存带宽 · 分配 · 泄漏检测 · 虚拟内存
内存泄漏
24
Nsight Compute Roofline模型
Roofline原理 · Arithmetic Intensity · 绘制 · 瓶颈定位
Roofline模型
25
Nsight Compute Speed of Light
理论/实测带宽 · 计算/访存吞吐 · 瓶颈判定
带宽吞吐
26
Nsight Compute Kernel Profiling
Launch参数 · 寄存器压力 · Local Memory · 指令重排
寄存器Local
27
Nsight Compute Memory Workload
Load/Store · Cache Miss · 时间/空间局部性
Cache局部性
28
Nsight Compute Control Flow
分支预测 · Predication · Divergent Warp · Reconvergence
分支Warp
29
Nsight Compute Pipeline
指令流水线 · Warp调度器 · Scoreboard · Stall原因
流水线Stall
30
综合实战：端到端模型Profile
多算子联合优化 · 性能报告 · 优化迭代流程
综合报告