01
Nsight概述
Nsight家族产品介绍 · Nsight Systems vs Nsight Compute · 性能分析角色
入门概念
02
任务调度基础
GPU任务调度模型 · Stream与Concurrent Kernel · GPC/TPC/SM概览
核心硬件
03
Nsight Systems入门
安装与配置 · Timeline视图初探 · 捕获第一个Profile
工具实操
04
Timeline深度解析
CPU Trace · GPU Trace · NVTX标记 · 同步/异步可视化
可视化分析
05
Kernel Launch机制
Host端Launch流程 · Driver与Runtime交互 · Launch Latency分析
启动延迟
06
Stream与并发
Stream创建/销毁 · Default vs Non-blocking · 虚假依赖问题
并发Stream
07
Concurrent Kernel调度
Hyper-Q技术 · MPS · 硬件队列与软件队列
高级MPS
08
Grid与Block调度
GigaThread Engine · Block分配策略 · Occupancy与调度效率
调度Occupancy
09
Warp调度
Warp状态机 · Scheduler与Dispatch · ILP与TLP
Warp指令级
10
Memory调度
Global Memory访问 · Shared Memory Bank Conflict · Cache调度
存储优化
11
Nsight Compute入门
安装配置 · Kernel Profiling基础 · Metrics与Events概念
工具性能
12
Kernel分析实战
Roofline Model · Memory/Compute Bound · 瓶颈定位
分析Roofline
13
指令级分析
SASS指令集 · 指令吞吐量 · 指令依赖与Stall原因
指令SASS
14
Warp Stall分析
Stall分类 (Long/Short Scoreboard, Wait) · Stall可视化
Stall优化
15
Occupancy分析
Occupancy计算 · 与性能关系 · Launch Bounds优化
Occupancy调优
16
Shared Memory优化
Bank Conflict消除 · Padding技术 · Swizzle模式
共享内存优化
17
Register Pressure
Register分配策略 · Spilling影响 · 优化Register使用
寄存器性能
18
Global Memory合并访问
合并访问条件 · Alignment与Stride · Vectorized Load/Store
内存合并
19
异步操作与回调
CUDA Graphs · CUDA Events · Callback与Stream Callback
异步Graph
20
CUDA Graphs深度剖析
Graph构建 · Instantiation与Launch · Dynamic Graphs
Graph高级
21
MPS与多进程调度
MPS架构 · MPS配置 · MPS性能分析
MPS多进程
22
多GPU调度
Peer-to-Peer通信 · NVLink调度 · 多GPU任务分配
多GPUNVLink
23
NVTX与自定义标记
NVTX范围标记 · 与Timeline集成 · 性能开销
NVTX标记
24
Profiling最佳实践
开销控制 · 迭代式优化流程 · 常见陷阱
实践方法论
25
CPU-GPU协同调度
Pinned Memory · Streams与CPU Overlap · Async API
协同Overlap
26
任务调度案例分析
矩阵乘法 · Stencil计算 · Reduce操作调度优化
案例实战
27
Nsight CLI与自动化
命令行Profiling · 脚本化分析 · CI/CD集成
CLI自动化
28
性能指标解读
Duration · Throughput · Utilization · Speedup计算
指标量化
29
高级调度特性
Dynamic Parallelism · Cooperative Groups · Tensor Core调度
高级Tensor Core
30
综合实战
端到端应用优化 · 从Profile到优化 · 总结与展望
实战总结