VIP20

本课程属于：017-Nsight AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

Nsight数据采集与性能诊断

📚 共计 30 章节

什么是NVIDIA Nsight？Nsight系列工具家族（Nsight Systems, Compute, Graphics）介绍与适用场景。

工具家族适用场景

Nsight工具的安装与配置（Windows/Linux），驱动与CUDA Toolkit版本兼容性检查。

安装配置兼容性

Nsight Systems界面导览

主界面布局、时间轴视图、进程/线程视图、GPU活动视图。

界面布局时间轴

数据采集基础

使用Nsight Systems进行首次性能数据采集（CLI与GUI两种方式）。

CLIGUI首次采集

时间轴分析

解读CPU与GPU活动的时间线，识别串行化与并行化瓶颈。

时间线串行/并行

GPU Metrics详解

理解Occupancy、SM Activity、Memory Throughput等关键指标。

Occupancy吞吐量

分析CPU端的调用栈、热点函数与线程同步开销。

调用栈热点函数

Trace与Profile模式

区分Tracing（追踪）与Sampling（采样）模式及其适用场景。

TracingSampling

自定义标记与范围

在代码中插入NVTX标记，精准定位感兴趣的区域。

内存带宽分析

使用Nsight Systems检测内存带宽瓶颈与PCIe传输开销。

内存带宽PCIe

Nsight Compute入门

认识Nsight Compute的界面与核心概念（Kernel Profiling）。

Kernel分析基础

运行首次Kernel分析，解读Summary页面（Duration, Occupancy, Memory）。

SummaryDuration

指令与吞吐分析

分析指令发射、算术吞吐与内存吞吐，定位计算瓶颈。

指令吞吐计算瓶颈

Occupancy分析

理解Occupancy与性能的关系，调整Block Size与Shared Memory。

OccupancyBlock Size

内存访问模式

分析Global Memory访问模式（Coalescing），识别Bank Conflict。

CoalescingBank Conflict

Shared Memory优化

使用Nsight Compute诊断Shared Memory使用效率与Bank Conflict。

Shared Memory效率

寄存器压力分析

诊断寄存器溢出（Register Spill）对性能的影响。

Register Spill寄存器

分支与发散

分析Warp Divergence，优化控制流。

Warp Divergence控制流

性能基线对比

使用Nsight Compute的Compare功能进行多版本Kernel性能对比。

Nsight Graphics入门

图形管线性能分析基础，Draw Call与Shader分析。

图形管线Draw Call

Shader性能分析

分析Vertex/Fragment/Compute Shader的执行效率与瓶颈。

Shader执行效率

GPU Trace深度分析

结合Nsight Systems与Nsight Compute进行端到端性能诊断。

端到端联合分析

多GPU应用分析

分析多GPU环境下的负载均衡与通信开销（NCCL）。

CUDA Graphs与Nsight

分析CUDA Graphs的启动开销与执行效率。

CUDA Graphs启动开销

内存池与异步操作

分析cudaMallocAsync与Stream异步操作对性能的影响。

cudaMallocAsyncStream

自动调优与建议

利用Nsight Compute的自动调优建议（Speed of Light, Roofline）。

自动调优Roofline

Roofline模型实战

在Nsight中绘制Roofline图，定位计算/内存受限区域。

Roofline受限分析

脚本化与自动化

使用Nsight命令行接口（CLI）进行批量数据采集与分析。

常见性能反模式

识别并修复常见的CUDA性能陷阱（如Host-Device同步、小Kernel启动）。

反模式同步陷阱

综合案例实战

对一个真实AI或HPC应用进行全流程性能诊断与优化。

全流程实战