3. Nsight Compute概述：功能特性、界面布局、与NVIDIA工具链的关系

3.1 核心功能特性

Nsight Compute（简称Nsight Compute或ncu）是NVIDIA提供的GPU内核级性能分析器，其定位是面向CUDA kernel的微观性能剖析。与Nsight Systems（面向全应用的时间线追踪）不同，Nsight Compute专注于单个kernel内部的执行细节，能够回答“这个kernel为什么慢”“瓶颈在访存、计算还是延迟隐藏”这类问题。

其核心功能可归纳为以下四类：

• 硬件计数器采集：通过GPU硬件性能计数器，精确测量SM（流多处理器）内部的活动，包括指令执行、内存事务、缓存命中率、warp调度行为等。
• 性能树（Speed of Light）分析：将kernel的实测性能与理论峰值对比，从计算吞吐（Compute Throughput）、内存吞吐（Memory Throughput）、延迟（Latency）三个维度给出“离理论极限有多远”的直观结论。
• 源码级关联：将性能数据映射到具体的CUDA源码行或SASS（Shader Assembly）指令，帮助开发者快速定位热点代码。
• 规则检查（Rules）与建议：内置数百条性能规则，自动检测常见低效模式（如非合并访存、bank conflict、低占用率等），并给出优化建议。

3.2 界面布局与工作流程

Nsight Compute提供两种使用方式：图形界面（NVIDIA Nsight Compute GUI）和命令行工具（ncu）。GUI适合交互式探索，命令行适合自动化脚本和CI集成。两者共享相同的底层分析引擎。

GUI的主界面布局分为以下几个关键区域：

典型的使用流程如下：

1. 准备：编译带调试信息（-lineinfo）的CUDA程序，确保源码关联可用。
2. 采集：在GUI中打开可执行文件，或使用命令行 ncu --set full ./myapp 运行分析。
3. 筛选：如果程序包含多个kernel，在kernel列表中选择耗时最长或最关心的目标kernel。
4. 诊断：先看SOL图判断瓶颈类型（计算/访存/延迟），再深入性能树查看具体计数器。
5. 定位：通过源码视图找到热点行，结合规则建议确定优化方向。

# 命令行基础用法示例
# 分析单个kernel，输出到终端
ncu --kernel-name regex:myKernel --launch-count 1 ./myapp

# 使用预设的完整分析集，输出报告文件
ncu --set full --export report.ncu-rep ./myapp

# 仅查看SOL概览，快速判断瓶颈类型
ncu --section SpeedOfLight ./myapp

3.3 与NVIDIA工具链的协同关系

Nsight Compute并非孤立工具，它处于NVIDIA性能分析工具链的微观层，与宏观层工具形成互补。理解工具链的分工，有助于在正确场景选择正确工具。

下图展示了Nsight Compute在NVIDIA工具链中的位置及其与相邻工具的关系：

工具链的协同工作方式可以概括为“由粗到细、逐层深入”：

• Nsight Systems负责回答“哪个kernel最耗时”“CPU与GPU是否同步等待”“是否存在内存拷贝开销”等宏观问题。
• 一旦锁定某个kernel，Nsight Compute接管，回答“该kernel内部为何慢”——是访存未合并、计算指令过多、还是warp调度效率低。
• 如果需要更底层的指令级信息（如SASS指令的精确延迟、寄存器bank冲突），可借助cuobjdump/nvdisasm反汇编，或查阅GPU架构白皮书。

3.4 典型应用场景与误区

场景示例：假设一个矩阵乘kernel运行时间为5ms，而理论估算应为1ms。使用Nsight Systems发现该kernel确实占用了90%的GPU时间，于是用Nsight Compute分析：

# 分析矩阵乘kernel的SOL概览
ncu --section SpeedOfLight --kernel-name regex:matmulKernel ./matmul

# 输出关键信息（示意）
# Compute (SM) Throughput: 35.2%
# Memory Throughput: 88.7%
# 结论：内存吞吐接近饱和，计算利用率低 → 访存密集型瓶颈

进一步查看内存工作负载分析，发现全局加载的合并率（Coalescing Rate）仅为45%，说明存在大量非合并访存。结合源码视图，定位到数组访问索引未按线程连续排列，从而确定优化方向为调整数据布局或交换循环顺序。

3.5 复盘与小结

回顾本章，需要掌握以下要点：