3. Nsight Compute概述：功能特性、界面导航与基本工作流程

NVIDIA Nsight Compute（简称 Nsight Compute 或 ncu）是专为 CUDA 内核级性能分析设计的交互式剖析工具。与 Nsight Systems 侧重系统级时间线不同，Nsight Compute 聚焦于单个内核在 GPU 硬件上的执行细节，能够精确回答“内核为什么慢”“瓶颈在哪个流水线阶段”“哪些硬件单元未被充分利用”等问题。它通过硬件性能计数器直接采集 SM（流式多处理器）内部事件，并结合静态指令分析，给出可执行的优化建议。

3.1 核心功能特性

Nsight Compute 的核心能力可归纳为以下五个维度：

• 硬件计数器采集：支持访问数百个底层硬件计数器，覆盖指令分发、内存访问、缓存命中率、执行单元占用率、功耗与时钟频率等维度。计数器通过 NVIDIA 官方提供的 nvperf 库驱动，无需修改应用代码。
• 内核级剖析：可对单个 CUDA 内核进行独立分析，输出该内核的详细执行报告，包括占用率（Occupancy）、寄存器压力、共享内存使用、分支发散、内存吞吐等关键指标。
• 指令级分析：通过 SASS（Shader Assembly）指令级反汇编，展示每条指令在硬件流水线中的执行周期、停顿原因（stall reason）以及 warp 调度行为，帮助定位指令级瓶颈。
• 自动优化建议：内置规则引擎（如 Speed of Light、Memory Workload Analysis）会根据采集数据自动生成优化建议，例如“增加每个线程的并行度以隐藏延迟”或“使用 __ldg() 绕过 L1 缓存”。
• 多模式集成：支持命令行（ncu）、图形界面（NVIDIA Nsight Compute GUI）以及与 Nsight Systems 的联动分析，满足不同使用场景。

3.2 界面导航与关键区域

Nsight Compute GUI 的界面布局围绕“分析流程”设计，主要分为以下区域：

下图展示了 Nsight Compute 分析一个典型 CUDA 内核时的核心数据流与界面模块之间的逻辑关系：

3.3 基本工作流程

使用 Nsight Compute 进行内核分析通常遵循以下五个步骤：

1. 准备分析目标：确保 CUDA 应用可执行文件包含调试符号（编译时添加 -lineinfo 或 -G 选项），以便将性能数据映射到源代码行。
2. 启动剖析会话：在 GUI 中新建分析会话，指定可执行文件路径、工作目录和命令行参数；或使用命令行直接运行：

# 命令行方式：分析单个内核，输出到文件
ncu --set full --kernel-name regex:myKernel -o profile_result ./my_app arg1 arg2

# 仅分析占用率指标
ncu --metrics sm__warps_active.avg.pct_of_peak_sustained_active ./my_app

3. 执行并采集数据：Nsight Compute 会多次重放内核（每个 pass 采集一组计数器），最终合并为完整数据集。对于耗时较长的内核，可通过 --launch-count 限制分析次数。
4. 查看分析报告：在 GUI 中打开生成的 .ncu-rep 文件，或直接查看终端输出的文本摘要。重点关注 Speed of Light 页面中的“Memory Throughput”和“Compute Throughput”两条柱状图——它们分别代表内存带宽利用率和计算单元利用率。
5. 定位瓶颈并迭代优化：根据报告中的“Warp State”和“Stall Analysis”判断线程停顿原因（如 long scoreboard 表示等待全局内存返回，wait 表示等待固定延迟指令），修改代码后重新分析，对比优化前后指标变化。

3.4 典型分析案例：矩阵乘法内核

假设我们有一个简单的矩阵乘法内核 matmul_naive，运行在 A100 GPU 上。使用 Nsight Compute 分析后，Speed of Light 页面显示：

• Compute (SM) Throughput：32%
• Memory Throughput：78%
• L1/TEX Cache Throughput：85%
• DRAM Throughput：45%

从数据可以判断：L1 缓存吞吐接近饱和，而 SM 计算单元利用率较低。进一步查看 Memory Workload Analysis 页签，发现全局加载（ld.global）指令的扇出（sector）效率仅为 40%，意味着每个 32 字节扇区中只有约 40% 的数据被实际使用——这是典型的非合并访问模式。

在源代码视图中，定位到内层循环的数组访问语句：

for (int k = 0; k < K; ++k) {
    sum += A[row * K + k] * B[k * N + col];  // B 的访问跨步为 N
}

由于 B 的列访问导致同一 warp 内 32 个线程访问的地址不连续，产生了大量冗余扇区加载。优化方案是使用共享内存分块（tiling），将 B 的子块先加载到共享内存，再按列读取。修改后重新分析，L1 扇区效率提升至 92%，内核整体耗时下降 3.2 倍。

3.5 复盘：分析流程中的关键检查点

完成一次完整的 Nsight Compute 分析后，建议按以下清单核对是否遗漏关键信息：