3、Nsight Compute入门：安装与配置、界面布局、核心概念（Kernel Profiling）
好，咱们今天正式进入Nsight Compute的世界。说实话，我刚开始接触GPU profiling的时候，也踩过不少坑。那时候拿着Nsight一顿乱点，出来的数据根本看不懂。后来慢慢摸清了门道，才发现这工具其实挺友好的。
Nsight Compute，说白了就是NVIDIA专门为CUDA kernel做性能分析的工具。它不像Nsight Systems那样看全局流水线，而是聚焦到每一个kernel内部，告诉你这玩意儿到底慢在哪。
3.1 安装与配置
安装这块其实没什么难度。你直接去NVIDIA官网下载对应版本的Nsight Compute就行。我个人习惯用独立版，因为不依赖Visual Studio，轻量很多。
安装完成后，建议先做两件事：
- 设置环境变量
CUDA_PATH，指向你的CUDA安装目录 - 确认驱动版本支持。你可以在命令行敲
nvidia-smi看看驱动版本
配置方面，我个人建议把默认的profiling scope改成"all kernels"。为什么呢？因为有时候你以为某个kernel没问题，结果一跑才发现它才是瓶颈。嗯，这个坑我替你们踩过了。
3.2 界面布局
打开Nsight Compute，你会看到四个主要区域。我按使用频率给你排个序：
| 区域 | 作用 | 我的使用习惯 |
|---|---|---|
| Kernel List | 显示所有被profiled的kernel | 先看这里，挑最耗时的kernel下手 |
| Summary Page | 给出kernel的整体性能概览 | 快速判断是计算瓶颈还是访存瓶颈 |
| Source View | 关联到CUDA源代码，显示每行的性能数据 | 我最常用的视图，直接定位问题行 |
| Details Page | 展示各种性能指标，比如occupancy、带宽利用率 | 做深度分析时才会打开 |
你想想看，一个kernel跑得慢，无非就两个原因：要么计算单元没喂饱，要么数据搬运太慢。Summary Page就是帮你快速判断属于哪一种的。
3.3 核心概念：Kernel Profiling
Kernel Profiling，说白了就是把你写的CUDA kernel放到显微镜下看。Nsight Compute会收集上百个性能指标，但咱们不用全记住。我总结了一下，真正关键的其实就这几个：
- Occupancy：SM上活跃的warp数量占比。太低说明资源没用好
- Memory Throughput：显存带宽利用率。如果低于60%，说明访存模式有问题
- Compute Throughput：计算单元利用率。如果低于50%，说明计算没压满
为什么会这样？我给你举个例子。有一次我在优化一个矩阵乘法的kernel，发现occupancy只有30%。我当时就纳闷了，明明开了1024个线程啊。后来一看，原来是每个线程用了太多寄存器，导致SM上能同时跑的block数量受限。这就是典型的"寄存器压力"问题。
Nsight Compute的Source View能直接告诉你每一行代码占用了多少寄存器。你想想看，这多方便？不用再靠猜了。
3.4 实战：第一次Profiling
咱们来个简单的。假设你有一个叫 myKernel 的CUDA kernel，想看看它的性能。操作步骤是这样的：
- 在Nsight Compute里打开你的可执行文件
- 点击"Launch Profiling"按钮
- 等它跑完，会自动跳转到Summary Page
- 先看"Duration"那一栏，这是kernel的执行时间
- 再看"Occupancy"和"Memory Throughput"
嗯，这里要注意一点。第一次profiling时，Nsight Compute会默认做"replay-based profiling"，也就是把kernel跑好几遍来收集数据。这会导致执行时间比实际长很多。别慌，这是正常的。你可以在设置里改成"range-based profiling"来减少开销。
3.5 避坑指南
最后，我分享几个我踩过的坑：
- 不要在生产环境直接profiling：我曾经在客户服务器上直接跑profiling，结果把人家业务给拖慢了。后来学乖了，先在测试环境做。
- 注意profiling overhead：有些指标收集起来很费时，比如"L1 cache hit rate"。如果不需要，就别勾选。
- 对比分析很重要：别只看一次的结果。我习惯把优化前后的profiling结果放在一起对比，这样才知道改动到底有没有效果。
好了，Nsight Compute的入门就讲到这里。记住，工具只是工具，真正重要的是你对GPU架构的理解。下一节咱们会深入讲occupancy和warp调度，到时候你会发现自己对kernel的理解又上了一个台阶。