第一章：CUDA性能分析工具——nvprof与Nsight Systems

各位同学好，我是你们这节课程的讲师。今天咱们聊聊CUDA性能分析这件事。说实话，我见过太多人写CUDA代码，跑起来没问题，但一测性能就傻眼——明明感觉写得挺优化，结果连理论峰值的一半都不到。问题出在哪？

嗯，这就得靠性能分析工具来帮忙了。我个人习惯，拿到一个CUDA程序，第一件事不是看代码，而是先跑一遍profiling。就像医生看病，总得先拍个片子吧？

nvprof是NVIDIA最早推出的命令行性能分析工具。虽然现在Nsight Systems是主流，但nvprof在一些场景下依然很实用——比如你只想快速看一眼kernel的耗时，或者你需要在无图形界面的服务器上做分析。

基本用法很简单：

nvprof ./my_cuda_program

这会输出所有CUDA API调用和kernel的执行时间。但说实话，这样看太粗糙了。我一般会加一些参数：

nvprof --print-gpu-trace ./my_cuda_program
nvprof --metrics all ./my_cuda_program

第一个命令打印GPU的完整执行轨迹，第二个会输出所有硬件指标——注意，这个输出量非常大，我建议你只关注几个关键指标，别被数据淹没了。

我的小技巧： 在项目初期，我习惯用nvprof快速定位哪个kernel最耗时。找到瓶颈后，再用Nsight Systems做深入分析。别一上来就用大炮打蚊子。

Nsight Systems是NVIDIA新一代的性能分析工具。它最大的优势是——能看到整个系统的行为，不仅仅是GPU。CPU、GPU、内存传输、API调用，全都在一条时间线上展示。

启动方式也很简单：

nsys profile -o my_profile ./my_cuda_program

然后打开生成的.nsys-rep文件，你会看到一个非常直观的时间轴视图。我个人最喜欢的功能是它能自动标注出「GPU空闲」的时间段——说白了，就是你的GPU在等数据，没干活。这是性能优化的黄金切入点。

  核心观点： 性能优化的本质，就是让GPU尽可能多地干活，尽可能少地等待。

拿到profiling数据后，怎么看？我总结了三个核心维度：

我曾经接手过一个项目，矩阵乘法kernel跑得特别慢。一看profiling，访存带宽利用率只有15%。嗯，问题很明显——数据访问模式不对，导致大量cache miss。改成coalesced访问后，带宽利用率直接飙到75%，性能提升了4倍。

避坑指南： 我曾经犯过一个错误——只看kernel执行时间，不看具体指标。结果优化了半天，发现瓶颈根本不在我改的那部分代码上。记住：先定位，再优化。

Occupancy，中文叫「占用率」，指的是SM上活跃的warp数量与最大支持warp数量的比值。很多人以为Occupancy越高越好，其实不一定。

为什么会这样？你想想看，Occupancy高意味着SM上同时运行的线程多，这确实有助于隐藏延迟。但如果每个线程需要的寄存器太多，导致每个SM能同时运行的线程块数量受限，反而可能降低性能。

我一般用这个命令查看Occupancy：

nvprof --metrics achieved_occupancy ./my_cuda_program

或者用Nsight Systems的Occupancy视图，更直观。我个人习惯的调优思路是：

举个例子，我优化过一个图像处理kernel。初始Occupancy只有33%，因为每个线程用了64个寄存器。我通过拆分计算、复用中间结果，把寄存器降到32个，Occupancy提升到67%，性能直接翻倍。

下面这张图是我自己整理的CUDA性能分析知识框架，你可以把它当作一个检查清单：

这张图把整个分析流程串起来了。你拿到一个CUDA程序，先选工具（nvprof或Nsight Systems），然后看三大指标，最后针对Occupancy做调优。每一步都有明确的判断标准，不会让你无从下手。

我的建议： 刚开始学的时候，别追求一次把所有指标都看懂。先盯住一个指标——比如访存带宽利用率——把它优化到80%以上，再去看下一个。贪多嚼不烂。

好了，这一章的内容就到这里。记住，性能分析不是玄学，是有章可循的工程方法。工具给你数据，但判断力得靠你自己积累。多跑几次profiling，多对比不同优化策略的效果，慢慢你就会有感觉了。

想要更多资料，联系可可