Nsight Systems入门：界面布局、时间轴视图、CPU/GPU并发活动概览、Profile基础流程

各位同学，欢迎来到Nsight Systems的世界。

说实话，很多做GPU开发的朋友，一开始都栽在「性能分析」这个坎上。代码能跑，但就是慢。慢在哪？不知道。我见过太多人凭感觉改代码，改完更慢了。嗯，Nsight Systems就是来解决这个问题的。

今天这一讲，我们先把工具本身摸透。你不需要记住所有按钮，但得知道它怎么帮你「看见」程序的执行过程。

1. 界面布局：别被密密麻麻的窗口吓到

第一次打开Nsight Systems，你可能会觉得眼花。别慌，核心就三个区域。

• 左侧导航区：这里显示你打开的trace文件列表。我个人习惯把多个对比实验的trace都拖进来，方便左右对照。
• 中央时间轴视图：这是主角。所有CPU、GPU的活动，都按时间顺序画在这里。
• 右侧详情面板：你点击时间轴上的任何一个「条条块块」，这里就会显示它的详细信息。比如内核启动参数、API调用栈、数据传输量等等。

你想想看，一个程序跑了几秒钟，里面发生了成千上万个事件。如果没有这个时间轴，你根本不知道哪一步在拖后腿。

2. 时间轴视图：读懂这张图，你就懂了性能

时间轴视图，说白了就是一张「程序执行流水账」。横轴是时间，纵轴是各个执行单元。

你会看到好几行：

• CPU Threads：你的CPU线程在干什么。是忙着计算，还是在等锁？
• GPU Streams：GPU上的各个流（Stream）在执行什么内核（Kernel）或内存拷贝（Memcpy）。
• NVIDIA GPU：显示GPU整体的利用率、显存带宽、SM活跃度等硬件计数器。

为什么这个视图重要？

我举个例子。有一次我优化一个推理服务，发现GPU利用率只有30%。看时间轴才发现，CPU把数据准备好之后，要等一个锁，然后才启动GPU内核。那个锁的等待时间，比GPU计算时间还长。这就是典型的「CPU-GPU同步开销」。

3. CPU/GPU并发活动概览：一眼看出瓶颈在哪

Nsight Systems提供了一个非常直观的概览图，叫「CPU/GPU Concurrency Overview」。它把时间轴上的活动做了分类统计。

你会看到几个色块：

• CPU Activity：CPU在忙什么（计算、I/O、同步）
• GPU Activity：GPU在忙什么（计算、内存拷贝）
• Idle：谁在闲着

如果GPU Activity占比很高，但CPU Activity很低，说明CPU喂不饱GPU。反过来，如果CPU一直在忙，GPU却经常空闲，说明GPU在等CPU的数据。

我曾经帮一个团队调优，他们的程序GPU利用率只有15%。一看概览图，好家伙，CPU花了80%的时间在做内存分配（malloc）。这就是典型的「CPU端内存管理拖垮GPU性能」。

4. Profile基础流程：三步走，不迷路

很多新手一上来就想看所有数据，结果被信息淹没了。我建议你按这个流程来：

1. 第一步：收集数据

   用命令行或者Nsight GUI启动你的程序。命令很简单：

   nsys profile -o my_trace ./my_cuda_app

   这会生成一个 my_trace.nsys-rep 文件。嗯，注意文件别太大，如果程序跑很久，可以加 -t cuda,nvtx,osrt 只收集关键事件。

2. 第二步：打开并浏览

   双击那个文件，或者从Nsight Systems里打开。先看概览图，再看时间轴。别急着点细节。

3. 第三步：定位瓶颈

   找到时间轴上「最长的空闲段」或者「最密集的活动区域」。点进去看详情。问自己三个问题：

   • 这个空闲是因为CPU在等GPU，还是GPU在等CPU？
   • 这个密集活动是计算密集还是访存密集？
   • 有没有不必要的同步点（比如cudaDeviceSynchronize）？

我记得有一次，一个同学跑来跟我说：「我程序跑得很慢，但Nsight上看不到任何空闲。」我让他放大时间轴到微秒级，才发现每个内核启动之间都有几微秒的延迟。那是CUDA驱动层的开销。后来我们用CUDA Graphs解决了这个问题。

知识体系图：Nsight Systems入门核心逻辑

下面这张图，帮你把今天的内容串起来。从「收集数据」到「定位瓶颈」，每一步都有对应的视图和操作。

好了，这一讲的内容就到这里。你不需要一次记住所有细节。先打开Nsight Systems，对着自己的程序跑一遍profile，看看时间轴长什么样。下次我们再深入讲如何解读那些「花花绿绿的条条块块」。

想要更多资料，联系可可