1. Nsight概述：什么是Nsight、Nsight工具家族、Nsight在GPU开发中的角色
1.1 什么是Nsight？
Nsight，说白了就是NVIDIA给开发者准备的一套GPU调试和分析工具。我刚开始接触GPU编程那会儿，写了个CUDA程序，跑起来结果不对，又不知道哪里出了问题。那时候debug全靠printf，效率低得让人抓狂。后来用了Nsight，才真正体会到什么叫「工欲善其事，必先利其器」。
Nsight能帮你做什么？简单来说：
- 调试：像断点、单步执行、查看变量值，这些常规操作都有
- 性能分析：看看你的kernel到底慢在哪里，是访存瓶颈还是计算瓶颈
- 系统追踪：CPU和GPU之间的交互，API调用，内存拷贝，一目了然
核心观点：Nsight不是单一工具，而是一个工具家族。每个工具解决不同层面的问题。
1.2 Nsight工具家族
Nsight家族成员不少，我挑几个常用的给你说说：
| 工具名称 | 主要用途 | 适用场景 |
|---|---|---|
| Nsight Systems | 系统级性能分析 | 看整体流水线、CPU-GPU交互、API开销 |
| Nsight Compute | Kernel级性能分析 | 深入分析单个kernel的瓶颈 |
| Nsight Graphics | 图形调试与分析 | 游戏引擎、图形渲染管线 |
| Nsight Visual Studio Edition | 集成到VS的调试工具 | Windows平台CUDA开发 |
| Nsight Eclipse Edition | 集成到Eclipse的调试工具 | Linux平台CUDA开发 |
我个人习惯是：先用Nsight Systems看全局，找到热点，再用Nsight Compute深挖具体kernel。这样效率最高。
小技巧：别一上来就用Nsight Compute。先跑一遍Nsight Systems，看看你的程序到底在等什么。我曾经有个项目，优化了半天kernel，结果发现瓶颈在CPU-GPU之间的内存拷贝上——白忙活一场。
1.3 Nsight在GPU开发中的角色
Nsight在GPU开发中扮演什么角色？我总结了三句话：
- 定位问题：程序跑得慢？结果不对？Nsight帮你找到问题根源
- 量化性能：别靠猜，用数据说话。occupancy多少？带宽利用率多少？
- 指导优化：告诉你该改哪里，改完之后效果如何
你想想看，没有Nsight的时候，我们怎么优化？靠经验，靠直觉，靠一遍遍改代码然后跑时间。有了Nsight，优化变成了一个闭环：分析→修改→验证→再分析。这才是工程化的做法。
注意：Nsight不是万能药。它告诉你「哪里慢」，但不一定告诉你「为什么慢」。解读数据需要你对GPU架构有深入理解。嗯，这也是为什么我要做这个课程。
1.4 Nsight的核心工作流程
下面这张图展示了Nsight工具在GPU开发中的典型工作流程：
这个流程我用了好多年，确实管用。先开发，再系统分析，再kernel分析，然后判断性能是否达标。不达标就回去改代码，再来一轮。每次迭代都基于数据，不是拍脑袋。
1.5 避坑指南
最后，分享几个我踩过的坑：
- 别在Release模式下调试：编译器优化会把代码改得面目全非，断点都打不准。用Debug模式或者RelWithDebInfo。
- Nsight Systems和Nsight Compute不要同时跑：它们会互相干扰。先跑Systems，再跑Compute。
- 注意驱动版本：Nsight对驱动版本有要求。我曾经因为驱动没更新，折腾了半天才发现是版本不兼容。
- 别只看平均性能：GPU的延迟分布很重要。有时候平均延迟很低，但P99延迟高得吓人，这种问题Nsight能帮你揪出来。
我的建议：刚开始用Nsight时，别贪多。先学会用Nsight Systems看时间线，搞清楚CPU和GPU在干什么。这一步走稳了，后面学Nsight Compute就顺了。
好了，Nsight概述就讲到这里。记住一句话：Nsight是你的眼睛，帮你看到GPU内部发生了什么。没有它，你就是在黑暗中摸索。