1. CUDA入门：GPU计算发展史、CUDA应用场景、开发环境搭建
各位同学好，我是你们这门课的老朋友。今天咱们正式开篇，聊聊CUDA。
说实话，我第一次接触GPU计算是在十年前。那时候我还在做图像处理，CPU算个卷积慢得让人抓狂。后来听人说可以用显卡算，我还觉得挺扯的——显卡不是打游戏用的吗？嗯，后来我才发现自己错得离谱。
1.1 GPU计算发展史：从图形卡到通用计算
GPU的发展，说白了就是一场「被迫转型」的故事。
早期GPU就是专门画图的。你玩《魔兽世界》，它负责把3D场景渲染成2D画面。那时候没人想过拿它算科学计算——就像你不会拿微波炉去洗衣服一样。
转折点出现在2000年代初。一些研究人员发现，GPU里那些成百上千的小核心，特别适合做并行计算。比如矩阵乘法、图像滤波这类任务，天然就是并行的。我记得当时有个哥们用GPU算蛋白质折叠，速度比CPU快了几十倍。这事传开后，整个HPC圈子都炸了。
NVIDIA也嗅到了商机。2006年，他们推出了CUDA架构。这不是简单的硬件升级，而是一个完整的并行计算平台。你想想看，以前你要用图形API（OpenGL、DirectX）才能调用GPU，现在直接写C语言就能用，这门槛降了多少？
从那以后，GPU计算就一路狂奔。从Fermi到Turing，从Ampere到Hopper，每一代架构都在强化计算能力。特别是深度学习火起来之后，GPU简直成了AI的标配。没有GPU，你连个像样的神经网络都训不出来。
核心观点：GPU计算不是要取代CPU，而是和CPU协同工作。CPU负责控制流和复杂逻辑，GPU负责大规模并行计算。这叫异构计算。
1.2 CUDA应用场景：到底能干啥？
很多新手问我：CUDA到底能干啥？我一般会反问：你的任务能不能拆成很多小任务同时做？如果能，那CUDA大概率能帮你提速。
具体来说，CUDA的典型应用场景包括：
- 深度学习：训练和推理。PyTorch、TensorFlow底层都调了CUDA。没有CUDA，你连个ResNet都跑不动。
- 科学计算：分子动力学、流体力学、气象模拟。这些计算动辄几千亿次迭代，CPU算到天荒地老。
- 图像与视频处理：实时滤镜、视频编解码、光流计算。我在项目中做过一个4K视频实时降噪，CPU只能跑5帧，GPU直接干到60帧。
- 金融计算：蒙特卡洛模拟、风险分析。华尔街那帮人最喜欢用GPU算期权定价。
- 数据库与数据分析：GPU加速SQL查询、数据清洗。比如RAPIDS生态，直接把Pandas搬到了GPU上。
当然，不是所有任务都适合GPU。比如单线程的逻辑判断、频繁的I/O操作，这些上了GPU反而更慢。我曾经有个同事非要用GPU算链表遍历，结果比CPU还慢三倍。嗯，这就是典型的「用错了工具」。
1.3 CUDA开发环境搭建：手把手教你装好
这部分我尽量讲得细一些。环境搭建是很多新手的第一道坎，搞不好能卡你半天。
1.3.1 硬件要求
首先，你得有一块NVIDIA显卡。不是所有NVIDIA显卡都支持CUDA，但近十年的基本都行。你可以去NVIDIA官网查一下你的显卡型号是否在支持列表里。
我个人建议，学习阶段至少搞一块GTX 1060或RTX 2060以上的卡。显存最好4GB以上，不然跑个稍微大点的模型就爆显存了。
1.3.2 NVIDIA驱动安装
驱动是基础。没有驱动，系统根本认不出你的显卡。
- 去NVIDIA官网下载对应你显卡型号的驱动。
- 安装时选择「自定义安装」，勾选「清洁安装」——这能避免旧驱动残留。
- 装完后重启，在命令行输入
nvidia-smi，如果能显示显卡信息，说明驱动装好了。
避坑指南：我曾经遇到过驱动版本和CUDA Toolkit不兼容的情况。装完CUDA后跑示例程序报错，查了半天才发现是驱动太老。建议驱动版本不要低于最新稳定版的前两个版本。
1.3.3 CUDA Toolkit安装
CUDA Toolkit是开发的核心。它包含了编译器（nvcc）、运行时库、开发工具等。
- 去NVIDIA CUDA Toolkit存档页下载对应你操作系统的版本。
- Windows用户直接运行exe安装包。Linux用户建议用runfile安装，别用包管理器——包管理器里的版本往往太旧。
- 安装时注意选择安装路径。我习惯装到
C:\CUDA或/usr/local/cuda。 - 装完后配置环境变量。Windows用户需要把
C:\CUDA\bin加到PATH里。Linux用户要设置LD_LIBRARY_PATH。 - 验证安装：命令行输入
nvcc --version，如果能显示版本号，就成功了。
小技巧：如果你同时装了多个CUDA版本，可以用 update-alternatives（Linux）或手动切换环境变量来管理。我一般会在项目根目录写个 setenv.bat 脚本，一键切换。
1.3.4 cuDNN安装
cuDNN是NVIDIA针对深度神经网络的加速库。如果你只是做通用计算，可以不装。但做深度学习的话，这玩意是必须的。
- 去NVIDIA cuDNN页面下载对应你CUDA版本的cuDNN。需要注册NVIDIA账号。
- 解压后把
bin、include、lib三个文件夹里的内容，复制到CUDA Toolkit的对应目录下。 - 验证：运行cuDNN自带的示例程序，或者用
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR查看版本。
注意：cuDNN版本必须和CUDA版本匹配。比如CUDA 11.x对应cuDNN 8.x。我曾经见过有人把cuDNN 7.x装到CUDA 12上，结果编译报错一堆。
1.4 知识体系总览
下面这张图是我自己画的，帮你快速理解本章的核心脉络。
这张图把本章内容分成了三大块。左边是历史，让你知道CUDA从哪来；中间是应用，让你知道CUDA能干啥；右边是环境搭建，让你能真正动手。三者缺一不可。
好了，第一章就到这里。环境搭好之后，下一章我们就要写第一个CUDA程序了。到时候你会看到，原来让GPU干活就这么简单。
想要更多资料，联系可可