📚 课程目录第2章 CUDA开发环境搭建

2. CUDA开发环境搭建

说实话，环境搭建这事儿，看着简单，坑却不少。我见过太多人卡在第一步——驱动装不上，或者CUDA版本对不上。今天咱们就一步步来，把这事儿捋清楚。

核心要点：NVIDIA驱动 + CUDA Toolkit + cuDNN，这三样东西必须版本匹配。少一个都不行。

2.1 NVIDIA驱动安装

驱动是基础。没有驱动，GPU就是块废铁。我个人习惯用nvidia-smi来验证驱动是否装好。

安装方式有两种：

官方.run文件：最干净，但需要关闭图形界面
系统包管理器：方便，但版本可能不是最新的

我建议用官方.run文件。为什么？因为系统自带的驱动经常阉割了一些功能。我在项目中遇到过，用Ubuntu默认的nouveau驱动，结果CUDA程序跑起来性能只有一半。

注意：安装前一定要禁用nouveau驱动。否则你会陷入无限循环的安装失败。

具体步骤：

下载对应显卡型号的驱动（去NVIDIA官网查）
按Ctrl+Alt+F2进入纯命令行模式
执行 sudo service gdm stop 关闭图形界面
运行 sudo sh NVIDIA-Linux-*.run
一路默认选项，直到完成

装完后重启，输入nvidia-smi，看到类似下面的输出就对了：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.86    Driver Version: 470.86    CUDA Version: 11.4          |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla V100-SXM2...  On   | 00000000:00:04.0 Off |                    0 |
| N/A   34C    P0    37W / 300W |      0MiB / 16160MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

2.2 CUDA Toolkit配置

驱动装好了，接下来是CUDA Toolkit。说白了，这就是CUDA编程的SDK，里面包含了编译器、库文件、头文件等等。

版本选择很重要。 我个人习惯选LTS版本，比如11.x系列。别追新，稳定第一。我见过有人装12.0，结果一堆库不兼容，折腾了两天。

安装步骤：

去NVIDIA官网下载对应系统的runfile或deb包
执行安装命令（runfile记得加--toolkit参数）
配置环境变量

环境变量配置，我建议写在~/.bashrc里：

export PATH=/usr/local/cuda-11.4/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.4/lib64:$LD_LIBRARY_PATH

然后执行source ~/.bashrc使其生效。

小技巧：用nvcc --version验证CUDA Toolkit是否装好。如果看到版本号，说明成功了。

2.3 cuDNN库集成

cuDNN是NVIDIA的深度学习加速库。没有它，训练神经网络会慢得让你怀疑人生。

安装cuDNN其实很简单，就是解压然后复制文件：

tar -xzvf cudnn-11.4-linux-x64-v8.2.4.15.tgz
sudo cp cuda/include/cudnn*.h /usr/local/cuda-11.4/include/
sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.4/lib64/
sudo chmod a+r /usr/local/cuda-11.4/include/cudnn*.h
sudo chmod a+r /usr/local/cuda-11.4/lib64/libcudnn*

嗯，这里要注意：cuDNN的版本必须和CUDA版本匹配。我曾经因为版本不对，编译时各种报错，查了半天才发现是cuDNN版本太新了。

验证cuDNN是否装好：

cat /usr/local/cuda-11.4/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

看到类似#define CUDNN_MAJOR 8这样的输出就对了。

2.4 环境验证

所有东西都装好了，怎么确认它们能协同工作？我一般写个简单的CUDA程序来测试。

创建一个test.cu文件：

#include <stdio.h>
#include <cuda_runtime.h>

int main() {
    int deviceCount;
    cudaGetDeviceCount(&deviceCount);
    printf("检测到 %d 个GPU设备\n", deviceCount);

    cudaDeviceProp prop;
    cudaGetDeviceProperties(&prop, 0);
    printf("设备名称: %s\n", prop.name);
    printf("计算能力: %d.%d\n", prop.major, prop.minor);
    printf("显存大小: %.2f GB\n", prop.totalGlobalMem / 1024.0 / 1024.0 / 1024.0);

    return 0;
}

编译运行：

nvcc test.cu -o test
./test

如果看到类似下面的输出，恭喜你，环境搭建成功了：

检测到 1 个GPU设备
设备名称: Tesla V100-SXM2-16GB
计算能力: 7.0
显存大小: 16.00 GB

完整验证清单：

✅ nvidia-smi 显示驱动版本和GPU信息
✅ nvcc --version 显示CUDA Toolkit版本
✅ cat cudnn_version.h 显示cuDNN版本
✅ 编译并运行CUDA示例程序

2.5 常见问题与避坑

我整理了几个常见问题，都是我在实际项目中踩过的坑：

问题	原因	解决方案
nvidia-smi报错"Failed to initialize NVML"	驱动没装好或内核模块没加载	重新安装驱动，或执行`sudo modprobe nvidia`
nvcc找不到	环境变量没配置	检查PATH是否包含`/usr/local/cuda/bin`
编译时提示"cannot find -lcudnn"	cuDNN库路径没配置	检查LD_LIBRARY_PATH是否包含cuDNN的lib目录
运行时提示"CUDA driver version is insufficient"	驱动版本太旧，不支持当前CUDA版本	升级驱动或降级CUDA Toolkit

重要提醒：千万别用apt-get install nvidia-cuda-toolkit这种命令。系统源里的CUDA版本通常落后好几个大版本，而且依赖关系一团糟。我吃过这个亏，后来再也不敢偷懒了。

好了，环境搭建就这些内容。说白了就是三步走：驱动→CUDA Toolkit→cuDNN。每一步都验证一下，别等到最后才发现问题。

我个人习惯在装完环境后，跑一遍NVIDIA提供的deviceQuery示例程序。这个程序在/usr/local/cuda/samples/1_Utilities/deviceQuery目录下，编译运行一下，能全面检测GPU设备信息。如果这个程序能跑通，说明你的环境基本没问题了。