第二章：CUDA开发环境搭建
说实话，环境搭建这事儿，看着简单，坑却不少。我见过太多人卡在第一步——驱动装不上，或者CUDA版本对不上。今天咱们就一步步来，把这事儿捋清楚。
核心要点：NVIDIA驱动 + CUDA Toolkit + cuDNN，这三样东西必须版本匹配。少一个都不行。
2.1 NVIDIA驱动安装
驱动是基础。没有驱动，GPU就是块废铁。我个人习惯用nvidia-smi来验证驱动是否装好。
安装方式有两种：
- 官方.run文件：最干净，但需要关闭图形界面
- 系统包管理器：方便，但版本可能不是最新的
我建议用官方.run文件。为什么？因为系统自带的驱动经常阉割了一些功能。我在项目中遇到过，用Ubuntu默认的nouveau驱动，结果CUDA程序跑起来性能只有一半。
注意：安装前一定要禁用nouveau驱动。否则你会陷入无限循环的安装失败。
具体步骤：
- 下载对应显卡型号的驱动（去NVIDIA官网查）
- 按Ctrl+Alt+F2进入纯命令行模式
- 执行
sudo service gdm stop关闭图形界面 - 运行
sudo sh NVIDIA-Linux-*.run - 一路默认选项，直到完成
装完后重启，输入nvidia-smi，看到类似下面的输出就对了：
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.86 Driver Version: 470.86 CUDA Version: 11.4 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
|===============================+======================+======================|
| 0 Tesla V100-SXM2... On | 00000000:00:04.0 Off | 0 |
| N/A 34C P0 37W / 300W | 0MiB / 16160MiB | 0% Default |
+-------------------------------+----------------------+----------------------+2.2 CUDA Toolkit配置
驱动装好了，接下来是CUDA Toolkit。说白了，这就是CUDA编程的SDK，里面包含了编译器、库文件、头文件等等。
版本选择很重要。 我个人习惯选LTS版本，比如11.x系列。别追新，稳定第一。我见过有人装12.0，结果一堆库不兼容，折腾了两天。
安装步骤：
- 去NVIDIA官网下载对应系统的runfile或deb包
- 执行安装命令（runfile记得加
--toolkit参数） - 配置环境变量
环境变量配置，我建议写在~/.bashrc里：
export PATH=/usr/local/cuda-11.4/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.4/lib64:$LD_LIBRARY_PATH然后执行source ~/.bashrc使其生效。
小技巧：用nvcc --version验证CUDA Toolkit是否装好。如果看到版本号，说明成功了。
2.3 cuDNN库集成
cuDNN是NVIDIA的深度学习加速库。没有它，训练神经网络会慢得让你怀疑人生。
安装cuDNN其实很简单，就是解压然后复制文件：
tar -xzvf cudnn-11.4-linux-x64-v8.2.4.15.tgz
sudo cp cuda/include/cudnn*.h /usr/local/cuda-11.4/include/
sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.4/lib64/
sudo chmod a+r /usr/local/cuda-11.4/include/cudnn*.h
sudo chmod a+r /usr/local/cuda-11.4/lib64/libcudnn*嗯，这里要注意：cuDNN的版本必须和CUDA版本匹配。我曾经因为版本不对，编译时各种报错，查了半天才发现是cuDNN版本太新了。
验证cuDNN是否装好：
cat /usr/local/cuda-11.4/include/cudnn_version.h | grep CUDNN_MAJOR -A 2看到类似#define CUDNN_MAJOR 8这样的输出就对了。
2.4 环境验证
所有东西都装好了，怎么确认它们能协同工作？我一般写个简单的CUDA程序来测试。
创建一个test.cu文件：
#include <stdio.h>
#include <cuda_runtime.h>
int main() {
int deviceCount;
cudaGetDeviceCount(&deviceCount);
printf("检测到 %d 个GPU设备\n", deviceCount);
cudaDeviceProp prop;
cudaGetDeviceProperties(&prop, 0);
printf("设备名称: %s\n", prop.name);
printf("计算能力: %d.%d\n", prop.major, prop.minor);
printf("显存大小: %.2f GB\n", prop.totalGlobalMem / 1024.0 / 1024.0 / 1024.0);
return 0;
}编译运行：
nvcc test.cu -o test
./test如果看到类似下面的输出，恭喜你，环境搭建成功了：
检测到 1 个GPU设备
设备名称: Tesla V100-SXM2-16GB
计算能力: 7.0
显存大小: 16.00 GB完整验证清单：
- ✅
nvidia-smi显示驱动版本和GPU信息 - ✅
nvcc --version显示CUDA Toolkit版本 - ✅
cat cudnn_version.h显示cuDNN版本 - ✅ 编译并运行CUDA示例程序
2.5 常见问题与避坑
我整理了几个常见问题，都是我在实际项目中踩过的坑：
| 问题 | 原因 | 解决方案 |
|---|---|---|
| nvidia-smi报错"Failed to initialize NVML" | 驱动没装好或内核模块没加载 | 重新安装驱动，或执行sudo modprobe nvidia |
| nvcc找不到 | 环境变量没配置 | 检查PATH是否包含/usr/local/cuda/bin |
| 编译时提示"cannot find -lcudnn" | cuDNN库路径没配置 | 检查LD_LIBRARY_PATH是否包含cuDNN的lib目录 |
| 运行时提示"CUDA driver version is insufficient" | 驱动版本太旧，不支持当前CUDA版本 | 升级驱动或降级CUDA Toolkit |
重要提醒：千万别用apt-get install nvidia-cuda-toolkit这种命令。系统源里的CUDA版本通常落后好几个大版本，而且依赖关系一团糟。我吃过这个亏，后来再也不敢偷懒了。
好了，环境搭建就这些内容。说白了就是三步走：驱动→CUDA Toolkit→cuDNN。每一步都验证一下，别等到最后才发现问题。
我个人习惯在装完环境后，跑一遍NVIDIA提供的deviceQuery示例程序。这个程序在/usr/local/cuda/samples/1_Utilities/deviceQuery目录下，编译运行一下，能全面检测GPU设备信息。如果这个程序能跑通，说明你的环境基本没问题了。