📚 课程目录第2章深度学习框架GPU配置

深度学习框架GPU配置：PyTorch/TensorFlow安装、CUDA与cuDNN配置、环境验证

说实话，配环境这事儿吧，看着简单，实际坑多得很。我自己带过好几批学生，最初在GPU配置上踩的雷，十个里有八个都栽在版本匹配上。这一章咱们就把PyTorch和TensorFlow的GPU环境从头捋一遍，该注意的地方我一个都不会落下。

核心要点：GPU环境配置的成败，90%取决于CUDA、cuDNN和框架三者的版本咬合。别急着装，先定版本，再动手。

整体架构：一张图看懂GPU环境

动手之前，脑子里得先有个全局画面。GPU跑深度学习，靠的是下面这五层协作。我习惯从底往上装，这样排查问题最省事。

说白了，上面每一层都依赖下面那层。你装PyTorch时它说找不到GPU，八成是驱动层或者加速库层出了问题。我自己遇到过一回，cuDNN版本比CUDA高了一个小号，结果训练时直接段错误，排查了一整天。

第一步：CUDA与cuDNN安装配置

CUDA是NVIDIA的并行计算平台。cuDNN是它的深度学习加速库。这两兄弟得一起装，版本得对上。

确认显卡与驱动

先看看你手头的显卡型号和驱动版本。打开终端，敲下面这个命令：

nvidia-smi

正常会输出GPU型号、驱动版本、CUDA版本号。举个例子：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 545.23.08    Driver Version: 545.23.08    CUDA Version: 12.3     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  NVIDIA A100-PCIE-40GB  On | 00000000:00:04.0 Off |                    0 |
|   0%   32C    P0    54W / 300W |      0MiB / 40960MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

小提示：nvidia-smi输出的CUDA版本是驱动支持的最高版本。你实际装CUDA Toolkit时，可以装比这个低的版本，但不能装更高的。

安装CUDA Toolkit

去NVIDIA官网下载对应版本。我个人习惯用runfile方式装，因为可以指定安装目录，方便多版本共存。举个例子：

wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run
sudo sh cuda_11.8.0_520.61.05_linux.run --toolkit --silent --toolkitpath=/usr/local/cuda-11.8

装完之后配环境变量。加到你自己的 ~/.bashrc 里：

export PATH=/usr/local/cuda-11.8/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH

然后 source ~/.bashrc 让它生效。验证一下：

nvcc --version

看到版本号输出，说明CUDA装好了。

安装cuDNN

cuDNN需要去NVIDIA开发者网站下载，得注册账号。下载时注意版本要和CUDA匹配。比如CUDA 11.8就配cuDNN 8.9.x。

# 解压下载的cuDNN包
tar -xzvf cudnn-linux-x86_64-8.9.7.29_cuda11-archive.tar.xz

# 复制文件到CUDA目录
sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda-11.8/include/
sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda-11.8/lib64/

# 给权限
sudo chmod a+r /usr/local/cuda-11.8/include/cudnn*.h
sudo chmod a+r /usr/local/cuda-11.8/lib64/libcudnn*

验证cuDNN版本：

cat /usr/local/cuda-11.8/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

警告：千万别把cuDNN版本装错了。我曾经帮一个学生排查问题，他cuDNN装的是9.x，但CUDA是11.8，跑模型时一直报"undefined symbol"错误。两个版本必须按照NVIDIA的兼容矩阵来配。

第二步：PyTorch GPU版本安装

PyTorch的GPU安装其实最简单。关键就是选对命令。去PyTorch官网首页，它会根据你的选择生成安装命令。我个人推荐用pip装，干净利落。

对应CUDA 11.8的安装命令：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

如果你用conda，也可以：

conda install pytorch torchvision torchaudio cudatoolkit=11.8 -c pytorch -c nvidia

装完之后，验证GPU是不是真的能用：

python -c "import torch; print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"

如果输出 True 和你的显卡型号，成了。

注意：torch.cuda.is_available()返回False的话，别慌。先检查CUDA和cuDNN是不是装对了，再用 python -c "import torch; print(torch.__version__)" 看看PyTorch是不是CPU版。我之前遇到过pip默认装了CPU版，因为没指定--index-url。

第三步：TensorFlow GPU版本安装

TensorFlow的GPU支持情况有点特殊。从2.10开始，Linux上默认包就带GPU支持了。Windows上嘛...嗯，官方建议用WSL2。

安装命令：

pip install tensorflow==2.12.0

验证GPU：

python -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU')); print(tf.test.is_gpu_available(cuda_only=True))"

能看到GPU设备列表就对了。

小技巧：TensorFlow对CUDA版本要求比较严格。如果你装了CUDA 12.x，可能得用TF 2.14+。我的建议是：先定TF版本，再看它官方文档要求的CUDA版本，然后倒着装。

第四步：环境验证与基准测试

装好之后别急着跑大模型。先做一轮快速验证，确保所有组件真的在干活。

快速验证清单

验证项	命令	期望结果
CUDA驱动	`nvidia-smi`	显示GPU信息
CUDA Toolkit	`nvcc --version`	显示CUDA版本
cuDNN	`cat /usr/local/cuda/include/cudnn_version.h \| grep CUDNN_MAJOR`	显示cuDNN版本
PyTorch GPU	`python -c "import torch; print(torch.cuda.is_available())"`	True
TensorFlow GPU	`python -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"`	非空列表

跑一个迷你基准

我习惯用一个小矩阵乘法来快速摸一下性能底：

import torch
import time

# PyTorch 基准
x = torch.randn(5000, 5000).cuda()
y = torch.randn(5000, 5000).cuda()

# 预热
torch.mm(x, y)
torch.cuda.synchronize()

# 正式计时
start = time.time()
for _ in range(100):
    torch.mm(x, y)
torch.cuda.synchronize()
end = time.time()

print(f"100次矩阵乘法耗时: {end - start:.4f} 秒")
print(f"单次平均: {(end - start)/100:.4f} 秒")

这个跑一圈，基本能确认GPU在工作，且性能在正常范围。如果这个脚本跑出来比CPU还慢，那你得回头检查驱动或者cuDNN了。

避坑指南

带过这么多项目，我总结几个高频问题，你碰到了直接对号入座：

「CUDA driver version is insufficient」 —— 驱动太老了。升级Linux驱动，或者装低一版的CUDA Toolkit。
「libcudart.so.xxx: cannot open shared object file」 —— 环境变量没配好。检查 LD_LIBRARY_PATH 是否指向了正确的CUDA lib目录。
「No module named 'torch'」 —— 你pip装到系统Python了，而你用的是虚拟环境。检查 which python 和 pip list。
cuDNN版本不匹配 —— 表现为训练时突然报错或者卡死。用 ldd 检查实际链接的cuDNN库路径：ldd /usr/local/cuda/lib64/libcudnn.so。

重要提醒：不要在生产服务器上随便装最新的CUDA和cuDNN。先查一下PyTorch和TensorFlow官方支持哪些版本。我一般会多留一个低版本CUDA的备用环境，万一项目需要兼容旧代码，不至于抓瞎。

好了，到这步你的GPU环境就算搭好了。下一阶段就是真正拿组学数据来跑模型了——到时候你会发现，环境配得稳，后面训练才顺。动手试试吧，有问题回头翻这一章就行。