3. CUDA 与 cuDNN 安装：让显卡真正为你干活
说实话，很多同学在 OpenCV 和 YOLO 的环境配置上栽跟头，十有八九是卡在 CUDA 这一步。明明买了块不错的 NVIDIA 显卡，结果训练时一看——CPU 在跑，GPU 在摸鱼。这感觉，就像开着法拉利去送外卖，结果骑的是共享单车。
这一章，我们就来把 CUDA 和 cuDNN 彻底搞定。我保证，跟着我的步骤走，你也能让显卡真正跑起来。
3.1 先看看你的显卡什么水平
动手之前，得先确认一件事：你的电脑里有没有 NVIDIA 显卡？如果有，它支不支持 CUDA？
我个人习惯，第一步永远是打开设备管理器。在 Windows 上，右键「此电脑」→「管理」→「设备管理器」→「显示适配器」。如果你看到 NVIDIA 开头的型号，比如 GeForce RTX 3060、GTX 1080，那就稳了。
然后打开命令提示符（CMD），敲一行命令：
nvidia-smi如果系统提示「不是内部或外部命令」，说明显卡驱动没装好，或者压根没装。如果正常显示了一张表格，恭喜你，驱动已经就位。
nvidia-smi 输出解读
- Driver Version：当前显卡驱动版本，比如 546.12
- CUDA Version：驱动支持的最高 CUDA 版本，比如 12.3
- GPU-Util：当前显卡利用率，0% 说明它在偷懒
- Memory-Usage：显存占用，训练模型时这里会飙升
这里有个关键点：nvidia-smi 显示的 CUDA Version 是驱动兼容的最高版本，不是你实际安装的版本。我见过不少新手以为这就是装好了，结果后面编译 OpenCV 时各种报错。嗯，别急，我们后面会装真正的 CUDA Toolkit。
3.2 CUDA Toolkit 版本怎么选？
选版本这件事，说白了就是「门当户对」。你的显卡驱动、CUDA Toolkit、cuDNN、PyTorch/TensorFlow，它们之间有一套兼容关系。强行凑在一起，只会让你怀疑人生。
我一般遵循两个原则：
- CUDA Toolkit 版本 ≤ nvidia-smi 显示的 CUDA Version。比如驱动支持 12.3，那你可以装 CUDA 12.1、12.0，但不能装 12.4。
- 看你要用的深度学习框架要求什么版本。PyTorch 官网会明确写「CUDA 11.8」「CUDA 12.1」等。我建议直接选 PyTorch 官方推荐的版本，省心。
举个例子，我最近做 YOLOv8 项目，PyTorch 官方推荐 CUDA 12.1，我的驱动是 546.12（支持 CUDA 12.3），那就装 CUDA 12.1，完美匹配。
| 驱动版本 | 支持最高 CUDA | 推荐安装 CUDA | 适用场景 |
|---|---|---|---|
| 525.60.13 | 12.0 | 11.8 | PyTorch 1.13 / 2.0 |
| 545.23.08 | 12.3 | 12.1 | PyTorch 2.1+ / YOLOv8 |
| 546.12 | 12.3 | 12.1 | 最新 YOLO 项目 |
我的小建议：不要追新。CUDA 12.2、12.3 虽然新，但很多框架还没完全适配。CUDA 11.8 和 12.1 是目前最稳的两个版本，社区支持也最好。
3.3 下载与安装 CUDA Toolkit
去 NVIDIA 官网的 CUDA 存档页面，找到你选好的版本。我以 CUDA 12.1 为例：
- 选择操作系统：Windows → x86_64 → 你的 Windows 版本
- 下载 local.exe（网络安装包容易断，我吃过亏）
- 双击运行，选择「自定义安装」
这里有个坑：安装时默认会装显卡驱动。如果你的驱动已经是最新版，一定要把驱动勾选去掉。否则新驱动覆盖旧驱动，可能导致版本降级，甚至黑屏。我曾经手贱没取消，结果重启后分辨率变成 800×600，折腾了半天才恢复。
安装路径我建议保持默认，别改。改路径后面配置环境变量时容易出幺蛾子。
装完后，打开 CMD 验证：
nvcc --version如果显示 CUDA 12.1.xx 之类的信息，说明安装成功。如果提示「不是内部命令」，去检查环境变量——安装程序一般会自动添加，但偶尔会抽风。
手动检查环境变量：
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\binC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\libnvvp
这两个路径必须在系统 PATH 里。
3.4 cuDNN：CUDA 的加速引擎
CUDA 是基础，cuDNN 是加速库。没有 cuDNN，深度学习模型的卷积运算会慢得让你怀疑人生。你可以把 CUDA 理解成发动机，cuDNN 就是涡轮增压器。
下载 cuDNN 需要注册 NVIDIA 开发者账号，免费注册就行。进去后找到对应 CUDA 12.1 的 cuDNN 版本，下载 Windows 版的 ZIP 包。
安装其实很简单——解压，然后把三个文件夹复制到 CUDA 安装目录：
cuDNN 解压后的结构：
├── bin/
├── include/
├── lib/
复制到：
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\说白了就是合并文件夹。系统会提示是否覆盖，选「是」就行。
注意：cuDNN 版本必须和 CUDA 版本严格对应。CUDA 12.1 就配 cuDNN for CUDA 12.x，不要跨版本。我见过有人拿 cuDNN 8.x 配 CUDA 12.x，结果训练时直接报错「CUDNN_STATUS_NOT_INITIALIZED」。
3.5 验证 CUDA 是否真的能用
装完别急着高兴，得跑个测试确认一下。我习惯用 Python 来验证，因为后面 OpenCV 和 YOLO 都是 Python 环境。
先装 PyTorch（CUDA 版）：
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121然后写个简单的测试脚本：
import torch
print("PyTorch 版本:", torch.__version__)
print("CUDA 是否可用:", torch.cuda.is_available())
print("GPU 数量:", torch.cuda.device_count())
print("当前 GPU 名称:", torch.cuda.get_device_name(0) if torch.cuda.is_available() else "无")如果输出类似这样，说明一切正常：
PyTorch 版本: 2.1.0+cu121
CUDA 是否可用: True
GPU 数量: 1
当前 GPU 名称: NVIDIA GeForce RTX 3060如果 torch.cuda.is_available() 返回 False，别慌。常见原因有：
- PyTorch 装成了 CPU 版（检查安装命令里的 index-url）
- CUDA 和 PyTorch 版本不匹配
- 显卡驱动太旧，不支持当前 CUDA 版本
我个人习惯再跑一个 OpenCV 的 CUDA 验证：
import cv2
print("OpenCV 版本:", cv2.__version__)
print("OpenCV 是否支持 CUDA:", cv2.cuda.getCudaEnabledDeviceCount() > 0)如果这里返回 False，别担心——那是 OpenCV 编译时没开 CUDA 支持。我们后面会专门编译带 CUDA 的 OpenCV，到时候再验证。
3.6 一张图看懂整个流程
下面这张 SVG 图，把 CUDA + cuDNN 的安装流程和验证关系画清楚了。你可以把它当成一张「导航地图」，每一步该做什么、怎么验证，一目了然。
3.7 避坑指南
最后，分享几个我踩过的坑，希望能帮你省点时间：
- 安装 CUDA 时不要勾选驱动，除非你确定当前驱动有问题。否则可能降级驱动，导致其他软件不兼容。
- 环境变量一定要检查。装完 CUDA 后，重启一下电脑，再跑
nvcc --version。如果不行，手动加 PATH。 - cuDNN 的 DLL 文件别放错位置。我见过有人把 cuDNN 的 bin 文件夹单独加到 PATH，结果程序找不到。直接合并到 CUDA 目录最稳。
- PyTorch 的 CUDA 版本要和 Toolkit 一致。比如 CUDA 12.1 就装 cu121 版本的 PyTorch，别混用。
一个小技巧：装完所有东西后，跑一个简单的 YOLO 推理测试。用 YOLOv8 的官方模型，随便找张图片，看看推理时间。如果 GPU 利用率能跑到 80% 以上，说明你的环境配置完全 OK。
好了，CUDA 和 cuDNN 这块就讲完了。你想想看，其实步骤并不多，关键是每一步都要验证。别急着往下走，确认当前步骤没问题再继续。这样后面编译 OpenCV 时，你会感谢现在的自己。