📚 课程目录第1章课程导学与环境搭建

1. 课程导学与环境搭建：OpenCV与YOLO推理加速实战起点

各位同学，欢迎来到《OpenCV与YOLO推理加速与性能优化》的第一章。

我是你们这门课的主讲。在工业界摸爬滚打了快十年，从嵌入式设备到云端服务器，从传统视觉算法到深度学习推理，我踩过的坑、调过的优，都会在这门课里毫无保留地分享出来。

这一章，我们不谈复杂的算法，先把地基打牢。说白了，环境配不好，后面全是空中楼阁。我见过太多同学卡在编译环节，一卡就是两三天，非常打击信心。所以这一章，我会带你一步步走通。

1.1 我们为什么要学这门课？

先聊聊现实。你想想看，一个YOLOv8模型在Python里跑，可能只有30 FPS。但如果你用C++、OpenCV的DNN模块，再配合TensorRT，跑到200 FPS以上完全有可能。这就是性能优化的价值。

这门课的目标很明确：

掌握OpenCV的DNN模块，能加载并运行YOLO系列模型
学会CUDA/cuDNN加速，让推理速度翻倍
深入TensorRT优化，实现毫秒级延迟
搞定模型部署，从PC到Jetson嵌入式设备

核心指标： 课程结束时，你将能把YOLOv8的推理延迟从50ms优化到5ms以内。这不是画饼，是我在多个项目中验证过的结果。

1.2 OpenCV与YOLO：它们到底是什么关系？

很多人以为OpenCV只是个图像处理库。其实，从OpenCV 4.x开始，它的DNN模块已经非常强大了。它能直接加载YOLO的权重文件，在CPU或GPU上做推理。

我个人的习惯是：用OpenCV做前处理（图像缩放、归一化）和后处理（NMS、画框），用专门的推理引擎（如TensorRT）做模型计算。各取所长，效率最高。

1.3 开发环境配置：一步都不能错

环境配置是这门课的第一个拦路虎。我建议你严格按照下面的版本来，不要追新。追新的代价往往是兼容性问题，我曾经在一个项目里因为CUDA版本不匹配，整整排查了两天。

1.3.1 硬件与操作系统要求

组件	推荐配置	最低要求
GPU	NVIDIA RTX 3060 及以上	NVIDIA GTX 1050 Ti
显存	8GB+	4GB
操作系统	Ubuntu 22.04 / Windows 11	Ubuntu 20.04 / Windows 10
内存	32GB	16GB

1.3.2 软件版本清单（经过验证的稳定组合）

软件	版本	说明
CUDA	11.8	兼容性最好的版本，TensorRT 8.5+ 均支持
cuDNN	8.9.7	与CUDA 11.8严格匹配
OpenCV	4.9.0	需从源码编译，开启DNN和CUDA支持
TensorRT	8.6.1	用于后续章节的模型优化
CMake	3.26+	编译OpenCV必备

⚠️ 重要提醒： 不要使用OpenCV的pip安装版本！pip安装的OpenCV不包含DNN模块的CUDA支持。必须从源码编译，并开启 WITH_CUDA=ON 和 WITH_CUDNN=ON 选项。

1.3.3 OpenCV源码编译（核心步骤）

这一步我手把手带你走。编译OpenCV是很多人的噩梦，但只要你按顺序来，不会出问题。

安装依赖

sudo apt update
sudo apt install build-essential cmake git pkg-config
sudo apt install libjpeg-dev libpng-dev libtiff-dev
sudo apt install libavcodec-dev libavformat-dev libswscale-dev
sudo apt install libgtk2.0-dev libcanberra-gtk-module

下载OpenCV源码

git clone https://github.com/opencv/opencv.git
git clone https://github.com/opencv/opencv_contrib.git
cd opencv && git checkout 4.9.0
cd ../opencv_contrib && git checkout 4.9.0

配置CMake（关键！）

cd opencv && mkdir build && cd build
cmake -D CMAKE_BUILD_TYPE=RELEASE \
      -D CMAKE_INSTALL_PREFIX=/usr/local \
      -D WITH_CUDA=ON \
      -D WITH_CUDNN=ON \
      -D OPENCV_DNN_CUDA=ON \
      -D CUDA_ARCH_BIN=8.6 \  # 根据你的GPU架构调整
      -D OPENCV_EXTRA_MODULES_PATH=../../opencv_contrib/modules \
      -D BUILD_EXAMPLES=OFF \
      -D BUILD_TESTS=OFF \
      -D BUILD_PERF_TESTS=OFF \
      ..

这里要注意 CUDA_ARCH_BIN 的值。RTX 3060是8.6，RTX 3090是8.6，GTX 1050 Ti是6.1。查一下你的GPU算力，填错了编译出来的库用不了。

编译与安装
```
make -j$(nproc)  # 用满所有CPU核心
sudo make install
sudo ldconfig
```
编译时间取决于你的CPU。我见过i7-12700大概20分钟，笔记本i5可能要1小时。耐心等，别中途中断。

💡 我的经验： 编译时加上 -j$(nproc) 参数，但如果你内存只有16GB，建议用 -j4，否则容易内存溢出导致编译失败。我踩过这个坑，编译到99%突然报错，心态直接崩了。

1.4 验证第一个推理程序

环境配好了，我们来跑第一个程序。这个程序很简单：用OpenCV加载YOLOv8的ONNX模型，对一张图片做推理。

1.4.1 准备模型和测试图片

先下载YOLOv8的ONNX模型。我建议用yolov8n.onnx，它最小，适合验证环境。

wget https://github.com/ultralytics/assets/releases/download/v0.0.0/yolov8n.onnx
# 或者用官方导出命令
pip install ultralytics
yolo export model=yolov8n.pt format=onnx

1.4.2 编写推理代码

#include <opencv2/opencv.hpp>
#include <opencv2/dnn.hpp>
#include <iostream>

int main() {
    // 加载模型
    cv::dnn::Net net = cv::dnn::readNetFromONNX("yolov8n.onnx");
    
    // 设置计算后端为CUDA
    net.setPreferableBackend(cv::dnn::DNN_BACKEND_CUDA);
    net.setPreferableTarget(cv::dnn::DNN_TARGET_CUDA);
    
    // 读取图片
    cv::Mat img = cv::imread("bus.jpg");
    cv::Mat blob = cv::dnn::blobFromImage(img, 1.0/255.0, 
                                          cv::Size(640, 640), 
                                          cv::Scalar(0, 0, 0), 
                                          true, false);
    
    // 推理
    net.setInput(blob);
    cv::Mat output = net.forward();
    
    std::cout << "推理成功！输出张量形状: " 
              << output.size[0] << " x " 
              << output.size[1] << " x " 
              << output.size[2] << std::endl;
    
    return 0;
}

1.4.3 编译与运行

g++ -o yolo_test yolo_test.cpp `pkg-config --cflags --libs opencv4`
./yolo_test

如果看到输出 推理成功！输出张量形状: 1 x 84 x 8400，恭喜你，环境配置成功了！

验证要点：

确认输出张量的形状正确（1x84x8400是YOLOv8的标准输出）
用 nvidia-smi 查看GPU是否被调用（显存占用会上升）
对比CPU推理和GPU推理的速度差异

1.5 常见问题与避坑指南

这部分是我最想跟你分享的。环境配置的问题千奇百怪，我把最常见的几个列出来：

编译OpenCV时报错找不到CUDA：检查 CUDA_ARCH_BIN 是否填对，以及 cmake 命令中CUDA路径是否正确。
运行时提示 cudaErrorNoDevice：驱动没装好。运行 nvidia-smi 确认驱动版本，驱动版本必须支持你安装的CUDA版本。
推理速度比CPU还慢：大概率是模型没有真正跑在GPU上。检查代码中是否设置了 DNN_BACKEND_CUDA 和 DNN_TARGET_CUDA。

⚠️ 我曾经遇到的一个坑： 有一次编译OpenCV时忘了加 OPENCV_DNN_CUDA=ON，结果DNN模块虽然能跑，但用的是OpenCL而不是CUDA，速度慢得离谱。排查了整整一天才发现是编译选项的问题。所以，编译完成后一定要用 cv::cuda::getCudaEnabledDeviceCount() 确认CUDA是否真的可用。

1.6 本章小结

这一章我们完成了三件事：

明确了课程目标和学习路径
搭建了完整的开发环境（CUDA + cuDNN + OpenCV源码编译）
跑通了第一个YOLO推理程序