VIP20

本课程属于：031-OpenCV与YOLO实时　流目标检测实战 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

OpenCV与YOLO推理加速与性能优化

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

课程导学与环境搭建

OpenCV与YOLO概述 · 课程目标 · 开发环境配置（CUDA

课程导学环境搭建

OpenCV基础与图像预处理

图像读取与显示 · 色彩空间转换 · 缩放与裁剪

OpenCV图像预处理

YOLO模型结构解析

YOLOv5/v8/v10核心架构对… · Backbone/Neck/Head… · Anchor与Grid机制

YOLO模型结构解析

OpenCV DNN模块基础

cv2.dnn.readNet · 设置后端与目标设备（CPU/GPU） · 前向推理

模型加载与序列化

ONNX格式转换 · FP16/INT8量化 · 模型加密与加载优化

模型加载序列化

推理管线设计

图像预处理管线 · 批处理推理 · 多线程生产者-消费者模型

推理管线设计图像预处理管线

CPU推理加速

OpenVINO后端集成 · Tengine/NCNN后端对比 · Intel MKL与TBB优化

CPU推理加速

GPU推理加速

CUDA后端配置 · TensorRT集成 · FP16推理实战

GPU推理加速

TensorRT深度优化

Engine构建与序列化 · 动态Batch · INT8校准与量化

TensorRT深度优化

模型剪枝与稀疏化

结构化剪枝原理 · YOLO通道剪枝实战 · 稀疏训练与推理加速

模型剪枝稀疏化

教师-学生模型架构 · YOLO蒸馏损失设计 · Logit与Feature蒸馏

知识蒸馏教师

前处理加速

GPU前处理管线 · CUDA核函数自定义Resize · Norm与ColorConvert

前处理加速GPU

后处理加速

NMS优化（CUDA NMS · Fast NMS） · Batch NMS

后处理加速NMS

内存池设计 · 零拷贝推理 · 共享内存与显存

内存优化内存池设计

流水线并行

数据加载-前处理-推理-后处理流水线 · 多线程同步与锁优化 · 无锁队列实现

流水线并行数据加载

模型并行与张量并行

YOLO层间并行 · 张量切片与通信 · 多GPU推理负载均衡

模型并行张量并行

视频流推理加速

视频解码硬件加速（NVDEC/VAA… · 跳帧策略 · ROI跟踪与选择性推理

视频流推理加速NVDEC/VAA

边缘端部署优化

Jetson平台优化（JetPack · MaxN模式） · 树莓派与RK3588优化

边缘端部署优化Jetson

模型服务化

RESTful API设计 · gRPC推理服务 · 负载均衡与自动扩缩

模型服务化RESTful

性能剖析与瓶颈定位

NVIDIA Nsight Syst… · PyTorch Profiler · OpenCV计时与日志

性能剖析瓶颈定位

算子融合与图优化

算子融合原理 · TensorRT图优化 · ONNX Runtime图优化

算子融合图优化

动态分辨率与自适应推理

LetterBox优化 · 动态输入Shape支持 · 分辨率-精度-速度权衡

动态分辨率自适应推理

多模型级联推理

检测+跟踪+识别级联 · 共享特征图 · 异步级联调度

多模型级联推理检测+跟踪+识别…

量化感知训练

QAT原理 · YOLO QAT实战 · 伪量化节点插入

量化感知训练QAT

推理框架对比与选型

OpenCV DNN vs Tens… · 性能与精度对比表

推理框架对比选型

自定义CUDA算子

YOLO专用CUDA核函数编写 · Grid/Block调优 · 共享内存与寄存器优化

AOT编译与JIT编译 · TVM集成 · XLA与Glow后端

编译优化AOT

实时系统设计

延迟与吞吐量权衡 · 硬实时与软实时 · 优先级反转与调度策略

实时系统设计延迟

大规模分布式推理

数据并行与模型并行 · Horovod与DeepSpeed集… · 梯度压缩与通信优化

大规模分布式推理数据并行

综合实战与性能调优案例

从30FPS到300FPS优化全记录 · 端到端系统设计 · 性能调优checklist

综合实战性能调优案例