VIP20
本课程属于：012-嵌入式端YOLO目标检测部署实战 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

YOLO部署中的内存管理与调优

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
内存泄漏的根源
YOLO推理中的张量生命周期管理
内存泄漏的根源YOLO
02
显存碎片化
NVIDIA CUDA内存池的运作机…
显存碎片化NVIDIA
03
模型加载优化
从ONNX到TensorRT的序列化…
模型加载优化ONNX
04
推理引擎选择
OpenVINO vs Tensor…
推理引擎选择OpenVINO
05
批处理策略
动态Batch与静态Batch的内存…
批处理策略Batch
06
内存池化技术
自定义分配器在YOLO推理中的应用
内存池化技术YOLO
07
零拷贝推理
输入输出张量的内存复用技巧
零拷贝推理输入输出张量的内…
08
模型剪枝对内存占用的影响
结构化与非结构化剪枝
模型剪枝对内存占…结构化
09
量化部署
INT8/FP16精度下的内存节省实…
量化部署INT8/FP16
10
多模型流水线
YOLO+分类器组合部署的内存共享方…
多模型流水线YOLO+
11
内存映射文件
超大模型的分页加载策略
内存映射文件超大模型的分页加…
12
推理框架的缓存机制
Layer Cache与Kernel…
推理框架的缓存机…Layer
13
显存与内存的协同
CPU-GPU数据传输的带宽优化
显存内存的协同
14
内存碎片整理
YOLO长期运行服务的稳定性保障
内存碎片整理YOLO
15
容器化部署
Docker内存限制对YOLO推理的…
容器化部署Docker
16
边缘设备适配
Jetson系列的内存优化实践
边缘设备适配Jetson
17
内存监控工具
NVIDIA Nsight与Valg…
内存监控工具NVIDIA
18
异步推理与内存重叠
Stream与Event的配合使用
异步推理内存重叠
19
模型分片部署
分布式推理中的内存负载均衡
模型分片部署分布式推理
20
内存安全
C++部署中的智能指针与RAII实践
内存安全C++
21
预分配策略
固定大小张量池的工程实现
预分配策略固定大小张量池的…
22
推理中间件
Redis/共享内存做结果缓冲
推理间件
23
内存压缩
ZRAM与Swap在低内存设备上的应…
内存压缩ZRAM
24
算子融合对内存访问模式的优化
算子融合对内存访问模式的优化 · 核心概念 · 实践要点
算子融合对内存访…重点
25
动态形状推理
Resize与Pad操作的内存代价
动态形状推理Resize
26
内存屏障
多线程推理中的数据一致性问题
内存屏障多线程推理
27
日志与监控
内存泄漏的自动化检测方案
日志监控
28
性能-内存的帕累托前沿
如何在精度与资源间取舍
性能内存的帕累托前沿
29
实战案例
某安防项目YOLOv8部署的内存从4…
实战案例YOLOv8
30
未来趋势
CXL内存扩展与存算一体架构对YOL…
未来趋势CXL