VIP20
本课程属于：035-工业缺陷检测模型移植实战 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TensorRT优化工业检测模型精度

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
工业检测模型部署痛点
为什么需要TensorRT？工业场景… · 课程整体路线图
工业检测模型部署…TensorRT
02
TensorRT基础概念
TensorRT是什么？推理引擎 v… · 核心组件（Builder · Engine
TensorRT基础概念
03
环境搭建与工具链
CUDA · cuDNN · TensorRT版本匹配
环境搭建工具链
04
ONNX模型导出与标准化
PyTorch模型转ONNX · torch.onnx.export参… · 动态轴与静态轴设置
ONNX模型导出
05
ONNX模型调试与修复
Netron可视化 · onnx-simplifier简化模… · 常见导出错误及修复（Resize
ONNX模型调试
06
TensorRT模型构建基础
Builder配置（最大工作空间 · 精度标志） · Network定义
TensorRT模型构建基础
07
TensorRT Python API实战
使用Python API构建Engi… · 输入输出绑定 · 内存管理（Host/Device）
TensorRTPython
08
TensorRT C++ API实战
C++ API核心类（IRuntim… · ICudaEngine · IExecutionContext）
TensorRTC++
09
精度量化原理
什么是量化？对称量化 vs 非对称量… · 校准集（Calibration Da… · 量化误差来源
精度量化原理vs
10
INT8量化实战（上）
Int8Calibrator实现 · 校准数据加载 · 熵校准（Entropy Calibr…
INT8量化实战
11
INT8量化实战（下）
量化敏感层分析 · 逐层精度对比 · 回退策略（Partial Quant…
INT8量化实战
12
FP16与TF32精度优化
FP16推理优势与风险 · TF32在Ampere架构上的应用 · 混合精度推理配置
FP16TF32
13
动态形状（Dynamic Shapes）
动态Batch与动态分辨率设置 · Optimization Profi… · 形状推理优化
DynamicShapes
14
插件（Plugin）开发基础
为什么需要自定义插件？Plugin接… · 注册与使用
Plugin插件
15
工业检测常用算子插件实现
RoIAlign · NMS · Upsample自定义实现
工业检测常用算子…RoIAlign
16
网络层融合与图优化
Layer Fusion原理 · 常见融合模式（Conv+Bias+R… · 垂直融合与水平融合
网络层融合图优化
17
内存优化与显存管理
Pool分配策略 · 显存碎片化处理 · Workspace大小调优
内存优化显存管理
18
多Stream并发推理
Stream创建与同步 · 多线程推理架构 · 吞吐量优化
Stream并发推理
19
DLA（Deep Learning Accelerator）使用
DLA架构简介 · DLA支持算子 · DLA与GPU混合部署
DLADeep
20
TensorRT与DeepStream集成
DeepStream pipelin… · Gst-nvinfer插件配置 · 多模型串联推理
TensorRTDeepStream
21
精度评估体系
mAP · F1-Score · 混淆矩阵在部署中的使用
精度评估体系mAP
22
Polygraphy工具深度使用
Polygraphy工作流 · 模型比较（--compare） · 精度调试与性能分析
Polygraphy工具深度使用
23
TensorRT模型转换常见精度问题
算子精度差异（LayerNorm · Softmax） · 数值范围溢出
TensorRT模型转换常见精度…
24
工业检测模型案例1
缺陷检测（YOLOv5s） · INT8量化实战 · 精度保持技巧
工业检测模型案例…YOLOv5s
25
工业检测模型案例2
分割模型（UNet）：动态输入处理 · Dice Loss与量化精度 · 多输出处理
工业检测模型案例…UNet
26
工业检测模型案例3
关键点检测（HRNet） · FP16与INT8混合量化 · 精度回退策略
工业检测模型案例…HRNet
27
TensorRT模型部署服务化
Triton Inference S… · Model Repository配置 · 动态Batch与并发
TensorRT模型部署服务化
28
边缘端部署优化
Jetson平台TensorRT优化 · Max-N与Max-Q模式 · 功耗与精度平衡
边缘端部署优化Jetson
29
模型更新与热加载
Engine版本管理 · 热加载策略 · AB测试部署
模型更新热加载
30
课程总结与最佳实践
精度优化checklist · 性能调优checklist · 常见问题FAQ
课程总结最佳实践