VIP20
本课程属于：031-Edge AI GPU委托与TensorRT 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TensorRT硬件加速实操：TinyML模型边缘部署

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程整体框架与实战项目预览
课程导入学习目标
02
TinyML与边缘部署基础
TinyML定义 · 边缘计算场景 · 典型硬件平台（Jetson
TinyML边缘部署基础
03
TensorRT核心概念
TensorRT是什么 · 推理优化原理 · 与TensorFlow/PyTorc…
TensorRT核心概念
04
环境搭建
NVIDIA驱动 · CUDA · cuDNN
环境搭建NVIDIA
05
模型转换基础
ONNX格式介绍 · PyTorch/TensorFlow…
模型转换基础ONNX
06
TensorRT引擎构建
使用trtexec命令行工具 · Python API构建引擎 · 精度模式（FP32/FP16/INT…
TensorRT引擎构建
07
网络层支持与算子兼容
常见算子支持列表 · 不支持算子的处理策略（插件 · 重写）
网络层支持算子兼容
08
动态形状与批处理
动态输入尺寸配置 · 优化profile设置 · 多batch处理
动态形状批处理
09
INT8量化实战
校准数据集准备 · 校准器实现 · 量化精度评估与调优
INT8量化实战
10
TensorRT Python API编程
Engine创建 · Context执行 · 输入输出绑定
TensorRTPython
11
TensorRT C++ API入门
C++推理流程 · 与Python性能对比 · 编译部署要点
TensorRTC++
12
TinyML模型案例
MobileNetV3 · EfficientNet-Lite · YOLOv5-tiny等模型转换与部…
TinyML模型案例
13
图像分类实战
从PyTorch模型到TensorR… · 完整代码与性能测试
图像分类实战PyTorch
14
目标检测实战
YOLOv5-tiny的Tensor… · NMS处理与后处理优化
目标检测实战YOLOv5-tiny
15
语义分割实战
DeepLabV3或UNet的Ten… · 输出处理与可视化
语义分割实战DeepLabV3
16
语音唤醒词识别
TinyML音频模型（如TinySp…
语音唤醒词识别TinyML
17
异常检测实战
基于自编码器的异常检测模型在边缘设备…
异常检测实战基于自编码器的异…
18
多模型流水线
多个TensorRT引擎串联 · 共享GPU上下文 · 异步推理
多模型流水线TensorRT
19
性能调优
TensorRT Profiler使… · 层融合分析 · 内存优化
性能调优TensorRT
20
模型压缩与剪枝
在TensorRT之前进行剪枝 · 蒸馏 · 量化感知训练
模型压缩剪枝
21
边缘设备部署
Jetson Nano/Xavier… · 功耗与散热考虑 · 开机自启动
边缘设备部署Jetson
22
与推理框架对比
TensorRT vs ONNX R… · 性能与易用性对比
推理框架对比TensorRT
23
常见问题排查
构建失败 · 精度下降 · 内存泄漏
常见问题排查构建失败
24
TensorRT插件开发
自定义算子插件编写 · 注册 · 在引擎中使用
TensorRT插件开发
25
安全与可靠性
模型加密 · 防篡改 · 异常输入处理
安全可靠性
26
云边协同
模型在云端训练 · 边缘部署更新 · OTA升级流程
云边协同模型
27
综合项目一
智能安防系统——人员检测与跟踪 · TensorRT加速端到端实现
综合项目一智能安防系统
28
综合项目二
工业质检——缺陷检测模型部署 · 实时性与精度平衡
综合项目二工业质检
29
综合项目三
智能农业——作物识别与计数 · 多模型协同部署
综合项目三智能农业
30
课程总结与进阶
学习路径回顾 · 常见误区 · 前沿趋势（TensorRT 10
课程总结进阶