VIP20

本课程属于：032-NVIDIA Jetson边缘AI推理部署 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

7. Jetson图像分类部署：轻量模型和Batch设置优化

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

了解Jetson平台在边缘AI中的地… · 明确本课程的学习目标 · 适用人群和整体学习路径

课程导入Jetson

搭建Jetson开发环境 · 安装JetPack SDK · CUDA

环境准备Jetson

图像分类基础

回顾图像分类任务的定义 · 常见数据集（ImageNet · CIFAR-10）和评价指标（准确率

图像分类基础回顾图像分类任务…

轻量模型概览

介绍MobileNet · EfficientNet-Lite · ShuffleNet等轻量级CNN模…

轻量模型概览MobileNet

模型选择策略

根据Jetson的算力 · 内存和功耗限制 · 如何选择合适的轻量模型和输入分辨率

模型选择策略Jetson

ONNX模型转换

将PyTorch或TensorFlo… · 并处理动态轴和算子兼容性问题

ONNX模型转换

TensorRT加速原理

理解TensorRT的层融合 · 精度校准（FP16/INT8）和内存…

TensorRT加速原理

TensorRT模型转换

使用trtexec或Python A… · 并设置工作空间大小

TensorRT模型转换

Batch Size概念

解释Batch Size对推理吞吐量… · 以及Jetson上Batch设置的注…

Batch Size优化实验

在Jetson上对比不同Batch… · 2 · 4

动态Batch支持

配置TensorRT的动态Batch… · 实现运行时灵活调整Batch Siz…

利用Jetson的多核CPU和GPU · 通过多线程或多进程实现多路视频流的并…

多流推理Jetson

图像预处理优化

使用OpenCV或VPI库进行图像缩… · 归一化等预处理 · 减少CPU占用和延迟

图像预处理优化OpenCV

推理流水线设计

设计数据加载 · 预处理 · 推理

推理流水线设计设计数据加载

后处理与结果输出

实现Top-K结果解析 · 置信度阈值过滤和可视化输出

后处理结果输出

介绍INT8量化的原理 · 校准数据集的选择以及量化后精度损失的…

模型量化INT8

TensorRT INT8实战

在Jetson上完成INT8量化 · 对比FP16和INT8的精度与性能差…

模型剪枝与蒸馏

介绍结构化剪枝和知识蒸馏技术 · 进一步压缩模型以适应Jetson

模型剪枝蒸馏

部署框架选择

对比TensorRT · ONNX Runtime · DeepStream等框架在Jets…

部署框架选择TensorRT

DeepStream集成

使用DeepStream SDK构建… · 实现硬件加速解码和推理

DeepStream集成

基于Jetson Nano的实时图像… · 从模型训练到TensorRT部署的完…

案例实战Jetson

基于Jetson Xavier NX… · 优化Batch和流水线以提升吞吐量

案例实战Jetson

性能调优工具

使用NVIDIA Nsight · tegrastats · trtexec等工具监控GPU利用率

性能调优工具NVIDIA

常见问题排查

解决TensorRT转换失败 · 精度下降 · 内存不足

常见问题排查TensorRT

功耗与散热管理

在Jetson上设置电源模式 · 风扇控制 · 平衡性能与功耗

功耗散热管理

模型更新与热加载

实现模型热替换和动态加载 · 支持不停机更新分类模型

模型更新热加载

边缘端部署实践

将应用打包为Docker容器或系统服… · 实现开机自启和远程管理

边缘端部署实践Docker

设计一个端到端的Jetson图像分类… · 涵盖数据采集 · 模型优化

综合项目Jetson

介绍最新的轻量模型（如Efficie… · MobileViT）和自动化神经架构…

前沿扩展Efficie

课程总结与进阶路径

回顾核心知识点 · 提供进一步学习资源和实战建议 · 帮助学员成为边缘AI部署专家

课程总结进阶路径