VIP20

本课程属于：006-ONNX Runtime端侧推理部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

ONNX Runtime在树莓派上的部署教程：视觉检测实战

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程项目概览（树莓派上运行YOLOv…

课程导入学习目标

树莓派硬件选型（Pi 4/5） · 操作系统烧录 · SSH远程连接

ONNX Runtime基础

ONNX格式简介 · ONNX Runtime核心概念（E… · Session

树莓派性能优化概览

CPU vs GPU（Vulkan/… · NPU（Coral/Intel）对比 · ONNX Runtime在树莓派上的…

树莓派性能优化概…CPU

模型转换实战

使用PyTorch训练或下载预训练Y… · 导出为ONNX格式（包括动态轴 · 批处理设置）

模型转换实战PyTorch

ONNX模型检查与优化

使用Netron可视化 · onnx-simplifier简化模… · 量化（INT8/FP16）对树莓派的…

ONNX模型检查

ONNX Runtime安装与配置

在树莓派上安装onnxruntime… · 验证安装 · 选择Execution Provid…

图像预处理与后处理

OpenCV图像读取 · resize · 归一化

图像预处理后处理

第一个推理程序

加载ONNX模型 · 运行推理 · 输出张量解析

第一个推理程序ONNX

性能基准测试

使用timeit测量推理延迟 · FPS计算 · CPU占用率监控

性能基准测试timeit

多线程与异步推理

使用ThreadPoolExecut… · 避免GIL限制

多线程异步推理

摄像头实时检测

接入USB摄像头或CSI摄像头 · 视频流处理循环 · 实时显示检测结果

摄像头实时检测USB

模型量化实战

动态量化 · 静态量化（校准数据集） · 量化后模型精度与速度对比

模型量化实战动态量化

ONNX Runtime与OpenCV结合

利用OpenCV的DNN模块对比ON… · 选择最佳方案

部署到树莓派服务

使用Flask/FastAPI搭建H… · 客户端请求与响应设计

部署到树莓派服务Flask/FastAP…

边缘端模型优化

模型剪枝 · 知识蒸馏 · 轻量化网络（MobileNet/YO…

边缘端模型优化模型剪枝

常见错误排查

模型加载失败 · 维度不匹配 · 内存不足

常见错误排查模型加载失败

使用ONNX Runtime的C API

在C++环境中部署（可选） · 提升性能并集成到现有C++项目

多模型管理

同时加载多个ONNX模型（如检测+分… · 内存共享与资源管理

多模型管理ONNX

树莓派集群部署

使用Docker容器化ONNX Ru… · K3s轻量Kubernetes集群实…

树莓派集群部署Docker

模型版本管理

使用ONNX Model Zoo · 模型注册表 · 版本回滚策略

模型版本管理ONNX

安全与隐私

本地推理数据保护 · 模型加密 · 防止模型窃取

人脸检测与识别

实战项目人脸检测

工业缺陷检测 · 并输出分类结果

实战项目工业缺陷检测

交通标志识别 · 并实现语音提示

实战项目交通标志识别

性能调优进阶

使用ONNX Runtime的Gra… · 线程数设置 · 内存池配置

性能调优进阶ONNX

与硬件加速器集成

连接Google Coral USB… · 对比ONNX Runtime性能

硬件加速器集成Google

智能安防系统：整合摄像头 · 运动检测 · ONNX模型推理

综合实战智能安防系统

课程总结与扩展

回顾关键知识点 · 常见问题解决方案 · 未来学习方向（如TensorRT L…

课程总结扩展

自主设计一个视觉检测应用：从需求分析 · 模型选择 · 部署到性能优化

结业项目自主设计一个视觉…