VIP20

本课程属于：028-ONNX模型部署与推理优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

ONNX模型C++部署实战指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · ONNX模型部署概述

课程导入学习目标

安装C++开发环境 · ONNX Runtime库 · 依赖管理

环境搭建C++

ONNX模型基础

理解ONNX格式 · 模型结构 · 算子与计算图

ONNX模型基础

模型获取与转换

从PyTorch/TensorFlo… · 使用工具转换

模型获取转换

ONNX Runtime C++ API概览

核心接口 · 会话创建 · 输入输出管理

第一个推理程序

加载ONNX模型 · 执行推理 · 获取输出

第一个推理程序ONNX

张量操作与数据预处理

图像缩放 · 归一化 · 通道转换等

张量操作数据预处理

后处理与结果解析

分类 · 检测 · 分割等任务的输出处理

后处理结果解析

性能优化基础

CPU线程设置 · 图形优化 · 内存管理

性能优化基础CPU

CUDA环境配置 · TensorRT集成 · GPU推理

动态形状处理

处理可变输入尺寸 · 设置动态轴

动态形状处理处理可变输入尺寸

多模型管理

同时加载多个模型 · 共享会话配置

多模型管理同时加载多个模型

错误处理与调试

常见异常 · 日志记录 · 调试技巧

错误处理调试

模型量化与压缩

INT8量化 · 模型剪枝 · 减小体积提升速度

模型量化压缩

图像分类模型部署实战

部署案例图像分类模型部署…

目标检测模型部署实战

部署案例目标检测模型部署…

语义分割模型部署实战

部署案例语义分割模型部署…

自然语言处理模型部署实战

部署案例自然语言处理模型…

跨平台部署

Windows · Linux · macOS下的编译与运行

跨平台部署Windows

嵌入式部署

ARM平台 · 树莓派等边缘设备部署

嵌入式部署ARM

服务化部署

使用ONNX Runtime构建RE…

服务化部署ONNX

性能分析工具

使用profiler定位瓶颈 · 优化推理

性能分析工具profiler

常见问题与解决方案

内存泄漏 · 精度下降 · 兼容性问题

常见问题解决方案

模型安全与加密

模型加密 · 防篡改措施

模型安全加密

与深度学习框架集成

在C++中调用PyTorch/Ten…

深度学习框架集成C++

自定义算子

实现自定义OP并注册到ONNX Ru…

自定义算子OP

模型版本管理

模型迭代 · 回滚策略

模型版本管理模型迭代

从模型到端到端应用开发

综合实战从模型到端到端应…

项目部署与维护

日志监控 · 性能监控 · 持续优化

项目部署维护

课程总结与进阶方向

回顾要点 · 推荐学习资源 · 未来趋势

课程总结进阶方向