VIP20
本课程属于：047-地平线旭日X3X5边缘AI部署 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

15. 旭日C++推理集成：Runtime调用和业务模块封装

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 旭日C++推理集成整体架构与核心概念
课程导入学习目标
02
环境准备
开发环境搭建 · 依赖库安装 · 交叉编译工具链配置与验证
环境准备开发环境搭建
03
Runtime基础
Runtime的概念 · 作用 · 生命周期管理及在旭日平台中的角色
Runtime的概念
04
Runtime初始化
初始化参数配置 · 日志系统设置 · 硬件资源探测与错误处理
Runtime初始化
05
模型加载
支持模型格式 · 模型文件解析 · 内存映射与加载流程
模型加载支持模型格式
06
推理会话创建
会话参数配置 · 输入输出张量定义 · 会话资源分配
推理会话创建会话参数配置
07
输入数据预处理
图像缩放 · 归一化 · 通道转换
输入数据预处理图像缩放
08
推理执行
同步推理与异步推理的区别 · 推理调用API · 超时与中断处理
推理执行同步推理
09
输出结果解析
输出张量读取 · 后处理流程 · 置信度阈值过滤与非极大值抑制
输出结果解析输出张量读取
10
Runtime销毁
资源释放顺序 · 内存回收 · 异常安全与幂等性设计
Runtime销毁
11
业务模块封装原则
高内聚低耦合 · 接口设计 · 模块划分与依赖管理
业务模块封装原则高内聚低耦合
12
封装层设计
抽象基类 · 工厂模式 · 策略模式在推理模块中的应用
封装层设计抽象基类
13
数据流设计
输入输出数据结构定义 · 缓冲区管理 · 零拷贝优化
数据流设计输入输出数据结构…
14
多线程与并发
线程池使用 · 任务队列 · 推理并发控制与线程安全
多线程并发
15
异步回调机制
回调函数设计 · 事件循环 · 异步结果获取与错误传递
异步回调机制回调函数设计
16
性能优化
推理耗时分析 · 内存带宽优化 · 算子融合与量化加速
性能优化推理耗时分析
17
错误处理与日志
异常分类 · 错误码定义 · 日志分级与追踪定位
错误处理日志
18
单元测试
测试框架选择 · 模拟Runtime · 接口测试用例设计与覆盖率
单元测试测试框架选择
19
集成测试
端到端推理测试 · 多模型切换 · 压力测试与稳定性验证
集成测试端到端推理测试
20
案例实战一
基于Runtime调用YOLOv5目…
案例实战一Runtime
21
案例实战二
封装人脸关键点检测模块 · 实现批量推理与结果排序
案例实战二封装人脸关键点检…
22
案例实战三
集成OCR识别流程 · 串联检测与识别两个Runtime实例
案例实战三OCR
23
案例实战四
构建视频流实时推理模块 · 处理帧同步与丢帧策略
案例实战四构建视频流实时推…
24
常见问题一
模型加载失败 · 内存不足 · Runtime初始化崩溃的排查
常见问题一模型加载失败
25
常见问题二
推理结果错误 · 精度下降 · 输入输出尺寸不匹配的调试
常见问题二推理结果错误
26
常见问题三
多线程下Runtime冲突 · 资源泄漏 · 死锁的解决方案
常见问题三Runtime
27
安全与稳定性
输入校验 · 异常隔离 · 看门狗机制与故障恢复
安全稳定性
28
部署与集成
将封装模块集成到业务系统 · 动态库导出与API文档生成
部署集成
29
综合提升
设计一个可扩展的多模型推理框架 · 支持热插拔与配置化
综合提升设计一个可扩展的…
30
课程总结
知识体系回顾 · 最佳实践 · 常见误区与后续学习路径
课程总结知识体系回顾