VIP20
本课程属于：045-全志V853边缘AI视觉部署 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

15. V853 C/C++推理集成：Runtime接口和业务代码封装

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
了解V853芯片的AI推理能力 · Runtime接口在整体软件栈中的位… · 以及本课程的学习目标和最终实战项目
课程导入V853
02
开发环境搭建
安装交叉编译工具链 · 配置NPU SDK和Runtime库 · 验证C/C++编译环境是否可用
开发环境搭建安装交叉编译工具…
03
Runtime接口概览
掌握V853 Runtime的核心A… · 模型加载 · 推理执行
Runtime接口概览
04
模型文件格式与转换
理解V853支持的模型格式（如NBG · ONNX等） · 学习使用模型转换工具生成Runtim…
模型文件格式转换
05
Runtime初始化与设备管理
编写代码完成Runtime上下文创建 · 设备打开 · 版本信息获取等初始化操作
Runtime初始化
06
模型加载与解析
通过Runtime接口加载模型文件 · 解析输入输出张量信息 · 并处理加载失败的错误码
模型加载Runtime
07
输入输出张量管理
学习如何创建 · 填充和释放张量 · 理解数据布局（NHWC/NCHW）和…
输入输出张量管理学习如何创建
08
推理执行流程
调用Runtime的推理接口（如fo… · 掌握同步与异步推理的区别及适用场景
推理执行流程Runtime
09
结果获取与后处理
从输出张量中提取推理结果 · 进行阈值过滤 · 非极大值抑制（NMS）等常见后处理操…
结果获取后处理
10
业务代码封装设计
设计可复用的C++类（如Infere… · 封装Runtime接口 · 提供简洁的推理调用接口
业务代码封装设计C++
11
多模型管理
实现多个模型的同时加载与切换 · 管理不同模型的上下文和资源 · 避免冲突
多模型管理实现多个模型的同…
12
内存优化与缓存机制
分析推理过程中的内存占用 · 使用内存池 · 双缓冲等技术提升性能
内存优化缓存机制
13
性能调优
通过设置Runtime参数（如CPU… · 批处理大小）和代码优化 · 降低推理延迟
性能调优Runtime
14
错误处理与日志系统
建立统一的错误码映射和日志输出机制 · 便于调试和问题定位
错误处理日志系统
15
线程安全与并发推理
实现多线程环境下的安全推理调用 · 使用互斥锁或队列管理并发请求
线程安全并发推理
16
实战案例一
图像分类应用 · 完整实现一个基于V853的图像分类C…
实战案例一图像分类应用
17
实战案例二
目标检测应用：结合YOLO等模型 · 实现目标检测的推理和后处理 · 并输出检测框
实战案例二YOLO
18
实战案例三
人脸关键点检测 · 展示多输出模型的Runtime处理技…
实战案例三人脸关键点检测
19
与摄像头采集集成
将Runtime推理与V4L2摄像头… · 实现实时视频流推理
摄像头采集集成Runtime
20
与图像处理库集成
集成OpenCV等库 · 完成图像预处理（缩放 · 归一化）和结果可视化
图像处理库集成OpenCV
21
与网络通信集成
通过TCP/HTTP将推理结果上传到… · 实现远程推理服务
网络通信集成TCP/HTTP
22
常见问题排查
解决模型加载失败 · 推理结果错误 · 内存泄漏等高频问题
常见问题排查解决模型加载失败
23
Runtime接口版本兼容性
了解不同SDK版本间的API差异 · 编写兼容性代码或迁移指南
Runtime接口版本兼容性
24
安全与稳定性
处理异常输入 · 超时 · 资源耗尽等情况
安全稳定性
25
单元测试与集成测试
为封装的业务代码编写测试用例 · 验证推理正确性和接口稳定性
单元测试集成测试
26
性能分析工具使用
使用perf · gprof等工具分析CPU/内存瓶颈 · 针对性优化
性能分析工具使用perf
27
代码重构与设计模式
应用工厂模式 · 单例模式等优化代码结构 · 提高可维护性
代码重构设计模式
28
综合实战
构建一个完整的智能相册应用 · 集成图像分类 · 人脸识别和存储功能
综合实战构建一个完整的智…
29
部署与发布
将编译好的程序部署到V853开发板 · 配置开机自启 · 并制作简单的运行脚本
部署发布
30
课程总结与进阶方向
回顾核心知识点 · 探讨边缘计算 · 模型量化等进阶主题
课程总结进阶方向