VIP20
本课程属于：006-ONNX Runtime端侧推理部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX Runtime端侧推理失败分析：日志与异常定位

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
ONNX Runtime基础
ONNX模型格式 · ORT架构 · 端侧推理流程
ONNXRuntime
03
端侧推理环境准备
硬件平台（Android/iOS/嵌… · 软件依赖 · 版本兼容性检查
端侧推理环境准备Android/iOS
04
日志系统入门
ORT日志级别 · 日志输出配置 · 日志格式解析
日志系统入门ORT
05
异常分类体系
按阶段分类（模型加载 · 图优化 · 执行
异常分类体系按阶段分类
06
模型加载失败分析
文件损坏 · 版本不匹配 · 模型格式错误
模型加载失败分析文件损坏
07
图优化阶段异常
优化器错误 · 常量折叠失败 · 图转换问题
图优化阶段异常优化器错误
08
算子执行失败
算子不支持 · 算子实现bug · 输入数据异常
算子执行失败算子不支持
09
内存相关异常
内存不足 · 内存泄漏 · 内存越界
内存相关异常内存不足
10
形状与维度错误
输入形状不匹配 · 动态形状处理 · 形状推断失败
形状维度错误
11
精度与数值异常
NaN/Inf产生 · 精度下降 · 量化误差
精度数值异常
12
会话与线程问题
会话创建失败 · 线程池配置错误 · 并发推理冲突
会话线程问题
13
性能瓶颈与超时
推理超时 · 延迟异常 · 日志时间戳分析
性能瓶颈超时
14
日志收集与导出
端侧日志捕获方法 · 日志持久化 · 远程日志收集
日志收集导出
15
异常定位方法论
从日志到根因的推理流程 · 二分定位法 · 复现实验设计
异常定位方法论从日志到根因的推…
16
常用调试工具
ORT自带工具 · Android logcat · iOS os_log
常用调试工具ORT
17
案例实战一
模型加载失败——从日志到修复的完整过…
案例实战一模型加载失败
18
案例实战二
算子不支持——日志分析 · 替代方案 · 代码修改
案例实战二算子不支持
19
案例实战三
内存溢出——日志中内存增长趋势 · 优化策略
案例实战三内存溢出
20
案例实战四
动态形状错误——日志中shape冲突 · 动态轴配置
案例实战四shape
21
案例实战五
精度异常——日志中数值对比 · 量化参数调整
案例实战五精度异常
22
常见问题速查
典型错误码 · 常见日志片段 · 快速解决建议
常见问题速查典型错误码
23
日志分析自动化
脚本提取关键日志 · 正则匹配 · 简单日志分析工具
日志分析自动化脚本提取关键日志
24
与ONNX Runtime社区协作
提交issue · 提供日志 · 获取支持
ONNXRuntime
25
端侧推理最佳实践
日志规范 · 异常处理 · 防御性编程
端侧推理最佳实践日志规范
26
跨平台差异
Android/iOS/Window… · 异常差异
跨平台差异Android/iOS/…
27
模型转换与优化对推理的影响
转换工具 · 优化选项 · 日志中优化痕迹
模型转换优化对推理的影响
28
综合实战
从零开始定位一个端侧推理失败问题（完…
综合实战从零开始定位一个…
29
课程总结
核心要点回顾 · 学习路径建议 · 进阶资源推荐
课程总结核心要点回顾
30
结课测试与答疑
模拟故障分析 · 常见疑问解答 · 课程反馈
结课测试答疑