VIP9
本课程属于：058-YOLO边缘部署、NPU与实时推理 AI智能与边缘计算工程 · 共 9 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

算子适配与NPU推理的联合调试

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
算子适配概述
什么是算子适配 · 算子适配在NPU推理中的角色 · 适配流程总览
算子适配概述什么是算子适配
02
NPU硬件架构基础
NPU计算单元 · 存储层次 · 数据通路
NPU硬件架构基础
03
算子分类与特性
逐元素算子 · 归约算子 · 卷积算子
算子分类特性
04
算子适配接口规范
Ascend C算子编程接口 · TBE算子开发规范 · ONNX算子映射规则
算子适配接口规范Ascend
05
算子适配开发环境搭建
CANN工具链安装 · MindStudio配置 · 交叉编译环境验证
算子适配开发环境…CANN
06
算子适配第一步
从PyTorch算子到ONNX算子 · 算子符号注册 · 自定义算子导出
算子适配第一步PyTorch
07
算子适配第二步
ONNX算子到CANN算子映射 · 属性映射 · 输入输出张量映射
算子适配第二步ONNX
08
算子适配第三步
CANN算子实现与编译 · DSL与TIK方式选择 · 算子编译与调试
算子适配第三步CANN
09
单算子调试方法
单算子调用API · 单算子执行模式 · 输出结果比对
单算子调试方法API
10
算子精度调试
精度比对工具使用 · 误差分析 · 混合精度策略
算子精度调试精度比对工具使用
11
算子性能调试
Profiling工具使用 · 算子耗时分析 · 内存带宽瓶颈定位
算子性能调试Profiling
12
算子适配常见错误与解决
编译错误 · 运行时错误 · 精度异常
算子适配常见错误解决
13
NPU推理流程概述
模型加载 · 模型编译 · 模型执行
NPU推理流程概述
14
模型转换与编译
ATC工具使用 · om模型生成 · 编译选项调优
模型转换编译
15
推理引擎选择
MindSpore Lite · ACL推理框架 · ONNX Runtime NPU后端
推理引擎选择MindSpore
16
ACL推理框架入门
aclmdlLoadDesc · aclmdlExecute · aclmdlUnload
ACL推理框架入门
17
推理数据预处理
图像解码 · 归一化 · 数据排布转换
推理数据预处理图像解码
18
推理数据后处理
TopK计算 · Softmax实现 · 结果解析
推理数据后处理TopK
19
推理性能优化
多Batch推理 · 异步推理 · 流水线并行
推理性能优化Batch
20
联合调试环境搭建
Host-Device协同调试 · gdb调试NPU进程 · 日志系统配置
联合调试环境搭建Host-Device
21
联合调试第一步
模型加载阶段调试：模型文件校验 · 权重加载验证 · 输入输出张量形状检查
联合调试第一步模型加载阶段调试
22
联合调试第二步
模型编译阶段调试：编译日志分析 · 算子融合验证 · 内存分配检查
联合调试第二步模型编译阶段调试
23
联合调试第三步
模型执行阶段调试：算子执行顺序验证 · 中间结果dump · 精度逐层比对
联合调试第三步模型执行阶段调试
24
联合调试第四步
端到端精度调试：全模型精度比对 · 误差溯源 · 算子替换策略
联合调试第四步端到端精度调试
25
联合调试第五步
端到端性能调试 · 瓶颈算子定位 · 算子替换与优化
联合调试第五步端到端性能调试
26
算子适配与推理联合调试实战案例一
ResNet50算子适配与推理调试
算子适配推理联合调试实战…
27
算子适配与推理联合调试实战案例二
BERT算子适配与推理调试
算子适配推理联合调试实战…
28
算子适配与推理联合调试实战案例三
YOLOv5算子适配与推理调试
算子适配推理联合调试实战…
29
算子适配与推理联合调试实战案例四
LSTM算子适配与推理调试
算子适配推理联合调试实战…
30
总结与最佳实践
算子适配Checklist · 调试流程SOP · 性能调优方法论
最佳实践Checklist