所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

嵌入式AI算子移植与自定义算子开发实战30问

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
嵌入式AI算子移植与自定义算子开发的… · 学习目标 · 课程整体框架与学习路径
课程导入AI
02
嵌入式AI基础
嵌入式AI芯片架构（CPU · GPU · NPU
AI嵌入式
03
算子基础概念
算子的定义 · 分类（卷积 · 池化
算子基础概念算子的定义
04
算子开发环境搭建
交叉编译工具链 · NPU SDK · 仿真器与开发板环境的配置与验证
算子开发环境搭建交叉编译工具链
05
算子移植流程概述
从模型到算子的完整移植流程（模型解析 · 算子映射 · 优化
算子移植流程概述从模型到算子的完…
06
模型格式与算子表示
ONNX · TFLite · Caffe等模型格式中算子的表示与解…
模型格式算子表示
07
算子映射与适配
将通用框架算子映射到嵌入式平台原生算…
算子映射适配
08
算子性能评估指标
延迟 · 吞吐量 · 内存占用
算子性能评估指标延迟
09
算子优化基础
内存布局 · 数据对齐 · 循环展开
算子优化基础内存布局
10
卷积算子移植实战
以3x3卷积为例 · 完成从CPU参考实现到NPU加速的移…
卷积算子移植实战x3
11
池化算子移植实战
实现最大池化与平均池化的嵌入式优化版…
池化算子移植实战实现最大池化
12
激活算子移植实战
ReLU · Sigmoid · Tanh等激活函数的定点化与快速实现
激活算子移植实战ReLU
13
全连接算子移植实战
矩阵乘法的优化（分块 · SIMD · Winograd）与实现
全连接算子移植实…矩阵乘法的优化
14
自定义算子开发流程
需求分析 · 接口设计 · 实现
自定义算子开发流…需求分析
15
自定义算子接口规范
理解嵌入式AI框架（如TensorR… · NCNN · MNN）的算子注册与接口定义
自定义算子接口规…AI
16
自定义算子内核编写
使用C/C++编写高效内核 · 并利用硬件指令集（NEON · HVX等）
自定义算子内核编…C/C++
17
自定义算子编译与链接
将自定义算子编译为动态库或静态库 · 并集成到推理引擎中
自定义算子编译链接
18
自定义算子调试技巧
使用日志 · 断点 · 仿真器
自定义算子调试技…使用日志
19
算子单元测试与验证
构建测试用例 · 对比CPU参考结果与硬件输出 · 确保数值正确性
算子单元测试验证
20
算子性能剖析与瓶颈分析
使用profiler工具定位性能瓶颈 · 并针对性优化
算子性能剖析瓶颈分析
21
内存优化与数据复用
减少内存拷贝 · 使用DMA · 缓存优化
内存优化数据复用
22
量化与定点化
将浮点算子转换为定点/INT8算子 · 处理精度损失与量化参数
量化定点化
23
算子融合与图优化
将多个算子融合为一个算子（如Conv… · 减少内存访问与启动开销
算子融合图优化
24
多线程与异步执行
利用多核CPU · 硬件队列 · 异步执行提升算子并行度
多线程异步执行
25
常见算子移植问题
维度不匹配 · 数据格式差异 · 边界条件
常见算子移植问题维度不匹配
26
案例实战
YOLOv5中的算子移植与自定义算子… · SPP等）
案例实战YOLOv5
27
案例实战
Transformer模型中的算子移… · Softmax · 矩阵乘）与优化
案例实战Transformer
28
案例实战
语音识别模型中的算子移植（如LSTM · GRU · Attention）与自定义算子开发
案例实战LSTM
29
综合项目
从零开始为一个嵌入式AI应用（如人脸… · 并优化性能
综合项目AI
30
课程总结与进阶方向
回顾核心知识点 · 探讨算子开发的新趋势（如可变形卷积 · 动态算子）与学习资源推荐
课程总结进阶方向