所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

嵌入式AI自定义算子移植

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 嵌入式AI与自定义算子移植的总体概述
课程导入学习目标
02
嵌入式AI基础
嵌入式平台特点 · AI推理框架（如TensorFlow… · ONNX Runtime
AI嵌入式
03
算子与计算图
算子定义 · 计算图概念 · 算子类型（卷积
算子计算图
04
自定义算子需求分析
为什么需要自定义算子 · 典型场景（性能瓶颈 · 特殊硬件支持
自定义算子需求分…为什么需要自定义…
05
算子移植流程概览
从算法到嵌入式部署的完整流程 · 关键步骤与里程碑
算子移植流程概览从算法到嵌入式部…
06
硬件抽象层（HAL）
嵌入式AI硬件（CPU · GPU · NPU
HAL硬件抽象层
07
算子开发环境搭建
交叉编译工具链 · 模拟器 · 开发板
算子开发环境搭建交叉编译工具链
08
算子接口规范
推理框架中算子注册 · 输入输出定义 · 参数传递
算子接口规范推理框架
09
算子实现基础
C/C++实现 · 数据类型（FP32 · FP16
算子实现基础C/C++
10
算子优化策略
循环展开 · 向量化 · 缓存优化
算子优化策略循环展开
11
算子移植到CPU
针对ARM Cortex-A/M的优… · NEON指令集使用 · 性能分析
CPU算子移植到
12
算子移植到GPU
OpenCL/CUDA基础 · 嵌入式GPU（Mali · Adreno）适配
GPU算子移植到
13
算子移植到NPU
NPU架构 · 量化感知 · 算子映射
NPU算子移植到
14
算子移植到DSP
DSP架构 · 定点运算 · 流水线优化
DSP算子移植到
15
量化与精度
量化原理（PTQ · QAT） · 量化误差分析
量化精度
16
算子测试与验证
单元测试 · 数值正确性对比 · 端到端测试
算子测试验证
17
性能剖析与调优
使用profiler（perf · vtune · 厂商工具）
性能剖析调优
18
案例实战
移植一个ReLU算子
案例实战ReLU
19
案例实战
移植一个卷积算子：优化策略 · 多平台适配
案例实战移植一个卷积算子
20
案例实战
移植一个自定义激活函数（如Swish… · 量化 · 测试
案例实战Swish
21
案例实战
移植一个池化算子：处理边缘情况 · 性能优化
案例实战移植一个池化算子
22
案例实战
移植一个归一化算子（如BatchNo… · 推理加速
案例实战BatchNo
23
案例实战
移植一个矩阵乘算子：分块 · SIMD · 多核并行
案例实战移植一个矩阵乘算…
24
常见问题与调试
内存泄漏 · 越界 · 精度丢失
常见问题调试
25
算子移植的自动化工具
使用TVM · XLA · AutoKernel等自动生成与调优
算子移植的自动化…TVM
26
算子融合与图优化
算子融合原理 · 常见融合模式（Conv+BN+ReL… · 实现方法
算子融合图优化
27
多平台移植策略
一套代码多平台适配 · 条件编译 · 抽象层设计
多平台移植策略一套代码多平台适…
28
安全性与可靠性
嵌入式环境下的异常处理 · 资源限制 · 长期运行稳定性
安全性可靠性
29
综合项目
从零移植一个完整模型（如YOLO小模…
综合项目YOLO
30
课程总结与进阶方向
知识回顾 · 常见误区 · 未来趋势（RISC-V
课程总结进阶方向