VIP20

本课程属于：021-TVM Micro端侧编译优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

TVM Micro Relay图优化与端侧部署指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · TVM与Micro Relay的定位

课程导入学习目标

TVM与Relay基础

TVM架构 · Relay IR核心概念 · 计算图与算子

Micro Relay概述

Micro Relay的设计目标 · 与标准Relay的差异 · 适用场景与限制

环境搭建与工具链

安装TVM · 配置交叉编译工具链 · 模拟器与真实硬件准备

环境搭建工具链

Relay图结构解析

Function · Call · Constant

Relay图结构解析

Relay图优化概览

优化分类（常量折叠 · 算子融合 · 布局转换等）

Relay图优化概览

常量折叠与简化

常量传播 · 代数简化 · 死代码消除

常量折叠简化

算子融合策略

融合模式（Conv+BN+ReLU等… · 融合规则 · 融合对内存与计算的影响

算子融合策略Conv+BN+ReLU

布局转换与内存规划

NCHW/NHWC等布局选择 · 内存复用 · 静态内存分配

布局转换内存规划

量化与精度优化

量化原理 · PTQ与QAT · Micro Relay中的量化支持

量化精度优化

图分割与异构执行

将图分割为子图 · CPU/加速器协同 · 跨设备数据拷贝优化

图分割异构执行

自定义Pass开发

Pass编写基础 · 注册与调度 · Pass间依赖

Micro Relay代码生成

生成C代码 · 内存管理代码 · 算子实现映射

端侧部署流程

从Relay图到可执行文件 · 链接与打包 · 启动与运行

端侧部署流程Relay

MNIST分类模型在Micro控制器…

案例实战MNIST

MobileNetV2在Cortex… · 分析瓶颈与优化点

案例实战MobileNetV2

语音唤醒词识别模型（如DS-CNN）…

案例实战DS-CNN

传感器数据处理模型（如异常检测）的端…

案例实战传感器数据处理模…

性能调优方法

Profiling工具 · 瓶颈识别 · 内存与速度平衡

性能调优方法Profiling

常见问题与调试

编译错误 · 运行时崩溃 · 精度异常

常见问题调试

与CMSIS-NN集成

利用CMSIS-NN算子库 · 算子映射 · 性能对比

与TensorFlow Lite Micro对比

架构差异 · 优化策略 · 适用场景

自动化优化流程

使用AutoTVM与AutoSche…

自动化优化流程AutoTVM

模型压缩与剪枝

结构化剪枝 · 权重共享 · 低秩分解

模型压缩剪枝

安全与可靠性

数值稳定性 · 异常处理 · 看门狗

安全可靠性

多模型与动态图

多模型管理 · 动态shape支持 · 运行时调度

多模型动态图

图编译为自定义硬件指令 · VTA集成 · FPGA上的Micro Relay

高级主题图编译为自定义硬…

设计一个端侧AI应用（如手势识别） · 从模型选择到部署完成

核心知识回顾 · 常见误区 · 学习路径建议

课程总结核心知识回顾

综合测试题 · 实战项目答辩 · 优化报告撰写与展示

结业考核综合测试题