VIP20
本课程属于：011-TinyML MCU内存占用优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

MCU端侧推理运行时buffer压缩与复用实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · MCU端侧推理的挑战与buffer优…
课程导入学习目标
02
MCU端侧推理基础
MCU硬件特性 · 典型推理框架（TFLite Micr… · CMSIS-NN等）
MCU端侧推理基础
03
buffer基础概念
什么是buffer · 静态与动态buffer · 内存对齐
buffer基础概念
04
推理运行时内存布局
模型权重 · 激活 · 中间张量
推理运行时内存布…模型权重
05
内存压缩原理
量化 · 剪枝 · 稀疏化
内存压缩原理量化
06
量化技术实战
INT8/INT16量化 · 量化感知训练 · 后训练量化在MCU上的buffer压…
量化技术实战INT8/INT16
07
权重压缩方法
权重共享 · 霍夫曼编码 · 熵编码
权重压缩方法权重共享
08
激活buffer压缩
激活值量化 · 动态范围调整 · 激活稀疏性利用
buffer激活
09
buffer复用策略
内存池设计 · 生命周期分析 · 张量复用图
buffer复用策略
10
内存池实现
静态内存池 · 动态内存池 · 碎片管理
内存池实现静态内存池
11
基于图优化的buffer复用
计算图分析 · 张量生命周期重叠检测 · 复用冲突解决
buffer基于图优化的
12
运行时内存规划
离线规划与在线分配 · 内存规划工具（如XLA · TVM内存规划器）在MCU上的适配
运行时内存规划离线规划
13
案例实战
TFLite Micro内存规划器解… · tensor复用 · 优化选项
案例实战TFLite
14
案例实战
CMSIS-NN中的buffer优化 · 内核间共享
案例实战CMSIS-NN
15
案例实战
自定义推理引擎的buffer压缩
案例实战buffer
16
压缩与复用的权衡
压缩率 · 推理速度 · 功耗
压缩复用的权衡
17
硬件加速与buffer优化
SIMD · DSP指令 · 缓存友好性对buffer布局的影响
buffer硬件加速
18
多模型场景下的buffer管理
模型切换 · 内存共享 · 动态加载
buffer多模型场景下的
19
实时性约束下的buffer优化
延迟敏感应用 · 优先级调度 · buffer预分配
buffer实时性约束下的
20
常见问题与调试
内存越界 · 对齐错误 · 复用冲突
常见问题调试
21
性能分析工具
内存剖析工具 · profiling · 可视化内存使用
性能分析工具内存剖析工具
22
自动化优化流程
脚本化内存规划 · 自动生成内存分配代码 · 集成到构建系统
自动化优化流程脚本化内存规划
23
进阶技术
零拷贝推理 · 内存映射 · DMA与buffer的协同
进阶技术零拷贝推理
24
安全与可靠性
内存保护 · 故障注入 · buffer损坏检测
安全可靠性
25
综合实战项目
从零构建一个MCU推理引擎 · 实现buffer压缩与复用 · 并评估效果
综合实战项目MCU
26
优化案例研究
分析一个真实MCU推理应用（如关键词… · 图像分类）的buffer优化过程
优化案例研究MCU
27
前沿趋势
自适应buffer管理 · 学习型内存分配 · 边缘AI内存优化新方向
前沿趋势buffer
28
课程总结
核心要点回顾 · 最佳实践 · 常见误区
课程总结核心要点回顾
29
实战考核
设计一个buffer压缩与复用方案 · 并实现原型 · 提交报告
实战考核buffer
30
扩展学习
推荐资源 · 开源项目 · 社区
扩展学习推荐资源