所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

嵌入式端侧推理优化与端到端规划模型量化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 嵌入式端侧推理与量化的整体概览
课程导入学习目标
02
嵌入式系统基础
常见嵌入式平台（ARM · RISC-V · NPU
嵌入式系统基础ARM
03
深度学习模型基础
卷积 · 全连接 · 注意力机制等算子计算流程
深度学习模型基础卷积
04
端侧推理框架概述
TFLite · ONNX Runtime · NCNN
端侧推理框架概述TFLite
05
模型部署流程
训练 · 导出 · 转换
模型部署流程训练
06
模型压缩技术概览
剪枝 · 蒸馏 · 低秩分解与量化的关系
模型压缩技术概览剪枝
07
量化基础概念
定点与浮点表示 · 量化尺度与零点 · 对称与非对称量化
量化基础概念定点
08
量化精度分析
量化对模型精度的影响 · 敏感层分析 · 混合精度量化的动机
量化精度分析量化对模型精度的…
09
训练后量化（PTQ）
动态量化 · 静态量化 · 校准数据集的选择
PTQ训练后量化
10
量化感知训练（QAT）
伪量化算子 · 直通估计器（STE） · QAT训练流程与超参数调整
QAT量化感知训练
11
端到端规划模型量化
针对规划模型（如路径规划 · 决策模型）的特殊量化挑战 · 包括序列输出
端到端规划模型量…针对规划模型
12
端到端规划模型优化
模型结构优化（轻量化网络 · 注意力简化） · 输入输出裁剪
端到端规划模型优…模型结构优化
13
算子级优化
卷积 · 矩阵乘 · 激活函数等算子的高效实现（im2co…
算子级优化卷积
14
内存优化
内存复用 · 内存池 · 算子融合（Conv+BN+ReLU）
内存优化内存复用
15
计算图优化
图变换 · 常量折叠 · 算子融合
计算图优化图变换
16
硬件加速与指令集
ARM NEON · RVV · CUDA
硬件加速指令集
17
端侧推理引擎的量化实现
TFLite量化 · NCNN量化 · MNN量化
端侧推理引擎的量…TFLite
18
量化工具链实践
使用PyTorch · TensorFlow · ONNX等工具进行PTQ和QAT的实…
量化工具链实践PyTorch
19
案例实战
图像分类模型（MobileNet · ResNet）在嵌入式设备上的量化与…
案例实战MobileNet
20
案例实战
目标检测模型（YOLO · SSD）的端侧量化与推理优化 · 包括NMS的优化
案例实战YOLO
21
案例实战
语义分割模型（DeepLab · UNet）的量化与内存优化
案例实战DeepLab
22
案例实战
端到端规划模型（如自动驾驶局部路径规… · 机器人导航）的量化与部署
案例实战端到端规划模型
23
端到端规划模型推理优化
序列生成 · beam search · 动态规划的硬件映射与优化
端到端规划模型推…序列生成
24
多模型协同优化
感知 · 预测 · 规划多模型在端侧的级联推理与资源共享
多模型协同优化感知
25
性能评估与调优
延迟 · 吞吐量 · 功耗
性能评估调优
26
常见问题与解决方案
量化掉点 · 校准失败 · 算子不支持
常见问题解决方案
27
模型安全与鲁棒性
量化对对抗样本的影响 · 端侧部署的安全考虑
模型安全鲁棒性
28
前沿技术
低比特量化（INT4 · INT8） · 二值化
前沿技术INT4
29
综合实战项目
从零开始将一个自定义模型（含规划模块… · 完成性能达标
综合实战项目从零开始将一个自…
30
课程总结与进阶路径
回顾核心知识点 · 常见误区 · 推荐学习资源
课程总结进阶路径