VIP20

本课程属于：036-Edge AI生产环境MLOps与模型生命周期 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

11. Edge AI多平台发布：MCU、NPU、GPU设备的模型适配

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

Edge AI多平台发布的意义 · 学习目标 · 课程整体框架与适用人群

课程导入Edge

边缘计算基础

边缘设备分类（MCU · NPU · GPU）

边缘计算基础MCU

模型适配核心概念

量化 · 剪枝 · 蒸馏

模型适配核心概念量化

MCU平台特点

资源限制（内存 · Flash · 算力）

MCU平台特点

NPU平台特点

NPU架构 · 算子支持 · 内存带宽

NPU平台特点

GPU平台特点

边缘GPU（如Jetson系列）的C… · 显存管理 · 多流推理与低延迟优化

GPU平台特点

模型格式转换

ONNX · TFLite · Caffe

模型格式转换ONNX

量化技术详解

PTQ（训练后量化）与QAT（量化感… · 对称/非对称量化 · 动态/静态量化

量化技术详解PTQ

剪枝与稀疏化

结构化剪枝 · 非结构化剪枝 · 稀疏推理加速

剪枝稀疏化

教师-学生模型设计 · 蒸馏损失函数 · 温度参数

知识蒸馏教师

算子适配与替换

常见不支持的算子（如自定义层） · 算子融合 · 手工替换策略与等价变换

算子适配替换

模型压缩与加速综合

组合使用量化 · 剪枝 · 蒸馏

模型压缩加速综合

以STM32或ESP32为例 · 使用TFLite Micro部署图像… · 完成端到端流程

以瑞芯微RK3588或地平线旭日X3… · 使用工具链转换模型并部署目标检测模型

以NVIDIA Jetson Ori… · 使用TensorRT优化YOLOv8… · 实现实时推理

多平台统一管理

使用ONNX作为中间格式 · 构建一次训练 · 多端部署的流水线

多平台统一管理ONNX

性能评估与基准测试

推理延迟 · 吞吐量 · 内存占用

性能评估基准测试

精度调试与恢复

量化后精度下降的诊断方法 · 敏感层分析 · 混合精度量化

精度调试恢复

内存与存储优化

模型内存布局 · 权重重排 · 内存复用

内存存储优化

实时性与并发

多线程推理 · 异步流水线 · 批处理策略

实时性并发

电源与热管理

边缘设备功耗限制 · 动态电压频率调整（DVFS） · 温控降频对推理性能的影响

电源热管理

安全与隐私

模型加密 · 防篡改 · 边缘端数据隐私保护

常见问题与解决方案

算子不支持 · 内存溢出 · 精度异常

常见问题解决方案

工具链与生态

TensorFlow Lite · ONNX Runtime · TensorRT

工具链生态

自动化部署流水线

CI/CD集成 · 模型注册 · 自动转换

自动化部署流水线CI/CD

智能家居语音唤醒（MCU） · 工业视觉缺陷检测（NPU） · 自动驾驶感知（GPU）的完整适配流程

案例研究MCU

Transformer在边缘的部署 · 大模型压缩 · 神经架构搜索（NAS）

前沿趋势Transformer

综合实战项目

设计一个跨MCU/NPU/GPU的智… · 从模型训练到多端发布 · 完成性能对比报告

综合实战项目MCU/NPU/GPU

核心知识点回顾 · 常见误区 · 最佳实践

课程总结核心知识点回顾

考核与进阶

综合测验 · 项目答辩 · 拓展阅读