所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

边缘智能AI模型部署与推理优化实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
边缘智能的定义 · 发展背景 · 核心挑战
课程导入边缘智能的定义
02
边缘计算基础
边缘计算架构 · 边缘节点类型 · 边缘与云端的协同模式
边缘计算基础边缘计算架构
03
AI模型部署概述
模型部署的完整流程 · 部署形态（云端 · 边缘
AI模型部署概述
04
边缘硬件平台选型
主流边缘AI芯片（GPU · NPU · FPGA
边缘硬件平台选型AI
05
模型压缩技术（一）
剪枝原理 · 结构化与非结构化剪枝 · 实现方法（PyTorch/ONNX）
模型压缩技术剪枝原理
06
模型压缩技术（二）
量化基础（PTQ/QAT） · 混合精度量化 · 量化感知训练
模型压缩技术PTQ/QAT
07
模型压缩技术（三）
知识蒸馏 · 低秩分解 · 权重共享
模型压缩技术知识蒸馏
08
模型转换与中间表示
ONNX · TensorRT · TFLite
模型转换间表示
09
推理引擎与运行时
TensorRT · OpenVINO · ONNX Runtime
推理引擎运行时
10
边缘推理优化基础
推理延迟 · 吞吐量 · 内存占用
边缘推理优化基础推理延迟
11
算子融合与图优化
图优化技术 · 算子融合策略 · 常量折叠
算子融合图优化
12
内存优化与数据布局
内存池管理 · 张量布局（NHWC/NCHW） · 零拷贝
内存优化数据布局
13
多线程与异步推理
并行推理 · 流水线设计 · 异步API使用
多线程异步推理
14
模型部署实战（一）
基于TensorRT的YOLOv5部… · 包括模型转换 · 动态shape
模型部署实战TensorRT
15
模型部署实战（二）
基于OpenVINO的ResNet/… · 涵盖模型优化 · 推理调优与多设备执行
模型部署实战OpenVINO
16
模型部署实战（三）
基于TFLite/Android的移… · 包括模型量化 · NNAPI加速
模型部署实战TFLite/Andro…
17
边缘AI框架与工具链
EdgeX Foundry · KubeEdge · AWS IoT Greengrass
AI边缘
18
边缘推理服务化
模型服务化部署（TensorFlow… · TorchServe） · REST/gRPC接口
边缘推理服务化TensorFlow
19
模型安全与隐私保护
模型加密 · 混淆 · 差分隐私
模型安全隐私保护
20
边缘AI典型应用案例
智能安防 · 工业质检 · 智慧零售
AI边缘
21
性能调优方法论
瓶颈分析 · 性能剖析 · 调优策略（计算
性能调优方法论瓶颈分析
22
模型更新与热部署
边缘场景下的模型热更新 · 版本管理 · A/B测试
模型更新热部署
23
边缘AI与云边协同
云端训练 · 边缘推理的协同架构 · 模型分发
AI边缘
24
低功耗与实时性优化
功耗管理 · 动态电压频率调整 · 实时操作系统（RTOS）下的推理优化
低功耗实时性优化
25
多模型管理与调度
多模型共享资源 · 模型流水线 · 优先级调度
多模型管理调度
26
边缘AI测试与验证
功能测试 · 性能测试 · 鲁棒性测试
AI边缘
27
常见问题与解决方案
部署中遇到的算子不支持 · 精度下降 · 内存溢出
常见问题解决方案
28
综合实战项目（一）
从零构建一个边缘AI目标检测系统 · 涵盖模型训练 · 压缩
综合实战项目AI
29
综合实战项目（二）
基于边缘AI的语音识别或NLP应用部… · 包括模型优化 · 流式推理
综合实战项目AI
30
课程总结与进阶方向
知识体系回顾 · 前沿技术（如Transformer在… · 神经架构搜索）
课程总结进阶方向