VIP20
本课程属于：017-NXP eIQ边缘AI部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

基于NXP eIQ的实时推理延迟调优实战讲义

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 目标学员 · 课程结构
课程导入学习目标
02
NXP eIQ基础
eIQ工具箱组成 · 推理引擎（TFLite · Glow
NXPeIQ
03
实时推理延迟概念
延迟定义 · 端到端延迟与单次推理延迟 · 影响延迟的关键因素（模型
实时推理延迟概念延迟定义
04
硬件加速原理
i.MX RT系列 · NPU/GPU/DSP/CPU异构计… · eIQ对硬件加速的抽象与调度
硬件加速原理i.MX
05
模型优化基础
量化（INT8/FP16） · 剪枝 · 知识蒸馏
模型优化基础INT8/FP16
06
eIQ模型转换实战
使用eIQ Toolkit转换模型（… · 配置量化参数
eIQ模型转换实战
07
推理引擎选择与配置
TFLite Runtime · Glow · DeepViewRT的延迟特性对比
推理引擎选择配置
08
基准测试方法
使用eIQ Benchmark工具 · 自定义计时脚本 · 统计延迟分布（P50/P95/P99…
基准测试方法eIQ
09
延迟剖析工具
使用profiler定位瓶颈（算子级 · 内存拷贝 · 数据预处理
延迟剖析工具profiler
10
算子优化策略
常见算子（卷积 · 全连接 · 激活）的优化技巧
算子优化策略常见算子
11
内存优化与延迟
内存分配策略 · 缓冲区复用 · DMA传输优化
内存优化延迟
12
多线程与异步推理
线程池配置 · 异步推理流水线 · 多核并行与负载均衡
多线程异步推理
13
数据流水线优化
图像预处理（缩放 · 归一化）加速 · 使用OpenCV或VGLite
数据流水线优化图像预处理
14
实时操作系统集成
FreeRTOS下eIQ推理任务调度 · 中断与优先级设计 · 延迟抖动控制
实时操作系统集成FreeRTOS
15
案例实战一
图像分类模型（MobileNetV2…
案例实战一MobileNetV2
16
案例实战二
目标检测模型（SSD/ YOLO）的… · 包括NMS后处理优化
案例实战二SSD
17
案例实战三
语音唤醒词识别（KWS）模型延迟调优 · 处理音频流式输入
案例实战三KWS
18
案例实战四
异常检测模型（Autoencoder…
案例实战四Autoencoder
19
多模型协同推理
多模型串行/并行调度 · 模型间数据传递优化 · 共享内存
多模型协同推理多模型串行
20
延迟与功耗权衡
动态电压频率调整（DVFS） · 低功耗模式下的延迟控制 · 性能-功耗平衡
延迟功耗权衡
21
常见延迟问题诊断
模型加载慢 · 首次推理延迟高 · 周期性卡顿
常见延迟问题诊断模型加载慢
22
延迟调优方法论
建立基准 · 识别瓶颈 · 迭代优化
延迟调优方法论建立基准
23
eIQ高级特性
使用eIQ AutoML自动搜索高效… · 硬件感知的模型搜索
eIQ高级特性
24
自定义算子开发
使用eIQ SDK编写自定义算子（C… · 集成到推理引擎中
自定义算子开发eIQ
25
模型部署与OTA更新
模型打包 · 加密 · 远程更新对延迟的影响与优化
OTA模型部署
26
边缘端实时推理架构设计
边缘-云协同 · 本地缓存 · 模型分片与延迟优化
边缘端实时推理架…边缘
27
性能对比与选型
不同NXP平台（i.MX 8M Pl… · i.MX RT系列）的延迟性能对比与…
性能对比选型
28
实战项目
从需求分析到延迟调优的完整项目演练（…
实战项目从需求分析到延迟…
29
常见误区与最佳实践
避免过度优化 · 保持代码可维护性 · 文档化调优过程
常见误区最佳实践
30
课程总结与进阶路径
回顾核心知识点 · 推荐学习资源 · 未来趋势（Transformer
课程总结进阶路径