VIP20

本课程属于：017-NXP eIQ边缘AI部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NXP eIQ推理后端选择与性能对比教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

了解NXP eIQ机器学习平台的整体… · 学习目标 · 适用硬件（i.MX RT

课程导入NXP

eIQ基础概念

掌握eIQ Toolkit · eIQ Inference · eIQ Portal

eIQ基础概念

推理后端全景

梳理eIQ支持的推理后端（如Tens… · Glow · ONNX Runtime

推理后端全景eIQ

硬件加速器基础

理解NPU · GPU · DSP

硬件加速器基础NPU

在NXP开发板上安装eIQ SDK · 配置交叉编译环境 · 验证示例程序

环境搭建NXP

模型转换与量化

使用eIQ Portal或命令行工具… · 并应用INT8量化

模型转换量化

TensorFlow Lite后端详解

深入TFLite在eIQ中的集成方式 · 算子支持 · 委托（Delegate）机制（如Et…

Glow后端详解

了解Glow编译器如何将模型编译为针… · 以及其静态图优化特性

Glow后端详解

ONNX Runtime后端详解

掌握ONNX Runtime在eIQ… · 执行提供程序（Execution P… · 以及CPU/GPU/NPU加速

DeepViewRT后端详解

学习DeepViewRT的轻量级推理… · 模型格式（.rtm）以及实时性能调优

DeepViewRT后端详解

Arm NN后端详解

理解Arm NN在NXP平台上的支持 · 通过Compute Library加…

后端选择决策框架

建立选择推理后端的评估维度（性能 · 精度 · 内存

后端选择决策框架建立选择推理后端…

性能基准测试方法

学习使用eIQ Benchmark工… · 自定义测试脚本 · 测量延迟

性能基准测试方法eIQ

精度对比实验

在相同模型和数据集下 · 对比不同后端的推理精度差异 · 分析量化误差来源

精度对比实验相同模型

内存占用分析

使用工具（如valgrind · eIQ Profiler）测量各后端… · 并优化策略

内存占用分析valgrind

功耗与能效对比

在电池供电场景下 · 测量不同后端的功耗曲线 · 计算每瓦性能（TOPS/W）

功耗能效对比

图像分类实战

以MobileNetV2为例 · 在i.MX 8M Plus上分别用T… · Glow

图像分类实战MobileNetV2

目标检测实战

使用YOLOv5或SSD模型 · 在eIQ中配置不同后端 · 评估mAP和FPS

目标检测实战YOLOv5

语音识别实战

部署语音唤醒词模型（如DS-CNN） · 对比DeepViewRT与TFLit…

语音识别实战DS-CNN

多后端混合推理

在复杂应用中 · 将模型分割为多个子图 · 分别使用不同后端（如NPU+CPU）…

多后端混合推理复杂应用

常见问题排查

解决模型转换失败 · 算子不支持 · 内存溢出

常见问题排查解决模型转换失败

性能调优进阶

利用缓存 · 内存池 · 多线程

性能调优进阶利用缓存

eIQ Neutron NPU专项

深入NXP eIQ Neutron… · 使用其专用后端（如Ethos-U）进…

边缘部署与集成

将选定的推理后端集成到实际产品代码中 · 处理输入输出预处理 · 后处理及流水线设计

边缘部署集成

智能家居设备：从需求分析到后端选型 · 实现人脸识别门锁 · 对比TFLite与Glow的功耗和响…

案例研究智能家居设备

工业缺陷检测 · 比较ONNX Runtime与Arm…

案例研究工业缺陷检测

车载语音助手 · 优化实时性

案例研究车载语音助手

构建一个多模型推理系统（如智能摄像头… · 要求自动选择最优后端 · 并输出性能报告

综合项目构建一个多模型推…

课程总结与知识图谱

回顾所有后端特性 · 对比结果 · 选型方法论

课程总结知识图谱

进阶学习路径

推荐官方文档 · 社区资源 · 硬件手册

进阶学习路径推荐官方文档