VIP20

本课程属于：033-Edge AI RKNN模型转换 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

从TinyML到RKNN的端侧部署全流程指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 端侧AI部署的行业背景与价值

课程导入学习目标

TinyML的定义 · 核心特点 · 典型应用场景（如关键词唤醒

TinyML的定义

端侧部署硬件选型

常见MCU · MPU · NPU平台对比

端侧部署硬件选型MCU

开发环境搭建

安装RKNN-Toolkit2 · 交叉编译工具链 · Python虚拟环境

开发环境搭建RKNN-Toolkit…

模型训练与量化基础

神经网络模型训练流程 · 量化（PTQ/QAT）原理 · 以及INT8量化对模型精度和速度的影…

模型训练量化基础

模型转换入门

使用ONNX导出模型 · 通过RKNN-Toolkit2将Py…

模型转换入门ONNX

RKNN-Toolkit2详解

工具包的主要功能（模型转换 · 量化 · 推理

RKNN-Toolkit…工具包的主要功能

模型优化与剪枝

模型压缩技术（剪枝 · 蒸馏 · 低秩分解）

模型优化剪枝

RKNN模型部署流程

从RKNN文件生成到板端加载 · 推理 · 后处理的完整流程

RKNN模型部署流程

板端推理API使用

RKNN Runtime C/Pyt… · 输入输出张量处理 · 以及多线程推理的实现

API板端推理

图像分类实战

以MobileNetV2为例 · 完成从PyTorch训练到RKNN部… · 包括图像预处理和后处理

图像分类实战MobileNetV2

目标检测实战

以YOLOv5/YOLOv8为例 · 讲解Anchor解码 · NMS等后处理在端侧的实现与优化

目标检测实战YOLOv5/YOLOv…

语义分割实战

以UNet或DeepLabV3为例 · 实现分割模型的RKNN部署 · 并处理输出概率图到类别图的转换

语义分割实战UNet

语音识别实战

以唤醒词检测或简单命令词识别为例 · 展示音频特征提取（MFCC）与RNN…

语音识别实战以唤醒词检测或简…

异常检测实战

基于自编码器或One-Class S… · 实现工业异常检测的端侧部署 · 并讨论实时性优化

异常检测实战One-Class

模型性能调优

使用RKNN性能分析工具定位瓶颈 · 优化算子 · 内存访问和并行度

模型性能调优RKNN

精度损失排查

量化后精度下降的常见原因（如激活值分… · 校准集选择） · 以及混合精度和敏感层保护策略

精度损失排查量化后精度下降的…

多模型协同部署

在单板部署多个模型（如检测+跟踪） · 实现流水线并行和资源共享 · 提高整体效率

多模型协同部署单板部署多个模型

RKNN与NPU硬件加速

理解RKNN NPU架构（如卷积 · 池化 · 全连接算子映射）

端侧推理框架对比

对比TFLite Micro · TensorRT · ONNX Runtime

端侧推理框架对比TFLite

模型部署中的内存优化

内存池管理 · 张量复用 · 零拷贝技术

模型部署内存优化

模型加密与安全

RKNN模型加密方法（如AES加密） · 防止模型被提取 · 以及安全启动和可信执行环境

模型加密安全

常见问题与调试技巧

RKNN转换失败 · 推理结果错误 · 性能不达标等问题的排查思路和日志分析…

常见问题调试技巧

智能门锁人脸识别：从数据集准备 · 模型训练 · RKNN部署到活体检测的完整项目开发

实战项目智能门锁人脸识别

工业质检缺陷检测 · 实现高速高精度缺陷检测的端侧部署

实战项目工业质检缺陷检测

智能语音助手：实现离线语音命令识别 · 唤醒和简单对话 · 集成到RKNN平台

实战项目智能语音助手

边缘视频分析：结合摄像头输入 · 实现实时视频流处理（如人流统计 · 车牌识别）

实战项目边缘视频分析

端侧AI产品化：从需求分析 · 模型选型 · 部署优化到产品测试和迭代的完整流程

前沿趋势与扩展

TinyML与边缘AI的最新进展（如… · 联邦学习） · 以及RKNN未来版本和新芯片特性

前沿趋势扩展

课程总结与进阶路径

回顾全流程关键点 · 推荐学习资源 · 社区和工具

课程总结进阶路径