VIP20
本课程属于：006-ONNX Runtime端侧推理部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX Runtime端侧部署：低延迟关键词识别项目实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
关键词识别基础
语音信号处理基础 · MFCC特征提取 · 关键词识别模型架构（如TCN
关键词识别基础语音信号处理基础
03
端侧部署概述
端侧AI部署的挑战（算力 · 内存 · 功耗）
端侧部署概述AI
04
ONNX Runtime核心概念
ONNX格式 · ONNX Runtime架构 · Execution Provider…
ONNXRuntime
05
环境搭建
安装ONNX Runtime · Python与C++环境配置 · 端侧设备（如树莓派
环境搭建ONNX
06
模型训练与导出
使用PyTorch/TensorFl… · 转换为ONNX格式的流程与注意事项
模型训练导出
07
ONNX模型优化
模型量化（动态/静态/混合） · 图优化 · 算子融合
ONNX模型优化
08
ONNX Runtime API详解
SessionOptions · RunOptions · 输入输出绑定
ONNXRuntime
09
端侧推理性能调优
延迟优化策略（批处理 · 缓存 · 异步）
端侧推理性能调优延迟优化策略
10
关键词识别模型部署实战
将训练好的模型部署到树莓派 · 实现实时关键词检测
关键词识别模型部…将训练好的模型部…
11
Android端部署实战
使用ONNX Runtime And… · 处理音频流与实时推理
Android端部署实战
12
iOS端部署实战
使用ONNX Runtime Cor… · 实现低延迟关键词识别
iOS端部署实战
13
嵌入式设备部署实战
在Jetson Nano或RK339… · 利用TensorRT或RKNN加速
嵌入式设备部署实…Jetson
14
音频流处理与端点检测
VAD（语音活动检测）实现 · 音频分帧 · 滑动窗口与推理触发机制
音频流处理端点检测
15
低延迟优化进阶
模型并行 · 流水线 · 预热
低延迟优化进阶模型并行
16
多关键词识别
多标签分类 · 自定义唤醒词 · 模型输出后处理与置信度阈值调优
多关键词识别多标签分类
17
鲁棒性提升
噪声环境下的数据增强 · 模型抗噪训练 · 端侧实时噪声抑制
鲁棒性提升噪声环境下的数据…
18
模型压缩与加速
知识蒸馏 · 轻量级网络设计（如MobileNet · SqueezeNet）在关键词识别中…
模型压缩加速
19
ONNX Runtime自定义算子
当模型包含自定义操作时 · 如何编写自定义算子并集成到端侧
ONNXRuntime
20
端侧推理错误排查
常见错误（输入维度不匹配 · 算子不支持 · 精度下降）的诊断与解决
端侧推理错误排查常见错误
21
性能测试与基准
延迟 · 吞吐量 · 内存占用
性能测试基准
22
端侧部署安全与隐私
模型加密 · 防篡改 · 本地推理与隐私保护
端侧部署安全隐私
23
案例实战
智能音箱唤醒词“小爱同学”端侧部署全…
案例实战智能音箱唤醒词“…
24
案例实战
车载语音助手关键词识别 · 处理远场与多麦克风阵列
案例实战车载语音助手关键…
25
案例实战
低功耗可穿戴设备上的关键词唤醒 · 使用MCU级部署
案例实战低功耗可穿戴设备…
26
综合项目
从零构建一个完整的端侧关键词识别系统 · 包括数据采集 · 训练
综合项目从零构建一个完整…
27
常见问题与解决方案
模型转换失败 · 推理速度慢 · 内存溢出
常见问题解决方案
28
进阶技巧
动态量化与感知量化对比 · 混合精度推理 · 算子替换优化
进阶技巧动态量化
29
未来趋势与扩展
端侧学习 · 联邦学习 · Transformer在关键词识别中…
未来趋势扩展
30
课程总结与项目答辩
回顾核心知识点 · 项目复盘 · 常见面试题与职业发展建议
课程总结项目答辩