首页
›
工业控制与工业互联网
›
012-TinyML低功耗推理调度
›
《sleep mode唤醒延迟与推理调度平衡实战指南》
VIP20
本课程属于:012-TinyML低功耗推理调度
工业控制与工业互联网 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
sleep mode唤醒延迟与推理调度平衡实战指南
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入
学习目标
02
sleep mode基础
定义 · 分类(浅睡/深睡) · 典型应用场景(移动端
sleep
mode
03
唤醒延迟剖析
唤醒延迟的组成(硬件唤醒 · 驱动恢复 · 系统调度
唤醒延迟剖析
唤醒延迟的组成
04
推理调度基础
推理任务特性(延迟敏感 · 批量处理 · 实时性)
推理调度基础
推理任务特性
05
平衡问题定义
为什么需要平衡唤醒延迟与推理调度?性… · 吞吐 · 能耗)权衡
平衡问题定义
为什么需要平衡唤…
06
硬件与平台特性
不同硬件(CPU · GPU · NPU
硬件
平台特性
07
操作系统与内核支持
Linux/RTOS中的电源管理框架… · suspend/resume · runtime PM)
操作系统
内核支持
08
推理框架与调度接口
TensorFlow Lite · ONNX Runtime · PyTorch Mobile等框架的…
推理框架
调度接口
09
延迟敏感型推理场景
实时推理(语音助手 · 自动驾驶)对唤醒延迟的约束与调度设计
延迟敏感型推理场…
实时推理
10
批量推理场景
离线批处理如何利用sleep mod… · 同时控制唤醒频率
批量推理场景
sleep
11
动态电压频率调整(DVFS)与sleep mode
DVFS对唤醒延迟的影响及协同策略
DVFS
sleep
12
预测性唤醒
基于历史负载和推理队列预测唤醒时机 · 减少无效唤醒
预测性唤醒
基于历史负载
13
调度器优化
设计混合调度器(事件驱动+时间片)以…
调度器优化
设计混合调度器
14
队列管理策略
推理任务排队 · 优先级 · 批处理窗口与唤醒延迟的折中
队列管理策略
推理任务排队
15
能耗模型与延迟模型
建立数学模型量化唤醒延迟与能耗 · 推理性能的关系
能耗模型
延迟模型
16
案例分析
移动端语音助手唤醒延迟优化实战(从硬…
案例分析
移动端语音助手唤…
17
案例分析
嵌入式视觉推理的sleep mode…
案例分析
sleep
18
案例分析
数据中心推理服务的节能调度(如GPU…
案例分析
GPU
19
工具与性能分析
使用perf · powertop · tracing等工具分析唤醒延迟与调…
工具
性能分析
20
基准测试方法
设计基准测试集评估不同平衡策略的效果
基准测试方法
设计基准测试集评…
21
常见问题与陷阱
过度休眠导致延迟飙升 · 频繁唤醒导致能耗增加 · 调度抖动等
常见问题
陷阱
22
调优方法论
系统化调优流程(测量-建模-优化-验… · 参数调整技巧
调优方法论
系统化调优流程
23
自适应策略
基于运行时负载动态调整sleep m…
自适应策略
sleep
24
多核与异构计算
多核处理器中不同核的sleep mo… · 异构调度(如大小核)
多核
异构计算
25
实时操作系统(RTOS)中的平衡
RTOS调度与电源管理集成 · 硬实时约束
RTOS
实时操作系统
26
云边协同
边缘设备与云端推理的sleep mo… · 网络唤醒延迟
云边协同
sleep
27
安全与可靠性
sleep mode切换对推理任务的… · 故障恢复与容错设计
安全
可靠性
28
前沿技术
低功耗推理芯片 · 近内存计算 · 事件驱动推理等对平衡的影响
前沿技术
低功耗推理芯片
29
综合实战项目
设计一个完整的sleep mode唤…
综合实战项目
sleep
30
课程总结与进阶路径
核心要点回顾 · 常见误区 · 推荐资源与未来研究方向
课程总结
进阶路径
所属VIP或分类
同VIP:DVFS调频调压的TinyML推理任务功耗优化实战
同VIP:DVFS调频调压降低TinyML推理功耗实操教程
同VIP:mA-budget约束下模型量化与推理调度实战