VIP20
本课程属于：012-TinyML低功耗推理调度 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

端侧推理中sleep mode与任务调度的功耗优化案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入学习目标
02
端侧推理基础
端侧AI推理的典型场景 · 硬件平台（CPU/GPU/NPU）与…
端侧推理基础AI
03
功耗基础与测量
功耗模型 · 动态功耗与静态功耗 · 功耗测量工具与方法
功耗基础测量
04
Sleep Mode原理
睡眠模式分类（WFI · WFI+ · 深度睡眠等）
SleepMode
05
任务调度基础
实时调度 · 周期调度 · 事件驱动调度
任务调度基础实时调度
06
功耗优化策略概览
DVFS · 任务聚合 · 睡眠插入
功耗优化策略概览DVFS
07
案例背景与目标
一个具体的端侧推理任务（如目标检测）…
案例背景目标
08
系统建模与功耗分析
建立任务执行时间 · 功耗 · 睡眠状态之间的数学模型
系统建模功耗分析
09
任务调度与睡眠模式结合
如何在任务间隙插入睡眠 · 如何选择睡眠深度
任务调度睡眠模式结合
10
预测性调度
基于历史数据预测任务到达时间 · 动态调整睡眠策略
预测性调度基于历史数据预测…
11
动态电压频率调节（DVFS）
在推理任务中调节CPU/GPU频率以…
DVFS动态电压频率调节
12
任务聚合与批处理
将多个小推理任务合并为一次执行 · 减少唤醒次数
任务聚合批处理
13
睡眠状态选择算法
根据延迟容忍度和功耗收益选择最佳睡眠…
睡眠状态选择算法根据延迟容忍度
14
实时性约束下的调度
保证推理任务截止时间的同时最大化睡眠…
实时性约束下的调…保证推理任务截止…
15
案例实战
使用仿真工具（如Gem5 · QEMU）搭建端侧推理功耗仿真环境
案例实战Gem5
16
案例实战
实现一个简单的睡眠调度器 · 并测量功耗变化
案例实战实现一个简单的睡…
17
案例实战
在真实硬件（如树莓派 · Jetson Nano）上运行推理任…
案例实战真实硬件
18
功耗优化效果评估
对比不同策略的功耗 · 延迟 · 吞吐量指标
功耗优化效果评估对比不同策略的功…
19
常见问题与陷阱
睡眠过深导致唤醒延迟 · 调度抖动 · 功耗测量误差等
常见问题陷阱
20
调试与性能分析
使用perf · powertop等工具定位功耗瓶颈
调试性能分析
21
操作系统支持
Linux内核的cpuidle框架 · 调度器与功耗管理接口
操作系统支持Linux
22
框架级优化
TensorFlow Lite · PyTorch Mobile等推理框…
框架级优化TensorFlow
23
多核与异构调度
在大小核架构上分配任务 · 结合睡眠模式优化
多核异构调度
24
与云侧协同
端侧功耗优化与云侧卸载的权衡
云侧协同端侧功耗优化
25
高级主题
强化学习在睡眠调度中的应用 · 自适应策略
高级主题强化学习
26
综合案例
设计一个完整的端侧推理功耗优化系统 · 从需求到实现
综合案例设计一个完整的端…
27
课程项目
分组完成一个功耗优化任务 · 提交报告与代码
课程项目分组完成一个功耗…
28
考试与测评
理论测试与实操考核 · 检验学习成果
考试测评
29
总结与展望
回顾关键知识点 · 探讨未来趋势（如存内计算 · 超低功耗芯片）
回顾关键知识点探讨未来趋势
30
附加资源
推荐书籍 · 论文 · 开源工具与社区
附加资源推荐书籍