VIP8
本课程属于：129-算能BM1688边缘AI盒子部署 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

10. BM1688推理性能优化：Batch、线程、内存和视频解码协同

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
BM1688芯片架构概览 · 推理性能优化的核心目标 · 课程学习路径与实战环境准备
课程导入BM1688
02
性能优化基础
理解推理延迟 · 吞吐量 · CPU占用率
性能优化基础理解推理延迟
03
Batch维度优化
Batch Size对推理性能的影响 · 动态Batch与静态Batch的选择… · Batch合并与拆分技巧
Batch维度优化
04
线程模型与并发
BM1688多核CPU与NPU协同原… · 线程池设计 · 任务并行与数据并行策略
线程模型并发
05
线程同步与负载均衡
锁竞争 · 原子操作 · 条件变量在推理流水线中的使用
线程同步负载均衡
06
内存管理基础
BM1688内存层次结构（DDR · SRAM · NPU本地内存）
内存管理基础BM1688
07
内存复用与池化
内存池设计 · 张量内存复用 · 减少内存碎片和拷贝开销的实战方法
内存复用池化
08
零拷贝与数据布局
输入输出零拷贝技术 · NHWC与NCHW布局对性能的影响 · 对齐与填充优化
零拷贝数据布局
09
视频解码基础
BM1688视频解码单元（VPU）能… · 常见视频格式（H.264/H.265…
视频解码基础BM1688
10
视频解码与推理流水线
解码帧队列设计 · 解码与推理的异步流水线 · 帧丢弃与延迟控制策略
视频解码推理流水线
11
多路视频并发处理
多路RTSP流接入 · 每路独立线程与共享线程池的权衡 · 资源分配策略
多路视频并发处理RTSP
12
Batch与视频解码协同
将多路视频帧组成Batch进行推理 · 动态Batch与多路解码的配合 · 时序对齐问题
Batch视频解码协同
13
线程与解码协同
解码线程 · 预处理线程 · 推理线程
线程解码协同
14
内存与解码协同
解码帧内存管理 · 环形缓冲区设计 · 防止内存溢出和帧堆积
内存解码协同
15
性能分析工具
使用perf · vtune · bmprofile等工具定位CPU
性能分析工具perf
16
性能瓶颈定位方法
从系统级到模块级的逐层分析 · 常见瓶颈特征（CPU满载 · 内存带宽饱和
性能瓶颈定位方法从系统级到模块级…
17
预处理优化
图像缩放 · 颜色空间转换 · 归一化等操作的硬件加速与SIMD优化
预处理优化图像缩放
18
后处理优化
NMS · 阈值过滤等后处理算法的并行化与低延迟…
后处理优化NMS
19
模型优化与量化
INT8量化对BM1688推理性能的… · 量化精度损失评估与混合精度策略
模型优化量化
20
多模型协同
多个模型串行或并行推理时的调度策略 · 模型切换开销优化
多模型协同多个模型串行或并…
21
端到端案例实战（一）
单路视频流目标检测场景的完整优化流程 · 从基线到优化后的性能对比
端到端案例实战单路视频流目标检…
22
端到端案例实战（二）
多路视频流（如8路）实时分析场景的B… · 线程 · 内存协同优化实战
端到端案例实战多路视频流
23
端到端案例实战（三）
高分辨率视频解码与推理的瓶颈突破 · 结合内存和线程调优
端到端案例实战高分辨率视频解码
24
常见问题与解决方案
解码丢帧 · 推理队列溢出 · 内存泄漏
常见问题解决方案
25
性能调优方法论
建立性能基线 · 迭代优化循环 · 回归测试与稳定性保障
性能调优方法论建立性能基线
26
高级话题
多卡或多芯片扩展 · 分布式推理与BM1688集群的协同优…
高级话题多卡或多芯片扩展
27
功耗与散热优化
在性能优化同时控制功耗 · 动态调频调压（DVFS）与性能的平衡
功耗散热优化
28
安全与可靠性
长时间运行下的内存碎片整理 · 异常恢复 · 看门狗机制
安全可靠性
29
综合项目实战
设计一个完整的智能视频分析系统（如智… · 综合运用Batch · 线程
综合项目实战设计一个完整的智…
30
课程总结与进阶路径
回顾核心知识点 · 常见误区 · 推荐学习资源与后续进阶方向
课程总结进阶路径