VIP6

本课程属于：158-边缘AI芯片性能与功耗优化 AI智能与边缘计算工程 · 共 6 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

边缘AI芯片性能基准测试与调优实战

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

边缘AI芯片的定义 · 发展背景 · 性能挑战

边缘AI芯片基础

主流芯片架构（GPU · NPU · FPGA

性能基准测试概述

基准测试的目的 · 类型（微基准 · 应用基准）

性能基准测试概述基准测试的目的

测试环境搭建

硬件平台选择 · 操作系统与驱动配置 · 交叉编译工具链

测试环境搭建硬件平台选择

模型准备与转换

常见模型格式（ONNX · TFLite · Caffe）转换流程

模型准备转换

推理引擎选择

TensorRT · OpenVINO · ONNX Runtime

推理引擎选择TensorRT

基准测试方法论

测试用例设计 · 输入数据准备 · 预热与迭代次数

基准测试方法论测试用例设计

性能指标测量

吞吐量（FPS） · 延迟（单次推理时间） · 功耗（瓦特）

性能指标测量FPS

内存与带宽分析

内存占用 · 带宽利用率 · 缓存命中率对推理性能的影响

内存带宽分析

CPU与GPU/NPU协同

异构计算架构下的任务调度 · 数据拷贝优化 · 异步执行与流水线设计

模型优化技术

剪枝 · 蒸馏 · 量化感知训练

模型优化技术剪枝

算子级优化

常见算子（卷积 · 全连接 · 激活）的优化策略

算子级优化常见算子

图优化与编译

计算图优化（常量折叠 · 算子融合 · 内存复用）

图优化编译

内存布局与数据格式

NHWC · NCHW · NC1HW2等数据格式对性能的影响

内存布局数据格式

多线程与并行优化

多核CPU并行 · GPU/NPU多流并发 · 线程池与任务队列设计

多线程并行优化

功耗与散热调优

动态电压频率调整（DVFS） · 功耗限制 · 散热策略对性能稳定性的影响

功耗散热调优

端到端性能分析

从图像采集 · 预处理 · 推理到后处理的完整流水线性能瓶颈定位…

端到端性能分析从图像采集

基于树莓派+Google Coral…

实战案例1Google

基于Jetson Nano/NX的Y…

实战案例2Jetson

基于RK3588的NPU平台 · 使用RKNN-Toolkit进行模型…

实战案例3RK3588

基于Intel Movidius/O…

实战案例4Intel

基准测试自动化

编写自动化测试脚本 · 批量运行测试 · 生成报告

基准测试自动化编写自动化测试脚…

性能调优工具链

使用TensorBoard · NVIDIA Nsight · Intel VTune

性能调优工具链TensorBoard

常见性能瓶颈与解决方案

内存拷贝 · 算子低效 · 模型冗余

常见性能瓶颈解决方案

多模型与多任务场景

多模型并发推理 · 动态batch · 模型切换开销优化

多模型多任务场景

边缘场景下的性能权衡

精度与速度 · 功耗与性能 · 成本与性能的权衡策略

边缘场景下的性能…精度

性能基准测试的标准化与可复现性

如何设计可复现的测试流程 · 避免常见陷阱（如温度 · 频率波动）

性能基准测试的标…可复现性

前沿技术趋势

神经架构搜索（NAS） · 自适应推理 · 动态网络

前沿技术趋势NAS

综合实战项目

从需求分析 · 芯片选型 · 模型优化

综合实战项目从需求分析

课程总结与进阶路径

回顾核心知识点 · 推荐学习资源 · 探讨边缘AI性能优化的未来方向

课程总结进阶路径