VIP8

本课程属于：029-AI芯片与NPU存算架构 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NPU算子映射与性能调优实战

📚 共计 30 章节

NPU基础认知

什么是NPU、NPU与GPU/CPU的区别、脉动阵列与数据流架构

算子概念精讲

算子定义、卷积/池化/全连接/激活函数分类与角色

基础神经网络

算子映射原理

框架算子→NPU指令映射、注册机制、适配层

NPU编程模型

主机/设备端编程、Kernel Launch、同步与异步执行

编程执行模型

张量基础与数据布局

张量形状/步长、NHWC/NCHW、数据对齐要求

数据格式内存

内存层次与带宽

SRAM/Scratchpad、DDR/HBM、带宽瓶颈分析

数据搬运与DMA

DMA原理、双缓冲、数据预取策略

卷积算子映射（上）

标准卷积、im2col、Winograd在NPU上的映射

卷积算子映射（下）

分组卷积、深度可分离、转置卷积映射策略

卷积变体挑战

池化与归一化算子映射

最大/平均池化、BatchNorm、LayerNorm NPU实现

池化归一化

激活函数算子映射

ReLU/Sigmoid/Tanh/GELU近似计算与查表法

全连接与矩阵乘算子映射

分块策略、Tiling、共享内存优化

矩阵乘tiling

Element-wise算子映射

逐元素加/乘、广播机制、向量化实现

逐元素向量化

Reduce算子映射

求和/均值/Softmax并行归约与数值稳定性

算子融合技术

融合原理、Conv+BN+ReLU模式、带宽节省

性能调优方法论

性能分析金字塔、Roofline模型详解

方法论Roofline

Profiling工具使用

NPU Profiler安装、热点识别、时间线分析

计算瓶颈优化

指令级并行、向量化、流水线、减少依赖

访存瓶颈优化

数据复用、Cache命中、Bank Conflict、合并访问

算子手工调优实战（一）

手写高效ReLU：从朴素到向量化

算子手工调优实战（二）

手写矩阵乘：Tiling + Shared Memory

实战矩阵乘

算子手工调优实战（三）

手写卷积：im2col+GEMM策略

自动调优技术

Auto-Tuning、TVM/Ansor、代价模型

自动调优TVM

混合精度训练

FP16/BF16/INT8、量化感知、NPU低精度支持

混合精度量化

算子库的使用

cuDNN/MIOpen/OneDNN对标库、调用与封装

算子库封装

图优化与计算图调度

常量折叠、死代码消除、算子调度顺序优化

图优化调度

多核并行与通信

NPU多核架构、核间同步、数据分片All-Reduce

端到端模型部署调优

PyTorch/TensorFlow→NPU全流程调优案例

常见性能陷阱与避坑指南

内存泄漏、同步开销、启动延迟、负载不均

综合实战：ResNet-50推理优化

从Profiling到手工调优的完整过程

综合ResNet-50