01
NPU与AI芯片概述
NPU是什么?为什么需要NPU?NPU与CPU、GPU的区别。
基础概念
02
算子与计算图基础
什么是算子?计算图的概念、前向传播与反向传播。
计算图核心
03
NPU硬件架构入门
NPU的核心组件(MAC阵列、Buffer、控制器)、数据流架构。
硬件MAC
04
算子映射的本质
从数学公式到硬件指令的转换过程、映射的挑战。
映射方法论
05
开发环境搭建
NPU SDK安装、交叉编译工具链、模拟器与真实芯片。
环境SDK
06
第一个算子映射
向量加法算子(VecAdd)的完整映射流程。
实战入门
07
数据布局与内存管理
NHWC与NCHW格式、内存对齐、DDR与SRAM管理。
内存布局
08
标量算子映射
ReLU激活函数的映射实现。
激活标量
09
逐元素算子映射
Sigmoid、Tanh的映射与近似计算。
逐元素近似
10
归约算子映射
Sum、Max、Min算子的硬件实现。
归约聚合
11
矩阵乘法算子映射(上)
基础矩阵乘的映射、分块策略。
MatMul分块
12
矩阵乘法算子映射(下)
Im2Col优化、Winograd算法。
优化Winograd
13
卷积算子映射(上)
直接卷积映射、滑动窗口实现。
卷积滑动窗口
14
卷积算子映射(下)
Implicit GEMM(隐式通用矩阵乘法)映射。
ImplicitGEMM高效
15
池化算子映射
MaxPooling、AveragePooling的硬件实现。
池化下采样
16
归一化算子映射
BatchNorm、LayerNorm的融合与映射。
归一化融合
17
激活函数算子映射
GELU、Swish/SiLU的映射技巧。
激活GELU
18
Softmax算子映射
数值稳定性、硬件友好的实现方式。
Softmax稳定
19
Reshape与Transpose算子映射
数据重排的零拷贝技巧。
重排零拷贝
20
拼接与切片算子映射
Concat、Split的内存优化。
拼接切片
21
广播机制映射
Broadcast算子的硬件实现。
广播扩展
22
注意力机制算子映射(上)
QKV投影的矩阵乘映射。
注意力QKV
23
注意力机制算子映射(下)
Softmax与Score计算的融合映射。
融合Score
24
LayerNorm与残差连接映射
融合算子的实现。
残差LayerNorm
25
量化算子映射
INT8量化、对称/非对称量化的硬件实现。
量化INT8
26
算子融合策略
算子融合的原理、常见融合模式(Conv+BN+ReLU)。
融合优化
27
性能分析与调优
Profiling工具使用、带宽与计算瓶颈分析。
调优Profiling
28
调试与验证
精度对比、数值误差分析、硬件仿真调试。
调试验证
29
自定义算子开发
TBE(Tensor Boost Engine)算子开发流程。
TBE自定义
30
综合实战
从PyTorch模型到NPU部署的完整算子映射流程。
实战部署