01
算子映射概述
什么是算子映射、为什么需要算子映射、算子映射的挑战与目标。
基础概念
02
NPU硬件架构基础
NPU计算单元、存储层次、数据通路、指令集概览。
硬件架构
03
主流AI框架算子集解析
PyTorch算子集、TensorFlow算子集、ONNX算子集概览。
框架对比
04
算子分类与特征提取
按计算类型分类、按数据流分类、算子特征（形状、精度、内存访问模式）。
分类特征
05
映射策略设计原则
计算密集型 vs 访存密集型、算子融合策略、数据复用策略。
策略优化
06
单算子映射实战（一）
Conv2d映射——im2col+GEMM方案、Winograd方案、直接卷积方案。
卷积实战
07
单算子映射实战（二）
MatMul/Gemm映射——分块策略、流水线调度、内存布局优化。
矩阵乘优化
08
单算子映射实战（三）
Pooling映射——平均池化、最大池化、全局池化的高效实现。
池化高效
09
单算子映射实战（四）
Activation映射——ReLU、Sigmoid、Tanh、GELU的查表法与近似计算。
激活近似
10
单算子映射实战（五）
Normalization映射——BatchNorm、LayerNorm、InstanceNorm的融合与优化。
归一化融合
11
单算子映射实战（六）
Element-wise算子映射——Add、Mul、Sub、Div的向量化实现。
逐元素向量化
12
单算子映射实战（七）
Reshape/Transpose映射——数据重排策略、零拷贝技巧。
重排零拷贝
13
单算子映射实战（八）
Softmax映射——数值稳定性、Online Softmax算法。
Softmax稳定
14
算子融合策略（一）
Conv+BatchNorm+ReLU融合——数学等价推导与实现。
融合ConvBNReLU
15
算子融合策略（二）
Multi-Head Attention融合——QKV投影融合、Attention Score计算融合。
Attention融合
16
算子融合策略（三）
LayerNorm+Residual+Add融合——Transformer Block的极致优化。
Transformer极致
17
内存优化映射技巧
内存池管理、Double Buffer技术、DMA与计算重叠。
内存DMA
18
量化算子映射
INT8/INT4量化算子映射、对称量化与非对称量化、量化感知训练映射。
量化INT8
19
动态形状算子映射
动态Batch、动态序列长度、动态分辨率场景下的映射策略。
动态形状
20
稀疏算子映射
稀疏卷积、稀疏注意力、结构化稀疏与非结构化稀疏的映射。
稀疏结构化
21
自定义算子开发流程
算子定义、Tiling策略、Kernel编写、编译与调试。
自定义开发
22
算子性能调优方法论
Profiling工具使用、瓶颈分析、迭代优化流程。
调优Profiling
23
算子映射中的精度调优
数值误差分析、混合精度策略、精度与性能的权衡。
精度混合精度
24
多核并行映射策略
数据并行、模型并行、流水线并行在算子层面的应用。
并行多核
25
算子映射自动化工具
TVM/Ansor、Auto-Tuning、MLIR在算子映射中的应用。
自动TVM
26
典型模型端到端映射案例（一）
ResNet-50的算子映射与优化。
ResNet案例
27
典型模型端到端映射案例（二）
BERT的算子映射与优化。
BERTNLP
28
典型模型端到端映射案例（三）
YOLOv5的算子映射与优化。
YOLO检测
29
算子映射的测试与验证
单元测试、数值一致性测试、性能基准测试。
测试验证
30
算子映射的未来趋势
AI编译器发展、硬件-软件协同设计、可重构算子映射。
趋势未来