01
编译器基础
什么是编译器，前端/中端/后端概念，AI领域特殊需求
前端中端后端
02
AI模型计算图
计算图概念，静态图vs动态图，TF/PyTorch表示
静态图动态图TensorFlow
03
模型编译器架构
TVM/XLA/Glow概览，前端解析、图优化、后端代码生成
TVMXLAGlow
04
NPU硬件架构基础
脉动阵列、向量/标量单元，存储层次，指令集特点
脉动阵列Buffer指令集
05
算子与算子调度
算子定义，NPU执行模型，单算子/融合算子调度
调度融合执行模型
06
算子融合动机
访存瓶颈，减少中间张量，降低kernel launch，提升计算密度
访存中间张量计算密度
07
常见融合模式（一）
Conv+BN融合，Conv+ReLU，Conv+Bias+ReLU
Conv+BNConv+ReLUBias
08
常见融合模式（二）
Element-wise融合(Add+ReLU, Mul+Add)，Residual连接融合
Element-wiseResidualAdd+ReLU
09
常见融合模式（三）
MatMul+Softmax融合，LayerNorm融合，GELU融合
MatMulSoftmaxLayerNorm
10
融合规则定义
基于pattern的规则，代价模型决策，手动模板与自动搜索
Pattern代价模型自动搜索
11
TVM算子融合实现
FuseOps pass，融合规则注册，融合后代码生成
TVMFuseOps代码生成
12
XLA算子融合实现
HLO fusion pass，fusion instruction，点融合与循环融合
XLAHLO循环融合
13
MLIR与算子融合
Dialect机制，Linalg/tensor dialect，融合pass编写
MLIRLinalgDialect
14
Triton与算子融合
Triton语言特性，自动融合，NPU后端适配
Triton自动融合后端
15
NPU内存优化与融合
内存复用，double buffer，融合后内存分配优化
内存复用Double Buffer分配优化
16
数据流分析
活跃变量分析，def-use链，融合对数据依赖的影响
活跃变量def-use数据依赖
17
代价模型构建
计算/访存时间模型，融合收益估算，基于ML的代价模型
计算模型访存模型ML
18
自动搜索融合策略
动态规划/遗传/强化学习搜索
动态规划遗传算法强化学习
19
融合后的精度问题
数值精度损失，混合精度融合，精度验证
精度混合精度验证
20
NPU指令生成
融合算子指令序列，向量化与流水线，指令缓存优化
指令序列向量化流水线
21
编译时间优化
增量编译，缓存机制，并行编译，预编译库
增量编译缓存并行
22
调试与Profiling
融合算子性能profiling，对比分析，瓶颈定位工具
Profiling瓶颈对比
23
案例实战（一）ResNet-50
从原始图到融合图的完整流程
ResNet-50完整流程实战
24
案例实战（二）BERT
Attention机制的融合挑战
BERTAttention融合挑战
25
案例实战（三）YOLOv5
多尺度检测的融合策略
YOLOv5多尺度检测
26
多后端支持
同一融合策略在不同NPU适配，后端描述语言，自动代码生成
多后端描述语言自动生成
27
动态Shape处理
动态Shape挑战，融合策略，mask机制
动态Shapemask融合策略
28
稀疏计算与融合
稀疏算子融合，稀疏模式感知，结构化稀疏优化
稀疏结构化模式感知
29
前沿趋势
可微分编译器，端到端联合优化，硬件-软件协同设计
可微分端到端协同设计
30
课程总结与展望
融合核心思想回顾，NPU编译器发展方向，学习路径建议
总结展望学习路径