01
NPU与AI芯片概述
NPU定义、发展历程、与CPU/GPU对比、主流架构简介
基础芯片
02
算子与计算图
算子概念、计算图表示、静态图与动态图区别
图核心
03
算子映射核心概念
映射定义、层次(算法/图/指令)、挑战分析
映射抽象
04
硬件抽象层(HAL)
HAL作用、资源描述、抽象接口设计
硬件接口
05
算子分解与拆分
大算子分解、数据/模型并行、张量切分
并行切分
06
内存层次与数据搬运
NPU存储层次、DMA策略、数据复用与tiling
存储DMA
07
计算单元映射
SIMD/SIMT/脉动阵列、向量矩阵映射
计算架构
08
调度与流水线
指令调度、软件流水线、多核并行调度
调度流水线
09
编译器前端解析
ONNX/TF解析、算子识别、IR生成
编译器前端
10
编译器中间表示(IR)
MLIR/TVM Relay/Glow IR、层次化设计
IRMLIR
11
算子库与内核实现
手写Kernel vs 自动生成、优化策略、汇编调优
算子库调优
12
量化与精度映射
INT8/FP16/BF16量化、感知训练、精度校准
量化精度
13
稀疏计算映射
稀疏存储格式、硬件支持、剪枝与稀疏化
稀疏剪枝
14
动态形状处理
动态shape挑战、Padding/Mask、动态编译JIT
动态JIT
15
融合算子优化
融合原理、Conv+BN+ReLU、带宽影响
融合优化
16
内存优化与复用
分配策略、复用分析、In-Place计算
内存复用
17
数据布局转换
NHWC vs NCHW、重排开销、硬件加速
布局转换
18
Winograd与FFT卷积映射
Winograd原理、NPU映射、性能收益
卷积Winograd
19
Attention机制映射
Transformer结构、Self-Attention分解、FlashAttention
AttentionTransformer
20
循环神经网络(RNN/LSTM)映射
时序依赖、展开并行化、LSTM门控映射
RNNLSTM
21
归一化层映射
BatchNorm/LayerNorm/InstanceNorm硬件实现
归一化硬件
22
激活函数映射
ReLU/Sigmoid/Tanh/GELU近似、查找表
激活近似
23
池化与下采样映射
MaxPool/AvgPool硬件实现、全局池化
池化下采样
24
Eltwise与逐元素运算
Add/Mul/Sub向量化、广播机制
逐元素向量化
25
Reduce操作映射
Sum/Mean/Max归约、多级归约策略
归约Reduce
26
Reshape与Transpose映射
数据重排挑战、零拷贝、硬件支持
重排Transpose
27
多芯片互联与通信
芯片间拓扑、数据/模型并行、AllReduce
互联通信
28
性能分析与Profiling
性能计数器、瓶颈分析、Roofline模型
性能Profiling
29
调试与验证
算子精度对比、仿真回放、Bug排查
调试验证
30
未来趋势与挑战
存算一体、光计算、可重构、自动化映射
前沿趋势