第1章
算子映射概述
什么是算子映射 · 在AI芯片中的位置 · 为什么需要算子映射
基础概念
第2章
AI芯片硬件架构基础
计算单元(MAC/PE) · 存储层次 · 数据通路
硬件存储
第3章
深度学习算子分类
Conv2D · Pooling · FC · ReLU/Sigmoid · BatchNorm/LayerNorm
算子分类
第4章
算子映射的核心挑战
计算模式不匹配 · 数据复用与带宽瓶颈 · 控制流与数据流协调
挑战瓶颈
第5章
数据流与计算模式
Input/Weight/Output/Row Stationary
数据流映射
第6章
循环分块 (Tiling) 技术
循环嵌套与分块 · 分块大小影响 · Square/Sliding Window Tiling
优化分块
第7章
内存层次与数据搬运
DMA · Double Buffering · 数据预取 · 乒乓操作
内存搬运
第8章
卷积算子的映射 (上)
im2col+GEMM · 直接卷积 · Winograd快速卷积
卷积映射
第9章
卷积算子的映射 (下)
深度可分离卷积 · 分组卷积 · 空洞卷积
卷积变体
第10章
池化与激活算子的映射
MaxPooling/AvgPooling · ReLU/LeakyReLU/Sigmoid · In-place优化
池化激活
第11章
全连接与矩阵乘算子的映射
矩阵乘分块 · M,N,K拆分 · Bank Conflict避免
矩阵乘优化
第12章
归一化算子的映射
BatchNorm融合 · LayerNorm映射 · Softmax数值稳定性
归一化稳定
第13章
融合算子与算子合并
Conv+BN+ReLU · Conv+Add+ReLU · 收益与限制
融合优化
第14章
动态形状与稀疏性处理
动态Batch Size · 稀疏卷积 · 剪枝后稀疏矩阵映射
动态稀疏
第15章
多核与多芯片映射
数据并行 · 模型并行 · 流水线并行 · 张量并行
并行多芯片
第16章
编译器在算子映射中的作用
TVM/Triton/XLA调度原语 · Auto-tuning与成本模型
编译器自动
第17章
手动映射 vs 自动映射
手写Kernel优缺点 · Auto-tuning局限性 · 混合策略
策略对比
第18章
性能分析与Profiling
Roofline Model · 计算密度与访存密度 · 瓶颈定位
性能分析
第19章
算子映射的调试与验证
数值正确性 · 性能回退 · 硬件模拟器与仿真
调试验证
第20章
案例实战1：Conv2D映射
在模拟器上映射Conv2D · 从算法到汇编
实战Conv2D
第21章
案例实战2：Self-Attention
映射Transformer中的Self-Attention算子
实战Attention
第22章
案例实战3：LSTM/GRU
映射LSTM/GRU循环神经网络算子
实战RNN
第23章
案例实战4：ResNet50关键算子
Conv+BN+ReLU 映射与融合
实战ResNet
第24章
案例实战5：YOLOv5算子
Focus + Conv + SiLU 映射
实战YOLO
第25章
案例实战6：BERT算子
LayerNorm + Softmax + MatMul 映射
实战BERT
第26章
高级话题：量化算子映射
INT8/FP16 · 混合精度映射
量化精度
第27章
高级话题：非规则算子映射
Gather/Scatter/Embedding 映射
非规则嵌入
第28章
高级话题：自定义算子与硬件扩展
Custom Instruction · 硬件扩展
自定义扩展
第29章
算子映射自动化工具链
从ONNX到Tiling决策的完整流程
工具链自动
第30章
总结与展望
算子映射未来趋势：存内计算 · 光计算 · 可重构架构
趋势前沿