第1章
存算一体芯片概述
从冯·诺依曼瓶颈到存算一体,技术分类(近存计算、存内计算、模拟存算一体),算子融合基本概念与价值。
基础概念
第2章
算子融合基础
什么是算子,计算模式(element-wise、reduction、convolution),融合动机与收益分析。
算子动机
第3章
数据流分析
数据依赖图(DDG)构建,读写依赖分析,数据复用机会识别,数据局部性优化。
DDG复用
第4章
融合策略分类
水平融合(同层算子合并)、垂直融合(跨层合并)、混合融合策略。
水平垂直
第5章
存算阵列映射基础
权重映射策略,输入数据广播,输出累加与移位,阵列利用率优化。
映射阵列
第6章
卷积层融合策略
Conv+BN融合,Conv+ReLU融合,Conv+BN+ReLU三合一,Winograd变换融合。
卷积BN
第7章
全连接层融合策略
FC+BN融合,FC+ReLU融合,多FC层合并,稀疏化场景下的融合。
全连接稀疏
第8章
池化层融合策略
MaxPool+ReLU融合,AvgPool+FC融合,池化与卷积联合优化。
池化联合
第9章
归一化层融合策略
BatchNorm融合到卷积/全连接,LayerNorm融合策略,InstanceNorm优化。
归一化BN
第10章
激活函数融合策略
ReLU系列融合,Sigmoid/Tanh近似融合,GELU/Swish融合挑战。
激活近似
第11章
残差连接融合策略
ResNet残差块融合,DenseNet密集连接融合,EfficientNet融合优化。
残差DenseNet
第12章
注意力机制融合策略
Self-Attention算子分解,QKV计算融合,Softmax融合优化。
注意力QKV
第13章
Transformer架构融合
Multi-Head Attention融合,FFN层融合,LayerNorm与残差联合融合。
TransformerFFN
第14章
循环神经网络融合策略
LSTM门控融合,GRU简化融合,RNN时序展开优化。
RNNLSTM
第15章
逐元素操作融合策略
Add/Mul/Div融合,Clamp/Clip融合,非线性函数查表融合。
逐元素查表
第16章
内存访问优化融合
减少数据搬运次数,片上缓存复用策略,DMA传输与计算重叠。
内存DMA
第17章
精度与效率权衡
INT8/INT4量化融合,混合精度融合策略,模拟计算精度补偿。
量化混合精度
第18章
自动化融合框架
基于图优化的自动融合,模式匹配融合,代价模型驱动的融合决策。
自动代价模型
第19章
编译器前端融合
TVM/MLIR中的融合Pass,Halide调度与融合,Triton融合原语。
TVMMLIR
第20章
编译器后端融合
LLVM IR层融合,指令级融合,VLIW调度与融合。
LLVMVLIW
第21章
硬件感知融合
考虑阵列尺寸的融合,考虑ADC/DAC精度的融合,考虑互联带宽的融合。
硬件ADC/DAC
第22章
动态形状融合策略
可变长序列处理,动态Batch Size适配,条件分支融合。
动态形状
第23章
稀疏计算融合
结构化稀疏融合,非结构化稀疏融合,稀疏索引优化。
稀疏结构化
第24章
多核协同融合
数据并行融合,模型并行融合,流水线并行融合。
多核并行
第25章
能效优化融合
降低数据移动能耗,减少计算冗余,利用数据复用降低访存。
能效访存
第26章
实时推理融合
低延迟融合策略,流式处理融合,中断与抢占优化。
实时低延迟
第27章
训练场景融合
前向与反向融合,梯度累积融合,权重更新融合。
训练梯度
第28章
典型模型融合案例
ResNet-50融合策略,BERT融合策略,YOLOv5融合策略。
案例ResNet
第29章
融合性能评估
延迟、吞吐量、能效、面积开销,融合前后对比方法论。
评估对比
第30章
未来趋势与挑战
存算一体大模型融合,3D集成融合,光计算融合,量子计算融合展望。
趋势量子