01
存算一体与算子融合概述
从冯·诺依曼瓶颈到存算一体架构的演进，算子融合的定义与核心价值，课程目标与学习路径。
概念演进
02
存算一体基础原理
存储单元与计算单元的物理融合，基于SRAM/ReRAM/PCM的存算一体单元工作原理，模拟域与数字域计算对比。
硬件原理
03
算子融合理论基础
计算图与数据流图，融合的数学本质（矩阵运算合并），访存局部性原理与时间/空间局部性。
理论局部性
04
典型算子融合模式
逐元素算子融合（激活+归一化），归约算子融合（卷积+池化），矩阵链融合（全连接+全连接）。
模式卷积
05
存算一体架构下的融合约束
硬件资源限制（MAC单元数量、存储带宽），数据精度与量化影响，控制流与数据依赖分析。
约束硬件
06
融合策略设计
贪心搜索融合策略，动态规划最优融合，基于机器学习的融合决策。
策略搜索
07
编译器前端处理
计算图解析与IR生成，算子属性提取（计算量、访存量、并行度），图优化Pass框架设计。
编译器IR
08
融合Pass实现
模式匹配与子图替换，融合规则定义语言，Pass执行顺序与依赖管理。
Pass子图
09
数据布局优化
融合后的张量内存排布，数据重排与转置开销分析，Bank冲突避免策略。
内存优化
10
流水线调度
融合算子的硬件流水线划分，阶段间同步与缓冲设计，气泡消除与吞吐优化。
流水线调度
11
代码生成与指令映射
从融合IR到微指令的转换，向量化指令生成，特殊指令（MAC、累加、移位）的利用。
代码生成指令
12
模拟器与性能建模
Cycle级模拟器搭建，性能模型（计算时间、访存时间、通信时间），融合收益预估。
模拟器性能
13
典型应用场景一：CNN
卷积神经网络中的Conv+BN+ReLU融合，Winograd与FFT加速的融合考量。
CNNConv+BN+ReLU
14
典型应用场景二：Transformer
QKV投影融合，Attention Score与Softmax融合，FFN层融合。
TransformerAttention
15
典型应用场景三：RNN/LSTM
循环神经网络中的门控融合，时间步展开与融合权衡。
RNNLSTM
16
典型应用场景四：GNN
图神经网络中的消息传递融合，聚合函数与更新函数的联合优化。
GNN消息传递
17
量化感知融合
训练后量化（PTQ）与量化感知训练（QAT）对融合的影响，混合精度融合策略。
量化混合精度
18
稀疏性利用
稀疏算子融合，结构化稀疏与非结构化稀疏的处理，零值跳过与压缩格式融合。
稀疏压缩
19
多核与多芯片融合
数据并行与模型并行下的融合策略，跨芯片通信与同步开销建模。
多核并行
20
动态形状与条件分支
动态Batch Size下的融合，条件分支的预测执行与融合，控制流图优化。
动态分支
21
编译时间与运行时间权衡
离线融合与在线融合，JIT编译与预编译的选择，Profile-guided融合。
编译JIT
22
工具链与框架集成
TVM/Triton/XLA中的融合实现，自定义Pass注册与扩展，调试与可视化工具。
TVMXLA
23
性能分析与调优
Roofline模型分析融合瓶颈，Profiling工具使用（NVIDIA Nsight、Intel VTune），迭代优化方法论。
调优Roofline
24
硬件-软件协同设计
融合友好的硬件微架构设计，指令集扩展支持，编译器与硬件交互接口。
协同微架构
25
前沿研究一：可重构与近存
可重构存算阵列与动态融合，近存计算与存内处理的融合边界。
可重构近存
26
前沿研究二：强化学习自动搜索
基于强化学习的自动融合搜索，图神经网络驱动的融合策略生成。
强化学习自动搜索
27
前沿研究三：大模型融合挑战
大模型（LLM）中的算子融合挑战，KV Cache与融合推理优化。
LLMKV Cache
28
前沿研究四：联邦学习融合
存算一体架构下的联邦学习融合，隐私保护与计算效率的平衡。
联邦学习隐私
29
项目实战一：Conv+BN+ReLU
基于简单模拟器的Conv+BN+ReLU融合实现，从零搭建融合流程。
实战模拟器
30
项目实战二：端到端推理部署
端到端推理引擎中的融合部署，性能对比与报告生成，课程总结与未来展望。
部署总结