01
存算一体概述
什么是存算一体 · 冯·诺依曼瓶颈 · 发展历程与分类
概念历史
02
核心原理
计算存储一体化 · 近存 vs 存内 · 模拟与数字
原理分类
03
硬件基础
SRAM · RRAM · PCM · MRAM 存储介质应用
器件介质
04
架构设计
宏观架构 · 处理单元阵列 · 数据流设计
芯片数据流
05
编程模型
指令集 · 数据映射 · 编译器优化
编译映射
06
显存基础
GPU显存架构 · HBM与GDDR · 带宽与延迟
显存带宽
07
显存瓶颈分析
显存墙 · 数据搬运开销 · 带宽利用率
瓶颈分析
08
显存优化策略
算子融合 · 内存复用 · 梯度累积 · 混合精度
优化策略
09
显存管理技术
显存池化 · 碎片整理 · 异步数据加载
管理池化
10
显存优化工具
PyTorch分析器 · Nsight Systems · 自定义Profiler
工具Profile
11
模型并行与显存
数据并行 · 模型并行 · 流水线 · 张量并行
并行分布式
12
ZeRO优化器
Stage1/2/3 原理与实现
ZeRO显存
13
激活值显存优化
激活检查点 · 选择性重计算 · 高效激活函数
激活重计算
14
混合精度训练
FP16/BF16 · Loss Scaling · 动态精度调整
精度训练
15
梯度压缩与通信优化
梯度量化 · 稀疏化 · AllReduce优化
通信压缩
16
存算一体编译器
TVM · MLIR适配 · 自动代码生成
编译器TVM
17
存算一体模拟器
gem5扩展 · Ramulator · 自定义仿真
模拟仿真
18
存算一体基准测试
MLPerf适配 · 自定义Benchmark · 性能指标
基准MLPerf
19
边缘计算应用
低功耗推理 · 实时处理 · 模型压缩
边缘低功耗
20
云端推理应用
大模型推理 · 吞吐量优化 · 延迟优化
云端推理
21
大模型训练显存优化
GPT · LLaMA 显存挑战与解决方案
大模型GPT
22
推荐系统显存优化
大规模Embedding · 特征交互显存优化
推荐Embedding
23
视频理解显存优化
3D卷积 · 时序建模显存管理
视频3D卷积
24
科学计算显存策略
物理模拟 · 分子动力学显存策略
科学计算模拟
25
存算一体与显存结合
近存计算 · 显存卸载 · 异构内存管理
结合异构
26
前沿技术
光子计算 · 量子交叉 · 存内逻辑
前沿光子
27
开源项目实战
Sanger · PIMFlow · DeepSpeed ZeRO 代码解读
开源代码
28
性能调优方法论
Profiling分析 · 瓶颈定位 · 迭代优化
调优方法论
29
未来趋势
标准化 · 3D堆叠显存 · 生态建设
趋势3D堆叠
30
综合案例
从零构建存算一体加速Transformer推理系统
实战Transformer