第1章
AI芯片概述
什么是AI芯片 · 发展历程 · GPU/FPGA/ASIC/NPU分类 · 典型应用场景
基础概念
第2章
AI芯片核心架构
计算单元(MAC/PE) · 存储层次 · 数据流架构 · 片上互联(NoC/总线)
架构核心
第3章
AI芯片 vs 通用芯片
CPU/GPU/NPU/FPGA对比 · 算力密度与能效 · 编程模型差异 · 场景分析
对比选型
第4章
量化与精度
FP32/FP16/BF16/INT8/INT4 · 量化原理与误差 · 混合精度训练 · 量化感知
精度量化
第5章
内存子系统
内存墙 · HBM/GDDR · 片上SRAM与缓存 · 数据复用与DMA
存储带宽
第6章
计算阵列
脉动阵列原理 · SIMD/SIMT · 稀疏计算支持 · 优缺点分析
阵列并行
第7章
指令集架构
VLIW/SIMD · Tensor Core扩展 · 指令调度与流水线 · 编译器后端
指令编译
第8章
编译器与工具链
TVM/XLA/Glow · 图优化与算子融合 · 内存分配 · Profiling工具
编译器优化
第9章
算子库
cuDNN/oneDNN/ACL · 算子实现优化 · 融合策略 · 自定义算子
算子加速库
第10章
并行策略
数据并行 · 模型并行 · 流水线并行 · 张量并行 · 混合策略
并行分布式
第11章
通信架构
NVLink/InfiniBand/PCIe · 集合通信 · 拓扑优化 · 计算通信重叠
互联通信
第12章
功耗与散热
TDP · DVFS · 功耗管理 · 风冷/液冷方案
功耗散热
第13章
可靠性设计
软/硬错误 · ECC纠错 · 冗余设计 · 故障恢复
可靠容错
第14章
测试与验证
功能/性能/功耗验证 · ATE/SLT量产测试
测试验证
第15章
软件栈
驱动层 · 运行时 · 框架适配 · 应用层 · 优化要点
软件全栈
第16章
框架适配
TensorFlow/PyTorch/PaddlePaddle · 算子注册 · 图捕获 · 后端生成
框架适配
第17章
模型部署
ONNX/TensorRT/OpenVINO · 量化压缩 · 部署工具链 · 边缘端优化
部署推理
第18章
推理优化
算子融合 · 内存复用 · 图优化 · 动态形状 · 推理引擎
推理加速
第19章
训练优化
自动混合精度(AMP) · 梯度累积 · ZeRO优化器 · 分布式训练
训练优化
第20章
稀疏计算
结构化/非结构化稀疏 · 稀疏矩阵乘法 · 训练推理 · 硬件支持
稀疏加速
第21章
注意力机制加速
Transformer架构 · 自注意力优化 · FlashAttention · KV Cache
注意力Transformer
第22章
卷积计算加速
im2col/Winograd · 直接卷积优化 · 分组/深度可分离 · 核融合
卷积加速
第23章
循环神经网络加速
LSTM/GRU模式 · 循环展开 · BPTT优化 · 推理加速
RNN时序
第24章
图神经网络加速
GCN/GAT模式 · 图采样聚合 · 稀疏矩阵 · 硬件加速
GNN图计算
第25章
异构计算
CPU+GPU/NPU异构 · 异构内存 · 任务调度 · 编程模型
异构混合
第26章
虚拟化与多租户
GPU虚拟化 · 资源隔离 · 多任务并发 · QoS
虚拟化多租户
第27章
安全与隐私
TEE · 模型加密 · 侧信道防御 · 联邦学习硬件
安全隐私
第28章
生态与标准
OpenCL/CUDA/ROCm · MLPerf · CCIX/CXL · RISC-V
生态标准
第29章
选型与评估
算力需求 · 功耗预算 · 成本TCO · 选型决策流程
选型评估
第30章
未来趋势
存算一体 · 光计算 · 量子计算 · 类脑计算 · 技术路线图
前沿趋势