第1章
NPU与AI芯片概述
NPU定义 · AI芯片发展史 · NPU vs GPU vs CPU · 主流厂商与产品
芯片基础
第2章
算子与计算图基础
算子定义 · 计算图概念 · 前向与反向传播 · 算子粒度分类
计算图核心
第3章
算子映射核心概念
什么是算子映射 · 映射层次(算法/框架/硬件) · 挑战
映射抽象
第4章
深度学习框架算子集
TensorFlow · PyTorch · ONNX · 框架算子差异对比
框架对比
第5章
NPU指令集与硬件抽象层
指令集架构 · 向量/矩阵/标量指令 · HAL设计
指令集硬件
第6章
算子映射流程总览
模型到硬件完整流程 · 前端解析 · 中间表示 · 后端代码生成
流程编译
第7章
算子注册与发现机制
算子注册表 · 动态/静态注册 · 匹配策略
注册机制
第8章
算子形状推导与类型推断
形状推导规则 · 动态形状 · 数据类型推断与转换
形状类型
第9章
算子融合优化
融合原理 · Conv+BN/ReLU · MatMul+Add · 策略实现
融合优化
第10章
算子内存布局与数据排布
NHWC vs NCHW · 数据对齐 · 张量布局转换 · DMA优化
内存布局
第11章
算子调度与执行顺序
拓扑排序 · 依赖分析 · 流水线调度 · 多核并行
调度并行
第12章
算子性能分析与Profiling
性能计数器 · 耗时分析 · 带宽利用率 · 计算效率
性能分析
第13章
常见算子映射实现(一) 卷积
Conv2D · Depthwise Conv · Conv3D 映射详解
卷积映射
第14章
常见算子映射实现(二) 池化
MaxPool · AvgPool · GlobalPool 映射详解
池化下采样
第15章
常见算子映射实现(三) 激活
ReLU · Sigmoid · Tanh · GELU · Swish 映射
激活非线性
第16章
常见算子映射实现(四) 归一化
BatchNorm · LayerNorm · InstanceNorm 映射
归一化BN
第17章
常见算子映射实现(五) 矩阵运算
MatMul · BatchMatMul · Transpose 映射
矩阵运算
第18章
常见算子映射实现(六) 逐元素
Add · Sub · Mul · Div · Exp · Log 映射
逐元素算术
第19章
常见算子映射实现(七) 采样
Resize · Upsample · Interpolate 映射
上采样插值
第20章
常见算子映射实现(八) 注意力
Self-Attention · Multi-Head Attention · Softmax
注意力Transformer
第21章
自定义算子开发
自定义接口 · TIK编程 · DSL编写 · 测试验证
自定义开发
第22章
算子映射中的精度控制
FP32/FP16/BF16/INT8 · 精度损失 · 混合精度策略
精度量化
第23章
算子映射中的异常处理
算子不支持 · fallback · CPU回退 · 错误日志
异常容错
第24章
算子映射自动化工具
Auto-Tuning · Auto-Schedule · 搜索空间 · 自动代码生成
自动化调优
第25章
算子映射性能调优实战
内存带宽优化 · 计算密度 · 循环展开 · 向量化
调优实战
第26章
多框架算子映射适配
PyTorch/TF/ONNX/Caffe 模型转NPU
适配转换
第27章
算子映射测试与验证框架
单元测试 · 集成测试 · 精度对比 · 性能基准
测试验证
第28章
边缘计算场景应用
端侧NPU · 轻量化映射 · 功耗优化 · 实时性
边缘端侧
第29章
云端训练场景应用
训练映射 · 梯度计算 · 分布式同步 · 显存优化
云端训练
第30章
未来趋势与前沿技术
可微分映射 · 动态编译 · 稀疏加速 · 存算一体
前沿趋势