01
NPU基础认知
什么是NPU · NPU与CPU/GPU的区别 · 脉动阵列与数据流架构
架构基础
02
算子映射入门
映射概念 · 为什么需要映射 · 映射失败常见原因
映射入门
03
ONNX模型解析
ONNX格式 · Netron可视化 · 算子节点与拓扑结构
ONNX可视化
04
NPU算子支持列表
Conv2D, Relu, Gemm, Softmax · 不支持算子的替代方案
算子兼容
05
模型转换工具链
RKNN · 地平线 · 昇腾CANN工具链使用
工具链转换
06
量化基础
FP32 vs INT8 · 对称/非对称量化 · scale/zero_point
量化INT8
07
量化感知训练 (QAT)
QAT概念 · PyTorch实现 · 对精度的影响
QAT训练
08
后训练量化 (PTQ)
PTQ流程 · 校准数据集 · PTQ vs QAT
PTQ校准
09
算子融合技术
Conv+BN融合 · Conv+Relu融合 · 性能提升
融合优化
10
内存布局优化
NHWC vs NCHW · NPU布局要求 · 数据排布转换
内存布局
11
张量内存对齐
16/32字节对齐 · 不对齐惩罚 · 对齐策略
对齐性能
12
DDR带宽优化
减少DMA传输 · 数据复用 · Tile切分
带宽DDR
13
多核并行调度
NPU多核架构 · 任务拆分 · 负载均衡
并行调度
14
流水线优化
计算与传输重叠 · Double Buffer · Pipeline深度
流水线优化
15
Profiling工具使用
NPU Profiler · 热点分析 · 瓶颈定位
Profiling分析
16
算子耗时分析
单算子耗时 · 占比分析 · 优化优先级
耗时分析
17
卷积算子优化
Im2Col+GEMM · Winograd · 直接卷积场景
卷积优化
18
激活函数优化
Relu系列 · Sigmoid/Tanh近似 · LUT加速
激活近似
19
池化与全连接优化
平均/最大池化 · 全连接矩阵乘法优化
池化全连接
20
Transformer模型适配
Attention映射 · LayerNorm · Softmax优化
Transformer适配
21
YOLO系列模型部署
YOLOv5/v8适配 · 后处理映射 · NMS优化
YOLO部署
22
BERT模型部署
Embedding映射 · 多头注意力 · MLP优化
BERTNLP
23
多模型并发推理
共享NPU资源 · 时间片调度 · 优先级管理
并发调度
24
动态形状处理
动态Batch · 动态分辨率 · Resize优化
动态形状
25
精度调优
精度损失分析 · 混合精度 · 敏感层回退CPU
精度调优
26
算子自定义开发
自定义算子接口 · TBE开发 · 算子注册
自定义开发
27
编译优化
图编译优化 · 常量折叠 · 死代码消除
编译优化
28
端侧部署实战
手机NPU(高通/联发科/苹果) · 功耗与性能平衡
端侧部署
29
边缘计算部署
Jetson · RK3588 · 地平线征程系列
边缘计算
30
综合案例
PyTorch→NPU全流程 · 性能调优报告撰写
实战综合