VIP20

本课程属于：016-NPU算子映射 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NPU算子映射系统化学习路线

📚 共计 30 章节

NPU与AI芯片概述

NPU定义、AI芯片发展史、NPU vs GPU vs CPU、主流NPU架构介绍（华为昇腾、寒武纪、地平线）

算子与计算图基础

算子定义、计算图概念、前向传播与反向传播、算子粒度分类（标量、向量、矩阵、张量）

计算图张量

深度学习框架算子接口

PyTorch算子API、TensorFlow算子API、ONNX算子标准、框架算子注册机制

NPU硬件架构详解

计算单元（MAC、SIMD、Vector）、存储层次（L1/L2 Buffer、Global Memory）、数据通路、控制单元

算子映射核心概念

什么是算子映射、映射的层次（算法级、图级、指令级）、映射的挑战与目标

算子分类与映射策略

逐元素算子映射、归约算子映射、卷积算子映射、矩阵乘算子映射、激活函数映射

数据布局与内存映射

NCHW vs NHWC、数据对齐、内存排布优化、Bank Conflict避免

计算与访存优化

计算密度分析、访存带宽利用、计算与访存重叠、Double Buffer技术

算子融合技术

算子融合原理、常见融合模式（Conv+BN+ReLU）、融合收益分析、TVM/FlexFlow融合策略

TVM算子映射实战

TVM架构概览、Relay IR、TE（Tensor Expression）、AutoTVM调优、代码生成

MLIR与TOSA算子映射

MLIR Dialect概念、TOSA算子标准、Linalg Dialect、Pass Pipeline、Lowering流程

Triton语言与算子编写

Triton编程模型、Block-Level编程、Triton Kernel示例、与CUDA对比

昇腾CANN算子开发

Ascend C编程模型、算子Kernel实现、TBE算子开发、算子调优工具

寒武纪BANG算子开发

BANG语言基础、CNCC编译器、算子实现示例、性能分析工具

地平线BPU算子映射

BPU架构特点、指令集映射、模型量化适配、工具链使用

量化算子映射

对称量化vs非对称量化、量化感知训练、量化算子实现、精度与性能权衡

稀疏算子映射

稀疏性类型（结构化/非结构化）、稀疏矩阵存储格式、稀疏卷积实现、硬件稀疏加速

动态形状算子映射

动态形状挑战、动态shape处理策略、Mask机制、动态算子优化

自定义算子开发流程

需求分析、算子规格定义、Kernel实现、测试验证、性能调优

算子精度验证与调试

数值精度分析、误差来源、精度比对工具、常见精度问题排查

算子性能Profiling

Profiling工具使用（Nsight、Profiler）、性能瓶颈分析、Roofline模型应用

ProfilingRoofline

算子自动调优

Auto-tuning原理、搜索空间定义、贝叶斯优化、遗传算法调优

自动调优搜索

多核与多设备算子映射

数据并行、模型并行、流水线并行、通信算子映射（AllReduce等）

图编译与算子选择

图优化Pass、算子选择策略、子图替换、硬件特定优化

算子库与算子仓库

cuDNN/cuBLAS原理、OneDNN、ACL、算子仓库设计与管理

端侧NPU算子映射

端侧NPU特点、模型压缩、算子裁剪、功耗优化

算子映射自动化工具链

从框架到硬件的全自动映射、AutoScheduler、Ansor、AutoMap

自动化工具链

算子映射案例分析（一）

ResNet50算子映射全流程分析

算子映射案例分析（二）

Transformer/BERT算子映射全流程分析

TransformerBERT

算子映射前沿趋势与总结

可重构NPU、存算一体、光计算NPU、未来算子映射挑战