VIP20

本课程属于：016-NPU算子映射 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

AI芯片算子映射实战能力提升

📚 共计 30 章节

AI芯片与算子映射概述

AI芯片发展简史 · 主流架构对比(GPU/TPU/NPU) · 算子映射核心挑战

计算基础与数据流

冯·诺依曼/哈佛架构 · 数据流驱动 · SIMT vs SIMD

体系结构并行

深度学习算子解析 (上)

Conv2D数学原理 · 池化与ReLU算子特性

深度学习算子解析 (下)

GEMM与全连接 · BatchNorm/LayerNorm · Attention

矩阵乘归一化

算子映射核心方法论

算子分解融合 · 计算图优化 · 内存层次与数据复用

硬件抽象层与指令集

VLIW/SIMD设计 · 向量/张量指令 · 脉动阵列指令扩展

指令集硬件

编译器前端与中间表示

TVM/MLIR/Triton · IR设计 · 算子识别与模式匹配

编译器后端与代码生成

指令调度 · 循环优化(Tiling/Unrolling) · DMA传输

代码生成调度

卷积算子硬件映射实战

im2col · Winograd在NPU实现 · 脉动阵列直接卷积

矩阵乘算子硬件映射实战

Tiled GEMM · 数据复用流水线 · Tensor Core加速

注意力机制算子硬件映射

FlashAttention · KV Cache管理 · 稀疏注意力实现

归一化与激活算子映射

BatchNorm融合 · LayerNorm映射 · GELU/SwiGLU近似

归一化激活

内存墙与带宽优化

DDR/HBM带宽 · 预取双缓冲 · 合并访问与对齐

计算效率与利用率

Occupancy调度 · 计算访存重叠 · 硬件计数器分析

算子映射精度管理

混合精度(FP16/BF16/FP8) · INT8/INT4量化 · 精度回退

动态形状与稀疏性处理

动态形状编译 · 结构化/非结构化稀疏 · Sparse Tensor Core

多核与多芯片互联

Ring/Mesh/Torus拓扑 · 数据/模型并行 · 流水线并行切分

算子映射自动化工具链

AutoTVM/Ansor · 机器学习优化 · DSL编写算子

典型AI芯片案例 (上)

NVIDIA GPU · CUDA Core / Tensor Core 映射实例

典型AI芯片案例 (下)

Google TPU脉动阵列 · 华为昇腾Da Vinci架构

算子映射性能调优方法论

Roofline模型 · Profiling定位 · 迭代优化工作流

算法-芯片协同设计

NAS硬件感知 · 算子库(cuDNN) · 模拟器与性能建模

协同算子库

同步与通信算子映射

Barrier/Fence · AllReduce/AllGather · 计算通信重叠

算子映射测试与验证

数值对比 · 性能回归 · FPGA原型验证

前沿算子映射技术

可重构CGRA · 存算一体 · 光/量子计算展望

LLM推理算子映射

Prefill/Decode · PageAttention/vLLM · Continuous Batching

视觉大模型算子映射

ViT/Swin · 卷积+注意力混合 · 多模态CLIP融合

推荐系统算子映射

大规模Embedding · DCN/DLRM · 稀疏特征加速

推荐Embedding

自动驾驶算子映射

BEV感知 · PointNet++点云 · 多传感器实时调度

自动驾驶BEV

综合实战：全流程算子映射

需求分析 · 方案设计 · 编码调试 · 性能评估报告