VIP8

本课程属于：039-昇腾Atlas与CANN开发工程 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

异构计算NPU加速原理实战

📚 共计 30 章节

什么是NPU、NPU与CPU/GPU的区别、NPU的发展历程与典型产品。

神经网络基础

神经元与感知机、激活函数（ReLU/Sigmoid）、前向传播与反向传播。

卷积计算原理

卷积操作的本质、步长与填充、池化层的作用、经典卷积网络结构。

NPU硬件架构

脉动阵列（Systolic Array）、数据流架构（Weight Stationary/Output Stationary）、片上存储层次。

标量指令与向量指令、矩阵乘加指令（MAC）、数据搬运指令（DMA）、指令调度流水线。

指令流水线

模型量化原理

FP32到INT8的转换、对称量化与非对称量化、校准数据集与KL散度。

量化感知训练

伪量化节点（Fake Quantize）、直通估计器（STE）、量化感知微调策略。

模型剪枝技术

结构化剪枝与非结构化剪枝、L1/L2范数剪枝、通道剪枝与网络瘦身。

教师-学生网络架构、软标签与温度系数、蒸馏损失函数设计。

NPU编译器原理

计算图优化、算子融合、内存分配策略、代码生成流程。

编译器图优化

TVM与NPU后端

TVM架构概览、Relay IR与Tensor Expression、AutoTVM调优、NPU代码生成。

ONNX模型转换

ONNX格式解析、算子映射表、自定义算子注册、精度对齐验证。

NPU驱动开发

内核驱动框架、IOCTL接口设计、中断处理与轮询模式、内存管理（CMA/DMA）。

Runtime运行时库

模型加载与解析、推理会话管理、输入输出缓冲区管理、异步推理接口。

Profiling与性能分析

硬件性能计数器（PMC）、算子级耗时分析、带宽利用率计算、Roofline模型。

算子开发实战（上）

Element-wise算子（ReLU/Add）、归约算子（Sum/Max）、开发流程与测试。

算子开发实战（下）

卷积算子（im2col+GEMM）、矩阵乘算子（Tiling策略）、Winograd算法加速。

模型部署流水线

训练后量化（PTQ）、模型加密与序列化、多模型动态加载、版本管理。

部署流水线

图像分类模型部署

ResNet50部署实战、预处理对齐、Top-1/Top-5精度验证、性能调优。

目标检测模型部署

YOLOv5部署实战、后处理NMS加速、多尺度推理、mAP评估。

自然语言模型部署

BERT部署实战、动态形状处理、Attention计算优化、精度损失分析。

多模型流水线

级联模型调度、共享内存机制、流水线并行策略、端到端延迟优化。

流水线并行

异构协同计算

CPU+NPU任务划分、OpenCL/OpenMP协同、数据一致性维护、负载均衡策略。

NPU集群与分布式

多卡通信（PCIe/RoC）、模型并行与数据并行、梯度同步策略、容错机制。

分布式集群

功耗与散热管理

动态电压频率调整（DVFS）、功耗墙与TDP、温度感知调度、低功耗模式设计。

安全与可信计算

模型加密（AES/RSA）、安全飞地（TEE）、对抗样本防御、侧信道攻击防护。

NPU仿真与模拟器

功能仿真（ISS）、周期精确仿真（CPSim）、性能建模、RTL协同仿真。

FPGA原型验证

NPU RTL在FPGA上的部署、AXI总线验证、DDR带宽测试、原型调试技巧。

芯片测试与量产

ATE测试向量生成、良率分析、DFT（扫描链/BIST）、老化测试与筛选。

未来趋势与前沿

存算一体架构、光计算NPU、稀疏计算加速、神经形态计算、RISC-V NPU扩展。