VIP20

本课程属于：030-华为昇腾Atlas硬件与CANN开发实战 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

CANN自定义算子开发实战

📚 共计 30 章节

认识昇腾AI处理器、CANN软件栈架构、AscendCL与自定义算子关系。

算子开发环境搭建

安装CANN开发套件、配置环境变量、验证开发环境。

算子工程结构

算子工程目录规范、CMakeLists.txt编写、算子注册文件。

算子原型定义

算子输入输出定义、属性定义、数据排布格式。

算子实现（TBE DSL）

TBE DSL基础语法、tensor操作、计算函数。

算子实现（TBE API）

TBE API详解、conv2d、matmul等常用API。

算子编译与调试

编译算子、使用msopgen工具、调试技巧。

算子适配与集成

适配PyTorch框架、注册算子、前向/反向实现。

算子性能优化

内存优化、流水线优化、算子融合策略。

算子精度验证

精度比对工具、UT测试、ST测试。

AscendC算子开发入门

AscendC编程模型、核函数编写。

AscendC数据搬运

数据搬运指令、Local Memory管理。

AscendC计算指令

向量计算指令、矩阵计算指令。

AscendC同步与流水

同步机制、Double Buffer、流水线设计。

AscendC算子调试

核函数调试、性能Profiling。

调试Profiling

自定义算子案例（一）

实现一个Element-wise Add算子。

自定义算子案例（二）

实现一个LayerNorm算子。

案例LayerNorm

自定义算子案例（三）

实现一个Softmax算子。

自定义算子案例（四）

实现一个GELU激活函数算子。

自定义算子案例（五）

实现一个FlashAttention算子（简化版）。

案例Attention

算子自动生成

使用AIGC工具生成算子代码框架。

算子库扩展

向CANN算子库贡献自定义算子。

多核并行编程

多核任务分发、核间同步、负载均衡。

算子融合技术

融合策略设计、融合算子实现、性能收益分析。

算子精度问题排查

常见精度问题、数值稳定性、调试方法。

算子性能Profiling

使用msprof工具、性能瓶颈分析、优化方向。

Profiling性能

算子部署与推理

ONNX导出、MindSpore Lite部署、推理性能调优。

算子安全与合规

算子安全检查、数据边界检查、合规性要求。

算子开发最佳实践

编码规范、文档规范、版本管理。

综合实战项目

从零开发一个自定义算子并集成到PyTorch模型中进行训练推理。