1. CANN概述
大家好，我是这门课的主讲。做了好几年AI芯片相关的开发，从底层驱动到上层框架都摸过一遍。今天咱们先聊聊CANN——这个在昇腾平台上绕不开的软件栈。说白了，你要在昇腾处理器上写自定义算子，第一件事就是搞懂CANN到底帮你干了哪些活。
1.1 昇腾AI处理器：一块为计算而生的芯
昇腾处理器不是普通的CPU，它内部集成了专门的AI计算单元——达芬奇架构。我刚开始接触时，最直观的感受就是：它把矩阵乘法、卷积这类运算做成了硬件指令，一条指令就能搞定一大块数据。
昇腾芯片里通常包含多个AI Core，每个Core又有自己的向量单元、标量单元和矩阵单元。你想想看，这就像一个小型计算工厂，数据在内部流水线上高速流转。
1.2 CANN软件栈架构
CANN的全称是Compute Architecture for Neural Networks，它不是单一组件，而是一整套软件栈。从驱动到运行时，再到上层开发接口，每一层都有自己的职责。
我个人习惯把CANN分成三层来看：
- 底层： runtime & driver —— 负责芯片管理、内存分配、任务调度。
- 中间层： 图引擎 & 算子编译器 —— 把计算图优化、编译成芯片能执行的指令。
- 上层： AscendCL & 框架适配 —— 给开发者提供统一的API，屏蔽底层细节。
下面这张图是我自己画的，能帮你快速建立整体印象：
▲ CANN软件栈分层示意 —— 从框架到硬件，每一层各司其职
1.3 AscendCL 与自定义算子的关系
很多刚接触的同学会问：“我写自定义算子，跟AscendCL有什么关系？” 关系大了。AscendCL是CANN对外提供的一套C语言API，你的算子最终要通过它加载、执行。
我举个例子。你用TBE或AscendC写了一个算子，编译后会生成一个.om模型文件或者一个算子二进制。AscendCL负责把这个二进制加载到昇腾芯片上，分配好输入输出buffer，然后触发执行。说白了，AscendCL就是你的算子与硬件之间的“快递员”。
所以，自定义算子开发流程大致是：
- 用TBE/AscendC实现算子逻辑；
- 编译生成算子包（
.o或.so）； - 通过AscendCL加载算子，设置输入输出；
- 调用
aclrtProcessReport或同步接口等待执行完成。
下面这个表格总结了AscendCL中几个关键的数据类型，我建议你收藏一下：
| 类型 | 作用 | 备注 |
|---|---|---|
aclrtContext | 管理执行上下文 | 每个线程一个context |
aclrtStream | 任务流，异步执行 | 类似cudaStream |
aclDataBuffer | 封装设备内存 | 输入输出都用它 |
aclopAttr | 算子属性 | 传参用，比如卷积stride |
1.4 从框架到算子的完整链路
你写一个自定义算子，最终是要嵌入到AI框架里用的。比如在PyTorch里注册一个自定义算子，底层其实调用了AscendCL的接口。我见过不少开发者只关注算子本身，忽略了框架适配层，结果算子跑不起来。
嗯，这里有个关键点：CANN提供了框架适配插件，你只需要按照规范实现算子原型和计算逻辑，框架侧会自动映射。但如果你要做一个全新的算子类型，就得自己写一点点胶水代码。
最后，我想说：CANN虽然看起来层数多，但每一层都有清晰的边界。你只要抓住“算子实现 + AscendCL加载”这条主线，就不会迷路。下一章咱们就动手搭环境，把开发工具链跑起来。