第3章 · 算子开发基础

说实话，很多刚接触CANN的同学，一上来就急着写算子。结果呢？连算子到底是什么、DSL和TIK有啥区别都没搞明白，后面debug debug到怀疑人生。我刚开始带团队的时候也踩过这个坑——所以这一章，咱们先把地基打牢。

3.1 算子概念 —— 到底什么是算子？

你可以把算子想象成神经网络里的“最小计算单元”。一个卷积、一个ReLU、一个矩阵乘……在昇腾芯片上，这些都被封装成算子。我习惯这么理解：算子 = 计算逻辑 + 数据搬运 + 硬件映射。光有数学公式不行，你得告诉芯片怎么搬数据、怎么并行。

举个例子，一个简单的向量加法算子：输入两个张量，输出它们的和。但在CANN里，你还得考虑数据是放在DDR还是L1 Buffer，用哪个Cube单元还是Vector单元。嗯，这里要注意——算子不仅仅是算法，更是“硬件感知”的算法。

            💡 核心分类： 按计算类型分为矢量算子（Vector）、矩阵算子（Cube）、标量算子（Scalar）。我在项目中见过有人把矩阵乘写成了矢量循环，性能直接掉了十几倍……所以一开始就要选对计算范式。
        

3.2 DSL 与 TIK —— 两种开发方式，怎么选？

CANN提供了两套开发“方言”：DSL（Domain Specific Language）和TIK（Tensor Iterator Kernel）。说白了，DSL更像高级语言，你写声明式逻辑，编译器帮你做映射；TIK则给你指令级的控制，灵活但更烧脑。

对比维度	DSL 开发	TIK 开发
抽象层级	高，类Python语法	低，接近汇编/ intrinsics
性能调优空间	中等，依赖编译器	大，手写流水线/乒乓控制
开发效率	快，适合快速验证	慢，但极致性能
典型场景	标准算子（Conv, Pool）	自定义融合/特殊数据流
学习曲线	平缓	陡峭，需要了解硬件细节

我个人习惯是：能用DSL搞定的，绝不硬上TIK。但如果你要压榨出最后10%的性能，或者实现一些非标准的计算模式，TIK就是你的利器。我记得有一次做动态形状的算子，DSL编译出来的代码总是有冗余搬运，换成TIK手写搬运指令后，延迟直接降了40%。

✋ 避坑指南： 我曾经在DSL里混用了TIK的语法，结果编译报错半天找不到原因。记住：一个算子文件里，要么全DSL，要么全TIK，不要混写。工程结构上也要分开目录管理。

3.3 算子工程结构 —— 搭好架子再写代码

一个标准的CANN算子工程，通常包含下面这些“零件”。别嫌啰嗦，我见过太多人把测试代码和算子实现写在同一个文件里，最后CI都跑不过。

算子实现文件：xxx_compute.cpp / xxx_tik.cpp，核心计算逻辑。
算子描述文件：xxx.json / xxx.ini，定义输入输出、数据类型、shape约束。
测试目录：test/ 包含 st（系统测试）和 ut（单元测试），我习惯用 pytest 驱动。
编译脚本：CMakeLists.txt 或 Makefile，链接CANN运行时库。
性能profiling配置：profiling.json，方便一键采集数据。

// 一个极简的DSL算子骨架 (add算子)
// add_custom.py (DSL风格)
import tbe.dsl as dsl
from tbe.common.register import register_op

@register_op("AddCustom")
def add_custom(input_x, input_y, output, kernel_name="add_custom"):
    # 数据校验
    shape_x = input_x.get("shape")
    shape_y = input_y.get("shape")
    # 核心计算 —— 一行DSL
    result = dsl.vadd(input_x, input_y)
    # 赋值输出
    output.put(result)
    return output

⚠️ 注意： 算子工程里一定要有 op_info.json 文件，否则CANN框架无法识别你的算子。我曾经漏掉这个文件，在模型转换阶段卡了整整两天……后来才发现是算子没注册上。

你想想看，如果工程结构乱七八糟，后面调试、优化、交接都会很痛苦。所以我建议一开始就按照官方模板生成工程：msopgen 工具可以一键创建算子工程，省去手写目录的麻烦。

            📁 推荐目录布局（简化版）：

            my_op/

            ├── op_impl/    # 算子实现 (dsl / tik 子目录)

            ├── test/         # 测试用例

            ├── build.sh     # 编译脚本

            ├── op_info.json  # 算子描述

            └── README.md

好了，这一章的概念和骨架就这些。下一章我们会真正动手写一个DSL算子，到时候你会觉得——嗯，原来就这么回事。