一、硬件抽象层（HAL）：为什么我们需要这层“翻译官”？

各位同学，今天我们来聊聊NPU算子映射里一个非常关键的概念——硬件抽象层，简称HAL。

说实话，我刚开始接触NPU开发时，也困惑过：为什么不能直接操作硬件？非要搞个抽象层出来？后来我在一个项目里踩了坑，才真正明白HAL的价值。

当时我们团队要适配三款不同厂商的NPU，每款的寄存器地址、存储结构、计算单元调度方式都不一样。如果直接写算子映射代码，那得写三套完全不同的实现。更可怕的是，一旦硬件升级，所有代码都得重写。嗯，那段时间我几乎每天都在改bug，改到怀疑人生。

所以，HAL说白了就是一层“翻译官”。它把千差万别的硬件细节，封装成统一的接口。上层编译器不用关心底层是哪个厂商的NPU，只需要调用HAL提供的接口就行。

1.1 HAL的核心作用

我个人习惯把HAL的作用归纳为三点：

• 屏蔽硬件差异：不同NPU的计算单元数量、存储层次、带宽都不一样。HAL把这些差异封装起来，对外提供一致的视图。
• 简化算子映射：编译器只需要生成HAL接口的调用，不需要直接操作寄存器。这大大降低了开发复杂度。
• 支持硬件演进：当NPU升级时，只需要更新HAL的实现，上层代码基本不用动。我在项目中遇到过，芯片从V1升级到V2，计算单元翻倍，但上层算子代码一行没改，全靠HAL扛住了。

1.2 硬件资源描述：HAL眼中的NPU长什么样？

你想想看，HAL要描述NPU的硬件资源，至少得说清楚三件事：计算单元、存储、带宽。这三者缺一不可。

计算单元描述

NPU的计算单元通常是SIMD或脉动阵列。HAL需要描述：

• 计算单元的数量和类型（比如：16个MAC单元，每个支持INT8/FP16）
• 支持的指令集（比如：矩阵乘、卷积、激活函数）
• 并行度（比如：一次可以处理多少数据）

举个例子，我曾经参与的一个项目里，HAL是这样描述计算单元的：

// 计算单元描述结构体
typedef struct {
    int num_mac_units;          // MAC单元数量
    int simd_width;             // SIMD宽度（元素个数）
    DataType supported_types[4]; // 支持的数据类型列表
    int max_concurrent_threads;  // 最大并发线程数
} ComputeUnitDesc;

存储描述

NPU的存储层次很复杂，通常有全局内存、共享内存、寄存器文件等。HAL需要描述：

• 各级存储的容量和延迟
• 存储的访问模式（比如：是否支持随机访问、是否支持广播）
• 存储的带宽限制

带宽描述

带宽是NPU性能的瓶颈，HAL必须准确描述：

• 计算单元与各级存储之间的带宽
• 片内与片外的带宽
• 不同数据路径的带宽差异

我曾经遇到过一个坑：某款NPU的全局内存到共享内存的带宽，在连续访问和随机访问时差了10倍。如果HAL不把这个信息暴露出来，编译器就会做出错误的调度决策，性能直接崩掉。

1.3 抽象接口设计：怎么设计一套好用的HAL接口？

这部分我建议你重点听，因为接口设计的好坏，直接决定了上层开发者的幸福感。

我个人总结了一套HAL接口设计的原则，叫“三要三不要”：

原则	说明	例子
要统一	不同硬件用同一套接口	hal_load_tensor() 不管数据在DDR还是HBM
要简洁	接口参数尽量少	hal_compute() 只需要输入输出tensor和算子类型
要可扩展	新增硬件特性时接口不变	通过属性参数扩展，而不是新增接口
不要暴露寄存器	上层代码不直接操作硬件	用hal_set_config() 代替直接写寄存器
不要过度抽象	保留关键性能参数	暴露带宽、延迟等，但不暴露具体实现
不要有隐藏开销	每个接口的开销要可预测	hal_sync() 的耗时应该是确定的

下面我给出一个典型的HAL接口示例，这是我在一个实际项目中用过的简化版本：

// HAL核心接口
// 初始化硬件
int hal_init(HalConfig* config);

// 加载张量到指定存储层级
int hal_load_tensor(Tensor* t, MemoryLevel level);

// 执行计算
int hal_compute(Operator* op, Tensor* input, Tensor* output);

// 同步等待计算完成
int hal_sync();

// 获取硬件性能参数
HalPerfInfo hal_get_perf_info();

你看，这套接口只有5个函数，但覆盖了NPU算子映射的核心流程：初始化、数据搬移、计算、同步、性能查询。上层编译器只需要调用这些接口，就能完成算子映射，完全不用关心底层硬件细节。

1.4 知识体系总览

为了让你更直观地理解HAL在整个NPU算子映射中的位置，我画了一张图：

从这张图你可以看到，HAL就像一座桥梁。上层编译器通过HAL接口下达指令，HAL负责把这些指令翻译成硬件能理解的信号。反过来，硬件的信息也通过HAL反馈给编译器。

嗯，关于HAL的基础知识就讲到这里。记住，HAL设计的核心就是：屏蔽差异、暴露关键、保持简洁。下一节我们会深入HAL的具体实现，看看怎么把理论落地成代码。

想要更多资料，联系可可