4. TFLite Micro 基础：模型文件格式与解释器核心

好，咱们进入第四章。这一章是 TFLite Micro 的根基。说白了，你要是不懂模型怎么存的、解释器怎么跑的，后面做内存调优就是瞎蒙。我刚开始接触 TFLite Micro 时，也踩过不少坑，今天把这些经验掰开揉碎了讲给你。

4.1 模型文件格式：FlatBuffer

TFLite 模型文件用的是 FlatBuffer。它不是 JSON，也不是 XML。它是一种高效的二进制序列化格式。为什么选它？因为嵌入式设备上，内存和 CPU 都金贵。FlatBuffer 不需要解析就能直接访问数据，加载速度极快。

我曾在项目中对比过，同样一个模型，JSON 格式加载需要 200ms，FlatBuffer 只要 5ms。差距就是这么大。

一个 .tflite 文件的结构，大致是这样的：

// 伪代码示意
Model {
  version: 1,
  description: "我的模型",
  subgraphs: [SubGraph],
  metadata: [Metadata],
  operator_codes: [OperatorCode],
  buffers: [Buffer]
}

SubGraph {
  tensors: [Tensor],
  inputs: [int],
  outputs: [int],
  operators: [Operator]
}

Tensor {
  shape: [int],
  type: TensorType,
  buffer: int,      // 指向 buffers 数组的索引
  name: string,
  quantization: QuantizationParameters
}

Operator {
  opcode_index: int,  // 指向 operator_codes
  inputs: [int],
  outputs: [int],
  builtin_options: BuiltinOptions
}

你看，整个模型就是一个树状结构。最顶层是 Model，里面包含子图、算子代码、缓冲区等。每个子图又包含张量、算子和输入输出信息。

4.2 解释器（Interpreter）核心 API

解释器是 TFLite Micro 的大脑。你所有的推理操作，都得通过它来完成。核心 API 其实不多，就那么几个函数。但每个函数背后都有讲究。

API 函数	作用	注意事项
tflite::MicroInterpreter::Create()	创建解释器实例	需要传入模型、Tensor Arena、算子解析器
AllocateTensors()	分配所有张量的内存	必须在推理前调用，且只调用一次
GetInput()	获取输入张量指针	返回的是 TfLiteTensor*
GetOutput()	获取输出张量指针	同样返回 TfLiteTensor*
Invoke()	执行一次推理	核心操作，耗时最长
Reset()	重置解释器状态	用于多次推理之间的清理

使用流程很固定：

1. 加载模型数据（从数组或文件）
2. 创建 MicroInterpreter 实例
3. 调用 AllocateTensors()
4. 填充输入数据
5. 调用 Invoke()
6. 读取输出数据

// 典型的使用代码
const tflite::Model* model = tflite::GetModel(g_model_data);
static tflite::MicroMutableOpResolver<10> resolver;
static uint8_t tensor_arena[1024 * 40]; // 40KB

tflite::MicroInterpreter interpreter(
    model, resolver, tensor_arena, sizeof(tensor_arena));

// 分配张量内存
TfLiteStatus allocate_status = interpreter.AllocateTensors();
if (allocate_status != kTfLiteOk) {
  // 处理错误
  return;
}

// 获取输入
float* input = interpreter.GetInput(0)->data.f;
// 填充数据...

// 推理
TfLiteStatus invoke_status = interpreter.Invoke();
if (invoke_status != kTfLiteOk) {
  // 处理错误
  return;
}

// 获取输出
float* output = interpreter.GetOutput(0)->data.f;

4.3 Tensor Arena 内存分配机制

这是 TFLite Micro 最核心的内存管理机制。为什么叫 Arena？因为它就像一个竞技场，所有张量都在这个固定大小的内存池里分配。

Tensor Arena 本质上就是一个大数组。解释器会在这个数组里为每个张量分配空间。分配策略是：

• 静态分配：所有张量的大小在 AllocateTensors() 时就确定了
• 复用内存：不同生命周期的张量可以共用同一块内存
• 固定大小：Arena 大小在创建解释器时指定，运行期间不能改变

你想想看，为什么要有 Arena？因为嵌入式系统没有动态内存分配（malloc/free），或者有但很慢。Arena 一次性分配好所有内存，推理过程中不再申请释放，效率极高。

我建议你记住这个公式：

但实际项目中，我通常先给一个较大的值（比如 100KB），然后通过 interpreter.arena_used_bytes() 查看实际使用量，再逐步调小。这样最稳妥。

4.4 算子注册与解析

模型里的每个算子，都需要在解释器里注册才能运行。TFLite Micro 提供了两种注册方式：

方式	类名	特点
全部注册	AllOpsResolver	注册所有算子，方便但占用 Flash 大
按需注册	MicroMutableOpResolver	只注册需要的算子，节省 Flash

我强烈建议用 MicroMutableOpResolver。为什么？因为嵌入式设备的 Flash 很宝贵。全部注册可能多出几十 KB 的代码空间。按需注册，只加你真正用到的算子。

// 按需注册示例
static tflite::MicroMutableOpResolver<6> resolver;

// 添加需要的算子
resolver.AddConv2D();
resolver.AddMaxPool2D();
resolver.AddFullyConnected();
resolver.AddSoftmax();
resolver.AddReshape();
resolver.AddQuantize();

算子解析的过程是这样的：

1. 解释器读取模型中的 operator_codes
2. 在注册表中查找对应的算子实现
3. 如果找不到，返回错误
4. 如果找到，绑定算子的输入输出张量
5. 推理时，按顺序执行每个算子

嗯，这里要注意一点：不同版本的 TFLite Micro，算子名称可能略有不同。比如 Conv2D 在有些版本里叫 AddConv2D，有些叫 AddBuiltin。建议查看你使用的版本头文件。

4.5 知识结构总览

这一章的内容，我用一张图帮你理清关系：

这张图把四个核心知识点串起来了。模型文件是输入，解释器是引擎，Tensor Arena 是内存仓库，算子注册是功能清单。缺一个都不行。

好了，这一章的内容就到这里。记住这些基础概念，后面做内存调优和图像识别时，你会感谢今天打下的基础。