嵌入式AI基础：边缘计算与嵌入式AI概念、STM32系列MCU的AI能力、STM32Cube生态简介

在正式进入模型部署实操之前，必须先厘清三个底层问题：边缘计算与嵌入式AI的边界在哪里？STM32系列MCU凭什么能跑神经网络？STM32Cube生态如何支撑从训练到部署的完整链路？本章将围绕这三个问题展开，帮助你在动手编写代码之前，建立正确的硬件认知与工具链思维。很多初学者一上来就急着转换模型，结果在内存不足、外设冲突、推理延迟超标等问题上反复折腾，根源就在于对嵌入式AI的底层约束缺乏系统理解。

边缘计算与嵌入式AI：概念边界与核心约束

边缘计算（Edge Computing）是一种分布式计算范式，其核心思想是将数据处理能力下沉到靠近数据源头的网络边缘节点，而非全部依赖云端数据中心。嵌入式AI（Embedded AI）则是边缘计算在终端设备上的具体实现形态，特指在资源受限的微控制器（MCU）或微处理器（MPU）上直接运行机器学习推理任务。两者的关系可以概括为：边缘计算是宏观架构理念，嵌入式AI是微观落地技术。

理解这一概念时，需要明确三个关键判断维度：算力层级（MCU还是MPU）、数据路径（本地处理还是云端协同）、实时性要求（硬实时还是软实时）。在STM32的语境下，我们主要讨论的是MCU级别的嵌入式AI，其典型特征包括：RAM通常在几十KB到几MB之间，Flash在256KB到2MB以上，主频在80MHz到800MHz之间，且没有主动散热设计。

嵌入式AI的核心约束可以用"三堵墙"来概括：内存墙（模型权重和中间特征图放不下）、算力墙（乘加运算次数超出MCU处理能力）、功耗墙（推理功耗导致电池快速耗尽）。这三堵墙决定了在STM32上部署模型时，不能直接照搬云端训练好的浮点模型，而必须经过量化、剪枝、知识蒸馏等压缩手段。例如，一个MobileNetV1模型原始权重约16MB（FP32），量化到INT8后约4MB，再经过通道剪枝可能压缩到1.5MB左右，才能适配具有2MB Flash的STM32H7系列。

STM32系列MCU的AI能力：硬件加速与软件框架

STM32家族庞大，从低功耗的L0系列到高性能的H7系列，再到最新推出的N6/N3系列，AI能力差异巨大。判断一颗STM32是否适合部署目标检测模型，需要从算力、内存、外设接口三个维度进行评估。

从硬件层面看，STM32的AI能力分为三个梯队：第一梯队是带有专用NPU（神经网络处理单元）的STM32N6和STM32N3系列，算力可达8GOPS（INT8），能够流畅运行轻量级目标检测模型如MobileNet-SSD；第二梯队是高性能Cortex-M7内核的STM32H7系列，主频480MHz以上，配合Cube.AI优化后可以运行小型CNN模型，但帧率有限；第三梯队是Cortex-M4内核的F4/G4系列，算力较弱，适合极简模型或仅做特征提取。

// Cube.AI模型验证代码示例（伪代码）
#include "ai_platform.h"
#include "network.h"

AI_ALIGNED(4) static ai_u8 activations[AI_NETWORK_IN_ACTIVATIONS_SIZE];
static ai_handle network = AI_HANDLE_NULL;

int model_init(void) {
    ai_error err;
    const ai_network_params params = {
        AI_NETWORK_DATA_WEIGHTS(ai_network_data_weights_get()),
        AI_NETWORK_DATA_ACTIVATIONS(activations)
    };
    err = ai_network_create(&network, ¶ms);
    if (err.type != AI_ERROR_NONE) return -1;
    return 0;
}

int model_run(const float* input, float* output) {
    ai_i32 batch = 1;
    ai_buffer in_buff = AI_NETWORK_IN_1_BUFFER(input);
    ai_buffer out_buff = AI_NETWORK_OUT_1_BUFFER(output);
    return ai_network_run(network, &in_buff, &out_buff);
}