1、AI模型部署概述：为什么要在MCU上跑AI？
各位同学好，我是老周。做嵌入式AI这行快十年了，踩过的坑比吃过的盐还多。今天咱们聊聊一个很实际的问题——为什么非要在MCU上跑AI？
你想想看，现在随便一个手机都能跑大模型，云端服务器更是算力爆棚。但现实是，大量工业现场、消费电子、传感器节点，根本连不上云，或者不允许有网络延迟。我去年帮一个工厂做产线质检，设备就在车间角落，网络时断时续，云端推理根本不可靠。最后方案就是——本地MCU搞定。
核心观点：MCU上跑AI不是为了炫技，而是解决“最后一公里”的实时性、隐私性和成本问题。
1.1 为什么要在MCU上跑AI？
说白了，三个字：快、省、稳。
- 实时性：数据采集到推理输出，延迟控制在毫秒级。云端来回至少几百毫秒，工业控制根本等不起。
- 隐私性：数据不出设备，不上云。医疗、金融、军工场景，这是硬性要求。
- 成本与功耗：一颗MCU几块钱到几十块钱，功耗毫瓦级。云端方案光通信模块就比MCU贵。
我记得2019年有个客户要做智能门锁的人脸识别。云端方案每年还要交服务费，用户隐私也存疑。最后我们用STM32F4加一个小模型，本地搞定，成本降了80%。
我的经验：不是所有AI应用都需要上云。先问自己三个问题——延迟要求多少？数据能不能出设备？成本预算多少？答案往往指向MCU。
1.2 STM32Cube.AI生态介绍
ST官方这套工具链，我用了四年。从最早的STM32CubeMX插件，到现在的STM32Cube.AI Developer Cloud，生态越来越完善。咱们先看看整体架构：
这套生态的核心优势在于：从训练到部署，一条龙打通。你不需要自己写推理引擎，不需要手动优化算子。STM32Cube.AI自动把模型转成C代码，还帮你做量化、内存优化。
| 工具/组件 | 功能 | 我的评价 |
|---|---|---|
| X-CUBE-AI | 模型导入、转换、验证、代码生成 | 最常用，支持TensorFlow/PyTorch/ONNX |
| STM32CubeMX | 工程配置、外设初始化、AI集成 | 必装，图形化操作省心 |
| STM32Cube.AI Developer Cloud | 在线模型优化、基准测试 | 新出的，云端跑benchmark很方便 |
| STM32 AI Model Zoo | 预训练模型库 | 拿来即用，适合快速验证 |
避坑指南：我曾经在STM32CubeMX里直接导入一个没量化的float32模型，结果RAM直接爆了。记住——MCU上跑AI，量化是必须的。后面我们会专门讲量化策略。
1.3 课程目标与学习路径
这门课不是讲理论，是讲实战。30章内容，我带你把一个完整的AI模型从训练到部署到MCU上跑通。咱们的目标很明确：
- 能选型：知道什么模型适合MCU，什么模型不适合
- 能转换：熟练使用STM32Cube.AI工具链
- 能优化：掌握量化、剪枝、内存优化技巧
- 能调试：遇到性能瓶颈知道怎么定位和解决
学习路径我建议这样走：
- 基础篇（第1-5章）：了解生态、搭建环境、跑通第一个demo
- 工具篇（第6-12章）：深入STM32Cube.AI，掌握模型转换和量化
- 优化篇（第13-20章）：内存优化、算子加速、多模型管理
- 实战篇（第21-30章）：三个完整项目，从需求到交付
我的建议：别急着跳章节。我见过太多人直接跳到优化篇，结果基础概念没搞懂，遇到问题一脸懵。每章后面的练习一定要动手做，光看是学不会的。
嗯，第一章就到这里。记住一句话：MCU上跑AI不是魔法，是工程。后面咱们一步步拆解。