1、课程导入：TinyML概述、nRF Connect SDK与Zephyr简介、课程目标与学习路径
欢迎来到《nRF Connect SDK部署TinyML：Zephyr工程和模型集成方法》的第一章。在正式开始嵌入式机器学习（TinyML）的工程实践之前，我们需要先建立一个完整的认知框架：TinyML解决什么问题？nRF Connect SDK（NCS）和Zephyr RTOS在当中扮演什么角色？以及你将通过怎样的路径掌握这项技能。本章将帮助你理解从云端AI到端侧AI的范式转移，并为你后续的工程实践打下坚实的知识基础。
1.1 TinyML：为什么要在微控制器上运行机器学习
TinyML（Tiny Machine Learning）是机器学习与嵌入式物联网系统的交叉领域，其核心目标是在功耗受限、内存受限、计算能力受限的微控制器（MCU）上部署和运行机器学习模型。与云端AI不同，TinyML强调数据本地化处理和实时响应，避免了数据传输带来的延迟、带宽和隐私问题。
核心原理：从云端到边缘的范式转移
传统的AI应用通常依赖云端服务器进行推理，设备仅负责数据采集和结果展示。然而，在工业监测、可穿戴设备、智能家居等场景中，这种架构面临三大挑战：网络依赖性强（断网即失效）、功耗开销大（无线传输比本地计算更耗电）、隐私风险高（敏感数据外传）。TinyML通过将模型压缩到KB级别，直接在MCU上完成推理，使得设备能够在本地做出决策，仅在必要时才与云端通信。
| 对比维度 | 云端AI | TinyML（端侧AI） |
|---|---|---|
| 推理延迟 | 100ms - 数秒（含网络传输） | 1ms - 50ms（纯本地计算） |
| 功耗预算 | 设备端通信模块功耗高 | 整体功耗可低至mW级 |
| 内存需求 | GB级（服务器端） | 10KB - 500KB RAM |
| 数据隐私 | 数据需上传至第三方服务器 | 数据完全本地处理 |
| 离线可用性 | 依赖网络连接 | 完全离线运行 |
以Nordic nRF5340为例，其内置的Cortex-M33内核主频可达128MHz，拥有512KB RAM和1MB Flash。这样的资源足以运行经过量化的MobileNetV1（约100KB模型大小）或自定义的小型全连接网络。关键在于模型量化（从FP32降到INT8）和算子优化（使用CMSIS-NN等硬件加速库）。
1.2 nRF Connect SDK与Zephyr：嵌入式开发的现代基座
nRF Connect SDK（NCS）是Nordic Semiconductor推出的统一软件开发套件，它基于Zephyr RTOS构建，并集成了Nordic自家的协议栈（如SoftDevice Controller）、硬件驱动和应用层库。理解NCS与Zephyr的关系，是掌握TinyML部署的前提。
Zephyr RTOS的核心价值
Zephyr是一个开源、可扩展的实时操作系统，专为资源受限的设备设计。它提供了完整的线程调度、内存管理、设备驱动框架和设备树（Device Tree）机制。对于TinyML开发，Zephyr的以下特性尤为关键：
- 设备树（Device Tree）：通过DTS文件描述硬件资源，使得代码可以在不同开发板间无缝移植。例如，更换传感器时只需修改DTS中的I2C地址和中断引脚，无需改动应用逻辑。
- Kconfig配置系统：通过menuconfig或prj.conf文件灵活裁剪内核功能。在TinyML场景中，你可以关闭不需要的子系统（如蓝牙、USB）以节省RAM。
- 线程与同步机制：支持多线程并发，适合将传感器采集、预处理、推理和结果输出分配到不同优先级的线程中。
NCS的模块化架构
NCS在Zephyr之上增加了Nordic特有的驱动和库，例如nRF5340的双核通信（IPC）、低功耗蓝牙协议栈、以及电源管理模块。在TinyML工程中，NCS提供了两个重要工具：分区表（Partition Manager）和MCUboot引导程序。分区表允许你将Flash划分为应用区、模型存储区和配置区，而MCUboot则支持模型OTA升级——这意味着你可以远程更新模型而无需重新烧录整个固件。
# prj.conf 中典型的TinyML配置示例
CONFIG_MAIN_STACK_SIZE=4096
CONFIG_HEAP_MEM_POOL_SIZE=32768
CONFIG_CMSIS_NN=y
CONFIG_TFLITE_MICRO=y
CONFIG_SENSOR=y
CONFIG_GPIO=y
# 关闭不需要的功能以节省内存
CONFIG_BT=n
CONFIG_NETWORKING=n1.3 课程目标与学习路径
本课程的目标是让你能够独立完成一个完整的TinyML项目：从模型训练、量化转换，到在nRF5340开发板上通过Zephyr工程集成并运行推理。我们将采用“理论+实践”的双轨制教学，每章都配有可运行的代码示例和调试技巧。
学习路径规划
整个课程分为四个阶段，每个阶段都有明确的交付物：
- 基础准备（第1-5章）：掌握NCS环境搭建、Zephyr工程结构、设备树语法和GPIO/I2C/SPI外设驱动。交付物：一个能够读取温度传感器并通过串口打印数据的Zephyr工程。
- 模型转换与集成（第6-12章）：学习TensorFlow Lite for Microcontrollers（TFLM）的集成方法，包括模型转换为C数组、解释器初始化、输入输出张量绑定。交付物：在开发板上运行一个手势识别模型。
- 性能优化与高级特性（第13-20章）：深入CMSIS-NN加速、内存池优化、多线程推理流水线设计，以及低功耗模式下的推理调度。交付物：一个功耗低于1mW的持续监测系统。
- 实战项目与OTA（第21-30章）：完成一个端到端的工业预测性维护系统，包括数据采集、模型训练、部署和远程更新。交付物：可演示的完整产品原型。
案例拆解：从零开始的关键决策点
假设我们要做一个“基于加速度计的跌倒检测系统”。在课程初期，你会面临以下决策：
- 硬件选型：选择nRF5340 DK开发板，因为它有足够的RAM（512KB）运行TFLM，且板载BMI270加速度计。
- 数据采集策略：使用Zephyr的传感器驱动框架，以50Hz采样率读取三轴加速度数据，每2秒生成一个100帧的数据窗口。
- 模型设计：在PC端训练一个1D-CNN模型（输入形状100×3），通过量化感知训练将权重转为INT8，最终模型大小约15KB。
- 集成方式：将模型数组放在独立的Flash分区中，应用代码通过分区表API动态加载模型，而非硬编码在源码中。
这个案例贯穿整个课程，每个章节都会围绕它展开具体的技术细节。例如，在第8章你会学习如何将BMI270的原始数据通过DMA传输到内存缓冲区，避免CPU干预；在第15章你会使用CMSIS-NN的卷积函数替代TFLM默认的软件实现，将推理时间从80ms降低到25ms。