第一章 课程导入：嵌入式AI概述、课程目标、学习路径与典型应用场景
嵌入式人工智能（Embedded AI）是将深度学习、机器学习算法部署到资源受限的嵌入式设备上，使其具备本地感知、推理与决策能力的技术体系。与依赖云端算力的传统AI不同，嵌入式AI强调在功耗、内存、算力、带宽等多重约束下实现实时智能。本章作为整个课程的起点，将系统梳理嵌入式AI的技术版图、产业需求与学习路径，帮助学习者建立全局认知框架，明确“为什么学、学什么、怎么学”的核心问题。
1.1 嵌入式AI的核心概念与技术边界
嵌入式AI并非简单地将AI模型“塞进”嵌入式设备，而是一个涉及算法、硬件、软件、系统协同设计的交叉领域。其核心矛盾在于：深度学习模型通常需要大量计算资源和存储空间，而嵌入式设备在功耗、成本、体积、散热等方面有严格限制。因此，嵌入式AI的本质是在“模型表达能力”与“设备资源约束”之间寻找最优平衡点。
从技术栈角度看，嵌入式AI包含四个关键层次：算法层（模型结构设计、训练策略）、优化层（量化、剪枝、蒸馏等压缩技术）、工具链层（模型转换器、编译器、运行时）、硬件层（NPU、DSP、GPU等异构计算单元）。这四个层次相互依赖，任何一个环节的短板都会影响最终部署效果。
1.2 课程目标与学习成果
本课程面向具备一定深度学习基础（熟悉CNN、RNN等基本网络结构）和嵌入式开发经验（了解C/C++、Linux基础操作）的工程师，旨在培养学员独立完成从PyTorch/TensorFlow模型到嵌入式设备高效部署的全链路能力。具体学习目标如下：
| 能力维度 | 具体目标 | 对应章节 |
|---|---|---|
| 模型转换 | 掌握PyTorch/TensorFlow模型导出为ONNX、TFLite等中间格式的方法，处理自定义算子与动态shape问题 | 第3-5章 |
| 量化部署 | 理解PTQ与QAT原理，熟练使用INT8/INT16量化工具，掌握精度损失评估与恢复方法 | 第6-9章 |
| 工具链使用 | 熟练使用TensorRT、RKNN、NCNN、TFLite Micro等主流部署工具链，理解其底层优化机制 | 第10-15章 |
| 性能优化 | 掌握算子融合、内存复用、多线程/多核调度、NPU/DSP异构计算等优化手段 | 第16-20章 |
| 系统集成 | 能够在RTOS/Linux环境下完成AI应用开发，处理实时性、功耗、稳定性等工程问题 | 第21-25章 |
| 项目实战 | 独立完成2-3个完整项目（如人脸检测、缺陷识别、语音唤醒）的部署与调优 | 第26-30章 |
1.3 典型应用场景深度解析
嵌入式AI的应用场景极为广泛，不同场景对算力、功耗、时延的要求差异巨大。理解这些差异有助于在项目初期做出正确的技术选型。以下选取三个最具代表性的场景进行剖析。
场景一：智能家居——低功耗与隐私保护
智能家居设备（如智能音箱、智能门锁、摄像头）通常采用电池供电或低功耗AC供电，对功耗极其敏感。以智能门锁的人脸识别为例，设备需要在毫瓦级功耗下完成人脸检测、活体检测、特征比对等任务。典型方案是采用带有NPU的低功耗SoC（如恒玄BES2600、瑞芯微RV1106），配合INT8量化后的轻量级模型（如MobileFaceNet、ShuffleNetV2）。
该场景的核心挑战在于：唤醒功耗（设备需长期待机，语音/视觉唤醒模块需保持常开）与识别精度的平衡。实践中常采用“两级唤醒”策略——先用极低功耗的MCU运行关键词检测（KWS）模型，唤醒后再启动高性能NPU进行人脸识别。
场景二：工业视觉——高精度与实时性
工业质检（如PCB缺陷检测、钢材表面缺陷识别）对检测精度和实时性要求极高。一条产线通常需要每秒处理30-60帧图像，且漏检率需控制在0.1%以下。此类场景多采用高性能边缘计算盒子（如Jetson Orin、RK3588），部署经过剪枝和蒸馏优化的YOLOv5/YOLOv8模型。
工业场景的特殊性还体现在环境稳定性与长期可靠性。设备需在粉尘、高温、振动等恶劣环境下7×24小时运行，对散热设计、内存泄漏防护、看门狗机制等提出了额外要求。此外，工业数据往往涉及产线机密，无法上传云端，进一步强化了本地部署的必要性。
场景三：自动驾驶——安全关键与多模态融合
自动驾驶是嵌入式AI最具挑战性的应用场景。以L2+级辅助驾驶为例，车辆需同时处理摄像头（视觉）、毫米波雷达、超声波雷达等多传感器数据，在100ms内完成目标检测、车道线识别、障碍物测距等任务。其计算平台通常采用“车规级SoC + 独立NPU”架构，如英伟达Orin、地平线征程5、黑芝麻A1000。
该场景的核心技术难点包括：多传感器时间同步（不同传感器帧率不同）、安全冗余（需设计双通道校验）、功能安全认证（ISO 26262 ASIL-B/D等级）。模型部署时需额外考虑“确定性计算”——同一输入必须产生完全一致的输出，这对浮点运算的舍入模式、算子实现的一致性提出了严格要求。
1.4 学习路径与前置知识准备
嵌入式AI的学习路径可以概括为“一条主线、三个支点、两个闭环”。一条主线是指“模型转换→量化→部署→优化”的完整流程；三个支点分别是深度学习基础、嵌入式系统基础、Linux/C++编程能力；两个闭环是指“精度闭环”（训练精度→部署精度→精度恢复）和“性能闭环”（基准性能→瓶颈分析→优化迭代）。
建议学习者按照以下阶段推进学习：
- 基础巩固阶段（2-3周）：复习深度学习核心概念（卷积、池化、BN层、激活函数），熟悉PyTorch或TensorFlow的基本操作；掌握Linux常用命令、交叉编译、Makefile/CMake构建系统。
- 工具链入门阶段（3-4周）：选择一款主流工具链（推荐从NCNN或TFLite Micro入手，因其开源、文档完善、社区活跃），完成一个简单分类模型的端到端部署。
- 量化与优化阶段（4-6周）：深入理解量化原理（对称/非对称、per-tensor/per-channel），实践PTQ和QAT流程；学习算子融合、内存布局优化等高级技巧。
- 项目实战阶段（6-8周）：选择1-2个真实项目（如口罩检测、手势识别、OCR），从数据准备到部署调优完整走通，并输出性能分析报告。
1.5 常见误区与学习建议
总结复盘：本章作为课程导入，建立了嵌入式AI的整体认知框架。核心要点包括：嵌入式AI是算法与硬件的协同设计；课程目标覆盖转换、量化、部署、优化全链路；三大典型场景（智能家居、工业视觉、自动驾驶）对算力、功耗、时延的要求差异显著；学习路径应遵循“基础→工具→优化→实战”的递进节奏。下一阶段，我们将从模型转换的基础——ONNX中间表示开始，逐步深入嵌入式AI部署的技术细节。