课程导入：边缘AI与RISC-V向量扩展的概述、学习路径、课程目标与适用人群
边缘人工智能（Edge AI）正在重塑嵌入式系统与物联网的产业格局。与依赖云端数据中心的大模型推理不同，边缘AI要求在功耗受限、算力有限、时延敏感的设备端直接完成数据采集、预处理、推理甚至增量学习。这一转变带来了一个核心矛盾：传统嵌入式处理器（如ARM Cortex-M/A系列）的SIMD指令集（如NEON）在矩阵运算、卷积计算等AI负载上效率不足，而GPU/NPU方案又往往受限于成本、功耗和生态碎片化。RISC-V向量扩展（RVV，RISC-V Vector Extension）的出现，为这一矛盾提供了优雅的指令集级解决方案——它通过可变向量长度（VLEN）、向量寄存器分组（LMUL）和谓词执行（Masking）等机制，让同一份代码在不同微架构上自动适配算力规模，从而成为边缘AI加速的重要技术路线。
本课程的设计遵循“原理→指令→算子→系统→实战”的递进逻辑。第一章作为总纲，首先厘清边缘AI的技术需求与RISC-V向量扩展的对应关系，然后给出课程的整体学习路径、目标人群和预期收获。我们不会在一开始就陷入指令细节，而是先建立宏观认知框架——理解为什么RVV是边缘AI加速的关键拼图，以及你将通过怎样的路径掌握它。
1.1 边缘AI的技术挑战与RVV的应对思路
核心原理：边缘AI负载（如实时目标检测、关键词唤醒、传感器融合）具有三个显著特征：计算模式高度规则（大量重复的乘加运算）、数据并行性显著（同一操作应用于不同数据元素）、实时性约束严格（推理延迟需控制在数十毫秒内）。传统通用处理器（GPP）的标量执行单元一次只能处理一个数据，效率低下；而专用NPU虽然性能高，但灵活性差、开发周期长。RVV通过向量寄存器（可配置为128位至1024位甚至更长）和向量指令（如vadd、vfmacc、vle32等），让处理器单条指令即可完成多个数据的并行运算，且向量长度可动态配置，兼顾了性能与灵活性。
| 对比维度 | 标量处理器（无向量扩展） | 传统SIMD（如NEON） | RISC-V向量扩展（RVV） |
|---|---|---|---|
| 数据并行粒度 | 1个数据/指令 | 固定宽度（如128位） | 可变宽度（VLEN可配置） |
| 编程模型 | 标准C/汇编 | 需适配固定寄存器宽度 | 代码自动适配不同硬件 |
| 扩展性 | 无 | 受限于架构固定宽度 | 同一代码跨代兼容 |
| 适合负载 | 控制流密集 | 多媒体/简单并行 | AI/信号处理/科学计算 |
| 工具链成熟度 | 非常成熟 | 较成熟 | 快速成熟中（GCC/LLVM） |
判断方法：如何判断一个边缘AI场景是否适合采用RVV加速？可依据以下三条标准：第一，算法中是否存在大量可并行的循环（如卷积的滑窗计算、矩阵乘的累加操作）；第二，数据精度是否可接受INT8/FP16等低精度表示（RVV支持多种数据类型）；第三，系统是否对功耗和实时性有硬性要求（RVV可在低主频下通过并行获得高吞吐）。如果三条均满足，RVV将是极具竞争力的加速方案。
1.2 课程学习路径与阶段划分
操作流程：本课程共30章，分为五个递进阶段，每阶段约6章。建议学习者按顺序推进，但可根据基础跳过部分章节。具体路径如下：
- 基础与原理（第1-6章）：RISC-V架构基础、RVV规范详解（VLEN/ELEN/LMUL）、向量寄存器与内存模型、开发环境搭建（QEMU/真实硬件）。
- 指令集与编程（第7-12章）：向量加载/存储指令、算术与逻辑指令、归约与掩码操作、内联汇编与Intrinsics编程、编译器自动向量化。
- 算子与算法（第13-18章）：卷积算子优化（im2col+GEMM）、矩阵乘与矩阵分解、激活函数（ReLU/Sigmoid）向量化、池化与归一化、经典CNN（LeNet/ResNet）实现。
- 系统与优化（第19-24章）：内存层次优化（DMA/缓存）、多核并行与同步、功耗管理（DVFS/时钟门控）、性能剖析工具（perf/llvm-mca）、混合精度量化。
- 项目实战（第25-30章）：关键词唤醒（KWS）系统、实时目标检测（YOLO-tiny）、传感器融合异常检测、端侧部署与OTA更新、综合项目评审。
案例拆解：以第25章的“关键词唤醒系统”为例，该实战项目将综合运用前24章知识。项目背景：在智能音箱中实现“你好，小智”的唤醒词检测，要求功耗低于50mW，响应时间小于100ms。初始方案采用Cortex-M7+NPU，但NPU成本过高。改用RISC-V内核（支持RVV 1.0，VLEN=256）后，通过以下步骤实现：①将MFCC特征提取中的FFT运算向量化（第14章知识）；②将DNN推理中的矩阵乘用RVV的vfmacc指令优化（第15章）；③采用INT8量化将模型压缩至200KB（第24章）；④利用RVV的掩码指令实现流式推理（第17章）。最终实测功耗42mW，响应时间85ms，满足需求。该案例展示了从算法到指令的完整映射过程。
1.3 课程目标与适用人群
核心原理：本课程的目标是培养具备“算法理解-指令映射-系统优化”三位一体能力的边缘AI工程师。学员完成课程后，应能独立完成从模型选型、RVV算子实现、系统集成到性能调优的全流程工作。课程强调“知其然更知其所以然”——不仅教授如何写向量代码，更深入讲解编译器如何生成向量指令、硬件如何执行向量操作、内存带宽如何成为瓶颈。
适用人群：
- 嵌入式软件工程师：希望掌握RVV编程，提升AI应用开发能力。
- AI算法工程师：需要将模型高效部署到RISC-V平台，理解底层硬件约束。
- 芯片验证/软件栈工程师：需要了解RVV指令语义，编写测试用例或优化工具链。
- 在校学生/研究人员：对开源指令集架构和边缘计算感兴趣，希望开展相关研究。
常见误区与总结复盘：初学者常陷入两个误区：一是“重指令轻系统”，认为学会几条向量指令就能加速，忽略了内存布局、数据搬运和缓存命中率对性能的决定性影响；二是“重代码轻算法”，不分析算法本身的并行度，盲目向量化导致收益甚微。本课程在每一阶段都强调系统视角——例如在算子优化章节，不仅给出向量化代码，还对比了不同内存布局（NCHW vs NHWC）对性能的影响，并引入Roofline模型帮助学员分析性能瓶颈。
通过本章的概述，你已经建立了对边缘AI与RVV结合的整体认知。接下来的章节将深入RVV的指令细节，从向量寄存器配置开始，逐步构建你的向量编程能力。建议在学习过程中，始终带着“这个指令如何服务于我的AI算法”的思考，将知识串联成体系。