1. 课程导入

TinyML（微型机器学习）正从实验室原型走向量产部署，但一个残酷的现实是：超过60%的嵌入式AI项目在从开发板原型向产品化迁移时遭遇失败。失败原因往往不是模型精度不够，而是评估维度单一——开发者只盯着准确率，却忽略了模型在目标硬件上的真实内存占用、推理延迟、功耗预算、数值稳定性以及长期部署风险。本课程旨在系统性地解决这一问题，帮助你建立一套完整的TinyML评估报告编写方法论，使评估报告真正成为项目决策的“仪表盘”而非“事后总结”。

1.1 TinyML评估报告的价值定位

TinyML评估报告不是一份简单的测试记录，而是一份面向决策的技术契约。它的核心价值体现在三个层面：技术验证——证明模型在目标硬件上确实可用；风险预警——提前暴露可能导致项目延期或失败的隐患；沟通桥梁——让算法团队、嵌入式团队、产品团队和供应链团队在同一份文档上对齐认知。

以实际项目为例：某智能家居公司开发一款基于Cortex-M4F的语音唤醒词检测模块，算法团队在PC上训练的模型准确率达到97%，但部署到MCU后，由于8-bit量化导致的精度损失、以及麦克风阵列的噪声差异，实际唤醒率骤降至82%。如果没有一份结构化的评估报告，这个问题可能要到量产前才发现，造成数周返工。而一份规范的评估报告会在早期就量化“量化精度损失”和“真实场景鲁棒性”这两个关键指标，让团队提前决策：是更换更大Flash的芯片，还是优化模型结构，或是增加后处理逻辑。

评估维度	无报告时的典型问题	有报告时的决策支持
模型精度	只报告Top-1准确率，忽略类别不均衡	提供混淆矩阵、F1-score、每类召回率
资源占用	仅看Flash/RAM总量，未考虑峰值	给出内存峰值、栈深度、堆碎片风险
推理性能	用开发板测速，未考虑最终PCB布局	标注时钟频率、Flash等待状态、温度影响
功耗预算	只测平均电流，忽略脉冲峰值	提供电流波形、峰值/均值比、电池寿命估算
部署风险	未评估芯片供货周期和替代方案	列出备选芯片、引脚兼容性、软件迁移成本

1.2 目标读者与阅读场景

不同角色的读者从评估报告中获取的信息完全不同。编写报告时必须明确读者画像，否则容易陷入“技术细节过多”或“信息过于笼统”两个极端。

• 嵌入式软件工程师：关注RAM/Flash的精确数值、外设接口占用、中断延迟、DMA通道冲突、以及模型推理是否阻塞主循环。他们需要看到内存映射表、时序图、以及与其他任务的时间片竞争分析。
• 算法/ML工程师：关注量化策略、精度损失分布、输入数据分布偏移、以及是否有进一步压缩模型的空间。他们需要看到量化前后逐层的输出对比、异常输入下的行为表现。
• 产品经理/项目经理：关注开发周期、成本、风险等级、以及是否满足产品规格书中的性能指标。他们需要一份“执行摘要”，用通俗语言说明“能做什么、不能做什么、需要多少资源”。
• 质量/认证团队：关注测试环境、测试方法、数据采集规范、以及是否符合行业标准（如IEC 61508功能安全、GDPR隐私要求）。他们需要可追溯的测试记录和版本信息。
• 供应链/采购：关注芯片的长期供货能力、替代料兼容性、以及不同批次芯片的性能一致性。他们需要看到芯片选型建议和风险评估。

在实际项目中，一份评估报告往往需要同时满足上述所有读者的需求。因此，报告结构应当采用“金字塔原理”：最前面是执行摘要（面向管理层），中间是详细技术数据（面向工程师），最后是附录（面向审计和追溯）。

1.3 报告在项目生命周期中的作用

TinyML评估报告不是一次性的交付物，而是贯穿项目全生命周期的“活文档”。在V模型开发流程中，评估报告在不同阶段扮演不同角色：

1. 需求分析阶段（预研评估）：此时报告用于可行性判断——在给定硬件约束下，现有模型能否达到目标精度？通常只需要粗略估算，但必须明确“估算误差范围”。
2. 模型选型阶段（对比评估）：对2-3个候选模型（如MobileNetV2、EfficientNet-Lite、自定义轻量模型）进行横向对比，输出对比矩阵，帮助团队选择最优方案。
3. 开发验证阶段（迭代评估）：每次模型优化或量化调整后，更新报告中的关键指标。此时报告是团队内部沟通的主要工具，记录每次变更带来的影响。
4. 量产决策阶段（最终评估）：这是最正式的版本，需要包含完整的测试报告、风险清单、以及“通过/有条件通过/不通过”的明确结论。该版本将作为产品放行的依据。
5. 运维监控阶段（持续评估）：产品上市后，通过OTA日志和用户反馈持续监控模型表现。如果发现精度漂移或资源异常，需要启动新一轮评估。

1.4 本课程的学习路径与成果

本课程共30章，按照“基础→方法→实战→进阶”四个阶段组织。你将系统学习如何编写一份专业、完整、可执行的TinyML评估报告。

阶段	章节范围	核心能力
基础篇	第1-5章	理解评估框架、指标定义、报告结构
方法篇	第6-15章	掌握模型指标、资源指标、性能指标的测量方法
实战篇	第16-25章	针对不同硬件平台（MCU、DSP、NPU）编写报告
进阶篇	第26-30章	处理多模型调度、安全认证、长期运维等复杂场景

完成本课程后，你将具备以下能力：

• 独立编写能力：能够从零开始，针对任意TinyML项目编写一份结构完整、数据翔实、结论明确的评估报告。
• 指标解读能力：能够准确解读各项指标的含义，识别数据中的异常和矛盾，判断哪些指标对当前项目最关键。
• 风险预判能力：能够提前识别部署风险（如Flash容量不足、推理延迟超标、功耗超预算），并给出可操作的缓解方案。
• 沟通协调能力：能够用报告作为沟通工具，让不同背景的团队成员快速达成共识，推动项目决策。
• 持续优化能力：能够将评估报告与CI/CD流程结合，实现模型部署的自动化质量门禁。

1.5 评估报告的核心框架

在深入各章节之前，我们先建立一个全局视角。一份完整的TinyML评估报告应包含以下七个核心模块，本课程将逐一展开讲解：

1. 项目背景与目标：明确产品功能、目标硬件、性能指标（如唤醒率≥95%、延迟≤100ms、功耗≤5mW）。
2. 模型描述：模型架构、输入/输出规格、训练数据集、量化方案（如INT8、FP16）。
3. 硬件环境：MCU型号、主频、Flash/RAM容量、外设配置、电源方案。
4. 评估方法：测试数据集、测试工具、测量仪器、环境条件（温度、电压波动）。
5. 指标结果：模型精度、资源占用、推理性能、功耗数据，以表格和图表呈现。
6. 风险分析：技术风险、供应链风险、安全风险，附缓解措施和备选方案。
7. 结论与建议：明确“通过/有条件通过/不通过”，列出必须解决的问题和可选的优化方向。

这个框架是后续所有章节的“骨架”。在接下来的课程中，我们将逐一填充每个模块的具体内容、测量方法和常见陷阱。请记住：评估报告的最终目的不是“写一份文档”，而是“做出正确的技术决策”。