VIP20
本课程属于：023-TinyML安全启动、模型保护与设备可信 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

11. TinyML对抗样本风险：端侧模型误判与鲁棒性测试

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
TinyML与对抗样本风险概述 · 学习目标 · 课程路径与实战环境准备
课程导入TinyML
02
TinyML基础回顾
端侧模型特点（资源受限 · 量化 · 剪枝
TinyML基础回顾
03
对抗样本基础
定义 · 分类（白盒/黑盒/灰盒） · 常见攻击类型（FGSM
对抗样本基础定义
04
端侧模型误判场景
真实案例（语音 · 视觉 · 传感器）中对抗扰动如何导致误判
端侧模型误判场景真实案例
05
对抗样本生成原理
梯度扰动 · 优化目标 · 扰动约束（L0/L1/L2/L∞）与…
对抗样本生成原理梯度扰动
06
TinyML特有攻击面
量化误差 · 有限精度 · 内存限制对攻击成功率的影响
TinyML特有攻击面
07
白盒攻击在TinyML上的实现
基于梯度的攻击在量化模型上的适配与挑…
TinyML白盒攻击
08
黑盒攻击与迁移性
替代模型 · 查询攻击 · 基于决策的攻击在端侧的应用
黑盒攻击迁移性
09
物理世界对抗样本
光照 · 遮挡 · 角度变化对端侧模型（如摄像头
物理世界对抗样本光照
10
对抗样本防御基础
对抗训练 · 输入预处理 · 随机化
对抗样本防御基础对抗训练
11
鲁棒性测试方法论
评估指标（攻击成功率 · 鲁棒性准确率 · 扰动预算）
鲁棒性测试方法论评估指标
12
端侧鲁棒性基准与数据集
常用数据集（ImageNet · CIFAR · 语音命令
端侧鲁棒性基准数据集
13
工具与框架
TensorFlow Lite · PyTorch Mobile · Adversarial Robust…
工具框架
14
实战任务1
在TinyML视觉模型（如Mobil…
实战任务1TinyML
15
实战任务2
使用PGD攻击量化后的TFLite模… · 对比全精度与量化模型的鲁棒性差异
实战任务2PGD
16
实战任务3
构建黑盒攻击（基于迁移或查询）攻击端…
实战任务3构建黑盒攻击
17
实战任务4
实施对抗训练（在端侧模型上）并测试鲁…
实战任务4实施对抗训练
18
实战任务5
设计输入预处理防御（如JPEG压缩 · 特征去噪）并评估对TinyML模型的…
实战任务5JPEG
19
端侧模型误判分析
混淆矩阵 · 错误样本可视化 · 误判原因归因
端侧模型误判分析混淆矩阵
20
鲁棒性测试自动化
构建测试流水线 · 集成到CI/CD · 持续监控模型鲁棒性
鲁棒性测试自动化构建测试流水线
21
常见问题与陷阱
梯度消失 · 量化抖动 · 内存溢出
常见问题陷阱
22
性能与鲁棒性权衡
在资源受限下如何平衡准确率 · 延迟与防御强度
性能鲁棒性权衡
23
对抗样本在TinyML中的最新研究
神经架构搜索 · 鲁棒量化 · 联邦学习中的对抗风险
TinyML对抗样本
24
行业应用与合规
智能家居 · 工业IoT · 医疗可穿戴设备中的对抗风险与安全标准
行业应用合规
25
综合案例
从零构建一个端侧人脸识别系统的对抗鲁…
综合案例从零构建一个端侧…
26
综合案例
端侧异常检测模型（如振动传感器）的对…
综合案例端侧异常检测模型
27
综合提升
设计一个鲁棒性测试实验 · 撰写报告并给出改进建议
综合提升设计一个鲁棒性测…
28
课程项目
团队协作完成一个TinyML对抗样本… · 涵盖攻击 · 防御
课程项目TinyML
29
总结与展望
TinyML对抗样本风险的核心要点 · 未来趋势 · 学习资源推荐
TinyML对抗样本风险的核…
30
结课考核
综合笔试与实操 · 验证学员对端侧模型误判与鲁棒性测试的…
结课考核综合笔试