VIP10
本课程属于：031-AI系统安全与模型风险治理 网络通信与数字安全工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI模型安全测试与验证

共计 30 章节
可可资料掘金营 · 点击在线试看
01
AI模型安全测试与验证导论
目标=课程目标 · 安全测试与验证的定义 · AI模型全生命周期安全风险概览
AI模型安全测试
02
AI模型安全威胁建模
目标=针对AI系统的STRIDE · MITRE ATLAS · OWASP ML Top 10
AI模型安全威胁建模
03
测试环境与工具链搭建
目标=隔离测试环境 · 模型服务化部署 · 常用安全测试工具（如CleverHa…
测试环境工具链搭建
04
数据安全测试
目标=训练数据隐私泄露检测 · 成员推理攻击测试 · 数据投毒检测
数据安全测试目标=训练数据隐…
05
模型鲁棒性测试基础
目标=对抗样本生成原理 · FGSM · PGD
模型鲁棒性测试基…目标=对抗样本生…
06
图像模型对抗测试实战
目标=针对图像分类模型的对抗攻击与防… · 使用ART工具完成端到端测试任务
图像模型对抗测试…目标=针对图像分…
07
文本模型对抗测试实战
目标=针对文本分类与生成模型的对抗攻… · 字符扰动 · 提示注入）与测试方法
文本模型对抗测试…目标=针对文本分…
08
语音模型安全测试
目标=语音识别与合成模型的对抗攻击 · 后门攻击测试 · 音频扰动生成与评估
语音模型安全测试目标=语音识别
09
模型后门与木马检测
目标=后门注入方法 · 触发器设计 · 后门检测技术（Neural Clea…
模型后门木马检测
10
模型窃取与知识产权保护测试
目标=模型提取攻击 · 功能等价提取 · 水印嵌入与验证
模型窃取知识产权保护测试
11
成员推理与隐私泄露测试
目标=成员推理攻击原理 · 影子模型训练 · 隐私泄露评估指标
成员推理隐私泄露测试
12
模型公平性与偏差测试
目标=公平性定义 · 偏差检测指标（ demographi… · equalized odds）
模型公平性偏差测试
13
可解释性与安全验证
目标=SHAP · LIME · 注意力可视化在安全测试中的应用
可解释性安全验证
14
大语言模型安全测试概述
目标=LLM特有风险（越狱 · 提示注入 · 数据泄露
大语言模型安全测…LLM
15
大语言模型越狱与提示注入测试
目标=越狱攻击方法（角色扮演 · 编码绕过） · 提示注入检测
大语言模型越狱提示注入测试
16
大语言模型输出安全测试
目标=有害内容检测 · 事实性验证 · 幻觉检测
大语言模型输出安…目标=有害内容检…
17
AI模型供应链安全测试
目标=预训练模型来源验证 · 第三方组件漏洞扫描 · 模型序列化安全
AI模型供应链安全测…
18
模型部署与API安全测试
目标=模型API接口测试 · 认证授权测试 · 速率限制绕过
API模型部署
19
模型监控与运行时安全验证
目标=运行时异常检测 · 漂移检测 · 对抗输入实时检测
模型监控运行时安全验证
20
自动化安全测试框架
目标=基于CI/CD的模型安全测试流… · 自动化对抗测试 · 持续验证与回归测试
自动化安全测试框…CI/CD
21
安全测试报告与漏洞管理
目标=漏洞分级 · 测试报告撰写 · 修复建议
安全测试报告漏洞管理
22
AI模型安全验证方法与标准
目标=形式化验证 · 抽象解释 · 区间分析在神经网络验证中的应用
AI模型安全验证方法
23
对抗训练与防御验证
目标=对抗训练 · 蒸馏防御 · 输入预处理防御的测试与验证方法
对抗训练防御验证
24
联邦学习安全测试
目标=联邦学习中的投毒攻击 · 梯度泄露 · 聚合安全测试
联邦学习安全测试目标=联邦学习
25
强化学习模型安全测试
目标=RL智能体对抗攻击 · 奖励黑客测试 · 环境扰动测试
强化学习模型安全…RL
26
多模态模型安全测试
目标=图文跨模态对抗攻击 · 模态缺失与不一致测试 · 多模态后门检测
多模态模型安全测…目标=图文跨模态…
27
AI模型安全测试实战项目一
目标=针对图像分类系统的完整安全测试… · 对抗测试 · 后门检测
AI模型安全测试实战…
28
AI模型安全测试实战项目二
目标=针对大语言模型应用的安全测试（… · 提示注入 · 输出过滤验证
AI模型安全测试实战…
29
AI模型安全测试实战项目三
目标=针对联邦学习系统的安全测试（投… · 隐私泄露测试 · 防御验证
AI模型安全测试实战…
30
课程总结与前沿展望
目标=核心知识回顾 · AI安全测试未来趋势 · 自动化与标准化发展
课程总结前沿展望