01
AI安全概述
AI系统面临的威胁、渗透测试的重要性、测试伦理与法律边界。
基础伦理
02
环境搭建
搭建AI渗透测试实验室（Kali Linux、Docker、AI框架安装）。
工具Kali
03
信息收集
目标AI系统资产发现、API接口探测、模型信息泄露侦察。
侦察API
04
对抗样本攻击
FGSM、PGD攻击原理与实操，使用CleverHans库。
对抗CleverHans
05
模型逆向工程
通过API查询窃取模型架构与参数（模型提取攻击）。
窃取逆向
06
数据投毒攻击
训练数据注入恶意样本，影响模型决策边界。
投毒数据
07
提示注入攻击
针对LLM的提示词注入、越狱攻击与防御。
LLM注入
08
模型后门攻击
植入后门触发器，实现特定输入下的恶意行为。
后门触发器
09
AI供应链安全
第三方模型库、预训练模型的安全审计。
供应链审计
10
隐私泄露攻击
成员推断攻击、属性推断攻击实操。
隐私推断
11
模型窃取攻击
基于查询的模型窃取、基于侧信道的模型窃取。
窃取侧信道
12
对抗性补丁攻击
物理世界中的对抗性补丁生成与测试。
补丁物理
13
AI系统API安全
REST API、gRPC接口的渗透测试方法。
APIgRPC
14
模型序列化安全
Pickle、ONNX、TensorFlow SavedModel的漏洞利用。
序列化Pickle
15
AI系统认证与授权
JWT令牌攻击、OAuth2.0安全测试。
JWTOAuth
16
AI系统输入验证
对抗性输入过滤绕过、特殊字符注入。
输入绕过
17
模型解释性攻击
利用SHAP、LIME解释结果进行攻击。
可解释SHAP
18
联邦学习安全
梯度泄露、恶意聚合攻击与防御。
联邦梯度
19
强化学习安全
奖励函数操纵、环境对抗攻击。
强化奖励
20
生成式AI安全
Deepfake检测绕过、生成内容安全测试。
Deepfake生成
21
AI系统日志与监控
安全日志分析、异常检测规则编写。
日志监控
22
AI系统容器安全
Docker镜像漏洞扫描、Kubernetes安全配置。
容器K8s
23
AI系统网络隔离
微服务架构下的网络渗透测试。
网络微服务
24
AI系统数据存储安全
数据库注入、对象存储权限测试。
存储注入
25
AI系统配置安全
环境变量泄露、配置文件硬编码密码。
配置泄露
26
AI系统依赖库安全
Python库漏洞扫描、CVE利用测试。
依赖CVE
27
AI系统Web安全
XSS、CSRF、SSRF在AI平台中的应用。
XSSSSRF
28
AI系统移动端安全
移动AI应用的逆向与安全测试。
移动逆向
29
AI系统合规测试
GDPR、CCPA对AI系统的安全要求。
合规GDPR
30
综合实战演练
模拟真实AI系统渗透测试全流程。
实战综合