第1章
AI安全概述
AI安全定义 · 威胁分类 · 发展历程 · 重要性
基础概念
第2章
对抗攻击基础
对抗样本 · 白盒/黑盒 · FGSM/PGD · 评估指标
攻击算法
第3章
对抗防御基础
对抗训练 · 防御蒸馏 · 输入变换 · 梯度掩码
防御鲁棒性
第4章
数据投毒攻击
投毒原理 · 后门攻击 · 标签翻转 · 数据清洗
投毒后门
第5章
模型逆向攻击
模型逆向 · 成员推断 · 属性推断 · 差分隐私
隐私逆向
第6章
模型窃取攻击
窃取场景 · 查询窃取 · 侧信道 · 模型水印
窃取水印
第7章
联邦学习安全
联邦基础 · 梯度泄露 · 拜占庭攻击 · 安全聚合
联邦聚合
第8章
大语言模型安全（一）
提示注入 · 越狱攻击 · 提示泄露 · 对抗提示
LLM注入
第9章
大语言模型安全（二）
幻觉 · 有害内容 · 隐私泄露 · RLHF对齐
对齐RLHF
第10章
AI供应链安全
模型验证 · 依赖库安全 · 签名校验 · MLOps
供应链MLOps
第11章
AI安全评估框架
评估指标 · 红队测试 · 自动化工具 · 基准数据集
评估红队
第12章
AI安全法规与伦理
EU AI Act · 生成式AI管理办法 · 伦理 · 可解释AI
法规伦理
第13章
密码学在AI中的应用
同态加密 · 安全多方计算 · 联邦加密 · 性能权衡
密码学加密
第14章
差分隐私实战
定义 · 拉普拉斯/高斯 · 隐私预算 · DP-SGD
差分隐私实战
第15章
对抗样本生成实战
FGSM · PGD · 对抗样本可视化
对抗样本生成
第16章
对抗防御实战
对抗训练 · 防御蒸馏 · 防御评估 · 自适应攻击
防御实战
第17章
数据投毒检测实战
异常检测 · 激活聚类 · 频谱分析 · 后门逆向
检测后门
第18章
模型水印与指纹
水印嵌入 · 提取验证 · 指纹识别 · 版权保护
水印版权
第19章
安全聚合协议实现
安全聚合 · 秘密共享 · 梯度压缩 · 容错机制
聚合协议
第20章
大模型红队测试
红队方法论 · Garak/PyRIT · 测试用例 · 结果分析
红队LLM
第21章
提示注入防御实战
输入过滤 · 权限最小化 · 提示分隔 · 输出验证
防御注入
第22章
AI安全监控与日志
日志设计 · 异常检测 · 实时监控 · 告警响应
监控日志
第23章
模型卡与安全文档
Model Card · 安全评估报告 · 透明度报告 · 自动化
文档模型卡
第24章
AI安全工具链
ART · CleverHans · Foolbox · TensorFlow Privacy
工具库
第25章
安全机器学习流水线
安全数据管道 · 训练环境 · 部署策略 · 持续监控
流水线MLOps
第26章
AI安全案例分析（一）
对抗攻击案例 · 数据投毒 · 模型窃取诉讼
案例真实
第27章
AI安全案例分析（二）
ChatGPT泄露 · 自动驾驶 · 医疗/金融AI安全
大模型行业
第28章
AI安全认证与考试准备
CISSP AI · CEH AI · 认证路径 · 模拟试题
认证考试
第29章
AI安全前沿研究
对抗新范式 · 后门防御 · 可证明安全 · AGI安全
前沿研究
第30章
AI安全综合实战项目
端到端评估 · 安全加固 · 报告撰写 · 答辩准备
项目综合