VIP10
本课程属于：031-AI系统安全与模型风险治理 网络通信与数字安全工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI模型安全评估与合规审计实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
AI模型安全概述
AI安全威胁全景、模型安全生命周期与合规审计基本概念，构建全局安全视野。
威胁全景生命周期合规基础
02
数据投毒攻击与防御
投毒攻击原理、后门攻击机制及数据清洗与验证策略，筑牢数据防线。
后门攻击数据清洗投毒防御
03
对抗性攻击与鲁棒性评估
FGSM/PGD攻击原理、对抗训练及鲁棒性基准测试，提升模型抗干扰能力。
FGSMPGD对抗训练
04
模型逆向与成员推断攻击
模型逆向攻击、成员推断攻击及差分隐私保护机制，守护隐私边界。
成员推断差分隐私逆向攻击
05
模型窃取与知识产权保护
模型窃取攻击、模型水印技术与联邦学习安全，捍卫模型资产。
水印技术联邦安全窃取防御
06
模型可解释性与透明度
SHAP/LIME原理、可解释性评估及透明度报告模板，打开模型黑箱。
SHAPLIME透明度
07
公平性与偏见审计
公平性度量指标、偏见检测方法与去偏算法实践，促进算法公正。
公平度量偏见检测去偏算法
08
隐私合规框架
GDPR/CCPA对AI的要求、隐私影响评估(PIA)及数据最小化原则。
GDPRCCPAPIA
09
模型卡与文档化
模型卡(Model Card)规范、数据表(Data Sheet)及系统卡(System Card)实践。
Model CardData Sheet文档化
10
AI供应链安全
第三方模型评估、开源模型风险及SBOM(软件物料清单)实践。
SBOM供应链开源风险
11
红队测试与渗透测试
AI红队方法论、对抗性测试流程及自动化测试工具，主动发现漏洞。
红队渗透测试自动化
12
模型监控与漂移检测
数据漂移检测、概念漂移检测及模型性能监控体系，保障持续可靠。
数据漂移概念漂移监控体系
13
日志审计与溯源
AI系统日志规范、审计链设计及事件响应流程，实现全链路追溯。
审计链日志规范事件响应
14
合规自动化工具
审计自动化框架、合规检查清单及CI/CD集成方案，提升合规效率。
自动化CI/CD检查清单
15
风险评估方法论
STRIDE/AI风险评估、威胁建模及风险矩阵设计，系统化风险识别。
STRIDE威胁建模风险矩阵
16
安全开发生命周期
微软SDL for AI、安全需求分析及安全设计评审，左移安全实践。
SDL安全需求设计评审
17
加密与安全计算
同态加密基础、安全多方计算及可信执行环境(TEE)，实现隐私计算。
同态加密安全多方计算TEE
18
联邦学习安全
梯度泄露防御、安全聚合协议及差分隐私联邦学习，保护协作训练。
梯度泄露安全聚合差分隐私
19
大语言模型安全
提示注入攻击、越狱攻击及内容安全过滤，筑牢LLM安全防线。
提示注入越狱攻击内容过滤
20
多模态模型安全
视觉模型攻击、语音模型攻击及跨模态安全风险，应对多维威胁。
视觉攻击语音攻击跨模态
21
强化学习安全
奖励篡改攻击、环境对抗攻击及安全约束学习，确保RL稳健。
奖励篡改环境对抗安全约束
22
生成式AI合规
AIGC标识规范、版权合规及内容审核机制，护航生成内容合法。
AIGC标识版权合规内容审核
23
行业合规标准
ISO/IEC 42001、NIST AI风险管理框架及EU AI Act解读，对标国际规范。
ISO 42001NISTEU AI Act
24
医疗AI合规
HIPAA合规要求、医疗设备认证及临床验证流程，保障医疗AI安全。
HIPAA设备认证临床验证
25
金融AI合规
模型可解释性要求、公平借贷审计及监管压力测试，满足金融监管。
可解释性公平借贷压力测试
26
自动驾驶安全
感知系统攻击、决策系统验证及功能安全标准(ISO 26262)，保障出行安全。
感知攻击ISO 26262决策验证
27
安全测试平台搭建
测试环境设计、攻击模拟工具及评估指标体系，构建实战演练场。
测试环境攻击模拟评估指标
28
审计报告撰写
审计报告结构、发现项分级及整改建议模板，输出专业审计成果。
报告结构发现项分级整改建议
29
应急响应与恢复
安全事件分类、响应SOP及恢复验证流程，快速处置安全事件。
事件分类响应SOP恢复验证
30
综合实战项目
端到端安全审计案例、合规认证准备及持续改进机制，融会贯通。
审计案例认证准备持续改进