VIP20

本课程属于：002-AI安全合规实战 网络安全工程与攻防实战 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

零基础入门AI安全合规

📚 共计 30 章节

AI安全合规概述

什么是AI安全？什么是AI合规？为什么需要关注AI安全合规？课程目标与学习路径。

AI伦理的定义、核心原则（透明度、公平性、问责制、隐私保护）、伦理困境案例分析。

全球AI法规概览

欧盟《人工智能法案》（AI Act）核心要点、美国AI行政命令、中国《生成式人工智能服务管理暂行办法》对比。

AI系统全生命周期风险（数据、模型、部署）、风险等级分类（不可接受风险、高风险、有限风险、极低风险）。

数据隐私与合规

GDPR与AI的关系、数据最小化原则、数据匿名化与假名化技术、数据主体权利（删除权、解释权）。

算法公平性与偏见

偏见来源（数据偏见、标注偏见、算法偏见）、公平性度量指标（均等机会、均等化赔率）、偏见缓解技术。

模型可解释性（XAI）

为什么需要可解释性？LIME、SHAP原理简介、可解释性在合规中的作用。

AI透明度与文档化

模型卡（Model Card）、数据清单（Datasheet）、系统日志与审计追踪。

文档透明度

AI安全测试与验证

对抗性攻击（FGSM、PGD）、鲁棒性测试、红队测试（Red Teaming）基础。

AI供应链安全

第三方模型与数据集的合规审查、开源模型许可证（如RAIL）、供应商风险评估。

供应链开源

内容安全与有害内容过滤

AI生成内容的检测（深度伪造、虚假信息）、内容审核机制、安全护栏（Guardrails）设计。

内容安全护栏

AI系统访问控制

身份认证、基于角色的访问控制（RBAC）、最小权限原则在AI系统中的应用。

访问控制RBAC

数据投毒攻击防御

训练数据投毒原理、防御策略（数据清洗、差分隐私训练、鲁棒聚合）。

模型窃取与逆向工程

模型提取攻击、成员推断攻击、防御措施（模型混淆、查询限制）。

AI合规审计流程

审计准备、证据收集、差距分析、整改计划、审计报告撰写。

AI风险管理框架

NIST AI风险管理框架（AI RMF）核心功能（映射、测量、管理、治理）。

行业特定合规

医疗AI（HIPAA、MDR）、金融AI（GDPR、巴塞尔协议）、自动驾驶（ISO 26262、UN R157）。

行业医疗·金融

AI合同与法律责任

AI服务等级协议（SLA）、责任归属（开发者vs使用者）、保险与赔偿条款。

AI伦理委员会建设

委员会组成、章程制定、伦理审查流程、案例决策机制。

伦理委员会治理

员工AI合规培训

培训内容设计、意识提升活动、考核与认证、持续教育计划。

AI事件应急响应

事件分类（数据泄露、模型失控、偏见爆发）、响应流程、通知义务与公关策略。

跨境AI数据流动

数据本地化要求、标准合同条款（SCCs）、充分性认定、跨境合规实践。

AI知识产权保护

AI生成内容的版权归属、训练数据的著作权、专利与商业秘密保护。

知识产权版权

开源许可证兼容性（MIT、Apache、GPL）、代码合规扫描工具（FOSSA、Black Duck）。

开源许可证

AI系统持续监控

性能漂移检测、概念漂移、合规指标仪表盘、自动告警机制。

AI合规工具与平台

合规管理软件（OneTrust、TrustArc）、AI安全平台（HiddenLayer、Protect AI）。

AI合规文档编写

合规政策模板、标准操作程序（SOP）、技术文档规范、版本控制。

AI合规案例研究

真实违规案例（如Clearview AI、Amazon招聘偏见）、教训与最佳实践。

AI合规未来趋势

监管沙盒、合成数据合规、通用AI（AGI）监管前瞻、国际标准（ISO/IEC 42001）。

综合实战项目

从零构建一个AI合规体系（需求分析、风险评估、控制实施、审计准备）。