VIP10
本课程属于：031-AI系统安全与模型风险治理 网络通信与数字安全工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI系统安全架构工程

共计 30 章节
可可资料掘金营 · 点击在线试看
01
AI系统安全架构工程导论
目标=AI系统安全的核心概念 · 威胁图谱 · 架构工程视角与课程学习路径
AI系统安全架构工程…
02
AI系统资产与信任边界建模
目标=模型 · 数据 · 提示词
AI系统资产
03
AI系统威胁建模实战
目标=面向LLM应用 · Agent系统与ML流水线的STRI… · LINDDUN
AI系统威胁建模实战
04
AI系统安全需求工程
目标=从业务目标推导机密性 · 完整性 · 可用性
AI系统安全需求工程
05
AI系统安全架构原则与模式
目标=纵深防御 · 最小权限 · 零信任
AI系统安全架构原则
06
模型供应链安全架构
目标=预训练模型 · 微调权重 · 适配器与模型仓库的完整性验证
模型供应链安全架…目标=预训练模型
07
训练数据安全与隐私架构
目标=数据采集 · 标注 · 存储
训练数据安全隐私架构
08
AI系统身份与访问控制架构
目标=用户 · 服务 · 模型
AI系统身份
09
AI系统密钥与机密管理架构
目标=API密钥 · 模型权重 · 训练凭证与推理机密的存储
AI系统密钥
10
AI推理服务安全架构
目标=模型服务API · 批处理与流式推理的认证 · 限流
AI推理服务安全架构
11
提示注入与越狱防御架构
目标=直接与间接提示注入的检测 · 隔离 · 上下文净化
提示注入越狱防御架构
12
AI系统输出安全与内容治理架构
目标=有害内容 · 幻觉 · 敏感信息泄露与代码注入的输出过滤
AI系统输出安全
13
RAG系统安全架构
目标=向量数据库 · 检索器 · 嵌入模型与生成器的投毒
RAG系统安全架构
14
Agent系统安全架构
目标=工具调用 · 规划 · 记忆与多Agent协作的权限隔离
Agent系统安全架构
15
AI系统多租户隔离架构
目标=租户数据 · 模型 · 缓存与日志的逻辑与物理隔离
AI系统多租户隔离架…
16
AI系统网络安全架构
目标=API网关 · 服务网格 · mTLS
AI系统网络安全架构
17
AI系统日志、审计与可观测性安全架构
目标=安全事件日志 · 模型调用链追踪 · 审计不可抵赖与SIEM/SOAR集成
AI系统日志
18
AI系统安全监控与异常检测架构
目标=模型行为基线 · 漂移检测 · 滥用检测
AI系统安全监控
19
AI系统对抗攻击与鲁棒性架构
目标=对抗样本 · 数据投毒 · 模型窃取与成员推理攻击的威胁分析与防…
AI系统对抗攻击
20
AI模型保护与知识产权安全架构
目标=模型水印 · 指纹 · 混淆
AI模型保护
21
AI系统隐私增强架构
目标=差分隐私 · 安全多方计算 · 同态加密与可信执行环境在训练和推理中…
AI系统隐私增强架构
22
AI系统安全测试与红队工程
目标=威胁驱动测试 · 提示注入红队 · 模型评估
AI系统安全测试
23
AI系统安全开发与MLSecOps
目标=安全需求 · 设计 · 编码
AIMLSecOps
24
AI系统合规与治理架构
目标=EU AI Act · NIST AI RMF · ISO/IEC 42001等框架的映…
AI系统合规
25
AI系统事件响应与恢复架构
目标=AI安全事件分类 · 遏制 · 取证
AI系统事件响应
26
AI系统安全架构文档与评审
目标=架构决策记录 · 安全设计文档 · 威胁模型报告与架构评审流程的工程实践
AI系统安全架构文档
27
云原生AI系统安全架构
目标=Kubernetes · 容器 · 服务网格与无服务器推理的安全配置
AI云原生
28
边缘与终端AI系统安全架构
目标=设备端模型 · 联邦学习 · OTA更新与物理攻击面的安全架构设计
AI边缘
29
AI系统安全架构案例研究
目标=金融 · 医疗 · 自动驾驶与政务领域真实AI系统的安全…
AI系统安全架构案例…
30
AI系统安全架构工程综合实战
目标=从需求 · 威胁建模 · 架构设计
AI系统安全架构工程…