VIP13
本课程属于：011-AI应用、监管与人工智能法务 法务法规 · 共 13 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

企业内部生成式AI使用治理与风险控制

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入与治理全景
目标=明确企业内部生成式AI使用治理… · 边界与核心挑战 · 建立风险控制与业务赋能的平衡视角
课程导入治理全景
02
生成式AI在企业中的典型使用场景与风险图谱
目标=梳理文本生成 · 代码辅助 · 知识问答
AI生成式
03
治理组织与责任体系设计
目标=定义董事会 · AI治理委员会 · 法务合规
治理组织责任体系设计
04
生成式AI使用政策与员工行为准则
目标=制定可接受使用政策 · 禁止行为清单 · 审批流程
AI生成式
05
数据分类分级与输入输出管控
目标=建立企业数据分类分级标准 · 明确哪些数据可输入生成式AI · 哪些必须脱敏或禁止
数据分类分级输入输出管控
06
供应商与模型选型风险评估
目标=评估公有云API · 私有化部署 · 开源模型与混合方案的安全
供应商模型选型风险评估
07
提示词安全与注入攻击防护
目标=识别直接提示注入 · 间接提示注入 · 越狱与数据泄露攻击
提示词安全注入攻击防护
08
生成内容的事实性与幻觉控制
目标=建立事实核查流程 · 引用溯源机制 · 人工复核节点与置信度标注
生成内容的事实性幻觉控制
09
知识产权与版权合规治理
目标=分析生成内容的版权归属 · 训练数据侵权风险 · 商标与专利冲突
知识产权版权合规治理
10
隐私保护与个人信息合规
目标=结合个人信息保护法 · GDPR等要求 · 设计告知同意
隐私保护个人信息合规
11
模型输出偏见与公平性审查
目标=识别性别 · 种族 · 地域等偏见来源
模型输出偏见公平性审查
12
安全测试与红队演练
目标=设计针对生成式AI应用的对抗测… · 越狱测试 · 数据提取测试与红队演练方案
安全测试红队演练
13
访问控制与身份权限管理
目标=实施最小权限 · 多因素认证 · 角色分离
访问控制身份权限管理
14
日志审计与可追溯性建设
目标=定义需记录的交互日志 · 元数据与留存期限 · 建立审计追踪
日志审计可追溯性建设
15
内容标识与AI生成内容披露
目标=落实生成内容水印 · 元数据标注 · 用户告知与内部披露要求
AI内容标识
16
人工监督与人在回路机制
目标=设计高风险场景的人工审核 · 升级路径 · 否决权与责任归属
人工监督回路机制
17
事件响应与危机管理
目标=制定生成式AI相关数据泄露 · 有害输出 · 系统滥用等事件的响应预案
事件响应危机管理
18
合规映射与监管要求落地
目标=梳理国内外生成式AI相关法律法… · 标准与行业指引 · 建立合规义务清单与差距整改计划
合规映射监管要求落地
19
风险评估方法论与治理成熟度模型
目标=引入风险矩阵 · 场景化评估 · 控制有效性评价与成熟度分级
风险评估方法论治理成熟度模型
20
治理指标与绩效度量
目标=定义风险事件率 · 合规覆盖率 · 员工培训完成率
治理指标绩效度量
21
员工培训与安全意识文化建设
目标=设计分层培训 · 模拟演练 · 安全提示与举报渠道
员工培训安全意识文化建设
22
采购与合同中的AI风险条款
目标=在供应商合同中明确数据使用 · 安全责任 · 审计权
AI采购
23
模型生命周期治理
目标=覆盖需求 · 开发 · 测试
模型生命周期治理目标=覆盖需求
24
私有化部署与本地模型治理
目标=针对本地部署场景 · 设计网络隔离 · 模型加固
私有化部署本地模型治理
25
多模态与Agent化应用的风险控制
目标=分析图像 · 语音 · 视频生成及自主Agent带来的新风险
Agent多模态
26
业务连续性与依赖风险管理
目标=评估对单一模型供应商 · API服务与算力的依赖 · 制定降级方案
业务连续性依赖风险管理
27
内部审计与独立监督
目标=建立定期审计 · 渗透测试 · 合规检查与第三方评估机制
内部审计独立监督
28
跨部门协作与治理运营
目标=设计治理委员会会议 · 风险评审 · 例外审批与知识共享流程
跨部门协作治理运营
29
实战工作坊
目标=为企业设计一套生成式AI使用治… · 政策起草 · 控制设计与实施路线图
实战工作坊AI
30
课程总结与持续治理演进
目标=回顾核心治理要素与风险控制方法 · 制定个人行动计划 · 跟踪技术
课程总结持续治理演进