VIP15
本课程属于：093-模型审计与AI治理 智能金融与金融工程 · 共 15 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

生成式AI提示词与输出控制审计实战

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=生成式AI审计的兴起背景 · 学习目标 · 核心概念与整体课程框架
课程导入AI
02
生成式AI基础
目标=大语言模型工作原理 · 提示词工程 · 输出生成机制与常见应用场景
AI生成式
03
提示词与输出控制审计概述
目标=审计定义 · 目标 · 范围
提示词输出控制审计概述
04
审计框架与标准
目标=国内外AI治理法规 · 伦理准则 · 审计标准（如ISO/IEC 4200…
审计框架标准
05
提示词设计审计
目标=提示词清晰度 · 完整性 · 无歧义性
提示词设计审计目标=提示词清晰…
06
输出控制机制审计
目标=内容过滤 · 敏感信息脱敏 · 格式约束
输出控制机制审计目标=内容过滤
07
审计流程与方法论
目标=从计划 · 风险识别 · 证据收集
审计流程方法论
08
风险识别与评估
目标=提示词泄露 · 输出偏见 · 幻觉
风险识别评估
09
审计证据收集技术
目标=日志分析 · 提示词-输出对采样 · 自动化测试脚本
审计证据收集技术目标=日志分析
10
提示词注入与越狱审计实战
目标=常见攻击模式（直接注入 · 间接注入 · 角色扮演）及审计检测方法
提示词注入越狱审计实战
11
输出内容安全审计实战
目标=有害内容分类 · 仇恨言论 · 暴力
输出内容安全审计…目标=有害内容分…
12
事实性与幻觉审计实战
目标=事实核查方法 · 知识库比对 · 引用溯源与置信度评估
事实性幻觉审计实战
13
偏见与公平性审计实战
目标=性别 · 种族 · 年龄等偏见检测指标
偏见公平性审计实战
14
隐私与数据保护审计实战
目标=PII识别 · 数据泄露路径 · 合规要求（GDPR
隐私数据保护审计实战
15
知识产权与版权审计实战
目标=训练数据来源 · 输出内容相似度检测 · 版权风险与合规建议
知识产权版权审计实战
16
提示词与输出控制审计工具链
目标=开源与商业工具介绍（如Lang… · Garak · PromptInject）
提示词输出控制审计工具…
17
自动化审计脚本开发
目标=使用Python调用API · 批量测试 · 结果分析与可视化报告生成
自动化审计脚本开…Python
18
案例实战一
目标=客服聊天机器人提示词与输出控制…
案例实战一目标=客服聊天机…
19
案例实战二
目标=内容生成平台（新闻/营销文案）…
案例实战二目标=内容生成平…
20
案例实战三
目标=代码生成助手提示词注入与输出漏…
案例实战三目标=代码生成助…
21
案例实战四
目标=医疗健康领域生成式AI输出准确…
案例实战四AI
22
常见问题与挑战
目标=审计标准缺失 · 模型黑盒 · 动态更新
常见问题挑战
23
审计报告撰写
目标=结构 · 发现分级 · 风险评级
审计报告撰写目标=结构
24
持续审计与监控
目标=建立KPI · 自动化监控告警 · 定期复测与模型迭代后的审计更新
持续审计监控
25
综合提升一
目标=从审计到治理——建立企业级生成…
综合提升一目标=从审计到治…
26
综合提升二
目标=红队测试与对抗性审计——模拟攻…
综合提升二目标=红队测试
27
综合提升三
目标=跨文化与大模型多语言输出审计的…
综合提升三目标=跨文化
28
综合提升四
目标=审计师能力模型与职业发展——技… · 伦理 · 法律与沟通的复合能力
综合提升四目标=审计师能力…
29
课程总结与回顾
目标=核心知识点串讲 · 审计思维培养与常见误区澄清
课程总结回顾
30
实战项目
目标=分组完成一个完整的生成式AI提…
实战项目AI