所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

提示词工程师的提示词安全课程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 提示词安全的重要性与现实案例
课程导入学习目标
02
提示词基础回顾
提示词工程核心概念 · 常见提示词类型 · 提示词与模型交互原理
提示词基础回顾提示词工程核心概…
03
安全威胁全景
提示词注入 · 越狱攻击 · 数据泄露
安全威胁全景提示词注入
04
提示词注入攻击详解
直接注入 · 间接注入 · 多轮注入
提示词注入攻击详…直接注入
05
越狱攻击与对抗样本
常见越狱模式（如DAN · 角色扮演 · 逻辑绕过）
越狱攻击对抗样本
06
数据隐私与泄露风险
提示词中的敏感信息 · 训练数据记忆 · 输出泄露
数据隐私泄露风险
07
提示词安全评估框架
安全评估维度 · 风险等级划分 · 评估指标与测试方法
提示词安全评估框…安全评估维度
08
防御策略总览
输入过滤 · 输出过滤 · 权限控制
防御策略总览输入过滤
09
输入侧防御技术
提示词清洗 · 指令隔离 · 分隔符使用
输入侧防御技术提示词清洗
10
输出侧防御技术
输出验证 · 内容过滤 · 脱敏处理
输出侧防御技术输出验证
11
模型与系统级防护
系统提示词加固 · 权限隔离 · 沙箱环境
模型系统级防护
12
安全提示词设计模式
安全指令模板 · 角色限定 · 格式约束
安全提示词设计模…安全指令模板
13
红队与蓝队实战演练
模拟攻击与防御对抗 · 漏洞挖掘 · 安全测试流程
红队蓝队实战演练
14
案例实战
电商客服机器人提示词注入防御实战
案例实战电商客服机器人提…
15
案例实战
企业知识库问答系统的数据泄露防护实战
案例实战企业知识库问答系…
16
案例实战
代码生成助手的恶意代码注入与安全过滤…
案例实战代码生成助手的恶…
17
案例实战
多模态提示词安全（图像 · 音频 · 视频）的威胁与防御
案例实战多模态提示词安全
18
提示词安全工具与平台
主流安全工具 · 开源库 · 自动化检测平台的使用
提示词安全工具平台
19
安全测试自动化
编写安全测试脚本 · 集成CI/CD · 持续监控与告警
安全测试自动化编写安全测试脚本
20
常见问题与误区
安全防御的常见错误 · 过度过滤的副作用 · 平衡安全与可用性
常见问题误区
21
安全与合规
法律法规（如GDPR · CCPA） · 行业标准
安全合规
22
提示词安全伦理
负责任AI · 滥用防范 · 透明度
提示词安全伦理AI
23
高级攻击手法
多步推理攻击 · 编码绕过 · 语义混淆
高级攻击手法多步推理攻击
24
高级防御技术
对抗训练 · 提示词加密 · 动态隔离
高级防御技术对抗训练
25
安全评估报告撰写
如何编写漏洞报告 · 风险评估报告 · 安全改进建议
安全评估报告撰写如何编写漏洞报告
26
安全运营与应急响应
安全事件监测 · 响应流程 · 恢复策略
安全运营应急响应
27
综合实战项目
设计一个安全的提示词系统（从需求分析…
综合实战项目设计一个安全的提…
28
综合实战项目
对现有提示词应用进行安全审计并输出改…
综合实战项目对现有提示词应用…
29
前沿趋势与未来挑战
大模型安全研究动态 · 提示词安全新威胁 · AI安全生态
前沿趋势未来挑战
30
课程总结与认证考核
核心知识回顾 · 实战技能考核 · 安全工程师成长路径与资源推荐
课程总结认证考核