第1章 · 审核认知
基础必修 什么是内容审核 · 审核的重要性 · 审核员的职业素养
📌 什么是内容审核 Content Moderation
内容审核是指通过人工或技术手段，对用户生成内容（UGC）及平台发布内容进行合规性、安全性、价值观等方面的检查与过滤，确保内容符合法律法规、平台规则及公序良俗。
📋 审核对象
- 文本（评论、帖子、私信）
- 图片（表情包、海报、摄影）
- 视频（短视频、直播、长视频）
- 音频（语音、音乐、播客）
- 链接 / 小程序 / 商品信息
⚙️ 审核模式
- 机器审核 — 图像识别、NLP、音频指纹
- 人工审核 — 专业审核员二次研判
- 人机协同 — 机器预审 + 人工抽检/兜底
- 用户举报 — 众包式辅助审核
🔥 审核的重要性 为什么需要审核
| 维度 | 说明 | 风险等级 |
|---|---|---|
| 法律合规 | 避免涉政、涉黄、涉暴、涉恐等违法内容传播，防止平台承担连带责任 | 极高 |
| 社区安全 | 过滤诈骗、谣言、网暴、仇恨言论，保护用户免受伤害 | 高 |
| 品牌声誉 | 维护平台清朗形象，提升用户信任与留存 | 中 |
| 商业价值 | 保障广告主安全，避免优质内容被劣质信息淹没 | 中 |
🧠 审核员的职业素养 核心能力模型
🔍 敏感度
对违规内容、隐晦表达、擦边信息的快速识别能力
⚖️ 公正性
不偏不倚，严格依据规则，避免主观情绪影响判断
🧘 抗压性
面对大量负面内容保持心理稳定，不产生职业倦怠
📚 学习力
快速掌握新规、新热点、新变体，持续迭代认知
// 审核员每日自检清单（示例） 1. 今日规则更新是否已学习？ → 是 / 否 2. 是否有拿不准的案例需要升级？ → 记录编号 3. 情绪状态自评 (1-5) → 不低于3 4. 审核准确率目标 ≥ 99.2%