第4章 图片审核
涉政 · 涉黄 · 暴恐识别技巧 & OCR文字识别应对
图片审核是内容安全的第一道防线。本章聚焦三大高危类别(涉政、涉黄、暴恐)的视觉特征与识别方法,同时深入讲解OCR文字在图片中的隐藏风险及应对策略。掌握这些技巧,能大幅提升审核准确率与响应速度。
4.1 涉政图片识别技巧
涉政图片通常包含敏感人物、旗帜、标志性建筑、地图轮廓、政治性手势或文字。审核员需关注以下维度:
核心要点: 人物肖像(现任/历史领导人)、党旗国旗军旗、天安门/人民大会堂等标志建筑、台湾/南海等地图变形、政治标语或涂鸦。
4.2 涉黄图片识别技巧
涉黄内容不仅包括裸露与性行为,还涵盖软色情、性暗示姿势、特殊场景(如酒店/按摩房)及低俗漫画。AI模型与人工审核需协同判断。
| 类别 | 典型特征 | 审核要点 |
|---|---|---|
| 裸露/性行为 | 生殖器官、性交动作 | 严格零容忍,直接删除 |
| 软色情 | 透视装、湿身、挑逗表情 | 结合场景与文案判断 |
| 低俗漫画/二次元 | 夸张性征、暗示性分镜 | 参考平台分级标准 |
| 性暗示姿势 | 特定舞蹈、瑜伽动作 | 注意文化差异与语境 |
4.3 暴恐图片识别技巧
暴恐内容包含武器、爆炸物、血腥暴力、恐怖组织标志、行刑/虐待场景。需注意游戏/影视截图与真实暴恐的边界。
关键信号: 枪支刀具、爆炸装置、ISIS/东突等组织旗帜、斩首/虐待图像、军事设施、敏感着装(如特定头套)。
4.4 OCR文字识别应对
图片中的文字(字幕、海报、手写、截图)可能携带违规信息。OCR技术可提取文字,但需应对对抗样本、字体变形、遮挡等挑战。
常见OCR绕过手段
- 文字扭曲/艺术字 — 使用非标准字体、旋转、波浪形排列。
- 背景干扰 — 加入噪点、线条、水印或低对比度。
- 字符拆分/组合 — 用符号隔开敏感词(如“法 轮 功”)。
- 同音/形近字替换 — “六四”写成“陆肆”或“6.4”。
OCR审核话术示例
// 当OCR识别到疑似违规文字时的内部话术
"图片OCR提取到敏感词【xxx】,置信度92%。
建议:① 人工二次确认文字区域;
② 比对敏感词库变体(同音/形近);
③ 若确认违规,按涉政/涉黄/暴恐流程处置。"