2. AI应用场景与数据流盘点
数据隐私合规的起点不是写制度,而是把企业里真实运行的AI应用“摊开来看”。很多企业做合规时容易陷入一个误区:先写一份通用隐私政策,再套到所有AI系统上。但推荐系统、风控模型、智能客服和生成式AI对个人信息的依赖方式完全不同——推荐系统关心行为轨迹,风控关心身份与信用,客服关心对话内容,生成式AI则可能把上述所有信息都“吃”进去。因此,本节的核心任务是完成一份可落地的AI应用数据映射表,把每个AI场景涉及的个人信息类型、数据来源、处理环节和流转路径逐一标注清楚。
一、先分类:四类典型AI应用的数据特征
企业内AI应用虽然形态各异,但从个人信息处理角度看,可以归为四类,每类的数据特征和合规敏感点差异明显。
推荐类应用(商品推荐、内容推荐、广告投放)主要处理行为数据:浏览记录、点击序列、停留时长、购买历史、搜索关键词。这些数据本身不直接标识自然人,但通过用户ID、设备ID可以间接关联到个人。推荐系统的数据来源通常是埋点日志和业务数据库,处理环节包括特征抽取、向量化、召回排序,流转路径一般是“客户端埋点→日志采集→特征平台→模型服务→推荐结果返回”。
风控类应用(信贷审批、反欺诈、交易监控)处理的是身份与信用数据:身份证号、手机号、银行卡号、设备指纹、IP地址、征信记录、联系人信息。这类数据敏感度高,且往往涉及第三方数据源(征信机构、公安核验接口)。处理环节包括规则引擎、模型评分、人工复核,流转路径更复杂,可能跨系统、跨机构。
客服类应用(智能问答、语音客服、工单分类)处理的是对话与交互数据:用户提问文本、语音录音、通话记录、订单号、账号信息。如果客服系统接入大模型,对话内容还可能被用于模型微调或上下文缓存,这是容易被忽略的二次使用风险。
生成式AI应用(文档生成、代码辅助、营销文案、知识问答)处理的是用户主动输入的内容:提示词、上传的文档、粘贴的表格、对话历史。风险在于用户可能无意中把客户名单、合同条款、员工信息粘贴进对话框,导致个人信息进入第三方模型服务商。
二、数据映射表的字段设计
一份可用的数据映射表,至少应包含以下字段:AI应用名称、业务归属部门、个人信息类型(区分直接标识、间接标识、敏感个人信息)、数据来源(用户直接提供、系统自动采集、第三方共享、内部衍生)、处理环节(采集、存储、使用、加工、传输、提供、删除)、流转路径(从哪个系统到哪个系统,是否出境,是否经过第三方模型)、法律依据(同意、合同必要、法定义务等)、风险等级与备注。
字段不必一次求全,但“个人信息类型—来源—处理环节—流转路径”这四列是核心,缺一不可。下面这张SVG图展示了四类AI应用在数据流上的典型差异,可作为盘点时的参照框架。
三、盘点实操:从系统清单到映射表
实际盘点时,建议按以下顺序推进,避免遗漏。
第一步,拉系统清单。从IT资产台账、采购合同、云服务账单中提取所有涉及AI能力的系统。注意,AI能力可能以API形式嵌入在业务系统中,不一定有独立的“AI系统”名称。例如,CRM里调用了第三方情感分析API,这也算一个AI处理环节。
第二步,逐系统访谈。找业务负责人和开发人员确认:这个AI功能用了哪些数据字段?数据从哪来?经过哪些中间系统?有没有调用外部模型?日志保留多久?访谈时不要只问“有没有个人信息”,而要问具体字段名,因为开发人员对“个人信息”的法律定义往往不敏感。
第三步,画流转路径。用“系统A→系统B→系统C”的方式标注数据流向,特别标注跨境传输、第三方共享、模型训练复用三个高风险节点。如果数据流经第三方大模型API,要确认该服务商是否将数据用于模型改进,以及数据存储位置。
第四步,标注法律依据与风险等级。对每个处理环节,标注依据是“同意”“合同必要”还是“法定义务”。敏感个人信息(身份证号、生物识别、金融账户、行踪轨迹、不满十四周岁未成年人信息)必须单独标注,并检查是否取得单独同意。
四、一个简化的映射表示例
以下表格展示某电商企业部分AI应用的数据映射结果,字段经过简化,实际使用时可根据企业情况扩展。
| AI应用 | 个人信息类型 | 数据来源 | 关键处理环节 | 流转路径 | 风险等级 |
|---|---|---|---|---|---|
| 商品推荐 | 浏览记录、点击序列、用户ID | 客户端埋点 | 特征抽取、召回排序 | 埋点→日志平台→特征库→推荐服务 | 中 |
| 信贷风控 | 身份证号、手机号、征信记录 | 用户提交、征信接口 | 规则引擎、模型评分 | 业务系统→风控平台→第三方征信→决策引擎 | 高 |
| 智能客服 | 对话文本、订单号、账号 | 用户对话、CRM | 意图识别、回复生成 | 对话入口→NLP服务→大模型API→回复 | 中高 |
| 营销文案生成 | 提示词中的客户姓名、产品信息 | 员工输入 | 上下文拼接、模型推理 | 员工端→API网关→第三方模型服务商 | 高 |
易遗漏点提醒:很多企业只盘点“用户侧”的AI应用,忽略了“员工侧”的AI工具。例如,HR用生成式AI筛选简历、财务用AI识别发票、研发用AI辅助写代码,这些场景同样处理个人信息,甚至涉及敏感个人信息。盘点范围应覆盖面向客户和面向员工两类AI应用。
五、盘点结果的后续用途
数据映射表不是一次性文档,而是后续合规工作的基础底稿。它直接支撑四件事:隐私政策撰写(明确告知用户哪些数据被AI处理)、个人信息保护影响评估(对高风险场景启动PIA)、数据出境申报(识别是否涉及跨境传输)、供应商管理(确认第三方模型服务商的数据处理条款)。建议每季度更新一次,尤其在新增AI功能或更换模型服务商时同步修订。
完成盘点后,企业应当能够回答一个基本问题:“我们的AI系统里,到底有哪些个人信息,从哪里来,经过谁的手,最后去了哪里?”如果这个问题答不清楚,后续的合规措施就缺乏根基。下一阶段的工作,将围绕盘点结果展开风险分级与整改优先级排序。