3. 用户知情权与透明度合规
用户知情权与透明度合规,核心不是“把隐私政策写长”,而是让用户在接触AI功能之前、使用过程中、以及被自动化决策影响之后,都能获得与其认知水平相匹配、与风险程度相称的真实信息。监管关注的重点通常落在三条线上:算法说明是否可理解、数据使用告知是否具体、自动化决策披露是否到位。三者不是并列的文档任务,而是同一条信息链上的不同节点。
一、算法说明:从“有算法”到“可理解”
算法说明的实务要求,不是公开模型权重或完整技术文档,而是向用户说明算法在业务中扮演什么角色、依据哪些主要因素、可能带来什么影响。以内容推荐为例,可披露为:“系统会根据你的浏览、停留、点赞和搜索记录,推测你可能感兴趣的内容类型,并调整展示顺序;推荐结果不改变内容本身,但会影响你看到哪些内容。”这类说明包含四个要素:输入信号、处理目的、输出形式、用户影响。
落地时建议采用分层披露:在功能入口用一句话说明“为什么你会看到这个”,在帮助中心提供较完整的算法说明页,在隐私政策中保留技术性更强的描述。三层内容一致,但粒度和语言不同。对于生成式AI,还应说明模型可能产生不准确或虚构内容,以及用户应如何核验。
二、数据使用告知:具体到字段、目的与期限
数据使用告知最容易犯的错误是“笼统授权”。合规写法应尽量落到数据类别、使用目的、处理方式、保存期限、共享对象五个字段。例如,某AI客服产品可写为:“为完成会话摘要,我们会处理你的对话文本和工单编号;对话文本用于生成摘要和质检,保存180天后删除;不会用于训练基础模型,除非你单独勾选授权。”这里的关键是区分“提供服务所必需”与“可选增强用途”,并把选择权交还给用户。
如果涉及生物识别、健康、金融账户、精确位置等敏感个人信息,应单独告知并取得单独同意。若数据用于模型训练,应明确训练数据的来源、是否包含用户内容、是否可撤回,以及撤回后对已训练模型的影响边界。
三、自动化决策披露:让用户知道“谁在决定”
自动化决策披露的重点,是让用户知道是否存在仅由机器作出的、对其权益有显著影响的决定,以及是否有申诉和人工干预渠道。典型场景包括:自动授信、自动定价、自动内容下架、自动简历筛选、自动风险标记。披露内容至少应包含:决策目的、主要逻辑、可能后果、用户权利。
例如,某招聘平台使用AI进行简历初筛,应告知候选人:“系统会根据岗位要求对简历进行匹配度评分,低分简历可能不进入人工查看;你可以申请人工复核。”这里的“申请人工复核”不是装饰性条款,而是透明度合规的实质要求。
四、落地模板:把披露写进产品流程
透明度合规不能只靠法务文档,必须嵌入产品流程。以下是一份可直接改造使用的AI功能透明度披露检查表,按功能上线前、上线中、上线后三个阶段组织。
| 阶段 | 检查项 | 合格示例 |
|---|---|---|
| 上线前 | 是否识别出自动化决策场景 | 简历初筛、自动授信、内容下架均标记为“显著影响” |
| 上线前 | 数据字段与目的是否逐项对应 | 对话文本→摘要;设备标识→风控;不写“用于改善服务” |
| 上线中 | 用户是否能在功能入口看到说明 | 推荐流首屏提供“为什么看到这个”入口 |
| 上线中 | 是否提供拒绝或关闭选项 | 个性化推荐可关闭;训练授权默认不勾选 |
| 上线后 | 是否有人工复核与申诉通道 | 自动拒绝后48小时内可申请人工复核 |
| 上线后 | 告知内容是否随算法迭代更新 | 推荐逻辑从“协同过滤”改为“多目标排序”时同步更新说明 |
五、常见误区与判断标准
第一个误区是把“同意”当成“知情”。用户勾选同意,不等于理解了算法如何影响自己。第二个误区是只披露数据收集,不披露数据使用后的决策后果。第三个误区是把自动化决策披露写成免责声明,只写“系统可能自动处理”,却不写处理逻辑和申诉方式。
判断透明度是否达标,可以用一个简单测试:让一位非技术用户阅读披露内容后,回答三个问题——“我的哪些数据被用了?”“系统会怎么影响我?”“我不同意或觉得不对时找谁?”如果三个问题都能得到明确答案,说明披露基本到位;如果只能回答第一个,说明数据使用告知合格,但算法说明和自动化决策披露仍需补强。
最后需要强调,透明度不是一次性动作。算法迭代、数据用途扩展、自动化决策范围变化,都会触发告知更新义务。建议将“透明度影响评估”纳入AI功能变更流程:只要涉及新的数据字段、新的决策场景或新的用户影响,就重新检查三层披露是否仍然准确、完整、可理解。