2. AI合规监管全景

AI合规不是一套全球统一的规则,而是由多个法域各自立法、配套标准与行业指引叠加形成的“多层规则网”。同一套AI系统,在欧盟可能被归为高风险而触发合格评定与CE标识义务,在美国可能主要受行业监管与州法约束,在中国则需同时考虑算法备案、生成式AI服务管理与内容安全要求。理解这张规则网的结构,是设计合规审计方案的前提。

一、三大法域的规则骨架

欧盟以《人工智能法案》(AI Act)为核心,采用“风险分级”立法:不可接受风险(禁止类,如社会评分、无差别抓取人脸库)、高风险(附件III清单,如招聘筛选、信贷评分、关键基础设施、教育评分)、有限风险(透明度义务,如聊天机器人须告知用户在与AI交互)、最小风险(无额外义务)。高风险系统须建立风险管理体系、数据治理、技术文档、日志留存、人类监督,并完成符合性评估、注册与CE标识。配套还有《通用数据保护条例》(GDPR)约束训练与推理中的个人数据,以及CEN-CENELEC正在制定的协调标准(如风险管理ISO/IEC 23894、AI管理体系ISO/IEC 42001的映射)。

美国没有联邦层面的综合性AI法,呈现“联邦指引+州法+行业规则”的拼图结构。联邦层面以NIST《AI风险管理框架》(AI RMF 1.0)及其生成式AI配套文件(AI 600-1)为事实标准,提供Govern、Map、Measure、Manage四类功能;白宫行政令与OMB备忘录对联邦机构采购与使用AI提出要求。州层面以科罗拉多州AI法、伊利诺伊州BIPA(生物识别)、加州CCPA/CPRA及自动化决策规则为代表。行业层面则由FDA(医疗器械AI)、SEC(金融)、EEOC(招聘歧视)、FTC(不公平或欺骗性行为)分口监管。

中国采取“算法—数据—内容—服务”多线并行的规则体系:《生成式人工智能服务管理暂行办法》要求面向公众提供生成式服务时履行备案、内容标识、训练数据合法来源与安全评估;《互联网信息服务算法推荐管理规定》要求算法备案与用户可关闭选项;《个人信息保护法》约束自动化决策,要求提供拒绝方式与解释说明;《数据安全法》《网络安全法》构成底座。此外还有TC260发布的《生成式人工智能服务安全基本要求》等标准,以及面向金融、医疗、汽车等行业的监管指引。

三大法域AI合规规则结构对比 同一AI系统在不同法域触发不同义务,审计需按法域分别映射 欧盟 · 风险分级立法 不可接受风险 社会评分、无差别人脸抓取 → 禁止 高风险 招聘、信贷、教育、关键基础设施 → 合格评定 + CE标识 + 注册 有限风险 聊天机器人、深度伪造 → 透明度告知 最小风险 无额外强制义务 横向配套 GDPR 个人数据 · 协调标准 ISO/IEC 42001、23894 映射 审计抓手 风险定级记录、技术文档、日志 美国 · 拼图式分散监管 联邦指引(事实标准) NIST AI RMF 1.0:Govern / Map / Measure / Manage;AI 600-1 生成式配套 州法 科罗拉多AI法、伊利诺伊BIPA 加州CCPA/CPRA 自动化决策规则 行业监管分口 FDA 医疗器械AI · SEC 金融 EEOC 招聘歧视 · FTC 不公平/欺骗 OMB 联邦机构采购与使用要求 特点 无统一AI法,义务来自场景与行业 自愿框架 + 执法案例驱动 审计抓手 RMF映射表、行业合规证据、歧视测试 中国 · 多线并行规则 生成式AI服务管理 面向公众服务:备案、内容标识 训练数据合法来源、安全评估 算法推荐管理 算法备案、用户可关闭选项 不得诱导沉迷、需公示基本原理 个人信息保护 自动化决策:拒绝方式、说明义务 告知同意、最小必要、影响评估 底座与标准 数据安全法、网络安全法 TC260 生成式AI安全基本要求 行业指引 金融、医疗、汽车等分行业要求 审计抓手:备案号、标识、评估报告

二、横向对比:四个维度看清差异

把三大法域放在同一张坐标上看,差异集中在四个维度。第一是立法模式:欧盟是统一风险分级,美国是分散场景监管,中国是多线并行且以部门规章与标准落地。第二是触发条件:欧盟看“是否高风险用途”,美国看“是否落入某行业或某州管辖”,中国看“是否面向公众提供生成式服务、是否处理个人信息、是否属于算法推荐”。第三是义务重心:欧盟重事前合格评定与技术文档,美国重事后执法与行业证据,中国重备案、标识与内容安全。第四是证据形态:欧盟要CE技术文档与风险管理记录,美国要RMF映射与测试结果,中国要备案材料、安全评估报告与内容审核日志。

维度欧盟美国中国
核心依据AI Act + GDPRNIST AI RMF + 州法 + 行业规则生成式AI办法 + 算法规定 + 个保法
触发条件风险等级(用途)行业/州管辖服务形态 + 数据 + 算法
事前义务合格评定、CE、注册多为自愿框架备案、安全评估
透明度有限风险须告知州法披露要求内容标识、算法公示
典型证据技术文档、日志、风险记录RMF映射、歧视测试备案号、评估报告、审核日志

三、适用分析:如何判断一套系统受哪些规则约束

合规审计的第一步不是查清单,而是做“适用性判定”。建议按以下顺序推进,每一步都留下可复核的记录。

  1. 确定服务对象与部署地。系统是否在欧盟境内投放或输出用于欧盟?是否向中国境内公众提供服务?是否在美国某州面向消费者?部署地决定法域集合。
  2. 判定用途与风险等级。对照欧盟附件III,判断是否属于招聘、信贷、教育、关键基础设施等高风险用途;若是,则触发合格评定路径。
  3. 识别数据与算法属性。是否处理个人信息、生物识别信息?是否使用推荐算法?是否生成面向公众的内容?这三项分别触发个保法、算法规定与生成式AI办法。
  4. 映射行业规则。医疗、金融、汽车、招聘等行业另有专门要求,需叠加到通用规则之上。
  5. 形成义务清单与证据清单。把每条适用规则转成“必须做什么 + 用什么证明”,作为审计测试项。
示例(假设场景):某公司开发一款面向中国公众的AI简历筛选助手,同时向欧盟客户提供。适用判定结果:中国侧触发生成式AI服务备案(若面向公众)、算法备案(若含推荐)、个保法自动化决策义务;欧盟侧因“招聘筛选”落入附件III高风险,须完成合格评定、技术文档、日志与人类监督。审计证据清单应同时包含备案号、安全评估报告、欧盟技术文档与风险管理记录。

四、标准与行业指引的衔接

法规给出“必须达到的结果”,标准给出“如何达到”。ISO/IEC 42001提供AI管理体系框架,ISO/IEC 23894提供风险管理指南,NIST AI RMF提供可操作的功能分类,TC260标准给出生成式AI安全的基本要求。审计时可用一套控制项同时映射多个法域:例如“训练数据来源与合法性”这一控制项,在欧盟对应数据治理要求,在中国对应训练数据合法来源与安全评估,在美国对应RMF的Map与Measure功能。这样既减少重复工作,又能保证每个法域的证据都可追溯。

常见误区:把GDPR合规等同于欧盟AI合规。GDPR管个人数据,AI Act管AI系统风险,两者并行且证据不同;同样,通过NIST AI RMF自评不等于满足欧盟高风险义务,也不等于完成中国备案。审计中必须按法域分别取证,不能互相替代。