2. AI合规监管全景
AI合规不是一套全球统一的规则,而是由多个法域各自立法、配套标准与行业指引叠加形成的“多层规则网”。同一套AI系统,在欧盟可能被归为高风险而触发合格评定与CE标识义务,在美国可能主要受行业监管与州法约束,在中国则需同时考虑算法备案、生成式AI服务管理与内容安全要求。理解这张规则网的结构,是设计合规审计方案的前提。
一、三大法域的规则骨架
欧盟以《人工智能法案》(AI Act)为核心,采用“风险分级”立法:不可接受风险(禁止类,如社会评分、无差别抓取人脸库)、高风险(附件III清单,如招聘筛选、信贷评分、关键基础设施、教育评分)、有限风险(透明度义务,如聊天机器人须告知用户在与AI交互)、最小风险(无额外义务)。高风险系统须建立风险管理体系、数据治理、技术文档、日志留存、人类监督,并完成符合性评估、注册与CE标识。配套还有《通用数据保护条例》(GDPR)约束训练与推理中的个人数据,以及CEN-CENELEC正在制定的协调标准(如风险管理ISO/IEC 23894、AI管理体系ISO/IEC 42001的映射)。
美国没有联邦层面的综合性AI法,呈现“联邦指引+州法+行业规则”的拼图结构。联邦层面以NIST《AI风险管理框架》(AI RMF 1.0)及其生成式AI配套文件(AI 600-1)为事实标准,提供Govern、Map、Measure、Manage四类功能;白宫行政令与OMB备忘录对联邦机构采购与使用AI提出要求。州层面以科罗拉多州AI法、伊利诺伊州BIPA(生物识别)、加州CCPA/CPRA及自动化决策规则为代表。行业层面则由FDA(医疗器械AI)、SEC(金融)、EEOC(招聘歧视)、FTC(不公平或欺骗性行为)分口监管。
中国采取“算法—数据—内容—服务”多线并行的规则体系:《生成式人工智能服务管理暂行办法》要求面向公众提供生成式服务时履行备案、内容标识、训练数据合法来源与安全评估;《互联网信息服务算法推荐管理规定》要求算法备案与用户可关闭选项;《个人信息保护法》约束自动化决策,要求提供拒绝方式与解释说明;《数据安全法》《网络安全法》构成底座。此外还有TC260发布的《生成式人工智能服务安全基本要求》等标准,以及面向金融、医疗、汽车等行业的监管指引。
二、横向对比:四个维度看清差异
把三大法域放在同一张坐标上看,差异集中在四个维度。第一是立法模式:欧盟是统一风险分级,美国是分散场景监管,中国是多线并行且以部门规章与标准落地。第二是触发条件:欧盟看“是否高风险用途”,美国看“是否落入某行业或某州管辖”,中国看“是否面向公众提供生成式服务、是否处理个人信息、是否属于算法推荐”。第三是义务重心:欧盟重事前合格评定与技术文档,美国重事后执法与行业证据,中国重备案、标识与内容安全。第四是证据形态:欧盟要CE技术文档与风险管理记录,美国要RMF映射与测试结果,中国要备案材料、安全评估报告与内容审核日志。
| 维度 | 欧盟 | 美国 | 中国 |
|---|---|---|---|
| 核心依据 | AI Act + GDPR | NIST AI RMF + 州法 + 行业规则 | 生成式AI办法 + 算法规定 + 个保法 |
| 触发条件 | 风险等级(用途) | 行业/州管辖 | 服务形态 + 数据 + 算法 |
| 事前义务 | 合格评定、CE、注册 | 多为自愿框架 | 备案、安全评估 |
| 透明度 | 有限风险须告知 | 州法披露要求 | 内容标识、算法公示 |
| 典型证据 | 技术文档、日志、风险记录 | RMF映射、歧视测试 | 备案号、评估报告、审核日志 |
三、适用分析:如何判断一套系统受哪些规则约束
合规审计的第一步不是查清单,而是做“适用性判定”。建议按以下顺序推进,每一步都留下可复核的记录。
- 确定服务对象与部署地。系统是否在欧盟境内投放或输出用于欧盟?是否向中国境内公众提供服务?是否在美国某州面向消费者?部署地决定法域集合。
- 判定用途与风险等级。对照欧盟附件III,判断是否属于招聘、信贷、教育、关键基础设施等高风险用途;若是,则触发合格评定路径。
- 识别数据与算法属性。是否处理个人信息、生物识别信息?是否使用推荐算法?是否生成面向公众的内容?这三项分别触发个保法、算法规定与生成式AI办法。
- 映射行业规则。医疗、金融、汽车、招聘等行业另有专门要求,需叠加到通用规则之上。
- 形成义务清单与证据清单。把每条适用规则转成“必须做什么 + 用什么证明”,作为审计测试项。
四、标准与行业指引的衔接
法规给出“必须达到的结果”,标准给出“如何达到”。ISO/IEC 42001提供AI管理体系框架,ISO/IEC 23894提供风险管理指南,NIST AI RMF提供可操作的功能分类,TC260标准给出生成式AI安全的基本要求。审计时可用一套控制项同时映射多个法域:例如“训练数据来源与合法性”这一控制项,在欧盟对应数据治理要求,在中国对应训练数据合法来源与安全评估,在美国对应RMF的Map与Measure功能。这样既减少重复工作,又能保证每个法域的证据都可追溯。