一、AI供应链安全概述
1.1 什么是AI供应链
先说说我对AI供应链的理解。说白了，一个AI系统从想法到落地，中间经过的每一个环节，都算供应链的一部分。
我习惯把AI供应链分成三层来看：
- 基础层：硬件芯片、云计算平台、网络设备。嗯，这些是跑AI的"地基"。
- 算法层：预训练模型、开源框架、训练数据集。这是AI的"大脑"。
- 应用层：API接口、SaaS服务、嵌入式SDK。这是用户直接接触的"脸面"。
你想想看，这三层里任何一层出了问题，整个AI系统都可能翻车。我在项目中遇到过一家公司，他们用的开源模型被人植入了后门，结果上线后用户数据全被偷偷外传了。这就是供应链的连锁反应。
核心观点：AI供应链不是一条直线，而是一张网。每个节点都可能成为攻击入口。
1.2 安全威胁全景图
这些年我梳理过不少AI安全事件，发现威胁主要来自这几个方向：
1.2.1 供应链投毒
攻击者往训练数据或模型里"下毒"。比如在开源数据集中混入恶意样本，让模型学歪了。
真实案例：我记得有个自动驾驶团队，用了某个公开数据集训练行人检测模型。结果数据集里被人掺了带特殊图案的图片，导致模型看到那个图案就自动忽略行人。这要是上路了，后果不堪设想。
1.2.2 依赖劫持
AI项目依赖大量第三方库。攻击者可以上传同名恶意包，或者劫持维护者账号更新带毒版本。
我曾经见过一个团队，他们用的PyTorch版本里有个依赖库被篡改了。每次模型训练时，攻击者都能拿到训练数据的快照。这事查了两个月才定位到根因。
1.2.3 模型窃取
通过API接口反复查询，逆向还原你的模型参数。说白了就是"偷模型"。
为什么会这样？因为很多公司把模型部署在云端，API调用次数没有严格限制。攻击者花几千块钱就能把模型"复制"一份走。
1.2.4 供应链中断
上游供应商突然断供，或者关键依赖库被下架。这属于"非恶意但致命"的风险。
注意：别以为只有大公司才被盯上。小团队用的开源组件，往往是最容易被攻击的薄弱环节。
1.3 合规为什么重要
说到合规，很多人觉得是"找麻烦"。但我的经验告诉我，合规其实是保护自己的铠甲。
目前全球主要AI监管框架包括：
| 法规/标准 | 核心要求 | 影响范围 |
|---|---|---|
| 欧盟AI法案 | 高风险AI系统需进行合规评估 | 所有在欧盟市场投放的AI产品 |
| 中国生成式AI管理办法 | 训练数据需合法来源，模型需安全评估 | 境内生成式AI服务 |
| NIST AI风险管理框架 | 供应链映射、风险识别、持续监控 | 美国联邦机构及合作方 |
| ISO/IEC 42001 | AI管理体系认证 | 全球通用 |
我个人建议，合规要趁早。别等到产品快上线了才想起来补课。那时候改架构的成本，可能是早期的十倍不止。
一个小技巧：做AI供应链安全，先画一张"依赖地图"。把你用到的所有第三方组件、数据源、API服务都列出来。这张图就是合规工作的起点。
1.4 我的避坑指南
最后分享几个我踩过的坑：
- 别信"开源即安全"——我曾经以为GitHub上星星多的项目肯定靠谱，结果发现某个流行库的维护者账号被黑了，版本里藏了挖矿脚本。
- 数据溯源要留痕——训练数据从哪来的、谁处理的、有没有脱敏，这些记录一定要保存。否则出事了你连自证清白的机会都没有。
- API调用要限流——别让任何人无限制地调用你的模型接口。哪怕是自己人，也要设个配额。
嗯，这一章先聊到这。AI供应链安全是个大话题，后面我们会一步步拆解。记住一句话：供应链安全不是一个人的事，是整个生态的事。