3、风险识别方法论：头脑风暴法、检查表法、SWOT分析在AI风险识别中的应用
说到风险识别，很多团队一上来就铺开摊子搞技术审计。我个人习惯是，先别急着动工具，把方法论理清楚。你想想看，AI系统的风险往往藏在数据、模型、业务逻辑的交界处，光靠拍脑袋或者翻文档，很容易漏掉关键点。
这一章，我重点讲三种我在实战中反复使用的方法：头脑风暴法、检查表法、SWOT分析。它们各有各的脾气，也各有各的坑。
3.1 头脑风暴法：让风险自己“冒出来”
头脑风暴听起来简单，不就是一群人围在一起瞎聊吗？其实不是。我在项目中遇到过好几次，大家聊着聊着就变成了甩锅大会，或者技术大牛一个人把话全说了。这不行。
真正的头脑风暴，在AI风险识别里，要遵循几个硬规矩：
- 不批评、不打断：任何想法先记下来，哪怕听起来很离谱。我记得有一次，一个测试同事说“模型会不会把猫识别成狗然后导致自动驾驶急刹”，当时大家觉得好笑，后来一分析，还真有这种边缘场景。
- 数量优先：先求多，再求好。我一般要求每人至少提5个风险点，写在小纸条上，匿名提交。这样能避免“领导先发言”的尴尬。
- 跨界参与：别只叫算法工程师。产品、运营、法务、甚至客服，都要拉进来。客服最清楚用户投诉了什么，这些往往是风险信号。
头脑风暴的输出，通常是一堆杂乱的风险描述。别急，下一步是归类。我习惯用亲和图法，把相似的风险贴在一起，比如数据类、模型类、部署类。这样就能看出风险的结构了。
3.2 检查表法：用清单堵住漏洞
检查表法，说白了就是“照着单子打勾”。听起来很机械，但非常有效。尤其是AI项目迭代快，人容易疲劳，漏掉某个环节是常事。
我刚开始做AI风控时，总觉得检查表是给新手用的。直到有一次，一个模型上线后出现了严重的数据漂移，复盘时发现，我们忘了检查训练数据和线上数据的分布差异。嗯，从那以后，我再也不敢跳过检查表了。
下面是我自己整理的一份AI风险检查表（精简版），你可以直接拿去用：
| 检查维度 | 检查项 | 风险等级 |
|---|---|---|
| 数据 | 训练数据是否包含敏感个人信息？ | 高 |
| 数据 | 数据标注是否存在系统性偏差？ | 中 |
| 模型 | 模型是否对某些群体有歧视性输出？ | 高 |
| 模型 | 模型是否容易受到对抗样本攻击？ | 中 |
| 部署 | 模型推理日志是否完整记录？ | 低 |
| 合规 | 是否满足《生成式AI管理办法》要求？ | 高 |
检查表法的好处是标准化，新人也能快速上手。但它的缺点是容易僵化，漏掉那些“不在清单上”的风险。所以，我通常把检查表法和头脑风暴法结合起来用——先用检查表兜底，再用头脑风暴查漏补缺。
3.3 SWOT分析：从战略高度看风险
SWOT分析大家都不陌生，优势、劣势、机会、威胁。但在AI风险识别里，我把它稍微改造了一下，重点放在劣势和威胁上。
为什么？因为AI项目往往被包装得很美好，大家容易忽视短板。我参与过一个智能客服项目，技术上很牛，但忽略了“用户对AI客服的信任度低”这个劣势，结果上线后用户投诉率飙升。
具体怎么做？我建议分四步走：
- 内部视角（劣势）：问自己，我们的模型在什么场景下会失效？数据量够不够？团队有没有懂伦理的人？
- 外部视角（威胁）：竞争对手有没有更安全的方案？监管政策会不会突然收紧？有没有黑产在盯着我们的API？
- 交叉分析：把劣势和威胁放在一起看。比如“数据量不足（劣势）” + “监管要求数据可追溯（威胁）” = 高风险。
- 制定对策：针对每个高风险组合，写一条应对措施。不用太细，先有方向。
实战案例： 我在做金融风控模型时，用SWOT分析发现了一个致命组合：
- 劣势：模型对长尾用户的覆盖不足
- 威胁：监管要求“公平对待所有用户”
这个组合直接导致我们重新设计了特征工程，增加了用户分群策略。如果当时没做这个分析，后果不堪设想。
SWOT分析的输出，我习惯用一张2x2矩阵图来呈现。不过这里不画图了，你可以在脑子里想象一下：左上角是优势，右上角是劣势，左下角是机会，右下角是威胁。把风险点填进去，一目了然。
3.4 三种方法的搭配使用
说了这么多，你可能会问：到底用哪个？我的建议是不要单选，要组合。
我自己的流程是这样的：
- 第一步：用检查表法快速过一遍，把已知的、常见的风险全部标记出来。这一步大概花1-2小时。
- 第二步：组织一场头脑风暴，针对检查表里没覆盖到的、或者“感觉不对劲”的地方，深挖一下。这一步需要跨部门参与。
- 第三步：用SWOT分析做战略层面的审视，看看有没有被忽略的外部威胁或内部短板。这一步通常是项目经理或架构师主导。
说白了，检查表法是“防守”，头脑风暴法是“进攻”，SWOT分析是“俯瞰”。三者结合，才能把AI风险识别做扎实。