1、敏感数据概述

在做机器学习安全之前，我们得先弄清楚一个问题：到底什么数据才算「敏感」？我刚开始接触这个领域时，也以为只要不是公开信息就不算敏感。结果第一个项目就被合规部门怼回来了——因为他们发现我把用户身份证号当普通文本存进了训练集。

说白了，敏感数据就是那些一旦泄露、滥用或篡改，就会给个人或组织带来严重后果的信息。你想想看，银行账号、医疗记录、指纹特征……这些数据落到坏人手里，轻则诈骗，重则身份冒用。所以今天我们就来系统梳理一下：敏感数据到底包括哪些？怎么分类？泄露了会有什么后果？

1.1 敏感数据的定义

从法规和技术两个角度看，定义不太一样。我个人习惯把「敏感数据」理解为：能直接或间接识别特定自然人，且该主体对其有合理隐私期待的信息。嗯，这个描述有点拗口，但核心就两条：

• 可识别性——能关联到具体的人（比如姓名+身份证号）
• 隐私期待——正常人不会希望自己的这些信息满天飞（比如病历、消费习惯）

1.2 分类标准：四大核心类别

业界一般把敏感数据分成下面几大类。我自己在代码里会用一个枚举类来标记，方便后续做访问控制和加密策略。

类别	定义	典型示例	风险等级
PII（个人身份信息）	能直接或间接识别具体个人的信息	姓名、身份证号、手机号、家庭住址、IP 地址	高～极高
财务数据	涉及个人或机构资产、交易、信用记录的信息	银行卡号、信用卡 CVV、交易记录、报税资料	极高
医疗健康数据	与个体健康状况、诊疗、基因相关的信息	病历、诊断报告、基因序列、药物处方	极高
生物特征数据	基于物理或行为特征的唯一标识	指纹、人脸模板、虹膜、声纹、步态	极高

你可能会问：为什么生物特征风险等级是「极高」？因为这东西一旦泄露，你没法像换银行卡一样换指纹。我曾经在一个客户项目里评估过人脸识别系统的隐私风险——训练集里包含了员工的实时人脸照片，存的时候没做加密，还好我们及时发现并加固了存储层。

1.3 数据泄露的常见场景

根据我这几年的经验，泄露场景可以归纳为三种：

1. 存储侧泄露——数据库配置错误、云存储桶权限开放、备份文件未加密。
2. 传输侧泄露——明文 API 调用、未使用 HTTPS、内部网络被嗅探。
3. 使用侧泄露——模型训练日志里输出了原始数据、测试环境用了生产数据、员工将数据拷到个人电脑。

存储侧泄露最常见，但使用侧泄露最隐蔽。你想想看，一个数据科学家为了调试方便，直接把生产表拉到 Jupyter Notebook 里——这太常见了。所以我们做机器学习安全，第一道防线不是算法，而是数据治理习惯。

1.4 数据泄露的危害：不只是罚款

泄露一次敏感数据，后果可能是连锁反应：

• 经济损失——直接罚款（GDPR 最高 2000 万欧元或全球营收 4%）、赔偿用户、法律诉讼费
• 声誉崩塌——用户信任一旦破裂，很难修复
• 模型安全风险——敏感数据被用来做对抗攻击、模型逆向、成员推断

拿医疗数据来说。我记得有个真实案例：某医院开放了患者诊疗记录用于科研，但数据中混杂了未脱敏的姓名和社保号。不到一周，这些数据就被爬取并挂到了暗网。患者不仅面临隐私泄露，还收到了精准诈骗电话。

1.5 本章知识体系：一张图看懂

下面这张图展示了敏感数据问题的基础框架。从「敏感数据」出发，我们把它拆成四类，每类下面都对应着泄露场景和危害。后面的课程会把每个分支展开讲，特别是如何用机器学习技术自动识别这些敏感数据。