算法公平性审查：偏见与歧视的识别

公平性审查，说白了就是检查你的算法有没有「偏心」。

我刚开始做合规时，总觉得这是个政治正确的话题。直到有一次，一个信贷模型把某地区的申请者全部标记为高风险——原因仅仅是训练数据里那个地区的坏账率偏高。嗯，这就是典型的偏见问题。

偏见与歧视的识别

偏见分很多种。我习惯把它们归为三类：

• 历史偏见：过去的不公平被数据记录下来，模型学会了这种不公平。比如招聘模型，如果历史数据里男性高管占90%，模型就会「觉得」男性更适合当高管。
• 采样偏见：数据收集方式有问题。举个例子，你只收集了城市用户的数据，却拿去给农村用户做预测——这不就偏了吗？
• 标注偏见：标注人员的主观判断影响了标签。我记得有个项目，标注员对某些群体的照片总是打上「不友好」的标签，模型自然就学歪了。

训练数据偏差检测

怎么检测数据偏差？我一般走这几步：

1. 统计分布对比：看看训练集和真实世界的分布是否一致。比如性别比例，如果训练集里男女是9:1，但实际场景是5:5，那就有问题。
2. 交叉分析：把敏感属性（种族、性别、年龄）和标签做交叉统计。我曾经发现一个模型，对30岁以下女性的误判率是其他群体的3倍——这就是典型的偏差。
3. 缺失值检查：某些群体的数据缺失严重，模型就会「忽略」他们。你想想看，如果某个地区的数据全是空的，模型怎么可能公平对待那里的人？

公平性指标

公平性不能光靠感觉，得有量化指标。我常用的有三个：

指标名称	定义	适用场景
人口均等	不同群体被预测为正例的比例相等	招聘、贷款等场景
均等机会	不同群体的真正例率（TPR）相等	医疗诊断、犯罪预测
均等错误率	不同群体的假正例率（FPR）和假负例率（FNR）相等	信用评分、风险评估

举个例子，假设我们有个招聘模型：

# 计算人口均等
男性通过率 = 男性通过人数 / 男性总人数
女性通过率 = 女性通过人数 / 女性总人数
人口均等差异 = |男性通过率 - 女性通过率|

# 计算均等机会
男性TPR = 男性中被正确预测为通过的人数 / 男性中实际通过的人数
女性TPR = 女性中被正确预测为通过的人数 / 女性中实际通过的人数
均等机会差异 = |男性TPR - 女性TPR|

避坑指南

我曾经踩过一个坑：只关注了整体准确率，忽略了子群体的表现。结果模型在主流群体上准确率95%，但在少数群体上只有60%。

所以我的建议是：

• 不要只看整体指标，要分层看
• 不要只用一个公平性指标，至少用两个互相验证
• 不要等到模型上线才检查公平性，从数据收集阶段就要开始

说白了，算法公平性不是一道附加题，而是必答题。你想想看，如果模型因为偏见伤害了用户，后果可能比技术故障严重得多。