2. 公平性基础
在机器学习系统进入信贷审批、招聘筛选、医疗分诊、内容推荐等高风险场景后，“模型准不准”已经不足以回答“模型能不能用”。公平性审计要解决的核心问题是：模型在不同人群之间的错误分布、收益分配与机会获取是否存在系统性、不可接受的差异。理解公平性，首先要区分“群体公平”与“个体公平”两条主线，再理解它们背后的伦理立场与业务约束。
一、核心原理：公平不是单一指标，而是一组约束
机器学习模型通常以经验风险最小化为目标，即在训练集上最小化平均损失。但平均损失会掩盖分布差异：如果某个群体样本少、特征噪声大或历史标签本身带有偏见，模型可能在该群体上表现显著更差。公平性约束的本质，是在优化目标中加入“群体间差异”的惩罚或硬性条件，使模型在精度与公平之间做显式权衡。
从数学上看，设敏感属性 A（如性别、年龄组、地域），预测结果 Ŷ，真实标签 Y。群体公平通常关注条件概率之间的差异，例如：
人口 parity：P(Ŷ=1 | A=0) ≈ P(Ŷ=1 | A=1)
机会均等：P(Ŷ=1 | Y=1, A=0) ≈ P(Ŷ=1 | Y=1, A=1)
预测均等：P(Y=1 | Ŷ=1, A=0) ≈ P(Y=1 | Ŷ=1, A=1)
个体公平则换一个视角：相似的个体应得到相似的预测。它不要求群体统计量相等，而要求模型在个体特征空间中的局部邻域内保持一致性。群体公平与个体公平并不等价，甚至在某些数据分布下会相互冲突。
二、常见术语与指标清单
公平性审计中，术语混用是常见风险。以下清单给出最常用的概念及其审计含义，建议在项目文档中统一口径。
| 术语 | 英文 | 核心含义 | 典型审计问题 |
|---|---|---|---|
| 敏感属性 | Sensitive Attribute | 受法律或伦理保护的人群特征 | 性别、年龄、民族是否被直接或间接使用？ |
| 人口 parity | Demographic Parity | 各群体正例预测率接近 | 通过率差异是否超过阈值？ |
| 机会均等 | Equal Opportunity | 各群体真阳性率接近 | 合格者被漏判的比例是否一致？ |
| 预测均等 | Predictive Parity | 各群体被预测为正时的准确率接近 | 被标记为高风险的人是否同样可信？ |
| 代理变量 | Proxy Variable | 与敏感属性高度相关的非敏感特征 | 邮编、设备型号是否在间接泄露群体信息？ |
| 个体公平 | Individual Fairness | 相似个体预测相似 | 相似度度量是否合理、是否被操纵？ |
三、应用场景：公平性约束从哪里来
公平性不是抽象的道德口号，而是由业务场景、监管要求和历史数据共同塑造的约束。以下场景在课程后续实战中会反复出现：
- 信贷风控：拒绝贷款的错误对个体影响巨大，监管通常要求解释拒绝原因，并禁止基于受保护特征的歧视。审计重点是机会均等与预测均等。
- 招聘筛选：历史招聘数据可能反映过去的不平等，模型会放大这种偏差。审计重点是人口 parity 与代理变量排查。
- 医疗分诊：资源有限时，模型决定谁优先获得护理。审计重点是不同群体的召回率与漏诊率差异。
- 内容推荐：推荐系统影响信息获取机会。审计重点是曝光分布与长期反馈回路。
- 司法与公共安全：高风险决策对自由权影响深远，通常要求最严格的公平性论证与人工复核。
这些场景的共同点是：模型输出会改变人的机会、资源或权利分配。因此，公平性审计必须与业务影响分析同步进行，而不是只做离线指标计算。
四、伦理背景与常见误区复盘
公平性的伦理背景可以概括为三条主线：分配正义关注资源与机会如何分配；程序正义关注决策过程是否透明、可申诉；关系正义关注群体之间的权力关系是否被固化。技术指标只能部分回应分配正义，无法替代程序与关系层面的制度设计。
复盘时建议回答四个问题：第一，敏感属性与正例定义是否清晰？第二，选择的公平性指标与业务伤害是否对应？第三，精度下降是否在可接受范围内？第四，是否有申诉与人工复核通道？只有把技术指标嵌入制度流程，公平性审计才真正闭环。
审计记录示例：
敏感属性：gender
正例定义：loan_approved = 1
主指标：Equal Opportunity，阈值 |ΔTPR| ≤ 0.05
次指标：Demographic Parity，仅作观察
结论：模型在女性群体 TPR 低 7.2%，需重加权或后处理
复核：已提交业务与合规团队，保留人工申诉通道