3. AI伦理与公平性面试
AI伦理与公平性，是金融AI治理面试中“区分度最高”的一类题。它不像模型指标那样有标准答案，面试官真正考察的是：你能否把抽象的伦理原则，翻译成可落地的工程动作、可量化的评估指标、可追溯的治理流程。答得空泛，会被判定为“只会背原则”；答得太技术，又会被质疑“缺乏业务与合规视角”。本章给出一套可直接套用的回答框架，并拆解不同公司的追问侧重点。
一、核心原理：公平性不是单一指标，而是一组取舍
面试官问“你怎么理解AI公平性”，最忌讳回答“就是不能歧视”。公平性在技术上有多个互斥定义：人口统计均等（Demographic Parity）、机会均等（Equal Opportunity）、预测均等（Predictive Parity）。数学上，当基础违约率不同时，这三者往往无法同时满足。金融场景尤其如此：不同客群的真实风险分布不同，强行拉平通过率可能带来逆向选择与坏账上升。
因此，成熟回答要体现“分层治理”思维：先明确业务目标与受保护群体，再选择与监管口径一致的公平性定义，最后用阈值调整、重加权、后处理校准等手段做缓解，并记录取舍理由。监管层面，需对齐《个人信息保护法》《征信业务管理办法》以及巴塞尔体系下的模型风险管理要求，强调可解释、可审计、可申诉。
二、方法流程：从检测到缓解的五步闭环
- 定义受保护属性与业务场景：性别、年龄、地域、民族等，明确是信贷审批、额度定价还是营销触达。
- 选择公平性指标：如 disparate impact ratio、equal opportunity difference、AOD，并与合规确认口径。
- 检测与归因：分群评估指标差异，用 SHAP/特征重要性定位代理变量（如邮编代理地域）。
- 缓解：预处理（重加权、去偏表示）、中处理（公平正则）、后处理（分组阈值校准）。
- 监控与复盘：上线后持续监控分群指标，设置告警阈值，纳入模型风险报告与年度复审。
# 公平性检测示例（伪代码）
for group in protected_groups:
tpr = recall_score(y_true[group], y_pred[group])
fpr = false_positive_rate(y_true[group], y_pred[group])
dir = approval_rate[group] / approval_rate[reference_group]
log_metric("equal_opportunity_diff", tpr_ref - tpr)
log_metric("disparate_impact_ratio", dir)
# 告警：DIR < 0.8 或 EOD > 0.1 触发人工复核三、高频问题与回答要点
| 高频问题 | 回答要点 | 常见追问 |
|---|---|---|
| 如何定义并度量公平性？ | 先对齐监管口径，再选指标，说明互斥性与取舍 | 多个指标冲突怎么办？ |
| 敏感字段不能进模型，是否就公平了？ | 代理变量仍会引入偏差，需做代理检测 | 如何识别代理变量？ |
| 公平性下降但AUC提升，如何决策？ | 以合规与业务底线为先，做分层灰度与人工兜底 | 谁来做最终决策？ |
| 如何向监管解释模型决策？ | 提供特征贡献、分群指标、申诉通道与审计日志 | 黑盒模型怎么解释？ |
| 生成式AI的公平性怎么治理？ | 提示词审计、输出评测集、红队测试与人工复核 | 如何量化偏见？ |
四、公司侧重点与案例场景
银行与消金：侧重合规与可解释，追问多集中在信贷审批的公平性证明、监管报送与模型文档。回答时要主动提“模型风险三道防线”和“人工复核阈值”。
互联网大厂金融板块：侧重工程化与规模化，关注公平性指标能否进入A/B实验与实时监控，追问“如何在不显著损失AUC的前提下降低偏差”。
AI公司/大模型团队：侧重生成式AI伦理，关注红队测试、输出偏见评测、内容安全与价值观对齐，追问“如何构建公平性评测集”。
五、误区与复盘
复盘时建议准备一个“失败案例”：例如某次上线后发现某地域客群通过率异常，归因发现邮编是强代理变量，最终通过特征替换与分组阈值校准解决。这类案例能同时展示技术深度、合规意识与业务判断，是伦理题最有力的加分项。
最后提醒：伦理题没有标准答案，但有标准结构。用“原则—场景—动作—度量—复盘”五段式组织语言，配合一个真实或半真实的项目案例，就能在追问中保持稳定输出。