一、AI伦理概述：什么是AI伦理、为什么需要AI伦理、AI伦理的发展历程与核心原则

各位同学，大家好。我是这门课的主讲人。今天咱们聊聊AI伦理这个看似“虚”、实则非常“实”的话题。

说实话，我最早接触AI伦理，是在一个医疗影像AI项目里。当时模型准确率已经做到98%了，大家都很兴奋。结果测试时发现，模型对深色皮肤患者的误诊率，比浅色皮肤高了整整三倍。嗯，那一刻我才意识到——技术再牛，如果方向错了，后果可能很严重。

1.1 什么是AI伦理？

说白了，AI伦理就是一套“规矩”。它告诉我们：什么AI能做，什么AI不能做；什么AI应该做，什么AI不应该做。

我个人的理解是，AI伦理不是要限制技术发展，而是给技术装上一个“方向盘”和“刹车”。你想想看，一辆没有刹车的跑车，谁敢开？

具体来说，AI伦理关注这几个核心问题：

• 公平性：AI会不会歧视某些人群？
• 透明度：AI做决策时，我们能不能看懂？
• 问责性：AI闯祸了，谁来负责？
• 隐私保护：AI会不会偷看我们的数据？
• 安全性：AI会不会被坏人利用？

1.2 为什么需要AI伦理？

这个问题，我经常被问到。有人觉得：“我做个推荐算法，跟伦理有什么关系？”

关系大了去了。我举几个真实案例：

• 招聘歧视：某大厂的AI招聘系统，因为历史数据里男性工程师占多数，结果自动把女性简历打低分。
• 算法杀熟：同一家酒店，老用户看到的价格比新用户贵30%。
• 深度伪造：有人用AI换脸技术伪造视频，导致无辜者名誉受损。

你看，这些问题不是技术问题，而是伦理问题。技术本身是中性的，但使用技术的人、训练模型的数据、部署系统的场景，都带着“价值观”。

我曾经参与过一个金融风控项目。模型训练时，我们用了过去五年的贷款数据。结果发现，模型对某些地区的用户自动降低信用额度。为什么？因为那个地区历史上违约率偏高。但仔细一查，是因为那个地区曾经发生过自然灾害，导致很多人被迫违约。模型不懂这些，它只知道“这个地区=高风险”。

这就是为什么我们需要AI伦理——防止技术“学坏”。

1.3 AI伦理的发展历程

AI伦理不是突然冒出来的。它经历了几个阶段：

阶段	时间	特点	标志性事件
萌芽期	1940s-1960s	科幻作品中的伦理思考	阿西莫夫“机器人三定律”
觉醒期	1970s-1990s	专家系统引发伦理讨论	医疗诊断系统的责任归属问题
爆发期	2000s-2010s	大数据和深度学习带来新挑战	Google“偏见模型”事件
规范期	2020s至今	各国立法和标准出台	欧盟AI法案、中国《生成式AI管理办法》

我个人觉得，最关键的转折点是2016年。那一年，微软的聊天机器人Tay上线不到24小时，就被网友“教坏”成了种族主义者。这件事让整个行业意识到：AI伦理不是选修课，是必修课。

1.4 AI伦理的核心原则

目前，全球主流的AI伦理框架，基本都围绕这几个原则：

1. 以人为本：AI是为人类服务的，不是反过来。我记得有个项目，为了提升模型准确率，要求用户提供更多隐私数据。我当时就反对——技术指标再好看，也不能牺牲用户权益。
2. 公平公正：AI不能歧视任何人。这说起来容易，做起来难。因为训练数据本身就带着偏见。我建议，在数据收集阶段就要做“偏见审计”。
3. 透明可解释：AI的决策过程要能说清楚。你想想看，如果AI诊断你得了癌症，但医生说不清为什么，你敢信吗？
4. 隐私保护：数据是AI的“燃料”，但不能乱烧。我曾经处理过一个案例，某公司用用户聊天记录训练模型，但没有告知用户。结果被罚了2000万。
5. 安全可靠：AI系统要经得起攻击和考验。尤其是自动驾驶、医疗诊断这些领域，出一次事故可能就是人命关天。
6. 责任明确：AI闯祸了，谁负责？是开发者？部署者？还是使用者？这个问题，目前还没有统一答案。但我个人的经验是：谁控制AI，谁就承担责任。

1.5 小结

好了，这一章的内容就到这里。咱们回顾一下：

• AI伦理是给技术装“方向盘”和“刹车”
• 没有伦理的AI，就像没有刹车的跑车
• AI伦理经历了萌芽、觉醒、爆发、规范四个阶段
• 核心原则包括：以人为本、公平、透明、隐私、安全、责任

下一章，咱们会深入聊聊AI伦理审查框架的具体搭建方法。到时候，我会分享一个我亲手搭建过的审查模板，保证实用。

记住一句话：技术决定AI能走多快，伦理决定AI能走多远。