1. 课程导论：特征工程在AML中的核心地位、对照实验的基本概念、课程目标与学习路径
1.1 特征工程：自动机器学习的“燃料”
在自动机器学习（AutoML, Automated Machine Learning）的流水线中，模型架构搜索与超参数调优往往占据聚光灯，但真正决定性能上限的往往是特征工程。特征工程是将原始数据转化为更能代表潜在问题的特征的过程，它直接决定了模型能够“看到”什么信息。
在AML的语境下，特征工程不再是纯手工的“艺术”，而是需要被系统化、可复现地纳入对照实验的变量。没有严谨的特征工程对照实验，AML的“自动”将沦为盲目的参数搜索。
核心观点： 特征工程决定了模型性能的上限，而模型算法只是在逼近这个上限。在AML中，特征工程是实验设计中最关键、最容易被忽视的独立变量。
1.2 对照实验的基本概念
对照实验是科学方法的核心，在机器学习中用于隔离特定变量对模型性能的影响。其基本原则是：控制变量。在特征工程实践中，这意味着每次只改变一个特征处理步骤，保持其他所有条件（模型、超参数、数据划分）不变。
| 实验类型 | 定义 | 在特征工程中的应用 |
|---|---|---|
| 空白对照 | 不施加任何处理，作为基线 | 使用原始特征（无任何工程）作为基准 |
| 条件对照 | 施加一种特定的处理 | 仅进行标准化，或仅进行独热编码 |
| 相互对照 | 比较不同处理方式的效果 | 比较“标准化” vs “归一化”对模型的影响 |
| 自身对照 | 同一处理前后的对比 | 比较“特征选择前” vs “特征选择后”的性能 |
常见陷阱： 在AML中，如果同时调整了特征工程步骤和模型超参数，你无法判断性能提升来源于哪个环节。必须坚持“一次一变量”原则。
1.3 特征工程在AML流水线中的位置
下图展示了特征工程在典型AML对照实验流水线中的核心位置。它位于原始数据与模型训练之间，是数据预处理后的关键环节，也是实验变量最密集的区域。
1.4 课程目标与学习路径
本课程旨在通过系统的对照实验，帮助你建立特征工程在AML中的科学实践方法论。你将不再依赖直觉或经验，而是通过严谨的实验设计来验证每一个特征操作的有效性。
课程三大目标
- 掌握特征工程核心技法： 包括数值型、类别型、时间型、文本型特征的常见处理方法及其适用场景。
- 建立对照实验思维： 学会设计“一次一变量”的实验方案，量化评估每个特征步骤对模型性能的贡献。
- 精通AML工具链集成： 能够在AutoML框架（如AutoGluon、FLAML、H2O）中嵌入自定义特征工程，并进行自动化对照比较。
推荐学习路径
| 阶段 | 章节范围 | 核心任务 |
|---|---|---|
| 基础夯实 | 第1-5章 | 理解对照实验原理，掌握基础特征处理方法 |
| 进阶实战 | 第6-15章 | 在真实数据集上设计对照实验，分析特征重要性 |
| AML集成 | 第16-25章 | 将特征工程流水线嵌入AutoML框架，自动化实验 |
| 综合项目 | 第26-30章 | 完成端到端的特征工程对照实验报告 |
1.5 为什么需要对照实验？一个直观的例子
假设你有一个包含“年龄”和“收入”特征的数据集。你决定对“收入”进行对数变换，同时将“年龄”进行分箱处理。模型AUC从0.75提升到了0.80。但你能确定是哪个操作带来的提升吗？
通过对照实验，你应该设计三组实验：
- 实验1（空白对照）： 原始特征 → AUC = 0.75
- 实验2（条件对照A）： 仅对数变换收入 → AUC = 0.78
- 实验3（条件对照B）： 仅分箱年龄 → AUC = 0.76
- 实验4（组合对照）： 同时进行两种操作 → AUC = 0.80
结论： 通过对照实验，你发现性能提升主要来自对数变换（+0.03），而分箱年龄贡献较小（+0.01），两者组合有微弱协同效应（+0.05）。没有对照实验，你可能会错误地认为分箱年龄是关键步骤。
1.6 课程使用的工具与环境
本课程所有实验均基于Python生态，核心依赖库如下：
# 核心依赖
pandas==2.0.3 # 数据处理
numpy==1.24.3 # 数值计算
scikit-learn==1.3.0 # 特征工程与基线模型
autogluon==0.8.2 # AutoML框架（对照实验平台）
mlflow==2.5.0 # 实验跟踪与结果记录
seaborn==0.12.2 # 可视化分析在后续章节中，我们将使用mlflow记录每次对照实验的参数、指标和特征元数据，确保实验的完全可复现性。