1. 课程导论：特征筛选与模型验证在机器学习全流程中的核心地位
1.1 为什么特征筛选与模型验证是机器学习成败的分水岭？
在工业级机器学习项目中，数据科学家 80% 的时间花在数据准备与特征工程上，而特征筛选与模型验证则是决定模型能否从“实验室精度”走向“生产鲁棒性”的关键关卡。没有严谨的特征筛选，模型会陷入维度灾难与过拟合；没有科学的模型验证，评估指标只是自欺欺人的数字游戏。
核心认知： 特征筛选解决“用什么预测”的问题，模型验证解决“预测是否可信”的问题。两者共同构成机器学习全流程的“质量护栏”。
1.2 机器学习全流程中的位置与作用
下图展示了特征筛选与模型验证在整个机器学习流水线中的衔接位置：
关键洞察： 特征筛选不是一次性动作，而是与模型验证形成闭环。每一次验证结果都应反馈到特征筛选策略中，形成“筛选 → 训练 → 验证 → 再筛选”的迭代优化。
1.3 课程目标与学习路径
本课程旨在帮助学员建立从理论到实战的完整知识体系，掌握可复用的特征筛选与模型验证方法论。课程按“基础 → 方法 → 实战 → 进阶”四阶段递进：
| 阶段 | 章节范围 | 核心目标 | 关键产出 |
|---|---|---|---|
| 基础篇 | 第 1-5 章 | 理解特征筛选与验证的数学原理与评价指标 | 评价指标速查表、偏差-方差分析框架 |
| 方法篇 | 第 6-14 章 | 掌握过滤法、包裹法、嵌入法、降维法的实现与对比 | 特征筛选方法对比矩阵、代码模板 |
| 实战篇 | 第 15-24 章 | 在真实数据集上完成全流程特征筛选与模型验证 | 可复现的 Jupyter Notebook 流水线 |
| 进阶篇 | 第 25-30 章 | 处理高维数据、时间序列、非结构化数据的特殊场景 | 工业级验证方案、自动化特征筛选工具 |
1.4 学习路径概览
建议学员按以下路径循序渐进，每章均包含理论讲解、代码实战与思考题：
- 先修知识自查： 确保掌握 Python 基础、pandas/numpy 操作、sklearn 基本 API。
- 核心概念建立： 第 2-5 章打好指标与验证策略的理论基础。
- 方法逐个击破： 第 6-14 章每章聚焦一种筛选或验证方法，配合对比实验。
- 综合实战演练： 第 15-24 章使用 Kaggle 竞赛数据集完成端到端项目。
- 场景化进阶： 第 25-30 章针对金融风控、推荐系统、NLP 等场景专项优化。
⚠ 避坑提示： 不要跳过基础篇直接进入实战。特征筛选中的“数据泄露”和模型验证中的“样本不独立”是初学者最容易犯的错误，基础篇会系统讲解如何避免。
1.5 课程配套资源与工具栈
本课程全程使用以下工具栈，所有代码均可在标准数据科学环境中运行：
| 类别 | 工具/库 | 用途 |
|---|---|---|
| 数据处理 | pandas, numpy | 数据加载、清洗、特征工程 |
| 特征筛选 | sklearn.feature_selection, Boruta, SHAP | 过滤法、包裹法、嵌入法实现 |
| 模型验证 | sklearn.model_selection, mlxtend | 交叉验证、嵌套验证、统计检验 |
| 可视化 | matplotlib, seaborn, plotly | 特征分布、重要性排序、验证曲线 |
| 自动化流水线 | sklearn.pipeline, feature-engine | 构建可复用的筛选+验证流程 |
# 环境验证代码片段（建议在第一章运行）
import sklearn
import pandas as pd
import numpy as np
print(f"scikit-learn 版本: {sklearn.__version__}")
print(f"pandas 版本: {pd.__version__}")
print(f"numpy 版本: {np.__version__}")
# 确认特征筛选模块可用
from sklearn.feature_selection import SelectKBest, f_classif
from sklearn.model_selection import cross_val_score, KFold
print("✅ 核心模块导入成功，环境就绪！")