1. 课程导论
1.1 为什么集成学习对时间序列预测至关重要?
单一预测模型(如单一 LSTM、单一 XGBoost 或单一 ARIMA)在面对复杂、非平稳、多周期叠加的时间序列时,往往存在以下瓶颈:
- 高方差风险:模型对训练数据的微小变化敏感,导致预测结果不稳定。
- 高偏差风险:模型假设空间有限,无法捕捉数据中的复杂模式。
- 过拟合倾向:在噪声较多的时序数据中,单一模型容易记住噪声而非信号。
集成学习通过组合多个基学习器,能够有效降低方差、减少偏差,并提升泛化能力。在时间序列领域,集成策略已被证明在 M4、M5 等顶级预测竞赛中持续取得最优成绩。
核心洞察: 集成学习的成功关键在于 “多样性” —— 只有当基模型之间存在显著差异时,组合才能带来实质性的性能提升。如果所有模型都犯同样的错误,集成将毫无意义。
1.2 多样性增强的核心概念
多样性增强是指通过系统化方法,刻意制造基模型之间的预测差异,从而提升集成模型的鲁棒性和准确性。在时间序列预测中,多样性可以从以下四个维度进行构建:
| 多样性维度 | 具体方法 | 典型技术 |
|---|---|---|
| 数据多样性 | 对原始时间序列进行不同方式的采样或变换 | Bagging(时间块采样)、Bootstrapping、时间序列增强(加噪、缩放、时间扭曲) |
| 模型多样性 | 使用不同架构或不同超参数的模型 | LSTM vs. Transformer vs. XGBoost vs. N-BEATS;不同层数、不同学习率 |
| 特征多样性 | 为不同基模型提供不同的特征子集 | 随机子空间法、滞后特征 vs. 统计特征 vs. 日历特征 |
| 目标多样性 | 对预测目标进行不同形式的变换 | 直接预测 vs. 差分预测 vs. 对数变换预测 vs. 季节性分解后预测 |
1.3 课程目标
本课程旨在帮助学员掌握在时间序列预测中系统化构建多样性集成模型的能力。完成本课程后,你将能够:
- 理解多样性理论:掌握误差-分歧分解、多样性度量指标(如 Q 统计量、相关系数、熵度量)。
- 实现多种集成策略:从 Bagging、随机子空间到 Stacking、加权集成,覆盖主流方法。
- 应用多样性增强技术:在真实时序数据上实施数据增强、模型异构、特征扰动和目标变换。
- 评估集成效果:使用回测、滚动验证和统计检验对比集成模型与单一模型的性能。
- 构建实战项目:完成一个端到端的多样性增强集成预测系统,覆盖电力负荷、金融或气象数据。
1.4 学习路径与课程结构
本课程共分为 6 个模块,共 30 章,采用“理论 → 方法 → 实战”的递进式结构:
| 模块 | 章节范围 | 核心内容 |
|---|---|---|
| 模块一:基础与框架 | 第 1-5 章 | 集成学习基础、多样性理论、时间序列预测回顾、评估指标 |
| 模块二:数据级多样性 | 第 6-10 章 | 时间序列 Bagging、Bootstrapping、数据增强技术(加噪、缩放、时间扭曲) |
| 模块三:模型级多样性 | 第 11-15 章 | 异构模型集成(LSTM + XGBoost + Transformer)、超参数随机化、模型池构建 |
| 模块四:特征与目标多样性 | 第 16-20 章 | 随机子空间法、特征分组、多尺度分解、目标变换集成 |
| 模块五:集成策略与优化 | 第 21-25 章 | Stacking、加权集成、动态选择、多样性-准确性权衡优化 |
| 模块六:实战项目与总结 | 第 26-30 章 | 电力负荷预测实战、金融序列集成、模型部署与监控 |
学习建议: 本课程所有代码均基于 Python 3.9+,主要依赖库包括
numpy、pandas、scikit-learn、xgboost、pytorch 和 statsmodels。建议在开始前准备好虚拟环境。