4. TCN与RNN/LSTM/Transformer对比
在金融长序列预测中，模型选型往往比调参更关键。RNN、LSTM、Transformer 与 TCN 都能处理时间序列，但它们对“时间”的建模方式截然不同：前者依赖递归状态，后者依赖卷积或注意力。理解这些差异，才能解释为什么 TCN 在分钟级行情、日频因子和宏观序列上常表现出更稳定的长依赖捕捉能力。
一、核心原理：四种序列建模路径
RNN 的核心是递归：每个时刻的隐藏状态 h_t 由当前输入与上一时刻状态共同决定，形成链式依赖。LSTM 在 RNN 基础上引入输入门、遗忘门和输出门，用细胞状态缓解梯度消失，但递归结构未变。Transformer 则完全抛弃递归，用自注意力让任意两个时间步直接交互，理论上路径长度为 1。TCN 采用一维膨胀因果卷积，通过膨胀因子 d 指数级扩大感受野，并用因果卷积保证只看到过去信息。
从信号流看，RNN/LSTM 是“串行递推”，Transformer 是“全局并行加权”，TCN 是“分层膨胀卷积”。金融序列常含噪声与非平稳性，TCN 的局部卷积核与膨胀结构能在保留时序因果的同时，避免注意力对噪声的过度拟合。
二、并行计算与训练效率
RNN/LSTM 的致命弱点是时间步串行：计算 h_t 必须等待 h_{t-1}，GPU 并行度被序列长度锁死。Transformer 训练时可对整个序列并行计算注意力矩阵，但推理时仍需自回归逐 生成，且注意力复杂度为 O(n²)。TCN 的卷积在时间维上可完全并行，膨胀因子让每层感受野按 2^L 增长，长序列训练速度通常显著优于 LSTM。
在金融场景中，若输入为 512 根 K 线，LSTM 需 512 次串行递推；TCN 只需约 log₂(512)=9 层即可覆盖全序列，且每层可并行卷积。这意味着同样的 GPU 预算下，TCN 能更快完成超参搜索与滚动回测。
三、梯度传播与长依赖捕捉
RNN 的梯度沿时间步连乘，极易消失或爆炸；LSTM 通过门控与细胞状态将梯度路径部分线性化，但超过 200 步后仍会衰减。Transformer 的残差连接与层归一化让梯度可直达浅层，但注意力权重在长序列上容易分散。TCN 使用残差块与膨胀卷积，梯度沿卷积层反向传播，路径长度与层数成正比而非序列长度，因此对 500～1000 步的长依赖更稳定。
| 维度 | RNN | LSTM | Transformer | TCN |
|---|---|---|---|---|
| 建模方式 | 递归状态 | 门控递归 | 自注意力 | 膨胀因果卷积 |
| 训练并行度 | 低 | 低 | 高 | 高 |
| 长依赖路径 | O(n) | O(n) | O(1) | O(log n) |
| 梯度稳定性 | 差 | 中 | 较好 | 好 |
| 金融长序列适配 | 弱 | 中 | 中高 | 高 |
四、案例与误区复盘
以某日频因子预测为例：输入过去 250 个交易日的量价与宏观变量，预测未来 5 日收益。LSTM 在验证集上早期表现尚可，但滚动回测到第 180 步后误差明显上升，说明长依赖衰减。Transformer 参数量大，在小样本金融数据上过拟合严重。改用 TCN，膨胀因子设为 [1,2,4,8,16]，配合残差与 Dropout，验证集 IC 提升约 0.03，且训练时间缩短约 40%。
常见误区：一是认为“注意力一定优于卷积”，忽略金融样本量小、噪声大的特点；二是把 TCN 当作普通 CNN，忘记因果卷积与膨胀因子的配合；三是只比较单步误差，不做滚动回测，导致长依赖优势无法暴露。
实践建议：先用 TCN 建立强基线，再尝试 Transformer 或混合结构；膨胀因子按 2^i 递增，层数由序列长度决定；务必用因果卷积防止未来信息泄漏，并在回测中检查不同时间跨度的稳定性。
# TCN 关键参数示例（PyTorch 风格）
channels = [64, 64, 64, 64]
kernel_size = 3
dilations = [1, 2, 4, 8]
dropout = 0.2
causal = True # 严格因果，禁止看到未来
residual = True # 残差连接，稳定梯度总结来看，RNN/LSTM 适合短序列与在线递推，Transformer 适合大数据与全局依赖，而 TCN 在金融长序列预测中兼顾了并行效率、梯度稳定与长依赖捕捉，是当前实战中值得优先验证的序列建模方案。