3. 科学机器学习模型的外推能力边界
外推能力是科学机器学习(SciML)区别于普通回归任务的核心议题。所谓外推,是指模型在训练数据覆盖范围之外进行预测,包括参数区间外推(如训练雷诺数 1e4~5e4,预测 1e5)、几何外推(训练中未见过的翼型或边界形状)、时间外推(短期轨迹预测长期演化)以及工况外推(从稳态到瞬态、从单相到多相)。三类主流建模范式——物理约束模型、纯数据驱动模型、混合模型——在外推时的失效机理和可靠边界截然不同,理解这些差异是开展外推风险评估的前提。
三类模型的外推机理差异
物理约束模型将守恒律、本构关系或控制方程以残差项、硬约束或网络结构的形式嵌入模型,例如 PINN 将 PDE 残差作为损失项,或守恒型网络通过离散格式保证质量守恒。其外推优势来自先验物理结构:即使数据稀疏,方程本身在训练域外仍然成立,因此模型在“物理规律不变、仅参数变化”的外推中通常表现稳健。但其边界也很明确:当外推涉及训练中未出现的物理机制(如激波、相变、湍流转捩),或本构假设本身失效时,物理约束反而会强制模型输出错误结构,产生“自信的错误”。此外,PINN 类方法在多尺度、高波数问题中训练困难,外推误差可能被物理残差掩盖而不易察觉。
纯数据驱动模型(如深度神经网络代理模型、图神经网络、神经算子)完全依赖数据分布学习映射关系。其外推能力本质上受限于训练分布的支撑集:在插值区域精度高,一旦输入偏离训练流形,误差迅速放大且缺乏可解释的失败信号。数据驱动模型的外推失效往往表现为平滑但错误的预测,难以通过残差监控发现。不过,神经算子(FNO、DeepONet)由于学习的是函数空间映射,对分辨率变化和一定范围内的参数外推具有比普通 MLP 更好的泛化性,这是其结构归纳偏置带来的有限外推优势。
混合模型将物理模型与数据驱动修正项耦合,典型形式包括:物理模型 + 神经网络残差修正、算子分裂式中物理步与学习步交替、以及以物理模型为骨架、神经网络替代闭包项(如湍流模型中的雷诺应力修正)。混合模型的外推特性介于两者之间:物理骨架保证了大尺度结构和守恒性,学习模块只承担局部修正,因此外推误差通常比纯数据驱动更可控;但风险在于修正项可能在外推区域产生与物理骨架不匹配的输出,导致耦合不稳定。混合模型的外推可靠性高度依赖于修正项的输入特征是否在外推时仍处于训练分布内。
外推风险的判读与量化
三类模型的外推风险不能仅凭“看起来合理”判断,需要建立可观测的判据。对物理约束模型,应监控 PDE 残差在预测域内的分布以及守恒量(质量、动量、能量)的漂移量;若残差在局部骤增,说明该区域物理结构可能已超出模型假设。对纯数据驱动模型,可采用 OOD(分布外)检测分数、集成模型预测分歧度、以及输入特征的马氏距离作为预警指标;当分歧度超过训练期验证集的分位数阈值时,应视为外推不可信。对混合模型,重点观察修正项的幅值是否超出训练期统计范围,以及物理步与学习步交替时残差是否单调增长。
一个实用的量化做法是构造“外推探针”:在训练域边界外设置若干已知解析解或高保真仿真结果的测试点,计算模型在这些点上的相对误差随外推距离的变化曲线。若误差随距离呈指数增长,说明模型缺乏外推结构;若增长缓慢且可被物理残差解释,则外推边界相对可控。该曲线应作为模型交付文档的一部分,而非仅报告训练集和测试集精度。
适用场景的选择逻辑
选择建模范式时,应先回答两个问题:外推方向是否涉及物理机制变化?可用数据是否覆盖目标工况的关键特征?若物理机制不变、仅参数或几何在合理范围内变化,且数据稀疏,物理约束模型或混合模型更合适;若数据充足且目标工况与训练分布接近,纯数据驱动模型(尤其是神经算子)在精度和效率上占优;若物理骨架可信但闭包项未知(如湍流、燃烧),混合模型是折中方案,但必须为修正项设置输入域监控。
需要强调的是,三类模型的外推边界都不是固定属性,而是随训练数据、物理假设和监控手段动态变化的。工程实践中,更稳妥的做法是为模型配置“外推警戒区”:在训练域边界外一定范围内允许预测但强制输出不确定性估计,超出警戒区则回退到高保真求解器或保守经验模型。这种分层策略比单纯追求某一个模型的外推精度更符合风险评估的实际需求。