1. 课程导入与风险认知
科学机器学习(Scientific Machine Learning, SciML)把神经网络、算子学习、物理约束损失与数值求解器结合起来,用于代理仿真、反问题求解、参数辨识和闭环控制。它在训练分布内往往表现惊人,但工程上真正关心的问题常常落在训练分布之外:新的雷诺数、更长的预测时域、未观测过的边界条件、外推到的几何构型。此时模型可能给出"看起来合理、数值上平滑、物理上错误"的结果,而这类错误比崩溃更危险,因为它不会报警。
本课程把外推风险定义为:模型在训练数据支撑域之外(参数域、时空域、边界条件域、几何域)输出偏离真实物理规律或超出可接受误差范围的可能性,以及这种偏离未被及时识别的可能性。注意定义包含两部分——性能退化与可观测性缺失。只关注前者会让人误以为"多测几个点"就能解决,而后者才是工程事故的根源。
为什么外推风险在科学机器学习中格外突出
与图像分类不同,科学计算的目标量通常带有量纲、守恒约束和稳定性要求。一个相对误差 5% 的温度场,可能意味着热应力超限;一个相位偏移 0.1 弧度的波动解,可能在长时间积分后完全失相。更关键的是,物理系统的外推往往不是"平滑过渡":当参数越过临界值时,解的结构会发生分岔,而神经网络没有任何机制保证在分岔点附近保持正确的定性行为。
从风险来源看,可以归纳为四类相互耦合的因素:数据覆盖不足(参数空间采样稀疏或偏斜)、归纳偏置错配(网络架构或损失权重与真实算子结构不符)、分布漂移(部署工况与训练工况的系统性差异)、不确定性未被量化(点预测无置信区间,无法触发降级策略)。这四类因素在后续章节会分别展开为可操作的评估手段。
一个典型失败案例的解剖
考虑一维对流扩散方程的代理模型:训练数据取佩克莱数 Pe ∈ [1, 50],速度场由神经网络预测,用于 Pe = 200 的工况。训练集上相对 L2 误差约 1.2%,验证集(Pe ∈ [1,50] 内留出)约 1.8%。部署到 Pe = 200 时,误差升至 37%,且解出现非物理振荡。原因并不神秘:高 Pe 下对流项主导,解在边界附近形成薄边界层,而训练数据中从未出现足够薄的层结构,网络的感受野与采样密度都不足以分辨。更值得警惕的是,模型在 Pe = 200 时输出的置信度(若用 MC Dropout 估计)并未显著升高,说明不确定性估计本身也外推失效。
这个案例给出三条实践启示:其一,验证集必须包含"接近边界"的样本,而不是随机留出;其二,误差指标要分区域统计(边界层内 vs 内部),全局 L2 会掩盖局部灾难;其三,任何代理模型上线前都应配置外推检测与降级回退机制,而不是假设模型"应该泛化"。
课程学习路线图
本课程共 30 章,按"认知—诊断—量化—防御—落地"五段推进,而不是简单罗列技术点。第一阶段建立风险语言:明确支撑域、外推距离、误差分层等基本概念,避免后续讨论中各说各话。第二阶段进入诊断:如何设计能暴露外推失败的验证集,如何用残差结构、守恒量漂移、频谱特征等信号识别"平滑的错误"。第三阶段是量化:贝叶斯神经网络、深度集成、共形预测、高斯过程回归各自适用于什么规模与什么失效模式,以及它们的校准曲线如何读。
第四阶段聚焦防御性设计:物理约束损失、守恒型架构、算子学习的谱偏置分析、课程式训练与数据增广、以及"检测到外推即回退"的工程模式。第五阶段落地:在代理仿真、反问题、闭环控制三类场景中,如何设定验收门槛、如何写风险登记、如何做上线后监控。每一章都会给出可复现的示例参数与判断依据,但请注意,文中数值均为教学示例或合理假设,不代表任何特定工业系统的实测结果。
需要强调的是,外推风险不可能被"消除",只能被"管理"。一个诚实的评估结论往往是:"在 Pe ≤ 80、预测时域 ≤ 5 个特征时间内的工况下,代理模型误差可控;超出该范围时自动切换至有限体积求解器。"这种带边界的结论,远比"模型精度 98%"更有工程价值。接下来的章节,就是把这句结论变成可执行、可验证、可审计的工程实践。