1. 课程导入与风险认知

科学机器学习(Scientific Machine Learning, SciML)把神经网络、算子学习、物理约束损失与数值求解器结合起来,用于代理仿真、反问题求解、参数辨识和闭环控制。它在训练分布内往往表现惊人,但工程上真正关心的问题常常落在训练分布之外:新的雷诺数、更长的预测时域、未观测过的边界条件、外推到的几何构型。此时模型可能给出"看起来合理、数值上平滑、物理上错误"的结果,而这类错误比崩溃更危险,因为它不会报警。

本课程把外推风险定义为:模型在训练数据支撑域之外(参数域、时空域、边界条件域、几何域)输出偏离真实物理规律或超出可接受误差范围的可能性,以及这种偏离未被及时识别的可能性。注意定义包含两部分——性能退化与可观测性缺失。只关注前者会让人误以为"多测几个点"就能解决,而后者才是工程事故的根源。

为什么外推风险在科学机器学习中格外突出

与图像分类不同,科学计算的目标量通常带有量纲、守恒约束和稳定性要求。一个相对误差 5% 的温度场,可能意味着热应力超限;一个相位偏移 0.1 弧度的波动解,可能在长时间积分后完全失相。更关键的是,物理系统的外推往往不是"平滑过渡":当参数越过临界值时,解的结构会发生分岔,而神经网络没有任何机制保证在分岔点附近保持正确的定性行为。

从风险来源看,可以归纳为四类相互耦合的因素:数据覆盖不足(参数空间采样稀疏或偏斜)、归纳偏置错配(网络架构或损失权重与真实算子结构不符)、分布漂移(部署工况与训练工况的系统性差异)、不确定性未被量化(点预测无置信区间,无法触发降级策略)。这四类因素在后续章节会分别展开为可操作的评估手段。

一个典型失败案例的解剖

考虑一维对流扩散方程的代理模型:训练数据取佩克莱数 Pe ∈ [1, 50],速度场由神经网络预测,用于 Pe = 200 的工况。训练集上相对 L2 误差约 1.2%,验证集(Pe ∈ [1,50] 内留出)约 1.8%。部署到 Pe = 200 时,误差升至 37%,且解出现非物理振荡。原因并不神秘:高 Pe 下对流项主导,解在边界附近形成薄边界层,而训练数据中从未出现足够薄的层结构,网络的感受野与采样密度都不足以分辨。更值得警惕的是,模型在 Pe = 200 时输出的置信度(若用 MC Dropout 估计)并未显著升高,说明不确定性估计本身也外推失效。

这个案例给出三条实践启示:其一,验证集必须包含"接近边界"的样本,而不是随机留出;其二,误差指标要分区域统计(边界层内 vs 内部),全局 L2 会掩盖局部灾难;其三,任何代理模型上线前都应配置外推检测与降级回退机制,而不是假设模型"应该泛化"。

科学机器学习外推风险:来源—表现—后果—应对 风险来源 数据覆盖不足 参数采样稀疏 / 偏斜 归纳偏置错配 架构 / 损失权重不符 分布漂移 部署工况 ≠ 训练工况 不确定性未量化 无置信区间 / 无告警 四类因素相互耦合放大 外推时的典型表现 误差突增但输出平滑 "看起来合理"最危险 非物理振荡 / 失稳 边界层、激波附近 守恒量漂移 质量 / 能量不闭合 定性行为错误 分岔 / 相变判断失误 不确定性估计失效 置信度不随误差升高 工程后果 • 设计裕度被高估,安全系数失真 • 闭环控制中误差累积导致失稳 • 反问题解不唯一或落入伪解 • 代理模型替代仿真后,验证链断裂 • 事故后难以定位是数据、模型还是工况 本课程的应对框架 ① 界定支撑域:参数 / 时空 / 边界 / 几何 ② 分层验证:内插、近边界、远外推 ③ 不确定性量化与分布外检测 ④ 物理一致性校验(守恒、稳定性) ⑤ 降级与回退:切换高保真求解器 ⑥ 上线监控与漂移告警 示例:一维对流扩散代理模型,训练 Pe∈[1,50],部署 Pe=200 —— 验证误差 1.8%,外推误差 37%,且置信度未升高

课程学习路线图

本课程共 30 章,按"认知—诊断—量化—防御—落地"五段推进,而不是简单罗列技术点。第一阶段建立风险语言:明确支撑域、外推距离、误差分层等基本概念,避免后续讨论中各说各话。第二阶段进入诊断:如何设计能暴露外推失败的验证集,如何用残差结构、守恒量漂移、频谱特征等信号识别"平滑的错误"。第三阶段是量化:贝叶斯神经网络、深度集成、共形预测、高斯过程回归各自适用于什么规模与什么失效模式,以及它们的校准曲线如何读。

第四阶段聚焦防御性设计:物理约束损失、守恒型架构、算子学习的谱偏置分析、课程式训练与数据增广、以及"检测到外推即回退"的工程模式。第五阶段落地:在代理仿真、反问题、闭环控制三类场景中,如何设定验收门槛、如何写风险登记、如何做上线后监控。每一章都会给出可复现的示例参数与判断依据,但请注意,文中数值均为教学示例或合理假设,不代表任何特定工业系统的实测结果。

学习建议:每读一章,回到自己的项目里问三个问题——我的支撑域边界在哪里?我上一次验证是否覆盖了近边界样本?如果模型明天外推失效,系统会在多久内发现?把答案写下来,比记住任何单一算法都更有价值。

需要强调的是,外推风险不可能被"消除",只能被"管理"。一个诚实的评估结论往往是:"在 Pe ≤ 80、预测时域 ≤ 5 个特征时间内的工况下,代理模型误差可控;超出该范围时自动切换至有限体积求解器。"这种带边界的结论,远比"模型精度 98%"更有工程价值。接下来的章节,就是把这句结论变成可执行、可验证、可审计的工程实践。