4. 物理约束项导致的不收敛诊断

在PINN训练中，数据损失通常表现温和，而物理约束项一旦出问题，往往以“损失突然爆炸”“梯度范数剧烈震荡”“训练几百步后参数变成NaN”的形式出现。要定位这类故障，核心思路是把物理约束项拆成可单独观测的链路：输入采样 → 导数计算 → PDE残差组装 → 边界/初值条件残差 → 加权求和 → 反向传播梯度。本节围绕这条链路，讲清楚每一环最典型的数值陷阱，以及如何用可观测的量把问题锁定到具体环节。

先建立参照约定与残差定义

为避免符号混乱，本节统一约定：自变量为 x（空间）与 t（时间），网络输出记为 u_θ(x,t)；PDE残差定义为“方程左端减右端”，即对一维对流扩散方程 u_t + c·u_x − ν·u_xx = 0，残差为

r_pde = u_t + c * u_x - nu * u_xx

边界条件残差 r_bc = u_θ(x_b,t) − g(x_b,t)，初值残差 r_ic = u_θ(x,0) − u_0(x)。总损失为 L = λ_pde·mean(r_pde²) + λ_bc·mean(r_bc²) + λ_ic·mean(r_ic²)。所有诊断都基于“残差应随训练单调下降、量级与解的尺度同阶”这一基本预期。

高阶导数：最容易失真的环节

PINN的 u_xx 通过自动微分对网络求两次导得到。问题在于：若网络使用 tanh 激活，二阶导在饱和区迅速趋零；若使用 ReLU，二阶导几乎处处为零，PDE残差会退化为只含低阶项的错误方程，训练看似收敛实则学错。更隐蔽的是数值量级失衡：当 ν 很小（如 1e-3）而 u_x 量级为 1 时，ν·u_xx 项可能比 u_t 小两三个数量级，残差被低阶项主导，高阶项的信息在梯度中被淹没。

实操中应做两件事。第一，逐项打印残差分量：在训练循环里记录 mean(|u_t|)、mean(|c·u_x|)、mean(|ν·u_xx|)，若三者量级相差超过 1e2，说明方程被某一项支配，需要对输入做无量纲化（把 x、t、u 缩放到 O(1)），或对损失项做自适应加权。第二，用有限差分交叉验证自动微分：在少量配点上用中心差分估计 u_xx，与自动微分结果比较相对误差，若误差超过 1e-2，多半是激活函数或网络深度导致的高阶导失真。

边界条件处理：残差采样与硬约束的取舍

边界残差常见两类问题。其一是采样点未覆盖角点：矩形域四角同时属于两条边界，若采样时按边独立生成，角点可能被重复计入或完全遗漏，导致角点附近残差长期偏高。其二是软约束权重失衡：当 λ_bc 远小于 λ_pde 时，网络倾向于满足PDE而牺牲边界，表现为边界残差下降缓慢、解在边界附近出现偏移。

诊断方法是分别监控 r_bc 在四条边上的均值，若某一条边显著高于其余三条，优先检查该边的采样密度与角点处理。若四条边整体偏高，则调整 λ_bc，或改用硬约束：将输出构造为 u = g(x) + φ(x)·N_θ(x)，其中 φ(x) 在边界上为零，使边界条件被解析满足，从根源上消除边界残差项。

梯度异常：从损失曲线读出问题类型

物理约束项引发的梯度异常有几种典型形态，可通过损失曲线与梯度范数区分：

• 损失尖峰后NaN：多由高阶导数在个别配点上的极端值引起，常见于配点靠近边界或初始时刻的陡峭区域。应对：对配点做域内均匀采样而非随机聚集，或在残差平方前做梯度裁剪。
• 损失平台期不下降：物理项与数据项梯度方向冲突，二者相互抵消。应对：检查两项梯度的余弦相似度，若长期为负，采用梯度归一化或分阶段训练（先数据后物理）。
• 损失震荡：学习率相对残差曲率过大，或配点每步重采样导致残差估计方差高。应对：降低学习率、增大每批配点数，或固定配点集。

下面这张图把上述诊断链路组织成一条可操作的排查路径，从残差分量观测出发，分别指向高阶导数、边界处理和梯度异常三个分支，并给出对应的判据与处置动作。

一个可复现的排查示例

假设在一维对流扩散问题上训练，参数取 c=1.0、ν=0.01，域 x∈[0,1]、t∈[0,1]，网络为4层×64宽 tanh，配点2000个，λ_pde=1、λ_bc=10、λ_ic=10。训练2000步后损失停在 3e-2 不再下降。按上图链路排查：

1. 打印残差分量，得到 mean|u_t|≈0.42、mean|c·u_x|≈0.40、mean|ν·u_xx|≈0.003，量级差约 1.4e2，超过阈值，判定扩散项被淹没。
2. 对 x、t 做无量纲化（缩放到 [0,1] 已是，但对 u 做标准化），并给扩散项单独加权 λ_diff=50，使三项量级接近。
3. 重新训练，mean|ν·u_xx| 升至 0.15 量级，损失在800步内降至 4e-3，边界残差同步下降，梯度范数稳定。

需要强调，上述数值为教学示例中的合理假设，用于说明判据的使用方式，并非某次实测记录。实际项目中应以自己打印的分量统计为准。

把诊断固化为训练时的常规监控

与其在发散后回溯，不如在训练脚本中固定输出一组诊断量：每 N 步记录 r_pde 各分量均值、四条边 r_bc 均值、总梯度范数、以及 r_pde 的最大绝对值。当最大绝对值比均值高两个数量级以上时，说明存在个别“坏配点”，应检查该点是否落在解的陡峭区或边界角点。把这组量画成曲线，物理约束项的问题几乎都能在发散前被提前发现，而不是等到损失变成NaN才回头排查。