3. 自适应采样的数学基础

在物理残差自适应采样中,我们真正要回答的问题不是“该采多少个点”,而是“该把点放在哪里”。这一节把直觉背后的数学骨架拆开:采样分布如何描述点的疏密,重要性采样如何用权重修正偏差,自适应策略为什么有机会收敛,以及误差与采样密度之间那条近似反比的定量关系。

一、采样分布:把“疏密”写成一个概率密度

设采样区域为 Ω(例如二维参数平面 [0,1]²),采样分布用概率密度 p(x) 描述,满足 p(x) ≥ 0 且 ∫Ω p(x) dx = 1。p(x) 大表示该处点更密,p(x) 小表示更稀。均匀采样对应 p(x) = 1/|Ω|,是最朴素但通常不是最优的选择。

物理残差自适应采样的核心假设是:残差 r(x) 大的区域,解的质量差、误差贡献大,应当多采样。于是我们希望 p(x) 与某种残差强度度量 w(x) = |r(x)|α(α > 0 为锐化指数)成正比。但 w(x) 事先未知,只能通过已评估的样本点去估计,这就引出了“自适应”的本质:用当前样本估计残差场,再据此更新采样分布,循环往复。

二、重要性采样:用权重把偏差修正回来

若我们想估计某个量 I = ∫Ω f(x) dx,而从 p(x) 采样,则无偏估计为:

I ≈ (1/N) Σ_{i=1..N} f(x_i) / p(x_i),   x_i ~ p(x)

这里 1/p(xi) 就是重要性权重。它补偿了“稀处点少、密处点多”带来的偏差:密处的点权重大小被压低,稀处的点权重被抬高。估计的方差为:

Var = (1/N) [ ∫ f²(x)/p(x) dx − I² ]

当 p(x) ∝ |f(x)| 时方差最小——这正是“按残差大小分配采样密度”的理论依据。实践中常用 p(x) ∝ (|r(x)| + ε)α,ε 防止零残差区密度归零导致数值问题,α 控制锐化程度(α 越大越集中于高残差区,但估计方差也越大)。

工程经验:α 常取 1~2。α 过大时,低残差区几乎无点,残差场估计本身会失真,反而拖慢收敛;α 过小时退化为近似均匀采样,自适应收益不明显。

三、误差与采样密度的关系

对一维情形,若采样密度为 ρ(x)(单位长度点数),局部点间距 h(x) ≈ 1/ρ(x)。数值积分或插值的局部误差通常与 hk 成正比(k 为方法阶数),因此总误差近似为:

E ≈ C ∫ ρ(x)^{-k} dx

在总点数 N = ∫ ρ(x) dx 固定的约束下,用变分法可得最优密度 ρ*(x) ∝ |r(x)|k/(k+1)。这说明:误差随采样密度按幂律下降,且最优密度并非简单正比于残差,而是残差的 k/(k+1) 次幂。对二阶方法(k=2),指数约为 2/3;对四阶方法(k=4),指数约为 4/5。这解释了为什么实践中 α 取 1~2 往往够用——理论最优指数本就接近 1。

残差场 r(x) 与采样密度 ρ(x) 的对应 x 幅值 高残差峰 高残差峰 采样密度 ρ(x) 随残差升高 误差 E 随采样密度 ρ 的幂律下降 ρ E E ∝ ρ⁻ᵏ(k 为方法阶数) 最优密度:ρ*(x) ∝ |r(x)|^(k/(k+1)) k=2 → 指数 ≈ 0.67;k=4 → 指数 ≈ 0.80 故实践中 α 取 1~2 已接近理论最优 当前样本集 估计残差场 r̂(x) 更新采样分布 p ∝ (|r̂|+ε)^α 按 p 采样新点 重要性权重 1/p 评估残差 并入样本集 迭代:残差估计 → 密度更新 → 再采样(收敛性依赖 α 与样本量)

四、自适应策略的收敛性直觉

自适应采样不是一次性计算,而是一个迭代映射:pt+1 = T(pt),其中 T 由“用样本估计残差 → 归一化为密度”构成。收敛性可以从三个角度建立直觉:

  • 估计误差随样本量下降:残差场估计 r̂ 的误差约为 O(N-1/2),样本越多,密度更新越接近真实最优密度。
  • 映射的压缩性:若 T 对 p 的扰动是压缩的(Lipschitz 常数 < 1),迭代会收敛到不动点 p*。α 过大或 ε 过小会放大扰动,破坏压缩性,表现为密度在峰间“震荡”。
  • 误差单调性:在理想估计下,每轮更新后总误差 Et 不增;实际中因估计噪声可能出现短暂回升,但长期趋势下降。
常见误区:把“每轮误差都下降”当作收敛判据。由于残差估计有噪声,单轮误差可能回升。更稳健的判据是连续若干轮误差的相对变化小于阈值(如 1%),且采样密度分布趋于稳定。

五、一个可执行的教学示例

设 Ω = [0,1]²,真实残差场为 r(x,y) = exp(−((x−0.3)²+(y−0.7)²)/0.02) + 0.6·exp(−((x−0.8)²+(y−0.2)²)/0.01)。取 N=400,α=1.5,ε=0.05,迭代 8 轮。每轮用高斯核(带宽 0.08)对已评估点做残差插值得到 r̂,再归一化为 p。可观察到的合理现象是:前 3 轮点快速向两个峰聚集,第 4~6 轮密度分布基本稳定,第 7~8 轮误差相对变化小于 1%,可判定收敛。若把 α 调到 4,则会看到点在两峰间来回跳动、误差不降反升——这正是压缩性被破坏的直观表现。

参数作用取值建议失当表现
α(锐化指数)控制密度集中程度1~2过大:震荡不收敛;过小:退化为均匀
ε(平滑项)防止零残差区密度归零0.01~0.1过小:数值不稳;过大:抹平差异
N(每轮样本量)控制残差估计精度≥ 200过小:密度更新噪声大
核带宽残差场插值平滑度与特征尺度同量级过大:峰被抹平;过小:密度碎片化

把以上四点串起来:采样分布是“把疏密写成函数”,重要性采样是“用权重保证估计无偏”,误差-密度幂律给出“该多密才够”的定量标尺,而收敛性直觉则告诉我们“迭代会不会稳定下来、参数该怎么选”。这四者共同构成自适应采样从直觉走向可计算、可调参、可判据的数学基础。