随机信号与统计基础:随机过程、自相关函数、功率谱密度、平稳性与遍历性

自适应滤波器的核心任务是从含噪观测中提取有用信号,或对未知系统进行在线辨识。与确定性信号处理不同,自适应滤波所面对的输入信号、期望信号和干扰噪声本质上都是随机信号——它们无法用确定的时间函数精确描述,只能通过统计特性加以刻画。因此,理解随机过程的基本概念、自相关函数与功率谱密度的关系、平稳性与遍历性的判定条件,是设计自适应滤波器、分析其收敛行为与稳态性能的前提。本节将系统梳理这些统计基础,并重点说明它们如何直接映射到LMS、RLS等自适应算法的工程实现中。

随机信号统计基础与自适应滤波的映射关系 随机过程 X(t) 样本函数集合 {x₁(t), x₂(t), …} 时域统计量 均值 μ(t)、方差 σ²(t) 自相关函数 Rₓₓ(t₁,t₂) 二阶矩:E[X(t₁)X(t₂)] 互相关函数 Rₓᵧ(t₁,t₂) 输入与期望信号的相关性 功率谱密度 Sₓₓ(ω) 维纳-辛钦定理:Rₓₓ(τ) ↔ Sₓₓ(ω) 互功率谱 Sₓᵧ(ω) 频域互相关 → 维纳解 宽平稳 (WSS) 均值恒定 + Rₓₓ(τ) 仅依赖时间差 遍历性 (Ergodic) 时间平均 = 集合平均 → 可用单次观测估计 自适应滤波器的统计需求 维纳解需要 Rₓₓ 和 Rₓᵧ → 实际中用时间平均估计 工程要点 • 实际信号仅有限长 → 用样本自相关估计 R̂ₓₓ • 遍历性假设是自适应算法可实现的基石 • 非平稳信号需引入遗忘因子(RLS)或变步长(LMS)

3.1 随机过程的基本概念与数学描述

随机过程是将概率论从静态随机变量推广到动态时间序列的数学框架。一个实值随机过程 \(X(t)\) 定义在概率空间 \((\Omega, \mathcal{F}, P)\) 上,对于每个固定的时间 \(t\),\(X(t)\) 是一个随机变量;对于每个固定的样本点 \(\omega \in \Omega\),\(X(t)\) 是一个确定的时间函数,称为样本函数或实现。在自适应滤波场景中,麦克风拾取的语音信号、雷达接收机输出的回波、通信信道中的接收波形,都是随机过程的物理体现。

随机过程的完整统计描述需要其任意有限维联合分布函数族。然而在实际工程中,我们几乎不可能获得完整的概率分布信息,因此通常只关注一阶和二阶统计量:

  • 均值函数:\(\mu_X(t) = E[X(t)]\),描述过程在时刻 \(t\) 的平均电平。
  • 方差函数:\(\sigma_X^2(t) = E[(X(t)-\mu_X(t))^2]\),描述瞬时波动强度。
  • 自相关函数:\(R_{XX}(t_1, t_2) = E[X(t_1)X(t_2)]\),描述同一过程在两个不同时刻的线性关联程度。
  • 自协方差函数:\(C_{XX}(t_1, t_2) = R_{XX}(t_1, t_2) - \mu_X(t_1)\mu_X(t_2)\),去除均值影响后的相关度量。

对于自适应滤波器设计,自相关函数尤为重要。以最小均方误差(MMSE)准则为例,维纳-霍夫方程的核心就是输入信号的自相关矩阵 \(\mathbf{R} = E[\mathbf{x}(n)\mathbf{x}^T(n)]\) 以及输入与期望信号的互相关向量 \(\mathbf{p} = E[\mathbf{x}(n)d(n)]\)。这两个统计量完全由随机过程的二阶矩决定,因此理解自相关函数的性质是推导自适应算法的基础。

工程视角:在实时DSP实现中,我们无法获得真实的统计期望 \(E[\cdot]\),只能用时间平均代替。这就引出了遍历性假设——如果随机过程是遍历的,那么时间平均收敛于集合平均,从而可以用一段有限长的观测数据来估计自相关矩阵和互相关向量。LMS算法本质上就是用瞬时梯度 \(\hat{\nabla} = -2\mathbf{x}(n)e(n)\) 代替真实梯度 \( \nabla = -2\mathbf{p} + 2\mathbf{R}\mathbf{w}\) 的随机近似方法。

3.2 自相关函数:性质与估计方法

自相关函数 \(R_{XX}(\tau) = E[X(t)X(t+\tau)]\) 在宽平稳条件下仅依赖于时间差 \(\tau\),它从时域刻画了随机过程的“记忆长度”和“变化速率”。其关键性质包括:

  1. 对称性:\(R_{XX}(\tau) = R_{XX}(-\tau)\),自相关函数是偶函数。
  2. 最大值在原点:\(|R_{XX}(\tau)| \leq R_{XX}(0) = E[X^2(t)]\),即信号的总平均功率。
  3. 非负定性:对任意实数 \(a_1, ..., a_N\) 和任意时刻 \(t_1, ..., t_N\),有 \(\sum_{i=1}^{N}\sum_{j=1}^{N} a_i a_j R_{XX}(t_i-t_j) \geq 0\)。这一性质保证了自相关矩阵 \(\mathbf{R}\) 是半正定的,从而维纳解 \(\mathbf{w}^* = \mathbf{R}^{-1}\mathbf{p}\) 存在且唯一(当 \(\mathbf{R}\) 正定时)。
  4. 与功率谱密度的关系:\(R_{XX}(\tau) \xrightarrow{\mathcal{F}} S_{XX}(\omega)\),即维纳-辛钦定理。

在实际DSP系统中,我们只能获得有限长度的观测数据 \(x(0), x(1), ..., x(N-1)\)。常用的自相关估计方法有两种:

估计方法 公式 特点 适用场景
有偏自相关估计 \(\hat{R}_{XX}(m) = \frac{1}{N}\sum_{n=0}^{N-1-|m|} x(n)x(n+|m|)\) 估计方差较小,但存在渐近偏差;当 \(N \to \infty\) 时偏差趋于零 数据量较大时优先选择
无偏自相关估计 \(\hat{R}_{XX}(m) = \frac{1}{N-|m|}\sum_{n=0}^{N-1-|m|} x(n)x(n+|m|)\) 无偏但方差较大,尤其当 \(|m|\) 接近 \(N\) 时极不稳定 数据量有限且需要精确估计时谨慎使用

在自适应滤波中,自相关矩阵 \(\mathbf{R}\) 的估计质量直接影响收敛速度和稳态失调。以LMS算法为例,其收敛条件要求 \(\mathbf{R}\) 的特征值分布不能过于分散——特征值扩散度 \(\chi(\mathbf{R}) = \lambda_{\max}/\lambda_{\min}\) 越大,收敛越慢。而 \(\mathbf{R}\) 的特征值分布本质上由输入信号的自相关函数决定:白噪声的自相关函数为冲激函数,对应 \(\mathbf{R}\) 为对角阵,特征值均匀;有色噪声的自相关函数具有拖尾,导致 \(\mathbf{R}\) 特征值扩散度增大。

经验法则:当输入信号为强相关(如语音信号)时,建议对输入进行预白化处理(如使用固定的一阶高通滤波器),或改用RLS算法。RLS算法通过递归更新 \(\mathbf{R}^{-1}\),对特征值扩散度的敏感度远低于LMS。

3.3 功率谱密度与维纳-辛钦定理

功率谱密度(PSD)从频域描述随机信号的功率分布。对于宽平稳随机过程,维纳-辛钦定理建立了自相关函数与功率谱密度之间的傅里叶变换关系:

\[ S_{XX}(\omega) = \sum_{\tau=-\infty}^{\infty} R_{XX}(\tau) e^{-j\omega\tau} \]

\[ R_{XX}(\tau) = \frac{1}{2\pi} \int_{-\pi}^{\pi} S_{XX}(\omega) e^{j\omega\tau} d\omega \]

PSD具有以下工程意义:

  • 功率分布可视化:\(S_{XX}(\omega)\) 表示信号在频率 \(\omega\) 处的功率密度,积分 \( \int_{\omega_1}^{\omega_2} S_{XX}(\omega)d\omega\) 给出该频带内的信号功率。
  • 滤波器设计依据:维纳滤波器的频率响应为 \(H(\omega) = \frac{S_{XY}(\omega)}{S_{XX}(\omega)}\),其中 \(S_{XY}(\omega)\) 是输入与期望信号的互功率谱。这一公式在频域直接给出了最优滤波器的解析解。
  • 噪声特性分析:白噪声的PSD为常数,有色噪声的PSD随频率变化。自适应滤波器对有色噪声的抑制能力取决于PSD的形状。

在实时系统中,PSD通常通过周期图法或Welch方法估计。周期图法直接对有限长数据做FFT并取模平方,但方差较大;Welch方法通过分段加窗、重叠平均来降低方差,是工程中最常用的PSD估计方法。

常见误区:不要将周期图法得到的幅度谱直接当作PSD。幅度谱 \(|X(k)|\) 反映的是各频率分量的幅度,而PSD反映的是功率密度,两者相差一个因子 \(1/N\)(或 \(1/(2\pi)\)),且PSD需要取模平方。在自适应滤波的频域实现(如频域LMS)中,这一区别直接影响步长因子的归一化计算。

3.4 平稳性与遍历性:判定方法与工程意义

平稳性分为严平稳和宽平稳。严平稳要求任意有限维分布函数在时间平移下不变,条件过于苛刻,工程中几乎无法验证。宽平稳(WSS)只要求:

  1. 均值恒定:\(\mu_X(t) = \mu\)(常数)
  2. 自相关函数仅依赖时间差:\(R_{XX}(t_1, t_2) = R_{XX}(t_1 - t_2)\)

遍历性则进一步要求时间平均等于集合平均。对于宽平稳过程,若满足 \(\lim_{T \to \infty} \frac{1}{T}\int_{-T/2}^{T/2} R_{XX}(\tau)d\tau = 0\),则均值具有遍历性;若自相关函数满足类似条件,则自相关也具有遍历性。在实际工程中,我们通常默认信号在观测窗口内是遍历的,否则自适应滤波器的统计估计将失去意义。

判定一个实际信号是否满足宽平稳,常用的工程方法包括:

  • 分段均值检验:将数据分为若干段,计算每段均值,若波动在允许范围内则视为均值平稳。
  • 分段方差检验:类似地检验各段方差是否一致。
  • 自相关函数稳定性检验:用不同时间段的数据估计自相关函数,观察是否基本一致。
  • 单位根检验:如ADF检验,用于判断信号是否含有趋势项或随机游走成分。

在自适应滤波中,非平稳性是一个必须面对的挑战。语音信号在短时间内(10-30ms)可视为平稳,但长时间内说话内容、音量、背景噪声都在变化;无线信道随移动速度变化呈现快衰落或慢衰落。针对非平稳信号,自适应滤波器需要具备跟踪能力:

算法 平稳环境性能 非平稳跟踪能力 机理
标准LMS 稳态失调较小 较差 固定步长,无法兼顾收敛速度与稳态精度
归一化LMS (NLMS) 较好 中等 步长随输入功率归一化,对输入波动有一定适应性
变步长LMS 较好 较好 误差大时步长大,误差小时步长小
RLS 收敛快、精度高 优秀 递归更新 \(\mathbf{R}^{-1}\),带遗忘因子 \(\lambda\) 可自适应跟踪

3.5 案例:语音噪声对消中的统计特性分析

考虑一个车载免提电话的噪声对消场景。主麦克风拾取信号 \(d(n) = s(n) + v_1(n)\),其中 \(s(n)\) 是驾驶员语音,\(v_1(n)\) 是发动机噪声经车内反射后的版本;参考麦克风拾取 \(x(n) = v_2(n)\),主要是发动机噪声的直达路径信号。目标是设计自适应滤波器,用 \(x(n)\) 估计 \(v_1(n)\) 并从 \(d(n)\) 中减去。

初始现象与约束:车辆怠速时发动机转速约800rpm,对应基频约13.3Hz,谐波延伸至数百Hz;行驶时转速升至2000-3000rpm,基频和频谱整体上移。此外,路面噪声是宽带随机信号。系统约束为:DSP处理器为ADI SHARC系列,主频400MHz,采样率16kHz,滤波器阶数64阶,要求算法在5ms内完成一次迭代。

关键统计参数分析:

  1. 平稳性检验:对参考信号 \(x(n)\) 做分段均值检验(每段20ms),发现怠速时均值基本稳定,但加速时均值明显漂移——说明信号非平稳,需要算法具备跟踪能力。
  2. 自相关函数估计:用有偏估计计算 \(\hat{R}_{XX}(m)\),发现 \(m=0\) 处功率集中,但 \(m=1,2\) 处也有较大值,说明信号存在较强帧间相关性。计算特征值扩散度 \(\chi(\mathbf{R}) \approx 15\),标准LMS的收敛时间常数 \(\tau_{conv} \approx \frac{\chi(\mathbf{R})}{2\mu}\),若取 \(\mu=0.01\),则 \(\tau_{conv} \approx 750\) 次迭代,约47ms——勉强满足要求但余量不足。
  3. 功率谱密度估计:用Welch方法(FFT长度512,50%重叠,Hamming窗)估计 \(S_{XX}(\omega)\),发现能量集中在50-200Hz的窄带内,对应发动机基频及其2-3次谐波。这意味着输入信号是窄带有色噪声,自相关矩阵接近奇异,LMS收敛会非常缓慢。

方案调整:基于上述统计特性,将标准LMS改为NLMS,并增加一个简单的频谱预白化滤波器(一阶FIR,系数为 \([1, -0.9]\)),将输入信号的高频分量适当提升。修改后特征值扩散度降至 \(\chi(\mathbf{R}) \approx 4\),收敛时间缩短至约12ms。同时,考虑到加速工况下的非平稳性,引入变步长策略:当误差信号能量突然增大时,步长自动增大以加速跟踪。

结果对比:在怠速工况下,标准LMS的稳态失调约为-18dB,NLMS+预白化达到-25dB;在急加速工况下,标准LMS出现明显发散(误差增大6dB),而改进方案仍能保持-15dB的噪声抑制。代价是预白化滤波器引入了约0.5ms的额外延迟,以及变步长逻辑增加了约10%的MIPS消耗。

复盘经验:自适应滤波器的性能瓶颈往往不在算法本身,而在对输入信号统计特性的理解深度。通过自相关函数分析预判特征值扩散度,通过PSD分析识别窄带干扰,通过平稳性检验决定是否需要跟踪机制——这些统计工具是算法选型和参数整定的科学依据。

总结:随机过程的统计框架为自适应滤波提供了理论基础。自相关函数决定了维纳解的存在性和LMS的收敛速度,功率谱密度揭示了信号的频域结构,平稳性与遍历性则决定了我们能否用时间平均代替集合平均。在实时DSP实现中,务必先对信号进行基本的统计特性分析,再选择算法和参数,避免“盲目调参”的工程陷阱。