4. 随机过程与熵的数学基础

在量子随机数熵源建模与评估中,我们面对的不是一次孤立的随机试验,而是一条随时间不断产生输出的随机信号。要判断这条信号“有多随机”“能否被预测”“熵有多少”,必须先把物理过程抽象成可计算的数学对象。本节围绕概率空间、平稳性、遍历性、马尔可夫性、熵率与最小熵六个核心概念展开,说明它们各自刻画什么、在熵源分析中扮演什么角色,以及如何把它们串成一条从原始信号到熵估计的推理链。

一、概率空间:把物理输出变成可计算对象

概率空间由三元组 (Ω, F, P) 构成。Ω 是样本空间,即所有可能结果的集合;F 是事件域,即我们关心并可赋予概率的事件集合;P 是概率测度,把每个事件映射到 [0,1] 区间。对熵源而言,Ω 通常是一次采样可能得到的原始输出集合,例如某探测器输出的电压量化值、光子到达时间差或相位测量结果。

以单光子探测为例,设每次测量输出为 0 或 1,则 Ω={0,1}。若器件存在偏置,P({1})=0.52,P({0})=0.48。此时单次测量的香农熵为 H = −0.52·log₂0.52 − 0.48·log₂0.48 ≈ 0.9988 bit,而理想公平硬币为 1 bit。这个差值就是偏置带来的熵损失。概率空间的意义在于:它把“物理上不确定”翻译成“数学上可积分、可求熵”的对象,后续所有平稳性、遍历性和熵率讨论都建立在这个基础之上。

二、平稳性与遍历性:时间维度的两个关键假设

平稳性描述的是统计特性随时间平移的不变性。若对任意时间平移 τ,联合分布满足 P(X_{t1},…,X_{tk}) = P(X_{t1+τ},…,X_{tk+τ}),则称过程是严平稳的。工程中更常用宽平稳:均值恒定、自协方差只依赖时间差。平稳性意味着“今天采样的统计规律,明天依然成立”,这是用一段有限数据估计整体熵的前提。

遍历性则更进一步:它保证时间平均等于集合平均。若过程遍历,则用一条足够长的样本轨迹计算出的均值、方差和熵率,会收敛到理论期望值。平稳但不遍历的典型反例是 X_t = A(A 为随机常数,一旦确定就不再变化),此时时间平均恒为 A,而集合平均是 E[A],两者不等。对熵源来说,如果器件存在不可恢复的固定偏置且该偏置本身随机,那么单条长轨迹无法反映整体分布,熵估计会系统性偏离。

平稳性回答“统计规律是否随时间变化”,遍历性回答“一条轨迹能否代表整个集合”。两者共同决定:我们能否用一段实测数据去估计熵源的长期熵。

三、马尔可夫性:把长程依赖压缩成转移结构

马尔可夫性指给定当前状态后,未来与过去条件独立:P(X_{t+1}|X_t,…,X_1)=P(X_{t+1}|X_t)。它把复杂的长程记忆压缩成状态转移矩阵,使熵率计算从“看整条序列”变成“看一步转移”。对熵源建模,这非常关键:许多物理噪声源(如带限放大器、探测器死时间、激光弛豫振荡)的输出并非独立同分布,但可以用低阶马尔可夫链近似。

例如一个二状态马尔可夫链,转移矩阵为 P(0→1)=0.1,P(1→0)=0.2。其平稳分布为 π₀=2/3,π₁=1/3。该链的熵率(以 bit/符号计)为 H = π₀·H(0.1) + π₁·H(0.2) ≈ 0.6667×0.469 + 0.3333×0.722 ≈ 0.553 bit/符号。若误把它当作独立同分布,用平稳分布直接算香农熵会得到约 0.918 bit/符号,明显高估。这说明马尔可夫性不仅是建模工具,更是避免熵高估的校正手段。

四、熵率与最小熵:从平均不确定性到最坏情况保证

熵率刻画随机过程每输出一个符号平均带来的新信息量,定义为 H(X)=lim_{n→∞} H(X_1,…,X_n)/n。对独立同分布源,熵率等于单符号香农熵;对马尔可夫链,熵率等于平稳分布下的条件熵。熵率是“平均意义”上的不确定性,适合描述典型序列的压缩极限。

但密码学场景关心的是最坏情况:攻击者可能利用最不利的观测条件。最小熵定义为 H_∞(X)=−log₂ max_x P(X=x),它衡量的是“最可能结果”所对应的不确定性下界。若某 8 bit 输出中最大概率为 2⁻⁵,则最小熵为 5 bit,而不是香农熵可能给出的接近 8 bit。在量子随机数生成中,最小熵直接决定可提取的真随机比特数:若原始输出最小熵为 5 bit,经过隐私放大后最多可安全提取约 5 bit 的均匀随机比特(实际还需扣除认证等开销)。

从物理输出到熵估计的数学链条 概率空间 → 平稳性/遍历性 → 马尔可夫性 → 熵率/最小熵 概率空间 (Ω,F,P) Ω:输出集合 F:可测事件 P:概率测度 例:P(1)=0.52 平稳性 统计特性不随时间平移 均值恒定 自协方差只依赖时差 前提:可用一段数据估计 遍历性 时间平均 = 集合平均 单条长轨迹可代表整体 反例:X_t = A(随机常数) 保证实测估计收敛 马尔可夫性 未来只依赖当前 转移矩阵 P 压缩长程记忆 避免熵高估 熵率 H(X) 平均每符号新信息量 H = lim H(X₁…Xₙ)/n i.i.d.:等于单符号香农熵 马尔可夫:平稳分布下条件熵 示例:0.553 bit/符号 描述典型序列的压缩极限 最小熵 H∞(X) 最坏情况下的不确定性下界 H∞ = −log₂ max P(X=x) 8 bit 输出,max P = 2⁻⁵ 则 H∞ = 5 bit 决定可提取真随机比特数 密码学安全的核心指标 平稳性与遍历性保证估计可行;马尔可夫性修正依赖结构;熵率描述平均,最小熵给出安全下界

五、六个概念如何协同工作

把上述概念串起来,就得到熵源分析的标准推理链。第一步,用概率空间描述单次采样的输出分布,明确 Ω、F、P 的具体形式。第二步,检验平稳性:若统计特性随时间漂移,则不能直接用一段数据外推长期熵,需要分段建模或引入时变参数。第三步,检验遍历性:若过程不遍历,单条轨迹的统计量不能代表集合,必须采集多条独立轨迹或改变实验条件。第四步,识别依赖结构:若输出存在记忆,用马尔可夫链或隐马尔可夫模型刻画转移概率,避免把相关序列误当独立同分布。第五步,计算熵率,得到平均信息量。第六步,计算最小熵,得到最坏情况下的安全下界,并据此确定隐私放大后的可提取比特数。

这六步并非每次都必须完整执行,但每一步都对应一个可能被忽略的风险点。例如,忽略平稳性会导致熵估计随环境温度漂移而失效;忽略遍历性会导致单次长采集给出虚假的高熵;忽略马尔可夫性会导致熵率被高估;只算熵率不算最小熵,则可能把平均意义上的随机误当作密码学意义上的安全。

六、一个可操作的检查清单

在实际熵源评估中,可以按以下清单逐项确认,避免概念遗漏:

检查项 关键问题 不满足时的后果
概率空间 Ω、F、P 是否明确?偏置是否已测量? 熵计算无依据,偏置损失被忽略
平稳性 均值、方差、自协方差是否随时间漂移? 一段数据的熵估计无法外推
遍历性 时间平均是否收敛到集合平均? 单条轨迹不能代表整体,估计有偏
马尔可夫性 是否存在显著自相关?阶数是否足够? 熵率被高估,提取比特数过多
熵率 是否按依赖结构正确计算? 平均信息量估计错误
最小熵 最可能输出的概率是多少? 安全下界缺失,密码学安全性无保证
最小熵永远不大于香农熵,也不大于熵率乘以符号数。若某熵源报告的最小熵接近甚至超过其香农熵,说明计算过程存在错误,必须重新检查概率模型和依赖结构。

总结来说,概率空间是起点,平稳性和遍历性是可用性前提,马尔可夫性是依赖结构的压缩工具,熵率描述平均信息量,最小熵给出安全下界。六者共同构成量子随机数熵源从物理测量到可提取随机比特的数学基础。理解它们各自的条件与边界,比记住公式本身更重要。