4. 状态分类与可达性

在建立转移矩阵之后,真正决定一条马尔可夫链长期命运的,并不是某个具体的转移概率数值,而是状态之间的可达关系与连通结构。本节把状态空间看作一张有向图:状态是顶点,正概率转移是带方向的边。许多关于“会不会回来”“能不能离开”“长期是否稳定”的问题,都可以先在这张图上判断,再回到矩阵上计算。

可达、互通与连通类

若存在一条从状态 i 到状态 j 的路径,路径上每一步的转移概率都大于零,则称 j 从 i 可达,记作 i → j。若 i 与 j 互相可达,则称二者互通,记作 i ↔ j。互通是一种等价关系,它把状态空间划分为若干个互通类(常返类或瞬态类)。判断可达性最直接的方法是看转移矩阵的幂:若存在 n ≥ 1 使 (Pn)ij > 0,则 i → j。实际建模时,更常用的是对转移图做深度优先或广度优先搜索,从每个状态出发标记能到达的顶点,再检查反向是否也成立。

需要注意,可达性只关心“是否存在正概率路径”,与路径长度、概率大小无关。因此判断时应先把矩阵中所有大于零的元素视为边,忽略具体数值;只有当结构确定后,才用数值去计算命中时间、稳态分布等量。

闭集、吸收态与不可约链

一个状态集合 C 若满足:从 C 中任一状态出发,都不可能一步转移到 C 之外的状态,则称 C 为闭集。只含一个状态的闭集称为吸收态,即 pii = 1。闭集刻画了“进去就出不来”的区域,是分析长期行为的关键边界。

若整条链的状态空间只有一个互通类,即所有状态两两互通,则称该链不可约。不可约链没有“陷阱式”的真子闭集,长期行为不会被某个局部区域截断。反之,若存在多个闭集,链最终会以概率 1 落入其中一个闭集,具体落入哪个由初始分布和瞬态部分的转移决定。这正是“吸收概率”问题的结构来源。

判别口诀:先画图、再找强连通分量;若只有一个强连通分量且覆盖全部状态,则不可约;若某强连通分量没有指向外部的边,则它是闭集。

周期性与非周期性

对状态 i,考虑所有从 i 出发回到 i 的路径长度,它们的最大公约数称为 i 的周期 d(i)。若 d(i) = 1,称该状态非周期。在不可约链中,所有状态具有相同周期,因此可以统一说“链的周期”。周期为 d 的链,其状态会按模 d 的相位循环访问,例如 d = 2 时呈现奇偶交替,此时极限分布可能不存在,只有时间平均收敛。

判断非周期性的实用技巧:若存在某个状态 i 使 pii > 0(自环),且链不可约,则整条链非周期。更一般地,只要图中存在一个长度互素的环组合,周期即为 1。工程上常见的做法是检查是否存在自环或长度为 2、3 的环,若同时存在则基本可判定非周期。

常返与瞬态

从状态 i 出发,若以概率 1 最终返回 i,则 i 为常返态;若返回概率小于 1,则为瞬态。有限状态链中,常返态恰好构成闭互通类,瞬态则是那些“可能一去不返”的状态。进一步,若返回时间的期望有限,称正常返;期望无穷则为零常返。有限不可约链必为正常返,因此对有限链只需区分常返与瞬态即可。

判别方法同样基于图结构:在有限链中,状态 i 常返当且仅当从 i 可达的每个状态都能返回 i,即 i 所在的互通类是闭集。若 i 能到达某个无法返回的状态,则 i 为瞬态。这一判据把“返回概率”的计算转化为“闭集检查”,避免了无穷级数求和。

状态转移图:瞬态区 → 两个闭互通类 瞬态区(可离开,返回概率 < 1) 闭互通类 A(周期 2) 闭互通类 B(吸收态) S1 S2 S3 0.6 0.4 0.3 0.3 0.3 A1 A2 1 1 A1↔A2 交替,周期 d=2 B1 1(自环) 吸收态,非周期 瞬态 闭互通类(周期) 闭互通类(吸收) 边上的数字为示例转移概率

基于图论的判别流程

把上述概念串起来,可以得到一套可操作的判别流程。第一步,写出转移矩阵并标出所有正元素,画出有向图。第二步,求强连通分量:每个强连通分量内部状态两两互通,构成一个互通类。第三步,检查每个强连通分量是否有指向分量外的边;没有出边的即为闭集,有出边的为瞬态类。第四步,若全图只有一个强连通分量,则链不可约;否则可约。第五步,对不可约链检查周期:若存在自环或环长互素,则非周期;否则计算各环长的最大公约数。第六步,闭集内的状态为常返,其余为瞬态。

以一个四状态示例说明。设状态 {1,2,3,4},转移关系为:1→2 概率 0.5、1→3 概率 0.5;2→1 概率 1;3→4 概率 1;4→3 概率 1。画图可见 {1,2} 构成一个闭互通类,{3,4} 构成另一个闭互通类,整条链可约且没有瞬态。两个类内部都是周期 2 的交替结构,因此极限分布不存在,但时间平均分布存在。若把 2→1 改为 2→2 概率 0.5、2→1 概率 0.5,则 {1,2} 出现自环,周期变为 1,该类的极限分布存在。

结构判别与数值计算的分工

图论判别回答的是“定性”问题:是否可约、是否常返、是否周期。它不能直接给出稳态分布的具体数值,但能提前告诉我们稳态分布是否存在、是否唯一、是否依赖初始分布。对于可约链,稳态分布不唯一,需要按闭集分别求解;对于周期链,需用时间平均代替极限;对于含瞬态的链,瞬态部分的概率会随时间衰减到零,长期质量集中在闭集上。先做结构判别、再做数值求解,可以避免在不存在极限的情况下盲目迭代,也能为求解器选择合适的初值和收敛判据。

常见误区:把“某个状态能回到自己”误判为常返。若该状态还能到达一个回不来的状态,它仍是瞬态。判断常返必须检查其所在互通类是否为闭集,而不是只看是否存在返回路径。

掌握这套图论视角后,面对一个具体的转移矩阵,可以先在纸上画出状态图、圈出强连通分量、标出闭集与周期,再决定用极限分布、时间平均还是吸收概率来刻画长期行为。这种“先结构、后数值”的顺序,是马尔可夫链建模中稳定而高效的分析习惯。