2. 状态转移与马尔可夫性

马尔可夫链的核心思想可以用一句话概括:未来只依赖现在,与过去无关。要把这句话变成可计算、可建模的工具,需要三样东西——状态集合、状态之间的转移关系,以及刻画这些转移的数值。本节围绕这三样东西展开:先用状态转移图把关系画清楚,再把图翻译成转移概率矩阵,然后回到马尔可夫性的数学表述与直观含义,最后辨析几个建模时最容易踩的坑。

一、状态转移图:把“可能怎么变”画出来

状态转移图是一张有向带权图。节点表示系统的状态,有向边表示“从某状态一步之后可能到达某状态”,边上的数值就是对应的转移概率。约定如下:若从状态 i 一步后以概率 pij 到达状态 j,就画一条从 i 指向 j 的箭头,标注 pij;若 pij=0 则不画边。自环表示“一步后仍停留在原状态”,例如设备“正常”状态下一步仍正常的概率。

以一个有实际背景的例子贯穿本节:某台设备每天巡检一次,状态分为“正常(N)”“预警(W)”“故障(F)”三种。根据历史维修记录估计出如下一步转移规律:正常状态下一天仍正常的概率为 0.9,转为预警为 0.1,直接故障为 0;预警状态下一天回到正常为 0.5,仍预警为 0.3,恶化为故障为 0.2;故障状态下一天修复回正常为 0.6,仍故障为 0.4,不会直接跳到预警。这些数值是教学示例的合理假设,实际建模时应由运行数据统计得到。

设备三状态一步转移图(示例参数) N 正常 W 预警 F 故障 0.1 0.5 0.2 0.6(修复回正常) 0.9 0.3 0.4 每个节点出发的所有出边概率之和必须等于 1(N:0.9+0.1;W:0.5+0.3+0.2;F:0.6+0.4)

读图时有两个检查点:一是每个节点出发的所有出边概率之和必须为 1,这是“必然转移到某个状态”的体现;二是没有画出的边概率为 0,例如 N 到 F 没有边,说明一步之内不会从正常直接跳到故障。图中 N→F 缺失、F→W 缺失,正是建模时对物理过程的理解被固化进了结构里。

二、转移概率矩阵的构造

把状态按固定顺序编号(本例 N=1,W=2,F=3),令矩阵第 i 行第 j 列的元素 pij 等于从状态 i 一步转移到状态 j 的概率,就得到一步转移概率矩阵 P。构造时牢记“行是出发状态,列是到达状态”:

       到达 N    到达 W    到达 F
出发 N  0.9      0.1       0
出发 W  0.5      0.3       0.2
出发 F  0.6      0        0.4

由此得到矩阵 P = [[0.9, 0.1, 0], [0.5, 0.3, 0.2], [0.6, 0, 0.4]]。它必须满足两条性质:所有元素非负;每一行之和为 1。满足这两条的方阵称为随机矩阵。注意是行和为 1,不是列和为 1——这是初学者最容易搞反的地方,因为“从某个状态出发必然去往某处”对应的是行方向。

矩阵与图是同一信息的两种表示:图便于人看结构、找连通性和吸收态,矩阵便于计算。例如“今天处于 N,明天处于 W 的概率”就是 p12=0.1;而“今天处于 N,两天后处于 F 的概率”需要计算 P2 的 (1,3) 元素,即 0.9×0 + 0.1×0.2 + 0×0.4 = 0.02,说明正常设备两天内直接恶化为故障的概率虽小但非零,路径是 N→W→F。这类多步概率正是后续章节 C-K 方程与稳态分析的基础。

三、马尔可夫性的数学表述与直观理解

设随机序列 {Xn, n≥0} 取值于状态集 S。若对任意 n 和任意状态 i0,…,in−1,i,j,都有

P(X_{n+1}=j | X_n=i, X_{n−1}=i_{n−1}, …, X_0=i_0) = P(X_{n+1}=j | X_n=i) = p_{ij}

则称该序列具有马尔可夫性(无后效性)。等号左边是“知道全部历史”条件下的条件概率,右边是“只知道当前状态”条件下的条件概率,两者相等意味着历史信息对预测未来没有额外贡献,当前状态已经浓缩了全部有用信息。若转移概率 pij 与时间 n 无关,则称为时齐马尔可夫链,此时一个矩阵 P 就能描述整个演化规律。

直观理解可以借助“信息压缩”:把系统的全部历史压成一个当前状态标签,如果这个标签足以决定下一步的概率分布,马尔可夫性就成立。设备例子里,“今天是否预警”已经包含了磨损程度、近期报警等历史的影响;只要这些影响都体现在当前状态上,就不必再追溯前几天的记录。反过来说,如果“连续两天预警”比“仅今天预警”更容易故障,那么单看当前状态就不够,需要把状态扩展为“预警第1天/预警第2天”等,才能重新满足马尔可夫性——这是建模中常用的状态扩增技巧。

四、常见误区辨析

  • 把“无后效”误解为“与过去完全无关”。 马尔可夫性说的是“给定当前状态后,过去不再提供额外信息”,当前状态本身就是过去演化的结果,二者并不矛盾。
  • 行、列方向搞反。 若误把列和当作 1,或按“列是出发状态”填表,后续所有多步计算都会错位。构造完矩阵后务必逐行求和验证。
  • 把转移概率当成“停留时长”或“发生频率”。 pij 是“处于 i 的条件下,下一时刻到 j 的条件概率”,不是 j 状态出现的总体比例,也不是平均持续时间。
  • 状态划分过粗导致马尔可夫性不成立。 如上面“连续预警”的例子,粗状态会隐藏关键历史,需通过扩增状态或引入更高阶模型修正。
  • 忽略时齐假设。 若设备老化使转移概率逐年变化,就不能用同一个 P 描述全过程,应分段建模或引入时变矩阵。
  • 把“一步不可达”当成“永远不可达”。 N→F 一步概率为 0,但经 W 中转两步可达,可达性要看多步转移矩阵的累积效果。
建模自检清单:状态是否互斥且完备?每个状态的出边概率和是否为 1?矩阵是否按“行出发、列到达”填写?是否存在被粗状态掩盖的历史依赖?转移概率是否随时间变化?这五问过关,转移模型的基本框架才算立住。

把状态转移图、转移概率矩阵和马尔可夫性三者连起来看:图给出结构直觉,矩阵给出可计算载体,马尔可夫性则是让“一个矩阵描述全过程”成立的前提假设。后续讨论多步转移、平稳分布与极限行为时,都建立在本节这套表示之上。