18.06 · 第 22 课

Markov 矩阵与微分方程

Markov 矩阵描述概率在状态间的流动,微分方程描述连续时间下量的演化。两者都靠特征值与特征向量给出长期行为。

授课:Prof. Gilbert Strang日期:2010-04-02难度:较难

学习目标


Markov 矩阵

设 \(A=(a_{ij})\) 是 \(n\times n\) 实矩阵。若

则称 \(A\) 为Markov 矩阵(也称随机矩阵、转移矩阵)。

若把状态向量 \(\mathbf{u}_k\) 的分量解释为处于各状态的概率,则转移规律为

\[\mathbf{u}_{k+1} = A\,\mathbf{u}_k.\]

为何列和为 1? 对任意 \(\mathbf{u}_k\) 分量之和为 1,则

\[\mathbf{1}^{\mathsf{T}}\mathbf{u}_{k+1} = \mathbf{1}^{\mathsf{T}}A\mathbf{u}_k = (\mathbf{1}^{\mathsf{T}}A)\mathbf{u}_k = \mathbf{1}^{\mathsf{T}}\mathbf{u}_k = 1,\]

概率守恒。

特征值 \(\lambda=1\)

定理:Markov 矩阵必以 \(\lambda=1\) 为特征值。

证明:\(\mathbf{1}^{\mathsf{T}}A = \mathbf{1}^{\mathsf{T}}\)(因为每列和为 1),即 \(\mathbf{1}^{\mathsf{T}}(A-I)=\mathbf{0}^{\mathsf{T}}\)。所以 \(A-I\) 行线性相关,不可逆,\(|A-I|=0\),即 \(\lambda=1\) 是特征值。

由于所有列和为 1,Gershgorin 圆盘定理给出:\(A\) 的每个特征值满足 \(|\lambda|\le 1\)。

稳态

对应 \(\lambda=1\) 的特征向量 \(\mathbf{w}\)(满足 \(A\mathbf{w}=\mathbf{w}\)、分量非负、总和归一)称为稳态分布(steady-state distribution)。

若 \(A\) 可对角化且其余特征值满足 \(|\lambda_i|<1\),则

\[\mathbf{u}_k = A^k\mathbf{u}_0 = c_1\mathbf{w} + c_2\lambda_2^k\mathbf{x}_2 + \cdots \;\xrightarrow{k\to\infty}\; c_1\mathbf{w}.\]

无论初态如何,长期必趋于稳态。

例:

\[A = \begin{bmatrix} 0.8 & 0.2 \\ 0.2 & 0.8 \end{bmatrix}.\]

特征值 \(\lambda_1=1,\ \lambda_2=0.6\);对应特征向量 \(\mathbf{w}=\begin{bmatrix}0.5\\0.5\end{bmatrix},\ \mathbf{x}_2=\begin{bmatrix}1\\-1\end{bmatrix}\)。任意初态经多次转移后趋于 \(\begin{bmatrix}0.5\\0.5\end{bmatrix}\)。

注意:Markov 矩阵的"稳态"不依赖初态的前提是 \(\lambda=1\) 代数量数为 1 且其余 \(|\lambda|<1\)。若存在 \(\lambda=-1\) 或复单位根,可能出现周期振荡。

线性微分方程 \(\mathbf{u}' = A\mathbf{u}\)

对连续时间系统 \(\mathbf{u}'=A\mathbf{u}\),解已在上节给出:

\[\mathbf{u}(t) = e^{At}\mathbf{u}(0) = c_1 e^{\lambda_1 t}\mathbf{x}_1 + \cdots + c_n e^{\lambda_n t}\mathbf{x}_n.\]

稳定性判据(Stability):

二阶例子:\(y''+by'+ky=0\) 可化为一阶系统:令 \(u_1=y,\ u_2=y'\),则

\[\begin{bmatrix} u_1' \\ u_2' \end{bmatrix} = \begin{bmatrix} 0 & 1 \\ -k & -b \end{bmatrix} \begin{bmatrix} u_1 \\ u_2 \end{bmatrix}.\]

特征值 \(\lambda = \frac{-b\pm\sqrt{b^2-4k}}{2}\)。阻尼 \(b>0\) 使实部为负,振荡衰减。

与 Markov 的联系:离散时间看 \(\mathbf{u}_{k+1}=A\mathbf{u}_k\),连续时间看 \(\mathbf{u}'=A\mathbf{u}\)。特征值 \(\lambda\) 对应离散的 \(\lambda^k\) 与连续的 \(e^{\lambda t}\)。


知识检查

问题 1:Markov 矩阵必有下列哪个特征值?

问题 2:设 \(A\) 为 Markov 矩阵,\(\lambda_1=1\) 其余 \(|\lambda_i|<1\),则当 \(k\to\infty\) 时 \(A^k\mathbf{u}_0\) 趋向于?

问题 3:微分方程 \(\mathbf{u}'=A\mathbf{u}\) 零解渐近稳定的充要条件是?

问题 4:Markov 矩阵 \(A=\begin{bmatrix}0.8&0.2\\0.2&0.8\end{bmatrix}\) 的迹为?


本课要点

Markov 矩阵

列和为 1、元非负;\(\lambda=1\) 必是特征值,对应稳态分布。

稳态

当其余 \(|\lambda|<1\) 时,\(A^k\mathbf{u}_0\) 收敛到 \(\lambda=1\) 的特征向量。

微分方程

\(\mathbf{u}(t)=e^{At}\mathbf{u}(0)\),稳定性由 \(\operatorname{Re}(\lambda)\) 决定。

离散与连续

离散看 \(\lambda^k\),连续看 \(e^{\lambda t}\),两者通过特征值统一。


延伸阅读


一手资料