Markov 矩阵
列和为 1、元非负;\(\lambda=1\) 必是特征值,对应稳态分布。
18.06 · 第 22 课
Markov 矩阵描述概率在状态间的流动,微分方程描述连续时间下量的演化。两者都靠特征值与特征向量给出长期行为。
设 \(A=(a_{ij})\) 是 \(n\times n\) 实矩阵。若
则称 \(A\) 为Markov 矩阵(也称随机矩阵、转移矩阵)。
若把状态向量 \(\mathbf{u}_k\) 的分量解释为处于各状态的概率,则转移规律为
\[\mathbf{u}_{k+1} = A\,\mathbf{u}_k.\]为何列和为 1? 对任意 \(\mathbf{u}_k\) 分量之和为 1,则
\[\mathbf{1}^{\mathsf{T}}\mathbf{u}_{k+1} = \mathbf{1}^{\mathsf{T}}A\mathbf{u}_k = (\mathbf{1}^{\mathsf{T}}A)\mathbf{u}_k = \mathbf{1}^{\mathsf{T}}\mathbf{u}_k = 1,\]概率守恒。
定理:Markov 矩阵必以 \(\lambda=1\) 为特征值。
证明:\(\mathbf{1}^{\mathsf{T}}A = \mathbf{1}^{\mathsf{T}}\)(因为每列和为 1),即 \(\mathbf{1}^{\mathsf{T}}(A-I)=\mathbf{0}^{\mathsf{T}}\)。所以 \(A-I\) 行线性相关,不可逆,\(|A-I|=0\),即 \(\lambda=1\) 是特征值。
由于所有列和为 1,Gershgorin 圆盘定理给出:\(A\) 的每个特征值满足 \(|\lambda|\le 1\)。
对应 \(\lambda=1\) 的特征向量 \(\mathbf{w}\)(满足 \(A\mathbf{w}=\mathbf{w}\)、分量非负、总和归一)称为稳态分布(steady-state distribution)。
若 \(A\) 可对角化且其余特征值满足 \(|\lambda_i|<1\),则
\[\mathbf{u}_k = A^k\mathbf{u}_0 = c_1\mathbf{w} + c_2\lambda_2^k\mathbf{x}_2 + \cdots \;\xrightarrow{k\to\infty}\; c_1\mathbf{w}.\]无论初态如何,长期必趋于稳态。
例:
\[A = \begin{bmatrix} 0.8 & 0.2 \\ 0.2 & 0.8 \end{bmatrix}.\]特征值 \(\lambda_1=1,\ \lambda_2=0.6\);对应特征向量 \(\mathbf{w}=\begin{bmatrix}0.5\\0.5\end{bmatrix},\ \mathbf{x}_2=\begin{bmatrix}1\\-1\end{bmatrix}\)。任意初态经多次转移后趋于 \(\begin{bmatrix}0.5\\0.5\end{bmatrix}\)。
注意:Markov 矩阵的"稳态"不依赖初态的前提是 \(\lambda=1\) 代数量数为 1 且其余 \(|\lambda|<1\)。若存在 \(\lambda=-1\) 或复单位根,可能出现周期振荡。
对连续时间系统 \(\mathbf{u}'=A\mathbf{u}\),解已在上节给出:
\[\mathbf{u}(t) = e^{At}\mathbf{u}(0) = c_1 e^{\lambda_1 t}\mathbf{x}_1 + \cdots + c_n e^{\lambda_n t}\mathbf{x}_n.\]稳定性判据(Stability):
二阶例子:\(y''+by'+ky=0\) 可化为一阶系统:令 \(u_1=y,\ u_2=y'\),则
\[\begin{bmatrix} u_1' \\ u_2' \end{bmatrix} = \begin{bmatrix} 0 & 1 \\ -k & -b \end{bmatrix} \begin{bmatrix} u_1 \\ u_2 \end{bmatrix}.\]特征值 \(\lambda = \frac{-b\pm\sqrt{b^2-4k}}{2}\)。阻尼 \(b>0\) 使实部为负,振荡衰减。
与 Markov 的联系:离散时间看 \(\mathbf{u}_{k+1}=A\mathbf{u}_k\),连续时间看 \(\mathbf{u}'=A\mathbf{u}\)。特征值 \(\lambda\) 对应离散的 \(\lambda^k\) 与连续的 \(e^{\lambda t}\)。
问题 1:Markov 矩阵必有下列哪个特征值?
问题 2:设 \(A\) 为 Markov 矩阵,\(\lambda_1=1\) 其余 \(|\lambda_i|<1\),则当 \(k\to\infty\) 时 \(A^k\mathbf{u}_0\) 趋向于?
问题 3:微分方程 \(\mathbf{u}'=A\mathbf{u}\) 零解渐近稳定的充要条件是?
问题 4:Markov 矩阵 \(A=\begin{bmatrix}0.8&0.2\\0.2&0.8\end{bmatrix}\) 的迹为?
列和为 1、元非负;\(\lambda=1\) 必是特征值,对应稳态分布。
当其余 \(|\lambda|<1\) 时,\(A^k\mathbf{u}_0\) 收敛到 \(\lambda=1\) 的特征向量。
\(\mathbf{u}(t)=e^{At}\mathbf{u}(0)\),稳定性由 \(\operatorname{Re}(\lambda)\) 决定。
离散看 \(\lambda^k\),连续看 \(e^{\lambda t}\),两者通过特征值统一。
lecture_slides/lecture_23.pdflecture_summaries/lecture_2_8_summary.pdf