投影 = 最小距离
投影矩阵 \(P\) 给出 \(\mathbf{b}\) 到列空间的最短距离，误差垂直于列空间。
18.06 · 第 33 课
从正交性到特征值——第 13–22 课把线性代数提升到新的高度。本课聚焦核心考点：投影、最小二乘、Gram-Schmidt、行列式、特征值与特征向量的计算。
| 课次 | 主题 | 核心工具 |
|---|---|---|
| L13 | 正交性 | 正交子空间、勾股定理 |
| L14 | 投影 | 投影矩阵 \(P = A(A^T A)^{-1} A^T\) |
| L15 | 最小二乘 | 正规方程 \(A^T A \hat{\mathbf{x}} = A^T \mathbf{b}\) |
| L16 | Gram-Schmidt 与 QR | 正交化、\(A = QR\) |
| L17–L18 | 行列式 | 三大性质、代数余子式、Cramer 法则 |
| L19 | 行列式应用 | 逆矩阵、体积、特征多项式 |
| L20 | 特征值与特征向量 | \(A\mathbf{x} = \lambda \mathbf{x}\)、特征方程 |
| L21 | 对角化 | \(A = M \Lambda M^{-1}\)、矩阵幂 |
| L22 | Markov 矩阵 | \(\lambda_1 = 1\)、稳态分布 |
向量 \(\mathbf{b}\) 在 \(A\) 的列空间上的投影为：
\[\mathbf{p} = A \hat{\mathbf{x}} = P \mathbf{b}, \quad P = A(A^T A)^{-1} A^T\]投影矩阵性质：\(P^2 = P\)，\(P^T = P\)。误差 \(\mathbf{e} = \mathbf{b} - \mathbf{p}\) 垂直于列空间。
当 \(A\mathbf{x} = \mathbf{b}\) 无解时，求最小化 \(\|A\mathbf{x} - \mathbf{b}\|_2\) 的 \(\hat{\mathbf{x}}\)。解正规方程：
\[A^T A \hat{\mathbf{x}} = A^T \mathbf{b}\]将线性无关向量组 \(\{\mathbf{a}_1, \dots, \mathbf{a}_n\}\) 化为标准正交组 \(\{\mathbf{q}_1, \dots, \mathbf{q}_n\}\)：
\[\mathbf{v}_k = \mathbf{a}_k - \sum_{j=1}^{k-1} (\mathbf{q}_j^T \mathbf{a}_k) \mathbf{q}_j, \quad \mathbf{q}_k = \frac{\mathbf{v}_k}{\|\mathbf{v}_k\|}\]这给出 \(A = QR\)，其中 \(Q\) 列正交，\(R\) 上三角。
利用三大性质：\(\det(I) = 1\)，行交换变号，对每行线性。实用公式：
解特征方程 \(\det(A - \lambda I) = 0\) 得特征值。对每个 \(\lambda\)，求 \(N(A - \lambda I)\) 得特征向量。可对角化当且仅当所有特征值的几何重数等于代数重数。
关键关系：
常见陷阱：
问题 1：关于投影矩阵 \(P\)，下列哪项正确？
问题 2：最小二乘问题 \(\min \|A\mathbf{x} - \mathbf{b}\|_2\) 的解满足什么方程？
问题 3：Gram-Schmidt 正交化的主要目的是什么？
问题 4：关于特征值，下列哪项正确？
投影矩阵 \(P\) 给出 \(\mathbf{b}\) 到列空间的最短距离，误差垂直于列空间。
当方程组不一致时，正规方程 \(A^T A \hat{\mathbf{x}} = A^T\mathbf{b}\) 给出最佳近似解。
逐步减去投影分量，得到标准正交基，对应 \(QR\) 分解。
特征值决定矩阵的本质行为——振动频率、稳定性、幂的增长速率。
exams/exam2.pdf 与 exams/exam2_sol.pdfexams/exam2.pdfexams/exam2_sol.pdf