18.06 · Exam 2 备考指南

第二次测验:正交性、最小二乘、行列式与特征值

这份指南帮助你围绕官方真题进行备考复习,梳理重点概念与典型题型。它不包含逐题答案,而是引导你关注核心思路,让你在考场上能独立建模、计算与判断。

覆盖范围:正交性、投影、最小二乘、Gram-Schmidt、行列式、特征值与特征向量、对角化前置讲义:第 13–22 课建议用时:100 分钟

考试定位

Exam 2 是 18.06 的"核心方法"考试:正交投影(orthogonal projection)与最小二乘(least squares)是数据拟合的基石,Gram-Schmidt 给出正交基(orthogonal basis),行列式(determinant)提供体积与可逆性的代数判据,特征值(eigenvalue)与对角化(diagonalization)则开启矩阵幂与微分方程的快速计算。官方样卷见 exams/exam2.pdf。

核心主题

1. 正交子空间与投影

当列空间 \(C(A)\) 与左零空间 \(N(A^T)\) 把 \(\mathbb{R}^m\) 分成两个正交补时,任何向量 \(\bvec\) 都可以唯一分解为 \(\bvec = \bvec_{\parallel} + \bvec_{\perp}\),其中 \(\bvec_{\parallel} \in C(A)\),\(\bvec_{\perp} \in N(A^T)\)。投影矩阵 \(P\) 把 \(\bvec\) 映到 \(\bvec_{\parallel}\):

\[P = A(A^T A)^{-1} A^T\]

考试常让你验证 \(P^2 = P\)(幂等)和 \(P^T = P\)(对称),并指出 \(P\) 与 \(I-P\) 的几何意义。

核心洞察:投影矩阵的特征值只有 0 和 1。特征值 1 对应列空间方向,特征值 0 对应左零空间方向。

2. 最小二乘与法方程

超定方程组 \(A\xvec = \bvec\)(\(m > n\),无解)的最佳近似解是使 \(\|A\xvec - \bvec\|^2\) 最小的 \(\xhat\)。它满足法方程(normal equation):

\[A^T A \xhat = A^T \bvec\]

当 \(A\) 列满秩时,\(A^T A\) 可逆,\(\xhat = (A^T A)^{-1} A^T \bvec\)。考试常给具体数据让你求拟合直线或平面,或让你解释法方程的几何含义(残差 \(\bvec - A\xhat\) 与列空间垂直)。

3. Gram-Schmidt 正交化

把线性无关的列 \(\avec_1, \dots, \avec_n\) 变成正交基 \(\qvec_1, \dots, \qvec_n\):每一步减去新向量在已有方向上的投影。写成矩阵形式就是 \(A = QR\),其中 \(Q\) 列正交、\(R\) 上三角。

常见错误:Gram-Schmidt 的公式中,每个新向量要减去它在所有前面方向上的投影,不是只减一个。考试常让你补全中间步骤。

4. 行列式

行列式 \(\det(A)\) 的 10 条性质(行线性、行交换变号、\(\det(I) = 1\) 等)是考试的"速算工具"。关键公式:

余子式展开(cofactor expansion)常用于含参数的矩阵,让你找使 \(\det = 0\) 的参数值。

5. 特征值与特征向量

特征方程 \(\det(A - \lambda I) = 0\) 给出特征值 \(\lambda\),再解 \((A - \lambda I)\xvec = \zerovec\) 得特征向量。常用结论:

6. 对角化 \(A = S\Lambda S^{-1}\)

当 \(A\) 有 \(n\) 个线性无关的特征向量时,它可以对角化。这让矩阵幂和矩阵指数变得简单:

\[A^k = S \Lambda^k S^{-1}, \quad e^{At} = S e^{\Lambda t} S^{-1}\]

考试常给一个 \(2 \times 2\) 矩阵,让你求特征值、特征向量、写出 \(S\) 与 \(\Lambda\),并用对角化计算 \(A^k\) 或解差分方程 \(\xvec_{k+1} = A\xvec_k\)。

典型题型思路导引

题型 A:最小二乘拟合

给定数据点,选择模型(直线、二次曲线),构造 \(A\) 与 \(\bvec\),列法方程,解 \(\xhat\)。注意:如果模型里有常数项,\(A\) 的第一列通常是全 1。

题型 B:Gram-Schmidt 与 QR

按公式一步步算,不要跳步。完成后验证 \(\qvec_i^T\qvec_j = 0\)(\(i \neq j\))。\(R\) 的元素是 \(\rij = \qvec_i^T\avec_j\),\(r_{ii} = \|\vvec_i\|\)。

题型 C:行列式计算

先用行变换化到三角(注意交换变号),再乘对角线。含参数时保留参数,最后令 \(\det = 0\) 解方程。

题型 D:特征值与对角化

先求特征多项式(\(2 \times 2\) 时 \(\lambda^2 - \operatorname{tr}(A)\lambda + \det(A) = 0\)),再求特征向量。若特征值重复但特征向量不够,则不可对角化——考试常考这个边界情况。

时间分配提醒:Gram-Schmidt 计算繁琐,先检查 \(A\) 是否列满秩(否则 QR 不唯一)。特征值题如果数字凑得好,先用迹与行列式猜根。

备考自测

问题 1:投影矩阵 \(P\) 的特征值可能是以下哪组?

问题 2:最小二乘解 \(\xhat\) 满足法方程 \(A^T A\xhat = A^T\bvec\),其几何意义是什么?

问题 3:\(n \times n\) 矩阵 \(A\) 可对角化的条件是什么?

备考要点

投影是正交补的分解

任何投影问题都回到"把空间分成两个正交补"。列空间与左零空间、行空间与零空间——抓住正交补,投影矩阵就自然浮现。

法方程是投影的代数表达

最小二乘不是新东西,只是把 \(\bvec\) 投影到列空间后写出的方程。几何上:残差垂直于列空间。

行列式用性质算,不用定义算

10 条性质 + 行化简是考试利器。余子式展开只在 \(n \le 3\) 或含参数时用。

特征值是矩阵的"指纹"

迹与行列式给出特征值的和与积,对称矩阵保证实谱,对角化把矩阵幂变成标量幂。这些是后半程所有应用的基础。


完整题目清单

共 3 道(组)中文题目。每题均包含完成作答所需的条件与子问;官方原文缺失时,会明确提供依据本地资料重建的题面或站内等价练习。全部作答条件均已在本页给出。

作答说明

  • 考试日期:2010年4月7日,教授:Strang
  • 请填写打印姓名、习题课号或讲师

覆盖范围

  • 正交投影矩阵
  • 最小二乘与QR分解
  • 特殊矩阵的特征值/特征向量与行列式
题目 1 投影矩阵 正交投影 · 列空间 · 零空间 · 特征值 · 特征向量
官方题面翻译可离线作答

求将 \(\mathbb{R}^3\) 中任意向量 \(b\) 投影到方向 \(a=(2,1,3)\) 所在直线的矩阵 \(P\)。

  1. (a) 求投影矩阵 \(P\)。
  2. (b) 求 \(P\) 的列空间与零空间,给出几何描述及各自的基。
  3. (c) 求 \(P\) 的所有特征值与对应的特征向量(可利用投影的几何性质);\(P\) 的对角线元素之和为______。

公式与已知条件

  • 向量 \(a = (2,1,3)\)
  • 投影公式 \(P = A(A^T A)^{-1} A^T\),其中 \(A\) 为以 \(a\) 为列的矩阵
解题入口

利用投影的几何性质与 \(P^2 = P\) 的幂等关系推导特征值与特征向量。

完成后检查

  • 验证 \(P^2 = P\) 且 \(P^T = P\)(对称幂等)
  • 检查特征值是否只能为 0 或 1
  • 列空间的维数与零空间维数之和应为 3

题面翻译自 exams/exam2.pdf 第1页,为 MIT 18.06 测验 2 第1题官方原题。

来源:exams/exam2.pdf · 1

题目 2 最小二乘与QR分解 最小二乘 · 法方程 · QR分解 · 正交投影
官方题面翻译可离线作答

\(p = A\hat{x}\) 是列空间 \(C(A)\) 中距离给定向量 \(b\) 最近的向量。

  1. (a) 若 \(A\) 列独立,确定 \(\hat{x}\) 的方程是什么?哪些向量垂直于误差 \(e = b - A\hat{x}\)?若 \(A\) 列相关会怎样?
  2. (b) 设 \(A = QR\),其中 \(Q\) 列正交规范,\(R\) 为上三角可逆矩阵,用 \(Q, R, b\) 表示 \(\hat{x}\) 和 \(p\)。
  3. (c) 若 \(q_1, q_2\) 为 \(\mathbb{R}^5\) 中任意两个正交规范向量,用 \(q_1, q_2\) 表示任意向量 \(b\) 在 \(\operatorname{span}\{q_1, q_2\}\) 平面上的投影 \(p\)。

公式与已知条件

  • 法方程:\(A^T A \hat{x} = A^T b\)
  • QR 分解情形:\(A = QR\),\(Q\) 列正交规范,\(R\) 上三角可逆
  • 两正交规范向量投影:\(p = (q_1^T b) q_1 + (q_2^T b) q_2\)
解题入口

从误差向量 \(e\) 垂直于列空间 \(C(A)\) 入手建立法方程,再代入 \(A = QR\) 进行化简。

完成后检查

  • 验证 \(e = b - A\hat{x}\) 与 \(A\) 的每一列正交
  • 当 \(A\) 列相关时,检查 \(A^T A\) 是否可逆
  • 确认 \(p\) 的表达式在 \(Q\) 列正交规范下成立

题面翻译自 exams/exam2.pdf 第2页,为 MIT 18.06 测验 2 第2题官方原题。

来源:exams/exam2.pdf · 2

题目 3 矩阵 A_n 的行列式与特征值 行列式 · 特征值 · 特征向量 · 克拉默法则 · 代数余子式
官方题面翻译可离线作答

\(n \times n\) 矩阵 \(A_n\) 主对角线元素为 0,其余元素均为 \(-1\)。MATLAB 命令为 `An = eye(n) - ones(n)`。

  1. (a) 求 \(\det(A_n)\)。提示:将其余行加到最后一行,再提取公因子(可用 \(n=3\) 验证 (b))。
  2. (b) 对任意可逆矩阵 \(A\),\(A^{-1}\) 的 \((1,1)\) 元为______之比。因此 \(A_4^{-1}\) 的 \((1,1)\) 元为______。
  3. (c) 求 \(A_3 x = x\) 的两个正交特征向量(因此 \(\lambda = 1\) 为二重特征值)。
  4. (d) 求 \(A_3\) 的第三个特征值及对应的一个特征向量。

公式与已知条件

  • \(A_n = I - \mathbf{1}\mathbf{1}^T\),即对角线为 0、非对角线为 \(-1\)
  • \(A^{-1}\) 的 \((1,1)\) 元等于余子式 \(M_{11}\) 与 \(\det(A)\) 之比,其中 \(M_{11} = \det(A_{n-1}\)
解题入口

对行列式,将前 \(n-1\) 行加到最后一行并提取公因子;对特征值,利用 \(A_n = I - \mathbf{1}\mathbf{1}^T\) 的结构进行分析。

完成后检查

  • 用 \(n=3\) 验证 \(\det(A_3)\) 与公式 \(1-n\) 的一致性
  • 检查特征向量是否满足 \(A_n x = \lambda x\
  • 确认特征值的和等于 \(A_n\) 的迹

题面翻译自 exams/exam2.pdf 第3页,为 MIT 18.06 测验 2 第3题官方原题。

来源:exams/exam2.pdf · 3

来源与改编说明

  • Exam 2 各题总分在 exam2.pdf 中为 30+30+40=100,在 exam2_sol.pdf 中为 33+34+33=100,各小问分值略有差异(如题1整体在 sol 中占33分),以 exam2.pdf 为准。

一手资料