正交 = 零内积
\(\mathbf{v}^T\mathbf{w}=0\) 是"垂直"的代数定义，等价于勾股定理成立。
18.06 · 第 13 课
正交（orthogonal）是线性代数中的"垂直"。正交向量、正交子空间、正交补——这些概念把四个基本子空间的关系用勾股定理的语言重新表述，为投影与最小二乘奠定基础。
两个向量 \(\mathbf{v},\mathbf{w}\in\mathbb{R}^n\) 正交（orthogonal）当且仅当内积为零：
\[\mathbf{v}^T\mathbf{w} = 0 \quad\Longleftrightarrow\quad \|\mathbf{v}\|^2+\|\mathbf{w}\|^2 = \|\mathbf{v}+\mathbf{w}\|^2.\]第二个等式是勾股定理：正交向量的长度满足 \( \|\mathbf{v}+\mathbf{w}\|^2 = \mathbf{v}^T\mathbf{v} + \mathbf{w}^T\mathbf{w} \)（交叉项 \(2\mathbf{v}^T\mathbf{w}\) 消失）。
正交 = 零内积 = 勾股定理成立。这三种说法等价。在实数域上，内积为零就是"垂直"的代数表达。
由标准基向量 \(\mathbf{e}_1,\dots,\mathbf{e}_n\) 构成的标准正交基（orthonormal basis）是最简单的正交向量组：每个向量长度为 1，且两两正交。
两个子空间 \(V,W\subseteq\mathbb{R}^n\) 正交（orthogonal subspaces）当且仅当
\[\forall\,\mathbf{v}\in V,\ \forall\,\mathbf{w}\in W:\quad \mathbf{v}^T\mathbf{w}=0.\]注意：这不是"某些向量正交"，而是所有向量对都正交。
正交子空间不能随便交。在 \(\mathbb{R}^n\) 中，两个正交子空间除了零向量以外没有公共非零向量。因为若 \(\mathbf{x}\in V\cap W\)，则 \(\mathbf{x}^T\mathbf{x}=0\) 迫使 \(\mathbf{x}=\mathbf{0}\)。
例子：在 \(\mathbb{R}^3\) 中，一条过原点的直线与过原点且与该直线正交的平面是正交子空间（维数 1+2=3）。但两个过原点的平面一般不是正交子空间——它们会交于一条直线，这条直线上的非零向量在两个平面中，不可能与自己正交。
子空间 \(V\subseteq\mathbb{R}^n\) 的正交补（orthogonal complement）是
\[V^\perp = \{\mathbf{x}\in\mathbb{R}^n : \mathbf{x}^T\mathbf{v}=0,\ \forall\,\mathbf{v}\in V\}.\]基本性质：
正交补是"最大的正交子空间"。如果 \(W\) 与 \(V\) 正交且 \(V\subseteq\mathbb{R}^n\)，则 \(W\subseteq V^\perp\)。所以 \(\mathbb{R}^n\) 中与 \(V\) 正交的子空间只有 \(V^\perp\) 及其子空间——维数互补的正交子空间必为正交补。
四个基本子空间的正交关系可以简洁地写成：
\[C(A^T) = N(A)^\perp, \qquad C(A) = N(A^T)^\perp.\]也就是说，在 \(\mathbb{R}^n\) 中行空间是零空间的正交补；在 \(\mathbb{R}^m\) 中列空间是左零空间的正交补。维数互补保证这些正交子空间恰好互为补空间。
从方程角度看：\(A\mathbf{x}=\mathbf{0}\) 说的是 \(\mathbf{x}\) 与 \(A\) 的每一行正交，即 \(\mathbf{x}\in N(A) = C(A^T)^\perp\)。\(A^T\mathbf{y}=\mathbf{0}\) 说的是 \(\mathbf{y}\) 与 \(A\) 的每一列正交，即 \(\mathbf{y}\in N(A^T) = C(A)^\perp\)。
问题 1：两个向量 \(\mathbf{v},\mathbf{w}\) 正交的条件是什么？
问题 2：在 \(\mathbb{R}^n\) 中，两个正交子空间的交集是什么？
问题 3：在 \(\mathbb{R}^n\) 中，行空间 \(C(A^T)\) 是哪个子空间的正交补？
问题 4：在 \(\mathbb{R}^3\) 中，两个过原点的平面是否可能互为正交子空间？
\(\mathbf{v}^T\mathbf{w}=0\) 是"垂直"的代数定义，等价于勾股定理成立。
两个子空间中所有向量对都正交，它们只交于零向量。
\(V^\perp\) 是最大的正交子空间；\(\dim V+\dim V^\perp=n\)。
\(C(A^T)=N(A)^\perp\)，\(C(A)=N(A^T)^\perp\)——行空间与零空间、列空间与左零空间互为正交补。
lecture_slides/lecture_14.pdflecture_summaries/lecture_1_13_summary.pdf