MIT 18.02 · Problem Set 4

Problem Set 4: Least Squares, Area Optimization, and Chain Rule Matrices(最小二乘拟合、面积优化与链式法则矩阵)

本习题集围绕三个应用主题展开:基于正规方程的最小二乘拟合(含线性与指数模型比较)、单位圆内接三角形的面积优化(含临界点、边界与二阶导数检验),以及直角坐标与极坐标之间偏导数变换的矩阵推导与验证。

本地官方资料整理中文自包含可离线作答

目标

核心知识要点

正规方程的矩阵形式

最小二乘正规方程 Az = r 中,A 是 2×2 矩阵,元素为向量积(如 u·u′、u·x′、x·x′);r 是 2×1 向量,分量为 u·y′ 和 x·y′。求和式被改写为向量积以便直接使用。

指数拟合的对数线性化

对 y 取 ln 后拟合直线 ln(y) = a₁x + b₁,再取指数还原为 y = e^(b₁) e^(a₁x)。这种方法将非线性拟合转化为线性拟合问题。

三角形面积的行列式表示

利用鞋带公式,单位圆内接三角形面积可写为 A = (1/2)|sin(θ₂−θ₁) + sin θ₁ − sin θ₂|。行列式公式的绝对值保证面积为正。

临界点、边界与二阶导数检验

内部令偏导为零求临界点,边界单独讨论(如 θ₁=θ₂、θ₁=0、θ₂=2π)。Hessian 行列式 D = f₁₁f₂₂ − f₁₂² 判定极值类型:D>0 且 f₁₁>0 为极小,D>0 且 f₁₁<0 为极大。

链式法则的矩阵形式

直角坐标到极坐标的偏导数变换可写为 [w_r; w_θ] = A[w_x; w_y],其中 A 由坐标变换的偏导数构成。逆变换矩阵 B 满足 AB = I,可用三角恒等式验证。

覆盖范围

典型题型与解题策略

1

拟合问题的矩阵化

先写出目标函数的矩阵形式,再代入具体数据计算。指数拟合先取对数再拟合直线,最后比较线性与指数拟合的最差情况误差。

2

面积优化的分步讨论

先用行列式写出面积表达式,再分内部临界点与边界两部分讨论。内部令偏导为零,边界逐一检验约束条件。

3

变量替换的矩阵验证

分别对 r、θ 用链式法则,整理成矩阵后利用三角恒等式验证 AB = I。注意 cos²θ + sin²θ = 1 的化简。

常见错误

最小二乘中向量积的下标与转置方向容易写反,注意 A 和 r 的维度一致性

极角排序(逆时针)决定了区域的约束条件 0 ≤ θ₁ ≤ θ₂ ≤ 2π,忽略会导致临界点遗漏

矩阵求逆验证时三角恒等式化简不彻底可能误判为单位矩阵

指数拟合后外推时注意模型适用范围,实际数据可能偏离指数趋势

知识检查

问题 1:最小二乘拟合中,将正规方程写作矩阵形式 Az = r,其中 z = [a;b]。以下关于 A 和 r 的描述,哪一项是正确的?

问题 2:单位圆内接三角形的一个顶点在 (1,0),另两个顶点按逆时针顺序分别由极角 θ₁ 和 θ₂ 确定。θ₁ 和 θ₂ 的取值范围是下列哪一项?

问题 3:设 w = f(x,y),x = r cos θ,y = r sin θ。则 w_r 等于下列哪一项?

完整题目清单

共 3 道(组)中文题目。每题均包含完成作答所需的条件与子问;官方原文缺失时,会明确提供依据本地资料重建的题面或站内等价练习。全部作答条件均已在本页给出。

作答说明

  • 截止时间:2007 年 10 月 4 日(周四)12:45。
  • A 部分(15 分):只需提交带下划线的问题;其余问题供额外练习。
  • B 部分(25 分):请尝试独立求解每个问题的每个部分。如与他人协作,解答仍须独立撰写。查阅以往学期的材料属于违规行为。每个问题旁标注了对应的学习日期。
  • 请写明你咨询或协作的所有人员姓名,以及所使用的资源。
  • MATLAB 使用说明附在本习题集末尾,仅供参考。

覆盖范围

  • 最小二乘与拟最佳拟合直线(正规方程)
  • 通过对数线性模型进行指数拟合
  • 给定极角时三角形面积的最大化
  • 临界点、边界与二阶导数检验
  • 直角坐标与极坐标之间链式法则的变量替换
  • 偏导数变换的矩阵形式
题目 1 最小二乘与数据分析(iPod 销量) 最小二乘 / 正规方程 · 线性与指数曲线拟合 · 误差分析(最差情况残差) · MATLAB 数据绘图
官方题面翻译可离线作答

最小二乘与数据分析。(b)–(f) 部分涉及 MATLAB 的使用。你也可以选择使用具有类似功能的其他软件,甚至计算器。在这种情况下,请说明你使用什么工具以及具体的操作步骤。你必须亲自完成实际计算,而不能依赖软件中可能内置的统计函数。

  1. a) 在前往终端之前,阅读 LS 笔记并完成以下任务。设行向量 \(x = [x_1\ x_2\ \dots\ x_n]\),\(y = [y_1\ y_2\ \dots\ y_n]\),\(u = [1\ 1\ \dots\ 1]\)(\(n\) 个 1)。设 \(y = ax + b\) 为 \(n\) 个点 \((x_i, y_i)\) 的最佳拟合直线。将 LS 笔记中的公式 (4) 转化为一个 \(2 \times 2\) 的矩阵方程 \(Az = r\),其中 \(z = [a; b]\)。将 \(A\) 和 \(r\) 的各分量写成可直接在 MATLAB 中使用的形式。请不要使用求和号,而是用向量积表示,例如用 `x * u'` 表示 \(\sum x_i\)。在 (c) 部分你可以用 MATLAB 在具体例子上验证你的公式是否正确。
  2. b) 2001 年至 2005 年各年度 iPod 全球销量(单位:百万台)如下(来源:维基百科、苹果季度财报)。取 \(x\) 为年份减去 2000,因此 \(x_i\) 的取值范围是 1 到 5。查看 MATLAB 说明,将这些数据点用 * 标记绘制成散点图。(无需提交;你将在 (d) 部分重新绘制。)
  3. c) 使用 MATLAB,利用 (b) 中的数据和你从 (a) 得到的公式,求出拟合这些点的最佳直线 \(y = ax + b\)。计算实际数据值 \(y\) 与预测值 \(y = ax + b\) 之间的偏差。报告 \(a\)、\(b\) 以及最差情况(最大误差)。(可选:用 `polyfit(x,y,1)` 进行验证。)
  4. d) 新产品推出后,在初期阶段销量往往呈指数增长而非线性增长。使用 MATLAB 求出形如 \(\ln(y) = a_1 x + b_1\) 的最佳拟合。(MATLAB 中以 `log` 表示自然对数。)报告 \(a_1\)、\(b_1\)。若取指数:\(y = e^{b_1} e^{a_1 x}\)。计算 \(y\) 与预测值之间的偏差,并报告最差情况(最大误差)。
  5. e) 提交一份打印输出,在同一张图中显示:标注 * 的 \((x, y)\) 散点图、虚线表示的直线拟合 \((x, ax + b)\)、以及用普通连线表示的曲线 \((x, e^{b_1} e^{a_1 x})\)。
  6. f) 根据指数最佳拟合,2006 年售出了多少台 iPod?2015 年将售出多少台?(供对比,当时全球人口约为 66 亿。)事实上,增长已不再呈指数趋势:2006 年仅售出 4640 万台 iPod。

公式与已知条件

  • 正规方程:\(Az = r\),\(z = [a; b]\)
  • 数据:年份 \(x\):1, 2, 3, 4, 5;销量 \(y\)(百万台):0.125, 0.470, 1.451, 8.263, 31.960
  • 指数模型:\(y = e^{b_1} e^{a_1 x}\)
  • 对比参考:全球人口约 66 亿
解题入口

从 LS 笔记出发写出最小二乘正规方程,将求和式改写为向量积形式(如 `x*u'`、`x*x'`、`x*y'`)。对于指数拟合,先对 \(y\) 取对数再拟合直线。比较线性拟合与指数拟合的最差情况误差。

完成后检查

  • 确认 \(a\)、\(b\) 与 `polyfit(x,y,1)` 的结果一致。
  • 验证对于该数据,指数拟合的残差小于线性拟合。
  • 对 2006/2015 年的外推结果做合理性检验,与题面给出的 2006 年实际值(4640 万台)对照。

来源说明:题面与子问题由原始习题集 Part B 翻译而来。LS 笔记公式 (4) 未在 PDF 中复现,请依据正规方程的矩阵形式自行写出。MATLAB 使用说明仅作参考。

题目 2 单位圆内接三角形——面积优化 单位圆上三角形的面积 · 区域上的临界点 · 边界分析 · 二阶导数检验
官方题面翻译可离线作答

在平面上考虑一个内接于单位圆的三角形,其中一个顶点位于 \((1, 0)\),另外两个顶点按逆时针顺序分别由极角 \(\theta_1\) 和 \(\theta_2\) 确定。

  1. a) 用 \(\theta_1\) 和 \(\theta_2\) 表示该三角形的面积 \(A\)。\(\theta_1\) 和 \(\theta_2\) 的取值范围是什么?
  2. b) 求函数 \(A\) 在该区域内的临界点。
  3. c) 通过计算 \(A\) 在临界点处的取值以及它在定义域边界上的行为,求出 \(A\) 的最大值和最小值(需给出论证)。描述这两种情况对应的三角形形状。
  4. d) 使用二阶导数检验确认你在 (b) 中找到的临界点的性质。

公式与已知条件

  • 三个顶点:\((1, 0)\),\((\cos \theta_1, \sin \theta_1)\),\((\cos \theta_2, \sin \theta_2)\)
  • 面积 \(A = \frac{1}{2}|\sin(\theta_2 - \theta_1) + \sin \theta_1 - \sin \theta_2|\)(或等价形式)
  • 区域:\(0 \leq \theta_1 \leq \theta_2 \leq 2\pi\)(逆时针顺序)
解题入口

利用三个顶点的行列式公式(或鞋带公式)求面积。在区域内部令偏导数为零求临界点,再检查边界(\(\theta_1 = \theta_2\)、\(\theta_1 = 0\)、\(\theta_2 = 2\pi\) 等)。利用 \(A_{\theta_1\theta_1}\)、\(A_{\theta_2\theta_2}\) 及 Hessian 行列式进行二阶导数检验。

完成后检查

  • 最大面积应对应等边三角形。
  • 最小面积应对应退化三角形(面积为 0)。
  • 二阶导数检验的结论应与边界分析一致。

来源说明:题面与子问题由原始习题集 Part B 翻译而来,题面条件完整自含。

题目 3 链式法则变量替换矩阵(直角坐标 ↔ 极坐标) 链式法则 · 变量替换 · 偏导数变换的矩阵形式 · 逆矩阵验证
官方题面翻译可离线作答

设 \(w = f(x, y)\),现从直角坐标变换到极坐标:\(x = r \cos \theta\),\(y = r \sin \theta\)。

  1. a) 利用链式法则,推导矩阵形式的变量替换公式:\([w_r; w_\theta] = A [w_x; w_y]\),将 \(2 \times 2\) 矩阵 \(A\) 的各分量写成 \(r\) 和 \(\theta\) 的函数。
  2. b) 利用公式 \(r = \sqrt{x^2 + y^2}\),\(\theta = \tan^{-1}(y/x)\),类似地推导逆变换公式:\([w_x; w_y] = B [w_r; w_\theta]\),将 \(2 \times 2\) 矩阵 \(B\) 的各分量写成 \(x\) 和 \(y\) 的函数。
  3. c) 通过计算乘积 \(AB\) 并替换变量,验证 \(B = A^{-1}\)。
  4. d) 若在极坐标点 \(r = 5\)、\(\theta = \pi/2\) 处有 \(w_r = 2\)、\(w_\theta = 10\),求同一点处的 \(w_x\) 和 \(w_y\)。

公式与已知条件

  • \(x = r \cos \theta\),\(y = r \sin \theta\)
  • \(r = \sqrt{x^2 + y^2}\),\(\theta = \tan^{-1}(y/x)\)
  • 已知:在 \(r = 5\)、\(\theta = \pi/2\) 处,\(w_r = 2\)、\(w_\theta = 10\)
  • 在 \(r = 5\)、\(\theta = \pi/2\) 处:\(x = 0\),\(y = 5\)
解题入口

应用多元链式法则:\(w_r = w_x \cos \theta + w_y \sin \theta\),\(w_\theta = -w_x r \sin \theta + w_y r \cos \theta\),从而得到矩阵 \(A\)。对于 (b),对 \(r\) 和 \(\theta\) 分别关于 \(x\) 和 \(y\) 求偏导。对于 (c),相乘 \(AB\) 并用三角恒等式化简。对于 (d),将 \(r = 5\)、\(\theta = \pi/2\) 代入 \(A\) 并求解 \(w_x\)、\(w_y\)。

完成后检查

  • \(AB\) 应化简为单位矩阵。
  • 求得的 \(w_x\)、\(w_y\) 在该点应满足链式法则方程。

来源说明:题面与子问题由原始习题集 Part B 翻译而来,题面条件完整自含。

来源与改编说明

  • A 部分教材题面未包含在来源中:2F/1ab, 2; 2G/1ab, 4; 2H/1ac, 3, 4, 6; 13.10/32; 2C/1abcd, 2, 3, 5ab; 2E/1abc, 2bc, 5, 8ab。
  • 问题 1(a) 中引用的 LS 笔记公式 (4) 未在 PDF 中复现。
  • MATLAB 使用说明部分仅作参考,不属于计分问题。