知识焦点
先建立概念地图
- expectation
- conditional expectation
- law of total expectation
- geometric distribution
- joint distribution
- independence
- linearity of expectation
- uniform distribution
CS70 · 讨论课 12a
本节涵盖离散均匀分布的期望、条件期望与全期望公式在掷骰子问题中的应用、联合分布与独立性的反例构造,以及基于几何分布与期望线性性的期望天数计算。
知识焦点
建议顺序
先完整作答,再按需展开提示;最后才展开官方参考解答并逐步核对证明与计算。
本地来源
题面与解答均由本地一手资料整理:discussion/dis12a.pdf、solutions/discussion/dis12a-sol.pdf
本地一手资料完整提取 · 讨论课
本节按本地一手资料完整整理,共 4 道大题。本地官方解答已完整收录并默认折叠;建议先独立完成,再逐题核对推导。
discussion/dis12a.pdf、solutions/discussion/dis12a-sol.pdfSinho 和 Vrettos 在玩一个游戏:每人各自从 \([0,100]\) 中均匀随机地选择一个整数,点数较大者获胜(若平局则重赛)。不过 Vrettos 不爱输,所以他改装了随机数生成器,改为从 Sinho 的点数与 100 之间的整数中随机选取。设 \(S\) 为 Sinho 的点数,\(V\) 为 Vrettos 的点数。
(a) \(\mathbb{E}[S]\) 是多少?
(b) 对任意满足 \(0 \le s \le 100\) 的常数 \(s\), \(\mathbb{E}[V \mid S = s]\) 是多少?
(c) \(\mathbb{E}[V]\) 是多少?
离散均匀分布的期望等于区间两端点的算术平均值。对于条件期望,先确定给定 \(S=s\) 后 \(V\) 服从的分布,再套用均匀分布期望公式。
计算 \(\mathbb{E}[V]\) 时,可对 \(S\) 使用全期望公式 (law of total expectation):对每个 \(s\),把 \(\mathbb{E}[V\mid S=s]\) 乘以 \(P[S=s]\) 再求和。
(a) \(S\) 是 0 到 100 上的(离散)均匀随机变量,因此其期望为 \[\mathbb{E}[S]=\frac{0+100}{2}=50.\]
(b) 若 \(S=s\),则 \(V\) 在 \(s\) 到 100 上均匀分布,于是 \[\mathbb{E}[V\mid S=s]=\frac{s+100}{2}.\]
(c) 由全期望公式, \[\mathbb{E}[V]=\sum_{s=0}^{100}\mathbb{E}[V\mid S=s]\cdot P[S=s]=\sum_{s=0}^{100}\frac{s+100}{2}\cdot\frac{1}{101}=\frac{1}{202}\left(\sum_{s=0}^{100}s+\sum_{s=0}^{100}100\right).\] 第一个求和为 \(\frac{100\cdot 101}{2}=50\cdot 101\);第二个求和是 101 个 100 相加,即 \(100\cdot 101\)。代入得 \(\mathbb{E}[V]=75\)。
解答来源:solutions/discussion/dis12a-sol.pdf · 1 · confidence: high
题面来源:discussion/dis12a.pdf · 1 · confidence: high
本题我们将在条件期望的视角下重新审视掷骰子问题。(提示:两个小问都可能用到全期望公式。)
(a) 反复掷一颗骰子直到出现 6,期望能看到多少个 1?
(b) 反复掷一颗骰子直到出现大于 3 的点数,期望能看到多少个 1?
把掷出终止条件的次数记为 \(X\),把看到的 1 的个数记为 \(Y\)。先固定 \(X=k\),考虑在前 \(k-1\) 次掷骰中每次掷出 1 的概率,利用对称性与期望的线性性求 \(\mathbb{E}[Y\mid X=k]\)。
再利用全期望公式或 LOTUS 把 \(\mathbb{E}[Y]\) 用 \(\mathbb{E}[X]\) 表示,而 \(X\) 服从几何分布。
(a) 设 \(Y\) 为看到的 1 的个数,\(X\) 为掷出 6 所需的次数。
先计算 \(\mathbb{E}[Y\mid X=k]\)。在前 \(k-1\) 次掷骰中,每次必然掷出 \(\{1,2,3,4,5\}\) 中的点数,因此每次掷出 1 的概率为 \(\frac{1}{5}\),于是 \[\mathbb{E}[Y\mid X=k]=\frac{1}{5}(k-1).\] (若觉得不直观,可把 \(Y\) 写成指示变量之和 \(Y=Y_1+\cdots+Y_k\),其中 \(Y_i\) 在第 \(i\) 次掷出 1 时为 1。由期望线性性展开后,利用对称性即可得到同样结果。)
由全期望公式, \[\mathbb{E}[Y]=\sum_{k=1}^{\infty}\mathbb{E}[Y\mid X=k]P[X=k]=\sum_{k=1}^{\infty}\frac{1}{5}(k-1)P[X=k].\] 这相当于对 \(f(X)=\frac{1}{5}(X-1)\) 使用 LOTUS,因此 \[\mathbb{E}[Y]=\mathbb{E}\!\left[\frac{1}{5}(X-1)\right]=\frac{1}{5}(\mathbb{E}[X]-1).\] 由于 \(X\sim\text{Geometric}\!\left(\frac{1}{6}\right)\),有 \(\mathbb{E}[X]=6\),故 \[\mathbb{E}[Y]=\frac{1}{5}(6-1)=1.\] (亦可由迭代期望 \(\mathbb{E}[Y]=\mathbb{E}[\mathbb{E}[Y\mid X]]\) 得到相同结果。)
(b) 与第一小问同理,只是此时前 \(k-1\) 次掷骰每次只能掷出 1、2 或 3,因此 \[\mathbb{E}[Y\mid X=k]=\frac{1}{3}(k-1).\] 由全期望公式及 LOTUS, \[\mathbb{E}[Y]=\mathbb{E}\!\left[\frac{1}{3}(X-1)\right]=\frac{1}{3}(\mathbb{E}[X]-1).\] 此时 \(X\sim\text{Geometric}\!\left(\frac{1}{2}\right)\),故 \(\mathbb{E}[X]=2\),从而 \[\mathbb{E}[Y]=\frac{1}{3}(2-1)=\frac{1}{3}.\] (同样可用迭代期望得到相同结果。)
解答来源:solutions/discussion/dis12a-sol.pdf · 1-2 · confidence: high
题面来源:discussion/dis12a.pdf · 1-2 · confidence: high
(a) 举一个离散随机变量 \(X\) 与 \(Y\) 的例子,使得 \(\mathbb{E}[XY]\neq\mathbb{E}[X]\mathbb{E}[Y]\)。需给出 \(X\) 与 \(Y\) 的联合分布。
(b) 举一个离散随机变量 \(X\) 与 \(Y\) 的例子,使得 (i) \(X\) 与 \(Y\) 不独立,且 (ii) \(\mathbb{E}[XY]=0,\mathbb{E}[X]=0,\mathbb{E}[Y]=0\)。同样需给出 \(X\) 与 \(Y\) 的联合分布。
(a) 可以让 \(Y\) 完全依赖 \(X\) (例如 \(Y=X\)),从而协方差不为 0。
(b) 构造三个概率相同的样本点,使得 \(X\) 与 \(Y\) 的取值相互制约(从而不独立),且 \(X\)、\(Y\) 及 \(XY\) 的期望都为 0。
(a) 令 \(P[X=1]=\frac{1}{2},P[X=-1]=\frac{1}{2}\),且 \(Y=X\)。
则 \(\mathbb{E}[X]=1\cdot P[X=1]+(-1)\cdot P[X=-1]=0\),且 \(\mathbb{E}[Y]=\mathbb{E}[X]=0\)。又因为 \(X=Y\),有 \(\mathbb{E}[XY]=\mathbb{E}[X^2]=1\),而 \(\mathbb{E}[X]\mathbb{E}[Y]=0\)。
(b) 一个例子为 \[P\!\left[X=-1,Y=\frac{1}{3}\right]=P\!\left[X=1,Y=\frac{1}{3}\right]=P\!\left[X=0,Y=-\frac{2}{3}\right]=\frac{1}{3}.\] 此时 \(\mathbb{E}[X]=\mathbb{E}[Y]=0\),因为 \[\mathbb{E}[X]=(-1)\cdot\frac{1}{3}+1\cdot\frac{1}{3}+0\cdot\frac{1}{3}=0,\] \[\mathbb{E}[Y]=\frac{1}{3}\cdot\frac{1}{3}+\frac{1}{3}\cdot\frac{1}{3}-\frac{1}{3}\cdot\frac{2}{3}=0.\] 再看乘积 \(XY\),其分布为 \(P[XY=-\frac{1}{3}]=P[XY=\frac{1}{3}]=P[XY=0]=\frac{1}{3}\),期望为 \[\mathbb{E}[XY]=\left(-\frac{1}{3}\right)\cdot\frac{1}{3}+\frac{1}{3}\cdot\frac{1}{3}+0\cdot\frac{1}{3}=0.\]
解答来源:solutions/discussion/dis12a-sol.pdf · 3 · confidence: high
题面来源:discussion/dis12a.pdf · 2-3 · confidence: high
Marcus 为了少洗衣服,设计了一套制度。他每晚指定一件衬衫为最脏衬衫,早上再随机挑一件穿。若恰好穿了最脏的那件,当天结束后他就把它放入脏衣堆(脏衣堆里的衬衫在洗净之前不再使用)。
当 Marcus 把最后一件衬衫放入脏衣堆时,他终于洗一次衣服,随后重新指定一件衬衫为最脏衬衫(洗衣效果并不完美),然后睡觉。该过程不断重复。
(a) 若 Marcus 有 \(n\) 件衬衫,两次洗衣之间期望经过多少天?答案应为关于 \(n\) 且不含求和号的表达式。
(b) 假设他变得更懒,不再每晚把衬衫收进衣柜,而是把衬衫随机扔到房间里 \(n\) 个不同的位置(每个位置一件),指定一件衬衫为最脏衬衫,并指定一个位置为最脏位置。
早上,若他恰好挑中最脏衬衫,且该最脏衬衫恰好位于最脏位置,则当天结束后他把这件衬衫放入脏衣堆,并且此后不再把任何衬衫扔进该位置,也不再把它视为未来最脏位置的候选(因为它太脏了)。
此时两次洗衣之间期望经过多少天?答案仍应为关于 \(n\) 且不含求和号的表达式。
把第 \(i\) 件衬衫被放入脏衣堆所需的等待天数记为 \(X_i\)。在还有 \(m\) 件可用衬衫时,每天穿上最脏衬衫的概率是 \(1/m\),因此 \(X_i\) 服从几何分布。
利用期望的线性性,把总天数写成 \(X=\sum_{i=1}^n X_i\),再分别求每个 \(X_i\) 的期望后相加。注意 (b) 中「穿上最脏衬衫」与「该衬衫在最脏位置」是两个独立事件,需把它们的概率相乘。
(a) 把第 \(i\) 件衬衫被放入脏衣堆所需的等待天数记为 \(X_i\)。当轮到第 \(i\) 件衬衫时,还剩下 \(n-i+1\) 件可用衬衫,因此每天穿上最脏衬衫的概率为 \(\frac{1}{n-i+1}\),即 \(X_i\sim\text{Geometric}\!\left(\frac{1}{n-i+1}\right)\)。两次洗衣之间的总天数为 \(X=\sum_{i=1}^n X_i\)。由期望的线性性, \[\mathbb{E}[X]=\sum_{i=1}^n\mathbb{E}[X_i]=\sum_{i=1}^n(n-i+1)=\sum_{i=1}^n i=\frac{n(n+1)}{2}.\]
(b) 类似地记 \(X_i\) 为第 \(i\) 件衬衫被放入脏衣堆所需的等待天数。此时,穿上最脏衬衫的概率为 \(\frac{1}{n-i+1}\),且该衬衫恰好位于最脏位置的概率也为 \(\frac{1}{n-i+1}\),两者相互独立,故 \[X_i\sim\text{Geometric}\!\left(\frac{1}{(n-i+1)^2}\right).\] 由期望的线性性, \[\mathbb{E}[X]=\sum_{i=1}^n\mathbb{E}[X_i]=\sum_{i=1}^n(n-i+1)^2=\sum_{i=1}^n i^2=\frac{n(n+1)(2n+1)}{6}.\]
解答来源:solutions/discussion/dis12a-sol.pdf · 4 · confidence: high
题面来源:discussion/dis12a.pdf · 3 · confidence: high
discussion/dis12a.pdfsolutions/discussion/dis12a-sol.pdf