知识焦点
先建立概念地图
- Balls and Bins
- Union Bound
- Conditional Probability
- Independence
- Binomial Distribution
- probability
- balls and bins
- binomial distribution
CS70 · 讨论课 09a
讨论课 9A 包含两个主题:(1)球与箱子问题,涉及有放回抽样、并界(union bound)、条件概率与独立性判断;(2)正面计数问题,涉及二项分布的概率质量函数、参数识别与概率计算。
知识焦点
建议顺序
先完整作答,再按需展开提示;最后才展开官方参考解答并逐步核对证明与计算。
本地来源
题面与解答均由本地一手资料整理:discussion/dis09a.pdf、solutions/discussion/dis09a-sol.pdf
本地一手资料完整提取 · 讨论课
本节按本地一手资料完整整理,共 3 道大题。本地官方解答已完整收录并默认折叠;建议先独立完成,再逐题核对推导。
discussion/dis09a.pdf、solutions/discussion/dis09a-sol.pdf(参考 Note 14)假设你依次将 \(n\) 个球扔进 \(n\) 个有编号的箱子中。 (a) 第一个箱子为空的概率是多少? (b) 前 \(k\) 个箱子都为空的概率是多少? (c) 设 \(A\) 为事件“至少有 \(k\) 个箱子为空”。设 \(m\) 是从全部 \(n\) 个箱子中选出 \(k\) 个箱子的子集个数。假设 \(A_i\) 是第 \(i\) 组 \(k\) 个箱子全为空的事件。那么我们可以将 \(A\) 写成 \(A_i\) 的并集:\(A = \bigcup_{i=1}^{m} A_i\)。计算 \(m\),并利用并界(union bound)给出概率 \(P[A]\) 的一个上界。 (d) 已知第一个箱子为空时,第二个箱子为空的概率是多少? (e) 事件“第一个箱子为空”与事件“前两个箱子都为空”是否独立? (f) 事件“第一个箱子为空”与事件“第二个箱子为空”是否独立?
本题中球是一个接一个扔出的,因此每次投掷相互独立,且样本空间是均匀的(共 \(n^n\) 种等可能结果)。对于(a)(b),先求单个球避开某些箱子的概率,再利用独立性推广到 \(n\) 个球;对于(c),回忆并界公式 \(P[\bigcup_i A_i] \le \sum_i P[A_i]\),并数清从 \(n\) 个箱子中选 \(k\) 个的子集个数。对于(d),考虑在已知第一个箱子为空的条件下,样本空间如何缩小;对于(e)(f),通过比较条件概率与无条件概率是否相等来判断独立性。
由于球是一个接一个扔出的,因此存在顺序,我们进行的是有放回且顺序重要的抽样(而不是顺序无关的情况,后者对应于星与条(stars and bars)方法中每种配置等可能)。
(a) 注意这是一个均匀样本空间,结果代表每个球单独扔进箱子的所有可能方式。这里,\(|\Omega| = n^n\),因为每个球有 \(n\) 个可能的箱子可以落入,而在这些可能中,有 \((n-1)^n\) 种使第一个箱子为空——此时每个球有 \(n-1\) 个可能的箱子可以落入。这给出第一个箱子为空的总体概率 \[ \left(\frac{n-1}{n}\right)^n。 \]
等价地,我们可以注意到每次投掷都与其他投掷相互独立。由于球 \(i\) 不落入第一个箱子的概率是 \(\frac{n-1}{n}\),所有球都不落入第一个箱子的概率是 \[ \left(\frac{n-1}{n}\right)^n。 \]
(b) 与前一问类似,我们有相同的大小为 \(n^n\) 的均匀样本空间。现在,使前 \(k\) 个箱子为空的投球方式共有 \((n-k)^n\) 种——每个球有 \(n-k\) 个可能的箱子可以落入。
或者,我们同样可以利用独立性。由于球 \(i\) 不落入前 \(k\) 个箱子的概率是 \(\frac{n-k}{n}\),所有球都不落入前 \(k\) 个箱子的概率是 \[ \left(\frac{n-k}{n}\right)^n。 \]
(c) 我们使用并界。那么 \[ P[A] = P\left[\bigcup_{i=1}^{m} A_i\right] \le \sum_{i=1}^{m} P[A_i]。 \] 由(b)我们知道前 \(k\) 个箱子为空的概率,这对任意 \(k\) 个箱子的集合都成立,所以 \[ P[A_i] = \left(\frac{n-k}{n}\right)^n。 \] 因此, \[ P[A] \le m \cdot \left(\frac{n-k}{n}\right)^n = \binom{n}{k} \left(\frac{n-k}{n}\right)^n。 \]
(d) 使用贝叶斯公式: \[ P[\text{第2个箱子为空} \mid \text{第1个箱子为空}] = \frac{P[\text{第2个箱子为空} \cap \text{第1个箱子为空}]}{P[\text{第1个箱子为空}]} = \frac{(n-2)^n / n^n}{(n-1)^n / n^n} = \left(\frac{n-2}{n-1}\right)^n。 \]
另一种解法:我们知道箱子1为空,因此每个投出的球可以落入剩下的 \(n-1\) 个箱子之一。我们希望箱子2为空的概率,这意味着每个球也不能落入箱子2,剩下 \(n-2\) 个箱子。因此对每个球,在箱子1为空的条件下箱子2为空的概率是 \(\frac{n-2}{n-1}\)。对 \(n\) 个球,这个概率是 \[ \left(\frac{n-2}{n-1}\right)^n。 \]
(e) 它们是相依的。知道后者(前两个箱子都为空)意味着前者(第一个箱子为空)以概率 1 发生。
(f) 在(c)中我们计算了已知第一个箱子为空时第二个箱子为空的概率:\(\left(\frac{n-2}{n-1}\right)^n\)。第二个箱子为空(无任何先验信息)的概率是 \(\left(\frac{n-1}{n}\right)^n\)。由于这两个概率不相等,事件是相依的。
解答来源:solutions/discussion/dis09a-sol.pdf · 1 · confidence: high
题面来源:discussion/dis09a.pdf · 1 · confidence: high
(参考 Note 15)考虑一枚硬币,其正面(Heads)朝上的概率为 \(P[\text{正面}] = 2/5\)。假设你将这枚硬币抛掷 20 次,并定义 \(X\) 为正面朝上的次数。 (a) 对于某个 \(0 \le k \le 20\),\(P[X = k]\) 是多少? (b) 说出 \(X\) 服从的分布及其参数。 (c) \(P[X \ge 1]\) 是多少?提示:你应该能够在不求和的情况下完成。 (d) \(P[12 \le X \le 14]\) 是多少?
\(X\) 表示 20 次独立伯努利试验中成功的次数,每次成功概率为 \(2/5\)。对于(c),考虑对立事件 \(X = 0\),利用 \(P[X \ge 1] = 1 - P[X = 0]\) 避免求和。对于(d),直接利用(a)中的概率质量函数将 \(k = 12, 13, 14\) 三个概率相加。
(a) 共有 \(\binom{20}{k}\) 种方式选择 \(k\) 次为正面。选中的 \(k\) 次为正面的概率是 \(\left(\frac{2}{5}\right)^k\),其余为反面的概率是 \(\left(\frac{3}{5}\right)^{20-k}\)。综合起来,我们有 \[ P[X = k] = \binom{20}{k} \left(\frac{2}{5}\right)^k \left(\frac{3}{5}\right)^{20-k}。 \]
(b) 由于我们有 20 次独立试验,每次试验成功的概率为 \(2/5\),\(X \sim \text{Binomial}(20, 2/5)\)。
(c) \[ P[X \ge 1] = 1 - P[X = 0] = 1 - \left(\frac{3}{5}\right)^{20}。 \]
(d) \[ P[12 \le X \le 14] = P[X = 12] + P[X = 13] + P[X = 14] \] \[ = \binom{20}{12}\left(\frac{2}{5}\right)^{12}\left(\frac{3}{5}\right)^{8} + \binom{20}{13}\left(\frac{2}{5}\right)^{13}\left(\frac{3}{5}\right)^{7} + \binom{20}{14}\left(\frac{2}{5}\right)^{14}\left(\frac{3}{5}\right)^{6}。 \]
解答来源:solutions/discussion/dis09a-sol.pdf · 2 · confidence: high
题面来源:discussion/dis09a.pdf · 3 · confidence: high
3 两两独立
注意 14 回顾事件 \(A_1\)、\(A_2\) 和 \(A_3\) 是两两独立的(pairwise independent),如果对于所有 \(i \neq j\),\(A_i\) 与 \(A_j\) 独立。然而,两两独立是比相互独立(mutual independence)更弱的命题,相互独立还需要额外的条件:\(P[A_1 \cap A_2 \cap A_3] = P[A_1]P[A_2]P[A_3]\)。
假设你掷两个公平的六面骰子。设 \(A_1\) 为第一个骰子掷出 1 的事件,设 \(A_2\) 为第二个骰子掷出 6 的事件,设 \(A_3\) 为两个骰子点数之和为 7 的事件。
(a) 计算 \(P[A_1]\)、\(P[A_2]\) 和 \(P[A_3]\)。
(b) \(A_1\) 和 \(A_2\) 是否独立?
(c) \(A_2\) 和 \(A_3\) 是否独立?
(d) \(A_1\)、\(A_2\) 和 \(A_3\) 是否两两独立?
(e) \(A_1\)、\(A_2\) 和 \(A_3\) 是否相互独立?
判断两个事件是否独立,需要验证 \(P[A_i \cap A_j]\) 是否等于 \(P[A_i]P[A_j]\)。对于两两独立,需要检查所有事件对;对于相互独立,还需要检查三个事件的交集概率。
(a) 由于公平骰子掷出特定点数的概率为 \(\frac{1}{6}\),因此 \(P[A_1] = P[A_2] = \frac{1}{6}\)。
两个骰子点数之和为 7 的情况有 6 种,即 \(\{(1,6), (2,5), (3,4), (4,3), (5,2), (6,1)\}\),因此 \(P[A_3] = \frac{1}{6}\)。
(b) 需要判断 \(P[A_1 \cap A_2]\) 是否等于 \(P[A_1]P[A_2]\)。第一个骰子为 1 且第二个骰子为 6 的结果只有一种,因此 \(P[A_1 \cap A_2] = \frac{1}{36}\)。
由于 \(P[A_1]P[A_2] = \frac{1}{6} \cdot \frac{1}{6} = \frac{1}{36} = P[A_1 \cap A_2]\),这两个事件独立。
(c) 需要判断 \(P[A_2 \cap A_3]\) 是否等于 \(P[A_2]P[A_3]\)。第二个骰子为 6 且两骰子之和为 7 的情况只有一种,即第一个骰子必须为 1,因此 \(P[A_2 \cap A_3] = \frac{1}{36}\)。
由于 \(P[A_2]P[A_3] = \frac{1}{6} \cdot \frac{1}{6} = \frac{1}{36} = P[A_2 \cap A_3]\),这两个事件独立。
(d) 要判断三个事件是否两两独立,需要确保所有事件对都独立。已验证 \(A_1\) 和 \(A_2\) 独立,\(A_2\) 和 \(A_3\) 独立,因此只需验证 \(A_1\) 和 \(A_3\) 是否独立。
\(A_1 \cap A_3\) 表示第一个骰子为 1 且两骰子之和为 7,这种情况只有一种,即第二个骰子必须为 6,因此 \(P[A_1 \cap A_3] = \frac{1}{36}\)。
由于 \(P[A_1]P[A_3] = \frac{1}{6} \cdot \frac{1}{6} = \frac{1}{36} = P[A_1 \cap A_3]\),这两个事件也独立。由于所有可能的事件对都独立,\(A_1\)、\(A_2\) 和 \(A_3\) 确实是两两独立的。
(e) 相互独立要求额外的条件 \(P[A_1 \cap A_2 \cap A_3] = P[A_1]P[A_2]P[A_3]\)。
\(A_1 \cap A_2 \cap A_3\) 表示第一个骰子为 1,第二个骰子为 6,且两骰子之和为 7。这种情况只有一种,即第一个骰子为 1 且第二个骰子为 6,因此 \(P[A_1 \cap A_2 \cap A_3] = \frac{1}{36}\)。
然而,\(P[A_1]P[A_2]P[A_3] = \frac{1}{6} \cdot \frac{1}{6} \cdot \frac{1}{6} = \frac{1}{216} \neq \frac{1}{36} = P[A_1 \cap A_2 \cap A_3]\),因此这三个事件不是相互独立的。
解答来源:solutions/discussion/dis09a-sol.pdf · 3-4 · confidence: high
题面来源:discussion/dis09a.pdf · 4 · confidence: high
discussion/dis09a.pdfsolutions/discussion/dis09a-sol.pdf