Cantelli 不等式、优惠券收集方差、估计 π、连续简答、有用均匀、等公交

本题为自我陈述题，无唯一正确答案。请在最终提交前，简要说明你完成本次作业的方式，并列出与你合作的其他同学的姓名与邮箱地址（若为小组作业，可仅描述小组情况）。

(a) 注意 \(\sigma^2 = \operatorname{Var}(X) = \mathbb{E}[X^2] - \mathbb{E}[X]^2 = \mathbb{E}[X^2]\)。利用题中给出的不等式，我们有： \[ P[X \geq \alpha] \leq \frac{\mathbb{E}[(X + c)^2]}{(\alpha + c)^2} = \frac{\mathbb{E}[X^2 + 2cX + c^2]}{(\alpha + c)^2} = \frac{\mathbb{E}[X^2] + 2c\mathbb{E}[X] + c^2}{(\alpha + c)^2} = \frac{\sigma^2 + c^2}{(\alpha + c)^2}. \]

(b) 令上述表达式对 \(c\) 的导数为零，解 \(c\)： \[ 0 = \frac{\mathrm{d}}{\mathrm{d}c} \frac{\sigma^2 + c^2}{(\alpha + c)^2} = \frac{2c(\alpha + c)^2 - 2(\alpha + c)(\sigma^2 + c^2)}{(\alpha + c)^4}. \] 令分子为零并展开： \[ 2c(\alpha + c)^2 - 2(\alpha + c)(\sigma^2 + c^2) = \alpha c^2 + (\alpha^2 - \sigma^2)c - \sigma^2 \alpha = 0. \] 利用二次方程求根公式并取正根，得到 \(c = \frac{\sigma^2}{\alpha}\)。

(c) 两条尾的概率可以不相等，其中一条尾可能包含比另一条更多的概率，因此不能简单地将切比雪夫界除以 2 来估计单尾。一个具体的例子是：设 \(X\) 满足 \(P[X = 0] = 0.75\)，\(P[X = 10] = 0.25\)，取 \(\alpha = 7\)。此时 \(\mathbb{E}[X] = 2.5\)，\(\operatorname{Var}(X) = 100 \cdot 0.25 \cdot 0.75 = 18.75\)，于是 \[ P[X \geq \mathbb{E}[X] + 7] = P[X \geq 9.5] = 0.25 > \frac{\operatorname{Var}(X)}{2 \cdot 7^2} = \frac{18.75}{98} \approx 0.19. \] 这说明「除以 2」的方法在此例中给出的上界不成立。

(d) (i) 利用马尔可夫不等式： \[ P[X \geq 5] \leq \frac{\mathbb{E}[X]}{5} = \frac{3}{5}. \]

(ii) 利用切比雪夫不等式： \[ P[X \geq 5] \leq P[|X - \mathbb{E}[X]| \geq 2] \leq \frac{\operatorname{Var}(X)}{2^2} = \frac{2}{4} = \frac{1}{2}. \]

(iii) 利用上述证得的上界（坎泰利不等式）： 由于该上界仅适用于零均值随机变量，令 \(Y = X - \mathbb{E}[X] = X - 3\)。注意 \(\operatorname{Var}(Y) = \operatorname{Var}(X) = 2\)。于是 \[ P[X \geq 5] = P[Y \geq 2] \leq \frac{\operatorname{Var}(Y)}{2^2 + \operatorname{Var}(Y)} = \frac{2}{4 + 2} = \frac{1}{3}. \]

我们看到坎泰利不等式（(b) 中的上界）给出的结果优于切比雪夫不等式，而切比雪夫不等式又优于马尔可夫不等式（注意上界越小越好）！这很好地说明了，当我们知道随机变量的更多信息（如方差）时，如何利用马尔可夫不等式推导出更好的上界。

解答：我们正在寻找最小的 \( \beta \) 值，使得我们能够断言：对于所有的 \( n \)，都有 \[ P[X \ge E[X] + \beta n] < \frac{1}{100}. \]

我们有： \[ P[X \ge E(X) + \beta n] = P[X - E[X] \ge \beta n] \le P[|X - E[X]| \ge \beta n] \le \frac{\operatorname{Var}(X)}{(\beta n)^{2}} \quad \text{（由切比雪夫不等式）} \] \[ = \frac{n^{2} \sum_{i=1}^{n} i^{-2} - E[X]}{(\beta n)^{2}} \approx \frac{n^{2} \sum_{i=1}^{n} i^{-2} - n \ln n}{(\beta n)^{2}} = \frac{\sum_{i=1}^{n} i^{-2}}{\beta^{2}} - \frac{\ln n}{n \beta^{2}}. \]

因此，我们想要 \( \beta \) 的一个下界，使得下面不等式成立： \[ \frac{\sum_{i=1}^{n} i^{-2}}{\beta^{2}} - \frac{\ln n}{n \beta^{2}} < \frac{1}{100}. \]

但是当 \( n \to \infty \) 时，第二项趋于零，因为 \( n \) 的增长速度比 \( \ln n \) 快，而第一项趋于 \( \pi^{2}/6 \)。因此，我们只需要满足 \[ \frac{\pi^{2}}{6\beta^{2}} < \frac{1}{100}. \]

这要求 \[ \beta > \frac{10\pi}{\sqrt{6}} \approx 12.825. \]

(a) \(\hat{p}_1\) 是 \(\frac{2}{\pi}\) 的估计，故 \(X_1 = \frac{2}{\hat{p}_1}\) 是 \(\pi\) 的估计；同理 \(X_2 = 4\hat{p}_2\)，而 \(X_3 = \sqrt{\frac{6}{\hat{p}_3}}\) 也是 \(\pi\) 的估计。

(b) 我们有 \[ P\bigl[|X_2 - \pi| \ge \varepsilon\bigr] = P\Bigl[\Bigl|\hat{p}_2 - \frac{\pi}{4}\Bigr| \ge \frac{1}{4}\varepsilon\Bigr]\le \frac{\operatorname{Var}(\hat{p}_2)}{(\frac{1}{4}\varepsilon)^2}, \] 最后一步用到切比雪夫不等式及 \(X_2 = 4\hat{p}_2\)。我们希望估计的置信度为 \(1-\delta\)，因此要求 \(\frac{\operatorname{Var}(\hat{p}_2)}{(\frac{1}{4}\varepsilon)^2} < \delta\)。由于 \(N\hat{p}_2 \sim \operatorname{Binomial}(N, p_2)\)，其方差为 \(\frac{p_2(1-p_2)}{N}\)。综合起来得到 \[ \frac{p_2(1-p_2)}{N(\frac{1}{4}\varepsilon)^2} < \delta \implies N > \frac{16 p_2(1-p_2)}{\delta \varepsilon^2} = \frac{\pi(4-\pi)}{\delta \varepsilon^2}. \]

(c) 对 \(i = 1\)： \[ |X_1 - \pi| < \varepsilon \iff \Bigl|\frac{2}{\hat{p}_1} - \pi\Bigr| < \varepsilon \iff \pi - \varepsilon < \frac{2}{\hat{p}_1} < \pi + \varepsilon \iff \frac{2}{\pi + \varepsilon} < \hat{p}_1 < \frac{2}{\pi - \varepsilon} \] \[ \iff \frac{2}{\pi + \varepsilon} - \frac{2}{\pi} < \hat{p}_1 - \frac{2}{\pi} < \frac{2}{\pi - \varepsilon} - \frac{2}{\pi} \iff -\frac{2\varepsilon}{\pi(\pi + \varepsilon)} < \hat{p}_1 - \frac{2}{\pi} < \frac{2\varepsilon}{\pi(\pi - \varepsilon)}. \] 对分母应用泰勒展开 \(\frac{1}{a-x} = \frac{1}{a} + o(x)\)： \[ \frac{2\varepsilon}{\pi(\pi - \varepsilon)} = \frac{2\varepsilon}{\pi}\Bigl(\frac{1}{\pi} + o(\varepsilon)\Bigr) = \frac{2\varepsilon}{\pi^2} + o(\varepsilon^2), \] \[ -\frac{2\varepsilon}{\pi(\pi + \varepsilon)} = -\frac{2\varepsilon}{\pi^2} + o(\varepsilon^2). \] 于是 \[ |X_1 - \pi| < \varepsilon \implies |\hat{p}_1 - \frac{2}{\pi}| < \frac{2\varepsilon}{\pi^2} + o(\varepsilon^2), \] 故 \(c_1 = \frac{2}{\pi^2}\)。

对 \(i = 3\)： \[ |X_3 - \pi| < \varepsilon \iff \Bigl|\sqrt{\frac{6}{\hat{p}_3}} - \pi\Bigr| < \varepsilon \iff \pi - \varepsilon < \sqrt{\frac{6}{\hat{p}_3}} < \pi + \varepsilon \iff \frac{6}{(\pi + \varepsilon)^2} < \hat{p}_3 < \frac{6}{(\pi - \varepsilon)^2} \] \[ \iff \frac{6}{(\pi + \varepsilon)^2} - \frac{6}{\pi^2} < \hat{p}_3 - \frac{6}{\pi^2} < \frac{6}{(\pi - \varepsilon)^2} - \frac{6}{\pi^2} \iff \frac{-12\pi\varepsilon + 6\varepsilon^2}{\pi^2(\pi + \varepsilon)^2} < \hat{p}_3 - \frac{6}{\pi^2} < \frac{12\pi\varepsilon - 6\varepsilon^2}{\pi^2(\pi - \varepsilon)^2}. \] 对分母应用 \(\frac{1}{(a-x)^2} = \frac{1}{a^2} + o(x)\)： \[ \frac{12\pi\varepsilon - 6\varepsilon^2}{\pi^2(\pi - \varepsilon)^2} = \frac{12\pi\varepsilon}{\pi^4} + o(\varepsilon^2) = \frac{12\varepsilon}{\pi^3} + o(\varepsilon^2), \] \[ \frac{-12\pi\varepsilon + 6\varepsilon^2}{\pi^2(\pi + \varepsilon)^2} = -\frac{12\varepsilon}{\pi^3} + o(\varepsilon^2). \] 于是 \[ |X_3 - \pi| < \varepsilon \implies |\hat{p}_3 - \frac{6}{\pi^2}| < \frac{12\varepsilon}{\pi^3} + o(\varepsilon^2), \] 故 \(c_3 = \frac{12}{\pi^3}\)。

(d) 由切比雪夫不等式， \[ P\bigl[|X_i - \pi| \ge \varepsilon\bigr] = P\bigl[|\hat{p}_i - p_i| \ge c_i \varepsilon\bigr]\le \frac{\operatorname{Var}(\hat{p}_i)}{(c_i \varepsilon)^2}. \] 要求 \(\frac{\operatorname{Var}(\hat{p}_i)}{(c_i \varepsilon)^2} < \delta\)。由于 \(N\hat{p}_i \sim \operatorname{Binomial}(N, p_i)\)，方差为 \(\frac{p_i(1-p_i)}{N}\)。于是 \[ \frac{p_i(1-p_i)}{N (c_i \varepsilon)^2} < \delta \implies N > \frac{p_i(1-p_i)}{c_i^2 \varepsilon^2 \delta}. \] 代入 \(i = 1\)： \[ N > \frac{\frac{2}{\pi}\bigl(1 - \frac{2}{\pi}\bigr)}{\bigl(\frac{2}{\pi^2}\bigr)^2 \varepsilon^2 \delta} = \frac{\pi^2(\pi - 2)}{2 \varepsilon^2 \delta}. \] 代入 \(i = 3\)： \[ N > \frac{\frac{6}{\pi^2}\bigl(1 - \frac{6}{\pi^2}\bigr)}{\bigl(\frac{12}{\pi^3}\bigr)^2 \varepsilon^2 \delta} = \frac{\pi^2(\pi^2 - 6)}{24 \varepsilon^2 \delta}. \]

(e) 比较 (b) 与 (d) 得到的表达式： \[ \frac{\pi^2(\pi^2 - 6)}{24 \varepsilon^2 \delta} < \frac{\pi(4-\pi)}{\delta \varepsilon^2} < \frac{\pi^2(\pi - 2)}{2 \varepsilon^2 \delta}, \] 因此技巧 3 所需 \(N\) 最小，技巧 1 所需 \(N\) 最大。

解答：

(a) 我们先从 CDF 开始。首先回顾 \(X\) 的 CDF： \[ F_X(t) = P[X \leq t] = \begin{cases} 0, & t \leq 0, \\ \dfrac{t}{2}, & t \in [0,2], \\ 1, & t \geq 2. \end{cases} \] 由于 \(Y\) 由 \(X\) 定义，我们可以计算 \[ F_Y(t) = P[Y \leq t] = P[4X^2 + 1 \leq t] = P\left[X^2 \leq \dfrac{t-1}{4}\right] = P\left[X \leq \dfrac{1}{2}\sqrt{t-1}\right] = F_X\left(\dfrac{1}{2}\sqrt{t-1}\right). \] 其中在第三行我们用了 \(X \in [0,2]\)，在最后一行我们用了 \(X\) 的 CDF。于是 \[ F_Y(t) = \begin{cases} 0, & t \leq 1, \\ \dfrac{1}{4}\sqrt{t-1}, & t \in [1,17], \\ 1, & t \geq 17. \end{cases} \] 我们知道 PDF 可以通过对 CDF 求导得到，因此 \[ f_Y(t) = \dfrac{d}{dt}F_Y(t) = \begin{cases} \dfrac{1}{8\sqrt{t-1}}, & t \in [1,17], \\ 0, & \text{其他。} \end{cases} \] 由期望的线性性质，\(E[Y] = E[4X^2 + 1] = 4E[X^2] + 1\)。有几种方法可以计算 \(E[X^2]\)。

一种方法是利用 \(\operatorname{Var}(X) = E[X^2] - E[X]^2\)，所以 \(E[X^2] = \operatorname{Var}(X) + E[X]^2\)。由于 \(X \sim \text{Uniform}[0,2]\)，我们知道 \(\operatorname{Var}(X) = \dfrac{1}{3}\) 且 \(E[X] = 1\)；这意味着 \[ E[X^2] = \operatorname{Var}(X) + E[X]^2 = \dfrac{1}{3} + 1^2 = \dfrac{4}{3}. \]

另一种方法是使用 LOTUS 直接积分： \[ E[X^2] = \int_0^2 t^2 f_X(t)\,dt = \int_0^2 t^2 \cdot \dfrac{1}{2}\,dt = \dfrac{1}{2}\left[\dfrac{1}{3}t^3\right]_0^2 = \dfrac{1}{2} \cdot \dfrac{8}{3} = \dfrac{4}{3}. \] 代入可得 \(E[Y] = 4E[X^2] + 1 = 4 \cdot \dfrac{4}{3} + 1 = \dfrac{19}{3}\)。

对于方差，\(\operatorname{Var}(Y) = \operatorname{Var}(4X^2 + 1) = 16\operatorname{Var}(X^2) = 16(E[X^4] - E[X^2]^2)\)。这里我们已经知道 \(E[X^2] = \dfrac{4}{3}\)，所以只需要计算 \(E[X^4]\)： \[ E[X^4] = \int_0^2 t^4 f_X(t)\,dt = \int_0^2 t^4 \cdot \dfrac{1}{2}\,dt = \dfrac{1}{2}\left[\dfrac{1}{5}t^5\right]_0^2 = \dfrac{1}{2} \cdot \dfrac{32}{5} = \dfrac{16}{5}. \] 综合可得 \[ \operatorname{Var}(Y) = 16\left(E[X^4] - E[X^2]^2\right) = 16\left(\dfrac{16}{5} - \dfrac{16}{9}\right) = \dfrac{1024}{45}. \]

(b) 为了求出正确的常数，我们利用 PDF 的积分必为 1 这一事实。具体地， \[ 1 = \int_1^2 \int_0^2 \left(cxy + \dfrac{1}{4}\right)\,dy\,dx = 3c + \dfrac{1}{2}, \] 所以 \(c = \dfrac{1}{6}\)。为了判断独立性，我们需要先求出 \(X\) 和 \(Y\) 的边缘分布： \[ f_X(x) = \int_0^2 f(x,y)\,dy = \dfrac{1}{2} + \dfrac{x}{3}, \quad f_Y(y) = \int_1^2 f(x,y)\,dx = \dfrac{1}{4} + \dfrac{y}{4}. \] 由于 \[ f_X(x)f_Y(y) = \dfrac{1}{8} + \dfrac{y}{8} + \dfrac{x}{12} + \dfrac{xy}{12} \neq \dfrac{1}{4} + \dfrac{xy}{6} = f(x,y), \] 所以这两个随机变量不独立。

(c) (i) 由于 \(X \sim \operatorname{Exp}(3)\)，\(X\) 的 CDF 为 \(F(x) = 1 - e^{-3x}\)。因此 \[ P[X \in [0,1]] = \int_0^1 f(x)\,dx = F(1) - F(0) = (1 - e^{-3}) - (1 - e^0) = 1 - e^{-3}. \]

(ii) 类似地，若 \(Y = \lfloor X \rfloor\)，则 \(Y = k\) 当且仅当 \(X \in [k, k+1)\)，因此 \[ P[Y = k] = P[X \in [k, k+1)] = \int_k^{k+1} f(x)\,dx = F(k+1) - F(k) = (1 - e^{-3(k+1)}) - (1 - e^{-3k}) = e^{-3k} - e^{-3(k+1)} = e^{-3k}(1 - e^{-3}) = (e^{-3})^k(1 - e^{-3}). \] 换言之，\(Y = W - 1\)，其中 \(W \sim \text{Geometric}(1 - e^{-3})\)。

(d) 由于 \(X_i\) 相互独立， \[ P[\min(X_1, \dots, X_n) \leq t] = 1 - P[X_1 > t, X_2 > t, \dots, X_n > t] = 1 - P[X_1 > t] \cdot P[X_2 > t] \cdots P[X_n > t] \quad \text{（由独立性）} = 1 - e^{-\lambda_1 t} e^{-\lambda_2 t} \cdots e^{-\lambda_n t} = 1 - e^{-(\lambda_1 + \lambda_2 + \cdots + \lambda_n)t}. \] 这恰好是 \(\operatorname{Exp}(\lambda_1 + \lambda_2 + \cdots + \lambda_n)\) 的 CDF，因此 \(\mu = \lambda_1 + \cdots + \lambda_n\)。

解答：

(a) 任何密度 \(f(x) > 0\) 对所有 \(x\) 成立的随机变量都可以作为正面例子；例如 \(f(x) = \dfrac{1}{\sqrt{2\pi}} e^{-x^2/2}\)（对应正态分布），或者 \[ f(x) = \begin{cases} \dfrac{1}{2}, & |x| < 1, \\ \dfrac{1}{4|x|^2}, & |x| \geq 1. \end{cases} \] 任何密度 \(f\) 满足对某个 \(a, b \in \mathbb{R}\)，\(a \neq b\)，有 \(f(x) = 0\) 对所有 \(x \in (a, b)\) 成立的分布都可以作为反面例子；例如（对应指数随机变量） \[ f(x) = \begin{cases} e^{-x}, & x \geq 0, \\ 0, & \text{其他}, \end{cases} \] 或者（对应 \([0,1]\) 上的均匀随机变量） \[ f(x) = \begin{cases} 1, & x \in [0,1], \\ 0, & \text{其他}. \end{cases} \]

(b) 我们有 \[ F(x + \varepsilon) = P[X \leq x + \varepsilon] = P[X \leq x] + P[X \in (x, x+\varepsilon]] \geq F(x) + P[X \in (x, x+\varepsilon)] > F(x), \] 其中最后一个不等式用到了 \(P[X \in (a, b)] > 0\)，取 \(a = x\)，\(b = x + \varepsilon\)。

接下来，为了证明可逆性，我们需要证明 (i) 单射性和 (ii) 满射性。

单射性：若 \(x \neq y\)，则要么 \(x < y\) 要么 \(y < x\)，因此要么 \(F(x) < F(y)\) 要么 \(F(y) < F(x)\)。无论哪种情况，\(F(x) \neq F(y)\)，所以 \(F\) 必须是单射。

满射性：\(F\) 是连续的（事实上可导，导数为 \(f\)），当 \(x \to \infty\) 时趋近于 1，当 \(x \to -\infty\) 时趋近于 0。因此，它必定取到 0 和 1 之间的所有值，从而是满射。

(c) \(P[F^{-1}(U) \leq x] = P[U \leq F(x)] = F(x)\)，其中 \(\{F^{-1}(U) \leq x\} = \{U \leq F(x)\}\)，因为 \(F\) 严格递增。因此 \(F^{-1}(U)\) 与 \(X\) 具有完全相同的 CDF，这意味着 \(F^{-1}(U)\) 与 \(X\) 同分布。

(d) 可以，我们能够做到！假设 \(X\) 取值于离散集合 \(A = \{a_1, a_2, \dots, a_n\} \subset \mathbb{R}\)，且 \(P[X = a_k] = p_k\)。那么模仿 (c) 中的论证，我们可以定义 \(G: [0,1] \to A\) 为 \[ G(x) = \begin{cases} a_1, & x \leq p_1, \\ a_2, & x \in (p_1, p_1 + p_2], \\ a_3, & x \in (p_1 + p_2, p_1 + p_2 + p_3], \\ \quad \vdots & \vdots \\ a_{n-1}, & x \in \left(\sum_{k=1}^{n-2} p_k, \sum_{k=1}^{n-1} p_k\right], \\ a_n, & x \in \left(\sum_{k=1}^{n-1} p_k, 1\right]. \end{cases} \] （画出 \(G\) 的图像！），对于它，我们有 \(P[G(U) = a_k] = \sum_{j=1}^k p_j - \sum_{j=1}^{k-1} p_j = p_k = P[X = a_k]\)。也就是说，\(G(U)\) 与 \(X\) 具有相同的分布，符合要求。

(a) 设 \(f_{Y_i}\) 为 \(Y_i\) 的概率密度函数。由全概率公式：

\[ P[X_i > Y_i] = \int_{t=0}^{\infty} f_{Y_i}(t) \cdot P[X_i > Y_i \mid Y_i = t] \, dt \]

\[ = \int_{t=0}^{\infty} f_{Y_i}(t) \cdot P[X_i > t] \, dt \]

\[ = \int_{t=0}^{\infty} f_{Y_i}(t) \cdot (1 - F_{X_i}(t)) \, dt \]

\[ = \int_{t=0}^{\infty} \mu e^{-\mu t} (e^{-\lambda t}) \, dt \]

\[ = \mu \int_{t=0}^{\infty} e^{-(\lambda + \mu)t} \, dt \]

\[ = \frac{\mu}{\lambda + \mu} \int_{t=0}^{\infty} (\lambda + \mu) e^{-(\lambda + \mu)t} \, dt \]

\[ = \frac{\mu}{\lambda + \mu} \]

其中倒数第二行的积分值为 1，因为它是指数分布 \(\operatorname{Exp}(\lambda + \mu)\) 密度函数上的全积分。

(b) 我们观察到 \(P[D > d] = P[X > 20 + d \mid X \ge 20]\)。然后应用条件概率定义：

\[ P[X > 20 + d \mid X \ge 20] = \frac{P[X > 20 + d]}{P[X \ge 20]} \]

\[ = \frac{1 - F_X(20 + d)}{1 - F_X(20)} \]

\[ = \frac{e^{-\lambda (20 + d)}}{e^{-20 \lambda}} \]

\[ = e^{-\lambda d} \]

因此，\(D\) 的累积分布函数（CDF）为 \(P[D \le d] = 1 - P[D > d] = 1 - e^{-\lambda d}\)。这是一个指数分布的 CDF，所以 \(D\) 服从参数为 \(\lambda\) 的指数分布。

也可以直接应用指数分布的无记忆性得出此答案。

(c) Lavanya 的等待时间是 51B 到达时间与 79 到达时间的最小值。因此，\(Z = \min(X, Y)\)。

\[ P[Z > t] = P[X > t \cap Y > t] \]

\[ = P[X > t] \cdot P[Y > t] \]

\[ = (1 - F_X(t))(1 - F_Y(t)) \]

\[ = (1 - (1 - e^{-\mu t}))(1 - (1 - e^{-\lambda t})) \]

\[ = e^{-\mu t} e^{-\lambda t} \]

\[ = e^{-(\mu + \lambda)t} \]

由此可得 \(Z\) 的 CDF 为 \(P[Z \le t] = 1 - e^{-(\mu + \lambda)t}\)。因此，\(Z\) 服从参数为 \(\mu + \lambda\) 的指数分布。

(d) 设 \(t > 0\)。由全概率公式：

\[ P[T \le t] = P[X_1 + X_2 \le t] \]

\[ = \int_{0}^{\infty} P[X_1 + X_2 \le t \mid X_1 \in dx] \cdot P[X_1 \in dx] \]

\[ = \int_{0}^{t} P[X_1 + X_2 \le t \mid X_1 \in dx] \cdot P[X_1 \in dx] + \int_{t}^{\infty} 0 \cdot P[X_1 \in dx] \]

\[ = \int_{0}^{t} P[X_2 \le t - x] \cdot P[X_1 \in dx] \]

\[ = \int_{0}^{t} F_{X_2}(t - x) \cdot f_{X_1}(x) \, dx \]

\[ = \int_{0}^{t} \left(1 - e^{-\lambda (t - x)}\right) \cdot \lambda e^{-\lambda x} \, dx \]

\[ = \int_{0}^{t} \lambda e^{-\lambda x} - \lambda e^{-\lambda t} \, dx \]

\[ = F_{X_1}(t) - \lambda e^{-\lambda t} \cdot t \]

\[ = 1 - e^{-\lambda t} - \lambda t e^{-\lambda t} \]

对 CDF 求导，得到：

\[ f_T(t) = \frac{d}{dt} P[T \le t] = \lambda e^{-\lambda t} - \lambda e^{-\lambda t} + \lambda^2 t e^{-\lambda t} \]

\[ = \lambda^2 t e^{-\lambda t}, \quad t > 0 \]

这正是 \(\operatorname{Gamma}(2, \lambda)\) 分布的 PDF。