用户: Solution/ 习题: 概率论

本文是应坚刚概率论部分习题解答, 来自李利平的 pdf.

1初等概率论

25．(a) 用 $y=-1$ 代替 $x$ 轴, 使用反射原理来讨论．答案是 $1-\frac{C_{m+n}^{m-1}}{C_{m+n}^m}$.

2概率空间和随机变量

25. 对于任何 $\epsilon >0$, 存在 $R$ 使得 $F(-R)<\epsilon ,F(R)>1-\epsilon$, 再利用 $F$ 在 $[-R,R]$ 上的一致连续性.

3条件概率与全概率公式

17．记 $A$ 为第 $k$ 张是前 $k$ 张中最大的这个事件, $B$ 为第 $k$ 张标号是 $m$ 这个事件．要计算的概率是 $\mathbb{P}(B\mid A)$．根据 Bayes 公式,

$$\mathbb{P}(B\mid A)=\frac{\mathbb{P}(A\mid B)\mathbb{P}(B)}{\mathbb{P}(A)}$$

显然, $\mathbb{P}(A\mid B)=1,\mathbb{P}(B)=\frac{(m-1)!}{m!}=\frac{1}{m}$. 前 $k$ 张卡片构成的集合有 $C_m^k$ 种不同的可能性, 记出现各种可能性的事件分别为 ${\Omega }_1,\cdots ,{\Omega }_N\left(N=C_m^k\right)$．对于任何 $1\le i\le N$, 当 ${\Omega }_i$ 发生时, 这 $k$ 张卡片中最大标号的那张是明确的, 它出现在第 $k$ 张的概率是 $\frac{(k-1)!}{k!}=\frac{1}{k}$, 即

$$\mathbb{P}\left(A\mid {\Omega }_i\right)=\frac{1}{k},1\le i\le N.$$

利用全概率公式就能够得到 $\mathbb{P}(A)={\sum }_{i=1}^N\mathbb{P}(A\mid {\Omega }_i)\mathbb{P}({\Omega }_i)=\frac{1}{k}$. 代入 Bayes 公式, 我们最终有

$$\mathbb{P}(B\mid A)=\frac{k}{m}.$$

32．记第 $n$ 个人进的房间编号为 ${\xi }_n$. 那么, $\left\{{\xi }_n:n\ge 1\right\}$ 构成一列独立同分布的序列, 其分布为

$$\mathbb{P}(\xi =k)=p_k,k\ge 1.$$

不妨设 $p_k>0,\forall k\ge 1$. (否则将这个房间去掉. ) 要考察的事件概率是

$$q_n=\mathbb{P}({\xi }_n\notin \{{\xi }_1,\cdots ,{\xi }_{n-1}\}).$$

为方便起见, 标记随机集合 ${\Xi }_n:=\{{\xi }_1,\cdots ,{\xi }_n\}$.

我们先说明: 对于任何固定的正整数 $K$, $\underset{n\to +\infty }{\lim }\mathbb{P}(\{1,\cdots ,K\}⊈{\Xi }_n)=0$.

事实上, 左边这个事件的概率等于$$\begin{array}{rl}\mathbb{P}\left(\bigcup _{k=1}^K\left\{k\notin {\Xi }_n\right\}\right)& \le \sum _{k=1}^K\mathbb{P}({\xi }_1\ne k,\cdots ,{\xi }_n\ne k)\\ & =\sum _{k=1}^K{\left(1-p_k\right)}^n\to 0,n\to +\infty \end{array}$$(1)

最后的极限用到了事实 $p_k>0$. 下面来证明 $q_n\to 0$.

任取 $\epsilon >0$, 由于 ${\sum }_{k\ge 1}{p}_k=1$, 因而存在正整数 $K$ 使得 ${\sum }_{k\ge K}{p}_k<\epsilon$．

对 $K$ 应用 (1), 知存在 $N\in \mathbb{N}$, 满足:

$$\mathbb{P}(\{1,\cdots ,K\}⊈{\Xi }_n)<\epsilon ,\forall n\ge N.$$(2)

下面固定 $n\ge N+1$, 用全概率公式, $$\begin{array}{rl}{q}_n& =\sum _{A\subset \mathbb{N}}\mathbb{P}({\xi }_n\notin {\Xi }_{n-1}\mid {\Xi }_{n-1}=A)\mathbb{P}({\Xi }_{n-1}=A)\\ & =\sum _{A\subset \mathbb{N}}\mathbb{P}({\xi }_n\notin A)\mathbb{P}({\Xi }_{n-1}=A),\end{array}$$(3)

其中, $A$ 取遍 $\mathbb{N}$ 的 (包含最多 $n-1$ 个元素的) 子集. 当 $\{1,\cdots ,K\}\subset A$ 时,

$$\mathbb{P}({\xi }_n\notin A)\le \sum _{k>K}{p}_k<\epsilon ,$$

于是, 利用 (2) 和 (3),

$$\begin{array}{rl}{q}_n=& \sum _{\{1,\cdots ,K\}\subset A}\mathbb{P}({\xi }_n\notin A)\mathbb{P}({\Xi }_{n-1}=A)+\sum _{\{1,\cdots ,K\}⊈A}\mathbb{P}({\xi }_n\notin A)\mathbb{P}({\Xi }_{n-1}=A)\\ & \le \epsilon +\sum _{\{1,\cdots ,K\}⊈A}\mathbb{P}({\Xi }_{n-1}=A)\\ & \le \epsilon +\mathbb{P}(\{1,\cdots ,K\}⊈{\Xi }_{n-1})\\ & <2\epsilon .\end{array}$$从而欲证的极限得证!

注 3.1. 事实上, 我们可以具体计算

$$q_n=\sum _{k\ge 1}\mathbb{P}({\xi }_1\ne k,\cdots ,{\xi }_{n-1}\ne k,{\xi }_n=k)=\sum _{k\ge 1}{\left(1-p_k\right)}^{n-1}{p}_k.$$

后续证明 $q_n\to 0$ 的讨论是类似的．

4数学期望

9. 对于 $1\le i\le 14$, 当 $i,i+1$ 是异性时, 定义 ${\eta }_i(\omega )=1$; 否则定义 ${\eta }_i(\omega )=0$．

那么, $\xi ={\sum }_{i=1}^{14}{\eta }_i\Rightarrow \mathbb{E}\xi ={\sum }_i\mathbb{E}{\eta }_i={\sum }_i\mathbb{P}\left({\eta }_i=1\right)$．

显然, 不用区分同性别的人. 不难计算:

$$\mathbb{P}({\eta }_i=1)=\frac{C_{13}^6{C}_2^1}{C_{15}^7}\Rightarrow \mathbb{E}\xi =\frac{28C_{13}^6}{C_{15}^7}=\frac{112}{15}.$$

20.

(a) $\mathbb{E}(|\xi |;|\xi |\le N)\le N\mathbb{P}(|\xi |\le N)\le N$．

(b) 用积分 $\mathbb{E}\xi$ 的绝对连续性;

(c) 用 Chebyshev 不等式．反例如下: 在 Lebesgue 测度空间 $(0,1)$ 上考虑 $\xi (x):=x^{-1/\alpha }$.

21.

根据 Fubini 定理,

$$\mathbb{E}|\xi |=\mathbb{E}{\int }_0^{|\xi |}\mathrm{d}t={\int }_0^{\infty }\mathbb{P}(|\xi |\ge t)\mathrm{d}t,$$

于是

$$\mathbb{E}|\xi |=\sum _{n=1}^{\infty }{\int }_{n-1}^n\mathbb{P}(|\xi |\ge t)dt\ge \sum _{n=1}^{\infty }\mathbb{P}(|\xi |\ge n).$$

以及

$$\mathbb{E}|\xi |={\int }_0^1\mathbb{P}(|\xi |\ge t)\mathrm{d}t+\sum _{n=1}^{\infty }{\int }_n^{n+1}\mathbb{P}(|\xi |\ge t)\mathrm{d}t\le 1+\sum _{n=1}^{\infty }\mathbb{P}(|\xi |\ge n).$$

因此, $\mathbb{E}|\xi |<+\infty$ 等价于 ${\sum }_{n=1}^{\infty }\mathbb{P}(|\xi |\ge n)<+\infty$.

22.

我们有:

$$\mathbb{P}(\underset{n}{\lim }{A}_n)=\mathbb{P}\left(\bigcup _{k\ge 1}\bigcap _{n\ge k}{A}_n\right)=\underset{k}{\lim }\mathbb{P}\left(\bigcap _{n\ge k}{A}_n\right)\le \underset{k}{\lim }\underset{n\ge k}{\sup }\mathbb{P}\left(A_n\right).$$

另一个不等式类似.

23.

考虑一列独立同分布的 Bernoulli 随机变量 $\left\{{\xi }_n:n\ge 1\right\}$, 成功概率为 $x$, 即 $\mathbb{P}({\xi }_n=1)=x$.

记 $S_n=\sum _{k=1}^n{\xi }_k$, 它服从二项分布. 于是, $f_n(x)=\mathbb{E}f\left(\frac{S_n}{n}\right),$ 进而任取 $\delta >0$, 有

$$\begin{array}{rl}\left|f_n(x)-f(x)\right|& \le \mathbb{E}\left|f\left(\frac{S_n}{n}\right)-f(x)\right|\\ & \le \mathbb{E}(\left|f\left(\frac{S_n}{n}\right)-f(x)\right|;\left|S_n/n-x\right|>\delta \mid +w_f(\delta )\\ & \le \frac{2\Vert f{\Vert }_u}{n^2{\delta }^2}\mathbb{E}{\left(S_n-nx\right)}^2+w_f(\delta )\\ & =\frac{2\Vert f{\Vert }_{u}x(1-x)}{n{\delta }^2}+w_f(\delta ),\end{array}$$

其中, $w_f$ 是 $f$ 的连续模, 即 $w_f(\delta )={\sup }_{|x|,|y|\le \delta }|f(x)-f(y)|$, 由一致连续性, $\underset{\delta \to 0}{\lim }{w}_f(\delta )=0$.

后续讨论是容易的.

24.

我们先来证明:

$$\mathbb{E}|\xi -m|=\underset{x\in \mathbb{R}}{\inf }\mathbb{E}|\xi -x|.$$

记 $h(x):=\mathbb{E}|\xi -x|$, 用 Fubini 定理, 我们有:

$$\begin{array}{rl}h(x)& =\mathbb{E}\left((\xi -x)1_{\{\xi \ge x\}}\right)+\mathbb{E}\left((x-\xi )1_{\{\xi \le x\}}\right)\\ & =\mathbb{E}{\int }_x^{\xi }{1}_{\{\xi \ge x\}}\mathrm{d}t+\mathbb{E}{\int }_{\xi }^x{1}_{\{\xi \le x\}}\mathrm{d}t\\ & ={\int }_x^{\infty }\mathbb{P}(\xi \ge t)\mathrm{d}t+{\int }_{-\infty }^x\mathbb{P}(\xi \le t)\mathrm{d}t\\ & ={\int }_x^{\infty }(1-F(t))\mathrm{d}t+{\int }_{-\infty }^{x}F(t)dt.\end{array}$$

由于 $F$ 连续, 因而 $h$ 连续可微, 且 $h^{\prime }(x)=2F(x)-1$．因此, $h$ 在 $(-\infty ,m)$ 上递减, 在 $(m,+\infty )$ 上递增．

特别地, 根据上面的结论,

$$\begin{array}{rl}|\mu -m|& =|\mathbb{E}(\xi -m)|\le \mathbb{E}|\xi -m|\\ & \le \mathbb{E}|\xi -\mu |\le {\left(\mathbb{E}|\xi -\mu {|}^2\right)}^{1/2}=|\sigma |.\end{array}$$从而得证!

25.

$$RHS\ge \frac{\mathbb{E}(g(\xi );\xi \ge x)}{g(x)}\ge \frac{g(x)\mathbb{P}(\xi \ge x)}{g(x)}\ge \mathbb{P}(\xi \ge x).$$

26.

按照提示, 应该先利用上一题的技巧, 取 $g(x)=(x+a{)}^2$, 再对 $a$ 取值为 $\frac{1}{x}$. 具体来说,

$$\mathbb{P}(\xi \ge x)\le \frac{\mathbb{E}\left({\left(\xi +\frac{1}{x}\right)}^2;\xi \ge x\right)}{{\left(x+\frac{1}{x}\right)}^2}\le \frac{\mathbb{E}{\left(\xi +\frac{1}{x}\right)}^2}{{\left(x+\frac{1}{x}\right)}^2}=\frac{1}{1+x^2},$$

例子 (注意, $\xi$ 与 $x$ 有关) :

$$\mathbb{P}(\xi =x)=\frac{1}{1+x^2},\mathbb{P}\left(\xi =-\frac{1}{x}\right)=\frac{x^2}{1+x^2}．$$

5连续型随机变量

5.	当 $\eta$ 是 $\sigma (\xi )$-可测的简单函数时, 结论显然成立. 对非负的 $\eta \in \sigma (\xi )$, 找一列简单函数 ${\eta }_n=f_n(\xi )$ 满足 ${\eta }_n\uparrow \eta$．令 $f_1:={\overline{\lim }}_{n\to +\infty }{f}_n$ 及 $f:=f_1\cdot 1_{\left\{f_1<+\infty \right\}}$. 由 $f_n$ Borel 可测得 $f$ Borel 可测．验证 $\eta =f(\xi )$ 即可． 对一般的 $\eta$, 拆成 $\eta ={\eta }^{+}-{\eta }^{-}$ 分别讨论即可．
21.	令 $\xi$ 是 $F$ 的实现, 那么由 Fubini 定理, 左边等于 $$\begin{array}{rl}{\int }_{\mathbb{R}}\mathbb{P}(x<\xi \le x+a)\mathrm{d}x& ={\int }_{\mathbb{R}}\mathbb{E}{1}_{\{\xi -a\le x<\xi \}}\mathrm{d}x\\ & =\mathbb{E}{\int }_{\xi -a}^{\xi }\mathrm{d}x=a.\end{array}$$

6随机向量

4．	对于任何 $x\ge 0,a,b>0$, $$\begin{array}{rl}\mathbb{P}(\inf (aX,bY)>x)& =\mathbb{P}(aX>x,bY>x)=(1-F(x/a))(1-F(x/b))\\ & =\mathbb{P}\left(\frac{ab}{a+b}X>x\right)=1-F(x/a+x/b)\end{array}$$ 记 $G(t):=1-F(t),t\ge 0$, 右连续单调递减, $G(0)=1$, 且 $0\le G(t)\le 1$. 根据上式可知 $$G(t)G(s)=G(t+s),\forall t,s\ge 0,$$ 由此可得 $G(t)={\mathrm{e}}^{t\log G(1)}$. (验证 $t$ 是正整数, 进而对任何正有理数均成立, 再利用右连续性来得证)
13．	球面上的均匀分布可以用角坐标随机向量 $(\Theta ,\Phi )\in [0,\pi ]\times [0,2\pi ]$ 来实现, 它的联合密度函数是 $f(\theta ,\phi )=\frac{1}{4\pi }\sin \theta$. 进而, $${\xi }_1=\cos \Theta ,{\xi }_2=\sin \Theta \cos \Phi ,{\xi }_3=\sin \Theta \sin \Phi ,$$ 于是, 对于任何 $t\in [-1,1]$, $$\mathbb{P}\left({\xi }_1\le t\right)={\int }_{\cos \theta \le t,(\theta ,\phi )\in [0,\pi ]\times [0,2\pi ]}f(\theta ,\phi )\mathrm{d}\theta \mathrm{d}\phi =\frac{1}{2}(1+t).$$ 从而可得 ${\xi }_1$ 服从 $[-1,1]$ 上的均匀分布．
22.	记固定向量为 $\alpha =\left({\alpha }_1,\cdots ,{\alpha }_n\right)\ne 0$. 不妨设 $\alpha$ 是单位向量, 即 $|\alpha |=1$． 那么 $\Psi =\arccos \frac{\alpha \cdot X}{|\alpha |\cdot \Vert X\Vert }=\arccos \frac{\alpha \cdot X}{\Vert X\Vert }\in [0,\pi ]$．注意到 $\xi :=\alpha \cdot X\sim N(0,1)$, 并且根据教材例 6.3.4, 存在标准正态随机向量 $Y=\left(Y_1,\cdots ,Y_n\right)$ 满足 $$Y_1=\xi ,\Vert Y{\Vert }^2=\Vert X{\Vert }^2.$$ 因此 $\cos \Psi =\frac{Y_1}{\Vert Y\Vert },$ 从而对于 $x\in [0,\pi ]$,$$\mathbb{P}(\Psi \le x)=\mathbb{P}\left(\cos x\le \frac{Y_1}{\Vert Y\Vert }\right).$$ 分两种情况: $x\in [0,\frac{\pi }{2}]$ 和 $x\in [\frac{\pi }{2},\pi ]$ 讨论． 对于第一种情况, $\cos x\ge 0$．于是, $$\cos x\le \frac{Y_1}{\Vert Y\Vert }\iff t_{n-1}\stackrel{\mathrm{d}}{=}\frac{Y_1}{\sqrt{\frac{Y_2^2+\cdots +Y_n^2}{n-1}}}\ge \sqrt{n-1}\cot x.$$ 因此, $$\mathbb{P}(\Psi \le x)=\frac{\Gamma \left(\frac{n}{2}\right)}{\sqrt{\pi (n-1)}\Gamma \left(\frac{n-1}{2}\right)}{\int }_{[\sqrt{n-1}\cot x,+\infty )}{\left(1+\frac{t^2}{n-1}\right)}^{-\frac{n}{2}}\mathrm{d}t.$$ 求导得到密度函数: $$f_{\Psi }(x)=\frac{\Gamma \left(\frac{n}{2}\right)}{\sqrt{\pi }\Gamma \left(\frac{n-1}{2}\right)}{\sin }^{n-2}x.$$(4) 对于第二种情况, $\cos x\le 0$, 以及 $\mathbb{P}(\Psi \le x)=\mathbb{P}\left(Y_1\ge 0\right)+\mathbb{P}(\cos x\le Y_1/\Vert Y\Vert \le 0)$. 而 $$\cos x\le \frac{Y_1}{\Vert Y\Vert }\le 0⟺\sqrt{n-1}\cot x\le \frac{Y_1}{\sqrt{\frac{Y_2^2+\cdots +Y_n^2}{n-1}}}\le 0,$$ 我们仍然有 $$\mathbb{P}(\Psi \le x)=\mathbb{P}\left(\frac{Y_1}{\sqrt{\frac{Y_2^2+\cdots +Y_n^2}{n-1}}}\ge \sqrt{n-1}\cot x\right).$$ 因此, $f_{\Psi }(x)$ 的表达式 (4) 对于 $x\in [\frac{\pi }{2},\pi ]$ 也成立. 显然, 在 $[0,\pi ]$ 之外, $f_{\Psi }(x)=0$. 故得证!
补充题	设 $\left\{{\xi }_n:n\ge 1\right\}$ 是一列独立且服从参数为 $1$ 的指数分布, 令 $X_n=\max \left\{{\xi }_1,\cdots ,{\xi }_n\right\}$. 证明: (1) ${\sup }_n\mathbb{E}{X}_n=+\infty$; (2) ${\sup }_{n}D{X}_n<+\infty$. 证明. 根据例 6.3.8 的讨论, 对于每个 $n\in \mathbb{N}$, 存在一列独立的指数分布随机变量 ${\eta }_1,\cdots ,{\eta }_n$, 参数分别为 $n,n-1,\cdots ,1$, 满足: $$X_n=\sum _{k=1}^n{\eta }_k,$$ $({\eta }_1$ 即 ${\xi }_{(1)},{\eta }_2$ 是 ${\xi }_{1^{\prime }}-{\xi }_{(1)},\cdots ,{\xi }_{(n-1{)}^{\prime }}-{\xi }_{(1)}$ 的最小统计量, 以此类推 $)$ 由此容易计算: $$\mathbb{E}{X}_n=\sum _{k=1}^n\frac{1}{k},D{X}_n=\sum _{k=1}^n\frac{1}{k^2}.$$ 因此结论显然成立． $\square$

7随机序列的收敛

1.	反证法. 注意 $\xi ={\sum }_{n=1}^{\infty }{1}_{A_n}\Rightarrow \mathbb{E}\xi ={\sum }_{n=1}^{\infty }\mathbb{P}\left(A_n\right)$. 用 Borel–Cantelli 第二引理,
2.	存在 ${\epsilon }_0>0$ 使得对于任何 $\epsilon <{\epsilon }_0,\mathbb{P}\left(\left|{\xi }_1\right|\ge \epsilon \right)>0$. 注意到: $$\left\{\sum _{n\ge 1}{\xi }_n\text{ 收敛 }\right\}\subset \left\{\underset{n}{\lim }{\xi }_n=0\right\}\subset \bigcap _{0<\epsilon <{\epsilon }_0}\bigcup _{N\ge 1}\bigcap _{n\ge N}\left\{\left|{\xi }_n\right|<\epsilon \right\}.$$ 对于任何 $\epsilon <{\epsilon }_0$, 由 ${\sum }_{n=1}^{\infty }\mathbb{P}\left(\left|{\xi }_n\right|\ge \epsilon \right)=+\infty$ 及 Borel–Cantelli 第二引理可得 $$\mathbb{P}\left(\bigcup _{N\ge 1}\bigcap _{n\ge N}\left\{\left|{\xi }_n\right|<\epsilon \right\}\right)=0.$$
3.	见第四章 22 题.
4.	由单调收敛定理可知, $\eta :={\sum }_{n=1}^{\infty }\left|{\xi }_n\right|$ 可积. 因而 $\eta <+\infty ,a.s.$ 于是由 Cauchy 收敛准则得到 $\xi :={\sum }_{n=1}^{\infty }{\xi }_n$ 几乎处处收敛, 并根据控制收敛定理可得 $\xi$ 可积, 以及 $\mathbb{E}\xi ={\sum }_{n=1}^{\infty }\mathbb{E}{\xi }_n$.
5.	由 Egoroff 定理, 以概率收敛一定存在子列 $a.s.$ 收敛．显然, $a.s.$ 收敛极限唯一．
6.	只需要证明充分性．用反证法．如若不然, 存在 ${\epsilon }_0>0$, 使得: $$\underset{n}{\overline{\lim }}\mathbb{P}(\left|{\xi }_n-\xi \right|>{\epsilon }_0)>0,$$ 从而存在子列 $\left\{{\xi }_{n_k}\right\}$ 满足 $$\underset{k\to +\infty }{\lim }\mathbb{P}(\left|{\xi }_{n_k}-\xi \right|>{\epsilon }_0)>0,$$ 这个子列存在 $a.s.$ 收敛 (因而依概率收敛) 的子列, 矛盾.
7.	第一部分用事实 $$\left\{\left|{\xi }_n+{\eta }_n-\xi -\eta \right|>\epsilon \right\}\subset \left\{\left|{\xi }_n-\xi \right|>\frac{\epsilon }{2}\right\}\cup \left\{\left|{\eta }_n-\eta \right|>\frac{\epsilon }{2}\right\}.$$ 第二部分用事实 $$\left\{\left|{\xi }_n{\eta }_n-\xi \eta \right|>\epsilon \right\}\subset \left\{\left|{\xi }_n-\xi \right|\cdot \left|{\eta }_n\right|>\epsilon /2\right\}\cup \left\{|\xi |\cdot \left|{\eta }_n-\eta \right|>\epsilon /2\right\}.$$ 右边两个集合类似处理, 比如处理第一个集合, 对于任何 $A>0$, $$\left\{\left|{\xi }_n-\xi \right|\cdot \left|{\eta }_n\right|>\epsilon /2\right\}\subset \left\{\left|{\xi }_n-\xi \right|>\frac{\epsilon }{2A}\right\}\cup \left\{\left|{\eta }_n\right|>A\right\},$$ 于是, $$\underset{n}{\overline{\lim }}\mathbb{P}\left(\left|{\xi }_n-\xi \right|\cdot \left|{\eta }_n\right|>\frac{\epsilon }{2}\right)\le \lim \mathbb{P}\left(\left|{\xi }_n-\xi \right|>\frac{\epsilon }{2A}\right)+\underset{n}{\overline{\lim }}\mathbb{P}(\left|{\eta }_n\right|>A),$$ 由于以概率收敛推出弱收敛, 因此除去至多可列个 $A$, 剩余集合内有:$$\underset{n}{\overline{\lim }}\mathbb{P}(\left|{\eta }_n\right|>A)=\mathbb{P}(|\eta |>A).$$取 $A$ 足够大就能完成证明．

8特征函数

9中心极限定理

10单调方法类与条件期望

28	先证明一个引理: $N$ 个人至少有一个人拿对了信封的概率是$$\sum _{k=1}^N\frac{(-1{)}^{(k-1)}}{k!}$$ 记 $A_i$ 表示第 $i$ 个人拿到对的信封, $\mathbb{P}\left(A_i\right)=\frac{1}{N}$, $\mathbb{P}\left(A_i{A}_j\right)=\frac{1}{N(N-1)}$, 其余同理, 则引理所求事件的概率为$$\mathbb{P}\left(\bigcup _{i=1}^N{A}_i\right)=\sum _{i=1}^N\frac{(-1{)}^{(i-1)}}{i!}$$(用容斥原理, 略) 接下来考虑 $N_n=k$, $n$ 封信中挑出 $k$ 个有 $\left(\genfrac{}{}{0ex}{}{n}{k}\right)$ 种取法, 对于指定的 $k$ 个人拿对信封的概率为 $\frac{1}{n(n-1)\cdots (n-k+1)}$, 对于剩下的 $n-k$ 个人, 利用引理, 可知他们都没拿对的概率为$$1-\sum _{i=1}^{n-k}\frac{(-1{)}^{(i-1)}}{i!}=\sum _{i=0}^{n-k}\frac{(-1{)}^i}{i!}$$于是$$\mathbb{P}\left(N_n=k\right)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)\frac{1}{n(n-1)\cdots (n-k+1)}\sum _{i=0}^{n-k}\frac{(-1{)}^i}{i!}$$ 令 $n\to \infty ,\mathbb{P}\left(N_n=k\right)\to \frac{e^{-1}}{k!}$.
30	由上极限定义
31	考虑 $A_{n,t}=\left\{X_n\ge t{a}_n\right\}$, 其中 $a_n=-{\log }_{q}n$. $$\sum _{n=1}^{\infty }\mathbb{P}\left(A_{n,t}\right)=q^{\left[t{a}_n\right]},$$将 $a_n$ 写成以 $e$ 为底的形式, 可以发现当 $t>1$ 时, 级数收敛; 当 $t\le 1$ 时, 级数发散. 根据 BC 引理, 再结合 10.30 的结论可得到关于上极限的结论. 接下来, 因为 $\max \left\{X_1,X_2\dots X_n\right\}\ge X_n$, 同除 $a_n$, 令 $n\to \infty$, 得到下极限对应的结论.
40	先证明一个初等的引理, $a,b\in [0,1]$, 则 $(1-a-b{)}^n\le (1-a{)}^n(1-b{)}^n$ (数学归纳法是可以做出来的, 略) 设值域为 $S$, 记 $p_x=\mathbb{P}\left(X_1=x\right)$, $$\begin{array}{c}{R}_n=\sum _{x\in S}{1}_{x\in \left\{X_1,\cdots X_n\right\}}\\ \mathbb{E}{R}_n=\sum _{x\in S}\left(1-{\left(1-p_x\right)}^n\right)\\ \mathrm{Var}\left(R_n\right)=\sum _{x\in S,y\in S}\mathrm{Cov}\left(1_{x\in \left\{X_1\dots X_n\right\}},1_{y\in \left\{X_1\dots X_n\right\}}\right)\\ =\sum _{x\in S}\mathrm{Var}\left(1_{x\in \left\{X_1\dots X_n\right\}}\right)+\sum _{x\ne y}\mathrm{Cov}\left(1_{x\in \left\{X_1\dots X_n\right\}},1_{y\in \left\{X_1\dots X_n\right\}}\right)\end{array}$$ 记 $A_x=\left\{x\notin \left\{X_1\cdots X_n\right\}\right\}$, 下面利用引理和 $n=2$ 的容斥原理, 易证交叉项非正 (不严谨地说, 交叉项的两个事件是负相关的) 由 $\mathbb{E}{R}_n$ 的表达式, 易验证满足定理 10.3.2 条件.
42	(1) 直接计算 $\mathbb{E}{S}_n$ (2) 此处符合定理 10.3.2.
44	考虑第 $n$ 次合成时候, $X_n$ 表示消耗的仙果数, $\mathbb{P}(X_n=2)=p$, $\mathbb{P}\left(X_n=1\right)=1-p$, $Y_n$ 表示合成的仙丹数, 写出它的分布律, 然后考虑相应的部分和, 做除法, 再令 $n\to \infty$, 由强大数律, 得 $\frac{p}{p+1}$.
55	先证一个引理, 单边 Chebyshev 不等式即 10.48. 只用证明 $\mathbb{P}(X<x)\ge \frac{x^2}{1+x^2}$$$x=\mathbb{E}[x-X]\le \mathbb{E}\left[(x-X)1_{X<x}\right]\le \sqrt{\mathbb{E}(x-X{)}^2}\sqrt{\mathbb{P}(X<x)}$$ 整理即可. 凸集在线性变换下仍为凸集, 故不妨设期望为 $0$, 协方差阵为 $I_n$. 只用证$$\mathbb{P}(X\in S)\le \frac{1}{1+\inf \left\{x^{T}x,x\in S\right\}}$$ 当右边为 $1$ 时, 显然. 当 $c^2:=\inf \left\{x^{T}x,x\in S\right\}>0$ 时, 存在超平面分离 $S$ 和以 $c$ 为半径, $0$ 为心的球, 此时做一次正交变换 (不改变右式) , 使得超平面为 $x_1\ge c$, 此时满足引理的条件.

11标题

14	它的特征函数是一个无穷乘积, 注意到它在 $t\to \infty$ 时, 并不趋于 $0$, 所以它不可能是连续型 (Riemann–Lebesgue 引理) .
25	先证明一个初等的引理, $\forall t$, $$\mathrm{Re}(1-f(t))\ge \frac{1}{4}\mathrm{Re}(1-f(2t))$$需要将一些特征函数零点附近的性质推出去, 可以利用这个.
32	具体计算一下截断之后的一阶矩 ($0$) 和二阶矩 ($\frac{2n}{\pi b_n}$) , 定理 11.3.3 中 Linderberg 条件成立 (很容易验证成立, 题目中 $\frac{n}{b_n}$ 凑得好)
31	(3) ${\sigma }_n$ 的收敛性是由于模的收敛; 对于 ${\mu }_n$, 首先说明它有界, 否则不妨设 ${\mu }_n\to \infty$, $$\frac{e^{it{\mu }_n}-1}{i{\mu }_n}={\int }_0^t{e}^{is{\mu }_n}ds\to {\int }_0^t\varphi (s)ds(\text{ 控制收敛 })$$ 其中 $\varphi (s)=\frac{f(s)}{|f(s)|}$, $f$ 为 $Y$ 的特征函数. 但是左边的式子趋于 $0$, 故由 Lebesgue 微分定理, $\varphi (s)=0$, a.e. 这与 $\varphi$ 的模为 $1$ 矛盾, 当 ${\mu }_n$ 有界 $M$, 取 $t_0=\frac{\pi }{4m}$, 则 $\left|t_0{\mu }_n\right|\le \pi /2$, 此时利用 $\arcsin$ 可得 ${\mu }_n$ 是收敛的.
33	两两独立对于强大数律是可以的 (高阶矩加条件) , 但是对于 CLT 两两独立是不够的. 按定义验证