概率论 (H) 习题

1引言: 随机现象与概率论

2从古典概率模型、几何概率模型到概率论的公理

2.2	(1) $A_n\nearrow A⟺A_n\subset A_{n+1}\text{ and }\bigcup _{n=1}^{\infty }{A}_n=A⟺A_n\subset A_{n+1}\text{ and }\forall \omega \in A,\exists N\text{ st }\omega \in A_n,\forall n\ge N⟺1_{A_n}\nearrow \text{ and }\underset{n\to \infty }{\lim }{1}_{A_n}=1_A⟺1_{A_n}\nearrow 1_A$,     $A_n\searrow A⟺A_{n+1}\subset A_n\text{ and }\bigcap _{n=1}^{\infty }{A}_n=A⟺A_{n+1}\subset A_n\text{ and }\forall \omega \in A,\exists N\text{ st }\omega \in A_n,\forall n\ge N⟺1_{A_n}\searrow \text{ and }\underset{n\to \infty }{\lim }{1}_{A_n}=1_A⟺1_{A_n}\nearrow 1_A$. (2) $\omega \in \underset{n\to \infty }{\overline{\lim }}{A}_n⟺\forall N,\exists n\ge N\text{ st }\omega \in A_n⟺\forall N,\exists \text{ 无数个 }n\ge N\text{ st }\omega \in A_n⟺\sum _{n=1}^{\infty }{1}_{A_n}(\omega )=\infty$;   $\omega \in \underset{n\to \infty }{\overline{\lim }}{A}_n⟺\forall N,\exists n\ge N\text{ st }\omega \in A_n⟺\forall N,\exists n\ge N\text{ st }{1}_{A_n}(\omega )=1⟺\underset{n\to \infty }{\overline{\lim }}{1}_{A_n}(\omega )=1$,   $\omega \notin \underset{n\to \infty }{\overline{\lim }}{A}_n⟺\exists N\text{ st }\forall n\ge N,\omega \notin A_n⟺\exists N\text{ st }\forall n\ge N,1_{A_n}(\omega )=0⟺\underset{n\to \infty }{\overline{\lim }}{1}_{A_n}(\omega )=0$. (3) $\omega \in \underset{n\to \infty }{\overline{\lim }}{A}_n⟺\exists N\text{ st }\forall n\ge N,\omega \notin A_n^c⟺\text{ 只有有限个 }n\text{ st }\omega \in A_n^c⟺\sum _{n=1}^{\infty }{1}_{A_n^c}(\omega )<\infty$;   $\underset{n\to \infty }{\underline{\lim }}{1}_{A_n}=\underset{n\to \infty }{\underline{\lim }}(1-1_{A_n^c})=1-\underset{n\to \infty }{\overline{\lim }}{1}_{A_n^c}=1-1_{\underset{n\to \infty }{\overline{\lim }}{A}_n^c}=1_{(\underset{n\to \infty }{\overline{\lim }}{A}_n^c{)}^c}=1_{\underset{n\to \infty }{\underline{\lim }}{A}_n}$. (4) $A_n\to A⟺\underset{n\to \infty }{\overline{\lim }}{A}_n=\underset{n\to \infty }{\underline{\lim }}{A}_n=A⟺\underset{n\to \infty }{\overline{\lim }}{1}_{A_n}=\underset{n\to \infty }{\underline{\lim }}{1}_{A_n}=1_A⟺\underset{n\to \infty }{\lim }{1}_{A_n}=1_A$. (5) $\omega \in \underset{n\to \infty }{\overline{\lim }}(A_n\Delta A_{n+1})⟺\omega \in \text{ 无数个 }{A}_n\Delta A_{n+1}⟺\omega \in \text{ 无数个 }{A}_n\cup A_{n+1}\text{ 不过不能 }\forall n\ge \text{某个 }N,\omega \in A_n\cap A_{n+1}⟺\omega \in \text{ 无数个 }{A}_n\text{ 不过不能 }\forall n\ge \text{某个 }N,\omega \in A_n⟺\omega \in \left(\underset{n\to \infty }{\overline{\lim }}{A}_n\right)\backslash \left(\underset{n\to \infty }{\underline{\lim }}{A}_n\right)$. (6) $\omega \in \underset{n\to \infty }{\overline{\lim }}\{f_n\ge C\}⟺\exists N\text{ st }\forall n\ge N,f_n(\omega )\ge C⟹\forall N,\exists n\ge N\text{ st }{f}_n(\omega )\ge C⟺\omega \in \{\underset{n\to \infty }{\overline{\lim }}{f}_n\ge C\}$, 后面三个一样.
2.3	(1) 对于集合 ${\Sigma }_{n+1}$, 首先给元素 $n+1$ 找同伴, 它们是确定的 $n-k$ 个数 ($0\le k\le n$) , 有 $\left(\genfrac{}{}{0ex}{}{n}{n-k}\right)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)$ 个取法, 接下来剩下的 $k$ 个数作分划, 于是$$T_{n+1}=\sum _{k=0}^n\left(\genfrac{}{}{0ex}{}{n}{k}\right)T_k.$$ (2) $T_0=B_0$, 设 $T_m=B_m$ 对 $m\le n$ 成立, 注意$$B_{n+1}=e^{-1}\sum _{\ell =1}^{\infty }\frac{{\ell }^{n+1}}{\ell !}=e^{-1}\sum _{\ell =0}^{\infty }\frac{(\ell +1{)}^n}{\ell !}=e^{-1}\sum _{k=0}^{n+1}\sum _{\ell =1}^{\infty }\left(\genfrac{}{}{0ex}{}{n}{k}\right)\frac{{\ell }^k}{\ell !}=e^{-1}\sum _{k=0}^{n+1}\left(\genfrac{}{}{0ex}{}{n}{k}\right)B_k,$$故 $T_{n+1}=B_{n+1}$. 并且, $$B=B_0+\sum _{n=1}^{\infty }\frac{B_n}{n!}{x}^n=1+e^{-1}\sum _{n=1}^{\infty }\sum _{k=1}^{\infty }\frac{(kx{)}^n}{n!k!}=e^{-1}(\sum _{k=1}^{\infty }\frac{1}{k!}+\sum _{k=1}^{\infty }\frac{e^{kx}-1}{k!})=e^{e^x-1}.$$
2.4	$$|A|=\sum _{m\ge k}\left(\genfrac{}{}{0ex}{}{n}{m}\right).$$
2.6	$n^2$ 个人标上编号, 有 $(n^2)!$ 种方法; $n^2$ 个人分成不带编号的 $n$ 组, 有 $C(n)$ 种方法, 再给每组标上编号, 每组 $n$ 人标上编号, 有 $n!(n!{)}^n$ 种方法. 所以 $(n^2)!=C(n)(n!{)}^{n+1}$. 数论的方法是, 要说明对任何素数 $p$, $$\sum _{0<\alpha \le \lfloor {\log }_{p}n\rfloor }\lfloor \frac{n^2}{p^{\alpha }}\rfloor =\sum _{0<\alpha \le \lfloor {\log }_{p}n\rfloor }\lfloor \frac{n^2}{p^{\alpha }}\rfloor +\sum _{\lfloor {\log }_{p}n\rfloor <\alpha \le \lfloor {\log }_p{n}^2\rfloor }\lfloor \frac{n^2}{p^{\alpha }}\rfloor \ge (n+1)\sum _{0<\alpha \le \lfloor {\log }_{p}n\rfloor }\lfloor \frac{n}{p^{\alpha }}\rfloor ,$$这是因为$$\lfloor \frac{n^2}{p^{\alpha }}\rfloor \ge n\lfloor \frac{n}{p^{\alpha }}\rfloor ,\lfloor {\log }_p{n}^2\rfloor -\lfloor {\log }_{p}n\rfloor \ge \lfloor {\log }_{p}n\rfloor ,\frac{n^2}{p^{\alpha +\lfloor {\log }_{p}n\rfloor }}\ge \frac{n}{p^{\lfloor {\log }_{p}n\rfloor }}.$$
2.9	一方面, 集合 $\mathcal{F}$ 可由 $\mathcal{E}$ 通过可数并与取补集生成; 另一方面, $\mathcal{F}$ 是一个 $\sigma$-代数.
2.14	不是. 令 $A_i=(2^{2i-2},2^{2i-1}]\cap \mathbb{Z},i\in {\mathbb{Z}}_{+}$, 渐进密度均为 $0$ 因而皆属于 $\mathcal{E}$; 而 $A=\bigcup _{i=1}^{\infty }{A}_i$ 不属于 $\mathcal{E}$, 因为$$\begin{array}{rl}\underset{n\to \infty }{\lim }\frac{|A\cap (0,2^{2n-1}]|}{2^{2n-1}}& =\underset{n\to \infty }{\lim }\frac{2^0+2^2+\cdots +2^{2n-2}}{2^{2n-1}}=\frac{2}{3},\\ \underset{n\to \infty }{\lim }\frac{|A\cap (0,2^{2n}]|}{2^{2n}}& =\underset{n\to \infty }{\lim }\frac{2^0+2^2+\cdots +2^{2n-2}}{2^{2n}}=\frac{1}{3}.\end{array}$$
2.15	记 $\mathcal{E}=\{A_{i_1}\cap \cdots \cap A_{i_k}\cap A_{i_{k+1}}^c\cap \cdots \cap A_{i_n}^c:i_1,\cdots ,i_n\text{ 是 }1,\cdots ,n\text{ 的排列}\}$, 有$$\mathcal{F}=\{\bigcup _{e\in E}e:E\subseteq \mathcal{E}-\{\varnothing \}\},$$故 $|\mathcal{F}|\le 2^{|\mathcal{E}|-1}\le 2^{2^n-1}$.
2.18	(i) $A_1\cap A_2^c\cap A_3^c$; (ii) $A_1\cap A_2\cap A_3^c$; (iii) $A_1\cap A_2\cap A_3$; (iv) $A_1\cup A_2\cup A_3$; (v) $(A_1\cap A_2)\cup (A_1\cap A_3)\cup (A_2\cap A_3)$; (vi) $(A_1\cap A_2^c\cap A_3^c)\cup (A_1^c\cap A_2\cap A_3^c)\cup (A_1^c\cap A_2^c\cap A_3)$; (vii) $(A_1^c\cap A_2\cap A_3)\cup (A_1\cap A_2^c\cap A_3)\cup (A_1\cap A_2\cap A_3^c)$; (viii) $(A_1\cap A_2\cap A_3{)}^c$.
2.21	简写 $\mathbb{P}=\mathbb{P}(A\cap B)$, 有 $\mathbb{P}(A)+\mathbb{P}(B)\le 1+\mathbb{P}$, 得$$-\frac{1}{4}\le \frac{\mathbb{P}(2-\mathbb{P})-1}{4}=\mathbb{P}-{\left(\frac{1+\mathbb{P}}{2}\right)}^2\le \mathbb{P}(A\cap B)-\mathbb{P}(A)\mathbb{P}(B)\le \mathbb{P}-{\mathbb{P}}^2\le \frac{1}{4}.$$
2.23	即 $\int |1_A-1_B|\le \int |1_A-1_C|+\int |1_C-1_B|$.
2.28	性质 (1),(2) 是说$$A_i\cap A_j\cap A_k=\varnothing ,A_i=\underset{j\ne i}{⨄}(A_i\cap A_j).$$用 Jordan 公式$$\mathbb{P}\left(\bigcup _i{A}_i\right)=\sum _i\mathbb{P}(A_i)-\sum _{i<j}\mathbb{P}(A_i\cap A_j)+\cdots +(-1{)}^{n-1}\mathbb{P}(\bigcap _i{A}_i),$$得到$$\begin{array}{rl}2\mathbb{P}\left(\bigcup _i{A}_i\right)& =2\sum _i\mathbb{P}(A_i)-\sum _{i\ne j}\mathbb{P}(A_i\cap A_j)\\ & =2\sum _i\mathbb{P}(A_i)-\sum _i\sum _{j\ne \text{given }i}\mathbb{P}(A_i\cap A_j)\\ & =2\sum _i\mathbb{P}(A_i)-\sum _i\mathbb{P}(A_i)=\sum _i\mathbb{P}(A_i).\end{array}$$
2.32	能组成的四位数有 $9\cdot 9\cdot 8\cdot 7$ 个, 按照末尾是 $0$ 或 $2,4,6,8$, 得里面偶数有 $9\cdot 8\cdot 7\cdot 1+8\cdot 8\cdot 7\cdot 4$ 个, 概率为 $\frac{9\cdot 1+8\cdot 4}{9\cdot 9}=\frac{41}{81}$.
2.35	$1-\frac{11\cdot 10\cdot 9}{12\cdot 12\cdot 12}=\frac{41}{96}$. (反直觉地大)
2.42	(1) 前者大, $1-(1-\frac{1}{6}{)}^4>1-(1-\frac{1}{6^2}{)}^{6\cdot 4}$. $1-\frac{1}{6}<(1-\frac{1}{6^2}{)}^6$ 是因为, 对 $n$ 归纳易有, 对于 $a_1,\cdots ,a_n>0$, $$1-a_1-\cdots -a_n<(1-a_1)\cdots (1-a_n).$$ (2) 前者大. 扔 $6n$ 个骰子得到的 $6$ 的数量写为 $X_n$ (这是个随机变量) , $X_{n+1}=X_n+X_1$, 那么$$\begin{array}{rl}\mathbb{P}(X_{n+1}\ge n+1)& =\sum _{i=0}^6\mathbb{P}(X_n\ge n+1-i)\mathbb{P}(X_1=i)\\ & =\mathbb{P}(X_n\ge n)+\sum _{i=0}^6[\mathbb{P}(X_n\ge n+1-i)-\mathbb{P}(X_n\ge n)]\mathbb{P}(X_1=i).\end{array}$$观察到 $\mathbb{P}(X_n=n+1-6)<\cdots <\mathbb{P}(X_n=n+1)$, 从而 $i\ne 1$ 时$$\mathbb{P}(X_n\ge n+1-i)-\mathbb{P}(X_n\ge n)<(i-1)\mathbb{P}(X_n=n).$$由此, 最后一项小于$$\mathbb{P}(X_n=n)\sum _{i=0}^6(i-1)\mathbb{P}(X_1=i)=\mathbb{P}(X_n=n)(\mathbb{E}(X_1)-1)=0.$$
2.55	有人找零困难等价于存在某时间排到的人里面 $50$ 元的比 $100$ 元的少 $1$ 人. 沿票数差为 $-1$ 的直线反射这个时间后的图像, 最终票数差为 $n-m-2$ (本来是 $m-n$) , 相当于 $n-1$ 人 $50$ 元, $m+1$ 人 $100$ 元. 所以不发生找零困难的概率是 $1-\frac{\left(\genfrac{}{}{0ex}{}{m+n}{m+1}\right)}{\left(\genfrac{}{}{0ex}{}{m+n}{m}\right)}=1-\frac{n}{m+1}$.
2.57	相当于随机选三条边不是同一条边的概率, 是 $1-(\frac{1}{4}{)}^2=\frac{15}{16}$.
2.62	本题说明, 无法说: 对任何正整数 $a$, 一个正整数是 $a$ 的倍数的概率是 $\frac{1}{a}$ (尽管能说渐进密度是 $\frac{1}{a}$) . 假如概率测度 $\mathbb{P}$ 存在, 不妨令 $\mathbb{P}$ 是完备的. 对 $a_1,\cdots ,a_n\in \mathbb{N}$, 有$$\begin{array}{rl}\mathbb{P}(a_1\mathbb{N}\cup \cdots \cup a_n\mathbb{N})& =\sum _i\mathbb{P}(a_i\mathbb{N})-\sum _{i<j}\mathbb{P}(a_i\mathbb{N}\cap a_j\mathbb{N})+\cdots +(-1{)}^{n-1}\mathbb{P}(a_1\mathbb{N}\cap \cdots \cap a_n\mathbb{N})\\ & =\sum _i\frac{1}{a_i}-\sum _{i<j}\frac{1}{[a_i,a_j]}+\cdots +(-1{)}^{n-1}\frac{1}{[a_1,\cdots ,a_n]}.\end{array}$$当 $a_1,\cdots ,a_n$ 互素时最小公倍数就是乘积, 于是$$\mathbb{P}(a_1\mathbb{N}\cup \cdots \cup a_n\mathbb{N})=1-\prod _{i=1}^n(1-\frac{1}{a_i}).$$对任意的 $m\in \mathbb{N}$, 取不是 $m$ 的因数的不同素数 $p_1,\cdots ,p_n$, 当 $n\to \infty$ 时$$\mathbb{P}(p_1\mathbb{N}\cup \cdots \cup p_n\mathbb{N})=1-\prod _{i=1}^n(1-\frac{1}{p_i})\to 1,$$于是 $\mathbb{P}(\{m\})=0$, 不成立. 这里用了$$\prod _{p\text{ prime}}(1-\frac{1}{p})\le \underset{s\to 1^{+}}{\lim }\prod _{p\text{ prime}}(1-\frac{1}{p^s})=\underset{s\to 1^{+}}{\lim }\frac{1}{\zeta (s)}=0.$$
2.63	对圆周上的点 $P$, 以之为顶点顺时针作内接正方形, 四个顶点中无白点的 $P$ 的范围的长度不小于 $1-4q>0$.

3经典条件概率与事件独立性

3.1	由$$\{\begin{array}{rl}p(A\cup B\cup C)& =3p-3p^2\le 1,\\ p(A\cap B\cap C)& =0\ne p^3,\\ p(A\setminus (B\cup C))& =p-2p^2\ge 0,\end{array}$$解得 $p\in (0,\frac{1}{2}]$.
3.2	设事件 $\Gamma$ 使 $\mathbb{P}(\Gamma )=0$ 且 $\{A_n\setminus \Gamma \}$ 互不相交, 有$$B=\underset{n=1}{\overset{N}{⨄}}((A_n\setminus \Gamma )\cap B)\uplus (\Gamma \cap B)\uplus (B\setminus (\bigcup _{n=1}^N{A}_n\cup \Gamma )),$$于是 $\mathbb{P}(B)=\sum _{n=1}^N\mathbb{P}(A_n\cap B)$ 同样成立, 其余推理不变.
3.3	$\frac{2}{3}$.
3.4	3.1 就是.
3.6	(1.a) 如果有无数个 $x_n>0.5$, 结论成立; 如果 $x_n>0.5$ 的个数有限, 由 (1.b) 结论成立. (1.b) $0$ 附近 $-x\sim \ln (1-x)$, 得 $[0,1-\delta ]$ 上 $-x,\ln (1-x)$ 相互控制, 再用 $\ln (x)$ 的连续性, 有$$\sum _{n=1}^{\infty }{x}_n=\infty \iff \sum _{n=1}^{\infty }\ln (1-x_n)=-\infty \iff \prod _{n=1}^{\infty }(1-x_n)=0.$$ (2.a) 取 $x_n=\mathbb{P}(E_n^c|\bigcap _{k=1}^{n-1}{E}_k)$, 成立 $\prod _{n=1}^{\infty }\mathbb{P}(E_n|\bigcap _{k=1}^{n-1}{E}_k)=\mathbb{P}(\bigcap _{k=1}^{\infty }{E}_k)$. (2.b) 同上.
3.7	$A$ 与 $A^c$ 独立, 推出 $0=\mathbb{P}(A\cap A^c)=\mathbb{P}(A)\mathbb{P}(A^c)$.
3.8	$$\begin{array}{rl}& \mathbb{P}(B|A)=\mathbb{P}(B|A^c)\\ \iff & \mathbb{P}(A\cap B)/\mathbb{P}(A)=\mathbb{P}(A^c\cap B)/\mathbb{P}(A^c)\\ \iff & \mathbb{P}(A\cap B)(1-\mathbb{P}(A))=(\mathbb{P}(B)-\mathbb{P}(A\cap B))\mathbb{P}(A)\\ \iff & \mathbb{P}(A\cap B)=\mathbb{P}(A)\mathbb{P}(B).\end{array}$$
3.9	由于$$\mathbb{P}(A\cap B)=\mathbb{P}(A)\mathbb{P}(B)\in [0,\frac{1}{4}],$$有$$\mathbb{P}(A\Delta B|A\cup B)=\frac{\mathbb{P}(A\Delta B)}{\mathbb{P}(A\cup B)}=\frac{\mathbb{P}(A)+\mathbb{P}(B)-2\mathbb{P}(A\cap B)}{\mathbb{P}(A)+\mathbb{P}(B)-\mathbb{P}(A\cap B)}=\frac{1-2\mathbb{P}(A\cap B)}{1-\mathbb{P}(A\cap B)}\in [\frac{2}{3},1].$$
3.10	$$\frac{\mathbb{P}(A\cap B)}{\mathbb{P}(A\cup B)}\le \frac{\mathbb{P}(A\cap B)}{\mathbb{P}(A)}\le \frac{\mathbb{P}(A\cap B)+\mathbb{P}(B\setminus A)}{\mathbb{P}(A)+\mathbb{P}(B\setminus A)}=\frac{\mathbb{P}(B)}{\mathbb{P}(A\cup B)}.$$
3.12	$\sigma (\{A_n:1\le n\le N\})$ 的元素形如 $\underset{n\in I}{⨄}{A}_n$ 与 $\Omega \setminus \underset{n\in I}{⨄}{A}_n$, 其中 $I$ 是 $\{1,\cdots ,N\}$ 的子集. 对任意的 $I$, $$\begin{array}{rl}\mathbb{P}\left(\underset{n\in I}{⨄}{A}_n\right)\mathbb{P}(B)& =\sum _{n\in I}\mathbb{P}(A_n)\mathbb{P}(B)=\sum _{n\in I}\mathbb{P}(A_n\cap B)=\mathbb{P}(\underset{n\in I}{⨄}{A}_n\cap B),\\ \mathbb{P}(\Omega \setminus \underset{n\in I}{⨄}{A}_n)\mathbb{P}(B)& =(\mathbb{P}(\Omega )-\mathbb{P}(\underset{n\in I}{⨄}{A}_n\left)\right)\mathbb{P}(B)=\mathbb{P}(B)-\mathbb{P}(\underset{n\in I}{⨄}{A}_n\cap B)=\mathbb{P}((\Omega \setminus \underset{n\in I}{⨄}{A}_n)\cap B).\end{array}$$
3.15	设概率为 $\mathbb{P}(a,b)$. 按第一局的输赢, $$\mathbb{P}(a,b)=(\mathbb{P}(a+1,b-1)+\mathbb{P}(a-1,b+1))/2,$$即 $\mathbb{P}(a+\cdot ,b-\cdot )$ 是等差数列. 由于 $\mathbb{P}(a+b,0)=1,\mathbb{P}(0,a+b)=0$, 有 $\mathbb{P}(a,b)=\frac{a}{a+b}$.
3.17	$\frac{\mathbb{P}(H|E)}{\mathbb{P}(G|E)}=\frac{\mathbb{P}(H|E)\mathbb{P}(E)}{\mathbb{P}(G|E)\mathbb{P}(E)}=\frac{\mathbb{P}(H\cap E)}{\mathbb{P}(G\cap E)}=\frac{\mathbb{P}(H)\mathbb{P}(E|H)}{\mathbb{P}(G)\mathbb{P}(E|G)}$. $\frac{\mathbb{P}(H|E)}{\mathbb{P}(G|E)}=3\cdot \frac{1}{2}$ 表明 $E$ 出现时 $H$ 更可能成立.
3.18	$$\mathbb{P}(B|\text{看成 }B)=\frac{\mathbb{P}(B\cap \text{看成 }B)}{\mathbb{P}(\text{看成 }B)}=\frac{15\%\cdot 80\%}{85\%\cdot 10\%+15\%\cdot 80\%}=\frac{24}{41}.$$
3.21	$$\sum _{n=1}^{\infty }(1-\mathbb{P}(A_1\uplus A_2){)}^{n-1}\mathbb{P}(A_1)=\mathbb{P}(A_1)/\mathbb{P}(A_1\uplus A_2).$$
3.24	(1) $$\mathbb{P}(患病|检出患病)=\frac{\mathbb{P}(患病\cap 检出患病)}{\mathbb{P}(检出患病)}=\frac{10^{-4}}{10^{-4}+(1-10^{-4})5\%}=\frac{20}{10019}.$$ (2) $$\mathbb{P}(患病|两次检出患病)=\frac{\mathbb{P}(患病\cap 两次检出患病)}{\mathbb{P}(两次检出患病)}=\frac{10^{-4}}{10^{-4}+(1-10^{-4})(5\%{)}^2}=\frac{400}{10399}.$$

4Lebesgue 积分理论简介

5随机变量及其分布律 (I)

5.1	$1_A$ 是随机变量 $⟺\forall x\in \mathbb{R},\{1_A\le x\}\in \mathcal{F}⟺\varnothing ,A^c,\Omega \in \mathcal{F}⟺A\in \mathcal{F}$.
5.2	$\{\underset{n\ge 1}{\sup }{X}_n\le x\}=\bigcap _{n\ge 1}\{X_n\le x\}$, $\{\underset{n\ge 1}{\inf }{X}_n<x\}=\bigcup _{n\ge 1}\{X_n<x\}$, $\underset{n\to \infty }{\overline{\lim }}{X}_n=\underset{N\ge 1}{\inf }\underset{n\ge N}{\sup }{X}_n$, $\underset{n\to \infty }{\underline{\lim }}{X}_n=\underset{N\ge 1}{\sup }\underset{n\ge N}{\inf }{X}_n$.
5.4	$\forall \delta >0$, 取 $N$ 大使得 $F(-N)<\delta ,1-F(N)<\delta$, 并且 $F$ 在 $[-N,N]$ 一致连续.
5.5	事实上 $\mathbb{P}(\xi =a)=\mathbb{P}(\xi \le a)-\mathbb{P}(\bigcup _{n\ge 1}\{\xi \le a-\frac{1}{n}\})=\mathbb{P}(\xi \le a)-\underset{n\to \infty }{\lim }\mathbb{P}(\xi \le a-\frac{1}{n})=F(a)-F(a^{-})$, 于是, $F$ 在 $x=a$ 处连续 $⟺F(a^{-})=F(a)⟺\mathbb{P}(\xi =a)=0$.
5.8	$\forall x<y$, $\mathbb{P}(X\le x<Y\le y)=\mathbb{P}(X\le x,Y\le y)-\mathbb{P}(X\le x,Y\le x)=F(x)-F(x)=0$, 故 $\mathbb{P}(X<Y)=\mathbb{P}(\bigcup _{x,y\in \mathbb{Q}}X\le x<Y\le y)=0$, 同理 $\mathbb{P}(X>Y)=0$.
5.9	注意 $S_F^c=\{x:\text{存在 }n\ge 1\text{ 使 }\mathbb{P}(\Vert X-x\Vert \le \frac{1}{n})=0\}$ 是开集, 毕竟对 $x\in S_F^c$, $B_{\frac{1}{n(x)}}(x)\subset S_F^c$, 其中 $n(x)$ 为 $x$ 对应的 $n$. 第二可数空间 $S_F^c$ 有开覆盖 $\bigcup _{x\in S_F^c}{B}_{\frac{1}{n(x)}}(x)$, 从而存在可数子覆盖, 每个开集都零测, 得 $\mathbb{P}(X\in S_F^c)=0$.
5.12	$$F(x)=\{\begin{array}{ll}0,& x<0\\ 1-p,& 0\le x<1\\ 1,& x\ge 1\end{array}.$$$$Y\sim \mathbb{P}(F(X)\le x)=\{\begin{array}{ll}0,& x<F(0)\\ \mathbb{P}(X=0),& F(0)\le x<F(1)\\ 1,& x\ge F(1)\end{array}=\{\begin{array}{ll}0,& x<1-p\\ 1-p,& 1-p\le x<1\\ 1,& x\ge 1\end{array}.$$
5.14	$X_I\sim \mathbb{P}(X_I\le \cdot )=\mathbb{P}(I=0)\mathbb{P}(X_0\le \cdot )+\mathbb{P}(I=1)\mathbb{P}(X_1\le \cdot )=(1-p)F_0+p{F}_1$.
5.23	$Y_k\sim \left(\begin{array}{cccc}(-1{)}^2& (-1)\cdot 1& 1\cdot (-1)& 1^2\\ (\frac{1}{2}{)}^2& (\frac{1}{2}{)}^2& (\frac{1}{2}{)}^2& (\frac{1}{2}{)}^2\end{array}\right)=\left(\begin{array}{cc}-1& 1\\ \frac{1}{2}& \frac{1}{2}\end{array}\right)$. $\mathbb{P}(Y_1={\epsilon }_1,Y_2={\epsilon }_2)=\mathbb{P}(X_2={\epsilon }_1/X_3,X_1={\epsilon }_2/X_3)=\mathbb{P}(X_2={\epsilon }_1/X_3)\mathbb{P}(X_1={\epsilon }_2/X_3)=\mathbb{P}(Y_1={\epsilon }_1)\mathbb{P}(Y_2={\epsilon }_2)$, 这里 ${\epsilon }_1,{\epsilon }_2=\pm 1$. $\mathbb{P}(Y_1=Y_2=Y_3=-1)=0\ne (\frac{1}{2}{)}^3=\mathbb{P}(Y_1=-1)\mathbb{P}(Y_2=-1)\mathbb{P}(Y_3=-1)$.
5.26	设 $\{X_N^{(k)}{\}}_{N=1}^{\infty }$ 是相互独立的概率为 $p_k$ 的事件列, $\mathbb{P}(\tau =\ell )=\mathbb{P}(\underset{1\le k\le n}{\min }{\tau }_k=\ell )=\mathbb{P}(\underset{1\le k\le n}{\min }\inf \{N:X_N^{(k)}=1\}=\ell )=\mathbb{P}(\inf \{N:\bigcup _{1\le k\le n}{X}_N^{(k)}=1\}=\ell )$, 且 $\mathbb{P}\left(\bigcup _{1\le k\le n}{X}_N^{(k)}\right)=1-q_1\cdots q_n$.
$\boxed{习题}$	(1) $f$ 是同构是说 $\mathbb{P}(A)={\mathbb{P}}_1\otimes {\mathbb{P}}_2(f(A)),\forall A\in \mathcal{F}$. $$\begin{array}{rl}& \mathbb{P}({\hat{\xi }}_1\le x)=\mathbb{P}({\xi }_1\circ {\pi }_1\circ f\le x)\\ & =\mathbb{P}(f^{-1}(\{{\xi }_1\le x\}\times {\Omega }_2))\\ & ={\mathbb{P}}_1\otimes {\mathbb{P}}_2(\{{\xi }_1\le x\}\times {\Omega }_2)\\ & ={\mathbb{P}}_1({\xi }_1\le x){\mathbb{P}}_2({\Omega }_2)={\mathbb{P}}_1({\xi }_1\le x).\end{array}$$ (2)$$\begin{array}{rl}& \mathbb{P}({\hat{\xi }}_1\le x)\mathbb{P}({\hat{\xi }}_2\le y)={\mathbb{P}}_1({\xi }_1\le x){\mathbb{P}}_2({\xi }_2\le y)\\ & ={\mathbb{P}}_1\otimes {\mathbb{P}}_2({\xi }_1\le x,{\xi }_2\le y)=\mathbb{P}(f^{-1}({\xi }_1\le x,{\xi }_2\le y))\\ & =\mathbb{P}({\xi }_1\circ {\pi }_1\circ f\le x,{\xi }_2\circ {\pi }_2\circ f\le y)\\ & =\mathbb{P}({\hat{\xi }}_1\le x,{\hat{\xi }}_2\le y).\end{array}$$
$\boxed{习题}$	只需证明对任意二维可测集 $A$, $\{(X,Y)\in A\}$ 还是可测集, 要使用单调类定理: 对 $A=$ 开集 $O_1\times$ 开集 $O_2$, 由 $X,Y$ 是可测函数, $X^{-1}(O_1)\times Y^{-1}(O_2)$ 可测; 这类 $A$ 生成的 $\sigma$-代数是二维可测集, 二维可测集又是单调系.
5.27	(1) 取事件 $X_k=\{\begin{array}{ll}1,& \text{第 }k\text{ 次 }A\text{ 出现}\\ 0,& \text{第 }k\text{ 次 }A\text{ 未出现}\end{array}\sim B(1,p_A)$, 则 ${\tau }_A\sim \mathrm{Geo}(p_A)$. (2) 见 5.26, 当 $A,B$ 互斥时 $p_A{p}_B=p_{A\cap B}=0$, $\mathbb{P}(A\uplus B)=p_A+p_B$. (3) ${\tau }_A,{\tau }_B$ 相互独立 $⟺\mathbb{P}({\tau }_A>{\ell }_A)\mathbb{P}({\tau }_B>{\ell }_B)=\mathbb{P}({\tau }_A>{\ell }_A,{\tau }_B>{\ell }_B)$ $⟺q_A^{{\ell }_A}{q}_B^{{\ell }_B}=q_{A\cup B}^{{\ell }_A}{q}_B^{{\ell }_B-{\ell }_A}$ 当 ${\ell }_A\le {\ell }_B$, $q_A^{{\ell }_A}{q}_B^{{\ell }_B}=q_{A\cup B}^{{\ell }_B}{q}_B^{{\ell }_A-{\ell }_B}$ 当 ${\ell }_A\ge {\ell }_B$ $⟺q_A{q}_B=q_{A\cup B}⟺p_A{p}_B=p_{A\cap B}⟺A,B\text{ 相互独立}$. (5)$$\begin{array}{rl}\mathbb{P}({\tau }_{[2]}=\ell )& =\mathbb{P}({\tau }_A-{\tau }_B=\ell )+\mathbb{P}({\tau }_B-{\tau }_A=\ell )\\ & =\mathbb{P}(B\text{ 先出现})\mathbb{P}(\text{再过 }\ell \text{ 次 }A\text{ 才出现})+\mathbb{P}(A\text{ 先出现})\mathbb{P}(\text{再过 }\ell \text{ 次 }B\text{ 才出现})\\ & =\frac{p_B}{p_A+p_B}\mathrm{Geo}(p_A,\ell )+\frac{p_A}{p_A+p_B}\mathrm{Geo}(p_B,\ell ),\end{array}$$即 ${\tau }_{[2]}\sim \frac{p_B}{p_A+p_B}\mathrm{Geo}(p_A)+\frac{p_A}{p_A+p_B}\mathrm{Geo}(p_B)$. 特别地, $p_A=p_B:=p$ 时, ${\tau }_{[2]}\sim \mathrm{Geo}(p)$. ${\tau }_{[1]},{\tau }_{[2]}$ 相互独立是因为$$\begin{array}{rl}\mathbb{P}({\tau }_{[1]}={\ell }_1,{\tau }_{[2]}={\ell }_2)& =\mathbb{P}({\tau }_A={\ell }_1+{\ell }_2,{\tau }_B={\ell }_1)+\mathbb{P}({\tau }_A={\ell }_1,{\tau }_B={\ell }_1+{\ell }_2)\\ & =p_{A\uplus B}^{{\ell }_1-1}{p}_B\mathrm{Geo}(p_A,{\ell }_2)+p_{A\uplus B}^{{\ell }_1-1}{p}_A\mathrm{Geo}(p_B,{\ell }_2)\\ & =\frac{\mathrm{Geo}(p_{A\uplus B},{\ell }_1)}{p_A+p_B}{p}_B\mathrm{Geo}(p_A,{\ell }_2)+\frac{\mathrm{Geo}(p_{A\uplus B},{\ell }_1)}{p_A+p_B}{p}_A\mathrm{Geo}(p_B,{\ell }_2)\\ & =\mathrm{Geo}(p_{A\uplus B},{\ell }_1)(\frac{p_B}{p_A+p_B}\mathrm{Geo}(p_A,{\ell }_2)+\frac{p_A}{p_A+p_B}\mathrm{Geo}(p_B,{\ell }_2))\\ & =\mathbb{P}({\tau }_{[1]}={\ell }_1)\mathbb{P}({\tau }_{[2]}={\ell }_2).\end{array}$$ (6)$$\mathbb{P}({\tau }_{[k]}=\ell )=\sum _{i_1,\cdots ,i_{k-1}}\mathbb{P}(\text{已出现的是 }{A}_{i_1},\cdots ,A_{i_{k-1}})\mathbb{P}({\tau }_{A_k\uplus \cdots \uplus A_n}=\ell )=\mathrm{Geo}((n-k+1)p,\ell ).$$$$\begin{array}{rl}\mathbb{P}({\tau }_{[1]}={\ell }_1,\cdots ,{\tau }_{[n]}={\ell }_n)& =\sum _{i_1,\cdots ,i_n}\mathbb{P}({\tau }_{i_1}={\ell }_1,\cdots ,{\tau }_{i_n}={\ell }_1+\cdots +{\ell }_n)\\ & =n!(1-np{)}^{{\ell }_1-1}p\cdots (1-p{)}^{{\ell }_n-1}p\\ & =\mathrm{Geo}(np,{\ell }_1)\cdots \mathrm{Geo}(p,{\ell }_n)=\mathbb{P}({\tau }_{[1]}={\ell }_1)\cdots \mathbb{P}({\tau }_{[n]}={\ell }_n).\end{array}$$
5.30	对所有 $1\le k\le n-1$, 各$$\begin{array}{rl}\mathbb{P}(X=k,X+Y=n)& =\mathbb{P}(X=k,Y=n-k)\\ & =\mathbb{P}(X=k)\mathbb{P}(Y=n-k)\\ & =p{q}^{k-1}p{q}^{n-k-1}=p^2{q}^{n-2}\end{array}$$相同, 又$$\sum _{k=1}^{n-1}\mathbb{P}(X=k,X+Y=n)=\mathbb{P}(X+Y=n),$$故$$\mathbb{P}(X=k|X+Y=n)=\frac{\mathbb{P}(X=k,X+Y=n)}{\mathbb{P}(X+Y=n)}=\frac{1}{n-1}.$$
5.31	注: 熵 (entropy) 是反映分布为 $p_1,\cdots ,p_N$ 的随机变量的不确定性的值. 例如, 分布为 $1,0,\cdots ,0$ 的随机变量不具有任何不确定性, 熵为 $0$; 分布为 $\frac{1}{N},\cdots ,\frac{1}{N}$ 的随机变量具有最大的不确定性, 毕竟都不能说哪个事件的可能性更大些, 熵最大. (1) $(x\ln x{)}^{\prime \prime }=(\ln x+1{)}^{\prime }>0$ 得 $x\ln x$ 是凸函数, 由 Jensen 不等式, $H(X)\le -N_X\cdot \frac{1}{N_X}\ln \frac{1}{N_X}=\ln N_X$; (2) 用 $\ln x\le x-1$, 等号当且仅当 $x=1$. 由$$H(X,Y)=-\sum _{x,y}\mathbb{P}(X=x,Y=y)\ln \mathbb{P}(X=x,Y=y),$$$$\begin{array}{rl}H(X)+H(Y)& =-\sum _x\mathbb{P}(X=x)\ln \mathbb{P}(X=x)-\sum _y\mathbb{P}(Y=y)\ln \mathbb{P}(Y=y)\\ & =-\sum _{x,y}\mathbb{P}(X=x,Y=y)\ln \mathbb{P}(X=x)-\sum _{x,y}\mathbb{P}(X=x,Y=y)\ln \mathbb{P}(Y=y),\end{array}$$有$$\begin{array}{rl}H(X)+H(Y)-H(X,Y)& =-\sum _{x,y}\mathbb{P}(X=x,Y=y)\ln \frac{\mathbb{P}(X=x)\mathbb{P}(Y=y)}{\mathbb{P}(X=x,Y=y)}\\ & \ge -\sum _{x,y}\mathbb{P}(X=x,Y=y)(\frac{\mathbb{P}(X=x)\mathbb{P}(Y=y)}{\mathbb{P}(X=x,Y=y)}-1)\\ & =-\sum _{x,y}\mathbb{P}(X=x)\mathbb{P}(Y=y)-\mathbb{P}(X=x,Y=y)=0,\end{array}$$等号成立当且仅当 $\mathbb{P}(X=x)\mathbb{P}(Y=y)/\mathbb{P}(X=x,Y=y)=1$ 对任意的 $x,y$, 即 $X,Y$ 相互独立; (3)$$\begin{array}{rl}H(X,Y)& =-\sum _{x,y}\mathbb{P}(X=x,Y=y)\ln \mathbb{P}(X=x,Y=y)\\ & =-\sum _{x,y}\mathbb{P}(X=x,Y=y)(\ln \mathbb{P}(X=x)+\ln \mathbb{P}(Y=y|X=x))\\ & =H(X)+H(Y|X).\end{array}$$

6数学期望与分布律

6.5	$\mathbb{E}[\tau ]=\sum _{k=1}^{\infty }kp{q}^{k-1}=p\sum _{k=1}^{\infty }(x^k{)}^{\prime }{|}_{x=q}=p{\left(\frac{1}{1-x}\right)}^{\prime }{|}_{x=q}=p\frac{1}{(1-q{)}^2}=\frac{1}{p}$, $\mathbb{E}[\tau (\tau -1)]=\sum _{k=1}^{\infty }k(k-1)p{q}^{k-1}=pq\sum _{k=1}^{\infty }(x^k{)}^{\prime \prime }{|}_{x=q}=pq{\left(\frac{1}{1-x}\right)}^{\prime \prime }{|}_{x=q}=pq\frac{2}{(1-q{)}^3}=\frac{2q}{p^2}$, $\mathbb{V}\mathrm{ar}(\tau )=\mathbb{E}[{\tau }^2]-(\mathbb{E}\tau {)}^2=\frac{2q}{p^2}+\frac{1}{p}-\frac{1}{p^2}=\frac{q}{p^2}$.
6.8	$\int F(x+a)-F(x)dx=\int {\int }_{(x,x+a]}d\mathbb{P}dx=\int {\int }_{[x,x+a)}dxd\mathbb{P}=a$.
6.9	注意 $[F(x+a)-F(x){]}^{2023}\le F(x+a)-F(x)$, 等号成立当且仅当 $\mathbb{P}(x,x+a]=F(x+a)-F(x)=0\text{ 或 }1$. 不能对所有的 $x$ 都 $\mathbb{P}(x-a,x]=0$, 即存在 $\bar{x}$ 使 $\mathbb{P}(\bar{x}-a,\bar{x}]=1$. 令 $b=\inf \{x\mid \mathbb{P}(x-a,x]=1\}\le b_0$, 则 $\forall b^{-}<b,\mathbb{P}(b^{-}-a,b^{-}]=0$, 不然 $\mathbb{P}(b^{-}-a,b^{-}]=1$, 与 $b$ 的最小性矛盾; 且 $\forall b^{+}>b,\mathbb{P}(b^{+},\infty )=0$, 不然对任何 $b^{\prime }\in [b,b^{+}),\mathbb{P}(b^{\prime }-a,b^{\prime }]<1$ 故 $=0$, 同样与 $b$ 的定义矛盾. 于是 $\mathbb{P}(X=b)=\mathbb{P}(\bar{x}-a,\bar{x}]-\mathbb{P}(\bar{x}-a,b)-\mathbb{P}(b,\bar{x}]=1$. 反过来显然.
6.10	分部积分有$$aF(a)-{\int }_0^{F(a)}xdF(x)=-a(1-F(a))-{\int }_{F(a)}^{1}xd(1-F(x)),$$得$$a={\int }_0^{1}xdF(x)=\mathbb{E}X.$$
6.12	由于$$\mathbb{E}{X}^{+}+\mathbb{E}{X}^{-}={\int }_0^{\infty }\mathbb{P}(X^{+}>x)dx+{\int }_0^{\infty }\mathbb{P}(X^{-}>x)dx={\int }_0^{\infty }\mathbb{P}(|X|>x)dx,$$且$$\sum _{n=1}^{\infty }\mathbb{P}(|X|\ge n)\le {\int }_0^{\infty }\mathbb{P}(|X|>x)dx\le \sum _{n=0}^{\infty }\mathbb{P}(|X|\ge n).$$
6.19	即要证$$(\sum _{k=1}^n\mathbb{E}(X_k-\mathbb{E}{X}_k)(Y_k-\mathbb{E}{Y}_k){)}^2\le \sum _{k=1}^n\mathbb{E}(X_k-\mathbb{E}{X}_k{)}^2\sum _{k=1}^n\mathbb{E}(Y_k-\mathbb{E}{Y}_k{)}^2,$$交换 $\sum _{k=1}^n$ 和 $\mathbb{E}$ 并用 Cauchy 不等式即可.
6.34	对 $\{1,\cdots ,n\}$ 的各种排列 $\{i_1,\cdots ,i_n\}$, $(X_{i_1},\cdots ,X_{i_n})$ 相互独立且同分布, 由推论 5.1.1, $\frac{X_{i_1}+\cdots +X_{i_m}}{X_{i_1}+\cdots +X_{i_n}}$ 同分布故同期望, 其平均值是 (从而平均期望也是) $\frac{m}{n}$, 故期望都是 $\frac{m}{n}$.
6.35	即$$\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}{e}^{-\lambda }kg(k)=\lambda \sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}{e}^{-\lambda }g(k+1),$$左右皆是 $\sum _{k=1}^{\infty }\frac{{\lambda }^k}{(k-1)!}{e}^{-\lambda }g(k)$.
6.38	$f(X)-f(X^{\prime }),g(X)-g(X^{\prime })$ 均与 $X-X^{\prime }$ 同号, 所以$$2(\mathbb{E}[f(X)g(X)]-\mathbb{E}[f(X)]\mathbb{E}[g(X)])=\mathbb{E}[(f(X)-f(X^{\prime }))(g(X)-g(X^{\prime }))]\ge 0.$$

7条件数学期望与条件分布律

7.1	当 $\mathbb{E}[X^2]<\infty$, $\mathbb{E}[(X-Y{)}^2]=2(\mathbb{E}[X^2]-\mathbb{E}[XY])\le 4\mathbb{E}[X^2]<\infty$. 当 $\mathbb{E}[(X-Y{)}^2]<\infty$, 即 $\int \mathbb{E}[(X-y{)}^2]dF(y)<\infty$, 那么对某个 $y$ 有 $\mathbb{E}[(X-y{)}^2]<\infty$, 于是 $\mathbb{E}[X^2]\le \mathbb{E}[2((X-y{)}^2+y^2)]<\infty$.
7.3	分部积分有$$\begin{array}{rl}\mathbb{E}[|X-Y|]& =\int \mathbb{E}[|X-y|]dF(y)=\int \int |x-y|dF(x)dF(y)\\ & =-2{\int }_{\{x\ge y\}}x-yd(1-F(x))dF(y)\\ & =2\int {\int }_y^{\infty }1-F(x)d(x-y)dF(y)\\ & =-2\int F(y)d({\int }_y^{\infty }1-F(x)d(x-y))\\ & =2\int F(y)[1-F(y)]dy.\end{array}$$$$\begin{array}{rl}\mathbb{E}[|X-m|]& =-{\int }_{\{x-m<0\}}x-mdF(x)-{\int }_{\{x-m\ge 0\}}x-md(1-F(x))\\ & ={\int }_{(-\infty ,0)}F(x)d(x-m)+{\int }_{[0,\infty )}1-F(x)d(x-m)\\ & \le {\int }_{(-\infty ,0)}2[1-F(x)]F(x)d(x-m)+{\int }_{[0,\infty )}2F(x)[1-F(x)]d(x-m)\\ & =\mathbb{E}[|X-Y|].\end{array}$$
7.12	(1) $$\mathbb{E}{S}_{\tau }=\int \mathbb{E}(S_t)dF(t)=\int t\mathbb{E}{X}_{1}dF(t)=(\mathbb{E}\tau )\cdot \mathbb{E}{X}_1.$$ (2) $$\begin{array}{rl}\mathbb{E}[S_{\tau }^2]& =\int \mathbb{E}(S_t^2)dF(t)=\int t\mathbb{E}[X_1^2]+(t^2-t)\mathbb{E}(X_1{X}_2)dF(t)\\ & =(\mathbb{E}\tau )\cdot \mathbb{E}[X_1^2]+(\mathbb{E}[{\tau }^2]-\mathbb{E}\tau )(\mathbb{E}{X}_1{)}^2,\end{array}$$于是$$\mathbb{V}\mathrm{ar}(S_{\tau })=\mathbb{E}[S_{\tau }^2]-(\mathbb{E}{S}_{\tau }{)}^2=(\mathbb{E}\tau )\cdot (\mathbb{E}[X_1^2]-(\mathbb{E}{X}_1{)}^2)+(\mathbb{E}{X}_1{)}^2(\mathbb{E}[{\tau }^2]-(\mathbb{E}\tau {)}^2).$$
7.23	知道! $$\begin{array}{rl}\phi (\mathbb{E}[\xi |\mathcal{G}])& =\phi \left({\int }_B\xi d\mathbb{P}{|}_{\mathcal{G}}\right)\\ & =\underset{(a,b)\in S}{\sup }a{\int }_B\xi d\mathbb{P}{|}_{\mathcal{G}}+b\\ & =\underset{(a,b)\in S}{\sup }{\int }_{B}a\xi +bd\mathbb{P}{|}_{\mathcal{G}}\\ & \le {\int }_B\phi (\xi )d\mathbb{P}{|}_{\mathcal{G}}=\mathbb{E}[\phi (\xi )|\mathcal{G}].\end{array}$$

8随机变量及其分布律 (II)

例 8.19

基于 $X_1=\frac{T_1/m}{T_2/n},X_2=T_2$ 得到$$\iint {\rho }_{1,2}(x_1,x_2)d{x}_{1}d{x}_2=\iint \frac{(\frac{1}{2}{)}^{\frac{m}{2}}(\frac{m}{n}{x}_1{x}_2{)}^{\frac{m}{2}-1}}{\Gamma (\frac{m}{2})}{e}^{-\frac{m}{n}\cdot \frac{x_1{x}_2}{2}}{1}_{(0,\infty )}\left(\frac{m}{n}{x}_1{x}_2\right)\frac{(\frac{1}{2}{)}^{\frac{n}{2}}{x}_2^{\frac{n}{2}-1}}{\Gamma (\frac{n}{2})}{e}^{-\frac{x_2}{2}}{1}_{(0,\infty )}(x_2)d\left(\frac{m}{n}{x}_1{x}_2\right)d{x}_2,$$从而$${\rho }_{1,2}(x_1,x_2)=\frac{(\frac{1}{2}{)}^{\frac{m}{2}}(\frac{m}{n}{x}_1{x}_2{)}^{\frac{m}{2}-1}}{\Gamma (\frac{m}{2})}{e}^{-\frac{m}{n}\frac{x_1{x}_2}{2}}{1}_{(0,\infty )}(x_1)\frac{(\frac{1}{2}{)}^{\frac{n}{2}}{x}_2^{\frac{n}{2}-1}}{\Gamma (\frac{n}{2})}{e}^{-\frac{x_2}{2}}{1}_{(0,\infty )}(x_2)\frac{m}{n}{x}_2.$$进而$$\begin{array}{rl}{f}_{m,n}(x)& =\int {\rho }_{1,2}(x,x_2)d{x}_2\\ & ={\int }_0^{\infty }\frac{(\frac{m}{n}\frac{x{x}_2}{2}{)}^{\frac{m}{2}-1}}{\Gamma (\frac{m}{2})}{e}^{-\frac{m}{n}\frac{x{x}_2}{2}}{1}_{(0,\infty )}(x)\frac{{(\frac{x_2}{2})}^{\frac{n}{2}-1}}{\Gamma (\frac{n}{2})}{e}^{-\frac{x_2}{2}}{x}_{2}d\left(\frac{m}{n}\frac{x_2}{2}\right)\\ & =\frac{1}{\Gamma (\frac{m}{2})\Gamma (\frac{n}{2})}\left(\frac{m}{n}{)}^{\frac{m}{2}}{x}^{\frac{m}{2}-1}{\int }_0^{\infty }\right(\frac{x_2}{2}{)}^{\frac{m+n}{2}-1}{e}^{-(1+\frac{m}{n}x)\frac{x_2}{2}}{x}_{2}d\left(\frac{x_2}{2}\right)1_{(0,\infty )}(x)\\ & =\frac{\Gamma (\frac{m+n}{2})}{\Gamma (\frac{m}{2})\Gamma (\frac{n}{2})}\left(\frac{m}{n}{)}^{\frac{m}{2}}{x}^{\frac{m}{2}-1}\right(1+\frac{m}{n}x{)}^{-\frac{m+n}{2}}{1}_{(0,\infty )}(x).\end{array}$$

$\boxed{思考题}$

证明 $(X_1,X_2)\stackrel{\mathrm{d}}{=}(X_1\mathrm{sgn}(X_2),X_2)$. $$\begin{array}{rl}& \mathbb{P}(X_1\mathrm{sgn}(X_2)\le x,X_2\le y)\\ & \\ & =\mathbb{P}(X_1\le x,0<X_2\le y)+\mathbb{P}(0\le x,X_2=0)+\mathbb{P}(-X_1\le x,X_2<0)\\ & \\ & =\mathbb{P}(X_1\le x)\mathbb{P}(0<X_2\le y)+0+\mathbb{P}(-X_1\le x)\mathbb{P}(X_2<0)\\ & =\mathbb{P}(X_1\le x)(\mathbb{P}(0<X_2\le y)+0+\mathbb{P}(X_2<0))\\ & \\ & =\mathbb{P}(X_1\le x,X_2\le y).\end{array}$$

9随机变量及其分布律 (III)

9.7

即说明对 $(0,1)$ 的所有 Borel 子集 $A$ 有$$\mathbb{P}(\sum _{n=1}^{\infty }\frac{X_n}{2^n}\in A)=|A|.$$此式对二进制区间 $A=[a,a+\frac{1}{2^m})$ 成立, 其中 $a=\sum _{n=1}^m\frac{a_n}{2^n}$, 这是因为$$\mathbb{P}(\sum _{n=1}^{\infty }\frac{X_n}{2^n}\in [a,a+\frac{1}{2^m}\left)\right)=\mathbb{P}(X_1=a_1,\cdots ,X_m=a_m)=(\frac{1}{2}{)}^m=|[a,a+\frac{1}{2^m})|.$$对一般的 $A$, 对任何 $\epsilon >0$, 存在二进制区间的有限组合 $A^{+},A^{-}$, 使得 $A^{-}\subset A\subset A^{+}$ 且 $|A^{+}\setminus A|,|A\setminus A^{-}|<\epsilon$, 用下式完成逼近$$|A|-\epsilon <|A^{-}|<\mathbb{P}(\sum _{n=1}^{\infty }\frac{X_n}{2^n}\in A)<|A^{+}|<|A|+\epsilon .$$

定理 9.2.3

证明如下. $$\begin{array}{rl}& \mathbb{P}(\cdots ,U_{(k)}\in (x_k,x_k+d{x}_k],\frac{U_{(k+1)}-U_{(k)}}{U_{(\ell )}-U_{(k)}}\in (t_{k+1},t_{k+1}+d{t}_{k+1}],\\ & \cdots ,\frac{U_{(\ell -1)}-U_{(k)}}{U_{(\ell )}-U_{(k)}}\in (t_{\ell -1},t_{\ell -1}+d{t}_{\ell -1}],U_{(\ell )}\in (x_{\ell },x_{\ell }+d{x}_{\ell }],\cdots )\\ & =\mathbb{P}(\cdots ,U_{(k)}\in (x_k,x_k+d{x}_k],U_{(k+1)}\in (t_{k+1}{U}_{(\ell )}+(1-t_{k+1})U_{(k)},(t_{k+1}+d{t}_{k+1})U_{(\ell )}+(1-t_{k+1}-d{t}_{k+1})U_{(k)}],\\ & \cdots ,U_{(\ell -1)}\in (t_{\ell -1}{U}_{(\ell )}+(1-t_{\ell -1})U_{(k)},(t_{\ell -1}+d{t}_{\ell -1})U_{(\ell )}+(1-t_{\ell -1}-d{t}_{\ell -1})U_{(k)}],U_{(\ell )}\in (x_{\ell },x_{\ell }+d{x}_{\ell }],\cdots )\\ & =({\rho }_{(1,\cdots ,n)}(x_1,\cdots ,x_k,t_{k+1}{x}_{\ell }+(1-t_{k+1})x_k,\cdots ,t_{\ell -1}{x}_{\ell }+(1-t_{\ell -1})x_k,x_{\ell },\cdots ,x_n)+o(1))\\ & d{x}_1\cdots d{x}_k(x_{\ell }-x_k)d{x}_{k+1}\cdots (x_{\ell }-x_k)d{x}_{\ell -1}d{x}_{\ell }\cdots d{x}_n\\ & =n!(x_{\ell }-x_k{)}^{\ell -k-1}{1}_{\{0<x_1<\cdots <x_k<t_{k+1}{x}_{\ell }+(1-t_{k+1})x_k<\cdots <t_{\ell -1}{x}_{\ell }+(1-t_{\ell -1})x_k<x_{\ell }<\cdots <x_n<1\}}d{x}_1\cdots d{x}_n\\ & =\frac{n!}{(\ell -k-1)!}(\ell -k-1)!(x_{\ell }-x_k{)}^{\ell -k-1}{1}_{\{0<x_1<\cdots <x_k<x_{\ell }<\cdots <x_n<1\}}{1}_{\{0<t_{k+1}<\cdots <t_{\ell -1}<1\}}d{x}_1\cdots d{x}_n\\ & ={\rho }_{(1,\cdots ,k,\ell ,\cdots ,n)}(x_1,\cdots ,x_k,x_{\ell },\cdots ,x_n){\rho }_{(1,\cdots ,\ell -k-1)}(t_{k+1},\cdots ,t_{\ell -1})d{x}_1\cdots d{x}_n.\end{array}$$

10随机变量列的收敛与大数律

10.2	设 $X_n\stackrel{\mathbb{P}}{⟶}0$, 则$$\mathbb{E}\left[\frac{|X_n|}{1+|X_n|}\right]={\int }_{|X_n|\ge \epsilon }\frac{|X_n|}{1+|X_n|}d\mathbb{P}+{\int }_{|X_n|<\epsilon }\frac{|X_n|}{1+|X_n|}d\mathbb{P}\le \mathbb{P}(|X_n|\ge \epsilon )+\frac{\epsilon }{1+\epsilon },$$令 $\epsilon$ 小再令 $n$ 大, 上式就任意小. 反过来, 设 $X_n\stackrel{\mathbb{P}}{⟶}0$ 不成立, 即存在 $\epsilon ,\delta$ 使得存在任意大的 $n$ 使 $\mathbb{P}(|X_n|\ge \epsilon )\ge \delta$, 则$$\mathbb{E}\left[\frac{|X_n|}{1+|X_n|}\right]\ge \delta \frac{\epsilon }{1+\epsilon }.$$
10.3	$$x\mathbb{E}[\frac{1}{X}\cdot 1_{\{X>x\}}]=x{\int }_{\{X>x\}}\frac{d\mathbb{P}(X)}{X}\le {\int }_{\{X>x\}}d\mathbb{P}(X)=\mathbb{P}(X>x)\to 0.$$
10.20	(i) 对 ${\xi }_n\stackrel{\mathbb{P}}{⟶}0$, 对任意 $\epsilon >0$, 取 $N$ 使 $\forall n>N,\mathbb{P}(|{\xi }_n|\ge 1)<\epsilon$, 对 $k=1,\cdots ,N$, 取 $M_k$ 使 $\mathbb{P}(|{\xi }_k|\ge M_k)<\epsilon$, 令 $M=\max (1,M_1,\cdots ,M_N)$. (ii) $\mathbb{P}(|{\xi }_n+{\eta }_n|\ge \epsilon )\le \mathbb{P}(|{\xi }_n|\ge \frac{\epsilon }{2})+\mathbb{P}(|{\eta }_n|\ge \frac{\epsilon }{2})\to 0$.   ${\sup }_n\mathbb{P}(|{\xi }_n+{\eta }_n|\ge 2M)\le {\sup }_n\mathbb{P}(|{\xi }_n|\ge M)+{\sup }_n\mathbb{P}(|{\eta }_n|\ge M)$ 充分小. (iii) $\mathbb{P}(|{\xi }_n{\eta }_n|\ge \epsilon )\le \mathbb{P}(|{\xi }_n|\ge \frac{\epsilon }{M})+{\sup }_n\mathbb{P}(|{\eta }_n|\ge M)$, 令 $M$ 大再令 $n$ 大.   ${\sup }_n\mathbb{P}(|{\xi }_n{\eta }_n|\ge M^2)\le {\sup }_n\mathbb{P}(|{\xi }_n|\ge M)+{\sup }_n\mathbb{P}(|{\eta }_n|\ge M)$ 充分小.