2.7. 习题选编

习题 2.7.1.

1.	设 $E,F$ 为两个事件. 证明 $E,F$ 相互独立当且仅当随机变量 $1_E,1_F$ 相互独立.
2.	(${}^{\star }$) 设 $E_1,\dots ,E_n$ 为 $n$ 个事件. 证明 $E_1,\dots ,E_n$ 相互独立当且仅当随机变量 $1_{E_1},\dots ,1_{E_n}$ 相互独立.

习题 2.7.2. 设 $X$ 为一离散型随机变量, 其值域包含于自然数集 $\mathbb{N}$, 且 $\mathbb{E}[X]$ 存在. 证明$$\mathbb{E}[X]=\sum _{n=1}^{\infty }\mathbb{P}(X\ge n)=\sum _{n=0}^{\infty }\mathbb{P}(X>n).$$提示: 由期望的定义出发, 证明$$\mathbb{E}[X]=\sum _{n=1}^{\infty }n\cdot \mathbb{P}(X=n)=\sum _{n=1}^{\infty }\sum _{m=1}^n\mathbb{P}(X=n),$$然后交换求和次序 (无需说明交换求和次序的合法性).

习题 2.7.3. 求解如下离散型概率分布的期望与方差: (i) 参数为 $p$ 的几何分布; (ii) 参数为 $\lambda$ 的泊松分布.

习题 2.7.4. 证明如下结论:

1.	对任意事件 $A,B$, 均有 $1_A\cdot 1_B=1_{A\cap B}$ 以及 $1_{A^c}=1-1_A$.
2.	给定任意 $n$ 个事件 $A_1,\dots ,A_n$, 有$$\begin{array}{rl}{1}_{A_1\cup \cdots \cup A_n}=& 1-\prod _{i=1}^n(1-1_{A_i})\\ =& \sum _{i=1}^n{1}_{A_i}-\sum _{1\le i_1<i_2\le n}{1}_{A_{i_1}\cap A_{i_2}}+\cdots \\ & +(-1{)}^{k-1}\sum _{1\le i_1<\cdots <i_k\le n}{1}_{A_{i_1}\cap \cdots \cap A_{i_k}}+\cdots +(-1{)}^{n-1}{1}_{A_1\cap \cdots \cap A_n}.\end{array}$$
3.	给定任意 $n$ 个事件 $A_1,\dots ,A_n$, 有$$\begin{array}{rl}& \mathbb{P}(A_1\cup \cdots \cup A_n)\\ =& \sum _{i=1}^n\mathbb{P}(A_i)-\sum _{1\le i_1<i_2\le n}\mathbb{P}\left(A_{i_1}\cap A_{i_2}\right)+\cdots \\ & +(-1{)}^{k-1}\sum _{1\le i_1<\cdots <i_k\le n}\mathbb{P}(A_{i_1}\cap \cdots \cap A_{i_k})+\cdots +(-1{)}^{n-1}\mathbb{P}(A_1\cap \cdots \cap A_n).\end{array}$$上述等式又被称为 inclusion–exclusion principle.

习题 2.7.5. 设 $E_1,\dots ,E_n$ 为 $n$ 个事件, 并令 $X={\sum }_{i=1}^n{1}_{E_i}$. 证明$$\begin{array}{rl}\mathbb{E}[X]=& \sum _{i=1}^n\mathbb{P}(E_i),\\ \mathrm{Var}(X)=& \sum _{i=1}^n\mathbb{P}(E_i)(1-\mathbb{P}(E_i))+2\sum _{i=1}^{n-1}\sum _{j=i+1}^n\left(\mathbb{P}(E_i\cap E_j)-\mathbb{P}(E_i)\mathbb{P}(E_j)\right).\end{array}$$提示: 利用期望的线性. 求 $\mathrm{Var}(X)$ 时, 将 ${\left({\sum }_{i=1}^n{1}_{E_i}\right)}^2$ 展开, 并注意到 $1_{E_i}^2=1_{E_i}$.

习题 2.7.6. 设 $(\Omega ,2^{\Omega },\mathbb{P})$ 为一概率空间, 其中 $\Omega$ 为可数集.

1.	证明: 任意定义域为 $\Omega$ 的函数 $X:\Omega \to \mathbb{R}$ 一定是一个离散型随机变量.
2.	设 $X:\Omega \to \mathbb{R}$ 为一随机变量, 且 $\mathbb{E}[X]$ 存在. 证明$$\mathbb{E}[X]=\sum _{\omega \in \Omega }X(\omega )\cdot \mathbb{P}(\{\omega \}).$$
3.	在样本空间 $\Omega$ 为可数集的假设下, 利用第 2 小题的结论, 给出期望的线性$$\mathbb{E}[\alpha X+\beta Y]=\alpha \mathbb{E}[X]+\beta \mathbb{E}[Y]$$的新的证明 (其中 $X,Y$ 均为定义在 $\Omega$ 上的随机变量).

习题 2.7.7. 设离散型随机向量 $(X,Y)$ 的联合分布列为$$p_{X,Y}(x,y)=\{\begin{array}{ll}\frac{C}{(x+y-1)(x+y)(x+y+1)},& \text{若 x∈N+ 且 y∈N+}\\ 0,& \text{其它情形},\end{array}$$其中 $C$ 为待定系数. 试求: (i) $C$ 的值; (ii) $X$ 与 $Y$ 各自的边缘分布; (iii) $U=X+Y$ 的概率分布; (iv) $V=X-Y$ 的概率分布.

注: 本题改编自 [6] 第 3.8 节习题 2.

习题 2.7.8. 设 $(\Omega ,\mathcal{F},\mathbb{P})$ 为一概率空间, $U,V$ 为定义于 $\Omega$ 上的随机变量, 它们的值域均为 $\{1,-1\}$, 且满足$$\begin{array}{rl}& \mathbb{P}(U=1)=\mathbb{P}(U=-1)=\frac{1}{2},\\ & \mathbb{P}\left(V=1|U=1\right)=\mathbb{P}\left(V=-1|U=-1\right)=\frac{1}{3},\\ & \mathbb{P}\left(V=-1|U=1\right)=\mathbb{P}\left(V=1|U=-1\right)=\frac{2}{3}.\end{array}$$令$$E=\left\{\omega \in \Omega \mid \text{一元二次方程 x2+U(ω)x+V(ω)=0 有实数解}\right\}.$$

1.	求 $\mathbb{P}(E)$.
2.	令随机变量 $Y:\Omega \to \mathbb{R}$ 为$$Y(\omega )=\{\begin{array}{ll}\text{方程 x2+U(ω)x+V(ω)=0 较大的实数解},& \text{若}\omega \in E,\\ 0,& \text{若}\omega \notin E.\end{array}$$求 $\mathbb{E}[Y]$.

注: 本题改编自 [8] 第 3.6 节习题 9.

习题 2.7.9 (超几何分布). 设一个罐子中有 $b$ 个蓝色球和 $m-b$ 个红色球. 现从这个罐子中无放回地随机抽取 $n$ 个球, 并用 $B$ 表示这 $n$ 个球中蓝色球的个数.

1.	证明: 对任意满足 $\max \{0,n+b-m\}\le k\le \min \{b,n\}$ 的整数 $k$, 有$$\mathbb{P}(B=k)=\frac{\left(\genfrac{}{}{0ex}{}{b}{k}\right)\left(\genfrac{}{}{0ex}{}{m-b}{n-k}\right)}{\left(\genfrac{}{}{0ex}{}{m}{n}\right)},$$而对其余的 $x$ 则均有 $\mathbb{P}(B=x)=0$. 我们将 $B$ 服从的离散型分布称作参数为 $(m,b,n)$ 的超几何分布 (hypergeometric distribution).
2.	试求参数为 $(m,b,n)$ 的超几何分布的期望与方差. 提示: 令 $E_i$ 表示第 $i$ 个抽取的球为蓝色, 则 $B={\sum }_{i=1}^n{1}_{E_i}$, 而后用习题 2.7.5 的结论.
3.	现设 $b$ 为 $m$ 的函数, 且 $m\to \infty$ 时有 $b/m\to p$, 其中 $p\in [0,1]$. 固定 $n$ 与 $k$, 证明$$\underset{m\to \infty }{\lim }\mathbb{P}(B=k)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k(1-p{)}^{n-k}.$$
4.	现设 $X$ 与 $Y$ 相互独立且分别服从参数为 $(b,p)$ 与 $(m-b,p)$ 的二项分布. 给定任意正整数 $n$ 与自然数 $k$, 试求条件概率 $\mathbb{P}\left(X=k|X+Y=n\right)$.

习题 2.7.10. 设 $X_1,X_2,\dots$ 为一参数为 $p$ 的伯努利过程. 令 $N$ 服从参数为 $\lambda$ 的泊松分布, 并设 $N,X_1,X_2,\dots$ 相互独立. 令$$U=\sum _{i=1}^N{X}_i.$$

1.	求 $(U,N-U)$ 的联合分布列, 并证明 $U$ 与 $N-U$ 相互独立. 提示: 注意到$$\begin{array}{rl}& \mathbb{P}(U=x,N-U=y)=\mathbb{P}(U=x,N=x+y)\\ =& \mathbb{P}\left({\sum }_{i=1}^{x+y}{X}_i=x,N=x+y\right)=\mathbb{P}\left({\sum }_{i=1}^{x+y}{X}_i=x\right)\mathbb{P}(N=x+y).\end{array}$$
2.	求 $U$ 的分布列.

习题 2.7.11 (多项分布). 设 $X_1,\dots ,X_n$ 为独立同分布的离散型随机变量, 它们的值域均为 $\{1,2,\dots ,r\}$ ($r$ 为给定正整数), 分布列为$$p_{X_1}(k)=\cdots =p_{X_n}(k)=p_k,k=1,2,\dots ,r,$$其中 $p_1,p_2,\dots ,p_r$ 为给定的非负实数, 满足 ${\sum }_{k=1}^r{p}_k=1$. 现对每个 $k=1,2,\dots ,r$, 定义$$N_k=\sum _{i=1}^n{1}_{\{X_i=k\}}.$$

1.	求 $(N_1,\dots ,N_r)$ 的联合分布列.
2.	求每个 $N_k$ 的边缘分布列.
3.	求 $k\ne j$ 时 $\mathbb{E}[N_k{N}_j]$ 的值.

习题 2.7.12 (负二项分布). 设 $X_1,X_2,\dots$ 为一参数为 $p$ 的伯努利过程. 对任意正整数 $r$, 令 $H_r$ 为第 $r$ 次伯努利试验成功时的总试验次数.

1.	证明: $H_r$ 的分布列为$$p_{H_r}(k)=\left(\genfrac{}{}{0ex}{}{k-1}{r-1}\right)p^r(1-p{)}^{k-r},k=r,r+1,r+2,\dots$$我们将上述分布列给出的概率分布称为参数为 $(r,p)$ 的负二项分布 (negative binomial distribution).
2.	试求参数为 $(r,p)$ 的负二项分布的期望与方差. 提示: 利用 $H_r={\sum }_{k=1}^r{T}_k$, 其中各 $T_k$ 的含义如图 1 所示.
3.	设一个人不断地抛一枚均匀硬币, 直到抛出正面为止. 试求在整个过程中抛出反面的次数的期望.
4.	考虑 Banach 火柴盒问题 (例 1.5.1), 假设随机选择火柴盒时不再是等概率地选取, 而是以概率 $p$ 选择一号火柴盒, 以概率 $1-p$ 选择二号火柴盒. 试求这种情况下, 某次取火柴发现待取火柴盒已空时另一个火柴盒里还剩 $k$ 根火柴的概率.

习题 2.7.13.

1.	设 $X_1,X_2,\dots$ 为一列独立同分布的随机变量, 集合 $A,B\subseteq \mathbb{R}$ 互不相交, 且满足 $\mathbb{P}(X_1\in A\cup B)>0$. 令$$T=\min \{n\in {\mathbb{N}}_{+}\mid X_n\in A\cup B\}.$$证明$$\mathbb{P}(X_T\in A)=\frac{\mathbb{P}(X_1\in A)}{\mathbb{P}(X_1\in A\cup B)}.$$提示: 先证明 $\{X_T\in A\}={\bigcup }_{\tau =1}^{\infty }\{X_1\notin A\cup B,\dots ,X_{\tau -1}\notin A\cup B,X_{\tau }\in A\}$.
2.	考虑这样一个游戏: 设你有一对均匀的六面骰子, 你先掷一次这对骰子并得到点数之和 $X$, 若 $X$ 等于 $7$ 或 $11$ 则直接获胜, 若 $X$ 等于 $2$、$3$ 或 $12$ 则直接输掉游戏, 否则进入下一个环节: 你重复投掷这一对骰子, 直到掷出的点数之和等于 $7$ 或 $X$ 时停止游戏, 若停止时掷出的点数之和为 $7$ 则输掉游戏, 否则获胜. 试求在这个游戏中获胜的概率. 注: 本题取自 [3] 第二章习题 26.

习题 2.7.14 (De Montmort 匹配问题). 设有 $n$ 个编号为 $1$ 到 $n$ 的小球, 以及 $n$ 个编号为 $1$ 到 $n$ 的盒子. 将 $n$ 个小球充分打乱后放到 $n$ 个盒子中, 每个盒子中有一个小球. 令 $K$ 表示盒子编号与小球编号相匹配的数目.

1.	求 $\mathbb{P}(K=0)$, 即每个盒子的编号和其中小球的编号都不相同的概率. 提示: 令事件 $E_i$ 表示 “第 $i$ 个盒子中的小球编号为 $i$”, 则 $\mathbb{P}(K=0)=\mathbb{P}\left({\bigcap }_{i=1}^n{E}_i^c\right)$, 接下来用习题 2.7.4 的结论求该式右端的概率.
2.	求 $\mathbb{E}[K]$ 以及 $\mathrm{Var}(K)$. 提示: 利用 $K={\sum }_{i=1}^n{1}_{E_i}$, $1_{E_i}\cdot 1_{E_j}=1_{E_i\cap E_j}$ 以及期望的线性.
3.	求随机变量 $K$ 的分布列 $p_K$. (${}^{\star }$) 该分布列是否满足 ${\sum }_k{p}_K(k)=1$?
4.	证明 $n$ 趋于无穷大时 $p_K(k)$ 趋向于 ${\mathrm{e}}^{-1}/k!$. 这说明 $n$ 很大时, $K$ 近似服从参数为 $1$ 的泊松分布.

习题 2.7.15 (赠券收集问题, coupon collector’s problem). 某商家为促销歌手 A 的唱片, 在顾客每购买一张歌手 A 的唱片后即附赠一张海报. 假设商家手上总共有 $N$ 种海报, 每次赠送海报时都是从这 $N$ 种当中随机选择一种赠送. 现张三希望通过不断购买歌手 A 的唱片来收集这些海报. 若张三在购买了 $T$ 张唱片后终于集齐了所有 $N$ 种海报, 试求 $\mathbb{E}[T]$.

习题 2.7.16. 设有一枚不均匀的硬币, 它抛出正面的概率为 $p\in \left]0,1/2\right[$, 抛出反面的概率为 $1-p$; $p$ 的取值未知.

1.	试设计一种方法, 通过独立重复地抛掷这枚不均匀硬币来产生一个随机数 $X$, 使得 $X$ 服从参数为 $1/2$ 的伯努利分布. 提示: 注意到若连续抛掷两次硬币, 则出现先正后反的概率与出现先反后正的概率相等 1.
2.	在你给出的方法中, 平均需要抛掷多少次硬币才能产生一个随机数?

脚注

1.	^ 此为 John von Neumann 给出的思路, 见 [9].