二项分布

在概率论中, 二项分布可以通俗解释为: 重复做 $n$ 次独立的试验, 每次试验都有 $p$ 的概率成功, 则成功的次数就服从二项分布. 例如: 掷普通的骰子 $10$ 次, 统计结果是 $6$ 的次数, 则次数服从二项分布 $B(10,1/6)$.

1定义

定义 1.1 (二项分布). 设 $X:\Omega \to \{0,1,\cdots ,n\}$ 是概率空间 $(\Omega ,\mathcal{F},\mathbb{P})$ 中的离散型随机变量, $0\le p\le 1$. 如果它的概率分布列是$$\mathbb{P}(X=k)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k(1-p{)}^{n-k},0\le k\le n$$则称 $X$ 服从二项分布, 记为 $X\sim B(n,p)$. 如果 $n=1$, 也就是只做一次试验, 则所得的分布 $B(1,p)$ 被称为两点分布或 Bernoulli 分布.

二项分布可以推广为随机向量的多项分布.

定义 1.2 (多项分布). 设 $n,N$ 是正整数, $p_1,\cdots ,p_n\in (0,1)$ 使得 ${\sum }_{k=1}^n{p}_k=1$. 如果 $n$ 维随机向量 $\mathbf{X}$ 满足: 对任意非负整数 $m_1,\cdots ,m_n$, 如果 ${\sum }_{k=1}^n{m}_k=N$, 则$$\mathbb{P}(X_1=m_1,\cdots ,X_n=m_n)=\left(\genfrac{}{}{0ex}{}{N}{m_1,\cdots ,m_n}\right)p_1^{m_1}\cdots p_n^{m_n},$$其中 $\left(\genfrac{}{}{0ex}{}{N}{m_1,\cdots ,m_n}\right)$ 为多重组合数, 则称 $\mathbf{X}$ 服从多项分布, 记为 $\mathbf{X}\sim M_n(N;p_1,\cdots ,p_n)$.

对于服从二项分布 $B(n,p)$ 的随机变量 $X$, 不难发现随机向量 $(X,n-X)$ 就服从 $n=2$ 时的多项分布 $M_2(n;p,1-p)$.

2性质

基本性质

•	设随机变量 $X$ 服从二项分布 $B(n,p)$. ∘ $X$ 的期望是 $\mathbb{E}(X)=np$. ∘ $X$ 的方差是 $\mathrm{Var}(X)=np(1-p)$. ∘ $X$ 的特征函数是 ${\varphi }_X(t)=(1-p+p{\mathrm{e}}^{\mathrm{i}t}{)}^n$. ∘ 如果 $0<p<1$, 则使得 $\mathbb{P}(X=k)$ 最大的 $k$ 为 $\lfloor (n+1)p\rfloor$. 有时, 如果 $(n+1)p$ 是整数, 则 $k=(n+1)p-1$ 也符合要求.

•

设随机向量 $\mathbf{X}$ 服从多项分布 $M_n(N;p_1,\cdots ,p_n)$. ∘ $\mathbf{X}$ 的值域是$$\{(m_1,\cdots ,m_n)\in {\mathbb{N}}^n\mid m_1+\cdots +m_n=N\}.$$ ∘ $\mathbf{X}$ 的任意 $k$ 维边缘分布 ($1\le k\le n-1$) 可以视为 $n=k+1$ 的多项分布. 比如, $$\mathbb{P}(X_1=m_1,\cdots ,X_k=m_k)=\left(\genfrac{}{}{0ex}{}{N}{m_1,\cdots ,m_k,N-m_1-\cdots -m_k}\right)p_1^{m_1}\cdots p_k^{m_k}(1-p_1-\cdots -p_k{)}^{N-m_1-\cdots -m_k}$$这样随机向量 $(X_1,\cdots ,X_k,N-X_1-\cdots -X_k)$ 服从多项分布 $M_{k+1}(N;p_1,\cdots ,p_k,1-p_1-\cdots -p_k)$. 特别地, $\mathbf{X}$ 的每个分量都服从二项分布: $X_i\sim B(N,p_i)$. ∘ 根据上一条性质, 不难得到期望 $\mathbb{E}(\mathbf{X})=N\mathbf{p}$, 其中 $\mathbf{p}=(p_1,\cdots ,p_n{)}^{\top }$. ∘ 分量的方差和协方差: $\mathrm{Var}(X_i)=N{p}_i(1-p_i),\mathrm{Cov}(X_i,X_j)=-N{p}_i{p}_j(i\ne j)$. 于是协方差矩阵可以写成$$\mathrm{Cov}(\mathbf{X})=N(\mathrm{diag}(\mathbf{p})-\mathbf{p}{\mathbf{p}}^{\top }),$$其中 $\mathrm{diag}(\mathbf{p})=\mathrm{diag}(p_1,\cdots ,p_n)$ 表示以 $\mathbf{p}$ 的元素为元素的对角矩阵. ∘ $\mathbf{X}$ 的特征函数是 ${\varphi }_{\mathbf{X}}(\mathbf{t})={\left({\sum }_{k=1}^n{p}_k{\mathrm{e}}^{\mathrm{i}{t}_k}\right)}^N$.

•	如果 $X,Y$ 为独立的随机变量, 且 $X\sim B(n,p),Y\sim B(m,p)$, 则 $X+Y\sim B(n+m,p)$.

•	任何二项分布可以拆成一列独立且都服从两点分布的随机变量之和. 如果 $X\sim B(n,p)$, 记指示变量 $X_k=I(第k次试验成功)$, 则 $X={\sum }_{k=1}^n{X}_k$, 且 $X_k$ 相互独立, 均服从两点分布 $B(1,p)$.

二项分布的近似

如果一列二项分布的期望存在极限, 则这列二项分布趋近于 Poisson 分布.

命题 2.1 (Poisson 近似). 设 $X_n\sim B(n,p_n)$ 为一列服从二项分布的随机变量. 如果$$\underset{n\to \infty }{\lim }n{p}_n=\lambda >0,$$则对任意 $k\in \mathbb{N}$: $$\underset{n\to \infty }{\lim }\mathbb{P}(X_n=k)={\mathrm{e}}^{-\lambda }\frac{{\lambda }^k}{k!}.$$

设 $X\sim B(n,p)$, 如果固定 $p$, 令 $n$ 增大, 则 $X$ “标准化” 以后将趋于正态分布. 这是中心极限定理的特殊情形.

命题 2.2 (正态近似). 设 $p\in (0,1)$, 随机变量 $X\sim B(n,p)$. 则 $n\to \infty$ 时, 有$$\frac{X-np}{\sqrt{np(1-p)}}\stackrel{d}{\to }\mathcal{N}(0,1).$$

实际应用中, 在 $n$ 很大时, 可用分布 $\mathcal{N}(np,np(1-p))$ 近似代替 $X$ 的分布.

3相关概念

•	正态分布
•	Poisson 分布
•	中心极限定理
•	Pascal 分布

术语翻译

二项分布 • 英文 binomial distribution • 德文 Binomialverteilung (f) • 法文 loi binomiale (f) • 日文 二項分布 (にこうぶんぷ) • 韩文 이항 분포 (二項分布)

两点分布 • 英文 Bernoulli distribution • 德文 Bernoulli-Verteilung (f) • 法文 loi de Bernoulli (f) • 日文 ベルヌーイ分布 (ベルヌーイぶんぷ) • 韩文 베르누이 분포

多项分布 • 英文 multinomial distribution • 德文 Multinomialverteilung (f) • 法文 loi multinomiale (f) • 日文 多項分布 (たこうぶんぷ) • 韩文 다항 분포 (多項分布)