随机过程习题

  习题来自于应坚刚老师的《随机过程讲义》(2025 年 5 月 16 日版), 因为讲义会经常更新, 以后的同学参考时可能题号会有微小的变动.

1预备知识

1.1 单调类方法

1.1.1

(1) 举例说明 $\lambda$-类不一定是 $\sigma$-代数. (2) 如果 $\mathcal{G}$ 既是 $\lambda$-类又是 $\pi$-类, 则 $\mathcal{G}$ 是 $\sigma$-代数. 证明. (1) 令 $\Omega =\{1,2,3,4\}$, $\mathcal{G}=\{\varnothing ,\{1,2\},\{3,4\},\{1,4\},\{2,3\},\Omega \}$. 易见 $\mathcal{G}$ 对补集运算封闭, 且其所含的非平凡元素均要么相交, 要么互补, 因而 $\mathcal{G}$ 对不交可列并运算封闭, 从而是 $\lambda$-类. 然而 $\{1,2\}\cup \{1,4\}=\{1,2,4\}\notin \mathcal{G}$, 故 $\mathcal{G}$ 不是 $\sigma$-代数. (2) 任取 $\{A_n{\}}_{n=1}^{\infty }\subseteq \mathcal{G}$, 令$$B_1=A_1,B_n=A_n\backslash \left(\bigcup _{k=1}^{n-1}{A}_k\right)=A_n\cap \left(\bigcap _{k=1}^{n-1}{A}_k^c\right)\in \mathcal{G}(n⩾2),$$则 $\{B_n{\}}_{n=1}^{\infty }$ 互不相交, 从而由 $\mathcal{G}$ 为 $\lambda$-类知 $\bigcup _{n=1}^{\infty }{A}_n=\bigcup _{n=1}^{\infty }{B}_n\in \mathcal{G}$, 即 $\mathcal{G}$ 对可列并封闭, 因而是 $\sigma$-代数. $\square$

1.2 可测性和与条件期望

1.2.1	非空集 $A\in \mathcal{G}$ 成为 $\mathcal{G}$ 的原子, 如果除了空集和 $A$ 自己, 它不再包含 $\mathcal{G}$ 的其他元素作为子集. 证明: 如果 $Y$ 是 $\mathcal{G}$ 可测的, 那么 $Y$ 在 $\mathcal{G}$ 的原子上是常数. 证明. 假设存在 $\mathcal{G}$ 的原子 $A$ 使得存在 $a\ne b$ 满足 $Y(A)\supseteq \{a,b\}$, 则由 $Y$ 是 $\mathcal{G}$ 可测的知 $Y^{-1}(a),Y^{-1}(b)\in \mathcal{G}$, 从而 $Y^{-1}(a)\cap A$ 与 $Y^{-1}(b)\cap A$ 是 $A$ 的两个非空不交子集, 这意味着 $A$ 除空集与自身外, 还包含 $Y^{-1}(a)\cap A\in \mathcal{G}$ 作为子集, 与 $A$ 为 $\mathcal{G}$ 的原子矛盾. $\square$
1.2.3	证明定理 1.2.1 的 (1), (4), (5). 证明. (1) 线性性: 任取随机变量 $Y_1,Y_2$ 与 $c_1,c_2\in \mathbb{R}$. 对任意 $A\in \mathcal{G}$, 由定义知$$\begin{array}{rl}\mathbb{E}(\mathbb{E}(c_1{Y}_1+c_2{Y}_2|\mathcal{G})\cdot 1_A)=& \mathbb{E}((c_1{Y}_1+c_2{Y}_2)\cdot 1_A)\\ =& c_1\mathbb{E}(Y_1\cdot 1_A)+c_2\mathbb{E}(Y_2\cdot 1_A)\\ =& c_1\mathbb{E}(\mathbb{E}(Y_1|\mathcal{G})\cdot 1_A)+c_2\mathbb{E}(\mathbb{E}(Y_2|\mathcal{G})\cdot 1_A)\\ =& \mathbb{E}((c_1\mathbb{E}(Y_1|\mathcal{G})+c_2\mathbb{E}(Y_2|\mathcal{G}))\cdot 1_A),\end{array}$$因而由引理 1.2.3 知 $\mathbb{E}(c_1{Y}_1+c_2{Y}_2|\mathcal{G})=c_1\mathbb{E}(Y_1|\mathcal{G})+c_2\mathbb{E}(Y_2|\mathcal{G})$. 保序性: 利用线性性, 只需证若 $Y⩾0,\text{ a.s. }$, 则 $\mathbb{E}(Y|\mathcal{G})⩾0,\text{ a.s. }$. 假设不成立, 则 $\{\mathbb{E}(Y|\mathcal{G})<0\}\in \mathcal{G}$ 具有正概率, 因而由 $Y⩾0,\text{ a.s. }$ 知$$0>\mathbb{E}(\mathbb{E}(Y|\mathcal{G})\cdot 1_{\{\mathbb{E}(Y|\mathcal{G})<0\}})=\mathbb{E}(Y\cdot 1_{\{\mathbb{E}(Y|\mathcal{G})<0\}})⩾0,$$矛盾. (4) 对任意 $A\in \mathcal{G}$, 由定义知 $\mathbb{E}(\mathbb{E}(Y|\mathcal{G})\cdot 1_A)=\mathbb{E}(Y\cdot 1_A)=\mathbb{E}Y\cdot \mathbb{E}{1}_A=\mathbb{E}((\mathbb{E}Y)\cdot 1_A)$, 因而由引理 1.2.3 知 $\mathbb{E}(Y|\mathcal{G})=\mathbb{E}Y$. (5) 对任意 $A\in {\mathcal{G}}_1$, 有 $A\in {\mathcal{G}}_2$, 从而$$\mathbb{E}(\mathbb{E}(\mathbb{E}(Y|{\mathcal{G}}_1)|{\mathcal{G}}_2)\cdot 1_A)=\mathbb{E}(\mathbb{E}(Y|{\mathcal{G}}_1)\cdot 1_A)=\mathbb{E}(Y\cdot 1_A)=\mathbb{E}(\mathbb{E}(Y|{\mathcal{G}}_2)\cdot 1_A)=\mathbb{E}(\mathbb{E}(\mathbb{E}(Y|{\mathcal{G}}_2)|{\mathcal{G}}_1)\cdot 1_A),$$因而由引理 1.2.3 知 $\mathbb{E}(\mathbb{E}(Y|{\mathcal{G}}_1)|{\mathcal{G}}_2)=\mathbb{E}(Y|{\mathcal{G}}_1)=\mathbb{E}(\mathbb{E}(Y|{\mathcal{G}}_2)|{\mathcal{G}}_1)$. $\square$
1.2.4	设 $X,Y$ 是独立同分布的可积随机变量. 猜测 $\mathbb{E}(X|X+Y)$ 并验证. 证明. 由 $X,Y$ 独立同分布知 $(X,Y)\stackrel{\text{d}}{=}(Y,X)$, 从而对任意可测函数 $f$(满足一定可积性), $$\mathbb{E}(\mathbb{E}(X|X+Y)\cdot f(X+Y))=\mathbb{E}(X\cdot f(X+Y))=\mathbb{E}(Y\cdot f(X+Y))=\mathbb{E}(\mathbb{E}(Y|X+Y)\cdot f(X+Y)),$$因而 $\mathbb{E}(X|X+Y)=\frac{1}{2}\mathbb{E}(X+Y|X+Y)=\frac{1}{2}(X+Y)$. $\square$

1.3 随机过程及其分布

2简单随机游动

2.1 Bernoulli 序列

2.2 反射原理

2.2.1	为什么我们说随机游动样本轨道是格点轨道? 用 $\mathcal{W}$ 表示从零点出发的格点轨道全体, 严格地证明: $\mathbb{P}(X\in \mathcal{W})=1$. 证明. 设样本空间 $\Omega =\{-1,1{\}}^{\mathbb{N}}$, 赋予其乘积 $\sigma$-代数和由分布 $\left[\begin{array}{cc}1& -1\\ p& 1-p\end{array}\right]$ 生成的概率测度 $\mathbb{P}$, 则对 $\omega =({\omega }_1,{\omega }_2,\cdots )\in \Omega$, 对应的随机游动为$$X_0(\omega )=0,X_n(\omega )=\sum _{k=1}^n{\omega }_k(n⩾1),$$而$$\mathcal{W}=\{X:\mathbb{N}\to \mathbb{Z}|X(0)=0,|X(n+1)-X(n)|=1,\forall n\in \mathbb{N}\}.$$对任意 $\omega \in \Omega$, 对应的样本轨道 $X(\omega )=(X_0(\omega ),X_1(\omega ),\cdots )$ 满足$$X_0(\omega )=0,|X_{n+1}(\omega )-X_n(\omega )|=|{\omega }_{n+1}|=1,X_n(\omega )\in \mathbb{Z},$$故 $X(\omega )\in \mathcal{W}$, 从而 $\mathbb{P}(X\in \mathcal{W})=\mathbb{P}(\Omega )=1$. $\square$
2.2.4	对 $n⩾1$, 证明:$$\mathbb{P}(X_1>0,X_2>0,\cdots ,X_{2n}>0)=\frac{1}{2}{u}_{2n},\mathbb{P}(X_1⩾0,X_2⩾0,\cdots ,X_{2n}⩾0)=u_{2n}.$$由第二个等式证明 $\mathbb{P}(T=2n)=u_{2n-2}-u_{2n}$. 证明. 显然$$\mathbb{P}(X_1>0,X_2>0,\cdots ,X_{2n}>0)=\sum _{k=1}^n\mathbb{P}(X_1>0,X_2>0,\cdots ,X_{2n-1}>0,X_{2n}=2k).$$由反射原理, 满足 $X_1>0,X_2>0,\cdots ,X_{2n-1}>0,X_{2n}=2k$ 的格点轨道总数是 $N_{2n-1,2k-1}-N_{2n-1,-2k-1}=N_{2n-1,2k-1}-N_{2n-1,2k+1}$, 因此$$\mathbb{P}(X_1>0,X_2>0,\cdots ,X_{2n}>0)=\frac{1}{2^{2n}}\sum _{k=1}^n(N_{2n-1,2k-1}-N_{2n-1,2k+1})=\frac{N_{2n-1,1}}{2^{2n}}=\frac{1}{2}{u}_{2n}.$$ 对第二个等式, 利用 $X_{2n}>0\Rightarrow X_{2n+1}⩾0$ 可知$$\mathbb{P}(X_i>0,1⩽i⩽2n)=\mathbb{P}({\xi }_1>0,X_i-{\xi }_1⩾0,2⩽i⩽2n+1)=\frac{1}{2}\mathbb{P}(X_i⩾0,1⩽i⩽2n),$$由此即证. 利用上述两个等式可知 $\mathbb{P}(X_1\ne 0,X_2\ne 0,\cdots ,X_{2n}\ne 0)=\mathbb{P}(X_{2n}=0)$, 从而$$\mathbb{P}(T=2n)=\mathbb{P}(X_1\ne 0,X_2\ne 0,\cdots ,X_{2n-2}\ne 0,X_{2n}=0)=\mathbb{P}(X_{2n-2}=0)-\mathbb{P}(X_{2n}=0)=u_{2n-2}-u_{2n}.$$ $\square$
2.2.10	用 $L_{2n}$ 表示长度为 $2n$ 的格点轨道最后遇到 $0$ 的时间, 即$$L_{2n}:=\sup \{k⩽2n:X_k=0\},$$被称为 $0$ 点的 (在时刻 $2n$ 前的) 末离时, 它必是偶数. 证明:$$\mathbb{P}(L_{2n}=2k)=u_{2k}\cdot u_{2n-2k},0⩽k⩽n.$$ 证明. 利用随机游动的独立性与练习 2.2.4 可知$$\begin{array}{rl}\mathbb{P}(L_{2n}=2k)=& \mathbb{P}(X_{2k}=0,X_{2k+2}\ne 0,\cdots ,X_{2n}\ne 0)\\ =& \mathbb{P}(X_{2k}=0)\cdot \mathbb{P}(X_1\ne 0,X_2\ne 0,\cdots ,X_{2n-2k}\ne 0)\\ =& \mathbb{P}(X_{2k}=0)\cdot \mathbb{P}(X_{2n-2k}=0)=u_{2k}\cdot u_{2n-2k}.\end{array}$$ $\square$

2.3 首达概率公式

2.3.2

利用母函数的方法计算 $\mathbb{P}(T_1<\infty )$. 证明. 显然 $T_1$ 取值于 $+\infty$ 与正奇数全体, 对 $n\in {\mathbb{Z}}_{+}$, 记 $f_{2n-1}=\mathbb{P}(T_1=2n-1),g_{2n-1}=\mathbb{P}(X_{2n-1}=1)$. 对任意正整数 $n$, 当 $X_{2n-1}=1$ 时, $T_1⩽2n-1$; 而当 $T_1=2n-1$ 时, $X_{2n-1}=1$, 因此利用定理 2.3.1 可知$$g_{2n-1}=\mathbb{P}(X_{2n-1}=1)=\sum _{r=1}^n\mathbb{P}(X_{2n-1}=1,T_1=2r-1)=\sum _{r=1}^n\mathbb{P}(X_{2n-2r}^{\prime }=0,T_1=2r-1)=\sum _{r=1}^n{f}_{2r-1}{u}_{2n-2r}.$$ 在等式两侧同时乘以 $t^{2n-1}$ 后对 $n$ 求和得$$\sum _{n=1}^{\infty }{g}_{2n-1}{t}^{2n-1}=\sum _{n=1}^{\infty }\sum _{r=1}^n{f}_{2r-1}{t}^{2r-1}\cdot u_{2n-2r}{t}^{2n-2r}=\left(\sum _{r=1}^{\infty }{f}_{2r-1}{t}^{2r-1}\right)\cdot \left(\sum _{n=r}^{\infty }{u}_{2n-2r}{t}^{2n-2r}\right),$$即 $G(t)=F(t)\cdot U(t)$, 其中 $G,F,U$ 分别为 $(g_n{)}_{n⩾0},(f_n{)}_{n⩾0},(u_n{)}_{n⩾0},$ 的母函数 (注意到 $g_0=f_0=0$). 事实上, 可计算得$$g_{2n-1}=\frac{(2n-1)!}{(n-1)!\cdot n!}\cdot p^n{q}^{n-1}=\frac{1}{2q}{u}_{2n},G(t)=\frac{1}{2qt}\sum _{n=1}^{\infty }{u}_{2n}{t}^{2n}=\frac{U(t)-1}{2qt},$$因此$$F(t)=\frac{G(t)}{U(t)}=\frac{U(t)-1}{2qtU(t)}=\frac{1-\sqrt{1-4pq{t}^2}}{2qt},$$从而$$\mathbb{P}(T_1<\infty )=\sum _{n=1}^{\infty }{f}_{2n-1}=\underset{t\to 1^{-}}{\lim }F(t)=\frac{1-|p-q|}{2q}.$$ $\square$

2.3.4

令 ${\sigma }_{2n}$ 是 $0$ 到 $2n$ 时段正的时段数, 即$${\sigma }_{2n}:=\sum _{k=1}^{2n}{1}_{\{X_{k-1}⩾0,X_k⩾0\}},$$称为随机游动在正半轴上的逗留时, 自然 ${\sigma }_{2n}$ 也必是偶数. 证明:$$\mathbb{P}({\sigma }_{2n}=2k)=u_{2k}\cdot u_{2n-2k},0⩽k⩽n.$$   此题结论对于非对称情况是错误的, 例如 $\mathbb{P}({\sigma }_4=2)=pq$, 但 $u_2^2=4p^2{q}^2$. 下面仅证明对称情况. 证明. 在证明之前, 补充定义 $n<0$ 时, $u_{2n}=0$, 那么在这种定义下, 对任意正整数 $n$, $m$, 只要 $m⩾n$, 都有首达概率公式$$u_{2n}=\sum _{r=1}^m{f}_{2r}\cdot u_{2n-2r}.$$ 下面通过归纳证明. $\stackrel{◯}{1}n=2$ 时, 由上述评注的计算知成立. $\stackrel{◯}{2}$ 假设结论对不大于 $n(⩾2)$ 的情形均成立, 下证 $n+1$ 的情形. 首先, 对于 ${\sigma }_{2n+2}=2n+2$ 的格点轨道, 将其关于 $\text{x}$ 轴对称可与 ${\sigma }_{2n+2}=0$ 的格点轨道一一对应, 故 $\mathbb{P}({\sigma }_{2n+2}=0)=\mathbb{P}({\sigma }_{2n+2}=2n+2)$, 加之练习 2.2.10 表明$$\sum _{k=0}^{n+1}{u}_{2k}\cdot u_{2n+2-2k}=1,$$故仅需证 $\mathbb{P}({\sigma }_{2n+2}=2k)=u_{2k}\cdot u_{2n+2-2k}$ 对 $1⩽k⩽n$ 成立即可. 此时由 $0<{\sigma }_{2n+2}<2n+2$ 知 $T<2n+2$. 当 $T=2r(1⩽r⩽n)$ 时, ${\sigma }_{2n+2}=2k$ 可由 $X$ 在 $0$ 至 $2r$ 时刻恒非负, 而在 $2r$ 至 $2n+2$ 时刻有 $2k-2r$ 个正时段数; 或在 $0$ 至 $2r$ 时刻恒非正, 而在 $2r$ 至 $2n+2$ 时刻有 $2k$ 个正时段数实现. 因此利用随机游动的独立性, 归纳假设与首达概率公式可知$$\begin{array}{rl}\mathbb{P}({\sigma }_{2n+2}=2k)=& \sum _{r=1}^n{f}_{2r}\cdot (\frac{1}{2}\mathbb{P}({\sigma }_{2n-2r+2}=2k-2r)+\frac{1}{2}\mathbb{P}({\sigma }_{2n-2r+2}=2k))\\ =& \frac{1}{2}\sum _{r=1}^n{f}_{2r}\cdot (u_{2k-2r}\cdot u_{2n-2k+2}+u_{2k}\cdot u_{2n-2k-2r+2})\\ =& \frac{1}{2}{u}_{2n-2k+2}\sum _{r=1}^n{f}_{2r}\cdot u_{2k-2r}+\frac{1}{2}{u}_{2k}\sum _{r=1}^n{f}_{2r}\cdot u_{2n-2k-2r+2}\\ =& \frac{1}{2}{u}_{2n-2k+2}\cdot u_{2k}+\frac{1}{2}{u}_{2k}\cdot u_{2n-2k+2}=u_{2k}\cdot u_{2(n+1)-2k},\end{array}$$归纳成立. $\square$

2.4 差分方程

2.4.1

试求解非对称情况下的差分方程. 证明. 先求解 $g_x=p{g}_{x+1}+q{g}_{x-1}$. 由 $g_{x+1}-g_x=\frac{q}{p}(g_x-g_{x-1})$ 知对 $0⩽x⩽a+b$, $$g_x=g_0+\sum _{k=0}^{x-1}(g_{k+1}-g_k)=1+(g_1-g_0)\sum _{k=0}^{x-1}(\frac{q}{p}{)}^x=1+(g_1-g_0)\cdot \frac{1-(\frac{q}{p}{)}^x}{1-\frac{q}{p}}.$$利用 $g_{a+b}=0$ 解得$$g_1-g_0=-\frac{1-\frac{q}{p}}{1-(\frac{q}{p}{)}^{a+b}},$$从而$$g_x=1-\frac{1-(\frac{q}{p}{)}^x}{1-(\frac{q}{p}{)}^{a+b}}.$$ 再求解 $E_x=p{E}_{x+1}+q{E}_{x-1}+1$. 由 $E_{x+1}-E_x+\frac{1}{p-q}=\frac{q}{p}(E_x-E_{x-1}+\frac{1}{p-q})$ 知对 $0⩽x⩽a+b$,$$E_{x+1}-E_x=\left(\frac{q}{p}{)}^x\right(E_1-E_0+\frac{1}{p-q})-\frac{1}{p-q},$$从而$$E_x=E_0+\sum _{k=0}^{x-1}(E_{k+1}-E_k)=(E_1-E_0+\frac{1}{p-q})\cdot \frac{1-(\frac{q}{p}{)}^x}{1-\frac{q}{p}}-\frac{x}{p-q}.$$利用 $E_{a+b}=0$ 解得$$E_1-E_0+\frac{1}{p-q}=\frac{a+b}{p-q}\cdot \frac{1-\frac{q}{p}}{1-(\frac{q}{p}{)}^{a+b}},$$因此$$E_x=\frac{a+b}{p-q}\cdot \frac{1-(\frac{q}{p}{)}^x}{1-(\frac{q}{p}{)}^{a+b}}-\frac{x}{p-q}.$$ $\square$

2.5 随机游动的马氏性

2.6 停时与强马氏性

2.6.1	验证引理 2.6.1 及下面的事实. (1) 当 $T$ 是一个固定时间 $n$ 时, $T$ 是停时且 ${\mathcal{F}}_T={\mathcal{F}}_n$. (2) 设 $T,S$ 是停时, 那么 $T\wedge S$ 也是. (3) 设 $T,S$ 是停时且 $S⩽T$, 那么 ${\mathcal{F}}_S\subset {\mathcal{F}}_T$. 证明. 引理 2.6.1: ${\mathcal{F}}_T$ 包含全集、空集以及对可列并封闭是显然的, 再利用 $B^c\cap \{T⩽n\}=\{T⩽n\}\backslash (B\cap \{T⩽n\})$ 与停时的定义可证明 ${\mathcal{F}}_T$ 对取补集封闭. (1) 对任意自然数 $k$, $\{T⩽k\}=\{n⩽k\}$, 不是空集就是全集, 总属于 ${\mathcal{F}}_k$, 因此 $T$ 是停时. 对任意 $B\in \mathcal{F}$ 与 $B\cap \{T⩽k\}\in {\mathcal{F}}_k,\forall k⩾0\iff B\in {\mathcal{F}}_k,\forall k⩾n\iff B\in {\mathcal{F}}_n$. (2) 对任意自然数 $n$, $\{T\wedge S⩽n\}=\{T⩽n\}\cap \{S⩽n\}$, 由此易证. (3) 任取 $B\in {\mathcal{F}}_S$, 则对任意自然数 $n$, 由 $\{T⩽n\}\in {\mathcal{F}}_n$ 知 $B\cap \{T⩽n\}=(B\cap \{S⩽n\})\cap \{T⩽n\}\in {\mathcal{F}}_n$, 故 $B\in {\mathcal{F}}_T$. $\square$
2.6.2	验证: (1) 在 $T$ 是停时的定义与 ${\mathcal{F}}_T$ 的定义中把 $\{T⩽n\}$ 改为 $\{T=n\}$ 是一样的. (2) 停时 $T$ 是 ${\mathcal{F}}_T$ 可测的. (3) 对 $y\in \mathbb{Z}$, 其进入时与首中时是停时. (4) 随机变量 $Y$ 是 ${\mathcal{F}}_T$ 可测的当且仅当对任何 $n$, $Y{1}_{\{T=n\}}$ 是 ${\mathcal{F}}_n$ 可测的. 证明. (1) 对 $B\in \mathcal{F}$, 为证明 $B\cap \{T⩽n\}\in {\mathcal{F}}_n,\forall n⩾0\iff B\cap \{T=n\}\in {\mathcal{F}}_n,\forall n⩾0$, 只需利用$$\begin{array}{rl}B\cap \{T⩽n\}=\bigcup _{k=0}^n(B\cap \{T=k\})& ,\\ B\cap \{T=0\}=B\cap \{T⩽0\}& ,\\ B\cap \{T=n\}=(B\cap \{T⩽n\})\backslash (B\cap \{T⩽n-1\})(n⩾1)& \end{array}$$与 ${\mathcal{F}}_n$ 是 $\sigma$-域即可. 为证明 $\{T⩽n\}\in {\mathcal{F}}_n,\forall n⩾0\iff \{T=n\}\in {\mathcal{F}}_n,\forall n⩾0$, 在上述过程中令 $B=\Omega$ 即可. (2) 由于 $T$ 取值于 ${\mathbb{Z}}_{+}\cup \{+\infty \}$, 故仅需证 $\forall k⩾0$, $\{T⩽k\}\in {\mathcal{F}}_T$, 即 $\forall n⩾0$, $\{T⩽k\}\cap \{T⩽n\}\in {\mathcal{F}}_n$. 根据自然流的性质与 $T$ 是停时可知 $\{T⩽k\}\cap \{T⩽n\}=\{T⩽(k\wedge n)\}\in {\mathcal{F}}_{k\wedge n}\subseteq {\mathcal{F}}_n$, 即证. (3) 记 $y$ 的进入时与首中时分别为 ${\tau }_y,T_y$. 对任意 $n⩾0$, $$\{{\tau }_y⩽n\}=\bigcup _{k=0}^n\{X_k=y\}\in {\mathcal{F}}_n,\{T_y⩽n\}=\bigcup _{k=1}^n\{X_k=y\}\in {\mathcal{F}}_n,$$故 ${\tau }_y,T_y$ 都是停时. (4) 由 (1) 可知 ${\mathcal{F}}_T=\{B\in \mathcal{F}:B\cap \{T=n\}\in F_n,\forall n⩾0\}$. 充分性: 对任意 Borel 集 $A\subseteq \mathbb{R}$ 与 $n⩾0$, 由 $Y{1}_{\{T=n\}}$ 是 ${\mathcal{F}}_n$ 可测的知 $\{Y\in A\}\cap \{T=n\}=\{Y{1}_{\{T=n\}}\in A\}\cap \{T=n\}\in {\mathcal{F}}_n$, 故 $\{Y\in A\}\in {\mathcal{F}}_T$, 从而 $Y$ 是 ${\mathcal{F}}_T$ 可测的. 必要性: 对任意 Borel 集 $A\subseteq \mathbb{R}$ 与 $n⩾0$, 由 $T$ 是停时知 $\{T\ne n,0\in A\}\in {\mathcal{F}}_n$, 从而由 $Y$ 是 ${\mathcal{F}}_T$ 可测的知$$\{Y{1}_{\{T=n\}}\in A\}=(\{Y\in A\}\cap \{T=n\})\cup \{T\ne n,0\in A\}\in {\mathcal{F}}_n,$$故 $Y{1}_{\{T=n\}}$ 是 ${\mathcal{F}}_n$ 可测的. $\square$
2.6.3	思考: 设 $T$ 是停时, 是否 ${\mathcal{F}}_T=\sigma (X_{n\wedge T}:n⩾0)$? 证明. 记 $\mathcal{G}=\sigma (X_{n\wedge T}:n⩾0)$. 先证明 $\mathcal{G}\subseteq {\mathcal{F}}_T$, 只需证对任意 $n⩾0$, $X_{n\wedge T}$ 是 ${\mathcal{F}}_T$ 可测的, 再由练习 2.6.2(4), 只需证对任意 $m⩾0$, $X_{n\wedge T}{1}_{\{T=m\}}$ 是 ${\mathcal{F}}_m$ 可测的. 事实上, $X_{n\wedge T}{1}_{\{T=m\}}=X_{n\wedge m}{1}_{\{T=m\}}$, 而 $X_{n\wedge m}$ 是 ${\mathcal{F}}_{n\wedge m}\subseteq {\mathcal{F}}_m$ 可测的, $1_{\{T=m\}}$ 是 ${\mathcal{F}}_m$ 可测的, 即证. 再证明 ${\mathcal{F}}_T\subseteq \mathcal{G}$. 先通过归纳证明对任意 $n⩾0$, 有 $\{T=n\}\in \mathcal{G}$. $\stackrel{◯}{1}n=0$ 时, $\{T=0\}=\{T⩽0\}\in {\mathcal{F}}_0=\sigma (X_0)=\sigma (X_{0\wedge T})\subseteq \mathcal{G}$. $\stackrel{◯}{2}$ 假设结论对不大于 $n(⩾0)$ 的情形均成立, 下证 $n+1$ 的情形. 由 $\{T=n+1\}\in {\mathcal{F}}_{n+1}=\sigma (X_0,\cdots ,X_{n+1})$ 知存在一个 Borel 集 $A\subseteq {\mathbb{R}}^{n+2}$ 使得 $\{T=n+1\}=\{\omega \in \Omega |(X_0(\omega ),\cdots ,X_{n+1}(\omega ))\in A\}$. 由归纳假设知$$\{T⩾n+1\}\cup \{T=\infty \}=\{T⩽n{\}}^c=(\bigcup _{k=0}^n\{T=k\}{)}^c\in \mathcal{G},$$因而$$\begin{array}{rl}\{T=n+1\}=& \{\omega \in \Omega |(X_0(\omega ),\cdots ,X_{n+1}(\omega ))\in A\}\cap (\{T⩾n+1\}\cup \{T=\infty \})\\ =& \{\omega \in \Omega |(X_0(\omega ),\cdots ,X_{n+1}(\omega ))\in A,T(\omega )⩾n+1\text{或}T(\omega )=\infty \}\\ =& \{\omega \in \Omega |(X_{0\wedge T}(\omega ),\cdots ,X_{(n+1)\wedge T}(\omega ))\in A,T(\omega )⩾n+1\text{或}T(\omega )=\infty \}\\ =& \{\omega \in \Omega |(X_{0\wedge T}(\omega ),\cdots ,X_{(n+1)\wedge T}(\omega ))\in A\}\cap (\{T⩾n+1\}\cup \{T=\infty \})\in \mathcal{G},\end{array}$$归纳成立. 此外, $\{T=\infty \}=(\bigcup _{n=0}^{\infty }\{T=n\}{)}^c\in \mathcal{G}$. 现在, 任取 $B\in {\mathcal{F}}_T$. 任取 $n⩾0$, 则 $B\cap \{T=n\}\in {\mathcal{F}}_n=\sigma (X_0,\cdots ,X_n)$, 从而$$\begin{array}{rl}B\cap \{T=n\}\in & \sigma (X_0,\cdots ,X_n)\cap \{T=n\}\\ =& \sigma (X_0\cdot 1_{\{T=n\}},\cdots ,X_n\cdot 1_{\{T=n\}})\\ =& \sigma (X_{0\wedge T}\cdot 1_{\{T=n\}},\cdots ,X_{n\wedge T}\cdot 1_{\{T=n\}})\\ =& \sigma (X_{0\wedge T},\cdots ,X_{n\wedge T})\cap \{T=n\}\subseteq \mathcal{G}.\end{array}$$此外, $B\cap \{T=\infty \}=B\backslash (\bigcup _{n=0}^{\infty }\{T=n\})\in \sigma (X_n:n⩾0)$, 重复上述过程可以证明 $B\cap \{T=\infty \}\in \mathcal{G}$. 综上, $B=\bigcup _{n=0}^{\infty }(B\cap \{T=n\})\cup (B\cap \{T=\infty \})\in \mathcal{G}$, 证毕. $\square$

2.7 马氏性的应用

2.7.2

当 $p<q$ 时, 定义 $\xi ={\sup }_n{X}_n$. 证明 ${\mathbb{P}}^0(\xi <\infty )=1$, 并求 $\xi$ 的分布. 证明. 对任意正整数 $k$, $\xi ⩾k\iff \exists n\in {\mathbb{Z}}_{+}\text{ s.t. }{X}_n⩾k\iff {\tau }_k<+\infty$, 故由 2.7 节的结论, ${\mathbb{P}}^0(\xi ⩾k)={\mathbb{P}}^0({\tau }_k<+\infty )={\mathbb{P}}^0({\tau }_1<+\infty {)}^k=(\frac{p}{q}{)}^k$. 由此可知 ${\mathbb{P}}^0(\xi <\infty )=1-\underset{k\to +\infty }{\lim }{\mathbb{P}}^0(\xi ⩾k)=1$. 此外, 易见 $\xi$ 只取非负整数值, 且对任意 $k⩾0$, ${\mathbb{P}}^0(\xi =k)={\mathbb{P}}^0(\xi ⩾k)-{\mathbb{P}}^0(\xi ⩾k+1)=(1-\frac{p}{q})(\frac{p}{q}{)}^k$. $\square$

3鞅及其应用

3.1 鞅与鞅基本定理

3.1.1	设 $(X_n)$ 是鞅, 证明: (1) 对任何 $m>n$, $\mathbb{E}(X_m|{\mathcal{G}}_n)=X_n$; (2) $(|X_n|)$ 与 $(X_n^2)$ 是下鞅. 证明. (1) 利用 ${\mathcal{G}}_n\subseteq {\mathcal{G}}_{n+1}\subseteq \cdots \subseteq {\mathcal{G}}_{m-1}$ 可知$$\mathbb{E}(X_m|{\mathcal{G}}_n)=\mathbb{E}(\mathbb{E}(X_m|{\mathcal{G}}_{m-1})|{\mathcal{G}}_n)=\mathbb{E}(X_{m-1}|{\mathcal{G}}_n)=\cdots =\mathbb{E}(X_{n+1}|{\mathcal{G}}_n)=X_n.$$ (2) 对凸函数 $f(x)=|x|$ 与 $g(x)=x^2$ 使用条件 Jensen 不等式易证. $\square$
3.1.2	设 $X,Y$ 是独立可积随机变量, $\mathbb{E}Y=0$. 证明: (1) $X,X+Y$ 是鞅. 这里是指它们按此顺序排列是鞅. (2) $\mathbb{E}|X+Y|⩾\mathbb{E}|X|$. 证明. (1) 由 $X,Y$ 可积知 $X+Y$ 可积; $X,Y$ 独立表明 $\mathbb{E}(Y|X)=\mathbb{E}Y=0$, 故 $\mathbb{E}(X+Y|X)=\mathbb{E}(X|X)=X$. (2) 由 (1) 与练习 3.1.1(2) 知 $|X|,|X+Y|$ 是下鞅, 即 $\mathbb{E}(|X+Y|||X|)⩾\mathbb{E}|X|$, 对两侧同时取数学期望即证. $\square$
3.1.3	一个袋子中在时刻 $0$ 有一个红球与一个白球. 随机地从袋子中取一个球, 然后将它放回并放入一个相同颜色的球, 无限地重复此过程. 记 $X_n$ 为 $n$ 次后袋中白球数与总球数之比. 证明: $\{X_n\}$ 是鞅. 证明. $\{X_n\}$ 取值于 $[0,1]$, 显然可积. 由题意, 每次取球后袋中球数加 $1$, 因而 $n$ 时刻袋中有 $n+2$ 个球, 其中白球 $(n+2)X_n$ 个, 红球 $(n+2)(1-X_n)$ 个, 故对任意 $n⩾0$, $$\mathbb{E}(X_{n+1}|{\mathcal{F}}_n)=X_n\cdot \frac{(n+2)X_n+1}{n+3}+(1-X_n)\cdot \frac{(n+2)X_n}{n+3}=X_n,$$故 $\{X_n\}$ 是鞅. $\square$
3.1.4	证明: 如果 $(X_n)$ 关于某个适应流是鞅, 那么它关于自然流是鞅. 证明. 设 $(X_n)$ 关于适应流 $({\mathcal{G}}_n)$ 是鞅, 其对应的自然流是 $({\mathcal{F}}_n)$. $(X_n)$ 关于 $({\mathcal{F}}_n)$ 的适应性和可积性显然成立. 任取 $n⩾0,0⩽k⩽n$, 由 $X_k$ 关于 ${\mathcal{G}}_n$ 可测知 ${\mathcal{F}}_n=\sigma (X_0,\cdots ,X_n)\subseteq {\mathcal{G}}_n$, 因此 $\mathbb{E}(X_{n+1}|{\mathcal{F}}_n)=\mathbb{E}(\mathbb{E}(X_{n+1}|{\mathcal{G}}_n)|{\mathcal{F}}_n)=\mathbb{E}(X_n|{\mathcal{F}}_n)=X_n$, 故 $(X_n)$ 关于自然流 $({\mathcal{F}}_n)$ 是鞅. $\square$
3.1.5	设 $\{X_n:n⩾0\}$ 是 $({\mathcal{F}}_n)$ 适应的可积随机序列, 满足$$\mathbb{E}(X_{n+1}|{\mathcal{F}}_n)=\alpha X_n+\beta X_{n-1},n⩾1,$$其中 $\alpha >0,\beta >0$. 问 $\alpha ,\beta ,c$ 满足什么条件时, 序列 $Y_n:=c{X}_n+X_{n-1},n⩾1$ 是鞅? 证明. $Y_n$ 关于 $({\mathcal{F}}_n)$ 的适应性和可积性是显然的, 因此 $\{Yn:n⩾1\}$ 是鞅当且仅当对任意 $n⩾1$, $$c{X}_n+X_{n-1}=Y_n=\mathbb{E}(Y_{n+1}|{\mathcal{F}}_n)=\mathbb{E}(c{X}_{n+1}+X_n|{\mathcal{F}}_n)=c(\alpha X_n+\beta X_{n-1})+X_n=(\alpha c+1)X_n+\beta c{X}_{n-1},$$当且仅当 $\alpha c+1=c,\beta c=1$, 即 $\alpha +\beta =1,c=\frac{1}{1-\alpha }$. $\square$

3.2 鞅的应用: Doob 停止定理

3.2.1	证明: 如果对任何有界停时 $T$ 有 $\mathbb{E}{X}_T=\mathbb{E}{X}_0$, 则 $(X_n)$ 是鞅. 证明. 设 $(X_n)$ 可积, 对应的自然流为 $({\mathcal{F}}_n)$. 对任意 $n⩾0$ 与 $A\in {\mathcal{F}}_n$, 只需证明 $\mathbb{E}(X_{n+1}{1}_A)=\mathbb{E}(X_n{1}_A)$. 先令 $T=n+1_A$, 易见对任意 $k⩾0$, $\{T⩽k\}$ 只可能是 $\varnothing$ 或 $A^c$ 或 $\Omega$, 均属于 ${\mathcal{F}}_n$, 因而 $T$ 是有界停时. 易见 $X_T=X_n{1}_{A^c}+X_{n+1}{1}_A$, 因此题意表明 $\mathbb{E}(X_n{1}_{A^c})+\mathbb{E}(X_{n+1}{1}_A)=\mathbb{E}{X}_0$. 再令 $T=n$, 练习 2.6.1(1) 表明 $T$ 是有界停时, 从而 $\mathbb{E}{X}_n=\mathbb{E}{X}_0$. 结合上述两式即证. $\square$
3.2.2	(Wald 等式) 设 $\{{\xi }_n:n⩾1\}$ 是可积独立同分布随机序列且 $\mathbb{E}{\xi }_1=0$, $T$ 是可积停时, 证明: $\mathbb{E}\sum _{n=1}^T{\xi }_n=0$. 证明. 对 $n⩾1$, 记 $S_n=\sum _{k=1}^n{\xi }_k$, 易见 $\sum _{n=1}^T{\xi }_n=S_T=\sum _{n=1}^{\infty }{\xi }_n{1}_{\{T⩾n\}}$. 由于 $\{{\xi }_n\}$ 独立同分布, 故 ${\xi }_n$ 与 $\sigma ({\xi }_1,\cdots ,{\xi }_{n-1})$ 独立; 而 $\{T⩾n\}=\{T⩽n-1{\}}^c\in \sigma ({\xi }_1,\cdots ,{\xi }_{n-1})$, 故 ${\xi }_n$ 与 $1_{\{T⩾n\}}$ 独立. 现在, 利用 $\{{\xi }_n\}$ 可积, 独立同分布, $T$ 可积与 Fubini 定理可知$$\mathbb{E}(\sum _{n=1}^{\infty }|{\xi }_n|1_{\{T⩾n\}})=\sum _{n=1}^{\infty }\mathbb{E}(|{\xi }_n|1_{\{T⩾n\}})=\mathbb{E}|{\xi }_1|\sum _{n=1}^{\infty }\mathbb{P}(T⩾n)=\mathbb{E}|{\xi }_1|\cdot \mathbb{E}T<+\infty ,$$从而由控制收敛定理知$$\mathbb{E}{S}_T=\sum _{n=1}^{\infty }\mathbb{E}({\xi }_n{1}_{\{T⩾n\}})=\mathbb{E}{\xi }_1\cdot \mathbb{E}T=0.$$ $\square$
3.2.3	设 ${\xi }_n$ 是独立同分布随机序列, $\mathbb{E}{\xi }_n=0,\mathbb{E}{\xi }_n^2=1$, 令 $X_n:=\sum _{i=1}^n{\xi }_i$, $T$ 是 $\{X_n\}$ 的可积停时, 证明: $\mathbb{E}{X}_T^2=\mathbb{E}T$. 证明. 令 $Y_n=X_n^2-n$, 容易从题意看出 $(Y_n)$ 的可积性与适应性. 对任意 $n\in {\mathbb{Z}}_{+}$, 类似练习 3.2.2 可证 ${\xi }_{n+1}$ 与 ${\mathcal{F}}_n$ 独立, 故$$\mathbb{E}(Y_{n+1}|{\mathcal{F}}_n)=\mathbb{E}(Y_n+2X_n{\xi }_{n+1}+{\xi }_{n+1}^2-1|{\mathcal{F}}_n)=Y_n+2X_n\mathbb{E}{\xi }_{n+1}+\mathbb{E}{\xi }_{n+1}^2-1=Y_n,$$因此 $(Y_n)$ 是鞅. 由于 $T$ 是停时, 故 $(Y_{n\wedge T})$ 也是鞅, 从而对任意 $n\in {\mathbb{Z}}_{+}$, $\mathbb{E}{Y}_{n\wedge T}=\mathbb{E}{Y}_1=\mathbb{E}{X}_1^1-1=0$, 即$$\mathbb{E}{X}_{n\wedge T}^2=\mathbb{E}(n\wedge T).\text{\hspace{1em}(†)}$$ 由于 $T$ 几乎处处有限且可积, 故由单调收敛定理知 $\underset{n\to \infty }{\lim }\mathbb{E}(n\wedge T)=\mathbb{E}T$, 结合 Fatou 引理知 $\mathbb{E}{X}_T^2⩽\underset{n\to \infty }{\mathrm{liminf}}\mathbb{E}{X}_{n\wedge T}^2=\mathbb{E}T<+\infty$, 即 $X_T\in L^2$. 利用控制收敛定理可得 $\underset{n\to \infty }{\lim }\mathbb{E}(X_T^2{1}_{\{T>n\}})=0$, 又注意到$$X_{n\wedge T}^2=X_T^2{1}_{\{T⩽n\}}+X_n^2{1}_{\{T>n\}}=X_T^2-X_T^2{1}_{\{T>n\}}+X_n^2{1}_{\{T>n\}},$$结合 $(†)$ 式, 为证题述结论, 只需再证明 $\underset{n\to \infty }{\lim }\mathbb{E}(X_n^2{1}_{\{T>n\}})=0$ 即可. 从 $\mathbb{E}((X_T-X_n)1_{\{T>n\}}|{\mathcal{F}}_n)=0$ 开始. 任取 $A\in {\mathcal{F}}_n$, 由 $X_T=\sum _{n=1}^{\infty }{\xi }_n{1}_{\{T⩾n\}}$ 可知$$(X_T-X_n)1_{\{T>n\}}=\sum _{k=n+1}^{\infty }{\xi }_k{1}_{\{T⩾k\}},$$与练习 3.2.2 类似, 对 $k⩾n+1$, ${\xi }_k$ 与 ${\mathcal{F}}_{k-1}\supseteq {\mathcal{F}}_n$ 独立, 故与 $1_{\{T⩾k\}}$ 和 $A$ 均独立, 从而利用 Fubini 定理可知$$\mathbb{E}(\sum _{k=n+1}^{\infty }|{\xi }_k|1_{\{T⩾k\}}{1}_A)=\sum _{k=n+1}^{\infty }\mathbb{E}(|{\xi }_k|1_{\{T⩾k\}}{1}_A)⩽\mathbb{E}|{\xi }_1|\sum _{k=n+1}^{\infty }\mathbb{P}(T⩾k)⩽\mathbb{E}|{\xi }_1|\cdot \mathbb{E}T<+\infty 。$$再利用控制收敛定理就有$$\mathbb{E}((X_T-X_n)1_{\{T>n\}}{1}_A)=\sum _{k=n+1}^{\infty }\mathbb{E}({\xi }_k{1}_{\{T⩾k\}}{1}_A)=\sum _{k=n+1}^{\infty }\mathbb{E}{\xi }_k\cdot \mathbb{E}(1_{\{T⩾k\}}{1}_A)=0,$$即证 $\mathbb{E}((X_T-X_n)1_{\{T>n\}}|{\mathcal{F}}_n)=0$. 现在, 我们有$$\mathbb{E}(X_n(X_T-X_n)1_{\{T>n\}})=\mathbb{E}(\mathbb{E}(X_n(X_T-X_n)1_{\{T>n\}}|{\mathcal{F}}_n))=\mathbb{E}(X_n\mathbb{E}((X_T-X_n)1_{\{T>n\}}|{\mathcal{F}}_n))=0,$$因此$$\mathbb{E}(X_T^2{1}_{\{T>n\}})=\mathbb{E}((X_n+(X_T-X_n){)}^2{1}_{\{T>n\}})=\mathbb{E}(X_n^2{1}_{\{T>n\}})+\mathbb{E}((X_T-X_n{)}^2{1}_{\{T>n\}})⩾\mathbb{E}(X_n^2{1}_{\{T>n\}})⩾0,$$即证 $\underset{n\to \infty }{\lim }\mathbb{E}(X_n^2{1}_{\{T>n\}})=0$. $\square$
3.2.4	对于对称简单随机游动, 求 ${\mathbb{P}}^0(T_3<T_{-3}<T_6)$. 证明. 利用 3.2 节中结论可知$${\mathbb{P}}^0(T_3<T_{-3}<T_6)={\mathbb{P}}^0(T_3<T_{-3})-{\mathbb{P}}^0(T_3<T_{-3},T_{-3}⩾T_6)={\mathbb{P}}^0(T_3<T_{-3})-{\mathbb{P}}^0(T_6<T_{-3})=\frac{1}{2}-\frac{1}{3}=\frac{1}{6}.$$ $\square$
3.2.5	对于非对称情况, 求输光概率与持续时间的期望及母函数. 证明. 先求输光概率 $q_x:={\mathbb{P}}^x(T_0<T_a)$. 此时 $p\ne q$, 考虑指数鞅 $\{(\frac{q}{p}{)}^{X_n}\}$, 我们有 ${\mathbb{E}}^x((\frac{q}{p}{)}^{X_{n\wedge T}})={\mathbb{E}}^x((\frac{q}{p}{)}^{X_0})=(\frac{q}{p}{)}^x$. 由于 $n\wedge T⩽T⩽T_a$, $X_{n\wedge T}\in [0,a]$, 故令 $n\to +\infty$, 由控制收敛定理得$$(\frac{q}{p}{)}^x={\mathbb{E}}^x(\left(\frac{q}{p}{)}^{X_T}\right)={\mathbb{E}}^x\left(\right(\frac{q}{p}{)}^{X_T}|T_0<T_a)+{\mathbb{E}}^x\left(\right(\frac{q}{p}{)}^{X_T}|T_0>T_a)=q_x\cdot 1+(1-q_x)\cdot (\frac{q}{p}{)}^a,$$解得$$q_x=\frac{(\frac{q}{p}{)}^x-(\frac{q}{p}{)}^a}{1-(\frac{q}{p}{)}^a}.$$ 再求持续时间 $T$ 的期望. 对任意 $n⩾0$, 令 $Y_n=X_n-n(p-q)$, 显然可积且关于 $({\mathcal{F}}_n)$ 适应, 又$$\mathbb{E}(Y_{n+1}|{\mathcal{F}}_n)=\mathbb{E}(X_n+{\xi }_{n+1}-(n+1)(p-q)|{\mathcal{F}}_n)=X_n+\mathbb{E}{\xi }_{n+1}-(n+1)(p-q)=Y_n,$$因此 $(Y_n)$ 是鞅, 从而 ${\mathbb{E}}^x{Y}_{n\wedge T}={\mathbb{E}}^x{Y}_0={\mathbb{E}}^x{X}_0=x$, 即 ${\mathbb{E}}^x{X}_{n\wedge T}=x+(p-q){\mathbb{E}}^x(n\wedge T)$. 由于 $T$ 几乎处处有限, $X_{n\wedge T}\in [0,a]$, 在上式中令 $n\to \infty$, 利用控制收敛定理可得 ${\mathbb{E}}^x{X}_T=x+(p-q){\mathbb{E}}^{x}T$. 又$${\mathbb{E}}^x{X}_T={\mathbb{E}}^x(X_T|T_0<T_a)+{\mathbb{E}}^x(X_T|T_0>T_a)=a{\mathbb{P}}^x(T_0>T_a),$$故$$E^{x}T=\frac{a}{p-q}(1-q_x)-\frac{x}{p-q}=\frac{a-x}{p-q}-\frac{a((\frac{q}{p}{)}^x-(\frac{q}{p}{)}^a)}{(p-q)(1-(\frac{q}{p}{)}^a)}.$$ 最后求 $T$ 的母函数. 由简单随机游动的空间平移不变性与 3.2 节中的结论可知$${\mathbb{E}}^x(t^{T_0})={\mathbb{E}}^0(t^{T_{-x}})=(\frac{1-\sqrt{1-4pq{t}^2}}{2pt}{)}^x,{\mathbb{E}}^x(t^{T_a})={\mathbb{E}}^0(t^{T_{a-x}})=(\frac{1-\sqrt{1-4pq{t}^2}}{2qt}{)}^{a-x},$$因此$$\begin{array}{rl}{\mathbb{E}}^x(t^T)=& {\mathbb{E}}^x(t^T|T_0<T_a)+{\mathbb{E}}^x(t^T|T_0>T_a)\\ =& q_x{\mathbb{E}}^x(t^{T_0})+(1-q_x){\mathbb{E}}^x(t^{T_a})\\ =& \frac{(\frac{q}{p}{)}^x-(\frac{q}{p}{)}^a}{1-(\frac{q}{p}{)}^a}(\frac{1-\sqrt{1-4pq{t}^2}}{2pt}{)}^x+\frac{1-(\frac{q}{p}{)}^x}{1-(\frac{q}{p}{)}^a}(\frac{1-\sqrt{1-4pq{t}^2}}{2qt}{)}^{a-x}.\end{array}$$ $\square$

3.3 鞅的应用: 不等式与强大数律

3.3.3

设 $\{Y_n\}$ 是独立同分布随机序列, 以概率 $p$ 与 $q$ 分别取值 $\frac{1}{2}$ 与 $\frac{3}{2}$. 记 $X_n:=Y_1{Y}_2\cdots Y_n$. (1) 求 $p$ 的范围使 $X_n$ 是下鞅, 鞅, 上鞅; (2) 求 $p$ 的范围使 $\underset{n\to \infty }{\lim }\mathbb{E}{X}_n=\infty$; (3) 求 $p$ 的范围使 $X_n\text{ a.s. }$ 趋于零. 证明. (1) 对任意 $n\in {\mathbb{Z}}_{+}$,$$\mathbb{E}(X_{n+1}|{\mathcal{F}}_n)=\mathbb{E}(X_n\cdot Y_{n+1}|{\mathcal{F}}_n)=X_n\mathbb{E}{Y}_{n+1}=(\frac{3}{2}-p)X_n,$$鉴于 $X_n$ 恒正, 因此 $p\in [0,\frac{1}{2})$ 时为下鞅, $p=\frac{1}{2}$ 时为鞅, $p\in (\frac{1}{2},1]$ 时为上鞅. (2) 由于 $\{Y_n\}$ 独立同分布, 故 $\mathbb{E}{X}_n=(\mathbb{E}{Y}_1{)}^n=(\frac{3}{2}-p{)}^n$, 显然 $\underset{n\to \infty }{\lim }\mathbb{E}{X}_n=\infty$ 当且仅当 $p\in [0,\frac{1}{2})$. (3) 考虑 $\ln X_n=\sum _{k=1}^n\ln Y_k$, 显然 $X_n\stackrel{\text{ a.s. }}{\to }0$ 当且仅当 $\ln X_n\stackrel{\text{ a.s. }}{\to }-\infty$. 注意到 $\{\ln Y_n\}$ 独立同分布于 $\left[\begin{array}{cc}-\ln 2& \ln 3-\ln 2\\ p& 1-p\end{array}\right]$, 可积, 因此 Kolmogorov 强大数定律表明 $\frac{\ln X_n}{n}\stackrel{\text{ a.s. }}{\to }\mathbb{E}{Y}_1=-\ln 2+(1-p)\ln 3$. 当 $-\ln 2+(1-p)\ln 3<0$, 即 $p>1-\frac{\ln 2}{\ln 3}$ 时, $\ln X_n\stackrel{\text{ a.s. }}{\to }-\infty$, 符合题意; 当 $-\ln 2+(1-p)\ln 3>0$, 即 $p<1-\frac{\ln 2}{\ln 3}$ 时, $\ln X_n\stackrel{\text{ a.s. }}{\to }+\infty$, 不符合题意. 下面具体考虑 $p=1-\frac{\ln 2}{\ln 3}$ 的情形. 记 $\ln Y_1$ 此时的方差为 ${\sigma }^2>0$, 因而由中心极限定理与 Fatou 引理可知$$\mathbb{P}(\underset{n}{\sup }\{\ln X_n\}=+\infty )⩾\mathbb{P}(\underset{n\to \infty }{\mathrm{limsup}}\{\ln X_n>\sigma \sqrt{n}\})⩾\underset{n\to \infty }{\lim }\mathbb{P}(\ln X_n>\sigma \sqrt{n})=1-\Phi (1)>0,$$这表明 $\ln X_n$ 不几乎处处趋于 $-\infty$, 不符题意. 综上, $X_n\text{ a.s. }$ 趋于零当且仅当 $p\in (1-\frac{\ln 2}{\ln 3},1]$. $\square$

3.4 鞅的应用: 金融市场

3.4.1	设 $X$ 是非零随机变量. 问 $X$ 满足什么条件可以存在 $\mathbb{P}$ 的等价概率测度 $\overline{\mathbb{P}}$ 使得 $X_0=0,X_1=X$ 是鞅? 证明. 假设在概率 $\overline{\mathbb{P}}$ 下, $X_0=0,X_1=X$ 是鞅, 则 $0=X_0=\overline{\mathbb{E}}(X_1|{\mathcal{F}}_0)=\overline{\mathbb{E}}X=\overline{\mathbb{E}}{X}^{+}-\overline{\mathbb{E}}{X}^{-}$. 由于 $\mathbb{P}$ 与 $\overline{\mathbb{P}}$ 等价, $X\ne 0$ 表明 $\overline{\mathbb{E}}{X}^{+},\overline{\mathbb{E}}{X}^{-}$ 均非负且不同时为零, 故若 $\mathbb{P}(X>0)=0$, 则 $\overline{\mathbb{P}}(X<0)>0,\overline{\mathbb{E}}{X}^{-}>0$, 从而 $\overline{\mathbb{E}}X<0$, 不成立; 同理, $\mathbb{P}(X<0)=0$ 时有 $\overline{\mathbb{E}}X>0$, 也不成立. 总之, $\overline{\mathbb{P}}$ 存在的必要条件为 $\mathbb{P}(X>0)>0,\mathbb{P}(X<0)>0$, 下面证明这也是充分的. 记 ${\Omega }_{+}=\{X>0\},{\Omega }_{-}=\{X<0\},{\Omega }_0=\{X=0\}$, 则 ${\Omega }_{+},{\Omega }_{-},{\Omega }_0\in \mathcal{F}$, 且 $a:=\mathbb{P}({\Omega }_{+})>0,b:=\mathbb{P}({\Omega }_{-})>0,c:=\mathbb{P}({\Omega }_0)=1-a-b⩾0$. 又记$$k_1=\frac{(a+b)\mathbb{E}{X}^{-}}{b\mathbb{E}{X}^{+}+a\mathbb{E}{X}^{-}}>0,k_2=\frac{(a+b)\mathbb{E}{X}^{+}}{b\mathbb{E}{X}^{+}+a\mathbb{E}{X}^{-}}>0,$$并对 $A\in \mathcal{F}$, 定义 $\overline{\mathbb{P}}(A)=\mathbb{P}(A\cap {\Omega }_0)+k_1\mathbb{P}(A\cap {\Omega }_{+})+k_2\mathbb{P}(A\cap {\Omega }_{-})$, 则易见 $\overline{\mathbb{P}}$ 为测度且 $\overline{\mathbb{P}}(\Omega )=(1-a-b)+k_{1}a+k_{2}b=1$, 从而为概率测度. 此外, 由数学期望的基本定义可知 $\overline{\mathbb{E}}X=\overline{\mathbb{E}}{X}^{+}-\overline{\mathbb{E}}{X}^{-}=k_1\mathbb{E}{X}^{+}-k_2\mathbb{E}{X}^{-}=0$, 故 $\overline{\mathbb{P}}$ 即为所求. $\square$
3.4.2	证明: 在二项市场中, 等价鞅测度唯一. (在 $n=2$ 时证明即可. ) 另外, 考虑简单金融市场, 假设构成市场的 ${\xi }_k$ 取有限多个非负值, 请寻找等价鞅测度存在的 (充要) 条件, 与等价鞅测度唯一的 (充要) 条件. 证明. 先证明二项市场中, 等价鞅测度唯一. 根据定理 3.4.2, 仅考虑 $d<1+r<u$ (即等价鞅测度存在) 的情形. 由于 ${\mathcal{F}}_2=\sigma ({\xi }_1,{\xi }_2)=\sigma (\{{\xi }_1=u\},\{{\xi }_2=u\})$, 故 $(\Omega ,{\mathcal{F}}_2)$ 上的概率测度 $\overline{\mathbb{P}}$ 由 $\overline{\mathbb{P}}({\xi }_1=u),\overline{\mathbb{P}}({\xi }_2=u)$ 唯一确定, 分别记为 $p_1,p_2$. 下面假设 $\overline{\mathbb{P}}$ 为等价鞅测度, 则由 $\overline{\mathbb{E}}((1+r{)}^{-1}{S}_1|{\mathcal{F}}_0)=S_0\cdot \overline{\mathbb{E}}(\frac{{\xi }_1}{1+r})$ 与折现后的股票价格是鞅知 $1+r=\overline{\mathbb{E}}{\xi }_1=p_{1}u+(1-p_1)d$, 即 $p_1=\frac{1+r-d}{u-d}$; 再由 $\overline{\mathbb{E}}((1+r{)}^{-2}{S}_2|{\mathcal{F}}_1)=(1+r{)}^{-1}{S}_1\cdot \overline{\mathbb{E}}(\frac{{\xi }_2}{1+r})$ 同理可知 $1+r=\overline{\mathbb{E}}{\xi }_2=p_{2}u+(1-p_2)d$, 即 $p_2=\frac{1+r-d}{u-d}$. 由此可知 $\overline{\mathbb{P}}$ 必须与定理 3.4.2 中解得的结果相同, 即证唯一性. 下面再考虑简单金融市场中等价鞅测度存在 $/$ 唯一的充要条件. 设 ${\xi }_1,\cdots ,{\xi }_n$ 均只可取值于 $u_1<u_2<\cdots <u_k(k⩾2)$, 则为使市场有意义, 应有 $0⩽u_1<1<u_k$. 当 $1+r⩾u_k$ 时, 与讲义过程相同, 可通过买空股票存入银行套利; 当 $1+r⩽u_1$ 时, 可通过贷款购买股票套利. 结合定理 3.4.1 可知等价鞅测度存在的必要条件是 $u_1<1+r<u_k$, 下面讨论等价鞅测度唯一的充要条件的过程中也会看出这是充分的. 与前面对二项市场的分析同理, 由 ${\mathcal{F}}_n=\sigma ({\xi }_1,\cdots ,{\xi }_n)$ 知 $(\Omega ,{\mathcal{F}}_n)$ 上的概率测度 $\overline{\mathbb{P}}$ 由 $\overline{\mathbb{P}}({\xi }_i=u_j)(1⩽i⩽n,1⩽j⩽k)$ 全体唯一确定, 记 $p_j^{(i)}=\overline{\mathbb{P}}({\xi }_i=u_j)$. 为使 $\overline{\mathbb{P}}$ 是等价鞅测度, 对任意 $1⩽i⩽n$, 同理有 $1+r=\overline{\mathbb{E}}{\xi }_i=\sum _{j=1}^k{p}_j^{(i)}{u}_j$. 当 $k⩾3$ 时, 由于 $u_1<1+r<u_k$, 故对任意 $1⩽i⩽n$, 均有不止一组 $(p_1^{(i)},\cdots ,p_k^{(i)})$ 符合要求, 如$$(\frac{2u_k+{\sum }_{j=2}^{k-1}{u}_j}{n(u_k-u_1)}-\frac{1+r}{u_k-u_1},\frac{1}{n},\cdots ,\frac{1}{n},\frac{1+r}{u_k-u_1}-\frac{2u_1+{\sum }_{j=2}^{k-1}{u}_j}{n(u_k-u_1)})$$或$$(\frac{(n+2)u_k+{\sum }_{j=2}^{k-1}{u}_j}{2n(u_k-u_1)}-\frac{1+r}{u_k-u_1},\frac{1}{2n},\cdots ,\frac{1}{2n},\frac{1+r}{u_k-u_1}-\frac{(n+2)u_1+{\sum }_{j=2}^{k-1}{u}_j}{2n(u_k-u_1)}),$$此时的 $\overline{\mathbb{P}}$ 均与 $\mathbb{P}$ 等价, 从而 $\mathbb{P}$ 不唯一. 当 $k=2$ 时, 可仿照最开始的过程归纳证明 $\overline{\mathbb{P}}$ 存在且唯一. 综上, 等价鞅测度存在当且仅当 $u_1<1+r<u_k$, 等价鞅测度唯一当且仅当 $k=2$. $\square$
3.4.7	设有一股票现在时刻 $0$ 的价格是 $50$ 元, 在每个时间段都以 $\frac{3}{4}$ 的概率上涨 $20\%$, 以 $\frac{1}{4}$ 的概率下跌 $20\%$, 假设利率可以忽略, 某个顾客欲在证券代理公司购买在时刻 $2$ 到期的商定价格为 $52$ 元的欧式看跌期权, 也就是说他有在时刻 $2$ 以 $52$ 元的价格卖给代理公司一股股票的权力, 问这份期权应该卖多少钱? 代理公司应该怎么投资来对冲风险? 如果时刻 $1$ 股票下跌, 这份期权还值多少钱? 代理公司又应该怎么操作? 证明. 这是一个二项市场, $S_0=50$, ${\xi }_1,{\xi }_2$ 独立同分布于 $\left[\begin{array}{cc}\frac{3}{4}& \frac{1}{4}\\ 1.2& 0.8\end{array}\right]$, $r=0$, 此处的权益 $V_2=(52-S_2{)}^{+}$, 由此计算得定理 3.4.1 中的 $\bar{p}=\frac{1+r-d}{u-d}=\frac{1}{2}$. $V_2$ 共有三种可能: 股票连涨两次, $S_2=72,V_2=0$; 股票先涨再跌或先跌再涨, $S_2=48,V_2=4$; 股票连跌两次, $S_2=32,V_2=20$. 为了给出每时刻该期权价值与代理公司的操作, 即要构造一个 $V_2$ 的对冲. 先计算时刻 $1$. 若 $S_1=60({\xi }_1=1.2)$, 则$$V_1=\overline{\mathbb{E}}(V_2|{\mathcal{F}}_1)=\bar{p}\cdot 0+(1-\bar{p})\cdot 4=2,{\Delta }_1=\frac{0-4}{(1.2-0.8)\times 60}=-\frac{1}{6};$$若 $S_1=40({\xi }_1=0.8)$, 则$$V_1=\overline{\mathbb{E}}(V_2|{\mathcal{F}}_1)=\bar{p}\cdot 4+(1-\bar{p})\cdot 20=12,{\Delta }_1=\frac{4-20}{(1.2-0.8)\times 40}=-1.$$再计算时刻 $0$.$$V_0=\overline{\mathbb{E}}(V_1|{\mathcal{F}}_0)=\bar{p}\cdot 2+(1-\bar{p})\cdot 12=7,{\Delta }_0=\frac{2-12}{(1.2-0.8)\times 50}=-\frac{1}{2}.$$ 综上, 最初这份期权应该卖 $7$ 元, 代理公司应卖出 $0.5$ 股股票来对冲风险; 若时刻 $1$ 股票下跌, 这份期权值 $12$ 元, 代理公司应额外卖出 $1$ 股股票. $\square$

4马氏链

4.1 马氏链与转移函数

4.1.4	设 $x\ne y$. (1) 证明: $x$ 可达 $y$ 当且仅当存在 $n⩾1,x_i\in E,0⩽i⩽n$ 使得 $p_{x_{i-1},x_i}>0,1⩽i⩽n$ 且 $x_0=x,x_n=y$. (2) 证明: 如果 $|E|<\infty$, 且 $x$ 可达 $y$, 则存在 $n<|E|$ 使得 $p_{x,y}^{(n)}>0$. 证明. (1) 充分性: 由定义可知 $x=x_0$ 可达 $x_1$, $x_1$ 可达 $x_2,\cdots ,x_{n-1}$ 可达 $x_n=y$, 从而由可达的传递性知 $x$ 可达 $y$. 必要性: 由 $x$ 可达 $y$ 知存在 $n⩾1$ 使 $p_{x,y}^{(n)}>0$. 令 $x_0=x,x_n=y\in E$, 则由引理 4.1.1 知 $\sum _{z\in E}{p}_{x_0,z}{p}_{z,x_n}^{(n-1)}=p_{x_0,x_n}^{(n)}>0$, 从而存在 $x_1\in E$ 使得 $p_{x_0,x_1}>0,p_{x_1,x_n}^{(n-1)}>0$. 再对 $p_{x_1,x_n}^{(n-1)}$ 使用引理 4.1.1, 归纳可证存在 $x_i\in E(0⩽i⩽n)$ 使得 $p_{x_{i-1},x_i}>0,1⩽i⩽n$ 且 $x_0=x,x_n=y$. (2) 记$$S:=\{(x_0,x_1,\cdots ,x_n)|n⩾1,x_i\in E(0⩽i⩽n),p_{x_{i-1},x_i}>0(1⩽i⩽n),x_0=x,x_n=y\},$$则由 (1) 知 $S$ 非空, 从而存在 $(x_0,x_1,\cdots ,x_n)\in S$ 使得其中的 $n$ 值取到最小. 断言 $(x_0,x_1,\cdots ,x_n)$ 中没有重复元素. 否则, 设 $0⩽i<j⩽n$ 满足 $x_i=x_j$, 考虑 $(x_0,\cdots ,x_i,x_{j+1},\cdots ,x_n)$, 易见它也是属于 $S$ 的, 且序列长度为 $n-j+i<n$, 与 $(x_0,x_1,\cdots ,x_n)$ 的长度最短性矛盾, 即证. 因此, 由 $|E|<\infty$ 可知 $n⩽|E|-1<|E|$, 且 $p_{x,y}^{(n)}⩾p_{x_0,x_1}\cdot \cdots \cdot p_{x_{n-1},x_n}>0$. $\square$
4.1.5	证明: 当 $x\ne y$ 时, $x$ 可达 $y$ 当且仅当 $f_{x,y}>0$. 证明. 充分性: 由 $\sum _{n=1}^{\infty }{f}_{x,y}^{(n)}=f_{x,y}>0$ 知存在正整数 $n$ 使得 $f_{x,y}^{(n)}>0$, 从而 $p_{x,y}^{(n)}⩾f_{x,y}^{(n)}>0$, 由定义知 $x$ 可达 $y$. 必要性: 由 $x$ 可达 $y$ 知存在正整数 $n$ 使得 $p_{x,y}^{(n)}>0$, 而首达概率公式表明 $\sum _{k=1}^n{f}_{x,y}^{(k)}{p}_{y,y}^{(n-k)}=p_{x,y}^{(n)}>0$, 故存在 $1⩽k⩽n$ 使得 $f_{x,y}^{(k)}>0$, 从而 $f_{x,y}⩾f_{x,y}^{(k)}>0$. $\square$
4.1.6	设 $\underset{n}{\lim }{p}_{x,x}^{(n)}$ 存在且非零, 证明极限是平均回归时 ${\mathbb{E}}^x{\tau }_x$ 的倒数. 这是定理 4.3.1 的直接推论, 下面给出一个不依赖此定理的证法. 证明. 令 $P(t)=\sum _{n=0}^{\infty }{p}_{x,x}^{(n)}{t}^n,F(t)=\sum _{n=1}^{\infty }{f}_{x,x}^{(n)}{t}^n$ 分别为 $\{p_{x,x}^{(n)}\},\{f_{x,x}^{(n)}\}$ 的母函数, 记 $\underset{n\to \infty }{\lim }{p}_{x,x}^{(n)}=p\in (0,1]$. 首先, 由上述极限式可知 $P(t)$ 的收敛半径为 $1$, 而 $F(1)={\mathbb{P}}^x({\tau }_x<\infty )⩽1$, 故 $F(t)$ 的收敛半径不小于 $1$. 当 $t\in (0,1)$ 时, 由首达概率公式可知 $P(t)F(t)=P(t)-1$, 即 $F(t)=1-\frac{1}{P(t)}$. 由 $\underset{n\to \infty }{\lim }{p}_{x,x}^{(n)}=p>0$ 知 $\underset{t\to 1^{-}}{\lim }P(t)=+\infty$, 故 $F(1)=1$. 下面证明 $\underset{t\to 1^{-}}{\lim }P(t)(1-t)=p$. 考虑$$P(t)(1-t)=\sum _{n=0}^{\infty }{p}_{x,x}^{(n)}{t}^n(1-t)=p(1-t)\sum _{n=0}^{\infty }{t}^n+\sum _{n=0}^{\infty }(p_{x,x}^{(n)}-p)t^n(1-t)=p+\sum _{n=0}^{\infty }(p_{x,x}^{(n)}-p)t^n(1-t).$$对任意 $\epsilon \in (0,1)$, 取正整数 $N$ 使得对任意 $n⩾N$, 有 $|p_{x,x}^{(n)}-p|<\epsilon$, 则$$\begin{array}{rl}\underset{t\to 1^{-}}{\overline{\lim }}|\sum _{n=0}^{\infty }(p_{x,x}^{(n)}-p)t^n(1-t)|⩽& \underset{t\to 1^{-}}{\overline{\lim }}(1-t)|\sum _{n=0}^{N-1}(p_{x,x}^{(n)}-p)t^n|+\underset{t\to 1^{-}}{\overline{\lim }}\sum _{n=N}^{\infty }\epsilon t^n(1-t)\\ ⩽& \underset{t\to 1^{-}}{\overline{\lim }}(1-t)\sum _{n=0}^{N-1}|p_{x,x}^{(n)}-p|+\underset{t\to 1^{-}}{\overline{\lim }}\epsilon t^N=\epsilon ,\end{array}$$由 $\epsilon$ 的任意性即证 $\underset{t\to 1^{-}}{\lim }P(t)(1-t)=p$. 由此可知$$\frac{1}{p}=\underset{t\to 1^{-}}{\lim }\frac{1}{P(t)(1-t)}=\underset{t\to 1^{-}}{\lim }\frac{1-F(t)}{1-t}=\underset{t\to 1^{-}}{\lim }\frac{F(1)-F(t)}{1-t},$$这表明 $F^{\prime }(1-)$ 存在且等于 $\frac{1}{p}$, 即 $\underset{n\to \infty }{\lim }{p}_{x,x}^{(n)}=p=\frac{1}{F^{\prime }(1-)}=\frac{1}{{\mathbb{E}}^x{\tau }_x}$. $\square$
4.1.7	证明两个公式: (1) 对任何 $x,y\in E$,$$f_{x,y}\sum _{n=0}^{\infty }{p}_{y,y}^{(n)}=\sum _{n=1}^{\infty }{p}_{x,y}^{(n)}.$$(2) $f_{x,y}^{(n+1)}=\sum _{z\ne y}{p}_{x,z}{f}_{z,y}^{(n)}$. (2) 中公式对 $n=0$ 显然是错误的, 只有在 $n⩾1$ 时成立. 证明. (1) 对首达概率公式中的 $n$ 求和得$$\sum _{n=1}^{\infty }{p}_{x,y}^{(n)}=\sum _{n=1}^{\infty }\sum _{k=1}^n{f}_{x,y}^{(k)}{p}_{y,y}^{(n-k)}=\sum _{k=1}^{\infty }\sum _{n=k}^{\infty }{f}_{x,y}^{(k)}{p}_{y,y}^{(n-k)}=\sum _{k=1}^{\infty }{f}_{x,y}^{(k)}\cdot \sum _{n=0}^{\infty }{p}_{y,y}^{(n)}=f_{x,y}\sum _{n=0}^{\infty }{p}_{y,y}^{(n)}.$$ (2) 为了使 ${\tau }_y=n+1⩾2$, 第一步的位置 $z$ 必不等于 $y$, 从而$$f_{x,y}^{(n+1)}={\mathbb{P}}^x({\tau }_y=n+1)=\sum _{z\ne y}{\mathbb{P}}^x({\tau }_y=n+1,X_1=z)=\sum _{z\ne y}{\mathbb{P}}^x(X_1=z)\cdot {\mathbb{P}}^z({\tau }_y=n)=\sum _{z\ne y}{p}_{x,z}{f}_{z,y}^{(n)}.$$红色等号成立的原因: 类似引理 2.6.3, 在事件 $\{{\tau }_y=n+1\}$ 上, 有 ${\tau }_y={\tau }_y\circ {\theta }_1+1$, 故由马氏性,$${\mathbb{P}}^x({\tau }_y=n+1,X_1=z)={\mathbb{P}}^x({\tau }_y\circ {\theta }_1=n,X_1=z)={\mathbb{E}}^x({\mathbb{P}}^{X_1}({\tau }_y=n)\cdot 1_{\{}{X}_1=z\})={\mathbb{P}}^x(X_1=z)\cdot {\mathbb{P}}^z({\tau }_y=n).$$ $\square$

4.2 常返态与暂留态

4.2.2	严格地证明: 如果 $y$ 常返, 则对任何 $k$ 有 ${\mathbb{P}}^y({\tau }_y\circ {\theta }_k<\infty )=1$. 证明. 由定理 4.2.1 知 ${\mathbb{P}}^y(\underset{n\to \infty }{\overline{\lim }}\{X_n=y\})=1$, 而$$\{{\tau }_y\circ {\theta }_k<\infty \}=\{\exists m\in {\mathbb{Z}}_{+}\text{ s.t. }{X}_{m+k}=y\}\supseteq \underset{n\to \infty }{\overline{\lim }}\{X_n=y\},$$因此 ${\mathbb{P}}^y({\tau }_y\circ {\theta }_k<\infty )=1$. $\square$
4.2.3	证明: (1) 有限状态马氏链至少有一个状态是常返的. (2) 不可分有限状态马氏链必是常返的. 证明. (1) 设状态集为 $E$. 对任意 $x,y\in E$, 由练习 4.1.7(1) 知 $\sum _{n=1}^{\infty }{p}_{x,y}^{(n)}=f_{x,y}\sum _{n=0}^{\infty }{p}_{y,y}^{(n)}⩽\sum _{n=0}^{\infty }{p}_{y,y}^{(n)}$. 由于马氏链的每一步必位于 $E$ 中某个状态, 故对任意 $n\in {\mathbb{Z}}_{+}$, $\sum _{y\in E}{p}_{x,y}^{(n)}=1$. 因此利用 $|E|<\infty$ 可知$$\sum _{y\in E}\sum _{n=0}^{\infty }{p}_{y,y}^{(n)}⩾\sum _{y\in E}\sum _{n=1}^{\infty }{p}_{x,y}^{(n)}=\sum _{n=1}^{\infty }\sum _{y\in E}{p}_{x,y}^{(n)}=+\infty ,$$从而存在 $y\in E$ 使得 $\sum _{n=0}^{\infty }{p}_{y,y}^{(n)}=+\infty$, 即 $y$ 常返. (2) 这是 (1) 与常返是类性质的直接推论. $\square$
4.2.7	证明: (1) $C$ 是闭的等价于对任何 $x\in C,y\notin C$, 有 $p_{x,y}=0$. (2) 状态 $x$ 可达的状态全体是闭的且连通的. (3) 常返态 $x$ 可达的状态全体是不可分的. (4) 举例说明暂留状态全体不一定是闭的. (5) $X$ 不可分当且仅当 $E$ 没有非平凡闭子集. (6) 一个连通分支是闭的, 但闭集未必是连通的. 证明. (1) 充分性: 对任意 $x\in C$, $\sum _{y\in C}{p}_{x,y}=\sum _{y\in E}{p}_{x,y}-\sum _{y\notin C}{p}_{x,y}=1-0=1$, 故 $C$ 是闭的. 必要性: 对任意 $x\in C$, $\sum _{y\notin C}{p}_{x,y}=\sum _{y\in E}{p}_{x,y}-\sum _{y\in C}{p}_{x,y}=1-1=0$, 故对任意 $y\notin C$, 有 $p_{x,y}=0$. (2) 记状态 $x$ 可达的状态全体为 $R(x)$. 闭性: 假设存在 $y\in R(x),z\notin R(x)$ 使得 $p_{y,z}>0$, 则 $y$ 可达 $z$, 而 $x$ 可达 $y$, 故 $x$ 可达 $z$, 与 $z\notin R(x)$ 矛盾, 结合 (1) 即证 $R(x)$ 是闭的. 连通性: 易见连通是一个等价关系, 而 $R(x)$ 中状态均与 $x$ 连通, 从而互相连通. (3) 由推论 4.2.1, $x$ 与 $R(x)$ 中任意状态均互达, 而互达是等价关系, 故 $R(x)$ 中任意两个状态互达, 即 $R(x)$ 不可分. (4) 令 $E=\{x,y\}$, 其中 $p_{x,x}=p_{y,x}=1$, 则易见暂留态全体为 $\{y\}$, 但根据 (1), 这不是闭的. (5) 充分性: 对任意 $x\in E$, 由 (2) 可知 $R(x)$ 是非空闭子集, 因而必须 $R(x)=E$. 对任意 $x,y\in E$, 由 $R(x)=R(y)=E$ 知 $x,y$ 互达, 因此 $X$ 不可分. 必要性: 任取 $E$ 的非空闭子集 $C$, 假设 $C\ne E$, 取 $x\in C,y\notin C$. 由于 $X$ 不可分, 练习 4.1.4(1) 表明存在 $n⩾1,x_i\in E,0⩽i⩽n$ 使得 $p_{x_{i-1},x_i}>0,1⩽i⩽n$ 且 $x_0=x,x_n=y$. 此时必存在 $1⩽i⩽n$ 使得 $x_{i-1}\in C,x_i\notin C$, 但 $p_{x_{i-1},x_i}>0$, 故 (1) 表明 $C$ 不是闭的, 矛盾, 即证. (6) 连通分支是闭的: 设 $C$ 为一连通分支, 假设 $C$ 不是闭的, 则存在 $x\in C,y\notin C$ 使得 $p_{x,y}>0$, 此时由定义知 $x,y$ 相邻, 从而连通, 但 $y\notin C$, 这与 $C$ 是连通分支矛盾, 故 $C$ 是闭的. 闭集未必连通: 令 $E=\{x,y\}$, 其中 $p_{x,x}=p_{y,y}=1$, 则显然 $E$ 是闭的, 但不是连通的. $\square$

4.3 正常返与遍历性

4.3.3	在例 4.3.1 中, 求状态 $1$ 的平均返回时间 ${\mathbb{E}}^1{\tau }_1$. 证明. 显然 ${\tau }_1⩾2$. 如果 ${\tau }_1=n⩾2$, 则它必须先返回 $0$, 并保持在 $0$ 不动, 直到 $n$ 时刻恰好到达 $1$, 因而 ${\mathbb{P}}^1({\tau }_1=n)=\sum _{k=1}^{n-1}(p_1\cdot \cdots \cdot p_{k-1})\cdot q_k\cdot q_0^{n-k-1}\cdot p_0$, 故$$\begin{array}{rl}{\mathbb{E}}^1{\tau }_1=& \sum _{n=2}^{\infty }n{\mathbb{P}}^1({\tau }_1=n)\\ =& \sum _{n=2}^{\infty }\sum _{k=1}^{n-1}n(p_1\cdot \cdots \cdot p_{k-1})\cdot q_k\cdot q_0^{n-k-1}\cdot p_0\\ =& \sum _{k=1}^{\infty }(p_1\cdot \cdots \cdot p_{k-1})\cdot q_k\cdot p_0\cdot \left(\sum _{n=k+1}^{\infty }n{q}_0^{n-k-1}\right)\\ =& \sum _{k=1}^{\infty }(p_1\cdot \cdots \cdot p_{k-1})\cdot q_k\cdot p_0\cdot \frac{1}{1-q_0}(k+\frac{1}{1-q_0})\\ =& \sum _{k=1}^{\infty }k(p_1\cdot \cdots \cdot p_{k-1})\cdot (1-p_k)+\frac{1}{p_0}\sum _{k=1}^{\infty }(p_1\cdot \cdots \cdot p_{k-1})\cdot (1-p_k)\\ =& \{\begin{array}{ll}\frac{1}{p_0}+{\sum }_{k=1}^{\infty }{p}_1\cdot \cdots \cdot p_{k-1}& ,{\sum }_{k=1}^{\infty }{p}_1\cdot \cdots \cdot p_{k-1}\text{收敛 };\\ +\infty & ,o/w.\end{array}\end{array}$$ $\square$
4.3.5	对 $x,y\in E$, 应用首达概率公式证明$$\underset{n}{\lim }\frac{1}{n}\sum _{k=1}^n{p}_{x,y}^{(k)}=f_{x,y}{\mu }_y.$$ 证明. 当 $x$ 是暂留态时, $\sum _{k=1}^n{p}_{x,x}^{(k)}$ 关于 $n$ 是有界量, 而 ${\mathbb{E}}^x{\tau }_x=+\infty$, 故 $\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{k=1}^n{p}_{x,x}^{(k)}=0={\mu }_x$, 换言之, 定理 4.3.1 对于任意 $x\in E$ 均成立. 对 $k\in {\mathbb{Z}}_{+}$, 记 $S_k=\frac{1}{k}\sum _{j=0}^k{p}_{y,y}^{(k)}$, 则 $\underset{k\to \infty }{\lim }{S}_k={\mu }_y\in [0,\infty )$, 从而是有界量, 设上确界为 $M$. 分步证明: $\stackrel{◯}{1}\underset{n\to \infty }{\lim }\sum _{j=1}^n{f}_{x,y}^{(j)}{S}_{n-j}=f_{x,y}{\mu }_y$. 对任意 $\epsilon >0$, 取正整数 $N$ 使得对任意 $n>N$, 有 $\sum _{j=n}^{\infty }{f}_{x,y}^{(j)}<\epsilon ,|S_n-{\mu }_y|<\epsilon$. 此时, 对任意 $n>2N,1⩽j⩽n$, 总有 $j>N$ 或 $n-j>N$, 从而$$|\sum _{j=1}^n{f}_{x,y}^{(j)}{S}_{n-j}-\sum _{j=1}^n{f}_{x,y}^{(j)}{\mu }_y|⩽\sum _{j=1}^N{f}_{x,y}^{(j)}\cdot \epsilon +\sum _{j=N+1}^n{f}_{x,y}^{(j)}\cdot (M+{\mu }_y)⩽\epsilon f_{x,y}+\epsilon (M+{\mu }_y),$$由 $\epsilon$ 的任意性即证. $\stackrel{◯}{2}\underset{n\to \infty }{\lim }\sum _{j=1}^n\frac{j}{n}{f}_{x,y}^{(j)}{S}_{n-j}=0$. 由于 $\{S_k\}$ 是有界量, 故只需证 $\underset{n\to \infty }{\lim }\sum _{j=1}^n\frac{j}{n}{f}_{x,y}^{(j)}=0$. 对任意 $n\in {\mathbb{Z}}_{+}$,$$\sum _{j=1}^n\frac{j}{n}{f}_{x,y}^{(j)}=\sum _{j=1}^n\frac{j}{n}{\mathbb{E}}^x(1_{\{{\tau }_y=j\}})={\mathbb{E}}^x\left(\sum _{j=1}^n\frac{j}{n}{1}_{\{{\tau }_y=j\}}\right)={\mathbb{E}}^x\left(\sum _{j=1}^n\frac{{\tau }_y}{n}{1}_{\{{\tau }_y=j\}}\right)={\mathbb{E}}^x\left(\frac{{\tau }_y}{n}{1}_{\{1⩽{\tau }_y⩽n\}}\right).$$注意到 $\frac{{\tau }_y}{n}{1}_{\{1⩽{\tau }_y⩽n\}}⩽1$, 且 ${\tau }_y=\infty$ 时恒为 $0$; ${\tau }_y<\infty$ 时趋于 $0$ ($n\to \infty$ 时), 故由控制收敛定理即证. $\stackrel{◯}{3}\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{k=1}^n{p}_{x,y}^{(k)}=f_{x,y}{\mu }_y$. 由首达概率公式知$$\begin{array}{rl}\frac{1}{n}\sum _{k=1}^n{p}_{x,y}^{(k)}=& \frac{1}{n}\sum _{k=1}^n\sum _{j=1}^k{f}_{x,y}^{(j)}{p}_{y,y}^{(k-j)}\\ =& \frac{1}{n}\sum _{j=1}^n\sum _{k=0}^{n-j}{f}_{x,y}^{(j)}{p}_{y,y}^{(k)}\\ =& \sum _{j=1}^n\frac{n-j}{n}{f}_{x,y}^{(j)}{S}_{n-j}\\ =& \left(\sum _{j=1}^n{f}_{x,y}^{(j)}{S}_{n-j}\right)-\left(\sum _{j=1}^n\frac{j}{n}{f}_{x,y}^{(j)}{S}_{n-j}\right),\end{array}$$结合 $\stackrel{◯}{1},\stackrel{◯}{2}$ 即证. $\square$
4.3.7	证明: 有限状态马氏链没有零常返态. 证明. 假设 $E$ 为一有限状态马氏链的状态集, 而 $x\in E$ 为一个零常返态, 记 $C\subseteq E$ 为 $x$ 可达的状态全体, 则由推论 4.3.1 知对任意 $y\in C$, $y$ 都是零常返的, 即 ${\mu }_y=0$. 由 $C$ 的定义知对任意正整数 $n$, $\sum _{y\in C}{p}_{x,y}^{(n)}=\sum _{y\in E}{p}_{x,y}^{(n)}=1$, 故$$\sum _{y\in C}\left(\frac{1}{n}\sum _{k=1}^n{p}_{x,y}^{(n)}\right)=\frac{1}{n}\sum _{k=1}^n\left(\sum _{y\in C}{p}_{x,y}^{(n)}\right)=1.$$由于 $|C|⩽|E|<\infty$, 故由练习 4.3.5 知$$\underset{n\to \infty }{\lim }\sum _{y\in C}\left(\frac{1}{n}\sum _{k=1}^n{p}_{x,y}^{(n)}\right)=\sum _{y\in C}\left(\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{k=1}^n{p}_{x,y}^{(n)}\right)=\sum _{y\in C}{f}_{x,y}{\mu }_y=0,$$矛盾, 因此有限状态马氏链没有零常返态. $\square$
4.3.8	设 $E=\{0,1\}$, $(p_{x,y})$ 是转移函数. (1) 验证: $p_{0,0}^{(n)}=p_{1,0}+(p_{0,0}-p_{1,0})p_{0,0}^{(n-1)}$; (2) 写出 $p_{0,0}^{(n)}$ 的表达式并求出极限; (3) 求出 $p_{x,y}^{(n)}$ 及其极限. 证明. (1) 利用 Chapman-Kolmogorov 公式可知$$p_{0,0}^{(n)}=p_{0,0}^{(n-1)}\cdot p_{0,0}+p_{0,1}^{(n-1)}\cdot p_{1,0}=p_{0,0}\cdot p_{0,0}^{(n-1)}+p_{1,0}\cdot (1-p_{0,0}^{(n)})=p_{1,0}+(p_{0,0}-p_{1,0})p_{0,0}^{(n-1)}.$$ (2) 可直接验证 $p_{0,0}^{(n)}=\frac{p_{1,0}}{p_{0,1}+p_{1,0}}+\frac{p_{0,1}}{p_{0,1}+p_{1,0}}(p_{0,0}-p_{1,0}{)}^n$ 满足 $p_{0,0}^{(1)}=p_{0,0}$ 与 (1) 中的递推式, 因而就是 $p_{0,0}^{(n)}$ 的表达式. $\stackrel{◯}{1}|p_{0,0}-p_{1,0}|<1$, 则 $\underset{n\to \infty }{\lim }{p}_{0,0}^{(n)}=\frac{p_{1,0}}{p_{0,1}+p_{1,0}}$. $\stackrel{◯}{2}{p}_{0,0}-p_{1,0}=1$, 则 $p_{0,0}=p_{1,1}=1,p_{0,1}=p_{1,0}=0$, 从而 $p_{0,0}^{(n)}\equiv 1$. $\stackrel{◯}{3}{p}_{0,0}-p_{1,0}=-1$, 则 $p_{0,0}=p_{1,1}=0,p_{0,1}=p_{1,0}=1$, 从而 $p_{0,0}^{(n)}=\frac{1+(-1{)}^n}{2}$, 没有极限. (3) $p_{0,1}^{(n)}=1-p_{0,0}^{(n)}=\frac{p_{0,1}}{p_{0,1}+p_{1,0}}(1-(p_{0,0}-p_{1,0}{)}^n)$, 再由对称性可知 $p_{1,0}^{(n)}=\frac{p_{1,0}}{p_{0,1}+p_{1,0}}(1-(p_{1,1}-p_{0,1}{)}^n)$, $p_{1,1}^{(n)}=\frac{p_{0,1}}{p_{0,1}+p_{1,0}}+\frac{p_{1,0}}{p_{0,1}+p_{1,0}}(p_{1,1}-p_{0,1}{)}^n$. $\stackrel{◯}{1}|p_{0,0}-p_{1,0}|<1$, 则 $|p_{1,1}-p_{0,1}|<1$, 从而 $\underset{n\to \infty }{\lim }{p}_{0,1}^{(n)}=\frac{p_{0,1}}{p_{0,1}+p_{1,0}}$, $\underset{n\to \infty }{\lim }{p}_{1,0}^{(n)}=\frac{p_{1,0}}{p_{0,1}+p_{1,0}}$, $\underset{n\to \infty }{\lim }{p}_{1,1}^{(n)}=\frac{p_{0,1}}{p_{0,1}+p_{1,0}}$. $\stackrel{◯}{2}{p}_{0,0}-p_{1,0}=1$, 则 $p_{0,0}=p_{1,1}=1,p_{0,1}=p_{1,0}=0$, 从而 $p_{0,1}^{(n)}\equiv 0$, $p_{1,0}^{(n)}\equiv 0$, $p_{1,1}^{(n)}\equiv 1$. $\stackrel{◯}{3}{p}_{0,0}-p_{1,0}=-1$, 则 $p_{0,0}=p_{1,1}=0,p_{0,1}=p_{1,0}=1$, 从而 $p_{0,1}^{(n)}=p_{1,0}^{(n)}=\frac{1-(-1{)}^n}{2}$, $p_{1,1}^{(n)}=\frac{1+(-1{)}^n}{2}$, 均没有极限. $\square$

4.4 不变测度与平稳分布

4.4.5	设状态 $1,2,3,4,5,6,7$ 的马氏链的转移矩阵为$$\mathbb{P}:=\left[\begin{array}{ccccccc}0.5& 0.5& 0& 0& 0& 0& 0\\ 0.3& 0.7& 0& 0& 0& 0& 0\\ 0& 0& 0.1& 0& 0.9& 0& 0\\ 0.25& 0.25& 0& 0& 0.25& 0.25& 0\\ 0& 0& 0.7& 0& 0.3& 0& 0\\ 0& 0.2& 0& 0.2& 0.2& 0.4& 0\\ 0.5& 0& 0.2& 0& 0& 0& 0.3\end{array}\right].$$问其中包含哪些闭子集? 哪些不可分的闭子集? 写出各状态是常返还是暂留的, 以及每个常返态的平均返回时. 证明. (非平凡) 闭子集: $\{1,2\},\{1,2,3,5\},\{1,2,3,4,5,6\},\{1,2,3,5,7\},\{3,5\}$. 不可分闭子集: $\{1,2\},\{3,5\}$. 各状态性质 (对常返态, 分别在各自的不可分闭子集中利用推论 4.4.1 计算平均返回时): $1,2,3,5$ 是常返态, 平均返回时依次为 $\frac{8}{3},\frac{8}{5},\frac{16}{7},\frac{16}{9}$; $4,6,7$ 是暂留态. $\square$
4.4.6	证明: (1) 直线与平面格点上对称简单随机游动是零常返的. (2) 有限状态不可分马氏链是正常返的. (3) 有限状态马氏链有平稳分布. 证明. (1) 对一维情形, $p_{0,0}^{(2k)}=\frac{1}{2^{2k}}{C}_{2k}^k\sim \frac{1}{\sqrt{\pi k}}\to 0$, 因而由定理 4.3.1 知$$\frac{1}{{\mathbb{E}}^0{\tau }_0}=\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{k=1}^n{p}_{0,0}^{(k)}\underset{n\to \infty }{\lim }{p}_{0,0}^{(2k)}=0,$$即 ${\mathbb{E}}^0{\tau }_0=+\infty$, 即 $0$ 是零常返的; 由对称性知所有状态都是零常返的. 对二维情形, 定理 4.2.3 的证明过程中证明了 $p_{0,0}^{(2k)}\sim \frac{1}{\pi k}\to 0$, 同理可证所有状态均零常返. (2) 这是练习 4.2.3(2), 练习 4.3.7 与推论 4.3.1 的直接推论. (3) 由练习 4.2.3(1) 与练习 4.2.7(2), (3) 可知该马氏链至少含有一个不可分闭集, 且容易验证不同的不可分闭集互不相交. 对于一个不可分闭集 $R$, 将转移矩阵限制在 $R$ 上仍是转移矩阵, 且是有限状态不可分马氏链, 因而由 (2) 知其不含暂留态. 由此可将原状态集分解为 $E=T\bigsqcup R_1\bigsqcup \cdots \bigsqcup R_k$, 其中 $k⩾1$, $T$ 是暂留态全体, $R_1,\cdots ,R_k$ 是互不相交的不可分闭子集. 现在, 对 $1⩽i⩽k$, 由 (2) 知存在一个 $R_i$ 上的平稳分布 ${\mu }^{(i)}=({\mu }_j^{(i)}:j\in R_i)$, 定义 $E$ 上的非零测度 $\mu =({\mu }_y:y\in E)$ 为$${\mu }_y=\{\begin{array}{ll}\frac{1}{k}{\mu }_y^{(i)}& ,y\in R_i(1⩽i⩽k);\\ 0& ,y\in T.\end{array}$$容易验证 $\mu$ 是 $E$ 上的平稳分布. $\square$
4.4.7	设 $X$ 是转移函数为 $p_{x,y}$ 的马氏链. 对任何 $x\in E$, 定义$$M_n:=\sum _{i=1}^n{1}_{\{X_i=y\}}-\sum _{x\in E}\left(\sum _{i=1}^n{1}_{\{X_{i-1}=x\}}\right)\cdot p_{x,y},$$证明: (1) 对任何 $o\in E$, $(M_n:n⩾1)$ 是 ${\mathbb{P}}^o$ 鞅. (2) 将 Doob 有界停止定理应用于 $(M_n)$ 证明不可分常返的 $X$ 有不变测度. 证明. (1) 由马氏性, 对任意正整数 $n$,$${\mathbb{E}}^o(M_{n+1}-M_n|{\mathcal{F}}_n)={\mathbb{E}}^o(1_{\{X_{n+1}=y\}}-\sum _{x\in E}{1}_{\{X_n=x\}}\cdot p_{x,y}\left|{\mathcal{F}}_n\right)={\mathbb{E}}^o(1_{\{X_{n+1}=y\}}|{\mathcal{F}}_n)-\sum _{x\in E}{\mathbb{P}}^o(X_n=x)\cdot p_{x,y}=0,$$故 $(M_n:n⩾1)$ 是 ${\mathbb{P}}^o$ 鞅. (2) 由 $X$ 不可分且常返可知 ${\tau }_o<\infty ,{\mathbb{P}}^o-\text{ a.s. }$, 从而 ${\tau }_o^{(N)}:={\tau }_o\wedge N\stackrel{\text{ a.s. }}{\to }{\tau }_o$. 对任意正整数 $N$, 由 (1) 和 Doob 有界停止定理可知 ${\mathbb{E}}^o{M}_{{\tau }_o^{(N)}}={\mathbb{E}}^o{M}_1=0$, 即$${\mathbb{E}}^o\left(\sum _{i=1}^{{\tau }_o^{(N)}}{1}_{\{X_i=y\}}\right)=\sum _{x\in E}{p}_{x,y}\cdot {\mathbb{E}}^o\left(\sum _{i=1}^{{\tau }_o^{(N)}}{1}_{\{X_{i-1}=x\}}\right),$$令 $N\to +\infty$, 由单调收敛定理知$${\mathbb{E}}^o\left(\sum _{i=1}^{{\tau }_o}{1}_{\{X_i=y\}}\right)=\sum _{x\in E}{p}_{x,y}\cdot {\mathbb{E}}^o\left(\sum _{i=0}^{{\tau }_o-1}{1}_{\{X_i=x\}}\right).$$ 现在对 $y\in E$, 定义$${\mu }_y={\mathbb{E}}^o\left(\sum _{i=1}^{{\tau }_o}{1}_{\{X_i=y\}}\right),$$利用 ${\mathbb{P}}^o(X_0=x)=\mathbb{P}(x=o)={\mathbb{P}}^o(X_{{\tau }_o}=x)$ 容易验证 $\mu$ 是 $X$ 的不变测度. $\square$

4.5 可逆马氏链与电路图

4.5.1	如果定义 4.5.1 中的 $\pi$ 是非零测度, 证明: $X$ 限制在 $S_0=\{x:\pi (x)>0\}$ 上是可逆马氏链. 证明. 对任意 $x\in S_0,y\notin S_0$, 有 $\pi (x)p_{x,y}=\pi (y)p_{y,x}=0$, 即 $p_{x,y}=0$, 因此 $S_0$ 是闭集, $X$ 限制在 $S_0$ 上仍是马氏链. 可逆性容易验证. $\square$
4.5.4	设 $X$ 不可分且满足 Kolmogorov 回路测试. 证明: 对任何 $x,y\in S$, 若 $p(x,y)>0$, 则 $p(y,x)>0$. 如果没有不可分性, 这个命题还成立吗? 证明. 由 $X$ 不可分知 $y$ 可达 $x$, 即存在 $z_0=y,z_1,\cdots ,z_{n-1},z_n=x\in S$ 满足 $p(z_{i-1},z_i)>0,i=1,\cdots ,n$. 此时 $x\to y\to z_1\to \cdots \to z_{n-1}\to x$ 为从 $x$ 到 $x$ 的回路, 且正向转移概率大于 $0$, 因而由 Kolmogorov 回路测试知$$p(y,x)⩾p(x,z_{n-1})\cdot \cdots \cdot p(z_1,y)\cdot p(y,x)>0.$$ 如果没有不可分性, 命题不成立, 反例: 令 $S=\{x,y\}$, 其中 $p_{x,y}=p_{y,y}=1$, 易见 $X$ 没有可分性, 满足 Kolmogorov 回路测试但不满足命题. $\square$ 以下练习 4.5.8 与 4.5.9 的图片由于个人原因没有添加, 希望有人能加以补全.
4.5.8	左下图, $5$ 个顶点的图, 每边的电阻是 $1$, 求 (1) ${\mathbb{P}}^a({\tau }_b<{\tau }_a^{+})$; (2) ${\mathbb{P}}^a({\tau }_c<{\tau }_a^{+})$; (3) 设中间的顶点是 $e$, 求 ${\mathbb{P}}^a({\tau }_e<{\tau }_a^{+})$. 证明. 利用简单的 “星 $\to$ 三角变换” 可求出 $a$ 与 $b$, $a$ 与 $c$, $a$ 与 $e$ 之间的有效电阻分别为 $\frac{8}{15}$, $\frac{2}{3}$, $\frac{7}{15}$, 因而由定理 4.5.5 可得三个结果分别为 $\frac{5}{8}$, $\frac{1}{2}$, $\frac{5}{7}$. $\square$
4.5.9	参考右上图, 每边电阻为 $1$, 求 ${\mathbb{P}}^2({\tau }_3<{\tau }_2^{+})$. 证明. 每个点的度数都是 $4$, 因此可考虑先使用 “三角 $\to$ 星变换” 减少其中部分点的度数 (例如, 对 $1,2,c$ 构成的三角形), 于是再不断使用 “星 $\to$ 三角变换” 可求出 $2$ 与 $3$ 之间的有效电阻为 $\frac{5}{12}$, 由定理 4.5.5 可得结果为 $\frac{3}{5}$. $\square$
4.5.13	(1) 用 $T_k$ 表示每个顶点都有 $k$ 个后代的正则树, 在除去根外的每个顶点, 它往 parent 跳的概率是 $p$, 往每个 child 跳的概率是 $\frac{q}{k}$. 求 $p$ 为何值时, 该马氏链是暂留的? (2) 证明: 平面上的六角形 (蜂窝) 格点网络和三角形网络上的简单随机游动是常返的. 证明. (1) 记 $T_k$ 的根为 $r$, 定义 $d:T_k\to {\mathbb{Z}}_{⩾0}$ 如下: $d(r)=0$; 对任意 $x\in T_k$ 与其 child $y$, 令 $d(y)=d(x)+1$ (由于每个顶点只有一个 parent, 这良定). 对任意 $n⩾0$, 记 $P_n=\{x\in T_k:d(x)=n\}$; 对 $x\in P_n$, 记 $P_{n+1}^x=\{y\in P_{n+1}:y\text{ 是 }x\text{ 的 child}\}$. 当 $p=0$ 时, 马氏链是暂留的; 当 $p=1$ 时, 马氏链不是暂留的 (因为根不是暂留的); 下设 $p\in (0,1)$. 令 $\pi (r)=k,\pi (x)=\frac{1}{p}(\frac{q}{kp}{)}^{d(x)-1}(x\ne r)$, 下证 $\pi$ 为 $T_k$ 的对称测度. 任取 $x\in P_n,y\in P_{n+1}^x$. 若 $x=r$, 则 $p(x,y)=\frac{1}{k},p(y,x)=p,\pi (x)\cdot p(x,y)=1=\pi (y)\cdot p(y,x)$; 若 $x\ne r$, 则 $p(x,y)=\frac{q}{k},p(y,x)=p,\pi (x)\cdot p(x,y)=(\frac{q}{kp}{)}^{d(x)}=\pi (y)\cdot p(y,x)$. 由此可见 $T_k$ 可逆, 对应电路图的电导率满足 $c(x,y)=(\frac{q}{kp}{)}^{d(x)}(x\in P_n,y\in P_{n+1}^x)$. $\stackrel{◯}{1}p\in (0,\frac{1}{2})$, 则 $\frac{p}{q}\in (0,1)$. 对 $x\in P_n,y\in P_{n+1}^x$, 定义 $j(x,y)=\frac{1}{k^{n+1}}$, 则容易验证由此得到的反对称函数 $j$ 为 $r$ 到 $\infty$ 的一个正流. 此时, $$\begin{array}{rl}\epsilon (j)=& \frac{1}{2}\sum _{(x,y)\in E}j(x,y{)}^{2}r(x,y)\\ =& \sum _{n=0}^{\infty }\sum _{x\in P_n}\sum _{y\in P_{n+1}^x}j(x,y{)}^{2}r(x,y)\\ =& \sum _{n=0}^{\infty }{k}^n\cdot k\cdot (\frac{1}{k^{n+1}}{)}^2\cdot (\frac{kp}{q}{)}^n\\ =& \sum _{n=0}^{\infty }\frac{1}{k}\cdot (\frac{p}{q}{)}^n=\frac{1-p}{k(1-2p)}<+\infty ,\end{array}$$由定理 4.5.10 可知 $T_k$ 暂留. $\stackrel{◯}{2}p\in [\frac{1}{2},1)$, 则 $\frac{p}{q}\in [1,+\infty )$. 对任意 $n⩾0$, 将所有点 $P_n$ 中的点短路看成一个点 $a_n$. 由于 $a_n,a_{n+1}$ 之间恰有 $k^{n+1}$ 条边, 每条边电导为 $(\frac{q}{kp}{)}^n$, 故 $c(a_n,a_{n+1})=k\cdot (\frac{q}{p}{)}^n$, 从而$$R_{\text{eff}}(r,+\infty )=\sum _{n=0}^{\infty }\frac{1}{k}\cdot (\frac{p}{q}{)}^n=+\infty ,$$由定理 4.5.6 知 $T_k$ 常返. 综上, $T_k$ 暂留当且仅当 $p\in [0,\frac{1}{2})$. (2) 这两个随机游动显然都是不可分可逆马氏链, 且由对称性, 可以令所有边的电阻均为 $1$. 对于六角形格点网络, 将其中所有某个方向的边全部短路后, 所得电路图与 ${\mathbb{Z}}^2$ 上简单随机游动等价, 而后者常返, 因而前者常返. 对于三角形网络 $\Delta$, 取定一点 $a_0$, 定义路径距离$$d(x,y)=\inf \{n\in {\mathbb{Z}}_{⩾0}:\exists x_0,x_1,\cdots ,x_n\text{ s.t. }{x}_0=x\sim x_1\sim \cdots \sim x_n=y\},$$并对正整数 $n$, 记 $P_n=\{x\in \Delta :d(x,a_0)=n\}$. 将所有 $P_n$ 中的点短路看成一个点 $a_n$, 则 $a_n$ 有 $6(2n+1)$ 条边连接 $a_{n+1}$, 其中每条边电导为 $1$, 故 $c(a_n,a_{n+1})=6(2n+1)$, $$R_{\text{eff}}(a_0,+\infty )=\sum _{n=0}^{\infty }\frac{1}{6(2n+1)}=+\infty ,$$因而短路前的 $\Delta$ 常返. $\square$
4.5.17	设 ${\mathbb{Z}}^2$ 是平面上整数格点, 取 $H=\{(x,y)\in {\mathbb{Z}}^2:|x|⩽1,|y|⩽1\}$ 以及 $S=\overline{H}$, 每个边的电阻是 $1$. 令 $A=\{(x,y)\in S:|x|=2\},B=\{(x,y)\in S:|y|=2\}$. 求 ${\mathbb{P}}^{(1,0)}(T_A<T_B)$. 证明. 对 $(x,y)\in S$, 记 $p_{x,y}={\mathbb{P}}^{(x,y)}(T_A<T_B)$, 显然对任意 $(x,y)\in A,p_{x,y}=1$; 对任意 $(x,y)\in B,p_{x,y}=0$; 对任意 $(x,y)\in H$, 由定理 4.5.4 知$$p_{x,y}=\frac{1}{4}\sum _{(x^{\prime },y^{\prime })\sim (x,y)}{p}_{x^{\prime },y^{\prime }}.$$ 由此可得$$p_{0,0}=\frac{1}{4}(p_{1,0}+p_{0,1}+p_{-1,0}+p_{0,-1}),p_{1,1}+p_{1,-1}+p_{-1,1}+p_{-1,-1}=\frac{1}{2}(p_{1,0}+p_{0,1}+p_{-1,0}+p_{0,-1})+1,$$因此$$p_{1,0}+p_{0,1}+p_{-1,0}+p_{0,-1}=p_{0,0}+\frac{1}{2}(p_{1,1}+p_{1,-1}+p_{-1,1}+p_{-1,-1})+\frac{1}{2}=\frac{1}{2}(p_{1,0}+p_{0,1}+p_{-1,0}+p_{0,-1})+1,$$即 $p_{1,0}+p_{0,1}+p_{-1,0}+p_{0,-1}=2$, 同时有 $p_{0,0}=\frac{1}{2}$. 又由 $p_{-1,1}+p_{-1,-1}=\frac{1}{2}+\frac{1}{2}{p}_{-1,0}+\frac{1}{4}(p_{0,1}+p_{0,-1})$ 知$$p_{-1,0}=\frac{1}{4}+\frac{1}{4}{p}_{0,0}+\frac{1}{4}(p_{-1,1}+p_{-1,-1})=\frac{1}{2}+\frac{1}{8}{p}_{-1,0}+\frac{1}{16}(p_{0,1}+p_{0,-1}),$$即 $p_{-1,0}=\frac{4}{7}+\frac{1}{14}(p_{0,1}+p_{0,-1})$. 同理有 $p_{1,0}=\frac{4}{7}+\frac{1}{14}(p_{0,1}+p_{0,-1})$, 故 $p_{-1,0}=p_{0,1}$. 同理有 $p_{0,1}=p_{0,-1}$, 从而 $p_{0,1}+p_{1,0}=p_{0,-1}+p_{1,0}=1$. 最后, $p_{1,1}=\frac{1}{4}+\frac{1}{4}(p_{0,1}+p_{1,0})=\frac{1}{2},p_{1,-1}=\frac{1}{4}+\frac{1}{4}(p_{0,-1}+p_{1,0})=\frac{1}{2}$, 因此$$p_{0,1}=\frac{1}{4}+\frac{1}{4}{p}_{0,0}+\frac{1}{4}{p}_{1,1}+\frac{1}{4}{p}_{1,-1}=\frac{5}{8},$$即 ${\mathbb{P}}^{(1,0)}(T_A<T_B)=\frac{5}{8}$. $\square$

5泊松过程与布朗运动

5.1 泊松过程的定义与性质

5.1.2

设 $\{{\xi }_n:n⩾1\}$ 是 $01$ 值的 Bernoulli 随机序列, $S_0=0,S_n=\sum _{j=1}^n{\xi }_j$. 对任何 $t>0$, 定义 $X_t:=\inf \{n⩾0:S_n>t\}$. 求 $X_t$ 的分布与期望. 证明. 显然对任意 $t>0,X_t>\lfloor t\rfloor$, 且 $X_t=X_{\lfloor t\rfloor }$, 因而由 ${\xi }_n$ 的独立性知对任意 $n>\lfloor t\rfloor$,$$\mathbb{P}(X_t=n)=\mathbb{P}({\xi }_1,\cdots ,{\xi }_{n-1}\text{ 中有 }\lfloor t\rfloor \text{ 个取 }1,{\xi }_n=1)=\left(\genfrac{}{}{0ex}{}{n-1}{\lfloor t\rfloor }\right)\cdot p^{\lfloor t\rfloor +1}\cdot (1-p{)}^{n-\lfloor t\rfloor -1}.$$令 $\{{\tau }_k{\}}_{k=1}^{\infty }\stackrel{\text{i.i.d}}{\sim }\mathrm{Geo}(p),Y_n=\sum _{k=1}^n{\tau }_k$, 则对任意 $m⩾n$, $\mathbb{P}(Y_n=m)=\left(\genfrac{}{}{0ex}{}{m-1}{n-1}\right)p^n{q}^{m-n}$, 故 $X_t$ 与 $Y_{\lfloor t\rfloor +1}$ 同分布, $$\mathbb{E}{X}_t=\mathbb{E}{Y}_{\lfloor t\rfloor +1}=(\lfloor t\rfloor +1)\mathbb{E}{\tau }_1=\frac{\lfloor t\rfloor +1}{p}.$$ $\square$

5.1.5

$S_n-S_{n-1}$ 是 $n$ 个更新间隔的时间, 而 $S_{N_t+1}-S_{N_t}$ 称为跨越 $t$ 时刻的更新间隔时间, 因为 $S_{N_t+1}>t⩾S_{N_t}$. (1) 证明: $S_{N_t+1}-t$ 与 $t-S_{N_t}$ 独立. (2) 求以上两个随机变量的分布. (3) 求 $S_{N_t+1}-S_{N_t}=T_{N_t+1}$ 的分布与期望. (4) 设 ${\mathcal{G}}_n=\sigma (T_j:j⩽n)$, 证明: $N_t+1$ 是 $({\mathcal{G}}_n)$ 停时, 而 $N_t$ 不是. 证明. (1) 对任意 $n⩾0,a,b>0$, 利用泊松过程是独立增量过程可知$$\begin{array}{rl}\mathbb{P}(S_{N_t+1}-t>a,t-S_{N_t}>b)=& \mathbb{P}(N_{t+a}-N_t=0,N_t-N_{t-b}=0)\\ =& \mathbb{P}(N_{t+a}-N_t=0)\cdot \mathbb{P}(N_t-N_{t-b}=0)\\ =& \mathbb{P}(S_{N_t+1}-t>a)\cdot \mathbb{P}(t-S_{N_t}>b).\end{array}$$ (2) 同 (1) 可知对任意 $a>0$,$$\mathbb{P}(S_{N_t+1}-t>a)=\mathbb{P}(N_{t+a}-N_t=0)=e^{-\lambda a},$$故 $S_{N_t+1}-t\sim \mathrm{Exp}(\lambda )$, 同理可证 $t-S_{N_t}\sim \mathrm{Exp}(\lambda )$. (3) 由 (1), (2) 可知 $T_{N_t+1}=(S_{N_t+1}-t)+(t-S_{N_t})\sim \Gamma (2,\lambda )$, 即其密度函数为 $\rho (x)={\lambda }^{2}x{e}^{-\lambda x}\cdot 1_{(0,\infty )}(x)$, $\mathbb{E}(T_{N_t+1})=2\mathbb{E}(S_{N_t+1}-t)=\frac{2}{\lambda }$. (4) 显然 $N_t+1,N_t$ 均取值于 ${\mathbb{Z}}_{+}\cup \{+\infty \}$. 对任意 $n⩾0$,$$\{N_t+1⩽n\}=\{N_t⩽n-1\}=\{S_n>t\}=\{T_1+\cdots +T_n>t\}\in {\mathcal{G}}_n,$$故 $N_t+1$ 是 $({\mathcal{G}}_n)$ 停时. 然而, $\{N_t⩽n\}=\{S_{n+1}>t\}=\{T_1+\cdots +T_{n+1}>t\}$, 由于 $T_1,\cdots ,T_{n+1}$ 相互独立, 故这不属于 ${\mathcal{G}}_n$, 从而 $N_t$ 不是 $({\mathcal{G}}_n)$ 停时. $\square$

5.2 布朗运动的定义与构造

5.3 简单性质

5.4 轨道性质

5.4.3	设 $D=(t_i)$ 是区间 $[0,t]$ 上的划分. 求 $\mathbb{E}(\sum _{i=1}^n{B}_{t_{i-1}}(B_{t_i}-B_{t_{i-1}}){)}^2$ 与 $\mathbb{E}(\sum _{i=1}^n{B}_{t_i}(B_{t_i}-B_{t_{i-1}}){)}^2$ 当 $D$ 趋于零时的极限. 证明. 首先,$$\mathbb{E}(\sum _{i=1}^n{B}_{t_{i-1}}(B_{t_i}-B_{t_{i-1}}){)}^2=\sum _{i=1}^n\mathbb{E}(B_{t_{i-1}}^2(B_{t_i}-B_{t_{i-1}}{)}^2)+2\sum _{1⩽i<j⩽n}\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}})B_{t_{j-1}}(B_{t_j}-B_{t_{j-1}})).$$对 $1⩽i⩽n$,$$\mathbb{E}(B_{t_{i-1}}^2(B_{t_i}-B_{t_{i-1}}{)}^2)=\mathbb{E}{B}_{t_{i-1}}^2\cdot \mathbb{E}(B_{t_i}-B_{t_{i-1}}{)}^2=t_{i-1}(t_i-t_{i-1}).$$对 $1⩽i<j⩽n$, $$\begin{array}{rl}\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}})B_{t_{j-1}}(B_{t_j}-B_{t_{j-1}}))=& \mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}})(B_{t_{j-1}}-B_{t_i})(B_{t_j}-B_{t_{j-1}}))\\ & +\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}})B_{t_i}(B_{t_j}-B_{t_{j-1}}))\\ =& 0+\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}}{)}^2(B_{t_j}-B_{t_{j-1}}))\\ & +\mathbb{E}(B_{t_{i-1}}^2(B_{t_i}-B_{t_{i-1}})(B_{t_j}-B_{t_{j-1}}))\\ =& 0.\end{array}$$因此$$\underset{m(D)\to 0}{\lim }\mathbb{E}(\sum _{i=1}^n{B}_{t_{i-1}}(B_{t_i}-B_{t_{i-1}}){)}^2=\underset{m(D)\to 0}{\lim }\sum _{i=1}^n{t}_{i-1}(t_i-t_{i-1})={\int }_0^{t}s\mathrm{d}s=\frac{t^2}{2}.$$ 又$$\mathbb{E}(\sum _{i=1}^n{B}_{t_i}(B_{t_i}-B_{t_{i-1}}){)}^2=\sum _{i=1}^n\mathbb{E}(B_{t_i}^2(B_{t_i}-B_{t_{i-1}}{)}^2)+2\sum _{1⩽i<j⩽n}\mathbb{E}(B_{t_i}(B_{t_i}-B_{t_{i-1}})B_{t_j}(B_{t_j}-B_{t_{j-1}})).$$对 $1⩽i⩽n$, $$\begin{array}{rl}\mathbb{E}(B_{t_i}^2(B_{t_i}-B_{t_{i-1}}{)}^2)=& \mathbb{E}(B_{t_{i-1}}^2(B_{t_i}-B_{t_{i-1}}{)}^2)+2\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}}{)}^3)+\mathbb{E}(B_{t_i}-B_{t_{i-1}}{)}^4\\ =& t_{i-1}(t_i-t_{i-1})+0+3(t_i-t_{i-1}{)}^2.\end{array}$$对 $1⩽i<j⩽n$, 利用上面的结果有$$\begin{array}{rl}\mathbb{E}(B_{t_i}(B_{t_i}-B_{t_{i-1}})B_{t_j}(B_{t_j}-B_{t_{j-1}}))=& \mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}})B_{t_{j-1}}(B_{t_j}-B_{t_{j-1}}))\\ & +\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}})(B_{t_j}-B_{t_{j-1}}{)}^2)\\ & +\mathbb{E}((B_{t_i}-B_{t_{i-1}}{)}^2(B_{t_j}-B_{t_{j-1}}{)}^2)\\ & +\mathbb{E}((B_{t_i}-B_{t_{i-1}}{)}^2{B}_{t_{j-1}}(B_{t_j}-B_{t_{j-1}}))\\ =& 0+0+(t_i-t_{i-1})(t_j-t_{j-1})\\ & +\mathbb{E}(B_{t_{i-1}}(B_{t_i}-B_{t_{i-1}}{)}^2(B_{t_j}-B_{t_{j-1}}))\\ & +\mathbb{E}((B_{t_i}-B_{t_{i-1}}{)}^3(B_{t_j}-B_{t_{j-1}}))\\ & +\mathbb{E}((B_{t_i}-B_{t_{i-1}}{)}^2(B_{t_{j-1}}-B_{t_i})(B_{t_j}-B_{t_{j-1}}))\\ =& (t_i-t_{i-1})(t_j-t_{j-1}).\end{array}$$因此$$\mathbb{E}(\sum _{i=1}^n{B}_{t_i}(B_{t_i}-B_{t_{i-1}}){)}^2=\sum _{i=1}^n{t}_{i-1}(t_i-t_{i-1})+\sum _{i=1}^{n}2(t_i-t_{i-1}{)}^2+(\sum _{i=1}^n(t_i-t_{i-1}){)}^2,$$$$\underset{m(D)\to 0}{\lim }\mathbb{E}(\sum _{i=1}^n{B}_{t_i}(B_{t_i}-B_{t_{i-1}}){)}^2=\frac{t^2}{2}+0+t^2=\frac{3t^2}{2}.$$ $\square$
5.4.4	求下面三个随机变量的期望和方差. (1) ${\int }_0^1{B}_t\mathrm{d}t$; (2) ${\int }_0^1{B}_t^2\mathrm{d}t$; (3) $\exp \left({\int }_0^1{B}_t\mathrm{d}t\right)$. 证明. (1) 记 $X={\int }_0^1{B}_t\mathrm{d}t$, 由 Cauchy 不等式知$${\int }_0^1\mathbb{E}|B_t|\mathrm{d}t⩽{\int }_0^1\frac{1}{2}(1+\mathbb{E}{B}_t^2)\mathrm{d}t=\frac{3}{4}<\infty ,$$因而由 Fubini 定理知$$\mathbb{E}X={\int }_0^1\mathbb{E}{B}_t\mathrm{d}t=0.$$再由 Cauchy 不等式有$${\int }_0^1{\int }_0^1\mathbb{E}|B_t{B}_s|\mathrm{d}t\mathrm{d}s⩽\frac{1}{2}{\int }_0^1{\int }_0^1\mathbb{E}{B}_t^2+\mathbb{E}{B}_s^2\mathrm{d}t\mathrm{d}s=\frac{1}{2}<\infty ,$$再由 Fubini 定理知$$\mathbb{E}{X}^2=\mathbb{E}({\int }_0^1{B}_t\mathrm{d}t{)}^2=\mathbb{E}({\int }_0^1{\int }_0^1{B}_t{B}_s\mathrm{d}t\mathrm{d}s)={\int }_0^1{\int }_0^1\mathbb{E}(B_t{B}_s)\mathrm{d}t\mathrm{d}s={\int }_0^1{\int }_0^{1}t\wedge s\mathrm{d}t\mathrm{d}s=\frac{1}{3},$$故$$\mathrm{Var}(X)=\mathbb{E}{X}^2-(\mathbb{E}X{)}^2=\frac{1}{3}.$$ (2) 由于 $B_t^2$ 非负, 直接利用 Tonelli 定理知$$\mathbb{E}\left({\int }_0^1{B}_t^2\mathrm{d}t\right)={\int }_0^1\mathbb{E}{B}_t^2\mathrm{d}t={\int }_0^{1}t\mathrm{d}t=\frac{1}{2}.$$又因为当 $0⩽s⩽t⩽1$ 时, $$\mathbb{E}(B_s^2{B}_t^2)=\mathbb{E}{B}_s^4+2\mathbb{E}{B}_s^3\cdot \mathbb{E}(B_t-B_s)+\mathbb{E}{B}_s^2\cdot (\mathbb{E}{B}_t^2-2\mathbb{E}(B_t{B}_s)+\mathbb{E}{B}_s^2)=3s^2+0+s(t-2s+s)=2s^2+st,$$因此再由 Tonelli 定理知$$\begin{array}{rl}\mathbb{E}({\int }_0^1{B}_t^2\mathrm{d}t{)}^2=& \mathbb{E}\left({\int }_0^1{\int }_0^1{B}_t^2{B}_s^2\mathrm{d}t\mathrm{d}s\right)\\ =& {\int }_0^1{\int }_0^1\mathbb{E}(B_t^2{B}_s^2)\mathrm{d}t\mathrm{d}s\\ =& {\int }_0^1{\int }_0^s(2t^2+st)\mathrm{d}t\mathrm{d}s+{\int }_0^1{\int }_s^1(2s^2+st)\mathrm{d}t\mathrm{d}s\\ =& {\int }_0^1\frac{7}{6}{s}^3\mathrm{d}s+{\int }_0^1(2s^2+\frac{s}{2}-\frac{5}{2}{s}^3)\mathrm{d}s=\frac{7}{12},\end{array}$$从而$$\mathrm{Var}\left({\int }_0^1{B}_t^2\mathrm{d}t\right)=\mathbb{E}({\int }_0^1{B}_t^2\mathrm{d}t{)}^2-(\mathbb{E}\left({\int }_0^1{B}_t^2\mathrm{d}t\right){)}^2=\frac{1}{3}.$$ (3) 从 (1) 继续. 对任意正整数 $n$, 令$$X_n=\sum _{i=1}^{2^n}\frac{1}{2^n}{B}_{\frac{i}{2^n}}=\sum _{i=1}^{2^n}\frac{1}{2^n}(\sum _{j=1}^i{B}_{\frac{j}{2^n}}-B_{\frac{j-1}{2^n}})=\sum _{j=1}^{2^n}\frac{2^n+1-j}{2^n}(B_{\frac{j}{2^n}}-B_{\frac{j-1}{2^n}}).$$由于 $\{B_{\frac{j}{2^n}}-B_{\frac{j-1}{2^n}}:j=1,\cdots ,2^n\}$ 相互独立且服从正态分布, 因此 $X_n$ 均服从正态分布, 设 $X_n\sim \mathcal{N}({\mu }_n,{\sigma }_n^2)$. 由于布朗运动的轨道连续, 因此 $X_n$ 几乎处处收敛到 $X$, 因而 ${\mu }_n\to \mathbb{E}X=0,{\sigma }_n^2\to \mathrm{Var}(X)=\frac{1}{3}$, 由此可见 $X\sim \mathcal{N}(0,\frac{1}{3})$, 记 ${\sigma }^2=\frac{1}{3}$. 现在可以计算得$$\mathbb{E}(e^X)={\int }_{-\infty }^{\infty }{e}^x\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{x^2}{2{\sigma }^2}}\mathrm{d}x={\int }_{-\infty }^{\infty }\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-{\sigma }^2{)}^2}{2{\sigma }^2}+\frac{{\sigma }^2}{2}}\mathrm{d}x=e^{\frac{{\sigma }^2}{2}}=e^{\frac{1}{6}},$$$$\mathbb{E}(e^{2X})={\int }_{-\infty }^{\infty }{e}^{2x}\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{x^2}{2{\sigma }^2}}\mathrm{d}x={\int }_{-\infty }^{\infty }\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-2{\sigma }^2{)}^2}{2{\sigma }^2}+2{\sigma }^2}\mathrm{d}x=e^{2{\sigma }^2}=e^{\frac{2}{3}},$$$$\mathrm{Var}(e^X)=\mathbb{E}(e^{2X})-(\mathbb{E}(e^X){)}^2=e^{\frac{2}{3}}-e^{\frac{1}{3}}.$$ $\square$
5.4.5	证明: 当 $[0,1]$ 上的分划 $D$ 趋于零时, Riemann 和 $\sum _i{t}_i(B_{t_i}-B_{t_{i-1}})$ 几乎处处收敛于某个随机变量 $\xi$. 求 $\xi$ 的分布. 证明. 利用 Abel 变换得$$\sum _{i=1}^n{t}_i(B_{t_i}-B_{t_{i-1}})=B_1-\sum _{i=1}^n(t_i-t_{i-1})B_{t_{i-1}},$$因而与练习 5.4.4 同理可知当 $D$ 趋于零时, 上述 Riemann 和几乎处处收敛到 $\xi =B_1-{\int }_0^1{B}_t\mathrm{d}t$. 仍采用练习 5.4.4 中的记号, 同理可证 $\xi =B_1-X$ 服从正态分布, 计算得$$\mathbb{E}\xi =\mathbb{E}{B}_1-\mathbb{E}X=0,$$$$\mathrm{Var}(\xi )=\mathbb{E}{\xi }^2=\mathbb{E}{B}_1^2-2\mathbb{E}(B_{1}X)+\mathbb{E}{X}^2=1-1+\frac{1}{3}=\frac{1}{3},$$其中与练习 5.4.4 同理利用 Fubini 定理知$$\mathbb{E}(B_{1}X)=\mathbb{E}\left({\int }_0^1{B}_1{B}_t\mathrm{d}t\right)={\int }_0^1\mathbb{E}(B_1{B}_t)\mathrm{d}t={\int }_0^{1}t\mathrm{d}t=\frac{1}{2}.$$综上, $\xi \sim \mathcal{N}(0,\frac{1}{3})$. $\square$

5.5 马氏性及其应用

5.6 鞅性质及其应用