31. 映射的微分

给定函数 $f:\Omega \to \mathbb{R}$, 我们上次课定义它的微分 $df(x)$. 当 $x$ 给定的时候, 这是一个 ${\mathbb{R}}^n$ 上的线性函数. 仿照一维的理论, 对一阶导数求导就应该得到二阶导数. 然而, 此时为了定义 $f$ 的二阶导数, 我们就需要对 $x\mapsto df(x)$ 求微分. 此时, (不严格地讲) 映射 $f:x\mapsto df(x)$ 是一个从 $\Omega$ 到 $\mathrm{Hom}({\mathbb{R}}^n,\mathbb{R})\simeq {\mathbb{R}}^n$ 的映射, 这是向量值的函数. 所以, 我们自然地想到对向量值的函数 $f:\Omega \to {\mathbb{R}}^m$ 定义微分. 当然, 我们还可以考虑 $df(x)$ 的每个分量 (依赖于坐标系的选取) 然后要求每个分量都可微, 至少从形式上看, 后一种做法失于简洁和美观.

定义 31.1 (微分). 假设 $\Omega$ 是 ${\mathbb{R}}^n$ 中的区域, ${\Omega }^{\prime }$ 是 ${\mathbb{R}}^m$ 中的区域, 给定映射 $f:\Omega \to {\Omega }^{\prime }$. 如果存在线性映射$$df{|}_{x=x_0}=df(x_0):{\mathbb{R}}^n\to {\mathbb{R}}^m,$$使得对于 ${\mathbb{R}}^n$ 中的 $v\to 0$ 时, 我们有$$f(x_0+v)=f(x_0)+df(x_0)v+o(v),$$即$$\underset{v\to 0}{\lim }\frac{|f(x_0+v)-f(x_0)-df(x_0)v|}{|v|}=0,$$我们就称 $f$ 在 $x_0$ 处可微并且称线性映射 $df(x_0)$ 是 $f$ 在 $x_0$ 的微分. 如果 $f$ 在 $\Omega$ 的每个点处都可微, 我们就称 $f$ 是 $\Omega$ 上面的可微映射.

注记.

1.	在上述微分的定义中, 我们完全没有用到 ${\mathbb{R}}^n$ 和 ${\mathbb{R}}^m$ 上的坐标系. 实际上, 在下面的极限中$$\underset{v\to 0}{\lim }\frac{|\stackrel{\text{用到 Rm 上的加法结构}}{\overbrace{f(\underset{\text{用到 Rn 上的加法结构}}{\underbrace{x_0+v}})-f(x_0)-df(x_0)v}}|}{|v|}=0,$$我们只用到了 ${\mathbb{R}}^n$ 和 ${\mathbb{R}}^m$ 上的线性结构和它们上面的范数 (我们分别用了蓝色和红色表示, 其中红色的是定义域 ${\mathbb{R}}^n$ 上的范数, 蓝色的是值域 ${\mathbb{R}}^m$ 上的范数) . 据此, 我们可以将上述定义进行推广: 给定赋范线性空间 $(V_1,\Vert \cdot {\Vert }_1)$ 和 $(V_2,\Vert \cdot {\Vert }_2)$, ${\Omega }_1\subset V_1$ 和 ${\Omega }_2\subset V_2$ 是非空的开集, $f:{\Omega }_1\to {\Omega }_2$ 是映射. 如果存在线性映射$$df{|}_{x=x_0}=df(x_0):V_1\to V_2,$$使得对于 $V_1$ 中的 $v\to 0$ 时, 我们有$$\underset{v\to 0}{\lim }\frac{\Vert f(x_0+v)-f(x_0)-df(x_0)v{\Vert }_2}{\Vert v{\Vert }_1}=0,$$我们就称 $f$ 在 $x_0$ 处可微并且称线性映射 $df(x_0)$ 是 $f$ 在 $x_0$ 的微分.
2.	假设 $f$ 在 $\Omega$ 上可微. 那么, 给定 $x\in \Omega$, $df(x)\in \mathrm{Hom}({\mathbb{R}}^n,{\mathbb{R}}^m)\approx {\mathbb{R}}^{mn}$ (可以视作是 $m\times n$ 的矩阵, 这里我们用坐标比较方便) 也在一个向量空间中取值的. (然而, 如果在一般的 (无限维的) 的赋范线性空间上定义微分, 我们会要求 $df(x)\in \mathrm{Hom}(V,W)$ 是所谓的连续线性映射, 这里不展开讨论, 有兴趣的同学可以在泛函分析的课程上学习) . 所以, 当 $x$ 变化的时候, 我们就得到一个映射$$\Omega \to {\mathbb{R}}^{nm},x\mapsto df(x).$$我们可以对它求导数来定义它的微分. 高阶的微分不是这门课程的重点.
3.	假设 $f$ 在 $x_0\in \Omega$ 处可微分, 我们就有映射$$df(x_0):{\mathbb{R}}^n\to {\mathbb{R}}^m.$$由于这些映射依赖于点, 特别地, 依赖于 $x_0\in \Omega$ (和 $f(x_0)\in {\Omega }^{\prime }$) , 我们用 $T_{x_0}\Omega$ 代表它的定义域的线性空间 ${\mathbb{R}}^n$, 用 $T_{f(x_0)}{\Omega }^{\prime }$ 代表它的值域的线性空间 ${\mathbb{R}}^m$, 这样子, 我们形式上就有$$df(x_0):T_{x_0}\Omega \to T_{f(x_0)}{\Omega }^{\prime }.$$符号 $T_{x_0}\Omega$ 代表的是 $\Omega$ 在 $x_0$ 处的切空间 (＝切平面) , $T_{f(x_0)}{\Omega }^{\prime }$ 代表的是 ${\Omega }^{\prime }$ 在 $f(x_0)$ 处的切空间, 我们会有专门的例子来理解这个对象, 目前大家可以暂时将它们理解为好的记号.

我们上次课定义了方向导数和偏导数, 这都是一维的对象. 下面的命题表明, 我们可以用偏导数这些一维的对象来描述 $df(x_0)$ 这个高维的对象:

命题 31.2 (微分的计算). 假设 $V={\mathbb{R}}^n$ 和 $W={\mathbb{R}}^m$, 我们在 $V$ 上用坐标系 $\{x_i{\}}_{i=1,\cdots ,n}$, 在 $W$ 上用坐标系 $\{y_j{\}}_{j=1,\cdots ,m}$ (把空间写成 $V$ 和 $W$ 是强调这些空间可以不用具体的坐标来描述) . 考虑 $f:V\to W$ (我们也可以考虑 $f$ 定义在 $V$ 中某个区域上) , 用坐标来写, 我们有: $$x\mapsto f(x)=(f_1(x_1,\cdots ,x_n),f_2(x_1,\cdots ,x_n),\cdots ,f_m(x_1,\cdots ,x_n)).$$有时候还写成$$y_1=f_1(x_1,\cdots ,x_n),y_2=f_2(x_1,\cdots ,x_n),\cdots ,y_m=f_m(x_1,\cdots ,x_n).$$那么, 我们有

1.	假设 $f$ 在 $x_0$ 处可微, 那么每个分量函数 $f_j$ 在 $x_0$ 处都可微, 其中 $j=1,2,\cdots ,m$.
2.	如果每个分量函数 $f_j$ 在 $x_0$ 处都可微 (其中 $j=1,2,\cdots ,m$) , 那么 $f$ 在 $x_0$ 处可微.

特别地, 如果 $f$ 在 $x_0$ 处可微, 那么映射 $df(x_0):{\mathbb{R}}^n\to {\mathbb{R}}^m$ 可以用 $m\times n$ 的矩阵$$(\frac{\partial f_j}{\partial x_i}(x_0){)}_{\genfrac{}{}{0ex}{}{i=1,\cdots ,n}{j=1,\cdots ,m}}$$来表示 (我们将这个矩阵称作是 $f$ 在 $x$ 处的 Jacobi 矩阵, 并记作 $\mathrm{Jac}(f)$ 或者 $\mathbf{J}(f)$, 它只是微分在一个特殊的坐标系下的表达) .

证明. 我们首先证明, $f$ 在 $x_0$ 可微等价于每个分量 $f_j$ ($j=1,\cdots ,m$) 都可微. 假设 $f$ 在 $x_0$ 处可微, 此时 $df:{\mathbb{R}}^n\to {\mathbb{R}}^m$ 有定义并且是线性映射. 由于我们在 ${\mathbb{R}}^n$ 上选定了基 $\{\frac{\partial }{\partial x_i}{\}}_{i⩽n}$, 在 ${\mathbb{R}}^m$ 上选定了基 $\{\frac{\partial }{\partial y_j}{\}}_{j⩽m}$, 我们可以把这个线性映射用矩阵 $(J_{ji}{)}_{\genfrac{}{}{0ex}{}{i⩽n,}{j⩽m}}$ 来表示.

首先, 用分量表达, 我们有$$\begin{array}{rl}\frac{|f(x_0+v)-f(x_0)-df(x_0)v|}{|v|}& =\frac{\left|\right(\cdots ,f_j(x_0+v)-f_j(x_0),\cdots )-(\cdots ,{\sum }_{i=1}^n{J}_{ji}{v}_i,\cdots \left)\right|}{|v|}\\ & =\frac{\sqrt{\sum _{j=1}^m|f_j(x_0+v)-f_j(x_0)-\sum _{i=1}^n{J}_{ji}{v}_i{|}^2}}{|v|}.\end{array}$$

由于当 $v\to 0$ 时, 上述左边为 $o(1)$, 所以, 限制到每个分量, 我们就有$$o(1)⩾\frac{|f_j(x_0+v)-f_j(x_0)-\sum _{i=1}^n{J}_{ji}{v}_i|}{|v|}.$$按定义, 这表明 $f_j$ 是可微分的 (因为我们用线性映射在 $x_0$ 附近逼近了 $f_j$) . 反过来, 假设对每个 $j⩽m$, 我们都有$$\frac{|f_j(x_0+v)-f_j(x_0)-\sum _{i=1}^n{J}_{ji}{v}_i|}{|v|}=o(1),$$那么, $$\begin{array}{rl}\frac{|f(x_0+v)-f(x_0)-df(x_0)v|}{|v|}& =\frac{\sqrt{\sum _{j=1}^m|f_j(x_0+v)-f_j(x_0)-\sum _{i=1}^n{J}_{ji}{v}_i{|}^2}}{|v|}\\ & ⩽\sum _{j=1}^m\frac{|f_j(x_0+v)-f_j(x_0)-\sum _{i=1}^n{J}_{ji}{v}_i|}{|v|}=m\times o(1)=o(1),\end{array}$$

所以 $df(x_0)$ 存在.

我们令 $v=t\frac{\partial }{\partial x_{i_0}}$, 即 $v_{i_0}=t$ 而其它分量 $=0$. 此时, 根据微分的定义, 上面的式子的左边是 $o(1)$ 项 ($t\to 0$) . 计算右边, 我们得到$$o(1)=\frac{\sqrt{\sum _{j=1}^m\left|f_j\right(x_0+\stackrel{\text{只有第i0个位置非0}}{\overbrace{(0,\cdots ,0,t,0\cdots ,0)}})-f_j(x_0)-J_{j{i}_0}t{|}^2}}{t}.$$对于一个特定的指标 $j_0$, 我们自然有$$\begin{array}{rl}& \sqrt{\sum _{j=1}^m\left|f_j\right(x_0+(0,\cdots ,0,t,0\cdots ,0))-f_j(x_0)-J_{j{i}_0}t{|}^2}\\ ⩾& \left|f_{j_0}\right(x_0+(0,\cdots ,0,t,0\cdots ,0))-f_{j_0}(x_0)-J_{j_0{i}_0}t|.\end{array}$$所以, $$o(1)=\frac{\left|f_{j_0}\right(x_0+(0,\cdots ,0,t,0\cdots ,0))-f_{j_0}(x_0)-J_{j_0{i}_0}t|}{t}.$$按照定义, 这表明 $f_{j_0}$ 的沿着 $x_{i_0}$ 偏导数存在并且等于 $J_{j_0{i}_0}$, 这表明$$J_{ji}=\frac{\partial f_j}{\partial x_i}(x_0).$$命题得证.

$\square$

注记. 上述命题表明, 映射可求微分等价于其分量可求微分, 所以, 我们可以通过继续对分量求微分来引入 $k$-次可导的概念 (就是每次求完微分之后这个微分的每个分量都能再求微分) . 所以, 我们可以定义 $C^k(\Omega ,{\mathbb{R}}^m)$, 这是 $k$ 次微分仍然连续的映射的空间. 根据上次课程用偏导数判定微分存在性的定理, 我们知道只要 $f$ 的连续 $k$ 次偏导数 (可能是沿着不同方向的) 存在并且连续, 那么映射就是 $C^k$ 的. 这是一个非常方便有效的判断方式.

我们现在研究符合映射的微分, 也就是所谓的链式法则.

命题 31.3 (链式法则). 假设 ${\Omega }_j\subset {\mathbb{R}}^{m_j}$ 是开集, 其中 $j=1,2,3$, $f:{\Omega }_1\to {\Omega }_2$, $g:{\Omega }_2\to {\Omega }_3$ 是映射. 假设 $f$ 在点 $x_1\in {\Omega }_1$ 处可微, $g$ 在点 $x_2=f(x_1)\in {\Omega }_2$ 处可微, 那么复合映射 $g\circ f$ 在 $x_1$ 处可微, 并且$$(d(g\circ f))(x_1)=(dg)(f(x_1))\circ df(x_1).$$

注记. 上述映射的复合可以用下面的交换图来表示: 那么, 它们所对应的微分 (在线性的层次上) 也可以用类似的交换图来表示: 我们之前引入的符号更好的描述了这个场景: 对于映射 $df(x_1):{\mathbb{R}}^{m_1}\to {\mathbb{R}}^{m_2}$, 我们将 $x_1$ 所对应的 ${\mathbb{R}}^{m_1}$ 记作 $T_{x_1}{\Omega }_1$, 将 ${\mathbb{R}}^{m_2}$ 记作是 $T_{f(x_1)}{\Omega }_2$, 那么, 我们有映射$$df{|}_{x=x_1}:T_{x_1}{\Omega }_1\to T_{f(x_1)}{\Omega }_2.$$从而, 上面的交换图表可以写成

证明. 链式法则的推导与一维的情形如出一辙: 令 $x_2=f(x_1)\in {\Omega }_2$, 按照定义有$$\begin{array}{rl}& f(x_1+h)=f(x_1)+df(x_1)h+\delta (h),\\ & g(f(x_1)+\ell )=g(f(x_1))+dg(x_2)\ell +\Delta (\ell ),\end{array}$$其中 $h\in {\mathbb{R}}^{m_1}$, $\ell \in {\mathbb{R}}^{m_2}$, $\underset{h\to 0}{\lim }\frac{|\delta (h)|}{|h|}={\lim }_{\ell \to 0}\frac{|\Delta (\ell )|}{|\ell |}=0$. 据此, 我们有$$\begin{array}{rl}g(f(x_1+h))-g(f(x_1))& =g(f(x_1)+df(x_1)h+\delta (h))-g(f(x_1))\\ & =dg(x_2)(df(x_1)h+\delta (h))+\Delta (f^{\prime }(x_0)h+\delta (h))\\ & =\underset{=dg(x_2)\circ df(x_1)(h)}{\underbrace{dg(x_2)(df(x_1)h)}}+dg(x_2)(\delta (h))+\Delta (f^{\prime }(x_0)h+\delta (h)).\end{array}$$所以, $$\begin{array}{rl}& \frac{g(f(x_1+h))-g(f(x_1))-dg(x_2)\circ df(x_1)(h)}{h}\\ =& \frac{dg(x_2)(\delta (h))}{h}+\frac{\Delta (f^{\prime }(x_0)h+\delta (h))}{h}\\ ⩽& C\left|\frac{\delta (h)}{h}\right|+\underset{o(1)}{\underbrace{\left|\frac{\Delta (f^{\prime }(x_0)h+\delta (h))}{|f^{\prime }(x_0)h+\delta (h)|}\right|}}\times \underset{⩽C_1}{\underbrace{\left|\frac{|f^{\prime }(x_0)h+\delta (h)|}{h}\right|}}.\end{array}$$由此可见, 这是一个 $o(1)$ 项, 按照微分的定义, $$d(g\circ f)(x_1)=dg(x_2)\circ df(x_1).$$这就完成了证明.

$\square$

作为推论, 我们可以计算反函数 (逆映射) 的微分:

推论 31.4. 给定区域 ${\Omega }_1\subset {\mathbb{R}}^{n_1}$ 和 ${\Omega }_2\subset {\mathbb{R}}^{n_2}$ 和可微映射 $f:{\Omega }_1\to {\Omega }_2$. 假设 $f$ 是双射并且其逆映射 $f^{-1}:{\Omega }_2\to {\Omega }_1$ 是可微的, 那么

•	$n_1=n_2$;
•	$df(x)$ 是可逆的 (等价于 $\mathrm{Jac}(f)(x)$ 的行列式是非零的) .

此时, 对于任意的 $y\in {\Omega }_2$, 我们有$$d{f}^{-1}(y)=(df{|}_{x=f^{-1}(y)}{)}^{-1}.$$

证明. 我们令 ${\Omega }_3={\Omega }_1$, $g=f^{-1}$, $x_1=x$, $x_2=y$, $g\circ f=\mathrm{Id}$, 其中$$\mathrm{Id}:{\Omega }_1\to {\Omega }_1,x\mapsto x,$$是单位映射, 它的微分在每个点处都是单位映射 (线性) . 根据链式法则, 我们就有$$\mathrm{Id}=dg(y)\circ df(x).$$根据矩阵的秩的理论, 我们知道 $n_1⩽n_2$. 用 $f^{-1}$ 替换 $f$, 我们就得到 $n_2⩽n_1$. 这就证明了维数的部分. 上面的等式已经蕴含了逆映射的微分的计算.

$\square$

例子 (指数映射的微分). 上个学期我们对于 $n\times n$ 的矩阵定义了指数映射$$\exp :{\mathbf{M}}_n(\mathbb{R})\to {\mathbf{M}}_n(\mathbb{R}),A\mapsto e^A=\sum _{k=0}^{\infty }\frac{A^k}{k!}.$$我们现在计算它的微分 $d\exp$. 固定 $A\in {\mathbf{M}}_n(\mathbb{R})$, 我们要找到$$d\exp (A):{\mathbf{M}}_n(\mathbb{R})\to {\mathbf{M}}_n(\mathbb{R}),$$其中, 我们把 ${\mathbf{M}}_n(\mathbb{R})$ 视作是 ${\mathbb{R}}^{n^2}$. 对于任意较小的 $V\in {\mathbf{M}}_n(\mathbb{R})$, 我们有$$\begin{array}{rl}{e}^{A+V}-e^V& =\sum _{n=0}^{\infty }\frac{1}{n!}\left((A+V{)}^n-A^n\right)\end{array}$$现在强行展开 $(A+V{)}^n-A^n$ (注意矩阵 $A$ 和 $V$ 的乘法未必交换) . 通过将 $V$ 的二次项 (以及更高次数的项) 放到一起, 我们得到$$(A+V{)}^n-A^n=\sum _{k=0}^{n-1}{A}^{k}V{A}^{n-1-k}+Q_n(V).$$二项式展开的一共不超过 $2^n$ 项, 所以 $Q_n(V)$ 中至多有 $2^n$ 项. 我们上学期证明过 (无论你选取什么样的范数) , 存在常数 $c$ (依赖于范数) , 使得对任意的 $n\times n$ 的矩阵 $A$ 和 $B$, 我们都有$$\Vert A\cdot B\Vert ⩽c\Vert A\Vert \Vert B\Vert .$$上述 $Q_n(V)$ 的一个通项形如 $AAVVAA\cdots AA$, 这是一个由 $n$ 个 $A$ 和 $V$ 排出来的长度为 $n$ 的字符串, 其中至少有 $2$ 个 $V$. 我们可以要求 $\Vert V\Vert ⩽\Vert A\Vert$, 因为最终我们会令 $V\to 0$ (除非 $A=0$, 此时 $Q_n(V)=V^n$, 下面的结论仍然成立) , 所以$$\Vert AAVVAA\cdots AA\Vert ⩽c^{n-1}\Vert A\Vert \Vert A\Vert \Vert V\Vert \Vert V\Vert \Vert A\Vert \Vert A\Vert \cdots \Vert A\Vert \Vert A\Vert .$$那么, 我们得到$$\Vert Q_v(V)\Vert ⩽2^n\times (c^{n-1}\Vert V{\Vert }^2\Vert A{\Vert }^{n-2}).$$从而, 我们有$$\begin{array}{rl}& \Vert \exp (A+V)-\exp (A)-\sum _{n=0}^{\infty }\frac{1}{n!}\left(\sum _{k=0}^{n-1}{A}^{k}V{A}^{n-1-k}\right)\Vert \\ ⩽& \sum _{n=0}^{\infty }\Vert \frac{1}{n!}{Q}_n(V)\Vert ⩽\left(\sum _{n=0}^{\infty }\frac{(2c\Vert A\Vert {)}^n}{n!}\right)\frac{\Vert V{\Vert }^2}{c\Vert A{\Vert }^2}=\frac{e^{2c\Vert A\Vert }}{c\Vert A{\Vert }^2}\Vert V{\Vert }^2.\end{array}$$那么, 我们注意到右端的项是 $o(\Vert V\Vert )$ 并且 $\sum _{n=0}^{\infty }\frac{1}{n!}\left({\sum }_{k=0}^{n-1}{A}^{k}V{A}^{n-1-k}\right)$ 是收敛的. 所以, $$d\exp (A)(V)=\sum _{n=0}^{\infty }\frac{1}{n!}\left(\sum _{k=0}^{n-1}{A}^{k}V{A}^{n-1-k}\right)$$特别地, 如果 $A$ 和 $V$ 可交换, 那么 $d\exp (A)(V)=\exp (A)V$. 我们还有$$d\exp (0)=\mathrm{Id}.$$

有了链式法则, 我们可以讨论更换坐标系的问题. 这是个核心的话题, 我们在中学的时候就已经在使用这个概念, 比如说我们经常在极坐标和 Descartes 坐标系之间转换. 我们首先用映射的语言来描述极坐标: 令$${\Omega }_1={\mathbb{R}}^2-\{(x,0)|x⩾0\}\subset {\mathbb{R}}^2,{\Omega }_2={\mathbb{R}}_{>0}\times (0,2\pi )=\{(r,\vartheta )|r>0,\vartheta \in (0,2\pi )\}.$$

我们通常用的 $x=r\cos \vartheta$ 和 $y=r\sin \vartheta$ 可以用如下的映射来写: $$\Phi :{\Omega }_2\to {\Omega }_1,(r,\vartheta )\mapsto (r\cos \vartheta ,r\sin \vartheta ).$$由于在 ${\Omega }_1$ 上我们给定了 $(x,y)$ 作为坐标, 在 ${\Omega }_2$ 上我们给定了 $(r,\vartheta )$ 作为坐标, 所以我们可以用 Jacobi 矩阵来表示上述映射的微分: $$d\Phi =\mathrm{Jac}(\Phi )=\left(\begin{array}{cc}\frac{\partial x}{\partial r}& \frac{\partial x}{\partial \vartheta }\\ \frac{\partial y}{\partial r}& \frac{\partial y}{\partial \vartheta }\end{array}\right)=\left(\begin{array}{cc}\cos \vartheta & -r\sin \vartheta \\ \sin \vartheta & r\cos \vartheta \end{array}\right).$$这个线性映射自然是可逆的, 它的行列式是 $r$.