4.1. 特征值与特征向量

特征值与特征向量

我们知道 $n$ 阶方阵 $A$ 对应于线性映射 $f:k^n\to k^n$ (这里数域 $k=\mathbb{R}$ 或者 $\mathbb{C}$) $$f:\left[\begin{array}{c}{x}_1\\ x_2\\ \cdots \\ x_n\end{array}\right]\mapsto \left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ \cdots & \cdots & \cdots & \cdots \\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ \cdots \\ x_n\end{array}\right]$$即把列向量 $\vec{x}$ 映射为$$f(\vec{x})=A\vec{x}$$

为了更好地刻画这个映射的结构和几何性质, 我们可以寻找一些特殊的向量使得这个线性映射把这些特殊向量映射到相对简单的形式. 其中最自然的一类向量, 就是使得线性映射把它映射到它自己的一个倍数. 这类向量称为特征向量, 其伸缩的倍数称为特征值.

定义 4.1.1. 设 $A$ 是一个 $n$ 阶方阵. 如果存在一个非零向量 $\vec{x}$ 和一个数 $\lambda$ 使得$$A\vec{x}=\lambda \vec{x}$$则 $\lambda$ 称为 $A$ 的一个特征值, $\vec{x}$ 称为 (属于特征值 $\lambda$ 的) 一个特征向量.

这个概念类似地也可以对线性变换来定义.

定义 4.1.2. 设 $f:V\to V$ 是线性空间 $V$ 到自身的一个线性映射. 如果存在一个非零向量 $\vec{x}\in V$ 和一个数 $\lambda$ 使得$$f(\vec{x})=\lambda \vec{x}$$则 $\lambda$ 称为 $f$ 的一个特征值, $\vec{x}$ 称为 (属于特征值 $\lambda$ 的) 一个特征向量.

例子 4.1.3. 考虑矩阵 $A=\left[\begin{array}{cccc}2& 0& 1& 4\\ 0& 1& 4& 2\\ 1& 4& 2& 0\\ 4& 2& 0& 1\end{array}\right]$. 观察到

$$\left[\begin{array}{cccc}2& 0& 1& 4\\ 0& 1& 4& 2\\ 1& 4& 2& 0\\ 4& 2& 0& 1\end{array}\right]\left[\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right]=7\left[\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right]$$因此 $7$ 是 $A$ 的一个特征值, $\left[\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right]$ 是一个特征向量.

并不是任何 $\lambda$ 都能成为给定方阵 $A$ 的特征值. 例如考虑 $A=\left[\begin{array}{ccc}3& 0& 0\\ 0& 3& 0\\ 0& 0& 3\end{array}\right]$, 由于$$A\vec{x}=3\vec{x}$$对任意向量 $\vec{x}$ 成立, 因此 $A$ 的特征值只有 $\lambda =3$.

$A$ 也可能有多个不同的特征值. 例如考虑 $A=\left[\begin{array}{cc}2& 0\\ 0& 3\end{array}\right]$, 容易看出

$$\begin{array}{r}\left[\begin{array}{cc}2& 0\\ 0& 3\end{array}\right]\left[\begin{array}{c}1\\ 0\end{array}\right]=2\left[\begin{array}{c}1\\ 0\end{array}\right]\left[\begin{array}{cc}2& 0\\ 0& 3\end{array}\right]\left[\begin{array}{c}0\\ 1\end{array}\right]=3\left[\begin{array}{c}0\\ 1\end{array}\right]\end{array}$$因此 $\lambda =2$ 和 $\lambda =3$ 均为 $A$ 的特征值.

下面这个命题是特征值的等价描述.

命题 4.1.4. $\lambda$ 是 $n$ 阶方阵 $A$ 的特征值当且仅当齐次线性方程组$$(\lambda I_n-A)\vec{x}=0$$具有非零解.

证明: 假设如上齐次线性方程组有非零解 $\vec{x}$, 则$$A\vec{x}=\lambda I_n\vec{x}=\lambda \vec{x}$$因此 $\lambda$ 是特征值, $\vec{x}$ 是属于 $\lambda$ 的特征向量. 反之亦然.

$\square$

上述命题给出了特征值的具体判别方法.

命题 4.1.5. $\lambda$ 是 $n$ 阶方阵 $A$ 的特征值当且仅当$$\det (\lambda I_n-A)=0$$

证明: 齐次线性方程组 $(\lambda I_n-A)\vec{x}=0$ 具有非零解当且仅当 $\det (\lambda I_n-A)=0$.

$\square$

特征多项式

定义 4.1.6. 设 $A$ 是 $n$ 阶方阵. 则 $n$ 次多项式$$\phi (\lambda ):=\det (\lambda I_n-A)$$称为 $A$ 的特征多项式.

由命题 4.1.5 知, $A$ 的特征值即为特征多项式的根.

例子 4.1.7. $A=\left[\begin{array}{ccc}2& 1& 0\\ 1& 2& 1\\ 0& 1& 2\end{array}\right]$, 特征多项式为$$\begin{array}{rl}\phi (\lambda )=& \left|\begin{array}{ccc}\lambda -2& -1& 0\\ -1& \lambda -2& -1\\ 0& -1& \lambda -2\end{array}\right|=(\lambda -2)\left|\begin{array}{cc}\lambda -2& -1\\ -1& \lambda -2\end{array}\right|+\left|\begin{array}{cc}-1& -1\\ 0& \lambda -2\end{array}\right|\\ =& (\lambda -2)((\lambda -2{)}^2-2)=(\lambda -2)(\lambda -2-\sqrt{2})(\lambda -2+\sqrt{2})\end{array}$$因此 $A$ 有 $3$ 个特征值 $2,2+\sqrt{2},2-\sqrt{2}$.

对于 $n$ 阶方阵 $A=(a_{ij})$, 其特征多项式$$\phi (\lambda )=\left|\begin{array}{cccc}\lambda -a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& \lambda -a_{22}& \cdots & -a_{2n}\\ \cdots & \cdots & \cdots & \cdots \\ -a_{n1}& -a_{n2}& \cdots & \lambda -a_{nn}\end{array}\right|={\lambda }^n+{\alpha }_1{\lambda }^{n-1}+\cdots +{\alpha }_{n-1}\lambda +{\alpha }_n$$是首项为 ${\lambda }^n$ 的 $n$ 次多项式. 由代数学基本定理, 我们可以把 $\phi (\lambda )$ 分解为$$\phi (\lambda )=(\lambda -{\lambda }_1)(\lambda -{\lambda }_2)\cdots (\lambda -{\lambda }_n)$$这里 ${\lambda }_1,\cdots ,{\lambda }_n$ 是 $\phi (\lambda )$ 的所有复数根 (可以有重根) .

命题 4.1.8. 设 ${\lambda }_1,\cdots ,{\lambda }_n$ 是 $A$ 的特征多项式 $\phi (\lambda )$ 的所有复数根 (可以有重根) , 则$$\det A={\lambda }_1{\lambda }_2\cdots {\lambda }_n$$

证明: 由 $\phi (\lambda )=(\lambda -{\lambda }_1)(\lambda -{\lambda }_2)\cdots (\lambda -{\lambda }_n)$, 知 $\phi (0)=(-1{)}^n{\lambda }_1{\lambda }_2\cdots {\lambda }_n$. 另一方面由定义$$\phi (0)=\det (-A)=(-1{)}^n\det A$$对比两个表达式即得命题.

$\square$

命题 4.1.9. 方阵 $A$ 可逆当且仅当 $A$ 的特征值全不为零.

证明: 由$$\det A={\lambda }_1{\lambda }_2\cdots {\lambda }_n$$即得命题.

$\square$

例子 4.1.10. 假设 $A=\left[\begin{array}{ccccc}{a}_{11}& a_{12}& a_{13}& \cdots & a_{1n}\\ 0& a_{22}& a_{23}& \cdots & a_{2n}\\ 0& 0& a_{33}& \cdots & a_{3n}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 0& 0& 0& \cdots & a_{nn}\end{array}\right]$ 是上三角方阵, 则

$$\phi (\lambda )=\left|\begin{array}{ccccc}\lambda -a_{11}& -a_{12}& -a_{13}& \cdots & -a_{1n}\\ 0& \lambda -a_{22}& -a_{23}& \cdots & -a_{2n}\\ 0& 0& \lambda -a_{33}& \cdots & -a_{3n}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 0& 0& 0& \cdots & \lambda -a_{nn}\end{array}\right|=\prod _{i=1}^n(\lambda -a_{ii})$$此时 $A$ 的特征值即为所有对角元的值.

定义 4.1.11. 方阵 $A=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ \cdots & \cdots & \cdots & \cdots \\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right]$ 的迹 (trace) 定义为$$\mathrm{Tr}A:=a_{11}+a_{22}+\cdots +a_{nn}$$即为 $A$ 的所有对角元的和.

迹的一个重要性质是如下关于乘法的对称性.

命题 4.1.12. 设 $A$ 是 $m\times n$ 矩阵, $B$ 是 $n\times m$ 矩阵. 则$$\mathrm{Tr}AB=\mathrm{Tr}BA$$

证明: 留作练习.

$\square$

命题 4.1.13. 设 $n$ 阶方阵 $A$ 的特征多项式为 $\phi (\lambda )={\lambda }^n+{\alpha }_1{\lambda }^{n-1}+\cdots +{\alpha }_{n-1}\lambda +{\alpha }_n$. 则$${\alpha }_1=-\mathrm{Tr}A$$

证明: $$\phi (\lambda )=\left|\begin{array}{cccc}\lambda -a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& \lambda -a_{22}& \cdots & -a_{2n}\\ \cdots & \cdots & \cdots & \cdots \\ -a_{n1}& -a_{n2}& \cdots & \lambda -a_{nn}\end{array}\right|$$由行列式组合公式, ${\lambda }^{n-1}$ 项只能来源于 $\prod _{i=1}^n(\lambda -a_{ii})$ 的贡献, 由此易得 ${\alpha }_1=-\sum _{i=1}^n{a}_{ii}=-\mathrm{Tr}A$.

$\square$

因此 $A$ 的特征多项式可以表达为$$\phi (\lambda )={\lambda }^n-(\mathrm{Tr}A){\lambda }^{n-1}+\cdots +(-1{)}^n\det A$$实际上, 特征多项式中其他的系数 ${\alpha }_k$ 也可以通过 $A$ 的 $k$ 阶余子式来得到, 我们这里不作讨论.

命题 4.1.14. 设 ${\lambda }_1,\cdots ,{\lambda }_n$ 是 $A$ 的特征多项式 $\phi (\lambda )$ 的所有复数根 (可以有重根) , 则$$\mathrm{Tr}A={\lambda }_1+{\lambda }_2+\cdots +{\lambda }_n$$

证明: $\phi (\lambda )=(\lambda -{\lambda }_1)(\lambda -{\lambda }_2)\cdots (\lambda -{\lambda }_n)$ 的 ${\lambda }^{n-1}$ 项系数为 $-{\lambda }_1-{\lambda }_2-\cdots -{\lambda }_n$. 对比公式 $\phi (\lambda )={\lambda }^n-(\mathrm{Tr}A){\lambda }^{n-1}+\cdots$ 即得命题.

$\square$

例子 4.1.15. 设 $A=\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]$ 是 $2$ 阶方阵$$\mathrm{Tr}A=a+d\det A=ad-bc$$因此 $A$ 的特征多项式为$$\phi (\lambda )={\lambda }^2-(\mathrm{Tr}A)\lambda +\det A={\lambda }^2-(a+d)\lambda +(ad-bc)$$这个公式也可以通过计算行列式直接验证.

Cayley–Hamilton 定理

定理 4.1.16 (Cayley–Hamilton). 设 $n$ 阶方阵 $A$ 的特征多项式为 $\phi (\lambda )={\lambda }^n+{\alpha }_1{\lambda }^{n-1}+\cdots +{\alpha }_{n-1}\lambda +{\alpha }_n$. 则矩阵 $\phi (A):=A^n+{\alpha }_1{A}^{n-1}+\cdots +{\alpha }_{n-1}A+{\alpha }_n{I}_n$ 是零矩阵, 即满足 $\phi (A)=0$.

证明: 令 $B=\lambda I_n-A$, 则 $\phi (\lambda )=\det B$. 观察到 $B$ 的每个余子式 $B_{ij}$ 至多是 $\lambda$ 的 $(n-1)$ 次多项式. 因此 $B$ 的伴随矩阵 $B^{\ast }$ 可以写成

$$B^{\ast }={\lambda }^{n-1}{C}_1+{\lambda }^{n-2}{C}_2+\cdots +C_n$$其中 $C_i$ 是不含 $\lambda$ 的 $n$ 阶方阵. 由伴随矩阵的性质$$B{B}^{\ast }=\det (B)I_n=\phi (\lambda )I_n$$代入上述表达式, 我们得到等式$$(\lambda I_n-A)({\lambda }^{n-1}{C}_1+{\lambda }^{n-2}{C}_2+\cdots +C_n)=\phi (\lambda )I_n$$

比较两边的 $\lambda$ 多项式的系数矩阵, 我们得到$$\begin{array}{rl}{C}_1& =I_n\\ C_2-A{C}_1& ={\alpha }_1{I}_n\\ ⋮& \\ C_n-A{C}_{n-1}& ={\alpha }_{n-1}{I}_n\\ -A{C}_n& ={\alpha }_n{I}_n\end{array}$$把这组方程依次左乘以 $A^n,A^{n-1},\cdots ,A,I_n$ 相加, 即得到 $\phi (A)=0$.

$\square$

定义 4.1.17. 设 $A$ 是 $n$ 阶方阵. 一个非零多项式 $f(\lambda )$ 称为 $A$ 的一个化零多项式, 如果 $f(A)=0$ 是零矩阵.

Cayley–Hamilton 定理表明, 每个 $n$ 阶方阵 $A$ 都会满足一个多项式的代数关系: 它的特征多项式是一个化零多项式. 需要指出的是, 特征多项式不一定是 $A$ 的最小化零多项式: 可能存在次数比 $n$ 小的化零多项式.

例如对于 $A=\left[\begin{array}{ccc}2& 0& 0\\ 0& 2& 0\\ 0& 0& 3\end{array}\right]$, 其特征多项式为 $\phi (\lambda )=(\lambda -2{)}^2(\lambda -3)$. 另一方面$$A-2I=\left[\begin{array}{ccc}0& 0& 0\\ 0& 0& 0\\ 0& 0& 1\end{array}\right]A-3I=\left[\begin{array}{ccc}-1& 0& 0\\ 0& -1& 0\\ 0& 0& 0\end{array}\right]$$容易看出 $(A-2I)(A-3I)=0$. 因此 $f(\lambda )=(\lambda -2)(\lambda -3)$ 是 $A$ 的一个化零多项式, 它的次数比特征多项式 $\phi (\lambda )$ 的次数低.

Cayley–Hamilton 定理有很多重要的应用. 我们这里举一个例子, 它给出了一种矩阵逆的代数表达方法. 设 $A$ 是 $n$ 阶方阵, 其特征多项式为$$\phi (\lambda )={\lambda }^n+{\alpha }_1{\lambda }^{n-1}+\cdots +{\alpha }_{n-1}\lambda +{\alpha }_n$$

假设 $A$ 可逆, 则 ${\alpha }_n=(-1{)}^n\det A\ne 0$. 由 Cayley–Hamilton 定理, 我们有等式$$A^n+{\alpha }_1{A}^{n-1}+\cdots +{\alpha }_{n-1}A+{\alpha }_n{I}_n=0$$把 ${\alpha }_n{I}_n$ 移到右边, 两边同除以 $-{\alpha }_n$$$-\frac{1}{{\alpha }_n}(A^{n-1}+{\alpha }_1{A}^{n-2}+\cdots +{\alpha }_{n-1}{I}_n)A=I_n$$由此得$$A^{-1}=-\frac{1}{{\alpha }_n}(A^{n-1}+{\alpha }_1{A}^{n-2}+\cdots +{\alpha }_{n-1}{I}_n)$$特别地, $A^{-1}$ 可以通过 $A$ 的一个多项式来表达.

例子 4.1.18. 设 $A=\left[\begin{array}{ccc}2& -2& 4\\ 2& 3& 2\\ -1& 1& -1\end{array}\right]$. 它的特征多项式为$$\phi (\lambda )=\det (\lambda I_3-A)={\lambda }^3-4{\lambda }^2+7\lambda -10$$因此$$A^{-1}=\frac{1}{10}(A^2-4A+7I_3)=\frac{1}{10}\left[\begin{array}{ccc}-5& 2& -16\\ 0& 2& 4\\ 5& 0& 10\end{array}\right]$$