矩阵的范数和逆矩阵的范数的关系

矩阵的范数和逆矩阵的范数之间的关系是线性代数中的一个重要主题，尤其是在数值分析和矩阵理论中。

前提条件

• 我们讨论的是方阵 $A$ 的情况，因为只有方阵才可能存在逆矩阵。
• 矩阵 $A$ 是可逆的（即 $\det (A)\ne 0$），这意味着 $A^{-1}$ 存在。

关键结论

对于一个给定的矩阵范数 $\Vert \cdot \Vert$，如果 $A$ 是可逆的，则有以下不等式成立：

$$\Vert A^{-1}\Vert \ge \frac{1}{\Vert A\Vert }$$

其中，$\Vert A\Vert$ 表示矩阵 $A$ 的范数，而 $\Vert A^{-1}\Vert$ 则表示其逆矩阵的范数。注意这里的范数可以是任何相容的矩阵范数，如诱导范数（induced norm）、Frobenius范数等。

推导过程简述

考虑向量 $x$ 和单位向量 $y=Ax/\Vert Ax\Vert$，我们有：

$$1=\Vert y\Vert =\Vert \frac{Ax}{\Vert Ax\Vert }\Vert \le \Vert A\Vert \cdot \Vert \frac{x}{\Vert Ax\Vert }\Vert$$

由此可以得出：

$$\frac{1}{\Vert A\Vert }\le \frac{\Vert x\Vert }{\Vert Ax\Vert }$$

对所有非零向量 $x$ 成立。特别地，取 $x=A^{-1}z$ 对于任意非零向量 $z$，我们得到：

$$\frac{1}{\Vert A\Vert }\le \frac{\Vert A^{-1}z\Vert }{\Vert z\Vert }$$

从而得出：

$$\Vert A^{-1}\Vert \ge \frac{1}{\Vert A\Vert }$$

注意事项

• 这个关系表明了逆矩阵的范数至少为原矩阵范数的倒数。然而，在实际应用中，$\Vert A^{-1}\Vert$ 可能远大于 $1/\Vert A\Vert$，特别是在矩阵接近奇异的情况下（即当 $\det (A)$ 非常接近于0时）。
• 矩阵条件数（condition number）定义为 $\kappa (A)=\Vert A\Vert \cdot \Vert A^{-1}\Vert$，它衡量了矩阵求解线性系统时的敏感度。条件数越大，意味着矩阵越“病态”，数值计算的结果可能越不稳定。

示例说明

假设有一个 $2\times 2$ 矩阵 $A$：

$$A=\left[\begin{array}{cc}4& 7\\ 2& 5\end{array}\right]$$

其逆矩阵为：

$$A^{-1}=\left[\begin{array}{cc}5/6& -7/6\\ -1/3& 2/3\end{array}\right]$$

如果我们使用谱范数（spectral norm），即最大奇异值作为范数，则可以通过计算各自的奇异值来估计范数，并验证上述不等式是否成立。

📘 谱范数定义

矩阵 $A$ 的谱范数定义为它的最大奇异值：

$$\Vert A{\Vert }_2={\sigma }_{\max }(A)$$

而奇异值是矩阵 $A^{T}A$ 的特征值的平方根。因此，我们可以按以下步骤计算：

1. 计算 $A^{T}A$
2. 求其特征值
3. 取最大特征值的平方根即为谱范数

✅ 步骤一：计算 $A^{T}A$

$$A^T=\left[\begin{array}{cc}4& 2\\ 7& 5\end{array}\right],A^{T}A=\left[\begin{array}{cc}4& 2\\ 7& 5\end{array}\right]\left[\begin{array}{cc}4& 7\\ 2& 5\end{array}\right]=\left[\begin{array}{cc}{4}^2+2^2& 4\cdot 7+2\cdot 5\\ 7\cdot 4+5\cdot 2& 7^2+5^2\end{array}\right]=\left[\begin{array}{cc}20& 38\\ 38& 74\end{array}\right]$$

✅ 步骤二：求 $A^{T}A$ 的特征值

设 $M=A^{T}A=\left[\begin{array}{cc}20& 38\\ 38& 74\end{array}\right]$

特征方程为：

$$\det (M-\lambda I)=\left|\begin{array}{cc}20-\lambda & 38\\ 38& 74-\lambda \end{array}\right|=(20-\lambda )(74-\lambda )-38^2$$

展开：

$$\begin{gathered} (20-\lambda )(74-\lambda )=1480-94\lambda +{\lambda }^2 \\ 38^2=1444 \end{gathered}$$

所以特征方程为：

$${\lambda }^2-94\lambda +36=0$$

使用求根公式：

$$\lambda =\frac{94\pm \sqrt{94^2-4\cdot 1\cdot 36}}{2}=\frac{94\pm \sqrt{8836-144}}{2}=\frac{94\pm \sqrt{8692}}{2}$$

$$\sqrt{8692}\approx 93.23\Rightarrow {\lambda }_1\approx \frac{94+93.23}{2}=93.615,{\lambda }_2\approx \frac{94-93.23}{2}=0.385$$

✅ 步骤三：取最大特征值的平方根

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\max }}=\sqrt{93.615}\approx 9.68$$

✅ 对 $A^{-1}$ 做同样的操作

先写出：
$$A^{-1}=\left[\begin{array}{cc}\frac{5}{6}& -\frac{7}{6}\\ -\frac{1}{3}& \frac{2}{3}\end{array}\right]\Rightarrow (A^{-1}{)}^T=\left[\begin{array}{cc}\frac{5}{6}& -\frac{1}{3}\\ -\frac{7}{6}& \frac{2}{3}\end{array}\right]$$

计算 $(A^{-1}{)}^T{A}^{-1}$：

$$(A^{-1}{)}^T{A}^{-1}=\left[\begin{array}{cc}\frac{5}{6}& -\frac{1}{3}\\ -\frac{7}{6}& \frac{2}{3}\end{array}\right]\left[\begin{array}{cc}\frac{5}{6}& -\frac{7}{6}\\ -\frac{1}{3}& \frac{2}{3}\end{array}\right]=\left[\begin{array}{cc}{\left(\frac{5}{6}\right)}^2+{\left(-\frac{1}{3}\right)}^2& \frac{5}{6}\cdot \left(-\frac{7}{6}\right)+\left(-\frac{1}{3}\right)\cdot \frac{2}{3}\\ \left(-\frac{7}{6}\right)\cdot \frac{5}{6}+\frac{2}{3}\cdot \left(-\frac{1}{3}\right)& {\left(-\frac{7}{6}\right)}^2+{\left(\frac{2}{3}\right)}^2\end{array}\right]$$

逐项计算：

• 第 (1,1) 项：$\frac{25}{36}+\frac{1}{9}=\frac{25}{36}+\frac{4}{36}=\frac{29}{36}$
• 第 (1,2) 项：$-\frac{35}{36}-\frac{2}{9}=-\frac{35}{36}-\frac{8}{36}=-\frac{43}{36}$
• 第 (2,2) 项：$\frac{49}{36}+\frac{4}{9}=\frac{49}{36}+\frac{16}{36}=\frac{65}{36}$

所以：
$$(A^{-1}{)}^T{A}^{-1}=\left[\begin{array}{cc}\frac{29}{36}& -\frac{43}{36}\\ -\frac{43}{36}& \frac{65}{36}\end{array}\right]$$

接下来求这个矩阵的最大特征值：

特征方程：
$$\det \left(\left[\begin{array}{cc}\frac{29}{36}-\lambda & -\frac{43}{36}\\ -\frac{43}{36}& \frac{65}{36}-\lambda \end{array}\right]\right)=0$$

$$\left(\frac{29}{36}-\lambda \right)\left(\frac{65}{36}-\lambda \right)-{\left(\frac{43}{36}\right)}^2=0$$

展开得：
$${\lambda }^2-\left(\frac{94}{36}\right)\lambda +\left(\frac{29\cdot 65-43^2}{36^2}\right)=0$$

计算常数项：

• $29\cdot 65=1885$
• $43^2=1849$
• 所以分子为 $1885-1849=36$

代入后：
$${\lambda }^2-\frac{94}{36}\lambda +\frac{36}{1296}={\lambda }^2-\frac{94}{36}\lambda +\frac{1}{36}=0$$

用求根公式解：
$$\lambda =\frac{\frac{94}{36}\pm \sqrt{{\left(\frac{94}{36}\right)}^2-\frac{4}{36}}}{2}\approx \frac{2.611\pm \sqrt{6.817-0.111}}{2}=\frac{2.611\pm \sqrt{6.706}}{2}\approx \frac{2.611\pm 2.590}{2}$$

得到两个特征值：

• ${\lambda }_1\approx \frac{5.201}{2}=2.6005$
• ${\lambda }_2\approx \frac{0.021}{2}=0.0105$

所以：

$$\Vert A^{-1}{\Vert }_2=\sqrt{{\lambda }_{\max }}=\sqrt{2.6005}\approx 1.613$$

✅ 最终结果总结

📌 验证关系：$\Vert A^{-1}\Vert \ge \frac{1}{\Vert A\Vert }$

$$\frac{1}{\Vert A\Vert }\approx \frac{1}{9.68}\approx 0.1033<1.613=\Vert A^{-1}\Vert$$

✅ 成立！