穆尔-彭罗斯广义逆

Template:NoteTA 穆尔-彭罗斯广义逆（Template:Lang-en），通常標記為$A^{†}$或$A^{+}$，是著名的广义逆矩阵之一。

1903年，埃里克·伊瓦爾·弗雷德霍姆提出积分算子的伪逆的概念。穆尔-彭罗斯广义逆先后被E·H·穆爾（1920年）、Template:Link-en（1951年） 、羅傑·潘洛斯（1955年）发现或描述。

它常被用于求得或简化非一致线性方程组的最小范数最小二乘解（最小二乘法）。

矩阵的穆尔-彭罗斯广义逆在实数域和复数域上都是唯一的，并且可以通过奇异值分解求得。

定义

定义一

令P_S表示到向量空间S上的正交投影。对于任意一个m乘n的复矩阵A，设R(A)表示A的值域空间。穆尔于1935年证明矩阵A的广义逆矩阵G必须满足的条件：

$𝑨𝑮={𝑷}_{R(𝑨)},𝑮𝑨={𝑷}_{R({𝑨}_{𝑯})}$

以上两个条件称为穆尔条件。满足穆尔条件的矩阵G称为矩阵A的穆尔逆矩阵。

定义二

彭罗斯于1955年提出了定义广义逆矩阵的另外一组条件：

1. $𝑨𝑮𝑨=𝑨$， $𝑨𝑮$不一定是单位矩阵，但却不会改变$𝑨$的列向量。
2. $𝑮𝑨𝑮=𝑮$， $𝑮$是乘法半群的弱逆
3. $(𝑨𝑮{)}^{𝑯}=𝑨𝑮$， $𝑨𝑮$是埃尔米特矩阵
4. $(𝑮𝑨{)}^{𝑯}=𝑮𝑨$， $𝑮𝑨$也是埃尔米特矩阵

以上四个条件常称穆尔-彭罗斯条件。满足全部四个条件的矩阵G，就称为A的穆尔-彭罗斯广义逆矩阵。

性质

从穆尔-彭罗斯条件出发，彭罗斯推导出了穆尔-彭罗斯广义逆的一些性质：

• $({𝑨}^H{)}^{†}=({𝑨}^{†}{)}^H$
• ${𝑨}^{†}𝑨{𝑨}^H={𝑨}^H𝑨{𝑨}^{†}={𝑨}^H$
• $𝑨{𝑨}^H({𝑨}^H{)}^{†}=({𝑨}^H{)}^{†}{𝑨}^H𝑨=𝑨$
• ${𝑨}^{†}𝑨$，$𝑨{𝑨}^{†}$，$(𝑰-{𝑨}^{†}𝑨)$和$(𝑰-{𝑨}^{†}𝑨)$都是幂等矩阵。

存在性和唯一性

伪逆存在且唯一：对于任何矩阵Template:Tmath，恰好有一个矩阵Template:Tmath满足定义的四个性质。

满足该定义的第一个条件的矩阵被称为广义逆。如果该矩阵也满足第二个定义，它就被称为广义反身逆阵（generalized reflexive inverse）。广义逆矩阵总存在，但一般不唯一。唯一性是最后两个条件的结果。

基本性质

这些性质的证明可以在維基教科書中找到。

• 如果 Template:Tmath 有实数项，那么 Template:Tmath也有。
• 如果 Template:Tmath 是可逆的，它的伪逆就是它的逆矩阵，即： $A^{†}=A^{-1}$.Template:Rp
• 零矩阵的伪逆是它的转置。
• 矩阵伪逆的伪逆是原矩阵，即： ${\left(A^{†}\right)}^{†}=A$.Template:Rp
• 伪转置与转置、复共轭和共轭转置可以交换：Template:Rp

  ${\left(A^{\mathsf{\text{T}}}\right)}^{†}={\left(A^{†}\right)}^{\mathsf{\text{T}}}$, ${\left(\bar{A}\right)}^{†}=\overline{A^{†}}$, ${\left(A^{*}\right)}^{†}={\left(A^{†}\right)}^{*}$.

• 矩阵 Template:Tmath 的标量乘法的伪逆是 Template:Tmath 的标量的倒数的乘法：

  ${\left(\alpha A\right)}^{†}={\alpha }^{-1}{A}^{†}$ 对于 Template:Tmath.

恒等式

下面的恒等式可以用来判定部分涉及伪逆的子表达式的正确性：$$A=A{A}^{*}{A}^{†*}=A^{†*}{A}^{*}A$$同样的，将 $A^{†}$ 替换为 $A$ 会得到：$$A^{†}=A^{†}{A}^{†*}{A}^{*}=A^{*}{A}^{†*}{A}^{†}$$当用 $A^{*}$ 替代 $A$ 时，会得到：$$A^{*}=A^{*}A{A}^{+}=A^{+}A{A}^{*}.$$

埃尔米特情况

伪逆的计算可以简化为其在埃尔米特情况下的构造，这可以通过等价关系实现：$$A^{+}={\left(A^{*}A\right)}^{+}{A}^{*},$$$$A^{+}=A^{*}{\left(A{A}^{*}\right)}^{+},$$其中Template:Tmath 和 Template:Tmath 是埃尔米特矩阵。

乘积

令$A\in {𝕜}^{m\times n},B\in {𝕜}^{n\times p}$，下列等式等价：

1. Template:Tmath
2. $\begin{array}{cc}{A}^{†}AB{B}^{*}{A}^{*}& =B{B}^{*}{A}^{*},\\ B{B}^{†}{A}^{*}AB& =A^{*}AB.\end{array}$
3. $\begin{array}{cc}{\left(A^{†}AB{B}^{*}\right)}^{*}& =A^{†}AB{B}^{*},\\ {\left(A^{*}AB{B}^{†}\right)}^{*}& =A^{*}AB{B}^{†}.\end{array}$
4. $A^{†}AB{B}^{*}{A}^{*}AB{B}^{†}=B{B}^{*}{A}^{*}A$
5. $\begin{array}{cc}{A}^{†}AB& =B(AB{)}^{†}AB,\\ B{B}^{†}{A}^{*}& =A^{*}AB(AB{)}^{†}.\end{array}$

下方列出了 Template:Tmath的充分条件：

1. Template:Tmath 的列单位正交（此时$A^{*}A=A^{†}A=I_n$），或
2. Template:Tmath 的行单位正交 （此时 $B{B}^{*}=B{B}^{†}=I_n$） ，或
3. Template:Tmath 的列线性无关（此时 $A^{†}A=I$ ） 同时 Template:Tmath 的行线性无关（此时 $B{B}^{†}=I$），或
4. $B=A^{*}$，或
5. $B=A^{†}$。

下方列出了 Template:Tmath的必要条件：

1. $(A^{†}A)(B{B}^{†})=(B{B}^{†})(A^{†}A)$

由最后一个充分条件得出等式：$$\begin{array}{cc}{\left(A{A}^{*}\right)}^{+}& =A^{+*}{A}^{+},\\ {\left(A^{*}A\right)}^{+}& =A^{+}{A}^{+*}.\end{array}$$注意: 等式 Template:Tmath 一般不成立，例如：$$(\left(\begin{array}{cc}1& 1\\ 0& 0\end{array}\right)\left(\begin{array}{cc}0& 0\\ 1& 1\end{array}\right){)}^{+}={\left(\begin{array}{cc}1& 1\\ 0& 0\end{array}\right)}^{+}=\left(\begin{array}{cc}\frac{1}{2}& 0\\ \frac{1}{2}& 0\end{array}\right)\ne \left(\begin{array}{cc}\frac{1}{4}& 0\\ \frac{1}{4}& 0\end{array}\right)=\left(\begin{array}{cc}0& \frac{1}{2}\\ 0& \frac{1}{2}\end{array}\right)\left(\begin{array}{cc}\frac{1}{2}& 0\\ \frac{1}{2}& 0\end{array}\right)={\left(\begin{array}{cc}0& 0\\ 1& 1\end{array}\right)}^{+}{\left(\begin{array}{cc}1& 1\\ 0& 0\end{array}\right)}^{+}$$

投影

$P=A{A}^{†}$ 和 $Q=A^{†}A$ 是正交投影算子，即它们是埃尔米特矩阵（$P=P^{*}$，$Q=Q^{*}$）和幂等矩阵（$P^2=P$，$Q^2=Q$）。以下性质成立：

• $PA=AQ=A$ ，$A^{†}P=Q{A}^{†}=A^{†}$
• Template:Tmath 是正交投影算子，投影到 Template:Tmath 的值域（也就是 Template:Tmath 的核的正交补空间）。
• Template:Tmath 是正交投影算子，投影到 Template:Tmath 的值域（也就是 Template:Tmath 的核的正交补空间）。
• $(I-Q)=(I-A^{†}A)$ 是正交投影算子，投影到 Template:Tmath 的核。
• $(I-P)=(I-A{A}^{†})$ 是正交投影算子，投影到 Template:Tmath 的核。

最后两条性质隐含了下列等式：

• $A(I-A^{†}A)=(I-A{A}^{†})A=0$
• $A^{*}(I-A{A}^{†})=(I-A^{†}A)A^{*}=0$

如果 $A\in {𝕜}^{n\times n}$ 是埃尔米特矩阵和幂等矩阵（当且仅当它为正交投影矩阵），则对于任意矩阵 $B\in {𝕜}^{m\times n}$ ，下式成立：$$A(BA{)}^{†}=(BA{)}^{†}$$这一条性质可以如此证明：定义矩阵 $C=BA$, $D=A(BA{)}^{†}$，当 Template:Tmath 是埃尔米特矩阵和幂等矩阵时，通过验证伪逆的性质可以检查 Template:Tmath 确实是 Template:Tmath 的一个伪逆。从上一条性质可以看出，当 $A\in {𝕜}^{n\times n}$ 是埃尔米特矩阵和幂等矩阵时，对于任意矩阵 $B\in {𝕜}^{n\times m}$

$$(AB{)}^{†}A=(AB{)}^{†}$$

当 Template:Tmath 是一个正交投影矩阵，则它的伪逆就是它自身，即 $A^{†}=A$。

几何结构

如果我们把矩阵看作是一个在数域 $𝕜$ 上的线性映射 Template:Tmath， 那么 $A^{†}:{𝕜}^m\to {𝕜}^n$ 可以被分解如下。首先定义符号： Template:Tmath 表示直和， Template:Tmath 表示正交补，Template:Tmath 表示映射的核， $\mathrm{ran}$ 表示映射的像。注意 ${𝕜}^n={(\ker A)}^{\perp }\oplus \ker A$ 和 ${𝕜}^m=\mathrm{ran}A\oplus {(\mathrm{ran}A)}^{\perp }$。 限制条件 $A:{(\ker A)}^{\perp }\to \mathrm{ran}A$ 则是一个同构。这意味着 Template:Tmath 在 Template:Tmath 上时这个同构的逆，在 ${(\mathrm{ran}A)}^{\perp }$ 上则是零。

换而言之，对于给定的 Template:Tmath 要找到 Template:Tmath，首先将 Template:Tmath 正交投影在 Template:Tmath 的值域中，找到点 Template:Tmath，然后构建 Template:Tmath，即就是在 Template:Tmath 中，会被 Template:Tmath 投影到 Template:Tmath 的点。这是 Template:Tmath 的一个平行于 Template:Tmath 的核的仿射子空间。这个子空间中长度最小的元素（也就是最靠近原点的元素），就是我们寻找的 Template:Tmath 的解。它可以通过从 Template:Tmath 中选择任意元素，并将其投影在 Template:Tmath 的核的正交补空间而得到。

以上描述与线性系统的最小范数解密切相关。

子空间

$$\begin{array}{cc}\ker \left(A^{+}\right)& =\ker \left(A^{*}\right)\\ \mathrm{ran}\left(A^{+}\right)& =\mathrm{ran}\left(A^{*}\right)\end{array}$$

极限

伪逆可以由极限定义：$$A^{†}=\underset{\delta \searrow 0}{\lim }{(A^{*}A+\delta I)}^{-1}{A}^{*}=\underset{\delta \searrow 0}{\lim }{A}^{*}{(A{A}^{*}+\delta I)}^{-1}$$（参见吉洪诺夫正则化）。当 ${\left(A{A}^{*}\right)}^{-1}$ 或 ${\left(A^{*}A\right)}^{-1}$不存在时，这些极限仍然存在。Template:Rp

连续性

与一般的矩阵求逆不同，求伪逆的过程并不连续：如果序列 Template:Tmath 收敛到矩阵 Template:Tmath （在最大范数或弗罗贝尼乌斯范数意义下），则 Template:Tmath 不一定收敛于 Template:Tmath. 然而，如果所有的矩阵 Template:Tmath 与 Template:Tmath 有相同的秩，则 Template:Tmath 将收敛于 Template:Tmath.

导数关系

实值伪逆矩阵的导数，该矩阵在某点Template:Tmath处具有恒定的秩 可以用原矩阵的导数来计算：$$\frac{\mathrm{d}}{\mathrm{d}x}{A}^{†}(x)=-A^{†}\left(\frac{\mathrm{d}}{\mathrm{d}x}A\right)A^{†}+A^{†}{A}^{†\mathsf{\text{T}}}\left(\frac{\mathrm{d}}{\mathrm{d}x}{A}^{\mathsf{\text{T}}}\right)(I-A{A}^{†})+(I-A^{†}A)\left(\frac{\text{d}}{\text{d}x}{A}^{\mathsf{\text{T}}}\right)A^{†\mathsf{\text{T}}}{A}^{†}$$

例子

对于可逆矩阵，其广义逆为其一般的逆矩阵，所以以下仅举一些不可逆矩阵的例子。

• 对于$A=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)$，其广义逆矩阵为$A^{†}=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)$（通常零矩阵的广义逆矩阵为其转置）。该广义逆矩阵的唯一性可以认为时由性质$A^{†}=A^{†}A{A}^{†}$得出的，因为与零矩阵相乘总会得到零矩阵。
• 对于$A=\left(\begin{array}{cc}1& 0\\ 1& 0\end{array}\right)$，其广义逆矩阵为 $A^{†}=\left(\begin{array}{cc}\frac{1}{2}& \frac{1}{2}\\ 0& 0\end{array}\right)$。
  • 事实上，$A{A}^{†}=\left(\begin{array}{cc}\frac{1}{2}& \frac{1}{2}\\ \frac{1}{2}& \frac{1}{2}\end{array}\right)$，所以 $A{A}^{†}A=\left(\begin{array}{cc}1& 0\\ 1& 0\end{array}\right)=A$。
  • 类似的， $A^{†}A=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)$，由此 $A^{†}A{A}^{†}=\left(\begin{array}{cc}\frac{1}{2}& \frac{1}{2}\\ 0& 0\end{array}\right)=A^{†}$。
• 对于$A=\left(\begin{array}{cc}1& 0\\ -1& 0\end{array}\right)$，其广义逆矩阵为$A^{†}=\left(\begin{array}{cc}\frac{1}{2}& -\frac{1}{2}\\ 0& 0\end{array}\right)$。
• 对于$A=\left(\begin{array}{cc}1& 0\\ -1& 0\end{array}\right)$，其广义逆矩阵为$A^{†}=\left(\begin{array}{cc}\frac{1}{2}& -\frac{1}{2}\\ 0& 0\end{array}\right)$。
• 对于$A=\left(\begin{array}{cc}1& 1\\ 1& 1\end{array}\right)$，其广义逆矩阵为$A^{†}=\left(\begin{array}{cc}\frac{1}{4}& \frac{1}{4}\\ \frac{1}{4}& \frac{1}{4}\end{array}\right)$。
• 对于$A=\left(\begin{array}{cc}1& 0\\ 0& 1\\ 0& 1\end{array}\right)$，其广义逆矩阵为 $A^{†}=\left(\begin{array}{ccc}1& 0& 0\\ 0& \frac{1}{2}& \frac{1}{2}\end{array}\right)$ 。对于该矩阵，其左逆存在且等于$A^{†}$，事实上，$A^{†}A=\left(\begin{array}{cc}1& 0\\ 0& 1\end{array}\right)$。

参考

书籍

• Template:Cite book