查看“︁穆尔-彭罗斯广义逆”︁的源代码

{{NoteTA
|G1=Math
|1=zh-hans:罗杰·彭罗斯; zh-tw:羅傑·潘洛斯;
|2= zh-hans:复;zh-hant:複
}}
'''穆尔-彭罗斯广义逆'''（{{lang-en|Moore–Penrose pseudoinverse}}），通常標記為<math>A^\dagger</math>或<math>A^+</math>，是著名的[[广义逆阵|广义逆矩阵]]之一。

1903年，[[埃里克·伊瓦爾·弗雷德霍姆]]提出[[积分算子]]的伪逆的概念。穆尔-彭罗斯广义逆先后被[[E·H·穆爾]]（1920年）<ref name="Moore1920">{{cite journal
 |last         = Moore
 |first        = E. H.
 |authorlink   = E. H. Moore
 |title        = On the reciprocal of the general algebraic matrix
 |journal      = [[Bulletin of the American Mathematical Society]]
 |volume       = 26
 |issue        = 9
 |pages        = 394–395
 |year         = 1920
 |url          = http://projecteuclid.org/euclid.bams/1183425340
 |doi          = 10.1090/S0002-9904-1920-03322-7
 |access-date  = 2012-12-01
 |archive-date = 2020-08-13
 |archive-url  = https://web.archive.org/web/20200813214741/https://projecteuclid.org/euclid.bams/1183425340
 |dead-url     = no
}}</ref>、{{link-en|阿尔内·比耶哈马尔|Arne Bjerhammar}}（1951年） <ref name="Bjerhammar1951">{{cite journal 
| last=Bjerhammar| first=Arne| authorlink=Arne Bjerhammar 

| title=Application of calculus of matrices to method of least squares; with special references to geodetic calculations

| journal=Trans. Roy. Inst. Tech. Stockholm | year=1951 
| volume = 49}}</ref>、[[羅傑·潘洛斯]]（1955年）<ref name="Penrose1955">{{cite journal 
| last=Penrose | first=Roger | authorlink=Roger Penrose 
| title=A generalized inverse for matrices 
| journal=[[Proceedings of the Cambridge Philosophical Society]] 
| volume=51 | pages=406–413 | year=1955 
| doi=10.1017/S0305004100030401}}</ref>发现或描述。

它常被用于求得或简化非一致线性方程组的最小[[范数]]最小二乘解（[[最小二乘法]]）。

矩阵的穆尔-彭罗斯广义逆在[[实数]]域和[[复数 (数学)|复数]]域上都是唯一的，并且可以通过奇异值分解求得。

== 定义 ==
=== 定义一 ===

令'''P'''<sub>S</sub>表示到向量空间''S''上的[[正交投影]]。对于任意一个m乘n的复矩阵'''A'''，设''R''('''A''')表示'''A'''的值域空间。穆尔于1935年证明矩阵'''A'''的广义逆矩阵'''G'''必须满足的条件：

<center>
<math>\boldsymbol{AG}=\boldsymbol{P}_{R(\boldsymbol{A})},\boldsymbol{GA}=\boldsymbol{P}_{R(\boldsymbol{A_H})}</math>
</center>

以上两个条件称为穆尔条件。满足穆尔条件的矩阵'''G'''称为矩阵'''A'''的穆尔逆矩阵。


=== 定义二 ===

彭罗斯于1955年提出了定义广义逆矩阵的另外一组条件<ref name="Penrose1955" />：

# <math>\boldsymbol{AGA}=\boldsymbol{A}</math>， <math>\boldsymbol{AG}</math>不一定是[[单位矩阵]]，但却不会改变<math>\boldsymbol{A}</math>的列向量。
# <math>\boldsymbol{GAG}=\boldsymbol{G}</math>， <math>\boldsymbol{G}</math>是乘法[[半群]]的[[弱逆]]
# <math>(\boldsymbol{AG})^{\boldsymbol{H}}=\boldsymbol{AG}</math>， <math>\boldsymbol{AG}</math>是[[埃尔米特矩阵]]
# <math>(\boldsymbol{GA})^{\boldsymbol{H}}=\boldsymbol{GA}</math>， <math>\boldsymbol{GA}</math>也是[[埃尔米特矩阵]]

以上四个条件常称穆尔-彭罗斯条件。满足全部四个条件的矩阵'''G'''，就称为'''A'''的穆尔-彭罗斯广义逆矩阵。

== 性质 ==
从穆尔-彭罗斯条件出发，彭罗斯推导出了穆尔-彭罗斯广义逆的一些性质<ref name="Penrose1955" />：

*<math>(\boldsymbol{A}^H)^\dagger=(\boldsymbol{A}^\dagger)^H</math>
*<math>\boldsymbol{A}^\dagger \boldsymbol{A} \boldsymbol{A}^H =\boldsymbol{A}^H \boldsymbol{A} \boldsymbol{A}^\dagger=\boldsymbol{A}^H</math>
*<math>\boldsymbol{A} \boldsymbol{A}^H (\boldsymbol{A}^H)^\dagger=(\boldsymbol{A}^H)^\dagger \boldsymbol{A}^H \boldsymbol{A}=\boldsymbol{A}</math>
*<math>\boldsymbol{A}^\dagger \boldsymbol{A}</math>，<math>\boldsymbol{A} \boldsymbol{A}^\dagger</math>，<math>(\boldsymbol{I}-\boldsymbol{A}^\dagger \boldsymbol{A})</math>和<math>(\boldsymbol{I}-  \boldsymbol{A}^\dagger \boldsymbol{A})</math>都是幂等矩阵。

=== 存在性和唯一性 ===
伪逆存在且唯一：对于任何矩阵{{tmath|A}}，恰好有一个矩阵{{tmath|A^\dagger}}满足定义的四个性质。<ref name="GvL1996">{{cite book|last=Golub|first=Gene H.|author-link=Gene H. Golub|author2=Charles F. Van Loan|title=Matrix computations|url=https://archive.org/details/matrixcomputatio00golu_910|url-access=limited|edition=3rd|publisher=Johns Hopkins|location=Baltimore|year=1996|isbn=978-0-8018-5414-9|pages=[https://archive.org/details/matrixcomputatio00golu_910/page/n283 257]–258|author2-link=Charles F. Van Loan}}</ref>

满足该定义的第一个条件的矩阵被称为广义逆。如果该矩阵也满足第二个定义，它就被称为[[广义逆阵|广义反身逆阵]]（generalized reflexive inverse）。广义逆矩阵总存在，但一般不唯一。唯一性是最后两个条件的结果。

=== 基本性质 ===
{{wikibooks|Topics in Abstract Algebra/Linear algebra|3 = en}}

这些性质的证明可以在維基教科書中找到。

* 如果 {{tmath|A}} 有实数项，那么 {{tmath|A^\dagger}}也有。
* 如果 {{tmath|A}} 是可逆的，它的伪逆就是它的逆矩阵，即： <math>A^\dagger = A^{-1}</math>.<ref name="SB2002">{{Cite book|last1=Stoer|first1=Josef|last2=Bulirsch|first2=Roland|title=Introduction to Numerical Analysis|url=https://archive.org/details/introductiontonu0000stoe_t7w1|publisher=[[Springer-Verlag]]|location=Berlin, New York|edition=3rd|isbn=978-0-387-95452-3|year=2002}}.</ref>{{rp|243}}
* [[零矩陣|零矩阵]]的伪逆是它的转置。
* 矩阵伪逆的伪逆是原矩阵，即： <math>\left(A^\dagger \right)^\dagger = A</math>.<ref name="SB2002" />{{rp|245}}
* 伪转置与转置、复共轭和共轭转置可以交换：<ref name="SB2002" />{{rp|245}} <!--reference only mentions the last bit-->
*: <math>\left(A^\textsf{T}\right)^\dagger = \left(A^\dagger\right)^\textsf{T}</math>, <math>\left(\overline{A}\right)^\dagger = \overline{A^\dagger}</math>, <math>\left(A^*\right)^\dagger = \left(A^\dagger\right)^*</math>.
* 矩阵 {{tmath|A}} 的标量乘法的伪逆是 {{tmath|A ^\dagger}} 的标量的倒数的乘法：
*: <math>\left(\alpha A\right)^\dagger = \alpha^{-1} A^\dagger</math> 对于 {{tmath|\alpha \neq 0}}.

==== 恒等式 ====
下面的恒等式可以用来判定部分涉及伪逆的子表达式的正确性：<math display="block">
  A = {}A{}A^*{}A^{\dagger *}{} = {}A^{\dagger *}{}A^*{}A
</math>同样的，将 <math>A^\dagger</math> 替换为 <math>A</math> 会得到：<math display="block">
  A^\dagger ={}A^\dagger{}A^{\dagger *}{}A^*{} = {}A^*{}A^{\dagger *}{}A^\dagger
</math>当用 <math>A^*</math> 替代 <math>A</math> 时，会得到：<math display="block">
  A^* ={}A^*{}A{}A^+{}={}A^+{}A{}A^*.
</math>

=== 埃尔米特情况 ===
伪逆的计算可以简化为其在[[埃尔米特矩阵|埃尔米特]]情况下的构造，这可以通过等价关系实现：<math display="block">A^+ = \left(A^*A\right)^+ A^*,</math><math display="block">A^+ = A^* \left(A A^*\right)^+,</math>其中{{tmath|A^*A}} 和 {{tmath|A A^*}} 是埃尔米特矩阵。

=== 乘积 ===
令<math>A \in \mathbb{k}^{m\times n},\ B \in \mathbb{k}^{n\times p}</math>，下列等式等价：<ref>{{Cite journal|title=Note on the Generalized Inverse of a Matrix Product|url=https://epubs.siam.org/doi/10.1137/1008107|last=Greville|first=T. N. E.|date=1966-10-01|journal=SIAM Review|issue=4|doi=10.1137/1008107|volume=8|pages=518–521|issn=0036-1445|access-date=2022-05-10|archive-date=2022-06-17|archive-url=https://web.archive.org/web/20220617080005/http://epubs.siam.org/doi/10.1137/1008107}}</ref>

# {{tmath|1=(AB)^\dagger = B^\dagger A^\dagger}}
# <math display="inline">\begin{aligned}
A^\dagger A BB^* A^* & = BB^* A^*, \\
  BB^\dagger A^* A B & = A^* A B.
\end{aligned}</math>
# <math>\begin{aligned}
\left(A^\dagger A BB^*\right)^* & = A^\dagger A BB^*, \\
\left(A^* A BB^\dagger\right)^* & = A^* A BB^\dagger.
\end{aligned}</math>
# <math>A^\dagger A BB^* A^* A BB^\dagger = BB^* A^* A</math>
# <math>\begin{aligned}
 A^\dagger A B & = B (AB)^\dagger AB, \\
BB^\dagger  A^* & = A^* A B (AB)^\dagger .
\end{aligned}</math>

下方列出了 {{tmath|1=(AB)^+ = B^+ A^+}}的充分条件：

# {{tmath|A}} 的列单位正交（此时<math>A^*A = A^\dagger A = I_n</math>），或
# {{tmath|B}} 的行单位正交 （此时 <math>BB^* = BB^\dagger = I_n</math>） ，或
# {{tmath|A}} 的列线性无关（此时 <math>A^\dagger A = I</math> ） 同时 {{tmath|B}} 的行线性无关（此时 <math>BB^\dagger = I</math>），或 
# <math>B = A^*</math>，或
# <math>B = A^\dagger</math>。

下方列出了 {{tmath|1=(AB)^\dagger = B^\dagger A^\dagger}}的必要条件：

# <math>(A^\dagger A) (BB^\dagger) = (BB^\dagger) (A^\dagger A)</math>

由最后一个充分条件得出等式：<math display="block">\begin{align}
  \left(A A^*\right)^+ &= A^{+*} A^+, \\
  \left(A^* A\right)^+ &= A^+ A^{+*}.
\end{align}</math>注意: 等式 {{tmath|1=(AB)^\dagger = B^\dagger A^\dagger}} 一般不成立，例如：<math display="block">\Biggl( \begin{pmatrix} 1 & 1 \\ 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 0 \\ 1 & 1 \end{pmatrix} \Biggr)^+ = \begin{pmatrix} 1 & 1 \\ 0 & 0 \end{pmatrix}^+ = \begin{pmatrix}
 \tfrac12 & 0 \\ \tfrac12 & 0 \end{pmatrix} \quad \neq \quad \begin{pmatrix}
 \tfrac14 & 0 \\ \tfrac14 & 0 \end{pmatrix} = \begin{pmatrix} 0 & \tfrac12 \\ 0 & \tfrac12 \end{pmatrix} \begin{pmatrix} \tfrac12 & 0 \\ \tfrac12 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 \\ 1 & 1 \end{pmatrix}^+ \begin{pmatrix} 1 & 1 \\ 0 & 0 \end{pmatrix}^+ </math>

=== 投影 ===

<math>P = A A^\dagger</math> 和 <math>Q = A^\dagger A</math> 是正交投影算子，即它们是埃尔米特矩阵（<math>P = P^*</math>，<math>Q = Q^*</math>）和幂等矩阵（<math>P^2 = P</math>，<math>Q^2 = Q</math>）。以下性质成立：

* <math>PA = AQ = A</math> ，<math>A^\dagger P = QA^\dagger = A^\dagger</math>
* {{tmath|P}} 是正交投影算子，投影到 {{tmath|A}} 的值域（也就是 {{tmath|A^*}} 的[[核 (线性算子)|核]]的正交补空间）。
* {{tmath|Q}} 是正交投影算子，投影到 {{tmath|A^*}} 的值域（也就是 {{tmath|A}} 的核的正交补空间）。
* <math>(I - Q) = \left(I - A^\dagger A\right)</math> 是正交投影算子，投影到 {{tmath|A}} 的核。
* <math>(I - P) = \left(I - A A^\dagger \right)</math> 是正交投影算子，投影到 {{tmath|A^*}} 的核。<ref name="GvL1996" />

最后两条性质隐含了下列等式：

* <math>A\,\ \left(I - A^\dagger A\right)= \left(I - A A^\dagger\right)A\ \ = 0</math>
* <math>A^*\left(I - A A^\dagger\right) = \left(I - A^\dagger  A\right)A^* = 0</math>

如果 <math>A \in \mathbb{k}^{n\times n}</math>  是埃尔米特矩阵和幂等矩阵（当且仅当它为正交投影矩阵），则对于任意矩阵 <math>B\in \mathbb{k}^{m\times n}</math> ，下式成立：<ref>{{cite journal|title=Obstacle Avoidance for Kinematically Redundant Manipulators in Dynamically Varying Environments|url=https://archive.org/details/sim_international-journal-of-robotics-research_fall-1985_4_3/page/109|first1=Anthony A.|last2=Klein|first2=Charles A.|journal=International Journal of Robotics Research|issue=3|doi=10.1177/027836498500400308|year=1985|volume=4|pages=109–117|last1=Maciejewski|hdl=10217/536|s2cid=17660144|hdl-access=free}}</ref><math display="block"> A(BA)^\dagger = (BA)^\dagger</math>这一条性质可以如此证明：定义矩阵 <math>C = BA</math>, <math>D = A(BA)^\dagger</math>，当 {{tmath|A}} 是埃尔米特矩阵和幂等矩阵时，通过验证伪逆的性质可以检查 {{tmath|D}} 确实是 {{tmath|C}} 的一个伪逆。从上一条性质可以看出，当 <math> A \in \mathbb{k}^{n\times n}</math>  是埃尔米特矩阵和幂等矩阵时，对于任意矩阵 <math> B \in \mathbb{k}^{n\times m}</math>

<math display="block">(AB)^\dagger A = (AB)^\dagger </math>

当 {{tmath|A}} 是一个正交投影矩阵，则它的伪逆就是它自身，即 <math>A^\dagger = A</math>。



=== 几何结构 ===

如果我们把矩阵看作是一个在数域 <math>\mathbb{k}</math> 上的线性映射 {{tmath|A:\mathbb{k}^n \to \mathbb{k}^m}}， 那么 <math> A^\dagger : \mathbb{k}^m \to \mathbb{k}^n </math> 可以被分解如下。首先定义符号： {{tmath|\oplus}} 表示直和， {{tmath|\perp}} 表示正交补，{{tmath|\ker}} 表示映射的核， <math>\operatorname{ran}</math> 表示映射的像。注意 <math>\mathbb{k}^n = \left(\ker A\right)^\perp \oplus \ker A</math> 和 <math>\mathbb{k}^m = \operatorname{ran} A \oplus \left(\operatorname{ran} A\right)^\perp</math>。 限制条件 <math> A: \left(\ker A\right)^\perp \to \operatorname{ran} A</math> 则是一个同构。这意味着 {{tmath|A^\dagger}} 在 {{tmath|\operatorname{ran} A}} 上时这个同构的逆，在 <math>\left(\operatorname{ran} A\right)^\perp </math> 上则是零。

换而言之，对于给定的 {{tmath|b\in \mathbb{k}^m}} 要找到 {{tmath|A^\dagger b}}，首先将 {{tmath|b}} 正交投影在 {{tmath|A}} 的值域中，找到点 {{tmath|p(b)}}，然后构建 {{tmath|A^{-1}(\{p(b)\})}}，即就是在 {{tmath|\mathbb{k}^n}} 中，会被 {{tmath|A}} 投影到 {{tmath|p(b)}} 的点。这是 {{tmath|\mathbb{k}^n}} 的一个平行于 {{tmath|A}} 的核的仿射子空间。这个子空间中长度最小的元素（也就是最靠近原点的元素），就是我们寻找的 {{tmath|A^+b}} 的解。它可以通过从 {{tmath|A^{-1}(\{p(b)\})}} 中选择任意元素，并将其投影在 {{tmath|A}} 的核的正交补空间而得到。

以上描述与线性系统的最小范数解密切相关。



=== 子空间 ===
<math display="block">\begin{align}
  \ker\left(A^+\right) &= \ker\left(A^*\right) \\
  \operatorname{ran}\left(A^+\right) &= \operatorname{ran}\left(A^*\right)
\end{align}</math>

=== 极限 ===
伪逆可以由极限定义：<math display="block">A^\dagger = \lim_{\delta \searrow 0} \left(A^* A + \delta I\right)^{-1} A^*
            = \lim_{\delta \searrow 0} A^* \left(A A^* + \delta I\right)^{-1}
</math>（参见[[吉洪诺夫正则化]]）。当 <math>\left(A A^*\right)^{-1}</math> 或  <math>\left(A^*A\right)^{-1}</math>不存在时，这些极限仍然存在。<ref name="GvL1996" />{{rp|263}}

=== 连续性 ===
与一般的矩阵求逆不同，求伪逆的过程并不连续：如果序列 {{tmath|\left(A_n\right)}} 收敛到矩阵 {{tmath|A}} （在最大范数或弗罗贝尼乌斯范数意义下），则 {{tmath|(A_n)^\dagger}} 不一定收敛于 {{tmath|A^\dagger}}. 然而，如果所有的矩阵 {{tmath|A_n}} 与 {{tmath|A}} 有相同的秩，则 {{tmath|(A_n)^\dagger}} 将收敛于 {{tmath|A^\dagger}}.<ref name="rakocevic1997">{{cite journal|title=On continuity of the Moore–Penrose and Drazin inverses|url=http://elib.mi.sanu.ac.rs/files/journals/mv/209/mv973404.pdf|last=Rakočević|first=Vladimir|journal=Matematički Vesnik|year=1997|volume=49|pages=163–72|access-date=2022-05-10|archive-date=2022-04-03|archive-url=https://web.archive.org/web/20220403234415/http://elib.mi.sanu.ac.rs/files/journals/mv/209/mv973404.pdf}}</ref>

=== 导数关系 ===
实值伪逆矩阵的导数，该矩阵在某点{{tmath|x}}处具有恒定的秩 可以用原矩阵的导数来计算：<ref>{{cite journal|title=The Differentiation of Pseudo-Inverses and Nonlinear Least Squares Problems Whose Variables Separate|first1=G. H.|last2=Pereyra|first2=V.|date=April 1973|journal=SIAM Journal on Numerical Analysis|doi=10.1137/0710036|volume=10|pages=413–32|bibcode=1973SJNA...10..413G|jstor=2156365|last1=Golub|number=2}}</ref><math display="block">
  \frac{\mathrm d}{\mathrm d x} A^\dagger(x) =
    -A^\dagger \left( \frac{\mathrm d}{\mathrm d x} A \right) A^\dagger ~+~
     A^\dagger A^{\dagger\textsf{T}} \left(\frac{\mathrm d}{\mathrm d x} A^\textsf{T}\right) \left(I - A A^\dagger\right) ~+~
     \left(I - A^\dagger A\right) \left(\frac{\text{d}}{\text{d} x} A^\textsf{T}\right) A^{\dagger\textsf{T}} A^\dagger
</math>

== 例子 ==
对于可逆矩阵，其广义逆为其一般的[[逆矩阵]]，所以以下仅举一些不可逆矩阵的例子。

* 对于<math>A = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix}</math>，其广义逆矩阵为<math>A^\dagger = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix}</math>（通常零矩阵的广义逆矩阵为其转置）。该广义逆矩阵的唯一性可以认为时由性质<math>A^\dagger=A^\dagger AA^\dagger</math>得出的，因为与零矩阵相乘总会得到零矩阵。
* 对于<math>A = \begin{pmatrix} 1 & 0 \\ 1 & 0 \end{pmatrix}</math>，其广义逆矩阵为 <math>A^\dagger = \begin{pmatrix} \frac{1}{2} & \frac{1}{2} \\ 0 & 0 \end{pmatrix}</math>。
** 事实上，<math>A\,A^\dagger = \begin{pmatrix} \frac{1}{2} & \frac{1}{2} \\ \frac{1}{2} & \frac{1}{2} \end{pmatrix}</math>，所以 <math>A\,A^\dagger A = \begin{pmatrix} 1 & 0 \\ 1 & 0\end{pmatrix} = A</math>。
** 类似的， <math>A^\dagger A = \begin{pmatrix} 1 & 0 \\ 0 & 0 \end{pmatrix}</math>，由此 <math>A^\dagger A\,A^\dagger = \begin{pmatrix} \frac{1}{2} & \frac{1}{2} \\ 0 & 0 \end{pmatrix} = A^\dagger</math>。
* 对于<math>A = \begin{pmatrix} 1 & 0 \\ -1 & 0 \end{pmatrix}</math>，其广义逆矩阵为<math>A^\dagger = \begin{pmatrix} \frac{1}{2} & -\frac{1}{2} \\ 0 & 0 \end{pmatrix}</math>。
* 对于<math>A = \begin{pmatrix} 1 & 0 \\ -1 & 0 \end{pmatrix}</math>，其广义逆矩阵为<math>A^\dagger = \begin{pmatrix} \frac{1}{2} & -\frac{1}{2} \\ 0 & 0 \end{pmatrix}</math>。
* 对于<math>A = \begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}</math>，其广义逆矩阵为<math>A^\dagger = \begin{pmatrix} \frac{1}{4} & \frac{1}{4} \\ \frac{1}{4} & \frac{1}{4} \end{pmatrix}</math>。
* 对于<math>A = \begin{pmatrix} 1 & 0 \\ 0 & 1 \\ 0 & 1 \end{pmatrix}</math>，其广义逆矩阵为 <math>A^\dagger = \begin{pmatrix} 1 & 0 & 0 \\ 0 & \frac{1}{2} & \frac{1}{2} \end{pmatrix}</math> 。对于该矩阵，其左逆存在且等于<math>A^\dagger</math>，事实上，<math>A^\dagger A = \begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}</math>。

== 参考 ==
=== 书籍 ===
*{{Cite book | author = 张贤达 | title = 矩阵分析与应用 | location = 北京 | publisher = 清华大学出版社 | date = 2004年9月 | pages = 85-99 | ISBN = 7-302-09271-0 | language = 中文 }}

=== 文献 ===
{{Reflist}}

{{Roger Penrose}}

[[Category:线性代数]]