逆矩陣

??逆矩陣的定義：如果對于一個方陣A，存在一個方陣B，使得AB=BA=I，那么我們稱B為A的逆矩陣，記做：A?1=B=1|A|A?，這里A?代表伴隨矩陣。
??一個n?n的方陣存在逆矩陣的充要條件等價于：

A為非奇異矩陣

rank(A)=n

A的行向量線性無關

A的列向量線性無關

det(A)≠0，即行列式不為0

Ax=0只有唯一平凡解x=0

Ax=b為一致方程，且有唯一解

A的零空間的維度為0

??如果對于方程Ax=b，當其中的某些線性約束成立的情況下，其他的線性約束不可能成立，則稱該方程為非一致方程。
??矩陣的零空間是指線性方程組Ax=0的解向量張成的空間的。

??一些基本的性質這里不贅述，值得一提的是兩個矩陣之和的求逆運算，它不同于轉置等運算（(A+B)T=AT+BT）。

Sherman-Morrison公式：

(A+xyT)?1=A?1+A?1xyHA?11+yHA?1x??這個公式還有很多形式的變體。

分塊矩陣的求逆公式：

當A可逆時，[AVUD]?1=[A?1+A?1U(D?VA?1U)?1VA?1)?(D?VA?1U)?1VA?1?A?1U(D?VA?1U)?1(D?VA?1U)?1]?1當A，D可逆時，[AVUD]?1化簡為：[(A?UD?1V)?1?D?1V(A?UD?1V)?1?A?1U(D?VA?1U)?1(D?VA?1U)?1]?1

廣義逆矩陣

??我們看到，逆矩陣的定義僅僅針對方陣而言，但是實際應用中，我們遇到的很多問題并不滿足這個條件，將矩陣的逆的定義擴展到任意矩陣，得到我們的廣義逆矩陣：
??如果一個矩陣L滿足LA=I，A∈Rm?n，則我們稱L為A的廣義逆矩陣，特別地，對于LA=I，我們稱為左逆矩陣，只有當m≥n時，A才可能有左逆矩陣；對于AL=I，我們稱為右逆矩陣，只有當m≤n時，A才可能有右逆矩陣。
證明如下，考慮m≥n：

A=[BC]，其中B∈Rn?n，令L=[X,Y]滿足LA=I，我們有XB+YC=I，如B非奇異（這是可能的），只需要令X=B?1，Y=O即可
??一個矩陣的廣義逆矩陣往往不是唯一的，特別地，有以下形式的廣義逆矩陣：
左逆：L=(AHA)?1AH唯一，且稱為左偽逆矩陣右逆：L=AH(AAH)?1唯一，且稱為右偽逆矩陣
??是不是很眼熟？對了，這就是和最小二乘密切相關的兩個廣義逆矩陣！，左逆對應于超定問題（非一致方程）的最小二乘解，右逆對應于欠定問題（一致方程）的最小范數解。

---

??現在，我們將左逆和右逆統一起來，用線性方程組的解的形式來描述：

對于A∈Rm?n，秩任意，則A的廣義逆矩陣是一個n?m矩陣G并使得當Ax=y(y≠0)為一致方程時，有解x=Gy，當且僅當G滿足AGA=A
??最后一個等式也是廣義逆的定義式：A?存在?AA?A=A

??定理：

• A?存在?A?A和AA?皆為冪等矩陣，即(AA?)2=AA?,(A?A)2=A?A
• A?存在?rank(A)=rank(AA?)或rank(A)=rank(A?A)

廣義逆矩陣的計算

??定理：對于任意的秩為r的矩陣A，都可以分解為：

A=Fm?rGr?n,F和G分別為列滿秩和行滿秩
??稱為矩陣的滿秩分解，求解步驟如下

將A通過行初等變換化為階梯矩陣，得到A=[GO]

對單位矩陣執行上述變換的逆變換，得到I→P?1

A=FG，其中F為P?1前r列組成的子矩陣

---

??則A的廣義逆矩陣可以用以下公式求解：

A?=GT(FTAGT)?1FT
??容易驗證，它滿足廣義逆矩陣的定義式AA?A=A
??且F和G分別為列滿秩和行滿秩，所以(FTAGT)?1=(FTFGGT)?1=(FTF)?1(GGT)?1一定存在。

??回過頭來，我們看看用廣義逆矩陣來定義線性方程的解會有什么結論：

??定理1：齊次方程Ax=0的一個通解為x=(I?A?A)z，其中z為任意的n*1向量。
定理2：非齊次方程Ax=y為一致方程的充要條件為：AA?y=y。
??定理3：非齊次方程Ax=y的一個通解為x=A?y+(I?A?A)z，其中z為任意的n*1向量。
上述三個定理可以通過直接驗證廣義逆矩陣的定義式得證。

Moore-Penrose逆矩陣

??由前面定義的逆矩陣求解超定問題（非一致方程）的最小二乘解和欠定問題（一致方程）的最小范數解時，解是不唯一的。因此將廣義逆矩陣做進一步的約束，便得到Moore-Penrose逆矩陣（平時說的偽逆就是它），它能保證解的唯一性。

??定義滿足下列性質的矩陣G為矩陣A的Moore-Penrose逆矩陣，記做A+：

AGA=A

GAG=G

(AG)H=AG

(GA)H=GA

??Moore-Penrose逆矩陣是由Moore在1935年提出的，由于原始定義十分晦澀，于是Penrose于1955年提出了上述的四個條件，因此名為Moore-Penrose逆矩陣。

Moore-Penrose逆矩陣又根據滿足上述條件的個數，分為以下幾種：
①只滿足條件1,2，稱為自反廣義逆矩陣
②只滿足條件1,2,3，稱為正則化廣義逆矩陣
③只滿足條件1,2,4，稱為弱廣義逆矩陣

注意，對于只滿足某些條件的逆矩陣，它的秩總是大于等于原矩陣的秩。即：

rank(Ag)≥rank(A)=rank(AAg)=rank(AgA)，當Ag為自反逆矩陣時取等。
我們前面提到的左偽逆矩陣和右偽逆矩陣都是Moore-Penrose矩陣，滿足四個條件。

Moore-Penrose逆矩陣的計算

1.方程求解法：

2.KL分解法：

??即通過矩陣的滿秩分解求解，求解方式同上述的廣義逆矩陣，只不過將轉置運算換成共軛轉置，容易驗證，該法求解得到的結果滿足上述四個條件。

PS:當使用Moore-Penrose逆矩陣求解超定問題（非一致方程）的最小二乘解時，不僅解唯一，且是最小二乘最小范數解

總結

以上是生活随笔為你收集整理的矩阵分析与应用（四）——逆矩阵、广义逆矩阵和Moore-Penrose逆矩阵的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。