半正定矩阵的判定方法_线性代数30——正定矩阵和最小值
我們經常在判定一個函數是否有最小值時使用正定矩陣,正定矩陣和最小值有什么關系呢?
1 判斷正定矩陣
給出一個矩陣:
有4個途徑可以判定該矩陣是否是正定矩陣(注意這個矩陣的4個元素中有2個b,這是因為正定矩陣是對稱矩陣,如果A的次對角線的元素不相等,A就不是對稱的,也就沒有必要進一步判定是否是正定的):
其中第4個是正定的定義,前3個是用來驗證正定的條件。
當y怎樣取值時,下面的2階矩陣是正定的?
根據條件2可知,
時,即y>18時,矩陣是正定的。如果y=18,則矩陣正好處于正定的臨界點上,此時A是奇異矩陣,有一個特征值是0,
。我們稱這種處于臨界點上的正定矩陣為半正定矩陣。2 矩陣的二次型
再來看一下
。對于非零向量x來說,Ax是線性形式,加入 后就變成了含有二次項的形式,比如:這種形式稱為矩陣的二次型。當然
也只有二次型,沒有三次型和四次型,即使x是更多維度的向量也一樣,比如當x是三維向量時,最終結果仍然只含有二次項:如果對于任意非零向量x來說,矩陣的二次型都大于0,那么這個矩陣是正定矩陣。
y=18時A是半正定矩陣,當
時,其二次型為0:3二次型的意義
為了畫出幾何圖形,我們以二階矩陣為例,先看一個非正定矩陣:
它的二次型是
,其幾何圖形如下:從圖形上看沒有最小值點,原點處是一個鞍點,在某個方向看是極大值,同時又是另一個方向的極小值。下圖是個經典的鞍點,圖形呈馬鞍狀:
再來看正定矩陣:
A的二次型是
,圖形如下:回顧本節出現的兩個二次型,它們都可以通過配方寫成完全平方的形式:
當x,y不全是0時,可以判斷第2個二次型一定大于0,第一個就不一定了。此外還可以通過二次型判斷臨界點是(0, 0)點。
經過配方后的二次型很奇妙,它還可以來自消元:
消元變成了上三角矩陣。A可以通過LU分解成:
現在把原矩陣、二次型和LU分解放到一塊:
經過消元后的第一個主元是x的系數,第二個主元正是配方項
的系數,如果f大于0,那么這兩個系數一定是正值,這也是為什么正定矩陣的主元一定都為正的原因。換一個矩陣試試:
其中一個主元是負數,對應的二次型也不能保證一定大于0。
4正定矩陣與最小值
正定矩陣對應的二次型是有最小值的。
4.1 二元函數
判斷一元函數是否有最小值,需要判斷它的導數和二階導,同樣,多元函數是否有最小值也要根據臨界點和二階導判斷。我們在多變量微積分中介紹過怎樣判斷二元函數的最小值,最小值出現在臨界點上:f(x, y)的一個臨界點是
,即 且 , f的最小值是根據二階導數判斷的:對于
來說:臨界點符合最小值的條件,因此(0,0)是
的最小值。這個結論實際上來源于對A的二階導矩陣的正定性的判斷:對于二元函數的混合偏導來說,
和 是一樣的,因此這個矩陣是對稱矩陣。在求得臨界點后,根據判定正定矩陣的第3條,只要滿足下面的條件,則這個二階導矩陣是正定矩陣:4.2 三元函數
現在召喚一個三元矩陣,然后判斷它的正定性:
先對其進行消元:
A的主元都大于0,這符合正定矩陣的性質,是一個必要條件。
接下來我們通過子行列式判斷A的正定性:
現在可以確定A是正定矩陣。如果進一步求得特征值,則A的3個特征值是:
特征值之和等于A的跡,特征值之積等于A的主元之積。
A是正定矩陣,因此可以判定A的二次型是有最小值的:
用配方法驗證:
可以看出最小值的點是(0, 0, 0)。
總結
以上是生活随笔為你收集整理的半正定矩阵的判定方法_线性代数30——正定矩阵和最小值的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 苹果最大尺寸的MacBook Air来了
- 下一篇: 产品报价单模板_一文说透报价单,这么做才