正定矩阵 和 半正定矩阵
1 基本的定義
正定和半正定這兩個詞的英文分別是 positive definite 和 positive semi-definite,其中,definite是一個形容詞,表示“明確的、確定的”等意思。
定義1:給定一個大小為 $n imes n$ 的實對稱矩陣 $A$ ,若對于任意長度為 $n$ 的非零向量 $oldsymbol{x}$ 有$ oldsymbol{x}^{T} A oldsymbol{x}>0$ 恒成立, 則矩陣 $A$ 是一個正定矩陣。
正定矩陣:對于 $n$ 階實對稱矩陣 $A$ ,下列條件是等價的:
$A$ 是正定矩陣;
$A$ 的一切順序主子式均為正;
$A$ 的一切主子式均為正;
$A$ 的特征值均為正;
存在實可逆矩陣 $C$,使 $A=C′C$;
存在秩為 $n$ 的 $m×n$ 實矩陣 B,使 $A=B′B$;
存在主對角線元素全為正的實三角矩陣 $R$,使 $A=R′R$ 。
例1:單位矩陣 $I in mathbb{R}^{2 imes 2}$ 是否是正定矩陣?
解:設向量 $ oldsymbol{x}=left[egin{array}{l}x_{1} \ x_{2}end{array}ight] in mathbb{R}^{2}$ 為非零向量, 則
$oldsymbol{x}^{T} oldsymbol{I} oldsymbol{x}=oldsymbol{x}^{T} oldsymbol{x}=x_{1}^{2}+x_{2}^{2}$
由于 $ oldsymbol{x}
eq mathbf{0} $,故$ oldsymbol{x}^{T} I oldsymbol{x}>0$ 恒成立,即單位矩陣 $ I in mathbb{R}^{2 imes 2}$ 是正定矩陣。
擴展:對于任意單位矩陣 $I in mathbb{R}^{n imes n}$ 而言,給定任意非零向量 $oldsymbol{x} in mathbb{R}^{n}$ , 恒有
$egin{array}{l}oldsymbol{x}^{T} I oldsymbol{x}=oldsymbol{x}^{T} oldsymbol{x} \=x_{1}^{2}+x_{2}^{2}+cdots+x_{n}^{2}>0end{array}$
例2:實對稱矩陣 $A=left[egin{array}{ccc}2 & -1 & 0 \ -1 & 2 & -1 \ 0 & -1 & 2end{array}ight] in mathbb{R}^{3 imes 3} $ 是否是正定矩陣?
解:設向量$oldsymbol{x}=left[egin{array}{l}x_{1} \ x_{2} \ x_{3}end{array}ight] in mathbb{R}^{3}$為非零向量,則
$egin{array}{l} oldsymbol{x}^{T} A oldsymbol{x}=left[egin{array}{ll} left(2 x_{1}-x_{2}ight) & left(-x_{1}+2 x_{2}-x_{3}ight) & -x_{2}+2 x_{3} end{array}ight]left[egin{array}{l} x_{1} \ x_{2} \ x_{3} end{array}ight] end{array}$
$=x_{1}^{2}+left(x_{1}-x_{2}ight)^{2}+left(x_{2}-x_{3}ight)^{2}+x_{3}^{2}>0$
因此,矩陣 A 是正定矩陣。
定義2:給定一個大小為 $n imes n$ 的實對稱矩陣 $A$ , 若對于任意長度為 $n$ 的向量 $oldsymbol{x} $, 有 $oldsymbol{x}^{T} A oldsymbol{x} geq 0$ 恒成立,則矩陣 $A$ 是一個半正定矩陣。
半正定矩陣:設 A 是 n 階實對稱矩陣,則下列的條件等價:
1.$A$ 是半正定的。
2.$A$ 的所有主子式均為非負的。
3.$A$ 的特征值均為非負的。
4.存在 $n$ 階實矩陣 $C$,使 $A=C′C$.
5.存在秩為 $r$ 的 $r×n$ 實矩陣 $B$,使 $A=B′B$.
根據正定矩陣和半正定矩陣的定義,我們也會發現:半正定矩陣包括了正定矩陣
2 從二次函數到正定/半正定矩陣
我們學習過二次函數 $y=a x^{2}$ , 該函數的曲線會經過坐標原點,當參數 $a>0$ 時,曲線的 “開口" 向上,參數 $a<0$ 時,曲線的 "開口" 向下。
以 y=2 x^{2} 為例, 曲線如下:
實際上,我們可以將 $y=oldsymbol{x}^{T} A oldsymbol{x}$ 視作 $y=a x^{2}$ 的多維表達式。
當我們希望 $ y=oldsymbol{x}^{T} A oldsymbol{x} geq 0$ 對于任意向量 $ oldsymbol{x}$ 都恒成立,就要求矩陣 $ A$ 是一個半正定矩陣,對應于二次函數, $ y=a x^{2}>0$,$ forall x $ 需要使得 $ a geq 0 $。
另外,在 $ y=a x^{2}$ 中,我們還知道:若 $ a>0$ ,則對于任意 $ x
eq 0$, 有 $ y>0$ 恒成立。 這在 $ y=oldsymbol{x}^{T} A oldsymbol{x}$ 也有契合之處,當矩陣 $ A$ 是正定矩陣時,對于任意 $oldsymbol{x}
eq mathbf{0}, quad y>0$ 恒成 立。
3 正定矩陣和半正定矩陣的直觀解釋
若給定任意一個正定矩陣 $A in mathbb{R}^{n imes n}$ 和一個非零向量 $oldsymbol{x} in mathbb{R}^{n}$,則兩者相乘得到的向量$ oldsymbol{y}=A oldsymbol{x} in mathbb{R}^{n}$ 與向量 $oldsymbol{x}$ 的夾角恒小于 $frac{pi}{2} $。 (等價于: $oldsymbol{x}^{T} A oldsymbol{x}>0$。)
例3:給定向量 $oldsymbol{x}=left[egin{array}{l}2 \ 1end{array}ight] in mathbb{R}^{2}$, 對于單位矩陣 $I=left[egin{array}{ll}1 & 0 \ 0 & 1end{array}ight] in mathbb{R}^{2 imes 2} $, 則
$oldsymbol{y}=I oldsymbol{x}=oldsymbol{x}=left[egin{array}{l} 2 \1 end{array}ight]$
向量 $ oldsymbol{x}, oldsymbol{y} in mathbb{R}^{2}$ 之間的夾角為
$egin{array}{l} cos langleoldsymbol{x}, oldsymbol{y}angle=frac{oldsymbol{x}^{T} oldsymbol{y}}{|oldsymbol{x}| cdot|oldsymbol{y}|} \ =frac{2 imes 2+1 imes 1}{sqrt{2^{2}+1^{2}} cdot sqrt{2^{2}+1^{2}}} \ =1 end{array}$
即兩個向量之間的夾角為 $0^{circ}$。
若給定任意一個半正定矩陣 $A in mathbb{R}^{n imes n}$ 和一個向量 $oldsymbol{x} in mathbb{R}^{n} $, 則兩者相乘得到的向量 $oldsymbol{y}=A oldsymbol{x} in mathbb{R}^{n}$ 與向量 $oldsymbol{x}$ 的夾角恒小于或等于 $frac{pi}{2}$ . (等價于: $oldsymbol{x}^{T} A oldsymbol{x} geq 0$)
例4:給定向量 $oldsymbol{x}=left[egin{array}{l}1 \ 2 \ 1end{array}ight] in mathbb{R}^{3}$,對于實對稱矩陣 $A=left[egin{array}{ccc}2 & -1 & 0 \ -1 & 2 & -1 \ 0 & -1 & 2end{array}ight] in mathbb{R}^{3 imes 3}$,則
$oldsymbol{y}=A oldsymbol{x}=left[egin{array}{l} 0 \ 2 \ 0 end{array}ight]$
向量 $ oldsymbol{x}, oldsymbol{y} in mathbb{R}^{2}$ 之間的夾角為
$cos langleoldsymbol{x}, oldsymbol{y}angle=frac{oldsymbol{x}^{T} oldsymbol{y}}{|oldsymbol{x}| cdot|oldsymbol{y}|}=frac{sqrt{6}}{3}$
$
因上求緣,果上努力~~~~ 作者:每天卷學習,轉載請注明原文鏈接:https://www.cnblogs.com/BlairGrowing/p/15317624.html
總結
以上是生活随笔為你收集整理的正定矩阵 和 半正定矩阵的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 城头土命是什么意思(1998年属虎几月命
- 下一篇: 指南针红色的一头指向什么方向(指南针测方