范數理論及其應用

• 2.1向量范數及其性質
• 2.2矩陣范數

本系列博文主要總結學習矩陣論的心得筆記，參考數目《矩陣論》–張凱院；整個文章的整理體系參照行書過程。

范數–非負實數，用于衡量線性空間元素（如：向量，矩陣）的大小。凡是滿足范數定義三個性質的 實值映射 都可以定義一種范數。最常見的范數：向量的2范數–用于計度量向量的歐式長度。

2.1向量范數及其性質

–>開篇 向量空間 $R^n$ 中的 向量序列 $\{x^{(k)}\}$ 當 $k?>\infty$ 時 每個分量都收斂于一個特定的值，則向量序列$\{x^{(k)}\}$收斂$x$。差值向量$\{x^{(k)}?x\}$在 $k?>\infty$ ,應當收斂于零向量。

2.1.1向量范數的定義
$V$是數域$K$上的線性空間（線性空間：滿足一定性質的集合），對于任意的$x\in V$，如果一個實值函數$||x||$滿足下面三個性質，就說這個實值函數定義了一種向量范數。
1.非負性：當$x?=0時，||x||>0,x=0時,||x||=0$
2.其次性：$||ax||=|a|||x||,(a\in Kx\in V)$
3.三角不等式：$||x+y||<=||x||+||y||$

要證明一個函數是否定義了一種范數，只要驗證是否滿足上面三個條件就可以了。

2.1.2性質3可以推導出：三角形任意兩邊的長度只差 < 第三邊的長度:
$$|||x||?||y|||<=||x?y||$$

結合性質3，將用-y代替y,有
$$|||x||?||y|||<=||x+y||<=||x||+||y||$$

2.1.3常見的三種向量范數的定義：
1.向量的1范數：$||x||=\sum |x_i|$×××××××××××××××××元素的絕對值的和
2.向量的2范數：$||x||=(\sum x_i^2{)}^{\frac{1}{2}}$ ××××××××××××××元素平方和，再開方，最熟悉的歐式距離
3.向量的$\infty$范數：$||x||=\underset{i}{\max }|x_i|$ ×××××××××××××最大絕對值元素

對于三個定義，不難分別驗證滿足三條性質，即定義了三個范數。實際上，可以定義無限多種范數。

更一般的 $p$范數的定義（上面三個范數都是p范數的特例）：
$$||x|{|}_p=(\sum |x_i{|}^p{)}^{\frac{1}{p}}$$

2.1.4簡單的 范數理解：在二維空間中兩個點之間的距離度量方式可以為（1）兩個點之間的歐氏距離–直線距離–2范數、（2）兩個點之間的直角邊和距離–1范數、（3）兩個點之間最長直角邊距離–無窮范數。

還可能會用到的范數：向量的橢圓范數、函數的積分范數P82

2.1.5向量范數的等價性：有限維線性空間的不同范數是等價的。如果向量序列對于某一范數下是收斂的，那么在其他范數下也是收斂的。

2.2矩陣范數

2.2.1 矩陣范數定義
->定義：$A\in C^{m?n}$，一個實值函數$||A||$ 滿足以下三個條件，則定義了一個 廣義矩陣范數。
1.非負性：當$A?=O時,||A||>0;當A=O,||A||=0$
2.其次性：$||\alpha A||=|\alpha |||A||,(\alpha \in C)$
3,三角不等式：$||A+B||<||A||+||B||(B\in C^{m?n})$

在定義矩陣模時，考慮矩陣乘法 因素，就能夠定義更常用的矩陣范數，同時滿足4個的條件的實值映射$||A||$為$A$的 矩陣范數。
4 相容性：$||AB||<=||A||?||B||$

->矩陣序列極限：當$A^k?>A$，會有$||A^k||?>||A||$

2.2.2 矩陣F-范數

相容定義：$C^{m?n}$上矩陣范數$||?|{|}_M$ 和 $C^m與C^n$的同類向量范數$||?|{|}_V$ 相容，當且僅當滿足下式子：
$$||Ax|{|}_V<=||A_M||\times ||x|{|}_V$$

矩陣范數 與 向量范數 的 相容性=》 矩陣F-范數（各個元素平方和，再開方）

$$||A|{|}_F=(\sum _{i=1}^m\sum _{j=1}^n|a_{ij}{|}^2{)}^{\frac{1}{2}}=(tr(A^{H}A){)}^{\frac{1}{2}}$$

以上矩陣范數與向量2范數相容：首先要證明是一個矩陣范數(滿足矩陣定義4條性質)，其次再證明與向量2范數相容。

依據酉矩陣與F-范數的關系，有推論：和A酉相似的矩陣，其F-范數是相同的。

2.2.3 向量范數 誘導 矩陣范數

$$||A||=\underset{||x||=1}{\max }||Ax||$$

右邊向量范數形式 定義 左式的矩陣范數的形式，對應為：矩陣-1范數，2-范數，無窮-范數。

證明上式定義了一個矩陣范數：有向量范數是其分量的連續函數的性質可知，對于每一個A而言，這個最大值都是可以達到的。也就是說能找到這樣一個向量$x_0$滿足$||x_0||=1$使得$||A{x}_0||$最大。(p89證明4條性質成立)

方陣 的 誘導矩陣范數 =1，但是方陣的 其他矩陣范數>=1

由定義式導出三種矩陣范數的具體形式：
矩陣1范數-列和范數：$||A|{|}_1=\underset{j}{\max }{\sum }_{i=1}^m|a_{ij}|$

矩陣2范數-譜范數：$||A|{|}_2={\sqrt{\lambda }}_1({\lambda }_1是A^{H}A的最大特征值)$

矩陣無窮范數-行和范數：$||A|{|}_{\infty }=\underset{i}{\max }{\sum }_{j=1}^n|a_{ij}|$

2.2.4范數的一些應用
1.矩陣的譜半徑 <= 矩陣范數(任意)

矩陣的譜半徑(矩陣最大特征值 取絕對值)
$$\rho (A)=\underset{i}{\max }|{\lambda }_i|$$

$$\rho (A)<=||A||$$

2.矩陣可逆條件:如果矩陣A的某種范數$||A||<1$，則矩陣$I?A$可逆:
$$||(I?A{)}^{?1}||<=\frac{||I||}{1?||A||}$$

當A接近于$O$矩陣時$I與(I?A{)}^{?1}$的逼近程度有一個公式：p93

3.逆矩陣的攝動–矩陣存在擾動A 與 原矩陣 兩個矩陣逆矩陣之間的關系。
矩陣的條件數：$cond(A)=||A||\times ||A^{?}1||$
一般來說，矩陣的條件數越大，擾動矩陣的逆 與 原矩陣的逆 之間的差距越大。

總結

以上是生活随笔為你收集整理的矩阵论-范数理论及其应用的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。