我們知道，矩陣乘法對(duì)應(yīng)了一個(gè)變換，是把任意一個(gè)向量變成另一個(gè)方向或長(zhǎng)度都大多不同的新向量。在這個(gè)變換的過(guò)程中，原向量主要發(fā)生旋轉(zhuǎn)、伸縮的變化。如果矩陣對(duì)某一個(gè)向量或某些向量只發(fā)生伸縮變換，不對(duì)這些向量產(chǎn)生旋轉(zhuǎn)的效果，那么這些向量就稱為這個(gè)矩陣的特征向量，伸縮的比例就是特征值。

實(shí)際上，上述的一段話既講了矩陣變換特征值及特征向量的幾何意義（圖形變換）也講了其物理含義。物理的含義就是運(yùn)動(dòng)的圖景：特征向量在一個(gè)矩陣的作用下作伸縮運(yùn)動(dòng)，伸縮的幅度由特征值確定。特征值大于1，所有屬于此特征值的特征向量身形暴長(zhǎng)；特征值大于0小于1，特征向量身形猛縮；特征值小于0，特征向量縮過(guò)了界，反方向到0點(diǎn)那邊去了。

????注意：常有教科書說(shuō)特征向量是在矩陣變換下不改變方向的向量，實(shí)際上當(dāng)特征值小于零時(shí)，矩陣就會(huì)把特征向量完全反方向改變，當(dāng)然特征向量還是特征向量。我贊同特征向量不改變方向的說(shuō)法：特征向量永遠(yuǎn)不改變方向，改變的只是特征值（方向反轉(zhuǎn)特征值為負(fù)值了）。這有點(diǎn)類似地說(shuō)冬天深圳的室外“溫度”是10℃，哈爾濱室外的“溫度”是-30℃(稱溫度而不溫)；也類似說(shuō)無(wú)人飛機(jī)在海拔“高度”100米處飛行而核潛艇在海拔“高度”-50米（稱高度而不高）處游弋一樣。

關(guān)于特征值和特征向量，這里請(qǐng)注意兩個(gè)亮點(diǎn)。這兩個(gè)亮點(diǎn)一個(gè)是線性不變量的含義，二個(gè)是振動(dòng)的譜含義。

特征向量是線性不變量

?

?

所謂特征向量概念的亮點(diǎn)之一是不變量，這里叫線性不變量。因?yàn)槲覀兂Ｖv，線性變換啊線性變換，不就是把一根線（向量）變成另一根線（向量），線的變化的地方大多是方向和長(zhǎng)度一塊變。而一種名叫“特征向量”的向量特殊，在矩陣作用下不變方向只變長(zhǎng)度。不變方向的特性就被稱為線性不變量。

如果有讀者堅(jiān)持認(rèn)為負(fù)方向的特征向量就是改變了向量的方向的想法的話，你不妨這樣看線性不變量：特征向量的不變性是他們變成了與其自身共線的向量，他們所在的直線在線性變換下保持不變；特征向量和他的變換后的向量們?cè)谕桓本€上，變換后的向量們或伸長(zhǎng)或縮短，或反向伸長(zhǎng)或反向縮短，甚至變成零向量（特征值為零時(shí)），如下圖。

?

??
特征值是振動(dòng)的譜

除了線性不變量，另外一個(gè)亮點(diǎn)是關(guān)于振動(dòng)方面的。戲說(shuō)在朝代宋的時(shí)候，我國(guó)就與發(fā)現(xiàn)矩陣特征值理論的機(jī)會(huì)擦肩而過(guò)。話說(shuō)沒(méi)有出息的秦少游在往池塘里扔了一顆小石頭后，剛得到一句“投石沖開水底天”的泡妞詩(shī)對(duì)之后，就猴急猴急地去洞房了，全然沒(méi)有想到水波中隱含著矩陣的特征值及特征向量的科學(xué)大道理。大概地說(shuō)，水面附近的任一點(diǎn)水珠在原處上下振動(dòng)（實(shí)際上在做近似圓周運(yùn)動(dòng)），并沒(méi)有隨著波浪向外圈移動(dòng)，同時(shí)這些上下振動(dòng)的水珠的幅度在漸漸變小，直至趨于平靜。在由某塊有著特定質(zhì)量和形狀的石頭被以某種角度和速度投入某個(gè)面積和深度特定的水池中所決定的某個(gè)矩陣中，紋波蕩漾中水珠的漸變過(guò)程中其特征值起著決定性的作用，它決定著水珠振動(dòng)的頻率和幅度減弱的衰退率。

在理解關(guān)于振動(dòng)的特征值和特征向量的過(guò)程中，需要加入復(fù)向量和復(fù)矩陣的概念，因?yàn)樵趯?shí)際應(yīng)用中，實(shí)向量和實(shí)矩陣是干不了多少事的。機(jī)械振動(dòng)和電振動(dòng)有頻譜，振動(dòng)的某個(gè)頻率具有某個(gè)幅度；那么矩陣也有矩陣的譜，矩陣的譜就是矩陣特征值的概念，是矩陣所固有的特性，所有的特征值形成了矩陣的一個(gè)頻譜，每個(gè)特征值是矩陣的一個(gè)“諧振頻點(diǎn)”。

美國(guó)數(shù)學(xué)家斯特讓（G..Strang）在其經(jīng)典教材《線性代數(shù)及其應(yīng)用》中這樣介紹了特征值作為頻率的物理意義，他說(shuō)：

大概最簡(jiǎn)單的例子（我從不相信其真實(shí)性，雖然據(jù)說(shuō)1831年有一橋梁毀于此因）是一對(duì)士兵通過(guò)橋梁的例子。傳統(tǒng)上，他們要停止齊步前進(jìn)而要散步通過(guò)。這個(gè)理由是因?yàn)樗麄兛赡芤缘扔跇虻奶卣髦抵坏念l率齊步行進(jìn)，從而將發(fā)生共振。就像孩子的秋千那樣，你一旦注意到一個(gè)秋千的頻率，和此頻率相配，你就使頻率蕩得更高。一個(gè)工程師總是試圖使他的橋梁或他的火箭的自然頻率遠(yuǎn)離風(fēng)的頻率或液體燃料的頻率；而在另一種極端情況，一個(gè)證券經(jīng)紀(jì)人則盡畢生精力于努力到達(dá)市場(chǎng)的自然頻率線。特征值是幾乎任何一個(gè)動(dòng)力系統(tǒng)的最重要的特征。

其實(shí)，這個(gè)矩陣之所以能形成“頻率的譜”，就是因?yàn)榫仃囋谔卣飨蛄克傅姆较蛏暇哂袑?duì)向量產(chǎn)生恒定的變換作用：增強(qiáng)（或減弱）特征向量的作用。進(jìn)一步的，如果矩陣持續(xù)地疊代作用于向量，那么特征向量的就會(huì)凸現(xiàn)出來(lái)。

比如，一個(gè)物理系統(tǒng)，其特性可以被一個(gè)矩陣所描述，那么這個(gè)系統(tǒng)的物理特性就可以被這個(gè)矩陣的特征值所決定，各種不同的信號(hào)（向量）進(jìn)入這個(gè)系統(tǒng)中后，系統(tǒng)輸出的信號(hào)（向量）就會(huì)發(fā)生相位滯后、放大、縮小等各種紛亂的變化。但只有特征信號(hào)（特征向量）被穩(wěn)定的發(fā)生放大（或縮小）的變化。如果把系統(tǒng)的輸出端口接入輸入端口，那么只有特征信號(hào)（特征向量）第二次被放大（或縮小）了，其他的信號(hào)如滯后的可能滯后也可能超前同時(shí)縮小，放大的可能被繼續(xù)放大也可能被縮小同時(shí)滯后，縮小的可能被繼續(xù)縮小也可能被放大同時(shí)滯后等。經(jīng)過(guò)N次的循環(huán)后，顯然，亂七八糟的大量的向量群眾們終不能成氣候，只有特征向量們，心往一處想，勁往一處使，要么成功出人頭地，要么失敗殺身成仁。因此我們就可以因此在時(shí)間域上觀察輸出，就會(huì)得到一個(gè)或幾個(gè)超級(jí)明顯的特征信號(hào)出來(lái)（特征向量）。

弄過(guò)電路的哥們?cè)缈闯隽税车暮成溆?#xff1a;切！繞什么繞，你說(shuō)的不就是振蕩器的原理嘛，振蕩信號(hào)（電壓、電流）構(gòu)成了特征向量，特征值是1，振蕩信號(hào)的頻率是…

是是是，就是振蕩器的原理。其實(shí)振蕩器原理是可以用矩陣的冪來(lái)解釋的。這個(gè)編輯器不好用，矩陣分析和細(xì)節(jié)這里就忽略了。

?

一、矩陣基礎(chǔ)[1]：

?

矩陣是一個(gè)表示二維空間的數(shù)組，矩陣可以看做是一個(gè)變換。在線性代數(shù)中，矩陣可以把一個(gè)向量變換到另一個(gè)位置，或者說(shuō)從一個(gè)坐標(biāo)系變換到另一個(gè)坐標(biāo)系。矩陣的“基”，實(shí)際就是變換時(shí)所用的坐標(biāo)系。而所謂的相似矩陣（），就是同樣的變換，只不過(guò)使用了不同的坐標(biāo)系。線性代數(shù)中的相似矩陣實(shí)際上就是要使這些相似的矩陣有一個(gè)好看的外表，而不改變其變換的功用。

矩陣雖然是二維的，但我們通常把矩陣的大小稱為矩陣的維度。例如一個(gè)3乘3的矩陣就可以說(shuō)是一個(gè)三維矩陣。

?

二、直觀性說(shuō)明[2]：

我們先來(lái)看點(diǎn)直觀性的內(nèi)容。矩陣的特征方程式是：

矩陣實(shí)際可以看作一個(gè)變換，方程左邊就是把向量x變到另一個(gè)位置而已；右邊是把向量x作了一個(gè)拉伸，拉伸量是lambda。那么它的意義就很明顯了，表達(dá)了矩陣A的一個(gè)特性就是這個(gè)矩陣可以把向量x拉長(zhǎng)（或縮短）lambda倍，僅此而已。

任意給定一個(gè)矩陣A，并不是對(duì)所有的向量x它都能拉長(zhǎng)（縮短）。凡是能被矩陣A拉長(zhǎng)（縮短）的向量就稱為矩陣A的特征向量（Eigenvector）；拉長(zhǎng)（縮短）的量就是這個(gè)特征向量對(duì)應(yīng)的特征值（Eigenvalue）。

值得注意的是，我們說(shuō)的特征向量是一類向量，因?yàn)槿我庖粋€(gè)特征向量隨便乘以一個(gè)標(biāo)量結(jié)果肯定也滿足上述方程，當(dāng)然這兩個(gè)向量都可以看成是同一特征向量，并且它們也對(duì)應(yīng)于同一個(gè)特征值。

如果特征值是負(fù)數(shù)，則說(shuō)明矩陣不但把特征向量拉長(zhǎng)（縮短）了，而且使該向量的方向發(fā)生了反轉(zhuǎn)（指向了相反的方向）。一個(gè)矩陣可能可以拉長(zhǎng)（縮短）多個(gè)向量，因此它就可能有多個(gè)特征值。另外，對(duì)于實(shí)對(duì)稱矩陣來(lái)說(shuō)，不同特征值對(duì)應(yīng)的特征向量必定正交。

我們也可以說(shuō)，一個(gè)變換矩陣的所有特征向量組成了這個(gè)變換矩陣的一組基。所謂基，可以理解為坐標(biāo)系的軸。我們平常用到的大多是直角坐標(biāo)系，在線性代數(shù)中可以把這個(gè)坐標(biāo)系扭曲、拉伸、旋轉(zhuǎn)，稱為基變換。我們可以按需求去設(shè)定基，但是基的軸之間必須是線性無(wú)關(guān)的，也就是保證坐標(biāo)系的不同軸不要指向同一個(gè)方向或可以被別的軸組合而成，否則的話原來(lái)的空間就“撐”不起來(lái)了。在主成分分析（PCA）中，我們通過(guò)在拉伸最大的方向設(shè)置基，忽略一些小的量，可以極大的壓縮數(shù)據(jù)而減小失真。

變換矩陣的所有特征向量作為空間的基之所以重要，是因?yàn)樵谶@些方向上變換矩陣可以拉伸向量而不必扭曲和選擇它，使得計(jì)算大為簡(jiǎn)單。因此特征值固然重要，但我們的終極目標(biāo)卻是特征向量。

?

三、幾個(gè)重要的抽象概念

1、核

所有經(jīng)過(guò)變換矩陣后變成了零向量的向量組成的集合，通常用Ker(A)來(lái)表示。

假設(shè)你是一個(gè)向量，有一個(gè)矩陣要來(lái)變換你，如果你不幸落入了這個(gè)矩陣的核里面，那么很遺憾轉(zhuǎn)換后你就變成了虛無(wú)的零。特別指出的是，核實(shí)“變換”（Transform）中的概念，矩陣變換中有一個(gè)相似的概念叫“零空間”。有的材料在談到變換的時(shí)候使用T來(lái)表示，聯(lián)系到矩陣時(shí)才用A，本文把矩陣直接看作“變換”。核所在的空間定義為V空間，也就是全部向量原來(lái)的空間。

2、值域

某個(gè)空間中所有向量經(jīng)過(guò)變換矩陣后形成的向量的集合，通常用R（A）來(lái)表示。

假設(shè)你是一個(gè)向量，有一個(gè)矩陣要來(lái)變換你，這個(gè)矩陣的值域表示了你將來(lái)所有可能的位置。值域的維度也叫做秩（Rank）。值域所在的空間定義為W空間。

3、空間

向量與建立在其上的加、乘運(yùn)算構(gòu)成了空間。向量可以（也只能在）空間中變換。使用坐標(biāo)系（基）在空間中描述向量。

不管是核還是值域，它們都是封閉的。意思是說(shuō)，如果你和你的朋友困在核里面，你們不管是相加還是相乘都還會(huì)在核里面，跑不出去，這就構(gòu)成了一個(gè)子空間。值域同理。

數(shù)學(xué)家證明了，V（核所在的空間定義為V空間）的維度一定等于它的任意一個(gè)變換矩陣的核的維度加上值域的維度。

嚴(yán)格的證明可以參考相關(guān)資料，這里說(shuō)一個(gè)直觀的證明方法：

V的維度也就是V的基的數(shù)目。這些基分為兩部分，一部分在核中，一部分是值域中非零象的原象（肯定可以分，因?yàn)楹撕椭涤蚨际仟?dú)立的子空間）。如果把V中的任意向量用基的形式寫出來(lái)，那么這個(gè)向量必然也是一部分在核中，另一部分在值域中非零象的原象里?，F(xiàn)在對(duì)這個(gè)向量作變換，核的那部分當(dāng)然為零了，另一部分的維度剛好等于值域的維度。

?

四、變換矩陣行空間和零空間的關(guān)系

根據(jù)矩陣的性質(zhì)，變換矩陣的行數(shù)等于V的維度，變換矩陣的秩等于值域R的維度，所以可以得出：

因?yàn)锳的秩又是A行空間的維度（注意在非滿矩陣中這個(gè)數(shù)肯定小于行數(shù)），所以上述公式可以變?yōu)?#xff1a;

之所以寫成這個(gè)形式，是因?yàn)槲覀兛梢园l(fā)現(xiàn)A的零空間和A的行空間是正交互補(bǔ)的。正交是因?yàn)榱憧臻g就是核，按定義乘以A的行向量當(dāng)然為零?；パa(bǔ)是因?yàn)樗鼈兗悠饋?lái)剛好張成整個(gè)V空間。

這個(gè)正交互補(bǔ)導(dǎo)致了非常好的性質(zhì)，因?yàn)锳的零空間和A的行空間的基組合起來(lái)剛好可以湊成V的基。

?

五、變換矩陣列空間和左零空間的關(guān)系

如果把以上方程取轉(zhuǎn)置，則可以得到：

因?yàn)榈膶?shí)際意義是把值域和定義域顛倒過(guò)來(lái)了，所以的零空間就是值域以外的區(qū)域投向V中零點(diǎn)的所有向量的空間，有人將其稱為“左零空間”（Left Null Space）。這樣就可以得到：

同樣，A的左零空間與A的列空間也正交互補(bǔ)，它們加起來(lái)剛好可以張成W空間，它們的基也構(gòu)成了W的基。

?

六、變換矩陣行空間和列空間的關(guān)系

變換矩陣實(shí)際上就是把目標(biāo)向量從行空間轉(zhuǎn)換到列空間。

矩陣的行空間、列空間、零空間、左零空間構(gòu)成了我們?cè)诰€性代數(shù)研究中的所有空間，把它們的關(guān)系弄清楚，對(duì)于分別的基轉(zhuǎn)換非常重要。

?

七、特征方程的秘密

我們?cè)噲D構(gòu)造一個(gè)這樣的變換矩陣A：它把向量變換到一個(gè)值域空間，這個(gè)值域空間的基是正交的；不僅如此，還要求任對(duì)于意一個(gè)基v都有??的形式，?是原來(lái)空間的一個(gè)已知基。這樣我們就能把復(fù)雜的向量問(wèn)題轉(zhuǎn)換到一個(gè)異常簡(jiǎn)單的空間中去。

如果?的數(shù)量不等于v，那么用取代A，可以變?yōu)橐粋€(gè)對(duì)稱且半正定矩陣，它的特征向量正是要求的基v！

再次說(shuō)明，矩陣不等于變換，把矩陣看成變換只是提供一個(gè)理解變換矩陣的方法。或者，我們可以認(rèn)為，矩陣只是變換的一種變現(xiàn)形式。

總結(jié)

以上是生活随笔為你收集整理的特征值和特征向量的几何和物理意义的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。