當(dāng)前位置:
首頁(yè) >
线性代数导论4——A的LU分解
發(fā)布時(shí)間:2023/12/20
46
豆豆
生活随笔
收集整理的這篇文章主要介紹了
线性代数导论4——A的LU分解
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?
一、A=LA分解 消元的目的,只是為了更好正確的認(rèn)識(shí)矩陣的概念,A=LU是最基礎(chǔ)的矩陣分解。L是下三角矩陣,U是上三角矩陣。A通過(guò)消元最終得到U,L即A與U之間的聯(lián)系。 先看A矩陣通過(guò)初等矩陣消元得到U: 這里要求的是A=LU,L和消元矩陣E是什么聯(lián)系呢?L與E互為逆矩陣。消元矩陣的逆是比較容易求的? 有時(shí)我們將U中的主元提取出來(lái),其余的位置設(shè)為0,即diagonal對(duì)角陣D,可分解得到LDU,兩邊各一個(gè)三角矩陣,中間一個(gè)對(duì)角陣。
假設(shè)在三維矩陣中,消元步驟中不需要任何行交換,L是各消元矩陣的逆的反向乘積。 為什么要用逆的形式?即上圖中為什么下面的逆的形式的等式要比上面的等式要好? 舉下面的例子,兩個(gè)消元矩陣E21(行2減去2倍行1)和E32(行3減去5倍的新行2)相乘得新的右側(cè)消元矩陣,那么,從右側(cè)結(jié)果顯示,元素10是我們不喜歡的(但它確實(shí)是運(yùn)算結(jié)果),E21(行2減去2倍行1)和E32(行3減去5倍的新行2)這種順序,行1(元素10)怎么就影響到了行3呢?這是因?yàn)?#xff0c;第一步中有2倍行1從行2中減去了,然后在第二步中又乘5倍從行3中減去,因此總共在行3中加上了10倍行1。因此,這種形式不是我們喜歡的,但逆的乘積則不是這樣的。 對(duì)于“第一步中有2倍行1從行2中減去了,然后在第二步中又乘5倍從行3中減去,因此總共在行3中加上了10倍行1”,我舉個(gè)例子解釋一下: 1 ?2 ?0 3 ?4 ?1 ? 5 ?0 ?5 該矩陣通過(guò)以上所描述的進(jìn)行變換,第一步第二行有:3-2*1 ? ?4-2*2 ? ?1-2*0 最終第二步第三行有:5-5*(3-2*1) ? 0-5*(4-2*2) ? 5-5*(1-2*0) 即:5-5*(3-2*1) ? 0-5*(4-2*2) ? 5-5*(1-2*0)= 5-5*3+10*1 ? 0-5*4+10*2 ? 5-5*1+10*0 由這個(gè)結(jié)果不難看出“總共在行3中加上了10倍行1”的結(jié)論了。
現(xiàn)在我們反向計(jì)算,順序倒過(guò)來(lái)求逆的積。L中矩陣相乘的順序非常好,2和5不會(huì)沖突,不會(huì)得到10。即要求出L,不需要任何運(yùn)算,只需要把所有消元乘數(shù)都寫(xiě)進(jìn)來(lái),就能得到L。
總結(jié)下:A=LU,如果不存在行互換,消元乘數(shù),即消元步驟中的需要乘以并減去的那個(gè)倍數(shù),消元乘數(shù)可以直接寫(xiě)入L中。即只要步驟正確,可以在得到LU過(guò)程中把A拋開(kāi)。例如,當(dāng)你完成A第二行的消元時(shí),為了得到LU,你只需要記住U中新的第二行是什么,同時(shí)消元所用的乘數(shù)也需要記住,至于A是什么不需要管。
二、消元耗費(fèi)次數(shù) 消元共耗費(fèi)了多少次?A變成U 把消元中的一次加和乘操作看為“一次”操作。100*100的矩陣,第一主元的消元需要接近100*100的操作(第一行不變),第二主元的消元需要接近99*99的操作(第二行不變)。。。。 因此n維矩陣的消元一共需要次數(shù)接近1/3 N3,1/3是考慮到求和式子中數(shù)字在逐漸減小,如果不減小的話應(yīng)該是n*n2,這才是n3。這其中有微積分的知識(shí):從1到n對(duì)x2dx進(jìn)行積分,結(jié)果得到1/3n3,微積分其實(shí)是考慮連續(xù)情況下的“求和”(但線性代數(shù)式離散的)。 另一個(gè)問(wèn)題:之前是A進(jìn)行消元得到U,那么加上右側(cè)常數(shù)列b,它需要多少次操作?把它放到消元步驟中,然后進(jìn)行回代,一共需要n square次操作,要比A進(jìn)行變換的次數(shù)少得多。 因此,經(jīng)常有矩陣A和幾個(gè)右側(cè)向量,這時(shí)對(duì)A進(jìn)行更多次操作,將其分解乘L和U,來(lái)完成消元,之后就可以以較少次數(shù)處理右側(cè)向量了。這時(shí)方程組運(yùn)算中最基本的運(yùn)算問(wèn)題。
三、轉(zhuǎn)置與置換permutations,置換矩陣群 若允許行互換,當(dāng)主元位置為0時(shí),要進(jìn)行行互換,置換矩陣可以進(jìn)行行互換。來(lái)看看3維下的所有置換矩陣: 3維下一共3*2*1=6個(gè)置換矩陣,他們形成的矩陣群有一些特點(diǎn): 1)置換矩陣兩兩相乘結(jié)果仍然在該群中 2)取其逆,只用將行換回去,結(jié)果也在該群中 3)個(gè)別置換矩陣的逆矩陣就是其置換矩陣本身(比如上面的前4個(gè),其轉(zhuǎn)置等于本身),但對(duì)于所有的,總結(jié)來(lái)說(shuō)是:置換矩陣的逆是等于其轉(zhuǎn)置。
線性代數(shù)導(dǎo)論4——A的LU分解
一、A=LA分解 消元的目的,只是為了更好正確的認(rèn)識(shí)矩陣的概念,A=LU是最基礎(chǔ)的矩陣分解。L是下三角矩陣,U是上三角矩陣。A通過(guò)消元最終得到U,L即A與U之間的聯(lián)系。 先看A矩陣通過(guò)初等矩陣消元得到U: 這里要求的是A=LU,L和消元矩陣E是什么聯(lián)系呢?L與E互為逆矩陣。消元矩陣的逆是比較容易求的? 有時(shí)我們將U中的主元提取出來(lái),其余的位置設(shè)為0,即diagonal對(duì)角陣D,可分解得到LDU,兩邊各一個(gè)三角矩陣,中間一個(gè)對(duì)角陣。
假設(shè)在三維矩陣中,消元步驟中不需要任何行交換,L是各消元矩陣的逆的反向乘積。 為什么要用逆的形式?即上圖中為什么下面的逆的形式的等式要比上面的等式要好? 舉下面的例子,兩個(gè)消元矩陣E21(行2減去2倍行1)和E32(行3減去5倍的新行2)相乘得新的右側(cè)消元矩陣,那么,從右側(cè)結(jié)果顯示,元素10是我們不喜歡的(但它確實(shí)是運(yùn)算結(jié)果),E21(行2減去2倍行1)和E32(行3減去5倍的新行2)這種順序,行1(元素10)怎么就影響到了行3呢?這是因?yàn)?#xff0c;第一步中有2倍行1從行2中減去了,然后在第二步中又乘5倍從行3中減去,因此總共在行3中加上了10倍行1。因此,這種形式不是我們喜歡的,但逆的乘積則不是這樣的。 對(duì)于“第一步中有2倍行1從行2中減去了,然后在第二步中又乘5倍從行3中減去,因此總共在行3中加上了10倍行1”,我舉個(gè)例子解釋一下: 1 ?2 ?0 3 ?4 ?1 ? 5 ?0 ?5 該矩陣通過(guò)以上所描述的進(jìn)行變換,第一步第二行有:3-2*1 ? ?4-2*2 ? ?1-2*0 最終第二步第三行有:5-5*(3-2*1) ? 0-5*(4-2*2) ? 5-5*(1-2*0) 即:5-5*(3-2*1) ? 0-5*(4-2*2) ? 5-5*(1-2*0)= 5-5*3+10*1 ? 0-5*4+10*2 ? 5-5*1+10*0 由這個(gè)結(jié)果不難看出“總共在行3中加上了10倍行1”的結(jié)論了。
現(xiàn)在我們反向計(jì)算,順序倒過(guò)來(lái)求逆的積。L中矩陣相乘的順序非常好,2和5不會(huì)沖突,不會(huì)得到10。即要求出L,不需要任何運(yùn)算,只需要把所有消元乘數(shù)都寫(xiě)進(jìn)來(lái),就能得到L。
總結(jié)下:A=LU,如果不存在行互換,消元乘數(shù),即消元步驟中的需要乘以并減去的那個(gè)倍數(shù),消元乘數(shù)可以直接寫(xiě)入L中。即只要步驟正確,可以在得到LU過(guò)程中把A拋開(kāi)。例如,當(dāng)你完成A第二行的消元時(shí),為了得到LU,你只需要記住U中新的第二行是什么,同時(shí)消元所用的乘數(shù)也需要記住,至于A是什么不需要管。
二、消元耗費(fèi)次數(shù) 消元共耗費(fèi)了多少次?A變成U 把消元中的一次加和乘操作看為“一次”操作。100*100的矩陣,第一主元的消元需要接近100*100的操作(第一行不變),第二主元的消元需要接近99*99的操作(第二行不變)。。。。 因此n維矩陣的消元一共需要次數(shù)接近1/3 N3,1/3是考慮到求和式子中數(shù)字在逐漸減小,如果不減小的話應(yīng)該是n*n2,這才是n3。這其中有微積分的知識(shí):從1到n對(duì)x2dx進(jìn)行積分,結(jié)果得到1/3n3,微積分其實(shí)是考慮連續(xù)情況下的“求和”(但線性代數(shù)式離散的)。 另一個(gè)問(wèn)題:之前是A進(jìn)行消元得到U,那么加上右側(cè)常數(shù)列b,它需要多少次操作?把它放到消元步驟中,然后進(jìn)行回代,一共需要n square次操作,要比A進(jìn)行變換的次數(shù)少得多。 因此,經(jīng)常有矩陣A和幾個(gè)右側(cè)向量,這時(shí)對(duì)A進(jìn)行更多次操作,將其分解乘L和U,來(lái)完成消元,之后就可以以較少次數(shù)處理右側(cè)向量了。這時(shí)方程組運(yùn)算中最基本的運(yùn)算問(wèn)題。
三、轉(zhuǎn)置與置換permutations,置換矩陣群 若允許行互換,當(dāng)主元位置為0時(shí),要進(jìn)行行互換,置換矩陣可以進(jìn)行行互換。來(lái)看看3維下的所有置換矩陣: 3維下一共3*2*1=6個(gè)置換矩陣,他們形成的矩陣群有一些特點(diǎn): 1)置換矩陣兩兩相乘結(jié)果仍然在該群中 2)取其逆,只用將行換回去,結(jié)果也在該群中 3)個(gè)別置換矩陣的逆矩陣就是其置換矩陣本身(比如上面的前4個(gè),其轉(zhuǎn)置等于本身),但對(duì)于所有的,總結(jié)來(lái)說(shuō)是:置換矩陣的逆是等于其轉(zhuǎn)置。
總結(jié)
以上是生活随笔為你收集整理的线性代数导论4——A的LU分解的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 核函数
- 下一篇: 机器学习问题方法总结