机器学习知识总结系列-机器学习中的数学-矩阵（1-3-2）
生活随笔
收集整理的這篇文章主要介紹了
机器学习知识总结系列-机器学习中的数学-矩阵（1-3-2）
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
- 矩陣
SVD 矩陣的乘法狀態(tài)轉移矩陣
狀態(tài)轉移矩陣 - 特征值和特征向量
對稱陣
正交陣
正定陣數據白化 - 矩陣求導
向量對向量求導
標量對向量求導
標量對矩陣求導
通常將奇異值由大而小排列。如此Σ便能由M唯一確定了。（雖然U和V仍然不能確定）。而且奇異值的減少特別的快，在很多情況下，前10%甚至1%的奇異值的和就占了全部的奇異值之和的99%以上了。也就是說，我們也可以用前r大的奇異值來近似描述矩陣，那么SVD就起到一個特征選擇的作用或者是降維的作用。
具體描述參考：http://blog.csdn.net/zhongkejingwang/article/details/43053513
1.2 代數余子式
在一個n階行列式A中,把(i,j)元素aij所在的第i 行和第j列劃去后，留下的n-1階方陣的行列式叫做元素aij的余子式，記作Mij
注意：行列式是數值，因此余子式和代數余子式也是數值；余子式可能也可能是負數。
?
1.3 伴隨矩陣
注意：位于第j行i列
?
1.4? 方陣的逆
當方陣的行列式不為0時，有：
如果不是方正，請參考矩陣的廣義逆
?
1.5 范德蒙行列式
1.6 矩陣的乘法
為階的矩陣，為階的矩陣，那么，是階的矩陣，其中
1.7 矩陣和向量的乘法
- 為階的矩陣，為階的矩陣，則 為的列向量，記
- 由于維列向量和n維空間的點一一對應，上式實際給出了從維空間的點到維空間的的線性變換。
- 旋轉、平移
數學解釋：
設一個初始概率分布（只是一個向量）
- 第代中處于第個階層的概率為：
原理：全概率公式：?參考馬爾科夫過程：https://blog.csdn.net/u010459100/article/details/51657955
1.9.矩陣的秩
- 在的矩陣A中，任取行列，不改變這個元素在中的次序，得到階方陣，稱為矩陣的k階子式。
- 設在矩陣A中有一個不等于的階子式，且所有階子式全等于（如果存在的話），那么稱為矩陣的最高階非零子式，稱為矩陣的秩，記作
- 如果一個矩陣那么可以說這個矩陣式滿秩的
- 的可逆矩陣，秩為n
矩陣的秩等于它的行列向量組的秩
對于n元線性方程組Ax = b：
- 無解的充要條件是
- 唯一解的充要條件是
- Ax= 0的只有零解的充要條件是
- 無窮解的充要條件是
- Ax= b有解的充要條件是
- Ax= 0的非零解的充要條件是
1.10向量組
向量b能由向量組線性表示的充
要條件是矩陣的秩等于矩陣
的秩。
因為有解的條件是秩相等。
=
- 若向量組A與向量組B能相互線性表示，則稱兩個向量組等價。
1.11系數矩陣
參考：https://blog.csdn.net/IOThouzhuo/article/details/50836787二.特征值和特征向量2.1正交陣
- 若階矩陣A滿足,稱A為正交矩陣，簡稱正交陣。
- 是正交陣的充要條件：A的列（行）向量都是單位向量，且兩兩正交。
- 是正交陣，X為向量，則Ax稱作正交變換。
- 正交變換不改變向量長度。
2.2特征值和特征向量
A是n階矩陣，若數和n維非0列向量滿足，那么，數稱為A的特征向值，x稱為A的對應于特征值的特征向量。
- 根據定義，立刻得到，令關于的多項式為0，方程的根為的特征值；將根帶入方程組，求得到的非零解，即對應的特征向量。
- 設階矩陣的特征值為,則
-
- 矩陣A的主行列式的元素和，稱作矩陣A的跡?
推論：
不同特征值對應的特征向量，線性無關。
實對稱陣的特征值也是實數。
實對稱陣不同的特征值的特征向量正交2.3 合同變換
設A為n階對稱陣，則必有正交陣P，使得
?2.4.正定陣
對于階方陣，若任意階向量，都有，則稱是正定陣。
- 由一階推廣而來：
- 若條件變成，則稱作半正定矩陣。
正定陣的判定：
- 對稱陣A為正定陣；
- A的特征值都為正；
- A的順序主子式大于0；
三. 矩陣求導
參考：https://blog.csdn.net/IOThouzhuo/article/details/50836787
總結
以上是生活随笔為你收集整理的机器学习知识总结系列-机器学习中的数学-矩阵（1-3-2）的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 深度模型压缩论文（01）- Meta F
- 下一篇： 机器学习问题总结（03）