文章目錄

• • 一、綜述
  • 二、奇異值分解
  • 三、使用SVD進行降維
  • 四、SVD的評價及應用

一、綜述

奇異值分解是線性代數中一種重要的矩陣分解方法，它在圖形的壓縮等方面具有重要的意義及作用。

二、奇異值分解

三個引理：

AB 和 BA 非零的特征值完全相同；

實對稱矩陣的特征值一定為實數，且一定可以相似對角化，特征向量構成的矩陣可通過施密特正交化變為正交矩陣。

$A{A}^T$ 一定是半正定矩陣，因此其特征值不可能為負數。

奇異值分解
$A_{m\times n}=U_{m\times m}{\sum }_{m\times n}{V}_{n\times n}^T$，其中 $U$ 和 $V$ 都是正交矩陣，且 $\sum$ 是奇異值矩陣（對角元素從大到小排列，這些元素稱為奇異值。其他元素為0）

U的計算
先計算 $A{A}^T$，它是一個 $m$ 階的對稱矩陣，從而可以對 $A{A}^T$ 進行相似對角化，同時將特征值從大到小排列，從而 $A{A}^T=U{\Lambda }_1{U}^T$，從而可以求出矩陣 $U$。

V的計算
先計算 $A^{T}A$，它是一個 $n$ 階的對稱矩陣，那么我們可以對 $A^{T}A$ 相似對角化，同時也將特征值按從大到小排列，從而 $A^{T}A=V{\Lambda }_2{V}^T$，從而可以求出矩陣 $V$。

$\sum$ 的計算
取出 $A{A}^T$（或者 $A^{T}A$，二者特征值相同）的非零特征值并開方，便得到了奇異值。然后將這些奇異值按照從大到小填充到 $\sum$ 的主對角線上，其他位置為0，從而便得到了矩陣 $\sum$。

三、使用SVD進行降維

所謂的使用SVD來進行降維，就是使矩陣的秩減小，矩陣的大小不變。
下面來看一個例子：

該分解保留原矩陣的特征比例 = $\frac{8.45+4.94}{8.45+4.94+1.11}\times 100\%=92.34\%$
除此之外，我們還可以自定義需要保留的特征比例，從而保留對應比例的矩陣。

四、SVD的評價及應用

評價

優點：簡化數據，去除噪聲點，對數據進行降維。

缺點：數據的轉換難以理解

應用：

對圖片和視頻數據進行壓縮（圖片主要是像素點以及RGB色彩混合而形成的圖像，可以對其進行SVD分解，從而達到壓縮目的）。

潛在語義索引

推薦系統

總結

以上是生活随笔為你收集整理的数学建模学习笔记（十二）——奇异值分解的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。