文章針對以下代碼重點研究：

xformedItems = dataMat.T * U[:,:4] * Sig4.I

首先是SVD分解的公式（注意不是SVD近似公式）：
$$M_{m?n}=U_{m?m}?{\Sigma }_{m?n}?{(V_{n?n})}^T$$
注意$\Sigma$在python代碼中返回時，是一個向量，矩陣論中是一個對角矩陣。
對角線上都是各個奇異值，其余元素都是0.
并且$\Sigma$矩陣必定是從大到小排序過的。
其中$U_{m?m}$和$V_{n?n}$是正交陣
正交矩陣的各行是單位向量且兩兩正交
正交矩陣的各列是單位向量且兩兩正交
對于正交陣$A$（特指方陣）有以下性質：
$$A^T=A^{?1}$$
如果從$U_{m?m}$中抽取k列，構成$U_{m?k}$，且$U_{k?m}=(U_{m?k}{)}^T$
如果從$V_{m?m}$中抽取k列，構成$V_{m?k}$，且$V_{k?m}=(V_{m?k}{)}^T$
那么有：
$$U_{k?m}?U_{m?k}=E_{k?k}①$$
$U_{m?k}?U_{k?m}$≠$E_{m?m}$
$$V_{k?m}?V_{m?k}=E_{k?k}②$$
$V_{m?k}?V_{k?m}$≠$E_{m?m}$

上述等式的成立條件是：k≤m
注意上面①②的每個式子的順序不能反，
接下來是SVD的近似公式：
$$M_{m?n}\approx U_{m?k}?{\Sigma }_{k?k}?{(V_{n?k})}^T③$$
下面根據該式進行推導，對于③中，等式左右兩邊乘以$U_{k?m}$，得到：
$$U_{k?m}?M_{m?n}\approx （U_{k?m}?U_{m?k}）?{\Sigma }_{k?k}?{(V_{n?k})}^T$$
代入式①得到：
$$U_{k?m}?M_{m?n}\approx E_{k?k}?{\Sigma }_{k?k}?{(V_{n?k})}^T④$$
兩邊乘以$（{\Sigma }_{k?k}{）}^{?1}$，得到：
$$（{\Sigma }_{k?k}{）}^{?1}?U_{k?m}?M_{m?n}\approx {(V_{n?k})}^T⑤$$
等式兩邊進行轉置操作：
$$V_{n?k}\approx （（{\Sigma }_{k?k}{）}^{?1}?U_{k?m}?M_{m?n}{）}^T$$
對等式右邊進行展開：
$$V_{n?k}\approx (M_{m?n}{)}^T?U_{m?k}?(（{\Sigma }_{k?k}{）}^{?1}{)}^T⑥$$

∵$（{\Sigma }_{k?k}）$是對角陣，
∴$（{\Sigma }_{k?k}{）}^{?1}$也是對角陣
∴$（{\Sigma }_{k?k}{）}^{?1}$的轉置矩陣等于$（{\Sigma }_{k?k}{）}^{?1}⑦$
將⑦中關系，代入⑥，得到

$$V_{n?k}\approx (M_{m?n}{)}^T?U_{m?k}?（{\Sigma }_{k?k}{）}^{?1}⑧$$

對比⑧和書上的這句代碼進行比較：

xformedItems = dataMat.T * U[:,:4] * Sig4.I

我們會發現是一模一樣的。
所以上述推導是這句代碼的理論依據。

借助的在線公式編輯器鏈接為：
http://www.sciweavers.org/free-online-latex-equation-editor

總結

以上是生活随笔為你收集整理的机器学习实战的P264中代码对应的公式推导的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。