優(yōu)化

和其他機器學(xué)習(xí)算法一樣，K-Means 也要評估并且最小化聚類代價，在引入 K-Means 的代價函數(shù)之前，先引入如下定義：
$${\mu }_c^{(i)}=樣本x^{(i)}被分配到的聚類中心$$

引入代價函數(shù)：
$$J(c^{(1)},c^{(2)},...,c^{(m)};{\mu }_1,{\mu }_2,...,{\mu }_k)=1m\sum i=\frac{1}{m}||x^{(i)}?{\mu }_c^{(i)}|{|}^2$$

$J$也被稱為失真代價函數(shù)（Distortion Cost Function）。

實際上，K-Means 的兩步已經(jīng)完成了最小化代價函數(shù)的過程：

樣本分配時：
我們固定住了 $({\mu }_1,{\mu }_2,...,{\mu }_k)$ ，而關(guān)于 $(c^{(1)},c^{(2)},...,c^{(m)})$ 最小化了 $J$ 。

中心移動時：
我們再關(guān)于 $({\mu }_1,{\mu }_2,...,{\mu }_k)$ 最小化了 $J$ 。

由于 K-Means 每次迭代過程都在最小化 J ，所以下面的代價函數(shù)變化曲線不會出現(xiàn)：

總結(jié)

以上是生活随笔為你收集整理的6.3 优化-机器学习笔记-斯坦福吴恩达教授的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。