本節目錄：

無監督學習

K-均值聚類

優化目標

隨機初始化

選擇聚類樹

1 無監督學習
無監督學習，即讓計算機學習無標簽數據。

上邊的一系列點，沒有任何標簽信息，我們需要的是找到一個算法，讓它為我們找找這個數據的內在結構，以上圖數據為例，也就是把他們分成兩個分開的點集。
這個能夠找到圈出這些點集的算法 就是聚類算法。
無監督學習算法用于市場分割、社交網絡分析等。
2.K-均值聚類算法
該算法接受一個未標記的數據集，然后將數據聚類成不同組。
K-均值是一個迭代算法，假設我們想要將數據聚類成 n 個組，其方法為:
（1）首先選擇𝐾個隨機的點，稱為聚類中心（cluster centroids）；
（2）對于數據集中的每一個數據，按照距離𝐾個中心點的距離，將其與距離最近的中心點關聯起來，與同一個中心點關聯的所有點聚成一類。
（3）計算每一個組的平均值，
（4）將該組所關聯的中心點移動到平均值的位置。
重復步驟 2-4 直至中心點不再變化。
下面是聚類示例：



3 優化目標

4 隨機初始化

5 選擇聚類數
沒有所謂最好的選擇聚類數的方法，通常是需要根據不同的問題，人工進行選擇的。選擇的時候思考我們運用 K-均值算法聚類的動機是什么，然后選擇能最好服務于該目的標聚類數。
當人們在討論，選擇聚類數目的方法時，有一個可能會談及的方法叫作“肘部法則”。關 于“肘部法則”，我們所需要做的是改變𝐾值，也就是聚類類別數目的總數。我們用一個聚類來運行 K 均值聚類方法。這就意味著，所有的數據都會分到一個聚類里，然后計算成本函數或者計算畸變函數𝐽。
𝐾代表聚類數字。

我們可能會得到一條類似于這樣的曲線。像一個人的肘部。這就是“肘部法則”所做的，
讓我們來看這樣一個圖，看起來就好像有一個很清楚的肘在那兒。好像人的手臂，如果你伸
出你的胳膊，那么這就是你的肩關節、肘關節、手。這就是“肘部法則”。你會發現這種模式，
它的畸變值會迅速下降，從 1 到 2，從 2 到 3 之后，你會在 3 的時候達到一個肘點。在此之
后，畸變值就下降的非常慢，看起來就像使用 3 個聚類來進行聚類是正確的，這是因為那個
點是曲線的肘點，畸變值下降得很快，𝐾 = 3之后就下降得很慢，那么我們就選𝐾 = 3。當你
應用“肘部法則”的時候，如果你得到了一個像上面這樣的圖，那么這將是一種用來選擇聚類
個數的合理方法。

總結

以上是生活随笔為你收集整理的机器学习笔记十之聚类的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。