程序示例–K-Means

函數定義

# coding: utf-8 # kmeans/kmeans.py import numpy as npdef loadDataSet(filename):"""讀取數據集Args:filename: 文件名Returns:dataMat: 數據樣本矩陣"""dataMat = []fr = open(filename)for line in fr.readlines():curLine = line.strip().split('\t')# 通過map函數批量轉換fitLine = map(float, curLine)dataMat.append(fitLine)return dataMatdef distEclud(vecA, vecB):"""計算兩向量的歐氏距離Args:vecA: 向量AvecB: 向量BReturns:歐式距離"""return np.sqrt(np.sum(np.power(vecA - vecB, 2)))def randCent(dataSet, k):"""隨機生成k個聚類中心Args:dataSet: 數據集k: 簇數目Returns:centroids: 聚類中心矩陣"""_, n = dataSet.shapecentroids = np.mat(np.zeros((k, n)))for j in range(n):# 隨機聚類中心落在數據集的邊界之內minJ = np.min(dataSet[:, j])maxJ = np.max(dataSet[:, j])rangeJ = float(maxJ - minJ)centroids[:, j] = minJ + rangeJ * np.random.rand(k, 1)return centroidsdef kMeans(dataSet, k, maxIter = 5):"""K-MeansArgs:dataSet: 數據集k: 聚類數Returns:centroids: 聚類中心clusterAssment: 點分配結果"""# 隨機初始化聚類中心centroids = randCent(dataSet, k)m, n = np.shape(dataSet)# 點分配結果： 第一列指明樣本所在的簇，第二列指明該樣本到聚類中心的距離clusterAssment = np.mat(np.zeros((m, 2)))# 標識聚類中心是否仍在改變clusterChanged = True# 直至聚類中心不再變化iterCount = 0while clusterChanged and iterCount < maxIter:iterCount += 1clusterChanged = False# 分配樣本到簇for i in range(m):# 計算第i個樣本到各個聚類中心的距離minIndex = 0minDist = np.inffor j in range(k):dist = distEclud(dataSet[i, :], centroids[j, :])if(dist < minDist):minIndex = jminDist = dist# 判斷cluster是否改變if(clusterAssment[i, 0] != minIndex):clusterChanged = TrueclusterAssment[i, :] = minIndex, minDist**2# 刷新聚類中心: 移動聚類中心到所在簇的均值位置for cent in range(k):# 通過數組過濾獲得簇中的點ptsInCluster = dataSet[np.nonzero(clusterAssment[:, 0].A == cent)[0]]if ptsInCluster.shape[0] > 0:# 計算均值并移動centroids[cent, :] = np.mean(ptsInCluster, axis=0)return centroids, clusterAssment

我分別測試了 $k=2$ 以及 $k=4$ 時的聚類效果：

• $k=2$
  
• $k=4$
  
  值得一體的是，在 $k=2$ 的情況下，還會引起不同的聚類結果：
  

總結

以上是生活随笔為你收集整理的6.7 程序示例--K-Means-机器学习笔记-斯坦福吴恩达教授的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。