K-近鄰算法的思想如下：首先，計算新樣本與訓練樣本之間的距離，找到距離最近的K 個鄰居；然后，根據這些鄰居所屬的類別來判定新樣本的類別，如果它們都屬于同一個類別，那么新樣本也屬于這個類；否則，對每個后選類別進行評分，按照某種規則確定新樣本的類別。（統計出現的頻率）

該算法比較適用于樣本容量比較大的類域的自動分類，而那些樣本容量較小的類域采用這種算法比較容易產生誤分當K值較小時可能產生過擬合，因為訓練誤差很小，但是測試誤差可能很大;相反，當K值較大時可能產生欠擬合。

算法偽代碼

對未知類別屬性的數據集中的每個點依次執行以下操作：

（1）    計算已知類別的數據集中的點與當前點之間的距離；

（2）    按照距離遞增次序排序；

（3）    選取與當前點距離最小的K個點；

（4）    確定前K個點所在類別的出現頻率；

總結

以上是生活随笔為你收集整理的机器学习：KNN算法(MATLAB实现)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。