1 分類問題

?

?2 感知器概述

?感知機的思想是錯誤驅動。其模型是

其中sign是符號函數：

?由于y∈{-1,1}，所以對于誤分類的數據來說，滿足以下關系

（因為理論上和yi，如果分類正確的話，應該是同正負，所以誤分類的數據，二者相乘就應該小于零）

?損失函數的一個自然選擇是誤分類點的個數，即

但是這樣的損失函數是不可導的，不易優化。因此采用另一種損失函數，即誤分類點到超平面的總距離。

?我們復習一下空間中一點x0到超平面之間的距離：

?

?:對于直線wTx+b,它的法向量為w

那么向量x到直線wTx+b的距離就是向量x在法向量w上的投影，即 ||x||cosθ

?所以距離為

?

這里的M表示 被錯誤分類的樣本組成的集合

?3 感知機的學習

計算損失函數的梯度：

感知機的學習算法使用隨機梯度下降法（SGD）

?

?

總結

以上是生活随笔為你收集整理的机器学习笔记：感知器的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。