前面幾篇我們介紹的都是線性支持向量機，換句話說，我們總可以用一條線或一個超平面將數(shù)據(jù)進行分割。如下圖所示：

但在更多情況下，有些數(shù)據(jù)是無法進行線性分割的。比如下面的例子：

也就是說，你永遠無法用一條直線將兩類數(shù)據(jù)分開，你只能用一個圓來實現(xiàn)。這就是非線性分割。

那么具體到SVM模型中，這種非線性分割的情況我們就用“核函數(shù)”來進行處理。

核函數(shù)

首先，在SVM中，我們將原始優(yōu)化問題轉(zhuǎn)化成了它的對偶問題，即

注意到，在上面的式子中，我們的特征是以向量點積的形式出現(xiàn)。

對于非線性的情況，我們通常是用一個映射函數(shù)將特征從低維空間映射到高維空間中，從而實現(xiàn)線性可分。

用公式表示為：

但是在SVM中，我們并沒有使用這種方法。因為尋找這樣的映射函數(shù)很困難，而且計算量極大。

SVM使用了另一種方式來實現(xiàn)，這就是“核函數(shù)”。它通過將向量的內(nèi)積x1·x2轉(zhuǎn)換為核函數(shù)K(x1·x2)，即

同時，我們的決策函數(shù)也要做相應的替換，即

核函數(shù)類型

常用的核函數(shù)主要有以下幾類：

1.線性核函數(shù)

2.高斯核函數(shù)

3.多項式核函數(shù)

4.sigmoid核函數(shù)

---

UA學院招生啦！想打造AI時代底層能力的同學請看過來！

總結(jié)

以上是生活随笔為你收集整理的svm核函数gamma参数_非线性SVM与核函数的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。