支持向量机核函数
當我們要去判斷一個非線性的區域,我們會選擇用非線性
函數來擬合。
問題是?能不能選擇別的特征變量?或者有沒有比這些高階項更好的特征變量?
因為?我們并不知道?這些高階項是不是我們真正需要的?我們之前談到?計算機
視覺的時候?提到過這時的輸入是一個有很多像素的圖像?我們看到如果用高階項
作為特征變量?運算量將是非常大的?因為?有太多的高階項需要被計算?
?
構建核函數(這里用高斯核函數)
k(x,l(i))是高斯核函數的簡寫。
?
用高斯核函數來計算兩者的相似度:
?
?
通過計算我們能得到三個新的特征變量f1,f2,f3。
?
例子我們選一個l(1),得到他的高斯函數
下圖為他的三維坐標圖,在(3,5)這點高斯函數的值為1.
?
二維圖:
?
σ取值對核函數的影響:
我們發現σ越小梯度越大,反之梯度越小。
?
通過轉換變量我們可以得到如下的預測函數:
?
從哪里去得到l點
直接用訓練樣本作為標識點
?
計算相應的新的特征值:
相應的預測函數和代價函數:
?
θTMθ為運算技巧,對結果不會產生較大影響,會提高運算速度。
?
核函數的偏差和方差:
?
轉載于:https://www.cnblogs.com/zhengzhe/p/7411072.html
總結
- 上一篇: 链家秋招内推编程笔试题目
- 下一篇: 神在夏至祭降下了神谕(oracle)