1.前言

前面介紹的是對于所有訓練樣本{(xi,yi)}i=1->n同時進行學習的回歸、分類算法。一般來說，在訓練樣本不同時給定的情況下，比起將所有的訓練樣本集中起來同時進行學習，把訓練樣本逐個輸入到學習算法中，并在新的數據進來的時候馬上對現在的學習結果進行更新，這樣的逐次學習算法更加有效。本篇博客介紹可以進行逐次學習的在線學習算法，當訓練樣本總數n非常大的時候，在線學習算法對于有限內存的利用、管理來說非常有效，是大數據時代的一種優秀的機器學習算法。 為了便于理解，僅僅討論簡單的關于輸入的線性模型：
但是，這里討論的內容，都可以直接擴展為與參數相關的線性模型：

2.被動攻擊學習

2.1 梯度下降量的抑制

回歸和分類中對參數的學習都是使與訓練樣本相關的損失達到最小。在訓練樣本(x,y)逐個給定的在線學習中，可以使用隨機梯度算法進行參數的更新。首先切得與新輸入的訓練樣本(x,y)相關的損失J的梯度▽J。然后朝著梯度下降的方向對參數Θ進行更新。
在這里，e為表示梯度下降幅度的正常值。 概率梯度下降法中，當梯度下降幅度過大時，學習結果往往會不穩定；而當梯度下降幅度過小時，又會使得收斂速度變慢。 梯度下降法中幅度的設定 下降幅度過大，學習結果不穩定；下降幅度過小，收斂速度慢 一般來說，如果能合理選擇平方損失等損失函數的話，也能一起呵成地使梯度快速下降到谷底（也就是說可以求得下降過程中的最有解析解，即平穩解）。 因此，一般會引入一個懲罰系數，即偏離現在的解Θ'的幅度，對梯度下降量進行適當的調整：
其中，λ為正的標量。這樣的學習方法對基金的梯度下降可以進行有效地抑制，稱為被動攻擊學習。

2.2 被動攻擊分類

進行分類時的損失函數，一般使用Hinge損失的平方形式，即二乘Hinge損失：
在這里，m=Θ'xy表示的是間隔。二乘Hinge損失，可以用損失右側等于零是的損失來解釋：
與分類問題相對應的二乘Hinge損失 與二乘Hinge損失相對應的被動攻擊學習中，可以求得解析解。具體而言，先進行分解，變成一個最優化的問題：
繼而利用拉格朗日乘子可以求解。 下圖給出的是被動攻擊分類的具體算法流程：
下圖給出了被動攻擊分類的實例：
被動攻擊分類的實例 經過三次迭代后，基本上得到了與最終結果類似的分類，正樣本和負樣本都得到了很好的分離。

2.3 被動攻擊回歸

稍微改變一下損失函數的話，被動攻擊學習的思想對回歸問題也是適用的。在這里，對于殘差r=Θ'x-y,使用L2損失或L1損失：
推到過程相同。可以的帶如下與L2損失或L1損失相對應的如下參數更新規則。

3.適應正則化學習

被頂攻擊學習中使用的是沒有上界的損失函數，因此不能很好滴處理異常值。如果采用圖基（Tukey）或Ramp損失等有上界的損失函數的話，就可以大幅度提高他對異常值的魯棒性。然而，具有上界的損失函數是非凸函數，想要進行最優化求解往往很困難。 這里重點介紹一種利用在線學習特性的魯邦學習方法——適應正則化學習。

3.1 參數分布的學習

適應正則化學習，并不只是對參數Θ進行學習，而是對參數的概率分布進行學習。具體而言，首先假定參數Θ的概率分布為高斯分布。用下面的概率密度函數決定概率分布：
期望為u=(0,0)'/協方差矩陣為（2,1；1,2）的高斯分布 適應正則化學習中，對下式的規則為最小時所對應的Θ的期望值u和協方差矩陣∑進行學習：
第一項的J(u)，表示的是新輸入的訓練樣本（x,y）滿足參數Θ=u時的損失。第二項為協方差矩陣對應的正則化項，根據訓練輸入樣本向量x的各種元素大小，對正則化的大小進行調整。第三項的作用于被動攻擊學習類似， 即調整解的變化量。式中，C>0表示的是正則化參數的倒數，u'和∑'是當前迭代次數下對應的均值與協方差的解。KL（p||q）是概率密度函數p到q的KL距離：
同理，改變參數的更新規則，也可以利用適應正則化進行分類與回歸。

總結

以上是生活随笔為你收集整理的新兴机器学习算法：在线学习的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。