深度学习4线性回归,逻辑回归
y是連續的則是一個回歸問題,y是離散的則是一個分類問題,這邊就開始考慮y是離散的情況。
對于這樣的問題很多,比如判斷一個人是否生病,或者判斷一個郵件是否是垃圾郵件。
回歸時連續型的,一般不用在上述的分類問題中,因為其受噪音的影響比較大,如果要把一個回歸方法用到分類上的話,那就是logistic回歸。之所以叫其回歸,因為其本質上還是線性回歸,只是在特征到結果中加了一層函數映射。
對于這邊也就是使用一個g(z)將連續的值映射到0跟1上面。
下面就是將線性帶入到g(z)中。
則可以得到:
對于我們考慮的問題是將連續的問題離散化,下面就帶來兩個問題,到底怎么做,還有就是為什么使用這個g(z)呢。至于為什么使用這個函數的時候作者后面講到一般線性模型的時候說明,那下面就先看一看下面怎么做。
我們看這個g(z),我們會發現當,g(z)趨向于1,,g(z)趨向于0
這樣我們就有在0到1之間,下面我們就假設為y取1時候的概率。我們假設該事件服從0,1分布,這邊也可以是其他分布,不過有點復雜,則
也就是再x的條件下,y只能取0跟1,θ是參數。寫成一般形式為
下面我們假設m的訓練數據相互獨立,則我們下面求最大似然估計,也就是求最能服從0,1分布的時候θ的值。(不知道這樣理解對不對)
好,那下面求最大似然估計,對于m個訓練值
那么,我們也就是要求這個的最大值,使用了梯度下降法。
下面跟之前一樣,假設只有一個訓練數據。
最終得到
雖然這邊的樣式跟之前線性回歸一樣,但是要注意的這里的,這不是一個線性函數,而是我們定義的一個logistic函數。
轉載于:https://www.cnblogs.com/fengbing/archive/2013/05/18/3086284.html
總結
以上是生活随笔為你收集整理的深度学习4线性回归,逻辑回归的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: angularjs的ng-repeat回
- 下一篇: 【转载】利用scipy.misc等库对j