1，邏輯回歸簡介
邏輯回歸完成分類任務(wù)，是經(jīng)典的二分類算法（也可以解決多分類問題），機(jī)器學(xué)習(xí)算法一般選擇先邏輯回歸（優(yōu)先選擇）再用復(fù)雜的，邏輯回歸的決策邊界可以是非線性的（高階）。可以通過參數(shù)對結(jié)果進(jìn)行評估。

2，Sigmoid 函數(shù)

表達(dá)式：

圖像：

自變量取值為任意實(shí)數(shù)，值域[0,1]。將任意的輸入映射到了[0,1]區(qū)間，回顧在線性回歸中可以得到一個預(yù)測值，可再將該值映射到Sigmoid 函數(shù)中這樣就完成了由值到概率的轉(zhuǎn)換，也就是分類任務(wù)。

預(yù)測函數(shù)表達(dá)式：

其中

二分類任務(wù)：

保證概率求和為1。

整合為下式：

似然函數(shù)：

對數(shù)似然：

對上式求導(dǎo)：

i代表樣本，j代表樣本的特征。

轉(zhuǎn)換為梯度下降任務(wù)：

參數(shù)更新:

學(xué)習(xí)率乘以方向，m代表bitch的大小

多分類的softmax：

結(jié)果值要進(jìn)行歸一化。

總結(jié)

以上是生活随笔為你收集整理的逻辑回归算法原理简介的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。