1，邏輯回歸簡介
邏輯回歸完成分類任務，是經(jīng)典的二分類算法（也可以解決多分類問題），機器學習算法一般選擇先邏輯回歸（優(yōu)先選擇）再用復雜的，邏輯回歸的決策邊界可以是非線性的（高階）。可以通過參數(shù)對結果進行評估。

2，Sigmoid 函數(shù)

表達式：

圖像：

自變量取值為任意實數(shù)，值域[0,1]。將任意的輸入映射到了[0,1]區(qū)間，回顧在線性回歸中可以得到一個預測值，可再將該值映射到Sigmoid 函數(shù)中這樣就完成了由值到概率的轉換，也就是分類任務。

預測函數(shù)表達式：

其中

二分類任務：

保證概率求和為1。

整合為下式：

似然函數(shù)：

對數(shù)似然：

對上式求導：

i代表樣本，j代表樣本的特征。

轉換為梯度下降任務：

參數(shù)更新:

學習率乘以方向，m代表bitch的大小

多分類的softmax：

結果值要進行歸一化。

總結

以上是生活随笔為你收集整理的逻辑回归算法原理简介的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。