1.為什么需要logit回歸?

線性回歸不穩健 異常點對擬合直線的影響很大 so linear不適合做分類問題

?

2.為什么要sigmoid？sigmoid能做什么？

y=0，1是離散問題,直接建立方程? 函數不連續——損失函數不可導——參數無法用梯度法優化

所以我們由 ?轉為?的廣義線性思路

的值表征y取值的概率大小 最由概率大小轉化為判斷y的0,1值

優點：給出了結論的置信度(sigmoid(x))

? ? ? ? ? ?參數優化可以做了

?

課時48 ??? 決策邊界 （ < - > svm）

?

課時49 50??????? 損失函數

為什么損失函數里y不能直接用?

因為非線性? , 所以??曲線是非凸?的——容易陷入局部最優 到不了全局最優

——>想辦法轉化為凸函數

即轉化為對線性

??????

損失函數使用極大似然

that is

?

課時51 高級優化

//todo

conjugate gradient

BFGS

L-BFGS

優點：自動化學習率 收斂速度 缺點：復雜太高級

?

總結

以上是生活随笔為你收集整理的logit的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。