邏輯回歸模型

邏輯回歸屬于機(jī)器學(xué)習(xí)中的較為經(jīng)典的模型，在很多金融專業(yè)的實(shí)證部分都會用到邏輯回歸。接下來分成以下幾個(gè)部分對邏輯回歸模型進(jìn)行介紹。

1. 模型簡介

邏輯回歸中的“邏輯”一次，并不是突出這個(gè)算法的邏輯性，而是單純的從音譯字而來。對于回歸來說，回歸本身的意義就是為連續(xù)型變量的任務(wù)，但是邏輯回歸是用回歸的辦法進(jìn)行分類。

邏輯回歸模型本身就是一個(gè)分類模型，經(jīng)常用于二分類。邏輯回歸屬于一個(gè)較簡單地模型，其本質(zhì)就是：假設(shè)數(shù)據(jù)服從這個(gè)分布，然后使用極大似然估計(jì)做參數(shù)的估計(jì)。

logistic 分布是一種連續(xù)型的概率分布，其分布函數(shù)和密度函數(shù)分別為：

其圖像特征為

邏輯回歸模型的圖像F(x)中y軸表示的是概率。

我們在利用邏輯回歸的時(shí)候一般都是以二分法為例，

從圖中我們可以看到，紅色的×代表當(dāng)y=1a

邏輯回歸還需要加一層，它要找到分類概率 P(Y=1) 與輸入向量 x 的直接關(guān)系，然后通過比較概率值來判斷類別考慮二分類問題。

2.邏輯回歸模型的構(gòu)造

常規(guī)情況下，回歸的問題一般考慮：尋找假設(shè)函數(shù)；構(gòu)造損失函數(shù)；在損失最小的情況下求得回歸的參數(shù)。

假設(shè)，我們給定數(shù)據(jù)集

第一步:先構(gòu)造假設(shè)函數(shù)

這里用到了logistics 函數(shù)，其也被成為Sigmoid，其形式為：

Sigmoid 函數(shù)曲線如圖所示：

邏輯回歸最常見的模型就是二元邏輯回歸，邏輯回歸整體訓(xùn)練速度很快。在機(jī)器學(xué)習(xí)中，雖然使用支持SVM支持向量機(jī)的模型的人較多，但是相對于解決普通的分類問題，邏輯回歸整體的速度比SVM快很多。

我認(rèn)為，如果想了解機(jī)器學(xué)習(xí)中的分類問題，邏輯回歸是一種比較好的方法。

當(dāng)然，機(jī)器學(xué)習(xí)中的分類方法也不是只有邏輯回歸的方法，除了上述提到過的支持向量機(jī)(SVM)，還有決策樹、神經(jīng)網(wǎng)絡(luò)、貝葉斯方法都是運(yùn)用較多的方法。每個(gè)方法都有他自己的優(yōu)點(diǎn)，后續(xù)內(nèi)容中我們會接著討論邏輯回歸的應(yīng)用。

之后我們在寫實(shí)證相關(guān)的論文時(shí)，可以運(yùn)用到邏輯回歸對于分類問題中。

總結(jié)

以上是生活随笔為你收集整理的logistic回归 简介_金融专业进！逻辑回归模型简述的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。