维基百科---似然函数
在數理統計學中,似然函數是一種關于統計模型中的參數的函數,表示模型參數中的似然性。似然函數在統計推斷中有重大作用,如在最大似然估計和費雪信息之中的應用等等。“似然性”與“或然性”或“概率”意思相近,都是指某種事件發生的可能性,但是在統計學中,“似然性”和“或然性”或“概率”又有明確的區分。概率用于在已知一些參數的情況下,預測接下來的觀測所得到的結果,而似然性則是用于在已知某些觀測所得到的結果時,對有關事物的性質的參數進行估計。
在這種意義上,似然函數可以理解為條件概率的逆反。在已知某個參數B時,事件A會發生的概率寫作:
利用貝葉斯定理,
因此,我們可以反過來構造表示似然性的方法:已知有事件A發生,運用似然函數,我們估計參數B的可能性。形式上,似然函數也是一種條件概率函數,但我們關注的變量改變了:
注意到這里并不要求似然函數滿足歸一性:。一個似然函數乘以一個正的常數之后仍然是似然函數。對所有{\displaystyle \alpha >0},都可以有似然函數:
?
常說的概率是指給定參數后,預測即將發生的事件的可能性。拿硬幣這個例子來說,我們已知一枚均勻硬幣的正反面概率分別是0.5,要預測拋兩次硬幣,硬幣都朝上的概率:
H代表Head,表示頭朝上
p(HH | pH = 0.5) = 0.5*0.5 = 0.25.
這種寫法其實有點誤導,后面的這個p其實是作為參數存在的,而不是一個隨機變量,因此不能算作是條件概率,更靠譜的寫法應該是 p(HH;p=0.5)。
而似然概率正好與這個過程相反,我們關注的量不再是事件的發生概率,而是已知發生了某些事件,我們希望知道參數應該是多少。
現在我們已經拋了兩次硬幣,并且知道了結果是兩次頭朝上,這時候,我希望知道這枚硬幣拋出去正面朝上的概率為0.5的概率是多少?正面朝上的概率為0.8的概率是多少?
如果我們希望知道正面朝上概率為0.5的概率,這個東西就叫做似然函數,可以說成是對某一個參數的猜想(p=0.5)的概率,這樣表示成(條件)概率就是
L(pH=0.5|HH) = P(HH|pH=0.5) = (另一種寫法)P(HH;pH=0.5).
為什么可以寫成這樣?我覺得可以這樣來想:
似然函數本身也是一種概率,我們可以把L(pH=0.5|HH)寫成P(pH=0.5|HH); 而根據貝葉斯公式,P(pH=0.5|HH) = P(pH=0.5,HH)/P(HH);既然HH是已經發生的事件,理所當然P(HH) = 1,所以:
P(pH=0.5|HH) ?=?P(pH=0.5,HH) =?P(HH;pH=0.5).
右邊的這個計算我們很熟悉了,就是已知頭朝上概率為0.5,求拋兩次都是H的概率,即0.5*0.5=0.25。
所以,我們可以safely得到:
L(pH=0.5|HH)?= P(HH|pH=0.5) = 0.25.
這個0.25的意思是,在已知拋出兩個正面的情況下,pH = 0.5的概率等于0.25。
再算一下
L(pH=0.6|HH)?= P(HH|pH=0.6) = 0.36.
把pH從0~1的取值所得到的似然函數的曲線畫出來得到這樣一張圖:
可以發現,pH = 1的概率是最大的。
即L(pH = 1|HH) = 1。
那么最大似然概率的問題也就好理解了。
最大似然概率,就是在已知觀測的數據的前提下,找到使得似然概率最大的參數值。
這就不難理解,在data mining領域,許多求參數的方法最終都歸結為最大化似然概率的問題。
回到這個硬幣的例子上來,在觀測到HH的情況下,pH = 1是最合理的(卻未必符合真實情況,因為數據量太少的緣故)。
?
?
轉載于:https://www.cnblogs.com/zongfa/p/9295455.html
總結
以上是生活随笔為你收集整理的维基百科---似然函数的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 移动端1px像素的设置?
- 下一篇: 患者信息可视化及关联规则可视化