AI理论知识整理(6)-最大似然法
生活随笔
收集整理的這篇文章主要介紹了
AI理论知识整理(6)-最大似然法
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
假設(shè) 有N個數(shù)據(jù)點,服從某種分布Pr(x;θ)Pr(x;\theta)Pr(x;θ),想找到一組參數(shù)θ\thetaθ,使得生成這 些數(shù)據(jù)點的概率最大,而 不是像最小二乘法那樣更好地擬合樣本數(shù)據(jù)點。
這個概率是
∏i=1nPr(x;θ)\prod_{i=1}^{n} Pr(x;\theta) i=1∏n?Pr(x;θ)
稱為似然函數(shù)
由于單點概率小,連乘后數(shù)據(jù)有可能超過符點數(shù)的最小值。
取其對數(shù)
∑i=1nlogPr(xi;θ)\sum_{i=1}^{n} log Pr(x_{i};\theta)i=1∑n?logPr(xi?;θ)
最后,求導(dǎo),使得參數(shù) θ\thetaθ最大
提示:
求和符號:
∑i=1n\sum_{i=1}^{n}i=1∑n?
連乘符號:
\prod_{i=1}^{n}∏i=1n\prod_{i=1}^{n}i=1∏n?
總結(jié)
以上是生活随笔為你收集整理的AI理论知识整理(6)-最大似然法的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: php连接excel表格数据类型,TP5
- 下一篇: AI理论知识整理(2)-对称矩阵-特征值