NeurIPS 2019最热趋势-贝叶斯深度学习
貝葉斯原理,總感覺憋著,不透。關注到一篇文章介紹NIPS2019最新趨勢中有關于貝葉斯深度學習的,還是擔心鏈接失效,博客這里mark關鍵信息。
鏈接:https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652060603&idx=1&sn=548887b5b4c5f3bc72a3693fac4bab1a&chksm=f1204f4ac657c65cd4f035b4b9272dffee79e918d05f39bd16a7b5c28f9f4bb7fd1ef78b2ae3&mpshare=1&scene=1&srcid=&sharer_sharetime=1576911137801&sharer_shareid=c217349c449f0c57428c7772ddae3a35&key=ec23e0d9cefd6113ab058c782ecd64faf3b45f14d37b8d9ea6e41ba76ec324d10a121ca51c7f8700c935278aa08c491e0fce42b6282856a2828c874315db8c7c23a13732340400cca55743180f5268a7&ascene=1&uin=MjkzMjQ1MDQyMQ%3D%3D&devicetype=Windows+10&version=62070158&lang=zh_CN&exportkey=Ax4P8XQRU89tiOpG4Ry%2BJtY%3D&pass_ticket=sDlaBLACEAiI6pu0DWi34aWBGe96hextixuKkPCmHnsQucgPfOXQZWtMbXIIpYJf
?
關鍵內容:
?
?
?后續有時間需要整理這些最新文章。
總結貝葉斯在機器學習中的優缺點有:
1)優點:天然的扛過擬合(先驗約束,參數優化過程降低對訓練數據的依賴),求參數空間積分進行預測具有集成學習能力,超參最優化可以求稀疏解降低模型復雜度(典型應用是RVM);
2)缺點:不適合大型數據集。
貝葉斯原理在理論和方法上遵循:MLE(相當于LS)->MAP(相當于LS+regularization, L1相當于拉普拉斯先驗分布,L2相當于高斯先驗分布)->Inference三個層次,其中inference涉及到指數分布家族解析解、拉普拉斯近似、采樣法求解(MCM,VI)。
貝葉斯在小數據集上的抗過擬合以及不確定估計在實驗過程是可以證明,但其可解釋性(先驗假設)似乎沒關注到論文,在醫學領域是可以探索的一個方向。
?
總結
以上是生活随笔為你收集整理的NeurIPS 2019最热趋势-贝叶斯深度学习的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: IT技术能治病救人-数据是21世纪最伟大
- 下一篇: 模型可解释性-贝叶斯方法