參考：https://www.imooc.com/article/30129

吳恩達(dá)在課里講的是為了保證神經(jīng)元輸出激活值的期望值與不使用dropout時(shí)一致，我們結(jié)合概率論的知識(shí)來具體看一下：假設(shè)一個(gè)神經(jīng)元的輸出激活值為a，在不使用dropout的情況下，其輸出期望值為a，如果使用了dropout，神經(jīng)元就可能有保留和關(guān)閉兩種狀態(tài)，把它看作一個(gè)離散型隨機(jī)變量，它就符合概率論中的0-1分布，其輸出激活值的期望變?yōu)?p*a+(1-p)*0=pa，此時(shí)若要保持期望和不使用dropout時(shí)一致，就要除以 p。

總結(jié)

以上是生活随笔為你收集整理的dropout法中为什么要除以keep_prob?的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。