---

←上一篇↓↑下一篇→

4.7 參數 vs. 超參數	回到目錄	4.9 總結習題

---

這和大腦有什么關系 (What does this have to do with the brain?)

深度學習和大腦有什么關聯性嗎？

關聯不大。

那么人們為什么會說深度學習和大腦相關呢？

當你在實現一個神經網絡的時候，那些公式是你在做的東西，你會做前向傳播、反向傳播、梯度下降法，其實很難表述這些公式具體做了什么，深度學習像大腦這樣的類比其實是過度簡化了我們的大腦具體在做什么，但因為這種形式很簡潔，也能讓普通人更愿意公開討論，也方便新聞報道并且吸引大眾眼球，但這個類比是非常不準確的。

一個神經網絡的邏輯單元可以看成是對一個生物神經元的過度簡化，但迄今為止連神經科學家都很難解釋究竟一個神經元能做什么，它可能是極其復雜的；它的一些功能可能真的類似logistic回歸的運算，但單個神經元到底在做什么目前還沒有人能夠真正可以解釋。

深度學習的確是個很好的工具來學習各種很靈活很復雜的函數，學習到從到的映射，在監督學習中學到輸入到輸出的映射。

但這個類比還是很粗略的，這是一個logistic回歸單元的sigmoid激活函數，這里是一個大腦中的神經元，圖中這個生物神經元，也是你大腦中的一個細胞，它能接受來自其他神經元的電信號，比如 $x_1,x_2,x_3$ ，或可能來自于其他神經元 $a_1,a_2,a_3$ 。其中有一個簡單的臨界計算值，如果這個神經元突然激發了，它會讓電脈沖沿著這條長長的軸突，或者說一條導線傳到另一個神經元。

所以這是一個過度簡化的對比，把一個神經網絡的邏輯單元和右邊的生物神經元對比。至今為止其實連神經科學家們都很難解釋，究竟一個神經元能做什么。一個小小的神經元其實卻是極其復雜的，以至于我們無法在神經科學的角度描述清楚，它的一些功能，可能真的是類似logistic回歸的運算，但單個神經元到底在做什么，目前還沒有人能夠真正解釋，大腦中的神經元是怎么學習的，至今這仍是一個謎之過程。到底大腦是用類似于后向傳播或是梯度下降的算法，或者人類大腦的學習過程用的是完全不同的原理。

所以雖然深度學習的確是個很好的工具，能學習到各種很靈活很復雜的函數來學到從 $x$ 到 $y$ 的映射。在監督學習中，學到輸入到輸出的映射，但這種和人類大腦的類比，在這個領域的早期也許值得一提。但現在這種類比已經逐漸過時了，我自己也在盡量少用這樣的說法。

這就是神經網絡和大腦的關系，我相信在計算機視覺，或其他的學科都曾受人類大腦啟發，還有其他深度學習的領域也曾受人類大腦啟發。但是個人來講我用這個人類大腦類比的次數逐漸減少了。

課程PPT

---

←上一篇↓↑下一篇→

4.7 參數 vs. 超參數	回到目錄	4.9 總結習題

---

總結

以上是生活随笔為你收集整理的4.8 这和大脑有什么关系-深度学习第一课《神经网络与深度学习》-Stanford吴恩达教授的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。