1新智元編譯1

來(lái)源：Linkedin

譯者：胡祥杰

【新智元導(dǎo)讀】本文是2016 臺(tái)灣資料科學(xué)年會(huì)前導(dǎo)課程“一天搞懂深度學(xué)習(xí)”的全部講義PPT（共268頁(yè)），由臺(tái)灣大學(xué)電機(jī)工程學(xué)助理教授李宏毅主講。作者在文中分四個(gè)部分對(duì)神經(jīng)網(wǎng)絡(luò)的原理、目前存在形態(tài)以及未來(lái)的發(fā)展進(jìn)行了介紹。深度學(xué)習(xí)的每一個(gè)核心概念在文中都有相關(guān)案例進(jìn)行呈現(xiàn)，通俗易懂。一天的時(shí)間搞懂深度學(xué)習(xí)？其實(shí)并不是沒有可能。

關(guān)注新智元，在公眾號(hào)后臺(tái)回復(fù)0822，可下載全部PPT（PDF版）

深度學(xué)習(xí) ( Deep Learning ) 是機(jī)器學(xué)習(xí) ( Machine Learning ) 中近年來(lái)備受重視的一支，深度學(xué)習(xí)根源于類神經(jīng)網(wǎng)絡(luò) ( Artificial Neural Network ) 模型，但今日深度學(xué)習(xí)的技術(shù)和它的前身已截然不同，目前最好的語(yǔ)音識(shí)別和影像辨識(shí)系統(tǒng)都是以深度學(xué)習(xí)技術(shù)來(lái)完成，你可能在很多不同的場(chǎng)合聽過(guò)各種用深度學(xué)習(xí)做出的驚人應(yīng)用 ( 例如：最近紅遍大街小巷的 AlphaGo )，聽完以后覺得心癢癢的，想要趕快使用這項(xiàng)強(qiáng)大的技術(shù)，卻不知要從何下手學(xué)習(xí)，那這門課就是你所需要的。

這門課程將由臺(tái)大電機(jī)系李宏毅教授利用短短的一天議程簡(jiǎn)介深度學(xué)習(xí)。以下是課程大綱：

什么是深度學(xué)習(xí)

深度學(xué)習(xí)的技術(shù)表面上看起來(lái)五花八門，但其實(shí)就是三個(gè)步驟：設(shè)定好類神經(jīng)網(wǎng)絡(luò)架構(gòu)、訂出學(xué)習(xí)目標(biāo)、開始學(xué)習(xí)，這堂課會(huì)簡(jiǎn)介如何使用深度學(xué)習(xí)的工具 Keras，它可以幫助你在十分鐘內(nèi)完成深度學(xué)習(xí)的程序。另外，有人說(shuō)深度學(xué)習(xí)很厲害、有各種吹捧，也有人說(shuō)深度學(xué)習(xí)只是個(gè)噱頭，到底深度學(xué)習(xí)和其他的機(jī)器學(xué)習(xí)方法有什么不同呢？這堂課要剖析深度學(xué)習(xí)和其它機(jī)器學(xué)習(xí)方法相比潛在的優(yōu)勢(shì)。

深度學(xué)習(xí)的各種小技巧

雖然現(xiàn)在深度學(xué)習(xí)的工具滿街都是，想要寫一個(gè)深度學(xué)習(xí)的程序只是舉手之勞，但要得到好的成果可不簡(jiǎn)單，訓(xùn)練過(guò)程中各種枝枝節(jié)節(jié)的小技巧才是成功的關(guān)鍵。本課程中將分享深度學(xué)習(xí)的實(shí)作技巧及實(shí)戰(zhàn)經(jīng)驗(yàn)。

有記憶力的深度學(xué)習(xí)模型

機(jī)器需要記憶力才能做更多事情，這段課程要講解遞歸式類神經(jīng)網(wǎng)絡(luò) ( Recurrent Neural Network )，告訴大家深度學(xué)習(xí)模型如何可以有記憶力。

深度學(xué)習(xí)應(yīng)用與展望

深度學(xué)習(xí)可以拿來(lái)做甚么？怎么用深度學(xué)習(xí)做語(yǔ)音識(shí)別？怎么用深度學(xué)習(xí)做問(wèn)答系統(tǒng)？接下來(lái)深度學(xué)習(xí)的研究者們?cè)谝獾氖鞘裁礃拥膯?wèn)題呢？

本課程希望幫助大家不只能了解深度學(xué)習(xí)，也可以有效率地上手深度學(xué)習(xí)，用在手邊的問(wèn)題上。無(wú)論是從未嘗試過(guò)深度學(xué)習(xí)的新手，還是已經(jīng)有一點(diǎn)經(jīng)驗(yàn)想更深入學(xué)習(xí)，都可以在這門課中有所收獲。

下面是課程全部PPT，由于篇幅有限，新智元對(duì)第一部分進(jìn)行了翻譯：

深度學(xué)習(xí)吸引了很大的關(guān)注：

我相信，你之前肯定見到過(guò)很多激動(dòng)人心的結(jié)果。圖中是谷歌內(nèi)部深度學(xué)習(xí)技術(shù)的使用趨勢(shì)，可以看到從2015年第二季度開始，使用量呈直線上升。本講義聚焦深度學(xué)習(xí)基礎(chǔ)技術(shù)。

大綱：

報(bào)告第一部分：介紹深度學(xué)習(xí)

報(bào)告第二部分：關(guān)于訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)的一些建議

報(bào)告第三部分：各種各樣的神經(jīng)網(wǎng)絡(luò)

報(bào)告第四部分：下一股浪潮

報(bào)告1：深度學(xué)習(xí)介紹

深度學(xué)習(xí)有3步：神經(jīng)網(wǎng)絡(luò)架構(gòu)--學(xué)習(xí)目標(biāo)--學(xué)習(xí)。

這三個(gè)步驟都是以數(shù)據(jù)為基礎(chǔ)的。

第3步：選擇最佳的功能函數(shù)。

從原理上說(shuō)，深度學(xué)習(xí)非常簡(jiǎn)單。

從函數(shù)的角度理解深度學(xué)習(xí)：第一步，是一個(gè)函數(shù)集；第二步，定義函數(shù)的擬合度；第三部，選擇最佳函數(shù)。

人類大腦的構(gòu)成

神經(jīng)網(wǎng)絡(luò)：神經(jīng)元

激活函數(shù)的工作原理

不同的連接會(huì)導(dǎo)致不同的網(wǎng)絡(luò)結(jié)構(gòu)

完全連接的反向網(wǎng)絡(luò)：S型網(wǎng)絡(luò)

極深網(wǎng)絡(luò)：從8層到19層，一直到152層。

全連接的反向網(wǎng)絡(luò)：矩陣系統(tǒng)

輸出層（選擇）

問(wèn)題：

下圖中，總共有多少層？每一層有多少個(gè)神經(jīng)元？

結(jié)構(gòu)能自動(dòng)決定嗎？

第二步：學(xué)習(xí)目標(biāo)，定義函數(shù)擬合度。

例子：識(shí)別“2”

訓(xùn)練數(shù)據(jù)：

準(zhǔn)備訓(xùn)練數(shù)據(jù)：圖像和相應(yīng)的標(biāo)簽

學(xué)習(xí)目標(biāo)

損失：一個(gè)好的函數(shù)應(yīng)該讓所有例子中的損失降到最小。

全局損失

第三步：學(xué)習(xí)！選擇最佳函數(shù)。

如何選擇最佳函數(shù)

梯度下降

梯度下降：綜合多個(gè)參數(shù)考慮的時(shí)候，你發(fā)現(xiàn)什么問(wèn)題了嗎？

局部最小值：梯度下降從來(lái)不會(huì)保證可以獲得全局最小值

反向傳播

可以做什么？

第二部分：關(guān)于訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)的一些小建議

第三部分：各種各樣的神經(jīng)網(wǎng)絡(luò)

篇幅有限。200頁(yè)以后PPT請(qǐng)?jiān)谛轮窃娞?hào)后臺(tái)回復(fù)0822，下載瀏覽。

新智元Top10智能汽車創(chuàng)客大賽招募！

新智元于7月11日啟動(dòng)2016年【新智元100】人工智能創(chuàng)業(yè)公司評(píng)選，在人工智能概念誕生60周年之際，尋找中國(guó)最具競(jìng)爭(zhēng)力的人工智能創(chuàng)業(yè)企業(yè)。

智能駕駛技術(shù)是汽車行業(yè)的重點(diǎn)發(fā)展方向之一，同時(shí)也是人工智能相關(guān)產(chǎn)業(yè)創(chuàng)新落地的重要賽道之一。為此新智元聯(lián)合北京中汽四方共同舉辦“新智元Top10智能汽車創(chuàng)客大賽”，共同招募智能汽車相關(guān)優(yōu)質(zhì)創(chuàng)業(yè)公司，并聯(lián)合組織人工智能技術(shù)專家、傳統(tǒng)汽車行業(yè)技術(shù)專家、關(guān)注智能汽車領(lǐng)域的知名風(fēng)投機(jī)構(gòu)，共同評(píng)審并篩選出Top 10進(jìn)入決賽，在2016年10月16日“國(guó)際智能網(wǎng)聯(lián)汽車發(fā)展合作論壇”期間，進(jìn)行路演、頒獎(jiǎng)及展覽活動(dòng)。

如何參加【新智元Top10智能汽車創(chuàng)客大賽】評(píng)選

點(diǎn)擊文章下方閱讀原文，在線填寫報(bào)名表。該報(bào)名表為參加評(píng)選必填資料。

如有更多介紹資料（例如BP等），可發(fā)送至xzy100@aiera.com.cn，郵件標(biāo)題請(qǐng)注明公司名稱。如有任何咨詢問(wèn)題，可聯(lián)系微信號(hào)Kunlin1201。

評(píng)選活動(dòng)時(shí)間表

創(chuàng)業(yè)企業(yè)報(bào)名期：即日起至2016年8月31日

專家評(píng)委評(píng)審期：2016年9月

入圍企業(yè)公布期：2016年10月18日

微信號(hào)：AI_era100

總結(jié)

以上是生活随笔為你收集整理的【286页干货】一天搞懂深度学习（台湾资料科学年会课程）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。