---

←上一篇↓↑下一篇→

2.9 什么是端到端的深度學(xué)習(xí)	回到目錄	2.11 總結(jié)

---

是否要使用端到端的深度學(xué)習(xí) (Whether to use end-to-end deep learning?)

假設(shè)你正在搭建一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)，你要決定是否使用端對(duì)端方法，我們來(lái)看看端到端深度學(xué)習(xí)的一些優(yōu)缺點(diǎn)，這樣你就可以根據(jù)一些準(zhǔn)則，判斷你的應(yīng)用程序是否有希望使用端到端方法。

這里是應(yīng)用端到端學(xué)習(xí)的一些好處，首先端到端學(xué)習(xí)真的只是讓數(shù)據(jù)說(shuō)話。所以如果你有足夠多的 $(x,y)$ 數(shù)據(jù)，那么不管從 $x$ 到 $y$ 最適合的函數(shù)映射是什么，如果你訓(xùn)練一個(gè)足夠大的神經(jīng)網(wǎng)絡(luò)，希望這個(gè)神經(jīng)網(wǎng)絡(luò)能自己搞清楚，而使用純機(jī)器學(xué)習(xí)方法，直接從 $x$ 到 $y$ 輸入去訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，可能更能夠捕獲數(shù)據(jù)中的任何統(tǒng)計(jì)信息，而不是被迫引入人類的成見(jiàn)。

例如，在語(yǔ)音識(shí)別領(lǐng)域，早期的識(shí)別系統(tǒng)有這個(gè)音位概念，就是基本的聲音單元，如cat單詞的“cat”的Cu-、Ah-和Tu-，我覺(jué)得這個(gè)音位是人類語(yǔ)言學(xué)家生造出來(lái)的，我實(shí)際上認(rèn)為音位其實(shí)是語(yǔ)音學(xué)家的幻想，用音位描述語(yǔ)言也還算合理。但是不要強(qiáng)迫你的學(xué)習(xí)算法以音位為單位思考，這點(diǎn)有時(shí)沒(méi)那么明顯。如果你讓你的學(xué)習(xí)算法學(xué)習(xí)它想學(xué)習(xí)的任意表示方式，而不是強(qiáng)迫你的學(xué)習(xí)算法使用音位作為表示方式，那么其整體表現(xiàn)可能會(huì)更好。

端到端深度學(xué)習(xí)的第二個(gè)好處就是這樣，所需手工設(shè)計(jì)的組件更少，所以這也許能夠簡(jiǎn)化你的設(shè)計(jì)工作流程，你不需要花太多時(shí)間去手工設(shè)計(jì)功能，手工設(shè)計(jì)這些中間表示方式。

那么缺點(diǎn)呢？這里有一些缺點(diǎn)，首先，它可能需要大量的數(shù)據(jù)。要直接學(xué)到這個(gè) $x$ 到 $y$ 的映射，你可能需要大量 $(x,y)$ 數(shù)據(jù)。我們?cè)谝郧暗囊曨l里看過(guò)一個(gè)例子，其中你可以收集大量子任務(wù)數(shù)據(jù)，比如人臉識(shí)別，我們可以收集很多數(shù)據(jù)用來(lái)分辨圖像中的人臉，當(dāng)你找到一張臉后，也可以找得到很多人臉識(shí)別數(shù)據(jù)。但是對(duì)于整個(gè)端到端任務(wù)，可能只有更少的數(shù)據(jù)可用。所以 $x$ 這是端到端學(xué)習(xí)的輸入端， $y$ 是輸出端，所以你需要很多這樣的 $(x,y)$ 數(shù)據(jù)，在輸入端和輸出端都有數(shù)據(jù)，這樣可以訓(xùn)練這些系統(tǒng)。這就是為什么我們稱之為端到端學(xué)習(xí)，因?yàn)槟阒苯訉W(xué)習(xí)出從系統(tǒng)的一端到系統(tǒng)的另一端。

另一個(gè)缺點(diǎn)是，它排除了可能有用的手工設(shè)計(jì)組件。機(jī)器學(xué)習(xí)研究人員一般都很鄙視手工設(shè)計(jì)的東西，但如果你沒(méi)有很多數(shù)據(jù)，你的學(xué)習(xí)算法就沒(méi)辦法從很小的訓(xùn)練集數(shù)據(jù)中獲得洞察力。所以手工設(shè)計(jì)組件在這種情況，可能是把人類知識(shí)直接注入算法的途徑，這總不是一件壞事。我覺(jué)得學(xué)習(xí)算法有兩個(gè)主要的知識(shí)來(lái)源，一個(gè)是數(shù)據(jù)，另一個(gè)是你手工設(shè)計(jì)的任何東西，可能是組件，功能，或者其他東西。所以當(dāng)你有大量數(shù)據(jù)時(shí)，手工設(shè)計(jì)的東西就不太重要了，但是當(dāng)你沒(méi)有太多的數(shù)據(jù)時(shí)，構(gòu)造一個(gè)精心設(shè)計(jì)的系統(tǒng)，實(shí)際上可以將人類對(duì)這個(gè)問(wèn)題的很多認(rèn)識(shí)直接注入到問(wèn)題里，進(jìn)入算法里應(yīng)該挺有幫助的。

所以端到端深度學(xué)習(xí)的弊端之一是它把可能有用的人工設(shè)計(jì)的組件排除在外了，精心設(shè)計(jì)的人工組件可能非常有用，但它們也有可能真的傷害到你的算法表現(xiàn)。例如，強(qiáng)制你的算法以音位為單位思考，也許讓算法自己找到更好的表示方法更好。所以這是一把雙刃劍，可能有壞處，可能有好處，但往往好處更多，手工設(shè)計(jì)的組件往往在訓(xùn)練集更小的時(shí)候幫助更大。

如果你在構(gòu)建一個(gè)新的機(jī)器學(xué)習(xí)系統(tǒng)，而你在嘗試決定是否使用端到端深度學(xué)習(xí)，我認(rèn)為關(guān)鍵的問(wèn)題是，你有足夠的數(shù)據(jù)能夠直接學(xué)到從 $x$ 映射到 $y$ 足夠復(fù)雜的函數(shù)嗎？我還沒(méi)有正式定義過(guò)這個(gè)詞“必要復(fù)雜度（complexity needed）”。但直覺(jué)上，如果你想從 $x$ 到 $y$ 的數(shù)據(jù)學(xué)習(xí)出一個(gè)函數(shù)，就是看著這樣的圖像識(shí)別出圖像中所有骨頭的位置，那么也許這像是識(shí)別圖中骨頭這樣相對(duì)簡(jiǎn)單的問(wèn)題，也許系統(tǒng)不需要那么多數(shù)據(jù)來(lái)學(xué)會(huì)處理這個(gè)任務(wù)。或給出一張人物照片，也許在圖中把人臉找出來(lái)不是什么難事，所以你也許不需要太多數(shù)據(jù)去找到人臉，或者至少你可以找到足夠數(shù)據(jù)去解決這個(gè)問(wèn)題。相對(duì)來(lái)說(shuō)，把手的X射線照片直接映射到孩子的年齡，直接去找這種函數(shù)，直覺(jué)上似乎是更為復(fù)雜的問(wèn)題。如果你用純端到端方法，需要很多數(shù)據(jù)去學(xué)習(xí)。

視頻最后我講一個(gè)更復(fù)雜的例子，你可能知道我一直在花時(shí)間幫忙主攻無(wú)人駕駛技術(shù)的公司drive.ai，無(wú)人駕駛技術(shù)的發(fā)展其實(shí)讓我相當(dāng)激動(dòng)，你怎么造出一輛自己能行駛的車呢？好，這里你可以做一件事，這不是端到端的深度學(xué)習(xí)方法，你可以把你車前方的雷達(dá)、激光雷達(dá)或者其他傳感器的讀數(shù)看成是輸入圖像。但是為了說(shuō)明起來(lái)簡(jiǎn)單，我們就說(shuō)拍一張車前方或者周圍的照片，然后駕駛要安全的話，你必須能檢測(cè)到附近的車，你也需要檢測(cè)到行人，你需要檢測(cè)其他的東西，當(dāng)然，我們這里提供的是高度簡(jiǎn)化的例子。

弄清楚其他車和形如的位置之后，你就需要計(jì)劃你自己的路線。所以換句話說(shuō)，當(dāng)你看到其他車子在哪，行人在哪里，你需要決定如何擺方向盤在接下來(lái)的幾秒鐘內(nèi)引導(dǎo)車子的路徑。如果你決定了要走特定的路徑，也許這是道路的俯視圖，這是你的車，也許你決定了要走那條路線，這是一條路線，那么你就需要擺動(dòng)你的方向盤到合適的角度，還要發(fā)出合適的加速和制動(dòng)指令。所以從傳感器或圖像輸入到檢測(cè)行人和車輛，深度學(xué)習(xí)可以做得很好，但一旦知道其他車輛和行人的位置或者動(dòng)向，選擇一條車要走的路，這通常用的不是深度學(xué)習(xí)，而是用所謂的運(yùn)動(dòng)規(guī)劃軟件完成的。如果你學(xué)過(guò)機(jī)器人課程，你一定知道運(yùn)動(dòng)規(guī)劃，然后決定了你的車子要走的路徑之后。還會(huì)有一些其他算法，我們說(shuō)這是一個(gè)控制算法，可以產(chǎn)生精確的決策確定方向盤應(yīng)該精確地轉(zhuǎn)多少度，油門或剎車上應(yīng)該用多少力。

所以這個(gè)例子就表明了，如果你想使用機(jī)器學(xué)習(xí)或者深度學(xué)習(xí)來(lái)學(xué)習(xí)某些單獨(dú)的組件，那么當(dāng)你應(yīng)用監(jiān)督學(xué)習(xí)時(shí)，你應(yīng)該仔細(xì)選擇要學(xué)習(xí)的 $x$ 到 $y$ 映射類型，這取決于那些任務(wù)你可以收集數(shù)據(jù)。相比之下，談?wù)摷兌说蕉松疃葘W(xué)習(xí)方法是很激動(dòng)人心的，你輸入圖像，直接得出方向盤轉(zhuǎn)角，但是就目前能收集到的數(shù)據(jù)而言，還有我們今天能夠用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的數(shù)據(jù)類型而言，這實(shí)際上不是最有希望的方法，或者說(shuō)這個(gè)方法并不是團(tuán)隊(duì)想出的最好用的方法。而我認(rèn)為這種純粹的端到端深度學(xué)習(xí)方法，其實(shí)前景不如這樣更復(fù)雜的多步方法。因?yàn)槟壳澳苁占降臄?shù)據(jù)，還有我們現(xiàn)在訓(xùn)練神經(jīng)網(wǎng)絡(luò)的能力是有局限的。

這就是端到端的深度學(xué)習(xí)，有時(shí)候效果拔群。但你也要注意應(yīng)該在什么時(shí)候使用端到端深度學(xué)習(xí)。最后，謝謝你，恭喜你堅(jiān)持到現(xiàn)在，如果你學(xué)完了上周的視頻和本周的視頻，那么我認(rèn)為你已經(jīng)變得更聰明，更具戰(zhàn)略性，并能夠做出更好的優(yōu)先分配任務(wù)的決策，更好地推動(dòng)你的機(jī)器學(xué)習(xí)項(xiàng)目，也許比很多機(jī)器學(xué)習(xí)工程師，還有和我在硅谷看到的研究人員都強(qiáng)。所以恭喜你學(xué)到這里，我希望你能看看本周的作業(yè)，應(yīng)該能再給你一個(gè)機(jī)會(huì)去實(shí)踐這些理念，并確保你掌握它們。

課程板書

---

←上一篇↓↑下一篇→

2.9 什么是端到端的深度學(xué)習(xí)	回到目錄	2.11 總結(jié)

---

總結(jié)

以上是生活随笔為你收集整理的2.10 是否要使用端到端的深度学习-深度学习第三课《结构化机器学习项目》-Stanford吴恩达教授的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。