新手第一課-什么是深度學(xué)習(xí)

文章目錄

• 新手第一課-什么是深度學(xué)習(xí)
• • 一、深度學(xué)習(xí)的發(fā)展歷程
  • • 1.1 Turing Testing (圖靈測(cè)試)
    • 1.2 醫(yī)學(xué)上的發(fā)現(xiàn)
    • 1.3 Deep Learning的出現(xiàn)
  • 二、機(jī)器學(xué)習(xí)
  • • 2.1 人工智能vs機(jī)器學(xué)習(xí)
    • 2.2 監(jiān)督式學(xué)習(xí)vs非監(jiān)督式學(xué)習(xí)
  • 三、深度學(xué)習(xí)如何工作
  • • 3.1 神經(jīng)網(wǎng)絡(luò)
    • 3.2 通過(guò)訓(xùn)練改進(jìn)神經(jīng)網(wǎng)絡(luò)
    • 3.3 我們?nèi)绾谓档统杀竞瘮?shù)呢?

一、深度學(xué)習(xí)的發(fā)展歷程

1.1 Turing Testing (圖靈測(cè)試)

圖靈測(cè)試是人工智能是否真正能夠成功的一個(gè)標(biāo)準(zhǔn)，“計(jì)算機(jī)科學(xué)之父”、“人工智能之父”英國(guó)數(shù)學(xué)家圖靈在1950年的論文《機(jī)器會(huì)思考嗎》中提出了圖靈測(cè)試的概念。即把一個(gè)人和一臺(tái)計(jì)算機(jī)分別放在兩個(gè)隔離的房間中，房間外的一個(gè)人同時(shí)詢問(wèn)人和計(jì)算機(jī)相同的問(wèn)題，如果房間外的人無(wú)法分別哪個(gè)是人，哪個(gè)是計(jì)算機(jī)，就能夠說(shuō)明計(jì)算機(jī)具有人工智能。

1.2 醫(yī)學(xué)上的發(fā)現(xiàn)

1981年的諾貝爾將頒發(fā)給了David Hubel和Torsten Wiesel，以及Roger Sperry。他們發(fā)現(xiàn)了人的視覺(jué)系統(tǒng)處理信息是分級(jí)的。

從視網(wǎng)膜（Retina）出發(fā)，經(jīng)過(guò)低級(jí)的V1區(qū)提取邊緣特征，到V2區(qū)的基本形狀或目標(biāo)的局部，再到高層的整個(gè)目標(biāo)（如判定為一張人臉），以及到更高層的PFC（前額葉皮層）進(jìn)行分類(lèi)判斷等。也就是說(shuō)高層的特征是低層特征的組合，從低層到高層的特征表達(dá)越來(lái)越抽象和概念化，也即越來(lái)越能表現(xiàn)語(yǔ)義或者意圖。

邊緣特征 —–> 基本形狀和目標(biāo)的局部特征——>整個(gè)目標(biāo) 這個(gè)過(guò)程其實(shí)和我們的常識(shí)是相吻合的，因?yàn)閺?fù)雜的圖形，往往就是由一些基本結(jié)構(gòu)組合而成的。同時(shí)我們還可以看出：大腦是一個(gè)深度架構(gòu)，認(rèn)知過(guò)程也是深度的。

1.3 Deep Learning的出現(xiàn)

低層次特征 - - - - (組合) - - ->抽象的高層特征

深度學(xué)習(xí)，恰恰就是通過(guò)組合低層特征形成更加抽象的高層特征（或?qū)傩灶?lèi)別）。例如，在計(jì)算機(jī)視覺(jué)領(lǐng)域，深度學(xué)習(xí)算法從原始圖像去學(xué)習(xí)得到一個(gè)低層次表達(dá)，例如邊緣檢測(cè)器、小波濾波器等，然后在這些低層次表達(dá)的基礎(chǔ)上，通過(guò)線性或者非線性組合，來(lái)獲得一個(gè)高層次的表達(dá)。此外，不僅圖像存在這個(gè)規(guī)律，聲音也是類(lèi)似的。比如，研究人員從某個(gè)聲音庫(kù)中通過(guò)算法自動(dòng)發(fā)現(xiàn)了20種基本的聲音結(jié)構(gòu)，其余的聲音都可以由這20種基本結(jié)構(gòu)來(lái)合成！

二、機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí)是實(shí)現(xiàn)人工智能的一種手段，也是目前被認(rèn)為比較有效的實(shí)現(xiàn)人工智能的手段，目前在業(yè)界使用機(jī)器學(xué)習(xí)比較突出的領(lǐng)域很多，例如：計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、推薦系統(tǒng)等等。大家生活中經(jīng)常用到的比如高速上的ETC的車(chē)牌識(shí)別，今日頭條的新聞推薦，天貓上的評(píng)價(jià)描述。 機(jī)器學(xué)習(xí)是人工智能的一個(gè)分支，而在很多時(shí)候，幾乎成為人工智能的代名詞。簡(jiǎn)單來(lái)說(shuō)，機(jī)器學(xué)習(xí)就是通過(guò)算法，使得機(jī)器能從大量歷史數(shù)據(jù)中學(xué)習(xí)規(guī)律，從而對(duì)新的樣本做智能識(shí)別或?qū)ξ磥?lái)做預(yù)測(cè)。

2.1 人工智能vs機(jī)器學(xué)習(xí)

人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，研究計(jì)算機(jī)中智能行為的仿真。

每當(dāng)一臺(tái)機(jī)器根據(jù)一組預(yù)先定義的解決問(wèn)題的規(guī)則來(lái)完成任務(wù)時(shí)，這種行為就被稱(chēng)為人工智能。開(kāi)發(fā)人員引入了大量計(jì)算機(jī)需要遵守的規(guī)則。計(jì)算機(jī)內(nèi)部存在一個(gè)可能行為的具體清單，它會(huì)根據(jù)這個(gè)清單做出決定。如今，人工智能是一個(gè)概括性術(shù)語(yǔ)，涵蓋了從高級(jí)算法到實(shí)際機(jī)器人的所有內(nèi)容。

我們有四個(gè)不同層次的AI，讓我們來(lái)解釋前兩個(gè)：

• 弱人工智能，也被稱(chēng)為狹義人工智能，是一種為特定的任務(wù)而設(shè)計(jì)和訓(xùn)練的人工智能系統(tǒng)。弱人工智能的形式之一是虛擬個(gè)人助理，比如蘋(píng)果公司的Siri。
• 強(qiáng)人工智能，又稱(chēng)人工通用智能，是一種具有人類(lèi)普遍認(rèn)知能力的人工智能系統(tǒng)。當(dāng)計(jì)算機(jī)遇到不熟悉的任務(wù)時(shí)，它具有足夠的智能去尋找解決方案。

機(jī)器學(xué)習(xí)是指計(jì)算機(jī)使用大數(shù)據(jù)集而不是硬編碼規(guī)則來(lái)學(xué)習(xí)的能力。
機(jī)器學(xué)習(xí)允許計(jì)算機(jī)自己學(xué)習(xí)。這種學(xué)習(xí)方式利用了現(xiàn)代計(jì)算機(jī)的處理能力，可以輕松地處理大型數(shù)據(jù)集。

基本上，機(jī)器學(xué)習(xí)是人工智能的一個(gè)子集;更為具體地說(shuō)，它只是一種實(shí)現(xiàn)AI的技術(shù)，一種訓(xùn)練算法的模型，這種算法使得計(jì)算機(jī)能夠?qū)W習(xí)如何做出決策。從某種意義上來(lái)說(shuō)，機(jī)器學(xué)習(xí)程序根據(jù)計(jì)算機(jī)所接觸的數(shù)據(jù)來(lái)進(jìn)行自我調(diào)整。

2.2 監(jiān)督式學(xué)習(xí)vs非監(jiān)督式學(xué)習(xí)

監(jiān)督式學(xué)習(xí)需要使用有輸入和預(yù)期輸出標(biāo)記的數(shù)據(jù)集。

當(dāng)你使用監(jiān)督式學(xué)習(xí)訓(xùn)練人工智能時(shí)，你需要提供一個(gè)輸入并告訴它預(yù)期的輸出結(jié)果。如果人工智能產(chǎn)生的輸出結(jié)果是錯(cuò)誤的，它將重新調(diào)整自己的計(jì)算。這個(gè)過(guò)程將在數(shù)據(jù)集上不斷迭代地完成，直到AI不再出錯(cuò)。

監(jiān)督式學(xué)習(xí)的一個(gè)例子是天氣預(yù)報(bào)人工智能。它學(xué)會(huì)利用歷史數(shù)據(jù)來(lái)預(yù)測(cè)天氣。訓(xùn)練數(shù)據(jù)包含輸入(過(guò)去天氣的壓力、濕度、風(fēng)速)和輸出(過(guò)去天氣的溫度)。

我們還可以想象您正在提供一個(gè)帶有標(biāo)記數(shù)據(jù)的計(jì)算機(jī)程序。例如，如果指定的任務(wù)是使用一種圖像分類(lèi)算法對(duì)男孩和女孩的圖像進(jìn)行分類(lèi)，那么男孩的圖像需要帶有“男孩”標(biāo)簽，女孩的圖像需要帶有“女孩”標(biāo)簽。這些數(shù)據(jù)被認(rèn)為是一個(gè)“訓(xùn)練”數(shù)據(jù)集，直到程序能夠以可接受的速率成功地對(duì)圖像進(jìn)行分類(lèi)，以上的標(biāo)簽才會(huì)失去作用。

它之所以被稱(chēng)為監(jiān)督式學(xué)習(xí)，是因?yàn)樗惴◤挠?xùn)練數(shù)據(jù)集學(xué)習(xí)的過(guò)程就像是一位老師正在監(jiān)督學(xué)習(xí)。在我們預(yù)先知道正確的分類(lèi)答案的情況下，算法對(duì)訓(xùn)練數(shù)據(jù)不斷進(jìn)行迭代預(yù)測(cè)，然后預(yù)測(cè)結(jié)果由“老師”進(jìn)行不斷修正。當(dāng)算法達(dá)到可接受的性能水平時(shí)，學(xué)習(xí)過(guò)程才會(huì)停止。

非監(jiān)督式學(xué)習(xí)是利用既不分類(lèi)也不標(biāo)記的信息進(jìn)行機(jī)器學(xué)習(xí)，并允許算法在沒(méi)有指導(dǎo)的情況下對(duì)這些信息進(jìn)行操作。

當(dāng)你使用非監(jiān)督式學(xué)習(xí)訓(xùn)練人工智能時(shí)，你可以讓人工智能對(duì)數(shù)據(jù)進(jìn)行邏輯分類(lèi)。這里機(jī)器的任務(wù)是根據(jù)相似性、模式和差異性對(duì)未排序的信息進(jìn)行分組，而不需要事先對(duì)數(shù)據(jù)進(jìn)行處理。

非監(jiān)督式學(xué)習(xí)的一個(gè)例子是亞馬遜等電子商務(wù)網(wǎng)站的行為預(yù)測(cè)AI。它將創(chuàng)建自己輸入數(shù)據(jù)的分類(lèi)，幫助亞馬遜識(shí)別哪種用戶最有可能購(gòu)買(mǎi)不同的產(chǎn)品(交叉銷(xiāo)售策略)。

另一個(gè)例子是，程序可以任意地使用以下兩種算法中的一種來(lái)完成男孩女孩的圖像分類(lèi)任務(wù)。一種算法被稱(chēng)為“聚類(lèi)”，它根據(jù)諸如頭發(fā)長(zhǎng)度、下巴大小、眼睛位置等特征將相似的對(duì)象分到同一個(gè)組。另一種算法被稱(chēng)為“相關(guān)”，它根據(jù)自己發(fā)現(xiàn)的相似性創(chuàng)建if/then規(guī)則。換句話說(shuō)，它確定了圖像之間的公共模式，并相應(yīng)地對(duì)它們進(jìn)行分類(lèi)。

三、深度學(xué)習(xí)如何工作

深度學(xué)習(xí)是一種機(jī)器學(xué)習(xí)方法 ， 它允許我們訓(xùn)練人工智能來(lái)預(yù)測(cè)輸出，給定一組輸入(指?jìng)魅牖騻鞒鲇?jì)算機(jī)的信息)。監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)都可以用來(lái)訓(xùn)練人工智能。

Andrew Ng：“與深度學(xué)習(xí)類(lèi)似的是，火箭發(fā)動(dòng)機(jī)是深度學(xué)習(xí)模型，燃料是我們可以提供給這些算法的海量數(shù)據(jù)。”

我們將通過(guò)建立一個(gè)公交票價(jià)估算在線服務(wù)來(lái)了解深度學(xué)習(xí)是如何工作的。為了訓(xùn)練它，我們將使用監(jiān)督學(xué)習(xí)方法。

我們希望我們的巴士票價(jià)估價(jià)師使用以下信息/輸入來(lái)預(yù)測(cè)價(jià)格：

• 出發(fā)站點(diǎn)
• 到達(dá)站點(diǎn)
• 出發(fā)日期
• 巴士公司

3.1 神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是一組粗略模仿人類(lèi)大腦，用于模式識(shí)別的算法。神經(jīng)網(wǎng)絡(luò)這個(gè)術(shù)語(yǔ)來(lái)源于這些系統(tǒng)架構(gòu)設(shè)計(jì)背后的靈感，這些系統(tǒng)是用于模擬生物大腦自身神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)，以便計(jì)算機(jī)能夠執(zhí)行特定的任務(wù)。

和人類(lèi)一樣， “AI價(jià)格評(píng)估”也是由神經(jīng)元(圓圈)組成的。此外，這些神經(jīng)元還是相互連接的。

神經(jīng)元分為三種不同類(lèi)型的層次：

• 輸入層接收輸入數(shù)據(jù)。在我們的例子中，輸入層有四個(gè)神經(jīng)元:出發(fā)站、目的地站、出發(fā)日期和巴士公司。輸入層會(huì)將輸入數(shù)據(jù)傳遞給第一個(gè)隱藏層。
• 隱藏層對(duì)輸入數(shù)據(jù)進(jìn)行數(shù)學(xué)計(jì)算。創(chuàng)建神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)之一是決定隱藏層的數(shù)量，以及每一層中的神經(jīng)元的數(shù)量。
• 人工神經(jīng)網(wǎng)絡(luò)的輸出層是神經(jīng)元的最后一層，主要作用是為此程序產(chǎn)生給定的輸出，在本例中輸出結(jié)果是預(yù)測(cè)的價(jià)格值。

神經(jīng)元之間的每個(gè)連接都有一個(gè)權(quán)重。這個(gè)權(quán)重表示輸入值的重要性。模型所做的就是學(xué)習(xí)每個(gè)元素對(duì)價(jià)格的貢獻(xiàn)有多少。這些“貢獻(xiàn)”是模型中的權(quán)重。一個(gè)特征的權(quán)重越高，說(shuō)明該特征比其他特征更為重要。在預(yù)測(cè)公交票價(jià)時(shí)，出發(fā)日期是影響最終票價(jià)的最為重要的因素之一。因此，出發(fā)日期的神經(jīng)元連接具有較大的“權(quán)重”。

每個(gè)神經(jīng)元都有一個(gè)激活函數(shù)。它主要是一個(gè)根據(jù)輸入傳遞輸出的函數(shù)。 當(dāng)一組輸入數(shù)據(jù)通過(guò)神經(jīng)網(wǎng)絡(luò)中的所有層時(shí)，最終通過(guò)輸出層返回輸出數(shù)據(jù)。

3.2 通過(guò)訓(xùn)練改進(jìn)神經(jīng)網(wǎng)絡(luò)

為了提高“AI價(jià)格評(píng)估”的精度，我們需要將其預(yù)測(cè)結(jié)果與過(guò)去的結(jié)果進(jìn)行比較，為此，我們需要兩個(gè)要素：

大量的計(jì)算能力

大量的數(shù)據(jù)。

訓(xùn)練AI的過(guò)程中，重要的是給它的輸入數(shù)據(jù)集(一個(gè)數(shù)據(jù)集是一個(gè)單獨(dú)地或組合地或作為一個(gè)整體被訪問(wèn)的數(shù)據(jù)集合),此外還需要對(duì)其輸出結(jié)果與數(shù)據(jù)集中的輸出結(jié)果進(jìn)行對(duì)比。因?yàn)锳I一直是“新的”，它的輸出結(jié)果有可能是錯(cuò)誤的。

對(duì)于我們的公交票價(jià)模型，我們必須找到過(guò)去票價(jià)的歷史數(shù)據(jù)。由于有大量“公交車(chē)站”和“出發(fā)日期”的可能組合，因而我們需要一個(gè)非常大的票價(jià)清單。

一旦我們遍歷了整個(gè)數(shù)據(jù)集，就有可能創(chuàng)建一個(gè)函數(shù)來(lái)衡量AI輸出與實(shí)際輸出(歷史數(shù)據(jù))之間的差異。這個(gè)函數(shù)叫做成本函數(shù)。即成本函數(shù)是一個(gè)衡量模型準(zhǔn)確率的指標(biāo)，衡量依據(jù)為此模型估計(jì)X與Y間關(guān)系的能力。

模型訓(xùn)練的目標(biāo)是使成本函數(shù)等于零，即當(dāng)AI的輸出結(jié)果與數(shù)據(jù)集的輸出結(jié)果一致時(shí)（成本函數(shù)等于0）。

3.3 我們?nèi)绾谓档统杀竞瘮?shù)呢?

通過(guò)使用一種叫做梯度下降的方法。梯度衡量得是，如果你稍微改變一下輸入值，函數(shù)的輸出值會(huì)發(fā)生多大的變化。

梯度下降法是一種求函數(shù)最小值的方法。在這種情況下，目標(biāo)是取得成本函數(shù)的最小值。 它通過(guò)每次數(shù)據(jù)集迭代之后優(yōu)化模型的權(quán)重來(lái)訓(xùn)練模型。通過(guò)計(jì)算某一權(quán)重集下代價(jià)函數(shù)的梯度，可以看出最小值的梯度方向。

為了降低成本函數(shù)值，多次遍歷數(shù)據(jù)集非常重要。這就是為什么需要大量計(jì)算能力的原因。 一旦我們通過(guò)訓(xùn)練改進(jìn)了AI，我們就可以利用它根據(jù)上述四個(gè)要素來(lái)預(yù)測(cè)未來(lái)的價(jià)格。

《新程序員》：云原生和全面數(shù)字化實(shí)踐50位技術(shù)專(zhuān)家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的新手第一课-什么是深度学习的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。