導讀：深度學習，也稱“階層學習”或“分層學習”，是基于學習數據表征的更廣泛的機器學習方法系列的一部分，而不是基于特定任務的算法。深度學習通過組合低層特征形成更加抽象的高層表示屬性類別或特征，以發現數據的分布式特征表示。

?

深度學習的優勢是用非監督式或半監督式的特征學習和分層特征提取高效算法來替代手工獲取特征。其中深度指的是網絡中最長的輸入輸出距離。

?

本文回顧深度學習發展過程中的重大事件，并介紹近年來各領域的發展概況。

?

作者：王健宗 瞿曉陽

來源：大數據DT（ID：bigdatadt）

?

?

?

01 深度學習的崛起之路

?

1. 人臉識別的起源

?

2012年，Alex Krizhevsky等人提出了AlexNet網絡結構模型，以一種結構上輕巧簡單但計算量上遠超傳統模型的方式輕易戰勝了傳統的機器學習模型，并憑借它在ImageNet圖像分類挑戰賽上贏得了冠軍。

?

自此，在圖像領域點燃了深度學習的熱潮，無數公司與學者紛紛轉向該領域，并在短短幾年內就取得了大量的突破性進展，其中包括何凱明等人提出的殘差神經網絡、谷歌提出的GoogLeNet等。這些新的研究成果使得人臉識別等過去不可能實現的場景擁有了落地的可能。

?

?

2. 自動駕駛的福音

?

巧合的是，同樣在2012年，圖像分割領域也通過深度學習的應用取得了歷史性突破，那就是全卷積網絡（FCN）的出現。在另一個圖像領域的著名圖像分割任務數據集VOC上，FCN刷新了該數據集的最優指標，引爆了深度學習在圖像分割領域的應用。

?

圖像分類與圖像分割的突破帶來了另一個行業的突破，那就是自動駕駛。早在2009年，谷歌就已經成立了負責自動駕駛業務的子公司Waymo，也是目前自動駕駛的巨頭之一，其估值頂峰達到了1700多億美元，可見自動駕駛行業在投資人心中的分量。

?

在國外，除谷歌外，特斯拉、蘋果公司等科技巨頭，奧迪、德爾福、通用汽車等汽車行業巨頭，Uber、Lyft等網約車領域巨頭也都在做自動駕駛研究。在國內，百度、Momenta、Pony.ai、地平線、馭勢科技、圖森未來等公司也在這一領域不斷發力。

?

在深度學習出現之前，自動駕駛的水平主要停留在基于毫米波雷達及其他傳感器的低階水平，這個水平的自動駕駛是不可能真正解放司機注意力的；深度學習的出現帶來了圖像識別與圖像語義分割理解的突破，讓人們看到了實現L5級別完全自動駕駛的希望，也由此引起了自動駕駛行業的爆發。

?

?

3. 超越人類的AI智能體

?

2016年發生了另一起點燃深度學習浪潮的事件，那就是谷歌DeepMind研發的AI圍棋手AlphaGo異軍突起。

?

• 2016年3月，AlphaGo與圍棋世界冠軍、職業九段棋手李世石進行圍棋人機大戰，以4:1的總比分獲勝；

• 2016年年末至2017年年初，該程序以Master為注冊名與中日韓數十位圍棋高手進行快棋對決，連續60局無一敗績，被稱為Alpha Master；

• 2017年5月，在中國烏鎮圍棋峰會上，它與當時排名世界第一的世界圍棋冠軍柯潔對戰，以3:0的總比分獲勝。

?

圍棋界公認AlphaGo的棋力已經超過人類職業圍棋頂尖水平，在GoRatings網站公布的世界職業圍棋排名中，其等級分曾超過排名人類第一的棋手柯潔。

?

AlphaGo的出現讓人們進一步意識到了深度學習的無限可能。2019年3月，ACM正式宣布將2018年圖靈獎授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun，以表彰他們提出的概念和工作使得深度學習神經網絡有了重大突破。這也使得人們對深度學習的熱情進一步發酵，讓更多的研究開始往這個領域傾斜與投入。

?

?

4. 懂你的AI

?

近幾年，深度學習領域的熱門研究主要集中在以下幾個方向：生成對抗網絡、遷移學習、強化學習、聯邦學習以及AutoML。

?

其中，在算法方面，谷歌提出的注意力機制以及基于該思想衍生出的BERT模型大幅刷新了自然理解領域所有數據集的評價指標，業內對此做出這樣的評價：“自然語言處理是未來深度學習領域皇冠上的明珠。”

?

基于底層語言理解模型的突破，讓機器翻譯、人機對話、文本分析、AI音樂、AI寫作等許多過去不可想象的任務都成為可能。

?

5. 奔跑、飛行以及玩游戲的AI

?

讓機器為人類服務是人類一直以來的美好夢想，隨著深度學習的發展，這個夢想正在逐漸實現。過去為了要讓機器具有智能，需要人為賦予其大量的邏輯判斷命令；而如今伴隨著圖像技術的成熟以及深度強化學習的應用，機器人在路上飛速奔跑、識別并跨越障礙物，乃至花式跳舞都已經成為現實。

?

除此之外，AI機器人還能夠與玩家聯機對戰《星際爭霸》，并且一般的職業選手都沒法戰勝它。另一個值得關注的是京東正在打造的無人送貨機，它能夠自動規劃路線、躲避障礙、識別目標客戶并完成貨物投遞，是非常值得期待的一項新型服務。

?

?

6. 人人都可以創造屬于自己的AI

?

以上的種種發展都證明了，AI是這個時代不可阻擋的一個趨勢。然而就當下而言，由于AI是一個較為新潮的事物，實現起來的技術難度較大，因此在各行各業的普及難度也較大，但是能夠讓AI開花結果的正是非IT領域的各行各業。

?

另外，目前擁抱AI的都是主流的大公司或者科技含量較高的創業公司，而傳統的行業則缺乏相應的資源及人才。為了普及人工智能，降級人工智能的門檻，并且方便人工智能的開發，實現人人都會人工智能，自動化機器學習（AutoML）這個概念應運而生。

?

AutoML是一個自動模型學習的平臺，其核心思想是自動化創造AI模型，把中間的復雜流程與煩瑣的步驟都交給機器來自動完成，使用者只要指定輸入的數據和任務類型即可。

?

當前許多企業通過這種技術自動化生成了許多優秀的模型，例如小米公司通過神經架構搜索技術得到了最優的圖像超分辨率模型，用于在手機端提升圖像質量。除此之外，微軟、亞馬遜、谷歌、Salesforce等公司也都為顧客提供了類似的平臺，使得對AI不那么熟悉的人也可以方便地應用AI技術并使其在自己的行業內落地。

?

?

?

02 深度學習的發展

?

隨著深度學習的應用越來越廣泛，3個成熟的研究領域逐漸形成，分別是計算機視覺、自然語言處理以及語音領域，目前AI創業公司也主要集中在這些領域。下面我們就重點展開來介紹這3大應用領域。

?

1. 計算機視覺

?

計算機視覺（Computer Vision，CV），顧名思義就是計算機擁有像人類一樣“看”的能力。在這里“看”的具體含義是指：不僅要將當前的圖像輸入到計算機中，計算機還應該具有智力，可以根據要求針對當前圖像輸出一定的分析結果。

?

這個過程可以定義為幾個核心任務：目標分類、目標檢測、目標分割以及目標跟蹤。

?

• 目標分類（Target Classification）

?

就是基于分類任務的目標識別問題，即計算機根據給定的數據，找出這些數據中哪些是所需的目標。例如，貓狗分類問題或者花草分類問題。

?

這也是深度學習領域中最簡單的一類任務，根據最后的分類函數可以將此任務分為二分類問題和多分類問題。目標分類任務是其他任務的基礎，也是很多初學者的入門級任務。

?

• 目標檢測（Target Detection）

?

可以看成是分類和回歸問題的統一。該任務不僅要判斷當前圖像的所屬類別，還要通過包圍框（bounding box）標出圖像中目標的具體位置。

?

目標檢測問題由來已久，基于深度學習的發展從2013年R-CNN算法的提出開始，不斷演變出了一系列多步檢測網絡。之后很多研究學者對網絡進行了改進，提出了單步檢測，將分類、定位、檢測功能都集成在一個網絡中，如Yolo、SSD等。目標檢測任務的應用十分廣泛，經常應用于電力系統檢測、醫療影像檢測等。

?

目標檢測任務根據問題的復雜性，衍生出了人臉檢測問題。與傳統目標檢測問題不同的是，人臉檢測需要實現人臉關鍵點的定位和檢測，現在移動設備中應用比較廣泛的人臉識別系統就是基于這一任務研究而來。

?

?

• 目標分割（Target Segmentation）

?

就是將一張圖像中的特定目標的區域分割出來。在深度學習領域中，目標分割的研究方向主要分為兩類：語義分割和實例分割。

?

所謂語義分割就是針對圖像中的每個像素點進行分類，即判斷圖像中哪些像素屬于哪個目標。

?

而實例分割是語義分割的進階版，它不僅要判斷哪些像素屬于目標，而且要判斷哪些像素屬于第一個目標，哪些像素屬于第二個目標，目前在醫療影像項目中的關鍵就是對人體器官的分割。常見的圖像目標分割網絡有FCN和U-Net，其中，U-Net常用于醫療圖像分割。

?

• 目標跟蹤（Target Tracking）

?

是一個基于時間序列的目標定位問題，通常是基于視頻數據的任務，常用于智能監控系統、嫌疑犯追逃等。首先是在第一幀圖像中鎖定目標，在之后的時序數據中，不斷地對目標進行重定位。

?

這是一個非常復雜的問題，需要用到目標檢測和分割任務，而且根據時序相關性進行有效建模，可以減少定位過程中的計算量，提高追蹤效率。

?

我們介紹了這么多計算機視覺的定義及任務，那么它與圖像處理有什么異同呢？

?

嚴格來講，圖像處理是一種數字信號處理，它不涉及對圖像內容的理解，一般是通過數學函數等對圖像進行變換或增強，如歸一化圖像、圖像預處理、消除圖像噪聲等；而計算機視覺是使用計算機模擬人類視覺，該模擬過程包括學習以及推理能力。

?

計算機視覺離不開圖像處理操作，因此可以將圖像處理看成計算機視覺的一個子集，當目標是對圖像進行增強時，可以稱為圖像處理，當目標是檢測和分割等時，則稱為計算機視覺。

?

計算機視覺任務看似容易，但也存在很多潛在的挑戰。因為我們人眼每天看到的景象是錯綜復雜的，我們的視覺和大腦的判別是同步進行的，但對于計算機而言，雖然經過了很多學者的研究，其仍無法達到人類視覺的能力。

?

而且，感官世界極其復雜，任何光照條件或者遮擋都可能會造成計算機識別任務的失敗。因此，計算機視覺仍然有很長的一段路要走。

?

?

2. 自然語言處理

?

如果說計算機視覺是模擬人類“看”的能力，那么自然語言處理（Natural Language Processing，NLP）就是模擬人類的“語言”能力，這里的“語言”是指說話和寫作能力。站在專業的角度來講，NLP就是以一種智能高效的方式對人類創造的文本數據進行系統地分析、理解和提取信息的過程。

?

NLP的研究任務很廣泛，在本書中我們將它分為5大類：詞法分析、句子分析、語義分析、信息抽取和頂層任務。

?

• 詞法分析就是以詞為單位對數據進行分析，這是NLP中最基本的工作。常見的詞性標注和拼寫校正任務就屬于詞法分析。

• 句子分析就是以句子為單位的分析任務。

• 語義分析就是通過對文本數據的分析，生成對應文本數據的語義信息的形式化表示，常見任務有詞義消歧等。

• 信息抽取是NLP任務中應用最廣泛的一個，簡單理解就是從非結構化的文本數據中抽取出用戶所需的結構化信息。常見任務有命名實體消除、情感分析、實體消歧等。

• 頂層任務就是直接面向用戶的任務，比如機器翻譯或文本摘要，它需要多種任務結合生成對應的可以直接讀取的輸出結果。另外頂級任務還包括對話系統、閱讀理解等。

?

NLP機制涉及兩個流程：自然語言理解和自然語言生成。我們都知道文本數據是非結構化語言，而計算機擅長處理的是結構化數據。所以在NLP機制中，計算機首先需要從非結構化數據中進行讀取，轉化成結構化數據，通過語法知識和規則進行理解，然后將結構化數據進行組合，生成通順的非結構化文本。

?

NLP的應用非常廣泛，比如微博的熱點推薦，就是通過用戶對應的信息和經常瀏覽的信息進行情感分析，個性化推薦當前熱點。另外郵件的垃圾分類、用戶體驗反饋等也都是通過自然語言處理技術實現的。

?

?

3. 語音識別

?

我們的目標不僅僅是讓計算機有“看”和“語言”的能力，還要讓計算機擁有“聽”和“說”的能力，因此還需要語音識別（Voice Recognition）。語音識別的目標是將一段自然語言通過聲學信號的形式傳給計算機，由計算機理解并且做出回應。

?

語音識別系統主要包含特征提取、聲學模型、語言模型、字典與解碼4大部分。

?

其中特征提取需要對采集的聲音信號進行濾波、分幀等音頻預處理工作，目的是將要進行分析的音頻信號合適地從原始信號中提取出來。

?

語音識別的過程可以概括如下：

?

• 根據特征提取將聲音信號從時域轉換到頻域，從而為聲學模型提供合適的特征向量；

• 再由聲學模型根據特征向量來判斷其屬于哪個聲學符號；

• 然后利用語言模型來判斷聲學符號可能屬于哪個詞組序列；

• 最后根據已有字典對詞組序列進行解碼，從而得到最后的文本表示。

?

在人機交互的過程當中，計算機除了能通過語音識別技術來“聽懂”人們對它說的話，還需要能夠將文本信息用人們能聽懂的方式表達出來。在這樣的需求下，語音合成技術應運而生。語音合成技術能夠利用計算機等設備將文本信息轉換為人們能聽懂的音頻數據，再通過語音的方式播放出來。

?

聲紋識別是語音識別領域的又一個研究方向。與語音識別不同，聲紋識別屬于生物識別技術的一種，它根據語音波形中反映說話者生理和行為特征的語音參數，通過連接聲紋數據庫來鑒別人的身份。

?

因此，聲紋識別不注重語音信號的語義理解，而是從語音信號中提取個人聲紋特征，并從中找出能夠唯一辨別（聲紋識別的理論基礎是每一個聲音都有自己的特征，該特征能將不同人的聲音進行有效地區分）說話者身份特征的信息。

?

語音識別有很廣闊的應用場景和發展空間，如：

?

• 行車導航軟件通過語音合成技術為司機指引道路、播報路況，人們甚至可以選擇用自己喜歡的明星的聲音來播報軟件內容；

• 智能家居系統利用語音合成技術能夠實現與用戶的實時交流，人們可以從智能家居的“嘴”中得知家中的一些基本情況，大大提高了生活質量；

• 在智能教學領域，學生能夠利用語音合成技術跟讀單詞、句子，語音輔導軟件的出現大大方便了教學過程，提高了教學質量。

?

關于作者：王健宗，大型金融集團科技公司深度學習平臺和AutoML平臺負責人，中國人工智能開源軟件發展聯盟副理事長，美國佛羅里達大學人工智能博士后，發表聯邦學習、深度學習、云計算和大數據等領域國際論文30余篇，以及發明專利200余項。

瞿曉陽 ，華中科技大學計算機系統結構博士，美國中佛羅里達大學訪問學者，大型金融集團科技公司資深算法工程師，一直從事機器學習、大數據、體系結構方面的研究工作，在AutoML平臺、面向AI的云原生架構、高性能計算、高效能存儲系統等方面經驗豐富。

本文摘編自《深入理解AutoML和AutoDL：構建自動化機器學習與深度學習平臺》，經出版方授權發布。

?

延伸閱讀《深入理解AutoML和AutoDL》

點擊上圖了解及購買

轉載請聯系微信：DoctorData

?

推薦語：這是一部從基礎理論、核心原理、前沿算法等多個維度系統、全面講解AutoML、AutoDL、AutoNAS和元學習的著作。作者是資深的人工智能專家，大型金融集團科技公司深度學習平臺和AutoML平臺負責人。本書得到了騰訊、阿里、字節跳動、微眾銀行、浙江大學、新智元等企業界、學術界、媒體界的8位資深專家聯袂推薦。

?

?

「大數據」內容合伙人之「鑒書小分隊」上線啦！

?

最近，你都在讀什么書？有哪些心得體會想要跟大家分享？

?

數據叔最近搞了個大事——聯合優質圖書出版商機械工業出版社華章公司發起鑒書活動。

?

簡單說就是：你可以免費讀新書，你可以免費讀新書的同時，順手碼一篇讀書筆記就行。詳情請在大數據公眾號后臺對話框回復合伙人查看。

?

?

有話要說?

?

Q:?你期待深度學習的哪些應用？

歡迎留言與大家分享

?

猜你想看?

?

• ?

• ?

• ?

• ?

?

更多精彩?

?

在公眾號對話框輸入以下關鍵詞

查看更多優質內容！

?

PPT?|?報告?|?讀書?|?書單?|?干貨?

大數據?|?揭秘?|?Python?|?可視化

AI?|?人工智能?|?5G?|?區塊鏈

機器學習?|?深度學習?|?神經網絡

合伙人?|?1024?|?段子?|?數學?|?高考

?

據統計，99%的大咖都完成了這個神操作

?

?

?

覺得不錯，請把這篇文章分享給你的朋友

轉載 / 投稿請聯系：baiyu@hzbook.com

更多精彩，請在后臺點擊“歷史文章”查看

點擊閱讀原文，了解更多

總結

以上是生活随笔為你收集整理的人人都可以创造自己的AI：深度学习的6大应用及3大成熟领域的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。