? ? ? ?今天開始學習機器學習，在網上找了很多視頻還有書籍。由于本人不是計算機專業的學生，基礎知識還是比較薄弱，但我非常想學習機器學習以及深度學習。最后還是選擇了麥子學院的彭亮老師的《機器學習基礎介紹》（以后簡稱機器學習課程）。說的挺好的，主要是通俗易懂。還選擇了美國作者Miroslav Kubat的著作《機器學習導論》（以后簡稱機器學習書籍），再結合網絡資源先學習一些基礎課程，再開始我的深度學習之路吧。

1.1 機器學習介紹

本文主要是結合機器學習課程，以及網絡資源了解機器學習。總結的不是太好，希望大家多多指教。

1，機器學習 （Machine Learning, ML)

1.1 概念：多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、算法復雜度理論等多門學科。專門研究計算機怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能。

1.2 學科定位：人工智能(Artificial?Intelligence, AI）的核心，是使計算機具有智能的根本途徑，其應用遍及人工智能的各個領域，它主要使用歸納、綜合而不是演繹。

1.3 定義：探究和開發一系列算法來如何使計算機不需要通過外部明顯的指示，而可以自己通過數據來學習，建模，并且利用建好的模型和新的輸入來進行預測的學科。

? ? ? 學習是人類具有的一種重要智能行為，但究竟什么是學習，長期以來卻眾說紛紜。社會學家、邏輯學家和心理學家都各有其不同的看法。

? ? ?(1)Arthur Samuel (1959): 一門不需要通過外部程序指示而讓計算機有能力自我學習的學科

? ? ?(2)Langley（1996) ： “機器學習是一門人工智能的科學，該領域的主要研究對象是人工智能，特別是如何在經驗學習中改善具體算法的性能”

? ? ?(3)Tom Michell (1997): ?“機器學習是對能通過經驗自動改進的計算機算法的研究”

1.4學習：針對經驗E (experience) 和一系列的任務 T (tasks) 和一定表現的衡量 P，如果隨之經驗E的積累，針對定義好的任務T可以提高表現P，就說計算機具有學習能力。

2. 機器學習的應用：

機器學習已經有了十分廣泛的應用，例如：數據挖掘、計算機視覺、自然語言處理、生物特征識別、搜索引擎、醫學診斷、檢測信用卡欺詐、證券市場分析、DNA序列測序、語音和手寫識別、戰略游戲和機器人運用。

3. 發展史

機器學習是人工智能研究較為年輕的分支，它的發展過程大體上可分為4個時期。

? ? ? 第一階段是在20世紀50年代中葉到60年代中葉，屬于熱烈時期。

? ? ? 第二階段是在20世紀60年代中葉至70年代中葉，被稱為機器學習的冷靜時期。

? ? ? 第三階段是從20世紀70年代中葉至80年代中葉，稱為復興時期。

? ? ? 機器學習的最新階段始于1986年。

4. 分類

基于學習策略的分類　

? ? ? ?學習策略是指學習過程中系統所采用的推理策略。一個學習系統總是由學習和環境兩部分組成。由環境（如書本或教師）提供信息，學習部分則實現信息轉換，用能夠理解的形式記憶下來，并從中獲取有用的信息。在學習過程中，學生（學習部分）使用的推理越少，他對教師（環境）的依賴就越大，教師的負擔也就越重。學習策略的分類標準就是根據學生實現信息轉換所需的推理多少和難易程度來分類的，依從簡單到復雜，從少到多的次序分為以下六種基本類型：

1）機械學習?(Rote learning)

? ? ? ?學習者無需任何推理或其它的知識轉換，直接吸取環境所提供的信息。如塞繆爾的跳棋程序，紐厄爾和西蒙的LT系統。這類學習系統主要考慮的是如何索引存貯的知識并加以利用。系統的學習方法是直接通過事先編好、構造好的程序來學習，學習者不作任何工作，或者是通過直接接收既定的事實和數據進行學習，對輸入信息不作任何的推理。

2）示教學習?(Learning from instruction或Learning by being told)

? ? ? ?學生從環境（教師或其它信息源如教科書等）獲取信息，把知識轉換成內部可使用的表示形式，并將新的知識和原有知識有機地結合為一體。所以要求學生有一定程度的推理能力，但環境仍要做大量的工作。教師以某種形式提出和組織知識，以使學生擁有的知識可以不斷地增加。這種學習方法和人類社會的學校教學方式相似，學習的任務就是建立一個系統，使它能接受教導和建議，并有效地存貯和應用學到的知識。不少專家系統在建立知識庫時使用這種方法去實現知識獲取。示教學習的一個典型應用例是FOO程序。

3）演繹學習?(Learning by deduction)

? ? ? ?學生所用的推理形式為演繹推理。推理從公理出發，經過邏輯變換推導出結論。這種推理是"保真"變換和特化(specialization)的過程，使學生在推理過程中可以獲取有用的知識。這種學習方法包含宏操作(macro-operation)學習、知識編輯和組塊(Chunking)技術。演繹推理的逆過程是歸納推理。

4）類比學習 (Learning by analogy)

? ? ? ?利用二個不同領域（源域、目標域）中的知識相似性，可以通過類比，從源域的知識（包括相似的特征和其它性質）推導出目標域的相應知識，從而實現學習。類比學習系統可以使一個已有的計算機應用系統轉變為適應于新的領域，來完成原先沒有設計的相類似的功能。

? ? ? ?類比學習需要比上述三種學習方式更多的推理。它一般要求先從知識源（源域）中檢索出可用的知識，再將其轉換成新的形式，用到新的狀況（目標域）中去。類比學習在人類科學技術發展史上起著重要作用，許多科學發現就是通過類比得到的。例如著名的盧瑟福類比就是通過將原子結構（目標域）同太陽系（源域）作類比，揭示了原子結構的奧秘。

5）基于解釋的學習?(Explanation-based learning, EBL)

? ? ? 學生根據教師提供的目標概念、該概念的一個例子、領域理論及可操作準則，首先構造一個解釋來說明為什該例子滿足目標概念，然后將解釋推廣為目標概念的一個滿足可操作準則的充分條件。EBL已被廣泛應用于知識庫求精和改善系統的性能。

? ? ? 著名的EBL系統有迪喬恩（G.DeJong）的GENESIS,米切爾（T.Mitchell）的LEXII和LEAP, 以及明頓（S.Minton）等的PRODIGY。

6）歸納學習?(Learning from induction)

? ? ? 歸納學習是由教師或環境提供某概念的一些實例或反例，讓學生通過歸納推理得出該概念的一般描述。這種學習的推理工作量遠多于示教學習和演繹學習，因為環境并不提供一般性概念描述（如公理）。從某種程度上說，歸納學習的推理量也比類比學習大，因為沒有一個類似的概念可以作為"源概念"加以取用。歸納學習是最基本的，發展也較為成熟的學習方法，在人工智能領域中已經得到廣泛的研究和應用。

5.?機器學習任務

機器學習任務通常分為兩大類，取決于學習系統是否存在學習“信號”或“反饋”：

• 監督學習：計算機提供示例輸入和他們期望的輸出，由“教師”給出，目標是學習將輸入映射到輸出的一般規則。作為特殊情況，輸入信號只能部分提供，或者僅限于特殊反饋：
  • 半監督式學習：計算機只能得到一個不完整的訓練信號：訓練集中有一些（經常是很多）目標輸出缺失。
  • 主動學習：計算機只能獲得有限的一組實例（基于預算）的培訓標簽，并且還必須優化其所選對象以獲取標簽。交互使用時，這些可以呈現給用戶進行標記。
  • 強化學習：訓練數據（以獎勵和懲罰的形式）僅作為對動態環境中的程序行為的反饋，例如駕駛汽車或與對手玩游戲。^[5]：3
• 無監督學習：沒有標簽給學習算法，只留下它自己的輸入結構。無監督學習本身可以是一個目標（發現數據中的隱藏模式）或達到目的的一種手段（特征學習）。

6. 研究領域

機器學習領域的研究工作主要圍繞以下三個方面進行：

（1）面向任務的研究

研究和分析改進一組預定任務的執行性能的學習系統。

（2）認知模型

研究人類學習過程并進行計算機模擬。

（3）理論分析

從理論上探索各種可能的學習方法和獨立于應用領域的算法

機器學習是繼專家系統之后人工智能應用的又一重要研究領域，也是人工智能和神經計算的核心研究課題之一。現有的計算機系統和人工智能系統沒有什么學習能力，至多也只有非常有限的學習能力，因而不能滿足科技和生產提出的新要求。對機器學習的討論和機器學習研究的進展，必將促使人工智能和整個科學技術的進一步發展 。

7. 方法

主要文章：機器學習算法列表

決策樹學習

主要文章：決策樹學習 決策樹學習使用決策樹作為預測模型，該模型將關于項目的觀察結果映射到關于項目目標值的結論。

關聯規則學習

主要文章：關聯規則學習 關聯規則學習是一種發現大型數據庫中變量之間有趣關系的方法。

人工神經網絡

主要文章：人工神經網絡 通常被稱為“神經網絡”（NN）的人工神經網絡（ANN）學習算法是一種學習算法，其被生物神經網絡模糊地啟發。計算是根據一組相互關聯的人造神經元組成的，使用連接方法計算處理信息。現代神經網絡是非線性?統計?數據建模工具。它們通常用于建模輸入和輸出之間的復雜關系，查找數據模式，或者捕獲未知聯合概率分布中的統計結構?觀察變量之間。

深度學習

主要文章：深入學習 過去幾年硬件價格的下跌以及個人使用的GPU的發展促進了深度學習概念的發展，深度學習概念由人工神經網絡中的多個隱藏層組成。這種方法試圖模擬人類大腦處理光線和聲音的方式，以視覺和聽覺。深度學習的一些成功應用是計算機視覺和語音識別。[26]

歸納邏輯編程

主要文章：歸納邏輯編程 歸納邏輯編程（ILP）是一種使用邏輯編程作為輸入示例，背景知識和假設的統一表示的規則學習方法。給定已知背景知識的編碼以及作為事實的邏輯數據庫表示的一組示例，ILP系統將推導出假設的邏輯程序，其包含所有積極而沒有負面的例子。歸納編程是一個相關的領域，它考慮任何類型的編程語言來表示假設（而不僅僅是邏輯編程），例如功能程序。

支持向量機

主要文章：支持矢量機器 支持向量機（SVM）是一組用于分類和回歸的相關監督學習方法。給定一組訓練樣例，每個訓練樣例被標記為屬于兩類之一，SVM訓練算法建立一個模型，預測新樣例是屬于一個類別還是屬于另一個類別。

聚類

主要文章：聚類分析 聚類分析是將一組觀測值分配到子集（稱為聚類）中，以便同一聚類內的觀察結果根據一些預先指定的標準或標準相似，而從不同聚類得到的觀察結果則不相似。不同的聚類技術對數據的結構做出不同的假設，通常由一些相似性度量來定義，并且例如通過內部緊密度（相同群集的成員之間的相似度）和不同群集之間的分離來評估。其他方法基于估計的密度和圖形連通性。聚類是一種無監督學習的方法，以及統計?數據分析的常用技術。

貝葉斯網絡

主要文章：貝葉斯網絡 貝葉斯網絡，信念網絡或有向無環圖模型是概率圖模型，其通過有向無環圖（DAG）表示一組隨機變量及其條件獨立性。例如，貝葉斯網絡可以代表疾病和癥狀之間的概率關系。鑒于癥狀，網絡可用于計算各種疾病存在的概率。存在執行推理和學習的有效算法。

強化學習

主要文章：強化學習 強化學習關注的是代理人應該如何在環境中采取行動，以最大化某些長期獎勵的概念。強化學習算法試圖找到一種策略，將世界狀態映射到代理應該在這些狀態下采取的行動。強化學習不同于監督式學習問題，因為不會出現正確的輸入/輸出對，也不會明確地糾正次優操作。

表示學習

主要文章：表示學習 幾種學習算法，主要是無監督學習算法，旨在發現訓練期間提供的輸入的更好表示。經典例子包括主成分分析和聚類分析。表示學習算法經常嘗試保留輸入中的信息，但是以一種使其有用的方式進行變換，通常作為執行分類或預測之前的預處理步驟，允許重建來自未知數據生成分布的輸入，而不一定忠實于那種在分配下難以置信的配置。 流形學習算法試圖在約束下學習表示是低維的。稀疏編碼算法試圖在約束下學習表示稀疏（有許多零）。多線性子空間學習算法旨在直接從多維數據的張量表示中學習低維表示，而不用將其重構為（高維）向量。[27]?深度學習算法會根據（或生成）較低級別的特征定義更高級別，更抽象的特征，從而發現多個級別的表示或特征層次結構。有人認為，智能機器就是學習一種能夠解釋觀察數據的變化的潛在因素的表示的一種表示。[28]

相似性和度量學習

主要文章：相似學習 在這個問題中，學習機被給予一對被認為相似的例子和一對不太相似的對象。然后它需要學習能夠預測新對象是否相似的相似函數（或距離度量函數）。它有時用于推薦系統。

稀疏字典學習

主要文章：稀疏字典學習 在這種方法中，數據被表示為基函數的線性組合，并且系數被假定為稀疏的。

遺傳算法

主要文章：遺傳算法 遺傳算法（GA）是一種模仿自然選擇過程的搜索?啟發式算法，它使用諸如突變和交叉等方法來產生新的基因型，以期找到給定問題的良好解決方案。在機器學習中，遺傳算法在20世紀80年代和90年代發現了一些用途。[31]?[32]相反地，機器學習技術已被用于改善的遺傳和表現進化算法。[33]

基于規則的機器學習

基于規則的機器學習是任何識別，學習或演變存儲，操縱或應用知識的“規則”的機器學習方法的總稱。基于規則的機器學習者的定義特征是識別和利用一組關系規則，這些關系規則共同表示系統捕獲的知識。這與其他機器學習者形成對比，其他機器學習者通常識別可以普遍應用于任何實例以進行預測的奇異模型。[34]基于規則的機器學習方法包括學習分類器系統，關聯規則學習，和人工免疫系統。

學習分類器系統

主要文章：學習分類器系統 學習分類器系統（LCS）是一種基于規則的機器學習算法，它將發現組件（通常是遺傳算法）與學習組件（執行監督學習，強化學習或無監督學習）相結合。他們試圖找出一組依賴于上下文的規則，以分段方式共同存儲和應用知識，以進行預測。[35]

8. 置業市場需求：

LinkedIn所有職業技能需求量第一：機器學習，數據挖掘和統計分析人才

參考資料：

[1] 麥子學院“機器學習基礎介紹”視頻http://www.maiziedu.com/course/373/

[2] 百度百科“機器學習”https://baike.baidu.com/item/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/217599?fr=aladdin

[3]維基百科“機器學習”https://en.wikipedia.org/wiki/Machine_learning

? ? ? ?本博文是博主個人學習時的一些記錄，不保證是為原創，文章加入了轉載的源地址還有個別文章是匯總網上多份資料所成，在這之中也必有疏漏未加標注者，如有侵權請與博主聯系。

轉載于:https://www.cnblogs.com/hangliu/p/9026829.html

總結

以上是生活随笔為你收集整理的麦子学院学习视频之机器学习(1):1.1 机器学习介绍的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。