?PaperWeekly 原創 ·?作者 | 孫裕道

學校 | 北京郵電大學博士生

研究方向 | GAN圖像生成、情緒對抗樣本生成

元學習（meta-learning）是過去幾年最火爆的學習方法之一，各式各樣的 paper 都是基于元學習展開的。深度學習模型訓練模型特別吃計算硬件，尤其是人為調超參數時候，更需要大量的計算。另一個頭疼的問題是在某個任務下大量數據訓練的模型，切換到另一個任務后，模型就需要重新訓練，這樣非常耗時耗力。工業界財大氣粗有大量的 GPU 可以承擔起這樣的計算成本，但是學術界因為經費有限經不起這樣的消耗。元學習可以有效的緩解大量調參和任務切換模型重新訓練帶來的計算成本問題。

元學習介紹

元學習希望使得模型獲取一種學會學習調參的能力，使其可以在獲取已有知識的基礎上快速學習新的任務。機器學習是先人為調參，之后直接訓練特定任務下深度模型。元學習則是先通過其它的任務訓練出一個較好的超參數，然后再對特定任務進行訓練。

在機器學習中，訓練單位是樣本數據，通過數據來對模型進行優化；數據可以分為訓練集、測試集和驗證集。在元學習中，訓練單位是任務，一般有兩個任務分別是訓練任務（Train Tasks）亦稱跨任務（Across Tasks）和測試任務（Test Task）亦稱單任務（Within Task）。訓練任務要準備許多子任務來進行學習，目的是學習出一個較好的超參數，測試任務是利用訓練任務學習出的超參數對特定任務進行訓練。訓練任務中的每個任務的數據分為 Support set 和 Query set；Test Task 中數據分為訓練集和測試集。

令 表示需要設置的超參數， 表示神經網絡待訓練的參數。元學習的目的就是讓函數 在訓練任務中自動訓練出 ，再利用 這個先驗知識在測試任務中訓練出特定任務下模型 中的參數 ，如下所示的依賴關系：

當訓練一個神經網絡的時候，具體一般步驟有，預處理數據集 ，選擇網絡結構 ，設置超參數 ，初始化參數 ，選擇優化器 ，定義損失函數 ，梯度下降更新參數 。具體步驟如下圖所示：

元學習會去學習所有需要由人去設置和定義的參數變量 。在這里參數變量 屬于集合為 ，則有：

不同的元學習，就要去學集合 中不同的元素，相應的就會有不同的研究領域。

學習預處理數據集 ：對數據進行預處理的時候，數據增強會增加模型的魯棒性，一般的數據增強方式比較死板，只是對圖像進行旋轉，顏色變換，伸縮變換等。元學習可以自動地，多樣化地為數據進行增強，相關的代表作為 DADA。

論文名稱：DADA: Differentiable Automatic Data Augmentation

論文鏈接：https://arxiv.org/pdf/2003.03780v1.pdf

論文詳情：ECCV 2020

學習初始化參數 ：權重參數初始化的好壞可以影響模型最后的分類性能，元學習可以通過學出一個較好的權重初始化參數有助于模型在新的任務上進行學習。元學習學習初始化參數的代表作是 MAML（Model-Agnostic-Meta-Learning）。它專注于提升模型整體的學習能力，而不是解決某個具體問題的能力，訓練時，不停地在不同的任務上切換，從而達到初始化網絡參數的目的，最終得到的模型，面對新的任務時可以學習得更快。

論文名稱：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks

論文鏈接：https://arxiv.org/pdf/1703.03400.pdf

論文詳情：ICML2017

學習網絡結構 ：神經網絡的結構設定是一個很頭疼的問題，網絡的深度是多少，每一層的寬度是多少，每一層的卷積核有多少個，每個卷積核的大小又該怎么定，需不需要 dropout 等等問題，到目前為止沒有一個定論或定理能夠清晰準確地回答出以上問題，所以神經網絡結構搜索 NAS 應運而生。歸根結底，神經網絡結構其實是元學習地一個子類領域。值得注意的是，網絡結構的探索不能通過梯度下降法來獲得，這是一個不可導問題，一般情況下會采用強化學習或進化算法來解決。

論文名稱：Neural Architecture Search with Reinforcement Learning

論文鏈接：https://arxiv.org/abs/1611.01578

論文詳情：ICLR 2017

學習選擇優化器 ：神經網絡訓練的過程中很重要的一環就是優化器的選取，不同的優化器會對優化參數時對梯度的走向有很重要的影響。熟知的優化器有Adam，RMsprop，SGD，NAG等，元學習可以幫我們在訓練特定任務前選擇一個好的的優化器，其代表作有：

論文名稱：Learning to learn by gradient descent by gradient descent

論文鏈接：https://arxiv.org/pdf/1606.04474.pdf

論文詳情：NIPS 2016

元學習訓練

元學習分為兩個階段，階段一是訓練任務訓練；階段二為測試任務訓練。對應于一些論文的算法流程圖，訓練任務是在 outer loop 里，測試任務任務是在 inner loop 里。

2.1 階段一：訓練任務訓練

在訓練任務中給定 個子訓練任務，每個子訓練任務的數據集分為 Support set 和 Query set。首先通過這 個子任務的 Support set 訓練 ，分別訓練出針對各自子任務的模型參數 。然后用不同子任務中的 Query set 分別去測試 的性能，并計算出預測值和真實標簽的損失 。接著整合這 個損失函數為 ：

最后利用梯度下降法去求出 去更新參數 ，從而找到最優的超參設置；如果 不可求，則可以采用強化學習或者進化算法去解決。階段一中訓練任務的訓練過程被整理在如下的框圖中。

2.2 階段二：測試任務訓練

測試任務就是正常的機器學習的過程，它將數據集劃分為訓練集和測試集。階段一中訓練任務的目的是找到一個好的超參設置 ，利用這個先驗知識可以對特定的測試任務進行更好的進行訓練。階段二中測試任務的訓練過程被整理在如下的框圖中。

實例講解

上一節主要是給出了元學習兩階段的學習框架，這一節則是給出實例并加以說明。明確超參 為初始化權重參數，通過元學習讓模型學習出一個較優的初始化權重。假設在 AcrossTasks 中有 個子任務，第 個子任務 Support set 和 Query set 分別是 和 。第 個子任務的網絡權重參數為 ，元學習初始化的參數為 的原理圖如下所示，其具體過程為：

第一步：將所有子任務分類器的網絡結構設置為一樣的，從 個子任務中隨機采樣出 個子任務，并將初始權重 賦值給這 個網絡結構。

第二步：采樣出的 個子任務分別在各自的 Support set 上進行訓練并更新參數 。在 MAML 中參數 更新一步，在 Reptile 中參數 更新多步。

第三步：利用上一步訓練出的 在 Query set 中進行測試，計算出各自任務下的損失函數 。

第四步：將不同子任務下的損失函數 進行整合得到 。

第五步：求出損失函數 關于 的導數，并對初始化參數 進行更新。

循環以上個步驟，直到達到要求為止。

為了能夠更直觀的給出利用 更新參數 的過程，我硬著頭皮把梯度 的顯示表達式給寫了出來，具體形式如下所示：

從這個公式中也能隱約的發現整個訓練過程的縮影，它已經把所有的變量都囊括了進去，這個公式也直接回答了一個問題，元學習自動學習權重參數 ?是一個可導問題。

整理到這里有一個問題必須要被回答，元學習學習初始化權重的方法和預訓練方法有什么區別？為了能夠更直觀的對比這兩個方法的異同，將預訓練的過程整理為如下流程圖，具體的過程為：

第一步：前提只有一個神經網路模型其初始化權重參數為 ，從 個子任務中隨機采樣出 個子任務。

第二步：神經網絡模型在采樣出的 個子任務中進行訓練，得到不同子任務中的損失 。

第三步：將不同子任務下的損失函數 進行整合得到 。

第四步：求出損失函數 關于 的導數，并對初始化參數 進行更新。

循環以上個步驟，直到達到要求為止。對應的在預訓練過程中，梯度 的表達式為：

可以發現在相同的網絡結構下，預訓練是只有一套模型參數在不同的任務中進行訓練，元學習是在不同的任務中有不同的模型參數進行訓練。對比二者的梯度公式可以發現，預訓練過程簡單粗暴它想找到一個在所有任務（實際情況往往是大多數任務）上都表現較好的一個初始化參數，這個參數要在多數任務上當前表現較好。元學習過程相對繁瑣，但它更關注的是初始化參數未來的潛力。

特別鳴謝

感謝 TCCI 天橋腦科學研究院對于 PaperWeekly 的支持。TCCI 關注大腦探知、大腦功能和大腦健康。

更多閱讀

#投 稿?通 道#

?讓你的文字被更多人看到?

如何才能讓更多的優質內容以更短路徑到達讀者群體，縮短讀者尋找優質內容的成本呢？答案就是：你不認識的人。

總有一些你不認識的人，知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁，促使不同背景、不同方向的學者和學術靈感相互碰撞，迸發出更多的可能性。?

PaperWeekly 鼓勵高校實驗室或個人，在我們的平臺上分享各類優質內容，可以是最新論文解讀，也可以是學術熱點剖析、科研心得或競賽經驗講解等。我們的目的只有一個，讓知識真正流動起來。

📝?稿件基本要求：

? 文章確系個人原創作品，未曾在公開渠道發表，如為其他平臺已發表或待發表的文章，請明確標注?

? 稿件建議以?markdown?格式撰寫，文中配圖以附件形式發送，要求圖片清晰，無版權問題

? PaperWeekly 尊重原作者署名權，并將為每篇被采納的原創首發稿件，提供業內具有競爭力稿酬，具體依據文章閱讀量和文章質量階梯制結算

📬?投稿通道：

? 投稿郵箱：hr@paperweekly.site?

? 來稿請備注即時聯系方式（微信），以便我們在稿件選用的第一時間聯系作者

? 您也可以直接添加小編微信（pwbot02）快速投稿，備注：姓名-投稿

△長按添加PaperWeekly小編

🔍

現在，在「知乎」也能找到我們了

進入知乎首頁搜索「PaperWeekly」

點擊「關注」訂閱我們的專欄吧

·

總結

以上是生活随笔為你收集整理的一文通俗讲解元学习（Meta-Learning）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。