領(lǐng)域自適應(yīng)是遷移學(xué)習(xí)中轉(zhuǎn)導(dǎo)遷移學(xué)習(xí)的重要子問題。

遷移學(xué)習(xí)是指兩個不同領(lǐng)域的知識遷移過程，利用源領(lǐng)域中學(xué)到的知識幫助目標領(lǐng)域上的學(xué)習(xí)任務(wù)。源領(lǐng)域的訓(xùn)練樣本數(shù)量一般遠大于目標領(lǐng)域。

遷移學(xué)習(xí)根據(jù)不同的遷移方式，分為兩個類型，歸納遷移學(xué)習(xí)和轉(zhuǎn)導(dǎo)遷移學(xué)習(xí)。

---

歸納學(xué)習(xí)（Inductive Learniing）是希望在訓(xùn)練數(shù)據(jù)集上學(xué)習(xí)到使得期望風(fēng)險（即真實數(shù)據(jù)分布上的錯誤率）最小的模型。與傳統(tǒng)監(jiān)督機器學(xué)習(xí)一樣，是基于已有標記的訓(xùn)練數(shù)據(jù)集構(gòu)建和訓(xùn)練機器學(xué)習(xí)模型，然后使用這個訓(xùn)練過的模型預(yù)測我們測試集的標簽。

轉(zhuǎn)導(dǎo)學(xué)習(xí)(Transductive Learning)是希望學(xué)習(xí)一種在給定測試集上錯誤率最小的模型，在訓(xùn)練階段可以利用測試集的信息。轉(zhuǎn)導(dǎo)學(xué)習(xí)是事先觀察所有數(shù)據(jù)，包括訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集。從已經(jīng)觀察到訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)，然后預(yù)測測試數(shù)據(jù)集的標簽。即使不知道測試數(shù)據(jù)集的標簽，也可在學(xué)習(xí)過程中利用這些數(shù)據(jù)中的模式和其他信息。

主要區(qū)別：轉(zhuǎn)導(dǎo)學(xué)習(xí)中，在訓(xùn)練模型中已經(jīng)遇到訓(xùn)練集和測試集。歸納學(xué)習(xí)在訓(xùn)練模型中僅遇到訓(xùn)練數(shù)據(jù)集，并將學(xué)習(xí)到的模型應(yīng)用于從未見過的數(shù)據(jù)集上。

轉(zhuǎn)導(dǎo)不能建立預(yù)測模型，如果添加一個新的數(shù)據(jù)點到測試數(shù)據(jù)集上，不得不從頭重新運行算法，訓(xùn)練模型，使用它預(yù)測標簽。

歸納學(xué)習(xí)建立預(yù)測模型，當遇到新的數(shù)據(jù)點時，不需要從頭重新運行算法。

總結(jié)來說，歸納學(xué)習(xí)試圖建立一個通用模型，在這個模型中，任何新的數(shù)據(jù)點都將基于一組觀察到的訓(xùn)練數(shù)據(jù)點進行預(yù)測，可以預(yù)測點空間中除未標記點之外的任何點。相反，轉(zhuǎn)導(dǎo)學(xué)習(xí)是建立一個適合它觀察到的訓(xùn)練數(shù)據(jù)點和測試數(shù)據(jù)點的模型，這種方法利用已知標記點和附加信息來預(yù)測未標記點的標記。

---

歸納遷移學(xué)習(xí)是指在源領(lǐng)域和任務(wù)上學(xué)習(xí)出一般規(guī)律，然后將這個規(guī)律遷移到目標領(lǐng)域和任務(wù)上，轉(zhuǎn)導(dǎo)遷移學(xué)習(xí)是從樣本到樣本的遷移，直接利用原領(lǐng)域和目標領(lǐng)域的樣本進行遷移學(xué)習(xí)。

轉(zhuǎn)導(dǎo)遷移學(xué)習(xí)直接利用源領(lǐng)域和目標領(lǐng)域的樣本進行遷移學(xué)習(xí)，通常假設(shè)源領(lǐng)域有大量標注數(shù)據(jù)，而目標領(lǐng)域沒有或只有少量的標注數(shù)據(jù)，但有大量的無標注數(shù)據(jù)。

轉(zhuǎn)導(dǎo)遷移學(xué)習(xí)的一個常見子問題是領(lǐng)域適應(yīng)domain adaptation。在領(lǐng)域適應(yīng)問題中，一般假設(shè)源領(lǐng)域和目標領(lǐng)域有相同樣本空間，但數(shù)據(jù)分布不同。

領(lǐng)域自適應(yīng)的目標是把分布不同的源領(lǐng)域和目標域的數(shù)據(jù)，映射到一個特征空間中，使其在該空間中的距離盡可能近，由于在特征空間中對源領(lǐng)域訓(xùn)練的目標函數(shù)，就可遷移到目標域上，提高目標域上的準確率。

在遷移學(xué)習(xí)中使用對抗。

總結(jié)

以上是生活随笔為你收集整理的domain adaptation 领域自适应的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。