1. Motivation

2017年ICCV上發(fā)表了一篇題為$OpenSetDomainAdaptation$[1]的論文說：一般我們所講的領(lǐng)域適應(yīng)(domain adaptation)是在一個閉集(close set)的前提條件下進(jìn)行的，即源域和目標(biāo)與擁有相同的標(biāo)簽類別。但是在大多數(shù)的實(shí)際情況中，源域和目標(biāo)域可能只共享了一部分相同類別。如圖1所示（圖片來源于文獻(xiàn)[1]），在Close set domain adaptation問題中，目標(biāo)與中出現(xiàn)的標(biāo)簽類別全在源域中出現(xiàn)了，而在Open set domain adaptation問題中，目標(biāo)域中出現(xiàn)的摩托車、電視、飛機(jī)等均未在源域中出現(xiàn)；相反，源域中出現(xiàn)的鳥、筆記本、杯子也未在目標(biāo)域中出現(xiàn)。

顯然domain adaptation in close set中的方法不能用于解決domain adaptation in open set問題，在進(jìn)行特征對齊的時候只能對其已知的類別，不能對齊未知的類別。

隨后，在2018年ECCV上有一篇論文Open Set Domain Adaptation by Backpropagation，對Open-set domain adaptation進(jìn)行了重新定義，

2. Method

為解決Open Set問題，作者提出了Open Set Domain Adaptation方法，步驟如下：
( a ) 源域中包含已知帶標(biāo)簽的樣本（分別用紅、藍(lán)、綠以及不同形狀表示）和未知樣本（灰色表示），而目標(biāo)域中不包含任何標(biāo)簽信息；
( b ) 首先，我們?yōu)橐恍┠繕?biāo)樣本分配類別標(biāo)簽，留下未標(biāo)記的異常樣本；
( c ) 通過減小標(biāo)記為同一類別的源域和目標(biāo)域數(shù)據(jù)之間的距離，我們可以學(xué)習(xí)到從源域到目標(biāo)域的映射關(guān)系。將( b )和( c )反復(fù)迭代，直到源域與目標(biāo)域之間的距離收斂到局部最小值；
( d ) 為了個目標(biāo)域的樣本打上標(biāo)簽（紅色，綠色，藍(lán)色和灰色（未知類別）），我們在已經(jīng)映射到目標(biāo)域的源域數(shù)據(jù)上學(xué)習(xí)分類器，并用它來分類目標(biāo)域樣本。

####2.1 Unsupervised Domain Adaptation
源域數(shù)據(jù)：$C$個類別，其中$\left|C?1\right|$個已知，1個未知
目標(biāo)域數(shù)據(jù)：$\mathcal{T}=\left\{T_1,T_2,...,T_{\mathcal{T}}\right\}$
目標(biāo)：給目標(biāo)域中的每一個數(shù)據(jù)$\mathcal{T}$打上標(biāo)簽$c\in C$
損失函數(shù)：將目標(biāo)域樣本$T_t$標(biāo)記為標(biāo)簽$c$的損失函數(shù)記為：$d_{ct}={\Vert S_c?T_t\Vert }_2^2$，其中$T_t$是目標(biāo)域樣本t的特征表達(dá)，$S_c$是源域中標(biāo)簽為$c$的樣本的均值。這里采用的是樣本一階矩來度量兩個分布間差異，當(dāng)然我們是希望$d_{ct}$越小越好，表明給目標(biāo)域數(shù)據(jù)$T_c$的標(biāo)簽越接近真實(shí)標(biāo)簽。

為了增加模型的魯棒性，這里并不會為目標(biāo)域中的沒有一個樣本都分配一個標(biāo)簽$c$，而是引入了異常值$o_t$，整個模型的優(yōu)化目標(biāo)如下：

其中$x_{ct}$和$o_t$是兩個二值變量，他們要么是0要么是1。當(dāng)$x_{ct}$為0 ，$o_t$為1表明目標(biāo)域中的該樣本為異常值，反之亦然。第二個約束條件確保至少有一個樣本被標(biāo)記為了標(biāo)簽$c$。所以最終的目標(biāo)是確保目標(biāo)域中所有樣本的$d_{ct}$與$o_t$的和最小。

2.2 Semi-supervised Domain Adaptation

當(dāng)目標(biāo)域有一小部分標(biāo)記數(shù)據(jù)之后無監(jiān)督問題可以變成一個半監(jiān)督問題。要處理semi-supervised情況，只需要在現(xiàn)有的unsupervised情況下，添加那些有l(wèi)abel的target的約束信息。作者為了達(dá)到這個目的，引入了一個新的變量$x_{{\hat{c}}_{t}t}=1,?(t,{\hat{c}}_t)\in \mathcal{L}$，其中$\mathcal{L}$表示帶目標(biāo)域帶標(biāo)簽樣本集，${\hat{c}}_t$表示目標(biāo)域樣本$t$的標(biāo)簽。該項(xiàng)表示所有已有標(biāo)簽的目標(biāo)域樣本不改變其標(biāo)簽。目標(biāo)函數(shù)就變成了：

其中，$d_{c{c}^{\prime }}={\Vert S_c?S_{c^{\prime }}\Vert }_2^2$，它表示當(dāng)樣本$t$的臨近點(diǎn) 中有臨近點(diǎn)$N_t$被分配到另一類的時候，額外加上一個類間的距離差作為損失。

2.3 Mapping

我們假設(shè)有一個線性變換，可以估計(jì)出源域到目標(biāo)域的映射關(guān)系，用一個矩陣$W\in {\mathbb{R}}^{D\times D}$。損失函數(shù)如下：

對$W$求偏導(dǎo)可以求出使$f(W)$最小的$W$。

本文原載于我的簡書

References:

[1] Busto, P. P. , and J. Gall . “Open Set Domain Adaptation.” IEEE International Conference on Computer Vision IEEE, 2017.
[2] 《小王愛遷移》系列之九：開放集遷移學(xué)習(xí)(Open Set)

總結(jié)

以上是生活随笔為你收集整理的Open Set Domain Adaptation 开集领域适应的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。