Domain Adaptation and Graph Neural Networks

Student : Wenxuan Zeng

School : University of Electronic Science and Technology of China

? Date : 2022.4.21 - 2022.4.23

---

文章目錄

• Domain Adaptation and Graph Neural Networks
• • 1 Domain Adaptation
  • • 1.1 Background
    • 1.2 Domain shift
    • 1.3 Domain Adaptation
  • 2 Domain Adaptation in Computer Vision
  • 3 Domain Adaptation in Graph Neural Networks (Understanding of Four Important Papers)
  • • 3.1 DANE: Domain Adaptive Network Embedding (IJCAI '19)
    • 3.2 GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation (CVPR '19)
    • 3.3 Unsupervised Domain Adaptive Graph Convolutional Networks (WWW '20)
    • 3.4 Adaptive Trajectory Prediction via Transferable GNN
    • 3.5 Curriculum Graph Co-Teaching for Multi-Target Domain Adaptation (CVPR '21)
  • 4 Conclusion

1 Domain Adaptation

1.1 Background

首先來考慮如下的場景：我們已經(jīng)在training set上訓(xùn)練好了模型，現(xiàn)在開始在testing set上進行測試。如果testing data和training data的來自于同分布的，那么預(yù)測結(jié)果好較好，而testing data與training data差距較大時，預(yù)測結(jié)果就會很差。如下圖所示，這種現(xiàn)象被稱作“Domain shift”，也就是說training data和testing data有不同的分布。

這種現(xiàn)象廣泛出現(xiàn)在機器學(xué)習(xí)領(lǐng)域，當(dāng)大家興奮于機器學(xué)習(xí)所取得的驚人效果時，殊不知當(dāng)模型部署到實際環(huán)境中時，結(jié)果的好壞卻是一個未知數(shù)。那么解決這個問題的方式就是Domain adaption，這也是Transfer learning的一種（將domain A上訓(xùn)練的知識遷移到domain B上）。

1.2 Domain shift

主要存在3種不同形式的domain shift：一種是training data和testing data的分布不同，一種是輸出標(biāo)簽分布不同，還有一種是數(shù)據(jù)和標(biāo)簽的關(guān)系不同。

本次學(xué)習(xí)的主要內(nèi)容是針對數(shù)據(jù)分布不同的domain shift，我們定義training data為source domain，testing data為target domain。

1.3 Domain Adaptation

做領(lǐng)域自適應(yīng)時，需要考慮到target domain上擁有知識的情況。

① 當(dāng)target domain上擁有大量的labeled data，那么就不用做domain adaptation了，因為我們可以直接在target domain上進行訓(xùn)練。

② 當(dāng)target domain上擁有少量labeled data，那么可以用source data訓(xùn)練一個模型，然后在target data上做fine-tune。存在的問題是，容易出現(xiàn)over fitting（調(diào)小learning rate，調(diào)小epoch…）

③ 當(dāng)target domain上擁有大量的unlabeled data，是現(xiàn)在最常見的情況。現(xiàn)在開始學(xué)習(xí)這種情況的解決方法。一種比較基礎(chǔ)的idea就是用一個feature extractor去提圖片的特征，雖然source data和target data是不同分布的，但是提出來的feature是同分布的，這樣做的好處就是能順利進行不同領(lǐng)域的適應(yīng)。

那如何去設(shè)計這樣的feature extractor？ 如下圖，通過feature extractor可以提取出圖片的深度表征（feature extractor可以人為地定義為3層4層5層…），我們要求source data和target data所得到的feature是分不出差距的（或者說是同分布的）。

現(xiàn)在考慮如何得到一個可以輸出同分布的feature extractor，這里可以采用domain adversarial training的技術(shù)來實現(xiàn)。在輸出feature的層之后街上一個domain classifier（二分類器）去判斷圖片的來源是source data還是target data，如果feature extractor生成的feature能順利騙過domain classifier，則說明實現(xiàn)了上述想法。

Domain-Adversarial Training of Neural Networks

簡化上圖：

這很容易被類比成GAN，把feature extractor看作是generator，domain classifier看作是discriminator。事實上，domain adversarial training這篇文字和GAN是同時期的作品（2015），有著異曲同工之妙。

試想一下，feature extractor會不會太強大了，因為如果它全部輸出zero vector，也能騙過domain classifier！會不會出現(xiàn)這樣的情況？其實不會，因為label predictor是需要這個feature去做預(yù)測的。

但是這樣做也未必很好，domain classifier要最小化二分類的loss，而feature extractor要騙過domain classifier就需要最大化這個loss，所以這樣做并不是最好的。

剛剛學(xué)習(xí)到了讓target分布盡可能接近于source，也會存在下面這兩種情況，我們期望出現(xiàn)的是第二種情況。一種比較直覺的想法就是讓得到的feature能盡可能遠(yuǎn)離分界線（decision boundariy）。

一種做法是將target中的unlabeled data輸入feature extractor也輸入label predictor中，最終得到預(yù)測結(jié)果。如果預(yù)測的分布是非常集中的，那就代表small entropy，反之則是large entropy。

當(dāng)然還有更多關(guān)于decision boundary的工作：

• A dirt-t approach to unsupervised domain adaptation

• Maximum Classifier Discrepancy for Unsupervised Domain Adaptation

再思考一個問題，如果說source domain中的類別和target domain中的類別不完全相同，上面的方法就出現(xiàn)了問題。比如，target domain中出現(xiàn)了source domain中沒有出現(xiàn)過的lion動物類別，我們?nèi)匀蛔宼arget中的feature和source符合同分布，那不就是把lion硬說成了其他動物嗎？顯然是不合理的！那么在CVPR2019上就出現(xiàn)了這樣一篇文章：Universal Domain Adaptation

④ 當(dāng)target domain上擁有少量unlabeled data，也是有辦法解決的，參考：Test-Time Training with Self-Supervision for Generalization under Distribution Shifts

⑤ 當(dāng)target domain是完全未知的，這就不叫domain adaptation任務(wù)了，而叫做domain generalization。目標(biāo)就是希望模型能夠在未知的場景中具有很好的泛化性。參考：Domain Generalization with Adversarial Feature Learning。還有一種情況，是source domain上只有少量數(shù)據(jù)，而需要在多種不同的target domain上進行應(yīng)用，參考：Learning to Learn Single Domain Generalization

2 Domain Adaptation in Computer Vision

在計算機視覺領(lǐng)域，領(lǐng)域自適應(yīng)被廣泛應(yīng)用，比如自動駕駛。數(shù)據(jù)集上的圖片可能與真實情況存在較大的差距，如何做領(lǐng)域自適應(yīng)，是非常重要的一環(huán)。比如下圖中，實際場景中可能會是大霧、陰雨、大雪等天氣，那在這樣的環(huán)境中，能否很好地實現(xiàn)目標(biāo)檢測、語義分割、物體分類等任務(wù)呢？

下面是幾種實現(xiàn)領(lǐng)域自適應(yīng)的方式：

• 數(shù)據(jù)生成與連續(xù)域

• 擴充數(shù)據(jù)集可以解決這樣的問題，但是要收集大量的各種環(huán)境的數(shù)據(jù)（以及打標(biāo)簽）會耗費很高的成本，通常是不可行的。所以通常采用的方法是對各種condition的數(shù)據(jù)進行仿真，生成大量的數(shù)據(jù)以擴充數(shù)據(jù)集。

  通過深度估計去生成不同能見度的foggy場景：Curriculum Model Adaptation with Synthetic and Real Data for Semantic Foggy Scene Understanding

通過統(tǒng)計模型（如CycleGAN）去生成nighttime場景：Map-Guided Curriculum Domain Adaptation and Uncertainty-Aware Evaluation for Semantic Nighttime Image Segmentation

在這篇論文中也用域流實現(xiàn)連續(xù)域的遷移過程：

建立起生成圖像和原圖之間的map關(guān)系：

如果搜集不到數(shù)據(jù)，那就用生成的方式：DLOW: Domain Flow and Applications

• Test-time的領(lǐng)域自適應(yīng)，讓模型在實際場景中自己學(xué)習(xí)進行適應(yīng)

• 多任務(wù)學(xué)習(xí)的領(lǐng)域自適應(yīng)

用自監(jiān)督學(xué)習(xí)的深度估計來輔助語義分割任務(wù)：Three Ways To Improve Semantic Segmentation With Self-Supervised Depth Estimation。語義分割的標(biāo)簽標(biāo)注成本非常高，所以采用自監(jiān)督的深度估計任務(wù)來輔助語義分割。

Domain Adaptive Semantic Segmentation with Self-Supervised Depth Estimation 這篇文章就通過自監(jiān)督的深度估計來輔助語義分割任務(wù)的完成。source domain中的task之間的相關(guān)性是可以遷移到target domain中的，source domain和target domain中對于深度估計的難度是可以遷移到語義分析中。

對于存在多種混合的target domain的情況，也有相應(yīng)的文章：Cluster, Split, Fuse, and Update: Meta-Learning for Open Compound Domain Adaptive Semantic Segmentation

• 多傳感器融合

  這里不展開講，偏device方面。

3 Domain Adaptation in Graph Neural Networks (Understanding of Four Important Papers)

3.1 DANE: Domain Adaptive Network Embedding (IJCAI '19)

鏈接：DANE: Domain Adaptive Network Embedding

• 特點： Embedding領(lǐng)域自適應(yīng)、圖神經(jīng)網(wǎng)絡(luò)、對抗學(xué)習(xí)

• 動機： 以前的工作只考慮為單一的網(wǎng)絡(luò)學(xué)習(xí)embedding，無法遷移到多個網(wǎng)絡(luò)上。所以作者想設(shè)計一種embedding算法，支持下游任務(wù)遷移到不同的網(wǎng)絡(luò)上進行訓(xùn)練，這就是domain adaptation。

• 貢獻： ① 最早提出cross multiple graph networks上的domain adaptation；② 兩種對齊方式：特征空間對齊——結(jié)構(gòu)上相似的節(jié)點具有相似的表示向量，即使它們來自不同的網(wǎng)絡(luò)，方法是節(jié)點表示由兩個參數(shù)共享的網(wǎng)絡(luò)得到；分布對齊——方法是節(jié)點表示分布由對抗學(xué)習(xí)進行正則化；③ 構(gòu)造了兩個數(shù)據(jù)集。

• 方法： 分為如下兩個部分：

  • 共享權(quán)重的GCN網(wǎng)絡(luò)

    采用兩個相同的GCN網(wǎng)絡(luò)，分別得到embedding：
    

    為了學(xué)習(xí)到源域和目標(biāo)域都兼容的參數(shù)，采用多任務(wù)loss function來保存兩個網(wǎng)絡(luò)的性質(zhì)：

  • 對抗學(xué)習(xí)正則化

    和GAN思想類似，訓(xùn)練一個discriminator來判別embedding來自哪個網(wǎng)絡(luò)（源/目標(biāo)域），訓(xùn)練一個權(quán)重共享的GCN作為generator。對于discriminator有如下的loss：

    為實現(xiàn)雙向的領(lǐng)域自適應(yīng)，設(shè)計了如下的對抗訓(xùn)練loss：

    最后結(jié)合兩個步驟中的loss：

3.2 GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation (CVPR '19)

鏈接：GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation

• 特點： 圖神經(jīng)網(wǎng)絡(luò)、無監(jiān)督學(xué)習(xí)、領(lǐng)域自適應(yīng)、對抗網(wǎng)絡(luò)

• 動機： 作者認(rèn)為領(lǐng)域自適應(yīng)中要搭建源域和目的域之間的橋梁，有三種最重要的信息：數(shù)據(jù)結(jié)構(gòu)（反映了數(shù)據(jù)集的固有屬性，包括邊際或條件數(shù)據(jù)分布、數(shù)據(jù)統(tǒng)計信息、幾何數(shù)據(jù)結(jié)構(gòu)等）、領(lǐng)域標(biāo)簽（用于對抗性域自適應(yīng)方法，并可以幫助訓(xùn)練一個域分類器來建模源域和目標(biāo)域的全局分布）、類別標(biāo)簽（特別是目標(biāo)偽標(biāo)簽，通常采用強制語義對齊，這可以保證來自具有相同類標(biāo)簽的不同域的樣本將被映射到特征空間附近）。

• 貢獻： ① 第一次在無監(jiān)督領(lǐng)域自適應(yīng)中聯(lián)合建模三種信息（數(shù)據(jù)結(jié)構(gòu)、領(lǐng)域標(biāo)簽、類別標(biāo)簽）；② 為了更魯棒地匹配源域和目的域的分布，提出三種對齊機制（結(jié)構(gòu)感知對齊、領(lǐng)域?qū)R、類中心對齊）有效地學(xué)習(xí)領(lǐng)域不變表示和語義表示，以減少領(lǐng)域自適應(yīng)的領(lǐng)域差異。

• 方法：

  • 優(yōu)化的目標(biāo)函數(shù)

  • 領(lǐng)域?qū)R

    加入了一個領(lǐng)域分類器（提取的feature來自源域/目的域二分類），采用領(lǐng)域?qū)瓜嗨贫茸鳛閾p失函數(shù)：

    Feature extractor用于欺騙分類器，分類器用于判別來源，以對抗方式幫助訓(xùn)練一個域分類器來建模源域和目標(biāo)域的全局分布。

  • 結(jié)構(gòu)感知對齊

    領(lǐng)域?qū)R強制執(zhí)行了全局域信息的對齊，但是忽略了小樣本的結(jié)構(gòu)信息。首先，用數(shù)據(jù)結(jié)構(gòu)分析器 (DSA) 網(wǎng)絡(luò)，為一個mini-batch樣本生成結(jié)構(gòu)分?jǐn)?shù)，然后，利用得到的結(jié)構(gòu)分?jǐn)?shù)和學(xué)習(xí)到的樣本CNN特征來構(gòu)造密集連接的實例圖。之后，GCN對實例圖進行操作，以學(xué)習(xí)使用數(shù)據(jù)結(jié)構(gòu)信息編碼的GCN特征。下面學(xué)習(xí)如何構(gòu)建密集連接示例圖：

    圖的信息表示為CNN提取的feature：

    為了構(gòu)建鄰接矩陣，將這個mini-batch樣本喂入數(shù)據(jù)結(jié)構(gòu)分析器 (DSA) 網(wǎng)絡(luò)中，生成結(jié)構(gòu)分?jǐn)?shù)，有了這個結(jié)構(gòu)分?jǐn)?shù)就可以構(gòu)造鄰接矩陣：

    用Triplet loss來限制結(jié)構(gòu)分?jǐn)?shù)的生成：

  • 類別標(biāo)簽對齊

    特征具有領(lǐng)域不變性（Domain Invariance）與結(jié)構(gòu)一致性（Structure Consistency）并不意味著其具有判別性（Discriminability），所以提出類別標(biāo)簽中心對齊。

    首先，用目標(biāo)分類器來分配偽標(biāo)簽，得到目標(biāo)域上的偽標(biāo)簽數(shù)據(jù)。然后，被標(biāo)記的樣本和偽標(biāo)記的樣本一起用于計算每個類的質(zhì)心。

3.3 Unsupervised Domain Adaptive Graph Convolutional Networks (WWW '20)

鏈接：Unsupervised Domain Adaptive Graph Convolutional Networks

• 特點： 無監(jiān)督學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)、領(lǐng)域自適應(yīng)

• 動機： 大多數(shù)GCN只能在單個域（圖）中工作，無法將知識從其他域（圖）轉(zhuǎn)移，這是由于圖表示學(xué)習(xí)和圖結(jié)構(gòu)上的域適應(yīng)方面的挑戰(zhàn)。

• 貢獻： ① 提出了一種新的無監(jiān)督圖域自適應(yīng)問題，并提出了一種雙重圖卷積網(wǎng)絡(luò)算法；② 將局部和全局一致性與注意機制相結(jié)合，以學(xué)習(xí)跨網(wǎng)絡(luò)的有效節(jié)點embedding；③ 利用具有不同損失函數(shù)的源信息和目標(biāo)信息，可以有效地學(xué)習(xí)域不變表示和語義表示，從而減少跨域節(jié)點分類中的域差異。

• **方法： ** 為了實現(xiàn)有效的圖表示學(xué)習(xí)，首先開發(fā)了一個雙重圖卷積網(wǎng)絡(luò)組件，它聯(lián)合利用局部和全局一致性進行特征聚合。進一步使用注意機制為不同圖中的每個節(jié)點生成統(tǒng)一的表示。為了便于圖之間的知識轉(zhuǎn)移，提出了一個領(lǐng)域自適應(yīng)學(xué)習(xí)模塊來優(yōu)化三種不同的損失函數(shù)（源分類器loss、領(lǐng)域分類器loss、目標(biāo)分類器loss），因此，模型可以分別區(qū)分源域中的類標(biāo)簽、不同域中的樣本、目標(biāo)域中的類標(biāo)簽。

  • 節(jié)點表示學(xué)習(xí)

    用雙重圖卷積網(wǎng)絡(luò)捕獲每個圖的局部和全局一致性關(guān)系。對于局部一致性，直接將鄰接矩陣A輸入到GCN；對于全局一致性，提出另一種基于隨機游走的卷積方法。

    局部一致性：簡單的GCN，輸入A和X

    全局一致性：引入PPMI（點級互信息矩陣）的卷積方法來編碼全局信息。首先通過隨機游走計算頻率矩陣F（隨機游走能計算節(jié)點間的語義相似性）

    可以看到，全局和局部一致性的區(qū)別在在于輸入GCN的“鄰接矩陣”在不同的。

  • 圖間注意力

    我們需要聚合來自不同圖的嵌入來生成一個統(tǒng)一的表示，分別從局部和全局GCN層中自動確定源圖表示和目標(biāo)圖表示之間的權(quán)重。

  • 跨域節(jié)點分類中的領(lǐng)域自適應(yīng)學(xué)習(xí)

    訓(xùn)練了三個分類器：① 源分類器；② 域分類器；③ 目標(biāo)分類器

    總體訓(xùn)練目標(biāo)：

    源分類器loss就是交叉熵?fù)p失函數(shù)：

    域分類器和之前的工作一樣，還是用了對抗學(xué)習(xí)的思想，既要讓網(wǎng)絡(luò)去判別開兩個來源，也要讓兩個來源生成的feature相似，讓分類器難以判斷出來。

    目標(biāo)分類損失函數(shù)用entropy loss（cross-entropy是不行的，因為target domain無標(biāo)簽）：

3.4 Adaptive Trajectory Prediction via Transferable GNN

鏈接：Adaptive Trajectory Prediction via Transferable GNN

• 特點： 圖神經(jīng)網(wǎng)絡(luò)、行人軌跡預(yù)測、領(lǐng)域自適應(yīng)

• 動機： 現(xiàn)有工作大多沒考慮訓(xùn)練集和測試集的運動遵循相同的模式，忽略了潛在的分布差異。所以提出領(lǐng)域?qū)R的框架實現(xiàn)領(lǐng)域自適應(yīng)。

• 貢獻： ① 深入研究不同軌跡域的域遷移問題，并提出統(tǒng)一的T-GNN方法，用于聯(lián)合預(yù)測未來軌跡和自適應(yīng)學(xué)習(xí)域不變知識；② 提出了一個專門設(shè)計的圖神經(jīng)網(wǎng)絡(luò)來提取全面的時空特征表示，還開發(fā)了一個有效的基于注意力的自適應(yīng)知識學(xué)習(xí)模塊，以探索細(xì)粒度的個體水平的可轉(zhuǎn)移特征表示；③ 引入了一種全新的行人軌跡預(yù)測問題設(shè)定，在這種域遷移設(shè)置下為行人軌跡預(yù)測建立了強基線。

• 方法： 提出了一種領(lǐng)域不變的GNN來探索領(lǐng)域特定知識減少的結(jié)構(gòu)運動知識，此外還提出了一個基于注意力的自適應(yīng)知識學(xué)習(xí)模塊來探索用于知識轉(zhuǎn)移的細(xì)粒度個體級特征表示。

  • 時空特征表示

    簡單來說，就是三層GCN網(wǎng)絡(luò)：

  • 基于注意力的自適應(yīng)學(xué)習(xí)

    這一部分的目的是解決源域和目標(biāo)域之間的差距。雖然特征向量保留了一個行人的時空信息，但我們不能確定該行人的特征向量在一個域中的代表性。因此，引入了一個注意模塊來學(xué)習(xí)特征向量與軌跡域之間的相對相關(guān)性。

  • 時間預(yù)測模塊

    簡單來說，用的時間卷積TCN做時間維度的預(yù)測：

  • 訓(xùn)練目標(biāo)

    對于軌跡的預(yù)測，用負(fù)對數(shù)似然估計：

    最終的訓(xùn)練目標(biāo)綜合了前面的對齊損失和預(yù)測損失：

3.5 Curriculum Graph Co-Teaching for Multi-Target Domain Adaptation (CVPR '21)

• 特點： 單源域-多目標(biāo)源域、課程學(xué)習(xí)、偽標(biāo)簽生成

• 動機： 解決多領(lǐng)域遷移的問題。

• 貢獻： ① 提出了MTDA的課程圖協(xié)同教學(xué) (CGCT)，它利用與雙分類器頭的協(xié)同教學(xué)策略、課程學(xué)習(xí)方式，來學(xué)習(xí)跨多個目標(biāo)領(lǐng)域的更魯棒的表示；② 為了更好地利用領(lǐng)域標(biāo)簽，提出了一種領(lǐng)域感知課程學(xué)習(xí) (DCL)策略，使特征對齊過程更平滑

• 方法： 兩個角度減輕多領(lǐng)域遷移的問題，特征聚合和課程學(xué)習(xí)。提出課程圖協(xié)同學(xué)習(xí)，用的雙分類器頭，其中一個是GCN聚合了來自于跨域的類似樣本的特征。防止分類器對其自身的噪聲偽標(biāo)簽進行過擬合。防止分類器對其自身的噪聲偽標(biāo)簽進行過擬合，開發(fā)一種與雙分類器頭的協(xié)同教學(xué)策略，并輔以課程學(xué)習(xí)，以獲得更可靠的偽標(biāo)簽。另外，當(dāng)領(lǐng)域標(biāo)簽可用時，提出領(lǐng)域感知課程學(xué)習(xí)(DCL)，這是一種順序適應(yīng)策略，首先適應(yīng)更容易的目標(biāo)領(lǐng)域，然后是更難的目標(biāo)領(lǐng)域。

  • (a) Curriculum Graph Co-Teaching

    STEP 1：領(lǐng)域自適應(yīng)

    用$f_{edge}$來生成鄰接矩陣，其監(jiān)督信息是MLP給的，MLP對節(jié)點之間的邊進行標(biāo)注（兩個節(jié)點的標(biāo)簽一致，則它們之間的相似度為1，否則為0）：

    則生成鄰接矩陣的loss：

    GCN和MLP在源域上的loss：

    最終優(yōu)化的目標(biāo)為：

    STEP 2：偽標(biāo)簽標(biāo)注

    用GCN對無標(biāo)簽數(shù)據(jù)進行標(biāo)注，小于某個閾值則不參與訓(xùn)練。為什么選GCN的輸出進行標(biāo)注？作者說考慮到GCN進行特征的聚合，相比MLP更具有魯棒性。然后數(shù)據(jù)變?yōu)?#xff1a;

  • (b) Domain-aware Curriculum Learning

    作者考慮了目標(biāo)域帶標(biāo)簽的情形。不同目標(biāo)域與源領(lǐng)域的數(shù)據(jù)分布的shift程度是不一樣的，因此自適應(yīng)的難度不一樣。這里采用了Easy-to-Hard Domain Selection (EHDS) 策略，先適應(yīng)easy的domain，再適應(yīng)hard的領(lǐng)域，原因就是模型適應(yīng)shift較小的領(lǐng)域明顯比shift較大的領(lǐng)域容易。

    如何衡量哪個domain更容易？作者用信息熵衡量了這個指標(biāo)：

    STEP 1：領(lǐng)域選擇

    根據(jù)上述信息熵選擇相對簡單的領(lǐng)域：

    STEP 2：領(lǐng)域自適應(yīng)

    與Curriculum Graph Co-Teaching相同，不過目標(biāo)域的數(shù)據(jù)采用選擇的域數(shù)據(jù)。

    STEP 3：偽標(biāo)簽標(biāo)記

    與Curriculum Graph Co-Teaching相同，不過目標(biāo)域的數(shù)據(jù)采用選擇的域數(shù)據(jù)。

4 Conclusion

• 在前面這三篇工作中，第一篇在學(xué)習(xí)可遷移的Embedding representation方法，第二篇、第三篇和第四篇（行人軌跡預(yù)測）、第五篇（多領(lǐng)域自適應(yīng)）都是將模型自適應(yīng)地遷移到不同的domain上。除此之外，GNN在Domain adaptation領(lǐng)域還有更多的應(yīng)用，比如：Graph-Relational Domain Adaptation (ICLR ‘22’) 認(rèn)為不同域之間的關(guān)系并不是等同的，他們之間存在拓?fù)潢P(guān)系，所以從圖的角度去思考域之間的relation。Unsupervised Multi-Source Domain Adaptation for Person Re-Identifification (CVPR '21) 這篇文章將多源領(lǐng)域自適應(yīng)引進行人重識別問題。
• 我認(rèn)為Domain adaptation是一個非常有前景的方向，因為在大多數(shù)實際場景中，數(shù)據(jù)都是和訓(xùn)練時有差距的，甚至是完全未知的。那么，如何讓模型在實際情景中發(fā)揮最大的價值，就是領(lǐng)域自適應(yīng)需要不斷解決的問題。
• AutoEval也是在解決測試場景數(shù)據(jù)未知的問題，但是從另一個切入點去考慮問題，用“估分”的手段去評估模型在未知環(huán)境的效果，屬于一種“對自身學(xué)習(xí)能力的評價”的學(xué)習(xí)范式。

總結(jié)

以上是生活随笔為你收集整理的Domain Adaptation and Graph Neural Networks的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。