恕我直言：這篇文章與“GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation CVPR 2019”的思想基本一致，只是做了一個應用，但是也能發一篇高水平刊物，就很說明問題，不過文章很多在故障診斷的應用手法還是值得借鑒

一、預備知識：

無監督域自適應方法（Unsupervised Domain Adaptation）：用于學習域不變和區分性特征。代表方法包括域對抗網絡DANN和MMD（最大平均差異度量）方法。
MMD是重構希爾伯特空間的非參數度量函數，它經常用于評估兩個分布期望的相似性。MMD方法作為深度網絡的一部分用于學習可遷移特征。
DANN來自于生成對抗網絡，其利用域判別器和特征提取器之間的兩層minmax博弈層可以提取遷移特征。特征提取器旨在提取域不變特征去“欺騙”域判別器，而域判別器又被訓練用于區分特征提取器提取的特征是來自于源域還是目標域。通過這樣的對抗訓練，特征提取器可以學習到兩個域的全局分布。
GCN可以聚合k范圍內的鄰點信息以此取得圖平滑，但是傳統GCN只能在一個固定接收域內聚集信息；而多接收域GCN（MRF-GCN）可以獲得豐富的特征表示并將數據結構信息嵌入至特征表示中。

二、所提方法：

A.域對抗網絡：

在本工作中，主要討論新工作環境下無標簽樣本的故障診斷。傳感器數據分為源域（有標簽）和目標域（無標簽）。在UDA中，假定源域和目標域的標簽空間是相同的，而特征空間是不同但有關聯的。本文的目標是建立一個深度網絡，能夠預測目標域的樣本標簽。
提出的基于變工況故障診斷的DAGCN流程如下圖：首先原始數據輸入至CNN以獲取特征映射，然后每個特征向量被視作是節點。通過提出的GGL方法，特征向量值被視作自動生成圖的節點特征。之后，獲取的圖被導入至GCN以此將數據結構信息嵌入至節點特征。最后，獲得的節點特征被用于故障分類以及域對抗訓練。因此，可以將步驟總結為：圖生成，目標函數以及模型參數更新。

?B. 圖生成

圖有兩個比較重要的組成部分，即鄰接矩陣A和節點特征矩陣X。為了獲取X,一個CNN被用于從輸入數據中獲取特征，獲取的節點特征映射可以表示為：

?是一個小批次輸入矩陣。
提出了一種GGL，獲取鄰接矩陣A，并從小批量輸入矩陣構造實例圖，其過程如圖4所示。首先，將提取的特征矩陣輸入多層感知器(MLP)。然后，通過MLP特征及其轉置矩陣之間的矩陣乘法得到鄰接矩陣。最后，根據top-k排序機制選擇每個節點的前k個最近鄰。因此，鄰接矩陣可由下式得到:

?Top?k(·)返回A在每列前k個最大值的索引，使鄰接矩陣稀疏，減少了計算負擔。

如圖2所示，三層接收域(K1, K2, and K3的取值為[1, 2, 3])的MRF-GCN被用于重構實例圖。因此，對于一個輸入圖，通過MRF-GCN所得到的特征表示可以定義為：

?其中是第一和第二層MRF-Conv的學習得到的特征表示，W是可訓練的權重矩陣。

C.UDA的目標函數

目標函數由三部分組成：特征提取器(F)、域判別器(D)和標簽分類器(C)。為了提取遷移特征和構建上述的三種重要信息（類標簽，域標簽，數據結構信息），總體目標函數包括分類損失、域一致性損失和結構一致性損失三個部分。

1）分類損失：真實標簽和預測標簽的分類損失為交叉熵函數：

?其中，表示標簽分類器的預測結果，表示交叉熵損失。表示數學期望。

2) 域一致性損失：由于域協變移位問題(the domain covariant-shift problem)，僅用源域數據訓練的標簽分類器不能很好地處理目標域數據。為了解決這個問題，一個域判別器(D)用來判斷提取的特征是來自目標域還是源域，并訓練特征提取器欺騙域判別器。當域判別器和特征提取器的minmax博弈達到均衡時，可以捕獲域不變特征(即域判別器已無法判別特征提取器所提的特征，說明不同域的特征已無法區分，也就是得到域不變特征)。這里采用二進制交叉熵損失作為域一致性損失，記為：

其中分別表示目標域第j個和源域第i個提取特征。D(·)取值為0或1，可以用來區分樣本屬于哪個域（源域為1，目標域為0）。

the domain covariant-shift problem:

假設q1（x）是測試集中一個樣本點的概率密度，q0（x）是訓練集中一個樣本點的概率密度。最終我們估計一個條件概率密度p(y|x，θ)，它由x和一組參數θ=｛θ1，θ2......θm｝所決定。對于一組參數來說，對應loss(θ)函數評估性能的好壞
綜上，當我們找出在q0（x）分布上最優的一組θ'時，能否保證q1（x）上測試時也最好呢？
傳統機器學習假設訓練集和測試集是獨立同分布的，即q0（x）=q1（x），所以可以推出最優θ'依然可以保證q1（x）最優。但現實當中這個假設往往不成立，伴隨新數據產生，老數據會過時，當q0（x）不再等于q1（x）時，就被稱作covariate shift
————————————————
原文鏈接：https://blog.csdn.net/mao_xiao_feng/article/details/54317852

交叉熵加入對數函數的原因：預測輸出與 y 差得越多，L 的值越大，也就是說對當前模型的 “ 懲罰 ” 越大，而且是非線性增大，是一種類似指數增長的級別。這是由 log 函數本身的特性所決定的。這樣的好處是模型會傾向于讓預測輸出更接近真實樣本標簽 y。

3）結構一致性（對準）損失:在對源域和目標域特征結構進行對準的過程中，采用MMD度量作為結構偏差對準損失，表示為:

?其中φ(·)表示非線性映射函數，表示通過將提取的特征嵌入到RKHS（重構希爾伯特空間）中來測量該距離。

4）總體目標函數:結合定義的三個損失函數，實現UDA的總體目標函數可以寫成

?其中γ和k是權衡參數（the tradeoff parameters）。

D.模型參數更新

令θF，θC、θD分別表示特征提取器、標簽分類器和域判別器的參數。在模型訓練過程中，可以通過反向傳播(BP)算法更新DAGCN中各部分的參數，記為

其中?表示偏導數算子，η表示學習率。
特別是在特征提取器中，MRF-GCN參數可以通過計算以下公式來更新:

通過MRF-GCN所得到的特征表示為H，是?MRF-GCN三層接收域的參數?,表示更新后的參數。
通過最小化定義的總體目標函數，優化DAGCN參數，得到域不變特征和判別特征，使使用帶標記源域數據訓練的分類器能夠正確地對未帶標記目標域數據進行分類。因此，算法一總結了利用所提出的DAGCN對UDA進行故障診斷的算法，圖5給出了利用所提出的DAGCN實現跨域故障診斷的詳細流程圖。

三、實驗

數據集分別來自于變速箱和航空發動機潤滑油配件控制系統

A.實驗1：齒輪箱故障診斷

1）數據描述：齒輪箱測試平臺由驅動裝置、軸、齒輪箱和負載（a drivemotor, a shaft, a gearbox, and the load）組成。在本實驗中，對齒輪箱輸出軸的齒輪預設了兩種不同類型的齒輪故障，包括齒面磨損和四種不同故障級別的齒裂紋在內的齒輪故障如圖7所示，加上健康狀態，齒輪的健康狀態共有六種（4+1+1）。變速器Y方向安裝加速度計（Accelerometers）采集振動信號，傳感器采樣頻率為10240 Hz。模擬四種不同轉速(1000、1100、1200和1400 r/min)，將每種轉速視為一種工況。

?本實驗采用Z-score歸一化方法對采集的數據進行歸一化。然后使用窗口長度為1024的滑動窗口對原始振動信號進行分割，形成子樣本，在分割過程中，每個樣本之間不存在重疊。在每個工況下，每個健康狀態產生1000個樣本，所以6個健康狀態總共得到6000個樣本。另外，為了獲得一種工況的訓練集，在每種健康工況下隨機選取80%的樣本，其余20%作為測試集。因此，每一種工況下，總共有4800個樣本用于訓練，1200個樣本用于測試。

z-score標準化，也稱為標準化分數，這種方法根據原始數據的均值和標準差進行標準化，經過處理后的數據符合標準正態分布，即均值為0，標準差為1（根據下面的轉化函數很容易證明），轉化函數為：

————————————————
原文鏈接：https://blog.csdn.net/jzwong/article/details/51839721

我們使用0、1、2和3分別表示四種不同的工作條件（四種轉速工況）。因此，我們進行了12個跨領域(A^2_4)的任務進行綜合分析。為簡單起見，我們使用表示跨域任務，即模型用域a的數據進行訓練，用域b的數據進行測試。值得注意的是，在特征遷移階段，將域a的帶標簽樣本和域b的少量未帶標簽樣本輸入到DAGCN中進行對抗訓練，其余的域b的未帶標簽樣本用于模型測試。

2）診斷結果:為了證明所提出的DAGCN的優越性，我們采用了6種比較方法，分別是JAN[20]、MKMMD[21]、CORAL[22]、DANN[26]、CDANN和CDANN+E(CDANN 帶熵條件)[27]。六種比較方法的特征提取器都是一個四層CNN，而特征提取器也被用來獲得一個直接遷移的基準。此外，DAGCN的詳細結構如表1所示，其中前四層特征提取器為卷積層(convolutional layer, Conv)，后兩層為MRF-GConv層。
在模型訓練中，使用300個epoch對模型進行訓練，在前50個epoch對每個模型進行預訓練，不使用目標域樣本。初始學習速率設置為0. 001，學習速率衰減是在epoch150和250時分別乘0.1(即學習率在150epoch為1e-4，250epoch時為1e-5)。
兩個權衡參數(即γ和κ)由計算，其中τ取10，在遷移學習策略未激活時e取0，在遷移學習策略激活后e取1。本次實驗的評價指標是整體的準確性，為了減少結果的隨機性，最終結果采用了最后10個epoch的平均值。本次實驗的結果如表II所示

3）結果分析：

?從表II可以看出，所提出的DAGCN在每個跨域任務中都能獲得最好的結果，而基于映射的方法（JAN、MKMMD和CORAL方法）比基于對抗性的方法(DANN、CDANN和CDANN+E)有更好的結果。在最困難的任務Q30中，表現最差的模型診斷準確率為36.16%，而提出的DAGCN診斷準確率為80.25%。在最簡單的任務，即任務Q21中，表現最差的模型獲得的診斷準確率為81%，而DAGCN達到94.42%。這些結果表明，盡管領域差異變得越來越大，跨領域任務變得越來越困難，DAGCN仍然可以獲得性能提高

?四、模型討論

A.消融實驗

為了找出模型各部分對模型性能的影響，在該區域進行了消融研究。兩個變體進一步從提出的DAGCN衍生而來：1) DAMMD:只有四層CNN被用于特征提取（無GCN）；2) TGCN: DAGCN無分布偏差對準損失（即只有分類損失）。兩種變體的實驗結果和提出的DAGCN在變速箱數據集上的實驗結果如表4所示

?從這些結果中可以看出，所提出的DAGCN比TGCN高3.20%，比DAMMD高18.74%。如此大的改進表明，考慮數據結構并將其嵌入到學習的特征表示中是至關重要的。此外，調整源和目標域特性之間的分布也可以提高模型的性能。

為了顯示三種方法學習到的特征，通過t-SNE將特征提取器最后一層的特征可視化，圖13展示了任務Q21中三種方法的可視化特征。如圖13(a)所示，兩個不同域的兩個特征都被很好地劃分為六個部分（代表6種故障類型）。同時，源域和目標域（源域是工況2，目標域是工況1）的同類特征也能很好地對齊。此外，從圖13(b)和(c)可以發現，TGCN比DAMMD學習到更好的域不變特征，(TGCN利用了數據結構信息，有更好的域不變性特征；DAMMD利用域對齊準則，有更好可區分性特征)這與實驗結果一致。結果表明，所提出的DAGCN學習了域不變性和可區分性特征，這對實現域自適應很重要。

總結

以上是生活随笔為你收集整理的基于域对抗图卷积网络的多变环境下故障诊断的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。