0 摘要

????????流行的圖神經網絡基于多項式譜濾波器實現圖的卷積運算。

????????在本文中，我們提出了一種新的圖卷積層，其靈感來自自回歸移動平均(ARMA)濾波器.

????????與多項式濾波器相比，它提供了更靈活的頻率響應，更魯棒的噪聲，并更好地捕捉全局圖結構。

????????我們提出了一種用遞歸和分布式公式實現ARMA濾波器的圖神經網絡，獲得了一個有效訓練的卷積層，該卷積層位于節點空間，并可以在測試時轉移到新的圖中。

????????我們進行頻譜分析，研究提出的ARMA層的濾波效果，并報告了四個下游任務的實驗:半監督節點分類、圖信號分類、圖分類和圖回歸。

????????結果表明，本文提出的ARMA層比基于多項式濾波器的圖神經網絡有顯著的改進。

1 introduction

????????圖神經網絡(gnn)是一類介于深度學習和結構化數據方法之間的模型，它通過計算離散對象(節點)之間的任意關系(邊)，對離散對象(節點)進行推理。

????????GNN結合圖上本地鄰域的節點特征來學習。這可以直接映射到分類標簽或實值的節點表示，或組合生成圖進行圖嵌入，來進行圖分類和回歸

????????這項工作的重點是，用gnn實現圖在譜域上的卷積，這是通過非線性可訓練濾波器來完成的。

????????這種過濾器有選擇地縮小或放大圖信號的傅里葉系數(這可以看成節點特征的一個實例)，然后將節點特征映射到一個新的空間。

????????為了避免時間和空間都很昂貴的圖頻譜域分解和圖頻譜域投影，最近幾年的gnn將圖濾波器實現為低階多項式，直接在節點域學習。

????????多項式濾波器具有有限的脈沖響應，并在局部節點鄰域上對圖信號進行加權移動平均濾波，允許基于切比雪夫多項式的快速分布式實現。

????????多項式濾波器具有有限的建模能力，由于其平滑性，不能對頻率響應的急劇變化進行建模。

????????至關重要的是，高階多項式是到達高階鄰域所必需的，但它們往往在計算上更昂貴，以及最重要的是，它們會過度擬合訓練數據，使模型對圖信號或底層圖結構的變化敏感。

?????????更通用的一類濾波器是自回歸移動平均濾波器(ARMA)家族，它提供了更多的頻率響應，與具有相同數量參數的多項式濾波器相比，它可以解釋更高階的鄰域。

?????????在本文中，我們受到多項式濾波器的啟發，解決了現有圖卷積層的局限性，提出了一種新的基于ARMA濾波器的GNN卷積層。

????????我們的ARMA層實現了一個非線性和可訓練的圖濾波器，它基于多項式濾波器泛化卷積層，并通過靈活的濾波器頻率響應設計，為GNN提供了增強的建模能力。

????????ARMA層以較少的參數捕獲全局圖結構，克服了基于高階多項式濾波器的gnn的局限性。

????????ARMA濾波器不局限于節點空間，需要進行矩陣反演，這在gnn環境中是非常棘手的。

????????為了解決這個問題，本篇論文提出的ARMA層依賴于遞歸公式，這導致了可以利用張量上的高效稀疏操作，來快速和分布式的實現之。

????????得到的濾波器不是在由給定拉普拉斯算子導出的傅里葉空間中學習的，而是在節點空間中，并且獨立于底層圖結構。

????????這使得GNN能夠在歸納推理任務的測試階段處理具有不可見拓撲的圖。

?2 背景知識

2.1 graph spectral filtering

總結

以上是生活随笔為你收集整理的GNN论文笔记： Graph Neural Networks with convolutional ARMA filters的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。