GAT研究意義:

1、圖卷積神經網絡常用的幾個模型之一(GCN、GAT、GraphSAGE)

2、將Attention機制引入到圖神經網絡中

3、支持歸納式學習和直推式學習

4、模型具有一定的可解釋性

?

本文主要結構如下所示:

一、摘要Abstract

背景介紹及提出GAT模型、圖卷積神經網絡模型、在節點特征從鄰居匯聚的時候考慮權重，適用于直推式和歸納式學習

1、在圖結構上使用注意力機制，并提出圖注意力網絡GAT

2、為每一個中心節點的不同鄰居指定不同的權重，計算效率高

3、適用于直推式學習和歸納式學習

4、在多個數據集上達到最優效果

二、Introduction

介紹圖的廣泛應用，以及如何將卷積操作應用到圖上，介紹空域和頻域的兩類方法，以及注意力機制并引出本文的模型(GAT)

三、Gat Architecture

介紹GAT模型的結構并于之前的模型做對比

四、Evalution

實驗部分，主要針對數據集介紹、baseline選取、直推式和歸納式兩種實驗方式以及圖的節點分類效果對比

五、Conclusion

總結提出了GAT模型使用了注意力機制，鄰居匯聚時考慮不同的權重，同時具有歸納式學習的能力，并討論幾種未來方向，如模型的可解釋性和圖的分類

? ? ? ?關鍵點:? 1、消息傳遞機制? 2、模型改進和區別? 3、GAT模型結構和分析??

? ? ? ?創新點:? 1、Attention機制? 2、Multi-head技術? 3、直推式 和 歸納式 學習

? ? ? ?啟發點:? 1、深度學習技術應用到圖領域中

? ? ? ? ? ? ? ? ? ? ?2、Attention機制的引入衡量鄰居的不同權重，有更好的解釋性

? ? ? ? ? ? ? ? ? ? ?3、直推式和歸納式學習討論，圖的設定上啟發不同的工作

? ? ? ? ? ? ? ? ? ? ?4、GAT廣泛應用到各種應用問題

? ? ? ? ? ? ? ? ? ? ?5、GCN、GAT、GraphSAGE非常重要的模型，也是經典的baselines

? ? ? ? ? ? ? ? ? ? ?6、模型學習要總結出共性、統一的框架

?

《新程序員》：云原生和全面數字化實踐50位技術專家共同創作，文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的Graph Attention Networks的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。