GGNN研究意義:

1、提升在圖結(jié)構(gòu)中長期的信息傳播

2、消息傳播中使用GRU，使用固定數(shù)量的步驟T，遞歸循環(huán)得到節(jié)點表征

3、邊的類型，方向敏感的神經(jīng)網(wǎng)絡(luò)參數(shù)設(shè)計

4、多類應(yīng)用問題，展示了圖神經(jīng)網(wǎng)絡(luò)更多的應(yīng)用以及強大的表征能力

?

本文主要結(jié)構(gòu)如下所示:

一、Abstract

? ? ? ? ?本文提出使用GRU來更新圖的節(jié)點信息，在一些數(shù)據(jù)任務(wù)上驗證了模型的有效性

二、Introduction

? ? ? ? ? 對圖神經(jīng)網(wǎng)絡(luò)進行擴展，解決序列輸出任務(wù)，提出GGS-NNS模型

三、Graph Neural Networks

? ? ? ? ? 回顧之前的圖神經(jīng)網(wǎng)絡(luò)，信息的前向傳播規(guī)則，表示符號? ? ? ? ??

四、Gated Graph Sequence Neural Networks

? ? ? ? ? 提出了GGS-NNS模型輸出序列? ? ? ? ??

? ? ?

? ? ?

五、Explanatory Applications

? ? ? ? ?實驗探究模型有效性: BABI任務(wù)，最短路徑，歐拉圖

? ? ?

六、Program Verification with GGN

? ? ? ? ? 使用GGs-NNs模型，實現(xiàn)自動化的程序驗證

七、Related Work

? ? ? ? ? 回顧之前的的LSTM、GRU等深度學(xué)習(xí)模型，DeepWalk等GNN模型

八、Discussion

? ? ? ? ? 討論實驗的多個任務(wù)、本質(zhì)都是圖結(jié)構(gòu)以及目前模型的局限性

九、Code

? ? ? ? ? ?源碼:?https://github.com/chingyaoc/ggnn.pytorch

?

RNN && LSTM效果分析:

1、圖結(jié)構(gòu)數(shù)據(jù)、GNN模型更適用一些

2、RNN記憶能力差，LSTM有改善但不能完全解決

3、圖結(jié)構(gòu)的數(shù)據(jù)，數(shù)據(jù)順序不影響輸出，不存在RNN等建模的序列化信息

關(guān)鍵點:

?1、GGNN模型結(jié)構(gòu)? ?2、參數(shù)矩陣由邊的類型和方向決定??

創(chuàng)新點:

1、GRU更新消息框架? 2、序列模型GGS-NNS

啟發(fā)點:

1、用RNN方法定義GNN

2、迭代不要求收斂，可迭代固定步長

3、GGNN模型的graph layer層數(shù)可以較多

4、每一種邊對應(yīng)的參數(shù)矩陣可以處理異構(gòu)圖

5、與GNN常用框架之間的聯(lián)系

6、將CNN和RNN發(fā)展的技術(shù)應(yīng)用到GNN

?

總結(jié)

以上是生活随笔為你收集整理的GGNN(Gated Graph Sequence Neural Networks)的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。