時晴,本文大多摘自引文Rishabh Anand的文章

GNN的可視化解釋！

簡 介

近來發(fā)現(xiàn)非常多的建模問題中都使用了GNN方法，便去學習了一番，后來發(fā)現(xiàn)了一篇非常不錯的GNN的可視化解釋文章，便將其翻譯整理和大家一起分享。

目前圖模型的應用非常廣泛，最典型的如社交網(wǎng)絡，蛋白質(zhì)結構等。最近越來越多的圖算法也被應用于搜索推薦，時間序列等的問題，并且都取得了非常大的成功，本文我們直觀的不帶有任何數(shù)學等形式的了解一下圖神經(jīng)網(wǎng)絡。

大家一定會非常好奇，圖神經(jīng)網(wǎng)絡究竟哪里好，它能學到其它網(wǎng)絡學不到的東西嗎？下面我們就一起來看看GNN是如何工作的。

GNN

1.關于圖

圖一般由兩個核心模塊組成，分別是：節(jié)點和邊。

如上圖所示，黑色的箭頭是邊的指向，表示一種關系，注意此處我們表示的是有向圖。

雖然圖很簡單，但如果我們賦予節(jié)點和邊不同的含義的話，那么圖就可以非常多的信息，例如每個節(jié)點是用戶，邊是打電話的話，那么就可以表示一個電話相關的社交；如果節(jié)點是商品，邊表示用戶的購買順序的話，那么就是一個用戶的購物網(wǎng)絡。

? 2.一些概念

recurrent單元，嵌入向量表示和前向神經(jīng)網(wǎng)絡。

我們假設特征向量是當前節(jié)點索引的一個熱編碼，標簽用顏色表示，如下圖所示：

所有的節(jié)點被轉(zhuǎn)化為一個recurrent單元， 所有的邊組成一個前向神經(jīng)網(wǎng)絡。

3.信息傳遞

一旦節(jié)點和邊的轉(zhuǎn)換完成，圖就會在節(jié)點之間執(zhí)行消息傳遞。這個過程也被稱為Neighbourhood Aggregation，因為它涉及到通過有向邊從給定引用節(jié)點周圍的周圍節(jié)點推送消息。

對于GNNs，對于單個參考節(jié)點，相鄰節(jié)點通過邊神經(jīng)網(wǎng)絡將其信息（embeddings）傳遞到參考節(jié)點上的遞歸單元中。遞歸單元的新嵌入將通過將所說的遞歸函數(shù)應用于當前embeddings和相鄰節(jié)點embeddings的邊緣神經(jīng)網(wǎng)絡輸出的總和來更新。

注意：邊神經(jīng)網(wǎng)絡輸出的和（圖中的黑色封套）是輸出順序的不變量。

4.傳遞之后最終得到的向量表示是什么呢？

執(zhí)行了幾次鄰域聚合/消息傳遞之后，我們的每個節(jié)點單元就變成了一組全新的embedding。

• 當前每個節(jié)點對自己和相鄰節(jié)點的信息（特征）會有更多的了解，從而得到整個圖更精確的表示。

為了在pipeline的更高層進行進一步的處理，或者簡單地表示圖，我們可以將所有embeddings相加，得到表示整個圖形的向量。

• 使用H比使用鄰接矩陣往往效果更好，這些矩陣不代表圖形的特征或獨特方面，盡管存在任何圖形扭曲-只是節(jié)點之間的邊連接。

小 結

從上面的分析我們可以發(fā)現(xiàn)，在使用圖的時候我們可以簡單的將其劃分為下面幾步：

• 給定一個圖，首先將節(jié)點轉(zhuǎn)化為遞歸單元，將邊轉(zhuǎn)化為前饋神經(jīng)網(wǎng)絡；

• 對所有節(jié)點執(zhí)行n次鄰域聚合（消息傳遞）。

• 對所有節(jié)點的嵌入向量求和得到圖表示H。

• 將H傳遞到更高的層中，或者使用它來表示圖形的獨特屬性！

何時使用？

從上面GNN的直觀解釋中，我們知道了圖形神經(jīng)網(wǎng)絡是如何工作的，那什么時候使用它會更為方便或者什么時候可以直接使用它呢？

• 社交媒體中，對用戶進行聚類的時候可以使用，依據(jù)每個用戶follow和被follow的信息構建圖，然后學習每個用戶的embeddings信息聚類；

• 內(nèi)容推薦，依據(jù)用戶流量內(nèi)容的關聯(lián)關系，對用戶進行內(nèi)容推薦；

當然，我覺得只要是能構建成圖的數(shù)據(jù)，都可以嘗試使用gnn。

參考文獻

1.An Illustrated Guide to Graph Neural Networks

往期精彩回顧適合初學者入門人工智能的路線及資料下載機器學習及深度學習筆記等資料打印機器學習在線手冊深度學習筆記專輯《統(tǒng)計學習方法》的代碼復現(xiàn)專輯 AI基礎下載機器學習的數(shù)學基礎專輯溫州大學《機器學習課程》視頻 本站qq群851320808，加入微信群請掃碼：

總結

以上是生活随笔為你收集整理的【GNN】啥是GNN？GNN咋学？GNN何用？的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。