特征图大小_新手向快速了解图神经网络
生活随笔
收集整理的這篇文章主要介紹了
特征图大小_新手向快速了解图神经网络
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
這兩天稍微看了點圖神經網絡的東西,稍微做個記錄,第一次接觸這個名詞的推薦可以看一下知乎上一個視頻
簡單粗暴帶你快速理解圖神經網絡GNN
圖神經網絡處理的數據一般就是個圖,圖網絡具有節點特征和結構特征,圖神經網絡的本質提示就是提取特征。
這個特征提取的思路也很make sense,把相鄰節點的特征結合起來,這也叫做聚合,結合得到的信息和自身特征進行融合,這就叫更新。所以GNN其實就是不斷將相鄰節點的信息進行融合的過程。
假設一個圖有
個節點,每個節點用一個特征向量來表示,初始特征維度為 ,也就是說拿到這個圖的時候,我們的原始特征數據是個 的矩陣 ,每一行代表一個節點的特征向量。除此之外,由于這是一個圖,我們還知道節點之間的連接關系,因此可以得到這個圖的鄰接矩陣
,其中 代表 和 兩個節點是相連的(對于無向圖,“你連我”和“我連你”是一樣的,所以這個矩陣是對稱的)。有了原始特征
和節點之間的關系矩陣 ,我們就可以進行特征提取了。這個特征提取的過程可以理解為常規神經網絡的隱藏層,或者說是一個映射不同的網絡的區別可以體現在映射
的設計上,舉個簡單的例子,這個映射可以是可以理解為對該層特征進行加權后通過鄰接矩陣進行過濾,再通過relu函數增加點非線性。事實也說明了這樣一種形式是可行的,但是有兩個需要解決的問題
- 節點聚合得到的特征是相鄰節點的特征聚合,不包含節點本身
- 提取出來的特征大小跟圖節點的度(可以理解為相鄰節點的個數)有關,度大的節點特征較大,這可能會導致梯度消失或爆炸
對于這兩個問題自然也有了相應的解決措施:
- 鄰接矩陣加入自環: ,其實可以理解為聚合鄰居特征是把自己加上去唄
- 度的大小影響特征的大小,那就用度矩陣來歸一化一下,
經過改進,得到的映射就是
其中
就是加入自環的鄰接矩陣, 就是根據 得到的度矩陣(對角陣, )。另外推薦幾個不錯的參考資料
2. @小小將 寫的文章
小小將:2020年,我終于決定入門GCN?zhuanlan.zhihu.com3. 知乎上的高贊評論
如何理解 Graph Convolutional Network(GCN)??www.zhihu.com總結
以上是生活随笔為你收集整理的特征图大小_新手向快速了解图神经网络的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 中压缩数组_Java稀梳数组,什么是稀梳
- 下一篇: 绘制pr曲线图_生存分析如何绘制事件发生