【图专题】三篇图神经网络中的图核函数:主要学习图的拓扑结构从而解决图分类问题...
導(dǎo)讀:Graph kernel可以直觀地理解為測(cè)量圖相似度的函數(shù)。它們?cè)试S如支持向量機(jī)之類的內(nèi)核化學(xué)習(xí)算法直接在圖上工作,而不需要進(jìn)行特征提取即可將其轉(zhuǎn)換為固定長(zhǎng)度的實(shí)值特征向量。一個(gè)簡(jiǎn)單的例子是隨機(jī)游動(dòng)核,它在概念上同時(shí)對(duì)兩個(gè)圖執(zhí)行隨機(jī)游動(dòng),然后計(jì)算兩次游動(dòng)產(chǎn)生的路徑數(shù)。這等效于在這對(duì)圖的直接積上進(jìn)行隨機(jī)游走,并由此得出可以有效計(jì)算的核。
Graph kennel 是一種kernel method, kernel method 在圖結(jié)構(gòu)中的研究主要有兩類:一是Graph embedding 算法,將圖(Graph)結(jié)構(gòu)嵌入到向量空間;另一類就是Graph kernel算法。第一類得到圖結(jié)構(gòu)的向量化表示,然后直接應(yīng)用基于向量的核函數(shù)(RBF kernel, Sigmoid kernel, etc.) 處理,但是這類方法將結(jié)構(gòu)化數(shù)據(jù)降維到向量空間損失了大量結(jié)構(gòu)化信息。而Graph kernel 直接面向圖結(jié)構(gòu)數(shù)據(jù),既保留了核函數(shù)計(jì)算高效的優(yōu)點(diǎn),又包含了圖數(shù)據(jù)在希爾伯特高維空間的結(jié)構(gòu)化信息。
1. Learning Metrics for Persistence-Based Summaries and Applications for Graph Classification (NIPS 2019)
Qi Zhao, Yusu Wang
Paper: https://arxiv.org/abs/1904.12189
Code: https://github.com/topology474/WKPI
本文關(guān)注圖中的persistent homology (and its corresponding persistence diagram summary)。目前已經(jīng)有一系列方法來(lái)將persistence diagram映射到矢量表示,以便于機(jī)器學(xué)習(xí)下游使用。在這些方法中,經(jīng)常預(yù)設(shè)不同持久性特征的重要性(權(quán)重)。但是,在實(shí)踐中,權(quán)重函數(shù)的選擇通常應(yīng)取決于人們考慮的特定數(shù)據(jù)類型的性質(zhì),因此,非常有必要從標(biāo)記的數(shù)據(jù)中自動(dòng)學(xué)習(xí)最佳權(quán)重函數(shù)(并由此得出持久性圖的度量)。本文作者研究了這個(gè)問(wèn)題,并為persistence summaries提出了一個(gè)新的加權(quán)內(nèi)核,稱為WKPI,以及一個(gè)優(yōu)化框架,以學(xué)習(xí)persistence summaries的良好度量。本文的內(nèi)核和優(yōu)化問(wèn)題都具有很好的屬性。學(xué)習(xí)到的內(nèi)核應(yīng)用于圖分類的任務(wù)中,并表明基于WKPI的分類框架比一系列基準(zhǔn)圖數(shù)據(jù)集上的一系列先前圖分類框架的最佳結(jié)果獲得的相似或更好的結(jié)果(有時(shí)明顯) 。
2. A Persistent Weisfeiler–Lehman Procedure for Graph Classification?(ICML 2019)
Sebastian Rieck, Christian Bock, and Karsten Borgwardt
Paper: http://proceedings.mlr.press/v97/rieck19a/rieck19a.pdf
Python Reference: https://github.com/BorgwardtLab/P-WL
Weisfeiler-Lehman圖內(nèi)核在許多圖分類任務(wù)中表現(xiàn)出競(jìng)爭(zhēng)優(yōu)勢(shì)。但是,其子樹(shù)特征無(wú)法捕獲連接的成分和環(huán),但是這些是用于表征graph-level拓?fù)浞浅V匾奶卣鳌榱颂崛〈祟愄卣?#xff0c;本文利用節(jié)點(diǎn)標(biāo)簽信息并將未加權(quán)的圖轉(zhuǎn)換為度量圖。這能夠利用持久性同源性(拓?fù)鋽?shù)據(jù)分析的概念)獲得的拓?fù)湫畔?lái)擴(kuò)充子樹(shù)特征。本文的方法可以看做是Weisfeiler-Lehman的泛化,具有良好的分類精度,其中的漲點(diǎn)主要在于循環(huán)信息的利用(cycle information)
最后的3PH就是提到的persistent?homology (PH) features
3. Message Passing Graph Kernels?(2018)
Giannis Nikolentzos, Michalis Vazirgiannis
Paper: https://arxiv.org/pdf/1808.02510.pdf
Python Reference: https://github.com/giannisnik/message_passing_graph_kernels
圖內(nèi)核可以用于解決圖相似性和以及圖學(xué)習(xí)的任務(wù)。在本文中,作者提出了一個(gè)用于設(shè)計(jì)圖內(nèi)核的通用框架。所提出的框架利用了圖上眾所周知的消息傳遞方案。?該框架的內(nèi)核包含兩個(gè)組件。第一個(gè)分量是頂點(diǎn)之間的核,而第二個(gè)分量是圖之間的核。?本文提出的框架背后的主要思想是使用迭代隱式地更新頂點(diǎn)的表示。然后,這些表示用作比較圖對(duì)的內(nèi)核的構(gòu)建塊。?作者推導(dǎo)了所提出框架的四個(gè)實(shí)例,并通過(guò)廣泛的實(shí)驗(yàn)表明,這些實(shí)例在各種任務(wù)中與最新方法具有競(jìng)爭(zhēng)力。
往期精彩回顧適合初學(xué)者入門人工智能的路線及資料下載機(jī)器學(xué)習(xí)及深度學(xué)習(xí)筆記等資料打印機(jī)器學(xué)習(xí)在線手冊(cè)深度學(xué)習(xí)筆記專輯AI基礎(chǔ)下載(pdf更新到25集)機(jī)器學(xué)習(xí)的數(shù)學(xué)基礎(chǔ)專輯獲取一折本站知識(shí)星球優(yōu)惠券,復(fù)制鏈接直接打開(kāi):https://t.zsxq.com/yFQV7am本站qq群1003271085,加入微信群請(qǐng)掃碼喜歡文章,點(diǎn)個(gè)在看總結(jié)
以上是生活随笔為你收集整理的【图专题】三篇图神经网络中的图核函数:主要学习图的拓扑结构从而解决图分类问题...的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 【Python应用】Python+Kep
- 下一篇: Github标星8.3k+,Tensor