【图专题】三篇图神经网络中的图核函数:主要学习图的拓扑结构从而解决图分类问题...
導讀:Graph kernel可以直觀地理解為測量圖相似度的函數。它們允許如支持向量機之類的內核化學習算法直接在圖上工作,而不需要進行特征提取即可將其轉換為固定長度的實值特征向量。一個簡單的例子是隨機游動核,它在概念上同時對兩個圖執行隨機游動,然后計算兩次游動產生的路徑數。這等效于在這對圖的直接積上進行隨機游走,并由此得出可以有效計算的核。
Graph kennel 是一種kernel method, kernel method 在圖結構中的研究主要有兩類:一是Graph embedding 算法,將圖(Graph)結構嵌入到向量空間;另一類就是Graph kernel算法。第一類得到圖結構的向量化表示,然后直接應用基于向量的核函數(RBF kernel, Sigmoid kernel, etc.) 處理,但是這類方法將結構化數據降維到向量空間損失了大量結構化信息。而Graph kernel 直接面向圖結構數據,既保留了核函數計算高效的優點,又包含了圖數據在希爾伯特高維空間的結構化信息。
1. Learning Metrics for Persistence-Based Summaries and Applications for Graph Classification (NIPS 2019)
Qi Zhao, Yusu Wang
Paper: https://arxiv.org/abs/1904.12189
Code: https://github.com/topology474/WKPI
本文關注圖中的persistent homology (and its corresponding persistence diagram summary)。目前已經有一系列方法來將persistence diagram映射到矢量表示,以便于機器學習下游使用。在這些方法中,經常預設不同持久性特征的重要性(權重)。但是,在實踐中,權重函數的選擇通常應取決于人們考慮的特定數據類型的性質,因此,非常有必要從標記的數據中自動學習最佳權重函數(并由此得出持久性圖的度量)。本文作者研究了這個問題,并為persistence summaries提出了一個新的加權內核,稱為WKPI,以及一個優化框架,以學習persistence summaries的良好度量。本文的內核和優化問題都具有很好的屬性。學習到的內核應用于圖分類的任務中,并表明基于WKPI的分類框架比一系列基準圖數據集上的一系列先前圖分類框架的最佳結果獲得的相似或更好的結果(有時明顯) 。
2. A Persistent Weisfeiler–Lehman Procedure for Graph Classification?(ICML 2019)
Sebastian Rieck, Christian Bock, and Karsten Borgwardt
Paper: http://proceedings.mlr.press/v97/rieck19a/rieck19a.pdf
Python Reference: https://github.com/BorgwardtLab/P-WL
Weisfeiler-Lehman圖內核在許多圖分類任務中表現出競爭優勢。但是,其子樹特征無法捕獲連接的成分和環,但是這些是用于表征graph-level拓撲非常重要的特征。為了提取此類特征,本文利用節點標簽信息并將未加權的圖轉換為度量圖。這能夠利用持久性同源性(拓撲數據分析的概念)獲得的拓撲信息來擴充子樹特征。本文的方法可以看做是Weisfeiler-Lehman的泛化,具有良好的分類精度,其中的漲點主要在于循環信息的利用(cycle information)
最后的3PH就是提到的persistent?homology (PH) features
3. Message Passing Graph Kernels?(2018)
Giannis Nikolentzos, Michalis Vazirgiannis
Paper: https://arxiv.org/pdf/1808.02510.pdf
Python Reference: https://github.com/giannisnik/message_passing_graph_kernels
圖內核可以用于解決圖相似性和以及圖學習的任務。在本文中,作者提出了一個用于設計圖內核的通用框架。所提出的框架利用了圖上眾所周知的消息傳遞方案。?該框架的內核包含兩個組件。第一個分量是頂點之間的核,而第二個分量是圖之間的核。?本文提出的框架背后的主要思想是使用迭代隱式地更新頂點的表示。然后,這些表示用作比較圖對的內核的構建塊。?作者推導了所提出框架的四個實例,并通過廣泛的實驗表明,這些實例在各種任務中與最新方法具有競爭力。
往期精彩回顧適合初學者入門人工智能的路線及資料下載機器學習及深度學習筆記等資料打印機器學習在線手冊深度學習筆記專輯AI基礎下載(pdf更新到25集)機器學習的數學基礎專輯獲取一折本站知識星球優惠券,復制鏈接直接打開:https://t.zsxq.com/yFQV7am本站qq群1003271085,加入微信群請掃碼喜歡文章,點個在看總結
以上是生活随笔為你收集整理的【图专题】三篇图神经网络中的图核函数:主要学习图的拓扑结构从而解决图分类问题...的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【Python应用】Python+Kep
- 下一篇: Github标星8.3k+,Tensor