GGNN(Gated Graph Sequence Neural Networks)
GGNN研究意義:
1、提升在圖結構中長期的信息傳播
2、消息傳播中使用GRU,使用固定數量的步驟T,遞歸循環得到節點表征
3、邊的類型,方向敏感的神經網絡參數設計
4、多類應用問題,展示了圖神經網絡更多的應用以及強大的表征能力
?
本文主要結構如下所示:
一、Abstract
? ? ? ? ?本文提出使用GRU來更新圖的節點信息,在一些數據任務上驗證了模型的有效性
二、Introduction
? ? ? ? ? 對圖神經網絡進行擴展,解決序列輸出任務,提出GGS-NNS模型
三、Graph Neural Networks
? ? ? ? ? 回顧之前的圖神經網絡,信息的前向傳播規則,表示符號? ? ? ? ??
四、Gated Graph Sequence Neural Networks
? ? ? ? ? 提出了GGS-NNS模型輸出序列? ? ? ? ??
? ? ?
? ? ?
五、Explanatory Applications
? ? ? ? ?實驗探究模型有效性: BABI任務,最短路徑,歐拉圖
? ? ?
六、Program Verification with GGN
? ? ? ? ? 使用GGs-NNs模型,實現自動化的程序驗證
七、Related Work
? ? ? ? ? 回顧之前的的LSTM、GRU等深度學習模型,DeepWalk等GNN模型
八、Discussion
? ? ? ? ? 討論實驗的多個任務、本質都是圖結構以及目前模型的局限性
九、Code
? ? ? ? ? ?源碼:?https://github.com/chingyaoc/ggnn.pytorch
?
RNN && LSTM效果分析:
1、圖結構數據、GNN模型更適用一些
2、RNN記憶能力差,LSTM有改善但不能完全解決
3、圖結構的數據,數據順序不影響輸出,不存在RNN等建模的序列化信息
關鍵點:
?1、GGNN模型結構? ?2、參數矩陣由邊的類型和方向決定??
創新點:
1、GRU更新消息框架? 2、序列模型GGS-NNS
啟發點:
1、用RNN方法定義GNN
2、迭代不要求收斂,可迭代固定步長
3、GGNN模型的graph layer層數可以較多
4、每一種邊對應的參數矩陣可以處理異構圖
5、與GNN常用框架之間的聯系
6、將CNN和RNN發展的技術應用到GNN
?
總結
以上是生活随笔為你收集整理的GGNN(Gated Graph Sequence Neural Networks)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Graph Attention Netw
- 下一篇: SiameseNet(Learning