GNN綜述閱讀報告,報告涵蓋有多篇GNN方面的論文,以及一個按照論文《The Graph Neural Network Model 》使用pytorch編寫的模型例子,該模型在人工數據上進行運行和驗證。項目倉的結構樹為
|-/GNN_Review.md # GNN綜述Markdown文檔
|-/GNN_Review1.1.pdf # GNN綜述PDF版文檔
|-/README.md # README文檔
|-/GNN示例代碼/ # 示例代碼文檔
|-images/ # 示例圖像
|-GNN實例.ipynb # .ipynb文件(可直接使用jupyter運行)
|-node_dict.json # 中間的字典文件
|-/pic/ # GNN綜述相關圖片
|-/PyG和Pytorch實現GNN模型 # PyG和Pytorch的GNN模型實現文檔和代碼
|-cora/ # cora數據集
|-pic/ # 文檔圖片
|-data/ # 數據集文件夾
|-Cora數據集.md # Cora數據集介紹文檔
|-GNN_Implement_with_Pytorch.ipynb # 使用Pytorch實現GCN和Linear GNN示例
|-GNN_Implemet_with_PyG.ipynb # 使用PyG實現GCN示例
|-GNN與子圖匹配.ipynb # GNN的子圖匹配示例
|-GNN的Batch示例.ipynb # GNN訓練的Batch實現示例
|-PyG.md # PyG框架閱讀報告
GNN_Review報告的結構如下
在本章中,我們將關注更復雜的編碼器模型。我們將介紹圖神經網絡(GNN)的形式,它是定義圖數據上的深度神經網絡的一般框架。關鍵思想是,我們想要生成實際上依賴于圖結構的節點的表示,以及我們可能擁有的任何特征信息。在開發復雜的圖結構數據編碼器的主要挑戰是,我們通常的深度學習工具箱不適用。例如,卷積神經網絡(CNNs)只在網格結構的輸入(如圖像)上定義良好,而遞歸神經網絡(RNNs)只在序列(如文本)上定義良好。要在一般圖上定義深度神經網絡,我們需要定義一種新的深度學習架構。
圖神經網絡教程 Graph Convolutional Networks Graph Sampling Methods Application and PyTorch Implementation
圖神經網絡(GNN)是一種學習圖結構的神經網絡。學習圖結構允許我們在歐幾里德空間中表示圖的節點,這對于一些下游的機器學習任務非常有用。最近關于GNN的工作在鏈接預測、圖分類和半監督任務方面表現出了令人印象深刻的性能(Hamilton et al., 2017b)。由于人們對機器學習社區越來越感興趣,希望更多地了解這些技術,因此本文提供了關于GNN的介紹。
本文組織如下:首先,介紹了圖和網絡的基本概念。其次,我們描述了在GNNs中用于計算節點嵌入的主要步驟。接下來,我們將介紹現有文獻中經常提到的三種GNN技術。最后,我們對該領域的其他著名作品進行了有限的綜述
題目: Graph Neural Networks:A Review of Methods and Applications
簡介: 許多學習任務需要處理圖形數據,該圖形數據包含元素之間的關系信息。對物理系統進行建模,學習分子指紋,預測蛋白質界面以及對疾病進行分類,都需要從圖輸入中學習模型。在諸如從文本和圖像之類的非結構數據中學習的其他領域中,對提取結構的推理,例如句子的依存關系樹和圖像的場景圖,是一個重要的研究課題,它也需要圖推理模型。圖神經網絡(GNN)是連接器模型,可通過在圖的節點之間傳遞消息來捕獲圖的依賴性。與標準神經網絡不同,圖神經網絡保留一種狀態,該狀態可以表示來自其鄰域的任意深度的信息。盡管已經發現難以訓練原始圖神經網絡來固定點,但是網絡體系結構,優化技術和并行計算的最新進展已使他們能夠成功學習。近年來,基于圖卷積網絡(GCN)和門控圖神經網絡(GGNN)的系統已經在上述許多任務上展示了突破性的性能。在本綜述中,我們對現有的圖神經網絡模型進行了詳細的回顧,對應用程序進行了系統分類,并提出了四個未解決的問題,供以后研究。
作者簡介: 周杰,教授,清華大學自動化系黨委書記,教授,博士生導師。