亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

【導讀】作為世界數據挖掘領域的最高級別的學術會議，ACM SIGKDD（國際數據挖掘與知識發現大會，簡稱 KDD）每年都會吸引全球領域眾多專業人士參與。今年的 KDD大會計劃將于 2020 年 8 月 23 日 ~27 日在美國美國加利福尼亞州圣地亞哥舉行。上周，KDD 2020官方發布接收論文，共有1279篇論文提交到Research Track，共216篇被接收，接收率16.8%。近期KDD官網公布了接受論文列表，為此，上個月專知小編為大家整理了圖神經網絡相關的論文，這期小編繼續為大家奉上KDD 2020必讀的五篇圖神經網絡（GNN）相關論文-Part 2——多層次GCN、無監督預訓練GCN、圖Hash、GCN主題模型、采樣

KDD 2020 Accepted Paper: //www.kdd.org/kdd2020/accepted-papers

KDD2020GNN_Part1、CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、

1. Multi-level Graph Convolutional Networks for Cross-platform Anchor Link Prediction

作者：Hongxu Chen, Hongzhi Yin, Xiangguo Sun, Tong Chen, Bogdan Gabrys, Katarzyna Musial

摘要：跨平臺的賬號匹配在社交網絡分析中發揮著重要作用，并且有利于廣泛的應用。然而，現有的方法要么嚴重依賴于高質量的用戶生成內容(包括用戶興趣模型)，要么只關注網絡拓撲結構，存在數據不足的問題，這使得研究這個方向變得很困難。為了解決這一問題，我們提出了一種新的框架，該框架統一考慮了局部網絡結構和超圖結構上的多級圖卷積。該方法克服了現有工作中數據不足的問題，并且不一定依賴于用戶的人口統計信息。此外，為了使所提出的方法能夠處理大規模社交網絡，我們提出了一種兩階段的空間協調機制，在基于網絡分區的并行訓練和跨不同社交網絡的帳戶匹配中對齊嵌入空間。我們在兩個大規模的真實社交網絡上進行了廣泛的實驗。實驗結果表明，該方法的性能比現有的模型有較大幅度的提高。

網址：

2. GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training

作者：Jiezhong Qiu, Qibin Chen, Yuxiao Dong, Jing Zhang, Hongxia Yang, Ming Ding, Kuansan Wang, Jie Tang

摘要：圖表示學習已經成為解決現實問題的一種強有力的技術。包括節點分類、相似性搜索、圖分類和鏈接預測在內的各種下游圖學習任務都受益于它的最新發展。然而，關于圖表示學習的現有技術集中于領域特定的問題，并為每個圖訓練專用模型，這通常不可轉移到領域之外的數據。受自然語言處理和計算機視覺在預訓練方面的最新進展的啟發，我們設計了圖對比編碼(Graph Contrastive Coding，GCC)一個無監督的圖表示學習框架來捕捉跨多個網絡的通用網絡拓撲屬性。我們將GCC的預訓練任務設計為網絡內部和網絡之間的子圖級別的實例判斷，并利用對比學習來增強模型學習內在的和可遷移的結構表征能力。我們在三個圖學習任務和十個圖數據集上進行了廣泛的實驗。結果表明，GCC在一組不同的數據集上進行預訓練，可以獲得與從頭開始的特定任務訓練的方法相媲美或更好的性能。這表明，預訓練和微調范式對圖表示學習具有巨大的潛力。

網址：

代碼鏈接：

3. GHashing: Semantic Graph Hashing for Approximate Similarity Search in Graph Databases

作者：Zongyue Qin, Yunsheng Bai, Yizhou Sun

摘要：圖相似搜索的目的是根據給定的鄰近度，即圖編輯距離(GED)，在圖形數據庫中找到與查詢最相似的圖。這是一個被廣泛研究但仍具有挑戰性的問題。大多數研究都是基于剪枝驗證框架，該框架首先對非看好的圖進行剪枝，然后在較小的候選集上進行驗證。現有的方法能夠管理具有數千或數萬個圖的數據庫，但由于其精確的剪枝策略，無法擴展到更大的數據庫。受到最近基于深度學習的語義哈希（semantic hashing）在圖像和文檔檢索中的成功應用的啟發，我們提出了一種新的基于圖神經網絡(GNN)的語義哈希，即GHash，用于近似剪枝。我們首先用真實的GED結果訓練GNN，以便它學習生成嵌入和哈希碼，以保持圖之間的GED。然后建立哈希索引以實現恒定時間內的圖查找。在回答一個查詢時，我們使用哈希碼和連續嵌入作為兩級剪枝來檢索最有希望的候選對象，并將這些候選對象發送到精確的求解器進行最終驗證。由于我們的圖哈希技術利用了近似剪枝策略，與現有方法相比，我們的方法在保持高召回率的同時，實現了顯著更快的查詢時間。實驗表明，該方法的平均速度是目前唯一適用于百萬級數據庫的基線算法的20倍，這表明GHash算法成功地為解決大規模圖形數據庫的圖搜索問題提供了新的方向。

網址：

4. Graph Structural-topic Neural Network

作者：Qingqing Long, Yilun Jin, Guojie Song, Yi Li, Wei Lin

摘要：圖卷積網絡(GCNS)通過有效地收集節點的局部特征，取得了巨大的成功。然而，GCNS通常更多地關注節點特征，而較少關注鄰域內的圖結構，特別是高階結構模式。然而，這種局部結構模式被顯示為許多領域中的節點屬性。此外，由于網絡很復雜，每個節點的鄰域由各種節點和結構模式的混合組成，不只是單個模式，所有這些模式上的分布都很重要。相應地，在本文中，我們提出了圖結構主題神經網絡，簡稱GraphSTONE，這是一種利用圖的主題模型的GCN模型，使得結構主題廣泛地從概率的角度捕捉指示性的圖結構，而不僅僅是幾個結構。具體地說，我們使用 anonymous walks和Graph Anchor LDA(一種LDA的變體，首先選擇重要的結構模式)在圖上建立主題模型，以降低復雜性并高效地生成結構主題。此外，我們設計了多視圖GCNS來統一節點特征和結構主題特征，并利用結構主題來指導聚合。我們通過定量和定性實驗對我們的模型進行了評估，我們的模型表現出良好的性能、高效率和清晰的可解釋性。

網址：

代碼鏈接：

5. Minimal Variance Sampling with Provable Guarantees for Fast Training of Graph Neural Networks

作者：Weilin Cong, Rana Forsati, Mahmut Kandemir, Mehrdad Mahdavi

摘要：抽樣方法(如節點抽樣、分層抽樣或子圖抽樣)已成為加速大規模圖神經網絡(GNNs)訓練不可缺少的策略。然而，現有的抽樣方法大多基于圖的結構信息，忽略了最優化的動態性，導致隨機梯度估計的方差較大。高方差問題在非常大的圖中可能非常明顯，它會導致收斂速度慢和泛化能力差。本文從理論上分析了抽樣方法的方差，指出由于經驗風險的復合結構，任何抽樣方法的方差都可以分解為前向階段的嵌入近似方差和后向階段的隨機梯度方差，這兩種方差都必須減小，才能獲得較快的收斂速度。我們提出了一種解耦的方差減小策略，利用(近似)梯度信息自適應地對方差最小的節點進行采樣，并顯式地減小了嵌入近似引入的方差。理論和實驗表明，與現有方法相比，該方法即使在小批量情況下也具有更快的收斂速度和更好的泛化能力。

網址：

【導讀】ICML(International Conference on Machine Learning)，即國際機器學習大會, 是機器學習領域全球最具影響力的學術會議之一，因此在該會議上發表論文的研究者也會備受關注。因疫情的影響, 今年第37屆ICML大會將于2020年7月13日至18日在線上舉行。據官方統計，ICML 2020共提交4990篇論文，接收論文1088篇，接收率為21.8%。與往年相比，接收率逐年走低。在會議開始前夕，專知小編為大家整理了ICML 2020圖神經網絡（GNN）的六篇相關論文供參考——核GNN、特征變換、Haar 圖池化、無監督圖表示、譜聚類、自監督GCN。

ICML 2020 Accepted Papers //icml.cc/Conferences/2020/AcceptedPapersInitial

ACL2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN

1. Convolutional Kernel Networks for Graph-Structured Data

作者：Dexiong Chen, Laurent Jacob, Julien Mairal

摘要：我們引入了一系列多層圖核，并在圖卷積神經網絡和核方法之間建立了新的聯系。我們的方法通過將圖表示為核特征映射序列將卷積核網絡推廣到圖結構數據，其中每個節點攜帶關于局部圖子結構的信息。一方面，核的觀點提供了一種無監督的、有表現力的、易于正規化的數據表示，這在樣本有限的情況下很有用。另一方面，我們的模型也可以在大規模數據上進行端到端的訓練，從而產生了新型的圖卷積神經網絡。我們的方法在幾個圖分類基準上取得了與之相當的性能，同時提供了簡單的模型解釋。

網址：

代碼鏈接：

2. GNN-FILM: Graph Neural Networks with Feature-Wise Linear Modulation 作者：Marc Brockschmidt

摘要：本文提出了一種新的基于特征線性調制（feature-wise linear modulation，FiLM）的圖神經網絡(GNN)。許多標準GNN變體僅通過每條邊的源的表示來計算“信息”，從而沿著圖的邊傳播信息。在GNN-FILE中，邊的目標節點的表示被附加地用于計算可以應用于所有傳入信息的變換，從而允許對傳遞的信息進行基于特征的調制。基于基線方法的重新實現，本文給出了在文獻中提到的三個任務上的不同GNN體系結構的實驗結果。所有方法的超參數都是通過廣泛的搜索找到的，產生了一些令人驚訝的結果：基線模型之間的差異比文獻報道的要小。盡管如此，GNN-FILE在分子圖的回歸任務上的表現優于基線方法，在其他任務上的表現也具有競爭性。

網址：

3. Haar Graph Pooling

作者：Yu Guang Wang, Ming Li, Zheng Ma, Guido Montufar, Xiaosheng Zhuang, Yanan Fan

摘要：深度圖神經網絡(GNNs)是用于圖分類和基于圖的回歸任務的有效模型。在這些任務中，圖池化是GNN適應不同大小和結構的輸入圖的關鍵因素。本文提出了一種新的基于壓縮Haar變換的圖池化操作-HaarPooling。HaarPooling實現了一系列池化操作；它是通過跟隨輸入圖的一系列聚類序列來計算的。HaarPooling層將給定的輸入圖變換為節點數較小、特征維數相同的輸出圖；壓縮Haar變換在Haar小波域中過濾出細節信息。通過這種方式，所有HaarPooling層一起將任何給定輸入圖的特征合成為大小一致的特征向量。這種變換提供了數據的稀疏表征，并保留了輸入圖的結構信息。使用標準圖卷積層和HaarPooling層實現的GNN在各種圖分類和回歸問題上實現了最先進的性能。

網址：

4. Interferometric Graph Transform: a Deep Unsupervised Graph Representation 作者：Edouard Oyallon

摘要：我們提出了Interferometric Graph Transform(IGT)，這是一類用于構建圖表示的新型深度無監督圖卷積神經網絡。我們的第一個貢獻是提出了一種從歐幾里德傅立葉變換的推廣得到的通用復數譜圖結構。基于一個新穎的貪婪凹目標，我們的學習表示既包括可區分的特征，也包括不變的特征。通過實驗可以得到，我們的學習過程利用了譜域的拓撲，這通常是譜方法的一個缺陷，特別是我們的方法可以恢復視覺任務的解析算子。我們在各種具有挑戰性的任務上測試了我們的算法，例如圖像分類(MNIST，CIFAR-10)、社區檢測(Authorship，Facebook graph)和3D骨架視頻中的動作識別(SBU，NTU)，在譜圖非監督環境下展示了一種新的技術水平。

網址：

5. Spectral Clustering with Graph Neural Networks for Graph Pooling

作者：Filippo Maria Bianchi, Daniele Grattarola, Cesare Alippi

摘要：譜聚類(SC)是發現圖上強連通社區的一種流行的聚類技術。SC可以在圖神經網絡(GNN)中使用，以實現聚合屬于同一簇的節點的池化操作。然而，Laplacian的特征分解代價很高，而且由于聚類結果是特定于圖的，因此基于SC的池化方法必須對每個新樣本執行新的優化。在本文中，我們提出了一種圖聚類方法來解決SC的這些局限性。我們建立了歸一化minCUT問題的連續松弛公式，并訓練GNN來計算最小化這一目標的簇分配。我們的基于GNN的實現是可微的，不需要計算譜分解，并且學習了一個聚類函數，可以在樣本外的圖上快速評估。從提出的聚類方法出發，我們設計了一個圖池化算子，它克服了現有圖池化技術的一些重要局限性，并在多個監督和非監督任務中取得了最好的性能。

網址：

6. When Does Self-Supervision Help Graph Convolutional Networks?

作者：Yuning You, Tianlong Chen, Zhangyang Wang, Yang Shen

摘要：自監督作為一種新興的技術已被用于訓練卷積神經網絡(CNNs)，以提高圖像表示學習的可傳遞性、泛化能力和魯棒性。然而，自監督對操作圖形數據的圖卷積網絡(GCNS)的介紹卻很少被探索。在這項研究中，我們首次將自監督納入GCNS的系統探索和評估。我們首先闡述了將自監督納入GCNS的三種機制，分析了預訓練&精調和自訓練的局限性，并進而將重點放在多任務學習上。此外，我們還提出了三種新的GCNS自監督學習任務，并進行了理論分析和數值比較。最后，我們進一步將多任務自監督融入到圖對抗性訓練中。研究結果表明，通過合理設計任務形式和合并機制，自監督有利于GCNS獲得更強的泛化能力和魯棒性。

網址：

代碼鏈接：

【導讀】計算語言學協會（the Association for Computational Linguistics, ACL）年度會議作為頂級的國際會議，在計算語言學和自然語言處理領域一直備受關注。其接收的論文覆蓋了語義分析、文本挖掘、信息抽取、問答系統、機器翻譯、情感分析和意見挖掘等眾多自然語言處理領域的研究方向。今年，第58屆計算語言學協會（the Association for Computational Linguistics, ACL）年度會議將于2020年7月5日至10日在美國華盛頓西雅圖舉行。受COVID-19疫情影響，ACL 2020將全部改為線上舉行。本次ACL大會共提交了3429篇論文，共有571篇長論文、以及208篇短論文入選。不久之前，專知小編為大家整理了大會的圖神經網絡（GNN）相關論文，這期小編繼續為大家奉上ACL 2020圖神經網絡（GNN）相關論文-Part 2供參考——多文檔摘要、多粒度機器閱讀理解、帖子爭議檢測、GAE。

ACL2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN

1. Leveraging Graph to Improve Abstractive Multi-Document Summarization

作者：Wei Li, Xinyan Xiao, Jiachen Liu, Hua Wu, Haifeng Wang, Junping Du

摘要：捕捉文本單元之間關系圖對于從多個文檔中檢測顯著信息和生成整體連貫的摘要有很大好處。本文提出了一種神經抽取多文檔摘要(MDS)模型，該模型可以利用文檔的常見圖表示，如相似度圖和話語圖（discourse graph），來更有效地處理多個輸入文檔并生成摘要。我們的模型使用圖對文檔進行編碼，以捕獲跨文檔關系，這對于總結長文檔至關重要。我們的模型還可以利用圖來指導摘要的生成過程，這有利于生成連貫而簡潔的摘要。此外，預訓練的語言模型可以很容易地與我們的模型相結合，進一步提高了摘要的性能。在WikiSum和MultiNews數據集上的實驗結果表明，所提出的體系結構在幾個強大的基線上帶來了實質性的改進。

網址： //arxiv.org/abs/2005.10043

2. Document Modeling with Graph Attention Networks for Multi-grained Machine Reading Comprehension

作者：Bo Zheng, Haoyang Wen, Yaobo Liang, Nan Duan, Wanxiang Che, Daxin Jiang, Ming Zhou, Ting Liu

摘要：“自然問題”是一種具有挑戰性的新的機器閱讀理解基準，其中包含兩個答案：長答案（通常是一個段落）和短答案（長答案中的一個或多個實體）。盡管此基準測試的現有方法很有效，但它們在訓練期間單獨處理這兩個子任務，忽略了它們間的依賴關系。為了解決這個問題，我們提出了一種新穎的多粒度機器閱讀理解框架，該框架專注于對文檔的分層性質進行建模，這些文檔具有不同的粒度級別：文檔、段落、句子和詞。我們利用圖注意力網絡來獲得不同層次的表示，以便它們可以同時學習。長答案和短答案可以分別從段落級表示和詞級表示中提取。通過這種方式，我們可以對兩個粒度的答案之間的依賴關系進行建模，以便為彼此提供證據。我們聯合訓練這兩個子任務，實驗表明，我們的方法在長答案和短答案標準上都明顯優于以前的系統。

網址：

代碼鏈接：

3. Integrating Semantic and Structural Information with Graph Convolutional Network for Controversy Detection

作者：Lei Zhong, Juan Cao, Qiang Sheng, Junbo Guo, Ziang Wang

摘要：識別社交媒體上有爭議的帖子是挖掘公眾情緒、評估事件影響、緩解兩極分化觀點的基礎任務。然而，現有的方法不能1)有效地融合來自相關帖子內容的語義信息；2)保留回復關系建模的結構信息；3)正確處理與訓練集中主題不同的帖子。為了克服前兩個局限性，我們提出了主題-帖子-評論圖卷積網絡(TPC-GCN)，它綜合了來自主題、帖子和評論的圖結構和內容的信息，用于帖子級別的爭議檢測。對于第三個限制，我們將模型擴展到分離的TPC-GCN(DTPC-GCN)，將主題相關和主題無關的特征分離出來，然后進行動態融合。在兩個真實數據集上的大量實驗表明，我們的模型優于現有的方法。結果和實例分析表明，該模型能夠將語義信息和結構信息有機地結合在一起，具有較強的通用性。

網址：

4. Knowledge Graph-Augmented Abstractive Summarization with Semantic-Driven Cloze Reward

作者：Luyang Huang, Lingfei Wu, Lu Wang

摘要：用于抽取摘要的序列到序列（sequence-to-sequence ）模型已經被廣泛研究，但是生成的摘要通常受到捏造的內容的影響，并且經常被發現是near-extractive的。我們認為，為了解決這些問題，摘要生成器應通過輸入獲取語義解釋，例如通過結構化表示，以允許生成更多信息的摘要。在本文中，我們提出了一種新的抽取摘要框架--Asgard，它具有圖形增強和語義驅動的特點。我們建議使用雙重編碼器-序列文檔編碼器和圖形結構編碼器-來保持實體的全局上下文和局部特征，并且相互補充。我們進一步設計了基于多項選擇完形填空測試的獎勵，以驅動模型更好地捕捉實體交互。結果表明，我們的模型在紐約時報和CNN/每日郵報的數據集上都比沒有知識圖作為輸入的變體產生了更高的Rouge分數。與從大型預訓練的語言模型中優化的系統相比，我們也獲得了更好或可比的性能。評委進一步認為我們的模型輸出信息更豐富，包含的不實錯誤更少。

網址：

5. A Graph Auto-encoder Model of Derivational Morphology

作者：Valentin Hofmann, Hinrich Schutze, Janet B. Pierrehumberty

摘要：關于派生詞的形態良好性(morphological well-formedness, MWF)建模工作在語言學中被認為是一個復雜而困難的問題，并且這方面的研究工作較少。我們提出了一個圖自編碼器學習嵌入以捕捉派生詞中詞綴和詞干的兼容性信息。自編碼器通過將句法和語義信息與來自心理詞典的關聯信息相結合，很好地模擬了英語中的MWF。

網址：

【導讀】作為世界數據挖掘領域的最高級別的學術會議，ACM SIGKDD（國際數據挖掘與知識發現大會，簡稱 KDD）每年都會吸引全球領域眾多專業人士參與。今年的 KDD大會計劃將于 2020 年 8 月 23 日 ~27 日在美國美國加利福尼亞州圣地亞哥舉行。上周，KDD 2020官方發布接收論文，共有1279篇論文提交到Research Track，共216篇被接收，接收率16.8%。近期一些Paper放出來了，為此，專知小編提前為大家整理了五篇KDD 2020 圖神經網絡（GNN）相關論文，供大家參考。——圖結構學習、多元時間序列預測、負采樣、多任務多視角圖表示學習、多興趣推薦

CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN、

1. Graph Structure Learning for Robust Graph Neural Networks

作者：Wei Jin, Yao Ma, Xiaorui Liu, Xianfeng Tang, Suhang Wang, Jiliang Tang

摘要：圖神經網絡(GNNs)是圖表示學習的有力工具。但是，最近的研究表明，GNN容易受到精心設計的擾動（稱為對抗攻擊）的攻擊。對抗性攻擊很容易欺騙GNN來預測下游任務。對于對抗攻擊的脆弱性使人們越來越關注在安全關鍵型應用中應用GNN。因此，開發穩健的算法來防御對抗攻擊具有重要意義。防御對抗攻擊的一個自然想法是清理受干擾的圖。很明顯，真實世界的圖共享一些內在屬性。例如，許多現實世界的圖都是低秩和稀疏的，兩個相鄰節點的特征往往是相似的。事實上，我們發現對抗攻擊很可能會違背這些圖的性質。因此，在本文中，我們利用這些特性來防御針對圖的對抗攻擊。特別是，我們提出了一個通用框架Pro-GNN，該框架可以從受這些特性指導的擾動圖中聯合學習結構圖和魯棒圖神經網絡模型。在真實圖上的大量實驗表明，即使在圖受到嚴重干擾的情況下，我們所提出的框架也比現有的防御方法獲得了顯著更好的性能。我們將Pro-GNN的實現發布到我們的DeepRobust存儲庫，以進行對抗性攻擊和防御。

網址： //arxiv.org/pdf/2005.10203.pdf

代碼鏈接：

2. Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks

作者：Zonghan Wu, Shirui Pan, Guodong Long, Jing Jiang, Xiaojun Chang, Chengqi Zhang

摘要：多變量時間序列的建模長期以來一直吸引著來自經濟、金融和交通等不同領域的研究人員的關注。多變量時間序列預測背后的一個基本假設是其變量之間相互依賴，但現有方法未能充分利用變量對之間的潛在空間相關性。同時，近些年來，圖神經網絡(GNNs)在處理關系依賴方面表現出了很高的能力。GNN需要定義良好的圖結構來進行信息傳播，這意味著它們不能直接應用于事先不知道依賴關系的多變量時間序列。本文提出了一種專門針對多變量時間序列數據設計的通用圖神經網絡框架。該方法通過圖學習模塊自動提取變量間的單向關系，可以方便地集成變量屬性等外部知識。在此基礎上，提出了一種新的max-hop傳播層和一個dilated inception層來捕捉時間序列中的時間和空間依賴關系。圖學習、圖卷積和時間卷積模塊在端到端框架中聯合學習。實驗結果表明，我們提出的模型在4個基準數據集中的3個數據上優于最新的基線方法，并且在提供額外結構信息的兩個交通數據集上，與其他方法具有同等的性能。

網址：

3. Understanding Negative Sampling in Graph Representation Learning

作者：Zhen Yang, Ming Ding, Chang Zhou, Hongxia Yang, Jingren Zhou, Jie Tang

摘要：在最近的幾年中，對圖表示學習進行了廣泛的研究。盡管它有可能為各種網絡生成連續的嵌入，但是在大型節點集中得到有效高質量的表示仍然具有挑戰性。采樣是實現該性能目標的關鍵點。現有技術通常側重于正向節點對的采樣，而對負向采樣的策略探索不夠。為了彌補這一差距，我們從目標和風險兩個角度系統地分析了負采樣的作用，從理論上論證了負采樣在確定優化目標和結果方差方面與正采樣同等重要。據我們所知，我們是第一個推導該理論并量化負采樣分布應與其正采樣分布成正相關但亞線性相關的方法。在該理論的指導下，我們提出了MCNS，用自對比度近似法近似正分布，并通過Metropolis-Hastings加速負采樣。我們在5個數據集上評估了我們的方法，這些數據集涵蓋了19個實驗設置，涵蓋了廣泛的下游圖學習任務，包括鏈接預測，節點分類和個性化推薦。這些相對全面的實驗結果證明了其穩健性和優越性。

網址：

4. M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems

作者：Menghan Wang, Yujie Lin, Guli Lin, Keping Yang, Xiao-ming Wu

摘要：將圖表示學習與多視圖數據(邊信息)相結合進行推薦是工業上的一種趨勢。現有的大多數方法可以歸類為多視圖表示融合，它們首先構建一個圖，然后將多視圖數據集成到圖中每個節點的單個緊湊表示中。這些方法在工程和算法方面都引起了人們的關注：1)多視圖數據在工業中是豐富而且有用的，并且可能超過單個矢量的容量；2)由于多視圖數據往往來自不同的分布，可能會引入歸納偏置（inductive bias）。在本文中，我們使用一種多視圖表示對齊方法來解決這個問題。特別地，我們提出了一個多任務多視角圖表示學習框架(M2GRL)來學習web級推薦系統中的多視角圖節點表示。M2GRL為每個單視圖數據構造一個圖，從多個圖中學習多個單獨的表示，并執行對齊以建立模型的交叉視圖關系。M2GRL選擇了一種多任務學習范式來聯合學習視圖內表示和交叉視圖關系。此外，M2GRL在訓練過程中利用同方差不確定性自適應地調整任務的損失權重。我們在淘寶部署了M2GRL，并對570億個實例進行了訓練。根據離線指標和在線A/B測試，M2GRL的性能明顯優于其他最先進的算法。對淘寶多樣性推薦的進一步研究表明，利用M2GRL產生的多種表征是有效的，對于不同側重點的各種工業推薦任務來說，M2GRL是一個很有前途的方向。

網址：

5. Controllable Multi-Interest Framework for Recommendation

作者：Yukuo Cen, Jianwei Zhang, Xu Zou, Chang Zhou, Hongxia Yang, Jie Tang

摘要：近年來，由于深度學習的快速發展，神經網絡在電子商務推薦系統中得到了廣泛的應用。我們將推薦系統形式化為一個序列推薦問題，目的是預測可能與用戶交互的下一個項目。最近的研究通常從用戶的行為序列中給出一個整體的嵌入。然而，統一的用戶嵌入不能反映用戶在一段時間內的多個興趣。本文提出了一種新穎的可控多興趣序列推薦框架，稱為ComiRec。我們的多興趣模塊從用戶行為序列中捕獲多個興趣，可用于從大規模項目集中檢索候選項目。然后將這些項目送入聚合模塊以獲得總體推薦。聚合模塊利用一個可控因素來平衡推薦的準確性和多樣性。我們在兩個真實的數據集Amazon和Taobao進行序列推薦實驗。實驗結果表明，我們的框架相對于最新模型取得了重大改進。我們的框架也已成功部署在離線阿里巴巴分布式云平臺上。

網址：

代碼鏈接：

【導讀】國際萬維網大會（The Web Conference，簡稱WWW會議）是由國際萬維網會議委員會發起主辦的國際頂級學術會議，創辦于1994年，每年舉辦一屆，是CCF-A類會議。WWW 2020將于2020年4月20日至4月24日在中國臺灣臺北舉行。由于疫情影響，這次會議在線上舉行，本屆會議共收到了1129篇長文投稿，錄用217篇長文，錄用率為19.2%。近期，隨著會議的臨近，有很多paper放出來，小編發現這次WWW 2020被圖神經網絡攻占，占比非常大，可見其火爆程度。這期小編繼續為大家奉上WWW 2020五篇GNN相關論文供參考——圖注意力主題模型、超圖學習、圖神經網絡Hash、多視角圖聚類、Graph Pooling。

WWW2020GNN_Part2、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN、ICML2019GNN

1. Graph Attention Topic Modeling Network

作者：Liang Yang, Fan Wu, Junhua Gu, Chuan Wang, Xiaochun Cao, Di Jin, and Yuanfang Guo

摘要：現有的主題模型（topic modeling）方法存在一些問題，包括概率潛在語義索引模型(Probablistic Latent Semantic Indexing，PLSI)過擬合問題、隱狄利克雷分配(Latent Dirichlet Allocation，LDA)模型不能能捕捉主題間豐富的主題相關性與推理復雜度高等問題。本文提出了一種新的方法來克服pLSI的過擬合問題，用嵌入單詞的平攤推理（amortized inference）作為輸入，代替LDA中的狄利克雷先驗。對于生成性主題模型，大量的自由隱變量是過擬合的根源。為了減少參數個數，平攤推理用一個具有共享（平攤）可學習參數的函數代替了對隱變量的推理。共享參數的數量是固定的，并且與語料庫的規模無關。為了克服平攤推理在獨立同分布(I.I.D)數據中應用的局限性，根據以下兩個觀察結果，我們提出了一種新的圖神經網絡--圖注意力主題網絡(GATON)，用于對非I.I.D文檔的主題結構進行建模。首先，pLSI可以解釋為特定二分圖上的隨機塊模型(SBM)。其次，圖注意力網絡(GAT)可以解釋為SBM的半平攤推理（semi-amortized inference），它放寬了I.I.D數據的vanilla 平攤推理假設。GATON提供了一種新穎的基于圖卷積運算的方案，去聚合單詞相似度和單詞共現結構。具體地說，詞袋文檔表示被建模為二分圖拓撲。同時，將捕獲詞相似性的詞嵌入建模為詞節點的屬性，并采用詞頻向量作為文檔節點的屬性。基于加權（注意力）圖卷積操作，詞共現結構和詞相似度模式被無縫地集成在一起進行主題識別。大量實驗表明，GATON在主題識別方面的有效性不僅有利于文檔分類，而且能顯著細化輸入詞的嵌入。

網址：//yangliang.github.io/pdf/www20.pdf

2. How Much and When Do We Need Higher-order Information in Hypergraphs? A Case Study on Hyperedge Prediction

作者：Se-eun Yoon, Hyungseok Song, Kijung Shin, and Yung Yi

摘要：超圖提供了一種自然的表示組群關系的方法，其復雜性促使大量先前的工作采用某種形式抽象和簡化高階交互。然而，以下問題尚未得到解決：在解決超圖任務時，組群間交互的抽象程度需要多大？這些結果在不同的數據集中會有多大的不同？如果這個問題可以回答，將為如何在解決下游任務的復雜性和準確性之間權衡提供有用的工程指南。為此，我們提出了一種使用n投影圖（ n-projected graph ）的概念遞增表示群組交互的方法，該圖的累積量包含多達n種交互作用的信息，并隨著各種數據集的增長，量化解決任務的準確性。作為下游任務，我們考慮超邊預測，它是連接預測的擴展，是評估圖模型的典型任務。通過在15個真實數據集上的實驗，我們得出了以下信息：（a）收益遞減：較小地n足以獲得與接近完美近似值相當的精度，（b）疑難解答：隨著任務的挑戰性越來越大，n帶來了更多好處，（c）不可約性：當成對抽象化時，其成對交互并不能充分說明高階交互的數據集將失去很多準確性。

網址：

3. Learning to Hash with Graph Neural Networks for Recommender Systems

作者：Qiaoyu Tan, Ninghao Liu, Xing Zhao, Hongxia Yang, Jingren Zhou, and Xia Hu

摘要：工業推薦系統一般包括兩個階段：召回和排名。召回是指從海量的項目語料庫中高效地識別出數百個用戶可能感興趣的候選項目，而排名的目標是使用復雜的排名模型輸出精確的排名列表。近年來，圖表示學習在支持大規模高質量候選搜索方面受到了廣泛關注。盡管它在用戶-項目交互網絡中學習對象的嵌入向量方面是有效的，但在連續嵌入空間中推斷用戶偏好的計算代價是巨大的。在這項工作中，我們研究了基于圖神經網絡(GNNs)的哈希高質量檢索問題，并提出了一種簡單而有效的離散表示學習框架來聯合學習連續與離散編碼。具體地說，提出了一種基于GNN的深度哈希算法(HashGNN)，它由兩部分組成，一個是用于學習節點表示的GNN編碼器，另一個是用于將表示編碼為哈希碼的哈希層。整個框架通過聯合優化以下兩個損失進行端到端的訓練，即通過重建觀察到的連接而產生的重建損失，以及通過保留哈希碼的相對順序產生的排序損失。我們還提出了一種基于直通估計器（straight through estimator ，STE）指導的離散優化策略。其主要思想是在連續嵌入指導下避免STE的反向傳播中的梯度放大，在這種情況下，我們從學習一個更容易模仿連續嵌入的更簡單的網絡開始，并使其在訓練過程中發展直至最終返回STE。在三個公開可用數據集和一個真實的阿里巴巴公司數據集的綜合實驗表明，我們的模型不僅可以達到連續模型的性能，而且在推理過程中運行速度快了好幾倍。

網址：

4. One2Multi Graph Autoencoder for Multi-view Graph Clustering

作者：Shaohua Fan, Xiao Wang, Chuan Shi, Emiao Lu, Ken Lin, and Bai Wang

摘要：多視圖圖聚類（Multi-view graph clustering）近年來受到了相當大的關注，它是一種尋找具有多個視圖的圖的分割方法，通常提供更全面但更復雜的信息。雖然多視圖圖聚類已經做了一些努力并取得了較好的效果，但大多數都是采用淺層模型來處理多視圖間的復雜關系，這可能會嚴重限制多視圖的圖信息建模能力。本文首次嘗試將深度學習技術應用于屬性多視圖圖聚類，提出了一種新的任務導向的One2Multi圖自編碼器聚類框架。One2Multi圖自編碼器能夠通過使用一個信息豐富的圖形視圖和內容數據來重建多個圖形視圖來學習節點嵌入。因此，可以很好地捕捉多個圖的共享特征表示。在此基礎上，我們還提出了一種自訓練聚類目標，以迭代地改善聚類結果。通過將自訓練和自編碼器重構集成到一個統一的框架中，我們的模型可以聯合優化適用于圖聚類的簇標簽分配和嵌入。在真實屬性多視圖圖數據集上的實驗很好地驗證了該模型的有效性。

網址：

5. Structure-Feature based Graph Self-adaptive Pooling

作者：Liang Zhang, Xudong Wang, Hongsheng Li, Guangming Zhu, Peiyi Shen, Ping Li, Xiaoyuan Lu, Syed Afaq Ali Shah, and Mohammed Bennamoun

摘要：近年來，人們提出了各種處理圖數據的方法。然而，這些方法大多側重于圖的特征聚合，而不是圖的池化。此外，現有的top-k選擇圖池化方法存在一些問題。首先，在構建池化圖拓撲時，現有的top-k選擇方法只從單一的角度評價節點的重要性，這是簡單化和不客觀的。其次，未選中節點的特征信息在池化過程中直接丟失，必然導致大量的圖特征信息丟失。為了解決上述問題，我們提出了一種新穎的圖自適應池化方法，目標如下：(1)為了構造合理的池化圖拓撲，同時考慮了圖的結構信息和特征信息，增加了節點選擇的準確性和客觀性；(2)為了使池化的節點包含足夠有效的圖信息，在丟棄不重要的節點之前，先聚合節點特征信息；因此，所選擇的節點包含來自鄰居節點的信息，這可以增強未選擇節點的特征的使用。在四個不同的數據集上的實驗結果表明，我們的方法在圖分類中是有效的，并且優于最新的圖池化方法。

網址：

【導讀】國際萬維網大會（The Web Conference，簡稱WWW會議）是由國際萬維網會議委員會發起主辦的國際頂級學術會議，創辦于1994年，每年舉辦一屆，是CCF-A類會議。WWW 2020將于2020年4月20日至4月24日在中國臺灣臺北舉行。本屆會議共收到了1129篇長文投稿，錄用217篇長文，錄用率為19.2%。近期，隨著會議的臨近，有很多paper放出來，專知小編提前整理了WWW 2020圖神經網絡(GNN)比較有意思的的論文—TaxoExpan，結構深度聚類網絡、MetapathGNN、對抗樣本、圖域自適應。

1. TaxoExpan: Self-supervised Taxonomy Expansion with Position-Enhanced Graph Neural Network

作者：Jiaming Shen, Zhihong Shen, Chenyan Xiong, Chi Wang, Kuansan Wang, Jiawei Han

摘要：本體結構（Taxonomies）由機器可解釋的語義組成，并為許多Web應用程序提供有價值的知識。例如，在線零售商(亞馬遜和eBay)使用本體結構進行產品推薦，而網絡搜索引擎(Google和Bing)利用本體結構來增強查詢理解。當前我們在人工或半自動地構建本體結構方面已經做出了巨大的努力。然而，隨著網絡內容數量的快速增長，現有的本體結構無法捕捉到新興的知識。因此，在許多應用程序中，十分需要對現有本體結構進行動態擴展。在本文中，我們研究了如何通過添加一組新的概念來擴展現有的本體結構。我們提出了一種新的自監督框架TaxoExpanTM，該框架從已有的本體結構中自動生成一組 ?query concept, anchor concept ? 對作為訓練數據。使用這樣的自監督數據，TaxoExpanTM學習一個模型來預測query concept是否是 anchor concept的直接下義詞。我們在TaxoExspan中提出了兩種創新技術：(1)位置增強型圖形神經網絡，它編碼現有本體結構中anchor concept的局部結構；2）噪聲魯棒性訓練目標，使學習的模型能夠對自監控數據中的標簽噪聲不敏感。在來自不同領域的三個大規模數據集上的廣泛實驗證明了TaxoExspan在分類系統擴展方面的有效性和高效性。

網址：//arxiv.org/abs/2001.09522

2. Structural Deep Clustering Network

作者：Deyu Bo, Xiao Wang, Chuan Shi, Meiqi Zhu, Emiao Lu, Peng Cui

摘要：聚類是數據分析的基本任務。近年來，深度聚類技術(deep clustering)得到了廣泛的關注，它的靈感主要來自于深度學習方法。當前的深度聚類方法通常借助深度學習強大的表示能力(如自編碼)來提高聚類結果，這表明學習一種有效的聚類表示是一個關鍵的要求。深度聚類方法的優勢在于從數據本身中提取有用的表示，而不是從數據的結構中提取，這在表示學習中受到的關注較少。基于圖卷積網絡(GCN)在對圖結構進行編碼方面取得的巨大成功，我們提出了一種結構化深度聚類網絡(SDCN)，將結構信息集成到深度聚類中。具體來說，我們設計了一個傳遞算子，將自編碼器學習到的表示轉換到相應的GCN層，并設計了雙重自監督機制來統一這兩種不同的深層神經結構，指導整個模型的更新。通過這種方式，從低階到高階的多種數據結構自然地與自動編碼器學習的多種表示相結合。在此基礎上，從理論上分析了傳遞算子。通過使用傳遞操作符，GCN改進了作為高階圖正則化約束的特定于自編碼的表示形式，并且自動編碼器有助于緩解GCN中的過度平滑問題。通過綜合實驗，我們證明我們提出的模型可以持續地比最先進的技術表現得更好。

網址：

3. MAGNN: Metapath Aggregated Graph Neural Network for Heterogeneous Graph Embedding

作者：Xinyu Fu, Jiani Zhang, Ziqiao Meng, Irwin King

摘要：大量真實世界的圖或網絡本質上是異構的，涉及節點類型和關系類型的多樣性。異構圖嵌入是將異構圖的豐富結構和語義信息嵌入到低維節點表示中。現有的模型通常定義多個metapaths在異構圖捕捉復合關系和指導鄰居選擇。但是，這些模型要么忽略節點內容特性，要么沿著元路徑丟棄中間節點，要么只考慮一個元路徑。為了解決這三個局限性，我們提出了一種新的集合圖神經網絡模型來提高最終性能。具體來說，MAGNN使用了三個主要組件，即，節點內容轉換封裝輸入節點屬性，元內聚合合并中間語義節點，元間聚合合并來自多個元的消息。在三個真實世界的異構圖數據集上進行了大量的節點分類、節點聚類和鏈路預測實驗，結果表明MAGNN的預測結果比最先進的基線更準確。

網址：

4. Certified Robustness of Community Detection against Adversarial Structural Perturbation via Randomized Smoothing

作者：Jinyuan Jia, Binghui Wang, Xiaoyu Cao, Neil Zhenqiang Gong

摘要：社區發現（Community detection）在理解圖結構中起著關鍵作用。但是，最近的一些研究表明，社區發現很容易受到對抗性結構的干擾。即通過在圖中添加或刪除少量選擇的邊，攻擊者可以控制發現的社區。然而，目前還沒有關于社區發現對這種對抗性結構擾動的魯棒性的研究。為了減少這一差距，在這項工作中，我們開發了第一個經過認證的可以抵御對抗性結構擾動的社區發現的魯棒性保證。在任意給定的社區發現方法的基礎上，通過對圖結構隨機進行擾動，構建了一種新的平滑社區發現方法。在理論上，當攻擊者添加/刪除有限數量的邊時，平滑社區發現方法可以將給定的任意節點集合分到相同的社區(或不同的社區)中。此外， 我們還根據經驗在真實社區的多個現實圖上評估了我們的方法。

網址：

5. Unsupervised Domain Adaptive Graph Convolutional Networks

作者：Man Wu, Shirui Pan, Chuan Zhou, Xiaojun Chang, Xingquan Zhu

摘要：圖卷積網絡(GCNS)在許多與圖相關的分析任務中取得了成功。然而，由于圖表示學習和圖結構上的域自適應方面的挑戰，大多數GCN只工作在單個域(圖)中，不能將知識從一個域(圖)傳遞到其他域(圖)中。本文提出了一種新的圖域自適應學習方法--無監督域自適應圖卷積網絡(UDAGCN)。為了實現有效的圖表示學習，我們首先提出了一個對偶圖卷積網絡組件，該組件聯合利用局部一致性和全局一致性來進行特征聚合。注意力機制還用于為不同圖中的每個節點產生統一表示。為了便于圖之間的知識傳遞，我們提出了一個域自適應學習模塊，將源分類器損失、域分類器損失和目標分類器損失這三個不同的損失函數作為一個整體進行優化，從而可以區分源域中的類別標簽、不同領域樣本和目標領域的類別標簽。我們還在節點分類任務的真實數據集上的實驗結果驗證該方法的性能，并與最新的圖神經網絡算法進行了比較。

網址：

6. A Kernel of Truth: Determining Rumor Veracity on Twitter by Diffusion Pattern Alone

作者：Nir Rosenfeld, Aron Szanto, David C. Parkes

摘要：最近，在錯誤信息檢測領域已經使用文本中豐富的信號以及與社交媒體上的內容相關的用戶身份來進行檢測。但由于文本可以被策略性地操縱，賬戶也可以用不同的名字重新創建，以上這些方法本質上是脆弱的。在這項工作中，我們研究了另一種更加自然與健壯的模式：信息傳播的模式。僅根據未經證實的謠言在社交網絡中的傳播模式，就能辨別在線傳播的未經證實的謠言的真實性嗎？

使用圖核（graph kernels ）從Twitter中提取復雜的拓撲信息，我們訓練了不考慮語言，用戶身份和時間的準確預測模型，這首次證明了這種“sanitized”的擴散模式具有很高的準確性。 我們的結果表明，通過適當的聚集，即使在傳播的早期階段，人群的集中共享模式也可能會顯示出辨別謠言真假的強有力的信號。

網址：