題目： Hyperbolic Heterogeneous Information Network Embedding

摘要： 異構信息網絡嵌入(Heterogeneous information network, HIN)以將其投射到低維空間為目標，已經引起了相當多的研究關注。現有的HIN嵌入方法主要是在歐幾里得空間中保留內部網絡結構和語義相關性。然而，一個基本的問題是歐幾里得空間是否是HIN的合適的或內在的等距空間?。近年來的研究認為，復雜網絡的底層可能具有雙曲幾何，因為底層的雙曲幾何可以自然地反映復雜網絡的一些特性，如層次結構和冪律結構。在本文中，我們首次嘗試將HIN嵌入到雙曲空間中。我們分析了兩個實際HIN的結構，發現HIN中也存在冪律分布等性質。為此，我們提出了一種新的雙曲異構信息網絡嵌入模型。具體地說，為了捕獲節點之間的結構和語義關系，我們采用元路徑引導隨機游走對每個節點的序列進行采樣。然后利用雙曲空間中的距離作為近似度量。雙曲距離能滿足三角不等式，并能很好地保持HIN中的傳遞性。我們的模型使節點及其鄰域具有小的雙曲線距離。進一步推導出有效的優化策略，迭代更新雙曲嵌入。實驗結果表明，該模型不僅在網絡重構和鏈路預測任務上具有優越的性能，而且在HIN中通過可視化顯示了捕獲層次結構的能力。

【導讀】作為世界數據挖掘領域的最高級別的學術會議，ACM SIGKDD（國際數據挖掘與知識發現大會，簡稱 KDD）每年都會吸引全球領域眾多專業人士參與。今年的 KDD大會計劃將于 2020 年 8 月 23 日 ~27 日在美國美國加利福尼亞州圣地亞哥舉行。上周，KDD 2020官方發布接收論文，共有1279篇論文提交到Research Track，共216篇被接收，接收率16.8%。近期一些Paper放出來了，為此，專知小編提前為大家整理了五篇KDD 2020 圖神經網絡（GNN）相關論文，供大家參考。——圖結構學習、多元時間序列預測、負采樣、多任務多視角圖表示學習、多興趣推薦

CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN、

1. Graph Structure Learning for Robust Graph Neural Networks

作者：Wei Jin, Yao Ma, Xiaorui Liu, Xianfeng Tang, Suhang Wang, Jiliang Tang

摘要：圖神經網絡(GNNs)是圖表示學習的有力工具。但是，最近的研究表明，GNN容易受到精心設計的擾動（稱為對抗攻擊）的攻擊。對抗性攻擊很容易欺騙GNN來預測下游任務。對于對抗攻擊的脆弱性使人們越來越關注在安全關鍵型應用中應用GNN。因此，開發穩健的算法來防御對抗攻擊具有重要意義。防御對抗攻擊的一個自然想法是清理受干擾的圖。很明顯，真實世界的圖共享一些內在屬性。例如，許多現實世界的圖都是低秩和稀疏的，兩個相鄰節點的特征往往是相似的。事實上，我們發現對抗攻擊很可能會違背這些圖的性質。因此，在本文中，我們利用這些特性來防御針對圖的對抗攻擊。特別是，我們提出了一個通用框架Pro-GNN，該框架可以從受這些特性指導的擾動圖中聯合學習結構圖和魯棒圖神經網絡模型。在真實圖上的大量實驗表明，即使在圖受到嚴重干擾的情況下，我們所提出的框架也比現有的防御方法獲得了顯著更好的性能。我們將Pro-GNN的實現發布到我們的DeepRobust存儲庫，以進行對抗性攻擊和防御。

網址： //arxiv.org/pdf/2005.10203.pdf

代碼鏈接：

2. Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks

作者：Zonghan Wu, Shirui Pan, Guodong Long, Jing Jiang, Xiaojun Chang, Chengqi Zhang

摘要：多變量時間序列的建模長期以來一直吸引著來自經濟、金融和交通等不同領域的研究人員的關注。多變量時間序列預測背后的一個基本假設是其變量之間相互依賴，但現有方法未能充分利用變量對之間的潛在空間相關性。同時，近些年來，圖神經網絡(GNNs)在處理關系依賴方面表現出了很高的能力。GNN需要定義良好的圖結構來進行信息傳播，這意味著它們不能直接應用于事先不知道依賴關系的多變量時間序列。本文提出了一種專門針對多變量時間序列數據設計的通用圖神經網絡框架。該方法通過圖學習模塊自動提取變量間的單向關系，可以方便地集成變量屬性等外部知識。在此基礎上，提出了一種新的max-hop傳播層和一個dilated inception層來捕捉時間序列中的時間和空間依賴關系。圖學習、圖卷積和時間卷積模塊在端到端框架中聯合學習。實驗結果表明，我們提出的模型在4個基準數據集中的3個數據上優于最新的基線方法，并且在提供額外結構信息的兩個交通數據集上，與其他方法具有同等的性能。

網址：

3. Understanding Negative Sampling in Graph Representation Learning

作者：Zhen Yang, Ming Ding, Chang Zhou, Hongxia Yang, Jingren Zhou, Jie Tang

摘要：在最近的幾年中，對圖表示學習進行了廣泛的研究。盡管它有可能為各種網絡生成連續的嵌入，但是在大型節點集中得到有效高質量的表示仍然具有挑戰性。采樣是實現該性能目標的關鍵點。現有技術通常側重于正向節點對的采樣，而對負向采樣的策略探索不夠。為了彌補這一差距，我們從目標和風險兩個角度系統地分析了負采樣的作用，從理論上論證了負采樣在確定優化目標和結果方差方面與正采樣同等重要。據我們所知，我們是第一個推導該理論并量化負采樣分布應與其正采樣分布成正相關但亞線性相關的方法。在該理論的指導下，我們提出了MCNS，用自對比度近似法近似正分布，并通過Metropolis-Hastings加速負采樣。我們在5個數據集上評估了我們的方法，這些數據集涵蓋了19個實驗設置，涵蓋了廣泛的下游圖學習任務，包括鏈接預測，節點分類和個性化推薦。這些相對全面的實驗結果證明了其穩健性和優越性。

網址：

4. M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems

作者：Menghan Wang, Yujie Lin, Guli Lin, Keping Yang, Xiao-ming Wu

摘要：將圖表示學習與多視圖數據(邊信息)相結合進行推薦是工業上的一種趨勢。現有的大多數方法可以歸類為多視圖表示融合，它們首先構建一個圖，然后將多視圖數據集成到圖中每個節點的單個緊湊表示中。這些方法在工程和算法方面都引起了人們的關注：1)多視圖數據在工業中是豐富而且有用的，并且可能超過單個矢量的容量；2)由于多視圖數據往往來自不同的分布，可能會引入歸納偏置（inductive bias）。在本文中，我們使用一種多視圖表示對齊方法來解決這個問題。特別地，我們提出了一個多任務多視角圖表示學習框架(M2GRL)來學習web級推薦系統中的多視角圖節點表示。M2GRL為每個單視圖數據構造一個圖，從多個圖中學習多個單獨的表示，并執行對齊以建立模型的交叉視圖關系。M2GRL選擇了一種多任務學習范式來聯合學習視圖內表示和交叉視圖關系。此外，M2GRL在訓練過程中利用同方差不確定性自適應地調整任務的損失權重。我們在淘寶部署了M2GRL，并對570億個實例進行了訓練。根據離線指標和在線A/B測試，M2GRL的性能明顯優于其他最先進的算法。對淘寶多樣性推薦的進一步研究表明，利用M2GRL產生的多種表征是有效的，對于不同側重點的各種工業推薦任務來說，M2GRL是一個很有前途的方向。

網址：

5. Controllable Multi-Interest Framework for Recommendation

作者：Yukuo Cen, Jianwei Zhang, Xu Zou, Chang Zhou, Hongxia Yang, Jie Tang

摘要：近年來，由于深度學習的快速發展，神經網絡在電子商務推薦系統中得到了廣泛的應用。我們將推薦系統形式化為一個序列推薦問題，目的是預測可能與用戶交互的下一個項目。最近的研究通常從用戶的行為序列中給出一個整體的嵌入。然而，統一的用戶嵌入不能反映用戶在一段時間內的多個興趣。本文提出了一種新穎的可控多興趣序列推薦框架，稱為ComiRec。我們的多興趣模塊從用戶行為序列中捕獲多個興趣，可用于從大規模項目集中檢索候選項目。然后將這些項目送入聚合模塊以獲得總體推薦。聚合模塊利用一個可控因素來平衡推薦的準確性和多樣性。我們在兩個真實的數據集Amazon和Taobao進行序列推薦實驗。實驗結果表明，我們的框架相對于最新模型取得了重大改進。我們的框架也已成功部署在離線阿里巴巴分布式云平臺上。

網址：

代碼鏈接：

圖神經網絡(GNNs)是一種強大的圖表示學習工具。然而，最近的研究表明，GNN很容易受到精心設計的干擾，即所謂的對抗攻擊。對抗攻擊可以很容易地愚弄GNN，使其無法預測后續任務。在對安全性要求很高的應用程序中應用GNN的脆弱性引起了越來越多的關注。因此，開發對抗攻擊的魯棒算法具有重要意義。為對抗攻擊辯護的一個自然的想法是清理受干擾的圖。很明顯，真實世界的圖具有一些內在的特性。例如，許多真實世界的圖是低秩和稀疏的，并且兩個相鄰節點的特征趨于相似。事實上，我們發現，對抗攻擊很可能會破壞這些圖的屬性。因此，在本文中，我們探討這些性質，以防御圖的對抗性攻擊。特別地，我們提出了一個通用的框架Pro-GNN，它可以聯合學習結構圖和魯棒圖神經網絡模型從攝動圖的這些屬性指導。在真實圖上的大量實驗表明，與最先進的防御方法相比，即使在圖受到嚴重干擾的情況下，所提出的框架也能獲得更好的性能。我們將Pro-GNN的實現發布到我們的DeepRobust存儲庫，用于對抗攻擊和防御

//github.com/DSE-MSU/DeepRobust。

復現我們的結果的具體實驗設置可以在

概述

圖是在許多領域中普遍存在的數據結構，例如化學(分子)、金融(交易網絡)和社交媒體(Facebook朋友網絡)。隨著它們的流行，學習有效的圖表示并將其應用于解決后續任務尤為重要。近年來，圖神經網絡(Graph Neural Networks, GNNs)在圖表示學習取得了巨大的成功(Li et al.， 2015;Hamilton，2017;Kipf and Welling, 2016a;Veli?kovi?et al ., 2018)。GNNs遵循消息傳遞方案(Gilmer et al.， 2017)，其中節點嵌入是通過聚合和轉換其鄰居的嵌入來獲得的。由于其良好的性能，GNNs已經應用于各種分析任務，包括節點分類(Kipf和Welling, 2016a)、鏈接預測(Kipf和Welling, 2016b)和推薦系統(Ying et al.， 2018)。

雖然已經取得了令人鼓舞的結果，但最近的研究表明，GNNs易受攻擊(Jin et al.， 2020;Zugner et al.， 2018;Zugner Gunnemann, 2019;Dai et al.， 2018;吳等，2019b)。換句話說，在圖中不明顯的擾動下，GNNs的性能會大大降低。這些模型缺乏健壯性，可能會對與安全和隱私相關的關鍵應用造成嚴重后果。例如，在信用卡欺詐檢測中，詐騙者可以創建多個交易，只有少數高信用用戶可以偽裝自己，從而逃避基于GNNs的檢測。因此，開發抗攻擊的穩健的GNN模型具有重要意義。修改圖數據可以擾亂節點特征或圖結構。然而，由于結構信息的復雜性，現有的對圖數據的攻擊主要集中在修改圖數據結構，特別是添加/刪除/重連邊(Xu et al.， 2019)。因此，在這項工作中，我們的目標是抵御對圖數據的最常見的攻擊設置，即，對圖結構的毒殺攻擊。在這種情況下，圖結構在訓練GNNs之前已經修改了邊，而節點特征沒有改變，這已經擾亂了圖結構。

設計有效防御算法的一個視角是對擾動圖進行清理，如刪除反向邊和恢復被刪除邊(Zhu et al.， 2019;Tang et al., 2019)。從這個角度來看，關鍵的挑戰是我們應該遵循什么標準來清除擾動圖。眾所周知，真實世界的圖通常具有某些特性。首先，許多真實世界的干凈圖是低秩和稀疏的(Zhou et al.， 2013)。例如，在社交網絡中，大多數個體只與少數鄰居連接，影響用戶之間連接的因素很少(Zhou et al., 2013; Fortunato, 2010)。其次，干凈圖中連接的節點可能具有相似的特征或屬性(或特征平滑度)(McPherson et al.， 2001)。例如，在一個引文網絡中，兩個相連的出版物經常共享相似的主題(Kipf Welling, 2016a)。圖1演示了干凈和中毒圖的這些屬性。具體來說，我們用了最先進的圖數據中毒攻擊metattack (Zugner和Gunnemann, 2019a)來擾亂圖數據，并在mettack之前和之后可視化圖的屬性。如圖(a)a所示，metattack擴大了鄰接矩陣的奇異值，圖(b)b說明metattack可以快速地增加鄰接矩陣的秩。此外，當我們分別從攝動圖中刪除對抗性邊和法線時，我們觀察到刪除對抗性邊比刪除法線更快地降低了秩，如圖(c)c所示。另外，我們在圖(d)d中描述了攻擊圖的連通節點特征差異的密度分布。可以看出，metattack傾向于連接特征差異較大的節點。圖1的觀察結果表明，對抗性攻擊可能破壞這些屬性。因此，這些性質有可能作為清除攝動圖的指導。然而，利用這些性質來建立魯棒圖神經網絡的研究還很有限。

本文旨在探討圖的稀疏性、低秩性和特征平滑性，設計魯棒的圖神經網絡。請注意，還有更多的屬性有待探索，我們希望將其作為未來的工作。從本質上講，我們面臨著兩個挑戰:(1)如何在這些屬性的引導下，從中毒的圖數據中學習干凈的圖結構;(二)如何將魯棒圖神經網絡的參數與凈結構聯合學習。為了解決這兩個問題，我們提出了一個通用的框架屬性GNN (Pro-GNN)來同時從攝動圖和GNN參數中學習干凈的圖結構，以抵御對抗攻擊。在各種真實世界圖形上的大量實驗表明，我們提出的模型能夠有效地防御不同類型的對抗攻擊，并優于最先進的防御方法。

對抗性攻擊會對圖數據產生精心設計的擾動。我們把精心設計的擾動稱為對抗性結構。對抗結構會導致GNNs的性能急劇下降。因此，為了防御競爭攻擊，一種自然的策略是消除精心設計的競爭結構，同時保持固有的圖結構。在本工作中，我們的目標是通過探索低秩、稀疏性和特征平滑性的圖結構特性來實現這一目標。該框架的示意圖如圖2所示，其中黑色的邊為普通邊，紅色的邊為攻擊者為降低節點分類性能而引入的對抗性邊。為了抵御攻擊，Pro-GNN通過保持圖的低秩性、稀疏性和特征平滑性，迭代地重構干凈圖，以減少對抗結構的負面影響。同時，為了保證重構圖能夠幫助節點分類，Pro-GNN通過求解交替模式下的優化問題，同時更新重構圖上的GNN參數。

圖神經網絡很容易被圖對抗攻擊所欺騙。為了防御不同類型的圖對抗攻擊，我們引入了一種新的防御方法Pro-GNN，該方法同時學習圖結構和GNN參數。我們的實驗表明，我們的模型始終優于最先進的基線，并提高了在各種對抗攻擊下的整體魯棒性。在未來，我們的目標是探索更多的屬性，以進一步提高GNNs的魯棒性。