亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

【導讀】一年一度的全球學術大會EMNLP是計算機語言學和自然語言處理領域最受關注的國際學術會議之一，由國際語言學會（ACL）旗下SIGDAT組織。據悉，EMNLP 2020共收到有效投稿3114篇，錄用602篇長文和150篇短文。近期，所有Paper list 放出，也包括（Findings of EMNLP），知識圖譜補全特別是時序知識圖譜補全（KGC）相關的接受paper很多，希望大家多多關注。

為此，這期小編為大家奉上EMNLP 2020必讀的五篇知識圖譜補全（Knowledge Graph Completion （KGC））相關論文——知識圖譜補全數據集、少樣本知識圖譜補全、時序知識圖譜補全

EMNLP 2020 Accepted Papers : //2020.emnlp.org/papers/main

EMNLP2020CI、EMNLP2020KG、ICLR2020CI、ICML2020CI

1. CODEX: A Comprehensive Knowledge Graph Completion Benchmark

作者：Tara Safavi, Danai Koutra

摘要：我們提出了CODEX，這是一組從Wikidata和Wikipedia提取的知識圖譜補全（knowledge graph completion）數據集，它們在難度和范圍上改進了現有知識圖譜補全基準。就范圍而言，CODEX包括三個大小和結構各異的知識圖譜，實體和關系的多語言描述，以及成千上萬個合理但被證實為假的難負樣本（hard negative）三元組。為了表征CODEX，我們提供了詳盡的經驗分析和基準測試。首先，我們根據邏輯關系模式分析每個CODEX數據集。接下來，我們針對五個經過廣泛調整的KG嵌入模型在CODEX上報告基準鏈接預測和三元組分類結果。最后，我們通過顯示CODEX涵蓋了更多樣化和可解釋的內容，并且它是一個更困難的鏈接預測基準，將CODEX與流行的FB15K-237知識圖譜補全數據集區分開。

代碼：

網址：

2. Adaptive Attentional Network for Few-Shot Knowledge Graph Completion

作者：Jiawei Sheng, Shu Guo, Zhenyu Chen, Juwei Yue, Lihong Wang, Tingwen Liu, Hongbo Xu

摘要：少樣本知識圖譜（KG）的補全是當前研究的重點，其中每個任務旨在根據給定的少樣本參考實體對（reference entity pairs），來查詢關系中未知的事實。最近的嘗試通過學習實體和參考的靜態表示來解決這個問題，而忽略了它們的動態屬性，即，實體可能在任務關系中發揮不同的作用，并且參考可能對查詢做出不同的貢獻。這項工作提出了自適應注意力網絡，通過學習自適應實體和參考表示來實現少樣本KG補全。具體而言，實體由自適應鄰居編碼器建模以識別其面向任務的角色，而參考則由自適應查詢感知聚合器建模以區分其貢獻。通過注意力機制，實體和參考都可以捕獲其細粒度的語義，從而呈現更具表達力的表示形式。在少數情況下，這對于知識獲取將更具預測性。對兩個公共數據集的鏈接預測的評估表明，我們的方法以不同的少樣本數量獲得了最新的最新結果。

代碼：

網址：

3. DyERNIE: Dynamic Evolution of Riemannian Manifold Embeddings for Temporal Knowledge Graph Completion

作者：Zhen Han, Peng Chen, Yunpu Ma, Volker Tresp

摘要：最近，人們對學習時序知識圖譜（KG）表示的興趣日益濃厚，這些知識記錄了實體之間隨時間的動態關系。時序KG經常表現出多個同時的非歐幾里德結構，例如層次結構和循環結構。但是，現有的時序KG嵌入方法通常會在歐幾里得空間中學習實體表示及其動態演化，這可能無法很好地捕獲此類內在結構。為此，我們提出了DyERNIE，這是一種非歐幾里得的嵌入方法，它可以學習黎曼流形（Riemannian manifolds）乘積中的演化實體表示，其中的組合空間是根據基礎數據的截面曲率估算的。這使我們的方法能夠更好地反映時間KG上的各種幾何結構。此外，為了捕獲時間KG的演化動力學，我們讓實體表示根據每個時間戳處切線空間中定義的速度矢量進行演化。我們詳細分析了幾何空間對時序KG表示學習的貢獻，并評估了我們在時序知識圖補全任務上的模型。在三個真實世界的數據集上進行的大量實驗表明，性能得到了顯著改善，這表明可以通過黎曼流形上的嵌入演化來更正確地建模多關系圖數據的動力學。

網址：

4. Temporal Knowledge Base Completion: New Algorithms and Evaluation Protocols

作者：Prachi Jain, Sushant Rathi, Mausam, Soumen Chakrabarti

摘要：將關系事實（s，r，o）與有效時間段（或時間瞬間）相關聯的時序知識庫的研究仍處于早期階段。我們的工作將預測缺失的實體（鏈接預測）和缺失的時間間隔（時間預測）視為聯合的時序知識庫補全（TKBC）任務，并提出了TIMEPLEX，這是一種新穎的TKBC方法，其中實體，關系和時間都嵌入統一的兼容空間。TIMEPLEX利用某些事實/事件的經常性和關系對之間的時間交互作用，在兩個預測任務上都產生了最新的結果。

我們還發現，由于評估機制不完善，現有的TKBC模型嚴重高估了鏈接預測性能。作為回應，我們針對鏈接和時序預測任務提出了改進的TKBC評估協議，處理了黃金實例和系統預測中時間間隔的部分重疊引起的細微問題。

網址：

5. TeMP: Temporal Message Passing for Temporal Knowledge Graph Completion

作者：Jiapeng Wu, Meng Cao, Jackie Chi Kit Cheung, William L. Hamilton

摘要：在時序知識圖譜中（TKG）推斷缺失的事實是一項基本且具有挑戰性的任務。以前的工作通過擴展靜態知識圖的方法來利用時間相關表示來解決此問題。但是，這些方法沒有顯式地利用時間步驟中的多跳結構信息和時間事實來增強其預測。此外，現有工作未明確解決TKG中實體分布的時間稀疏性和可變性。我們提出了時間信息傳遞（TeMP）框架，通過結合圖神經網絡，時間動力學模型，數據缺失處理和基于頻率的門控技術來應對這些挑戰。在標準TKG任務上進行的實驗1表明，與以前的最新技術水平相比，我們的方法可帶來可觀的收益，在三個標準基準中，Hits @ 10的平均相對改進為10.7％。我們的分析還揭示了TKG數據集內和TKG數據集之間可變性的重要來源，并且我們引入了一些簡單而強大的基線，這些基線在某些情況下優于現有技術。

網址：

【導讀】一年一度的全球學術大會EMNLP是計算機語言學和自然語言處理領域最受關注的國際學術會議之一，由國際語言學會（ACL）旗下SIGDAT組織。據悉，EMNLP 2020共收到有效投稿3114篇，錄用602篇長文和150篇短文。近期，所有Paper list 放出，也包括（Findings of EMNLP），因果推理及其應用相關的接受Paper很多，在其他領域比如CV、數據挖掘、推薦等也廣受關注。

為此，這期小編為大家奉上EMNLP 2020必讀的六篇反事實推理（Counterfactual Reasoning）相關論文——常識推理、反事實生成器、開放式對話生成、VQA、文本分類

EMNLP 2020 Accepted Papers : //2020.emnlp.org/papers/main

ICLR2020CI、ICML2020CI

1. Back to the Future: Unsupervised Backprop-based Decoding for Counterfactual and Abductive Commonsense Reasoning

作者：Lianhui Qin, Vered Shwartz, Peter West, Chandra Bhagavatula, Jena D. Hwang, Ronan Le Bras, Antoine Bosselut, Yejin Choi

摘要：推理和反事實推理是人類日常認知的核心能力，需要對時間t可能發生的事情進行推理，同時要根據過去和未來的多個背景進行推理。然而，使用生成語言模型(LMS)同時合并過去和未來的上下文可能是具有挑戰性的，因為它們要么被訓練成僅以過去的上下文為條件，要么被訓練成執行范圍狹窄的文本填充。

在本文中，我們提出了一種新的無監督解碼算法DeLorean，它可以在只使用現成的、從左到右的（off-the-shelf, left-to-right）語言模型，并且無監督的情況下，靈活地合并過去和未來的上下文。我們算法的關鍵點是通過反向傳播與未來相結合，在此過程中，我們只更新輸出的內部表示，同時固定模型參數。通過在前向和后向傳播之間交替，DeLorean可以解碼既反映左上下文又反映右上下文的輸出表示。我們證明了我們的方法是通用的，適用于兩個非單調（nonmonotonic）推理任務：推理文本生成和反事實故事修改，在這兩個任務中，DeLorean基于自動和人工評估，優于一系列無監督和一些監督方法。

代碼：

網址：

2. Counterfactual Generator: A Weakly-Supervised Method for Named Entity Recognition

作者：Xiangji Zeng, Yunliang Li, Yuchen Zhai, Yin Zhang

摘要：神經模型的進展已經證明，如果我們有足夠的標簽數據，命名實體識別（named entity recognition）不再是一個問題。然而，收集足夠的數據并對其進行注釋是需要大量勞動、耗時和昂貴的。在本文中，我們將句子分解為實體和上下文兩個部分，并從因果關系的角度重新思考它們與模型性能的關系。在此基礎上，我們提出了反事實生成器，它通過對已有觀測實例的干預來增強原始數據集，從而生成反事實實例。在三個數據集上的實驗表明，我們的方法在有限的觀測樣本下提高了模型的泛化能力。此外，我們還使用一個結構因果模型來研究輸入特征和輸出標簽之間的偽相關性，從而提供了理論基礎。在非增廣和增廣兩種情況下，我們考察了實體或上下文對模型性能的因果影響。有趣的是，我們發現非偽相關性更多地位于實體表示中，而不是上下文表示中。因此，我們的方法消除了上下文表示和輸出標簽之間的部分虛假相關性。

代碼： .

網址：

3. Counterfactual Off-Policy Training for Neural Dialogue Generation

作者：Qingfu Zhu, Wei-Nan Zhang, Ting Liu, William Yang Wang

摘要：由于潛在反應（ potential responses）的巨大規模，開放式對話生成（Open-domain dialogue generation）存在數據不足的問題。在本文中，我們提出通過反事實推理來探索潛在的反應。給出一個觀察到的反應，反事實推理模型會自動推斷出可以采取的替代策略的結果。事后合成的反事實反應比從頭合成的反應質量更高。對抗性學習框架下的反事實反應訓練有助于探索潛在反應空間的高回報領域。在DailyDialog數據集上的實證研究表明，該方法的性能明顯優于HRED模型和傳統的對抗性學習方法。

網址：

4. Learning to Contrast the Counterfactual Samples for Robust Visual Question Answering

作者：Zujie Liang, Weitao Jiang, Haifeng Hu, Jiaying Zhu

摘要：在視覺問答(VQA)任務中，大多數先進的模型往往會在訓練集中學習虛假的相關性，并且在非分布（out-of-distribution）測試數據中表現不佳。為了緩解這一問題，已經提出了一些生成反事實樣本的方法。然而，大多數以前的方法生成的反事實樣本只是簡單地添加到訓練數據中進行擴充，沒有得到充分的利用。因此，我們引入了一種新的自監督對比學習（contrastive learning）機制來學習原始樣本、真實樣本和反事實樣本之間的關系。通過從輔助訓練目標中學習到更好的跨模態聯合嵌入，VQA模型的推理能力和穩健性都得到了顯著的提高。我們通過在VQA-CP數據集（VQA-CP數據集是評估VQA模型穩健性的診斷基準）上超過當前最先進的模型來評估我們方法的有效性。

網址：

5. Less is More:Attention Supervision with Counterfactuals for Text Classification

作者：Seungtaek Choi, Haeju Park, Jinyoung Yeo, Seung-won Hwang

摘要：我們的目標是利用人類和機器的智能來進行注意力監督。具體地說，我們證明了人工標注的代價可以保持在合理的低水平，而標注的質量可以通過機器的自監督來提高。具體地說，為了達到這一目標，我們探索了反事實推理相對于通常用于注意監督的聯想推理的優勢。實驗結果表明，在情感分析和新聞分類等文本分類任務中，這種機器增強的人類注意力監督方法比現有的標注代價更高的方法更有效。

網址：

【導讀】IJCAI（國際人工智能聯合會議，International Joint Conferences on Artificial Intelligence）作為人工智能領域最頂級的國際學術會議之一，IJCAI 的舉辦自然備受矚目。第29屆國際人工智能聯合會議和第17屆環太平洋國際人工智能會議原定于2020年7月11日在日本橫濱召開，但由于疫情影響，將延期半年，至 2021年1月召開。近期，IJCAI 2020 論文集已經放出來。在 4717 份有效投稿中，最終僅有 592 篇被接收，接收率為 12.6%，這也是 IJCAI 史上最低的接收率。我們發現在今年的IJCAI 2020會議上圖神經網絡相關的論文非常多，今天小編專門整理最新6篇圖神經網絡（GNN）應用在自然語言處理上的相關論文——AMR-to-text生成、Path GCN、圖互注意力網絡、常識知識、有向超圖GCN

IJCAI 2020 Accepted Paper: //www.ijcai.org/Proceedings/2020/

IJCAI2020GNN_Part1、ICML2020GNN_Part1、KDD2020GNN_Part1、CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、

1、Better AMR-To-Text Generation with Graph Structure Reconstruction 作者：Tianming Wang, Xiaojun Wan, Shaowei Yao

摘要：AMR-to-text 生成是一項艱巨的任務，它需要從基于圖的語義表示中生成文本。最近的研究將這一任務看作是圖到序列的學習問題，并使用各種圖神經網絡來建模圖結構。在本文中，我們提出了一種新的方法，在重構輸入圖結構的同時，從AMR圖中生成文本。我們的模型使用圖注意力機制來聚合信息以對輸入進行編碼。此外，通過優化兩個簡單而有效的輔助重構目標：鏈接預測目標(需要預測節點之間的語義關系)和距離預測目標(需要預測節點之間的距離)，能夠學習到更好的節點表示。在兩個基準數據集上的實驗結果表明，我們提出的模型在強基線上有很大的改善，并達到了新的技術水平。

網址：

2、Multi-hop Reading Comprehension across Documents with Path-based Graph Convolutional Network

作者：Zeyun Tang, Y ongliang Shen, Xinyin Ma, Wei Xu, Jiale Yu, Weiming Lu

摘要：跨多個文檔的多跳（Multi-hop ）閱讀理解近年來備受關注。在本文中，我們提出了一種新的方法來解決這個多跳閱讀理解問題。受人類推理過程的啟發，我們從支持文檔（supporting documents）中構造了一個基于路徑的推理圖。該推理圖結合了基于圖的方法和基于路徑的方法的思想，更適合于多跳推理。同時，我們提出了GATED-RGCN在基于路徑的推理圖上積累證據，GATED-RGCN包含了一種新的問題感知門控機制，以規范跨文檔傳播信息的有用性，并在推理過程中添加問題信息。我們在WikiHop數據集上對我們的方法進行了評估，與以前發布的方法相比，我們的方法達到了最先進的準確性。特別值得一提的是，我們的集成模型比人類的表現高出4.2%。

網址：

3、The Graph-based Mutual Attentive Network for Automatic Diagnosis

作者：Quan Yuan, Jun Chen, Chao Lu, Haifeng Huang 摘要：自動診斷一直存在缺乏可靠語料庫來訓練可信預測模型的問題。此外，以往的基于深度學習的診斷模型大多采用序列學習技術(CNN或RNN)，難以提取關鍵醫療實體之間的復雜結構信息（如圖結構）。本文提出基于真實醫院的高標準電子病歷文檔建立的診斷模型，以提高模型的準確性和可信度。同時，我們將圖卷積網絡引入到該模型中，緩解了稀疏特征的問題，便于提取用于診斷的結構信息。此外，我們還提出了mutual注意網絡來增強輸入的表示，以獲得更好的模型性能。我們在真實電子病歷文檔（ EMR documents）上進行實驗，結果表明與以往基于序列學習的診斷模型相比，該模型具有更高的準確性。我們提出的模型已被集成到中國數百家初級衛生保健機構的信息系統中，以協助醫生進行診斷。

網址：

4、TransOMCS: From Linguistic Graphs to Commonsense Knowledge

作者：Hongming Zhang, Daniel Khashabi, Yangqiu Song, Dan Roth

摘要：常識知識獲取是人工智能的關鍵問題。傳統獲取常識知識的方法通常需要昂貴的人工注釋并且費力，在大范圍內是不可行的。本文探索了一種從語言圖中挖掘常識知識的實用方法，目的是將從語言模式中獲得的廉價知識轉化為昂貴的常識知識。其結果是將大規模的選擇偏好知識資源ASER[Zhang et al., 2020]轉換為TransOMCS，其表示與ConceptNet[Liu and Singh，2004]相同，但比ConceptNet大兩個數量級。實驗結果表明，語言知識可以轉化為常識知識，并且該方法在數量、新穎性和質量方面都是有效的。

代碼：

網址：

5、Two-Phase Hypergraph Based Reasoning with Dynamic Relations for Multi-Hop KBQA

作者：Jiale Han, Bo Cheng, Xu Wang

摘要：多跳知識庫問答(KBQA)旨在通過跨多個三元組的推理來尋找事實問題的答案。值得注意的是，當人類執行多跳推理時，傾向于在不同的跳中集中于特定的關系，并精確定位由該關系連接的一組實體。與利用成對連接來模擬人類執行多跳推理不同，超圖卷積網絡(HGCN)可以通過利用超邊連接兩個以上的節點。然而，HGCN是針對無向圖的，沒有考慮信息傳遞的方向。為了適應具有方向性的知識圖，我們引入了有向HGCN(Directed-HGCN, DHGCN)。受人類逐跳推理的啟發，我們提出了一種基于DHGCN的可解釋KBQA模型，即基于動態關系的兩階段超圖推理，該模型顯式更新關系信息，動態關注不同跳點的不同關系。此外，該模型逐跳預測關系以生成中間關系路徑。我們在兩個廣泛使用的多跳KBQA數據集上進行了大量的實驗，以證明該模型的有效性。

網址：

【導讀】計算語言學協會（the Association for Computational Linguistics, ACL）年度會議作為頂級的國際會議，在計算語言學和自然語言處理領域一直備受關注。今年，第58屆計算語言學協會（the Association for Computational Linguistics, ACL）年度會議將于2020年7月5日至10日在美國華盛頓西雅圖舉行。受COVID-19疫情影響，ACL 2020將全部改為線上舉行。本次ACL大會共提交了3429篇論文，共有571篇長論文、以及208篇短論文入選。不久之前，專知小編為大家整理了大會的圖神經網絡（GNN）相關論文，上周，專知小編為大家整理了大會的圖神經網絡（GNN）相關論文，這期小編繼續為大家奉上ACL 2020知識圖譜表示學習（KGR）相關論文供參考——開放域知識圖譜嵌入、Multi-hop QA、雙曲嵌入、圖上下文建模、SEEK ACL2020GNN_Part2、ACL2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN

1. Can We Predict New Facts with Open Knowledge Graph Embeddings? A Benchmark for Open Link Prediction

作者：Samuel Broscheit, Kiril Gashteovski, Yanjie Wang, Rainer Gemulla

摘要：開放式信息抽取系統從原始文本中抽取(“主體文本”、“關系文本”、“客體文本”)三元組。有些三元組是事實的文本版本，即對實體和關系的非規范化提及。在這篇文章中，我們調查是否有可以不需要對精選的知識進行任何規范化或監督，直接從開放的知識圖中推斷出新的事實。為此，我們提出了一個open的鏈接預測任務，即通過補全(“主體文本”，“關系文本”，？)來預測測試事實問題。在這樣設置中的評估提出了如下這個問題：正確的預測是由開放域知識圖上的推理所誘導的新事實，還是說可以簡單地解釋。例如，事實可能出現在不同的措辭文本變體中。為此，我們提出了一種評估協議和建立了開放域鏈接預測基準的方法--OLPBENCH。我們使用一個用于開放域鏈接預測的典型知識圖嵌入模型進行了實驗。雖然這項任務非常具有挑戰性，但我們的結果表明，預測真正的新事實是可能的，并且這是不能簡單解釋的。

網址： //www.uni-mannheim.de/media/Einrichtungen/dws/Files_People/Profs/rgemulla/publications/broscheit20-olpbench.pdf

2. Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings

作者：Apoorv Saxena, Aditay Tripathi, Partha Talukdar

摘要：知識圖(KG)是由實體作為節點，實體之間的關系作為類型邊組成的多關系圖。KGQA任務的目標是回答在KG上提出的自然語言問題。多跳（Multi-hop）KGQA需要在KG的多個邊上進行推理才能得到正確的答案。KG通常是不完整的，有許多缺失的鏈接，這給KGQA帶來了額外的挑戰，特別是對于多跳KGQA。最近關于多跳KGQA的研究試圖使用相關的外部文本來處理KG稀疏性，但這并不總是容易獲得的。在另一項研究中，已經提出了通過執行缺失鏈接預測來降低KG稀疏的KG嵌入方法。這種KG嵌入方法雖然高度相關，但到目前為止還沒有被探索用于多跳KGQA。本文填補了這一空白，提出了EmbedKGQA。EmbedKGQA在稀疏KG上執行多跳KGQA特別有效。EmbedKGQA還放寬了從預先確定的鄰域中選擇答案的要求，這是以前的多跳KGQA方法實施的次優約束。通過在多個基準數據集上的廣泛實驗，我們證明了EmbedKGQA在其他最先進的基線上的有效性。

網址：

代碼鏈接：

3. Low-Dimensional Hyperbolic Knowledge Graph Embeddings

作者：Ines Chami, Adva Wolf, Da-Cheng Juan, Frederic Sala, Sujith Ravi, Christopher Ré

摘要：知識圖(KG)嵌入學習實體和關系的低維表示，用于預測另外實體或者補全關系。KG通常表現出必須保留在嵌入空間中的分層和邏輯模式。對于分層數據，雙曲嵌入（hyperbolic embedding）方法在高保真和簡約表示方面顯示出了希望。然而，現有的雙曲嵌入方法沒有考慮KG中豐富的邏輯模式。在這項工作中，我們引入了一類同時捕捉層次模式和邏輯模式的雙曲KG嵌入模型。我們的方法結合了雙曲線反射和旋轉，并注意建模復雜的關系模式。在標準KG基準上的實驗結果表明，我們的方法在低維的MRR（mean reciprocal rank）上比以前的基于歐幾里得和雙曲的工作提高了6.1%。此外，我們觀察到不同的幾何變換捕獲不同類型的關系，而基于注意力的變換概括為多個關系。在高維方面，我們的方法在WN18RR上的MRR為49.6%，在YAGO3-10上的MRR為57.7%。

網址：

4. Orthogonal Relation Transforms with Graph Context Modeling for Knowledge Graph Embedding

作者：Yun Tang, Jing Huang, Guangtao Wang, Xiaodong He, Bowen Zhou

摘要：基于距離的知識圖嵌入已經在知識圖鏈接預測任務上有了實質性的改進，從TransE到目前最先進的RotatE。然而，諸如 N-to-1, 1-to-N和N-to-N的復雜關系仍然難以預測。在這項工作中，我們提出了一種新的基于距離的知識圖鏈接預測方法。首先，通過對模型關系的正交變換，將RotatE從二維復數域擴展到高維空間。關系的正交變換嵌入保持了對于對稱/反對稱關系、逆關系和復合關系的建模能力，同時具有更好的建模能力。其次，將圖形上下文直接集成到距離評分函數中。具體地說，圖上下文是通過兩個有向上下文表示來顯式建模的。嵌入到知識圖中的每個節點都增加了兩個上下文表示，這兩個上下文表示分別從相鄰的傳出節點/邊和傳入節點/邊計算得到。該方法提高了N-to-1, 1-to-N和N-to-N情況下的預測精度。實驗結果表明，該算法在兩個常用的基準測試FB15k237和WNRR-18上都取得了最好的結果，特別是在節點數較多的FB15k-237上。

網址：

5. SEEK: Segmented Embedding of Knowledge Graphs

作者：Wentao Xu, Shun Zheng, Liang He, Bin Shao, Jian Yin, Tie-Yan Liu

摘要：近年來，知識圖嵌入成為人工智能領域的研究熱點，在推薦、問答等各種下游應用中發揮著越來越重要的作用。然而，現有的知識圖嵌入方法沒有在模型復雜度和模型表現力之間取得適當的折衷，這使得它們仍然遠遠不能令人滿意。為了緩解這一問題，我們提出了一個輕量級的建模框架，它可以在不增加模型復雜度的情況下獲得具有高度競爭力的關系表達能力。我們的框架側重于評分函數的設計，并突出了兩個關鍵特征：1)促進充分的特征交互；2)保持關系的對稱性和反對稱性。值得注意的是，由于評分函數設計的通用性和美觀性，我們的框架可以將現有的許多著名的方法作為特例合并在一起。此外，在公共基準上的大量實驗證明了該框架的有效性。

網址：

代碼鏈接：

【導讀】作為CCF推薦的A類國際學術會議，International ACM SIGIR Conference on Research and Development in Information Retrieval（國際計算機學會信息檢索大會，簡稱 SIGIR）在信息檢索領域享有很高的學術聲譽，每年都會吸引全球眾多專業人士參與。今年的 SIGIR 2020計劃將于 2020年7月25日~30日在中國西安舉行。本次大會共有555篇長文投稿，僅有147篇長文被錄用，錄用率約26%。專知小編提前為大家整理了六篇SIGIR 2020 基于圖神經網絡的推薦（GNN+RS）相關論文，這六篇論文分別出自中科大何向南老師和和昆士蘭大學陰紅志老師團隊，供大家參考——捆綁推薦、Disentangled GCF、服裝推薦、多行為推薦、全局屬性GNN

CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN

1. Bundle Recommendation with Graph Convolutional Networks

作者：Jianxin Chang, Chen Gao, Xiangnan He, Yong Li, Depeng Jin

摘要：捆綁推薦（Bundle recommendation ）旨在推薦一組商品供用戶整體消費。現有的解決方案通過共享模型參數或多任務學習的方式將用戶項目交互建模集成到捆綁推薦中，然而，這些方法不能顯式建模項目與捆綁包（bundles）之間的隸屬關系，不能探索用戶選擇捆綁包時的決策。在這項工作中，我們提出了一個用于捆綁推薦的圖神經網絡模型BGCN(Bundle Graph Convolutional Network)。BGCN將用戶-項目交互、用戶-捆綁包交互和捆綁包-項目從屬關系統一到一個異構圖中。以項目節點為橋梁，在用戶節點和捆綁包節點之間進行圖卷積傳播，使學習到的表示能夠捕捉到項目級的語義。通過基于hard-negative采樣器的訓練，可以進一步區分用戶對相似捆綁包的細粒度偏好。在兩個真實數據集上的實驗結果表明，BGCN的性能有很高的提升，其性能比最新的基線高出10.77%到23.18%。

網址： //arxiv.org/abs/2005.03475

2. Disentangled Graph Collaborative Filtering

作者：Xiang Wang, Hongye Jin, An Zhang, Xiangnan He, Tong Xu, Tat-Seng Chua

摘要：從交互數據中學習用戶和項目的信息表示對于協同過濾(CF)至關重要。當前的嵌入函數利用用戶-項目關系來豐富表示，從單個用戶-項目實例演變為整體交互圖。然而，這些方法在很大程度上以統一的方式對關系進行建模，而忽略了用戶采用這些項目的意圖的多樣性，這可能是為了打發時間，為了興趣，或者為其他人(如家庭)購物。這種統一的對用戶興趣建模的方法很容易導致次優表示，不能對不同的關系建模并在表示中分清用戶意圖。在這項工作中，我們特別關注用戶意圖細粒度上的用戶-項目關系。因此，我們設計了一種新的模型- Disentangled圖協同過濾(Disentangled Graph Collaborative Filtering ,DGCF)，來理清這些因素并產生disentangled的表示。具體地說，通過在每個用戶-項目交互意圖上的分布建模，我們迭代地細化意圖感知的交互圖和表示。同時，我們鼓勵不同的意圖獨立。這將生成disentangled的表示，有效地提取與每個意圖相關的信息。我們在三個基準數據集上進行了廣泛的實驗，DGCF與NGCF、DisenGCN和MacridV AE這幾個最先進的模型相比取得了顯著的改進。進一步的分析揭示了DGCF在分解用戶意圖和表示的可解釋性方面的優勢。

網址：

代碼鏈接：

.

3. GCN-Based User Representation Learning for Unifying Robust Recommendation and Fraudster Detection

作者：Shijie Zhang, Hongzhi Yin, Tong Chen, Quoc Viet Nguyen Hung, Zi Huang, Lizhen Cui

摘要：近年來，推薦系統已經成為所有電子商務平臺中不可缺少的功能。推薦系統的審查評級數據通常來自開放平臺，這可能會吸引一群惡意用戶故意插入虛假反饋，試圖使推薦系統偏向于他們。此類攻擊的存在可能會違反高質量數據始終可用的建模假設，而這些數據確實會影響用戶的興趣和偏好。因此，構建一個即使在攻擊下也能產生穩定推薦的健壯推薦系統具有重要的現實意義。本文提出了一種基于GCN的用戶表示學習框架GraphRf，該框架能夠統一地進行穩健的推薦和欺詐者檢測。在其端到端學習過程中，用戶在欺詐者檢測模塊中被識別為欺詐者的概率自動確定該用戶的評級數據在推薦模塊中的貢獻；而在推薦模塊中輸出的預測誤差作為欺詐者檢測模塊中的重要特征。因此，這兩個組成部分可以相互促進。經過大量的實驗，實驗結果表明我們的GraphRf在魯棒評級預測和欺詐者檢測這兩個任務中具有優勢。此外，所提出的GraphRf被驗證為對現有推薦系統上的各種攻擊具有更強的魯棒性。

網址：

4. Hierarchical Fashion Graph Network for Personalized Outfit Recommendation

作者：Xingchen Li, Xiang Wang, Xiangnan He, Long Chen, Jun Xiao, Tat-Seng Chua

摘要：服裝推薦越來越受到網購服務商和時尚界的關注。與向用戶推薦單個單品(例如，朋友或圖片)的其他場景(例如，社交網絡或內容共享)不同，服裝推薦預測用戶對一組匹配良好的時尚單品的偏好。因此，進行高質量的個性化服裝推薦應滿足兩個要求：1)時尚單品的良好兼容性；2)與用戶偏好的一致性。然而，目前的研究主要集中在其中一個需求上，只考慮了用戶-全套服裝（outfit）或全套服裝-項目的關系，從而容易導致次優表示，限制了性能。在這項工作中，我們統一了兩個任務，服裝兼容性建模和個性化服裝推薦。為此，我們開發了一個新的框架，層次時尚圖網絡(HFGN)，用于同時建模用戶、商品和成套服裝之間的關系。特別地，我們構建了一個基于用戶-全套服裝交互和全套服裝-項目映射的層次結構。然后，我們從最近的圖神經網絡中得到啟發，在這種層次圖上使用嵌入傳播，從而將項目信息聚合到一個服裝表示中，然后通過他/她的歷史服裝來提煉用戶的表示。此外，我們還對這兩個任務進行了聯合訓練，以優化這些表示。為了證明HFGN的有效性，我們在一個基準數據集上進行了廣泛的實驗，HFGN在NGNN和FHN等最先進的兼容性匹配模型基礎上取得了顯著的改進。

網址：

代碼鏈接：

5. Multi-behavior Recommendation with Graph Convolutional Networks

作者：Bowen Jin, Chen Gao, Xiangnan He, Depeng Jin, Yong Li

摘要：傳統的推薦模型通常只使用一種類型的用戶-項目交互，面臨著嚴重的數據稀疏或冷啟動問題。利用多種類型的用戶-項目交互(例如：點擊和收藏)的多行為推薦可以作為一種有效的解決方案。早期的多行為推薦研究未能捕捉到行為對目標行為的不同程度的影響。它們也忽略了多行為數據中隱含的行為語義。這兩個限制都使得數據不能被充分利用來提高對目標行為的推薦性能。在這項工作中，我們創新性地構造了一個統一的圖來表示多行為數據，并提出了一種新的模型--多行為圖卷積網絡(Multi-Behavior Graph Convolutional Network，MBGCN)。MBGCN通過用戶-項目傳播層學習行為強度，通過項目-項目傳播層捕獲行為語義，較好地解決了現有工作的局限性。在兩個真實數據集上的實驗結果驗證了該模型在挖掘多行為數據方面的有效性。我們的模型在兩個數據集上的性能分別比最優基線高25.02%和6.51%。對冷啟動用戶的進一步研究證實了該模型的實用性。

網址：

6. GAG: Global Atributed Graph Neural Network for Streaming Session-based Recommendation

作者：Ruihong Qiu, Hongzhi Yin, Zi Huang, Tong Chen

摘要：基于流會話的推薦(Streaming session-based recommendation，SSR)是一項具有挑戰性的任務，它要求推薦器系統在流媒體場景（streaming scenario）中進行基于會話的推薦(SR)。在電子商務和社交媒體的現實應用中，在一定時間內產生的一系列用戶-項目交互被分組為一個會話，這些會話以流的形式連續到達。最近的SR研究大多集中在靜態集合上，即首先獲取訓練數據，然后使用該集合來訓練基于會話的推薦器模型。他們需要對整個數據集進行幾個epoch的訓練，這在流式設置下是不可行的。此外，由于對用戶信息的忽視或簡單使用，它們很難很好地捕捉到用戶的長期興趣。雖然最近已經提出了一些流推薦策略，但它們是針對個人交互流而不是會話流而設計的。本文提出了一種求解SSR問題的帶有Wasserstein 庫的全局屬性圖(GAG)神經網絡模型。一方面，當新的會話到達時，基于當前會話及其關聯用戶構造具有全局屬性的會話圖。因此，GAG可以同時考慮全局屬性和當前會話，以了解會話和用戶的更全面的表示，從而在推薦中產生更好的性能。另一方面，為了適應流會話場景，提出了Wasserstein庫來幫助保存歷史數據的代表性草圖。在兩個真實數據集上進行了擴展實驗，驗證了GAG模型與最新方法相比的優越性。

網址：

【導讀】作為世界數據挖掘領域的最高級別的學術會議，ACM SIGKDD（國際數據挖掘與知識發現大會，簡稱 KDD）每年都會吸引全球領域眾多專業人士參與。今年的 KDD大會計劃將于 2020 年 8 月 23 日 ~27 日在美國美國加利福尼亞州圣地亞哥舉行。上周，KDD 2020官方發布接收論文，共有1279篇論文提交到Research Track，共216篇被接收，接收率16.8%。近期一些Paper放出來了，為此，專知小編提前為大家整理了五篇KDD 2020 圖神經網絡（GNN）相關論文，供大家參考。——圖結構學習、多元時間序列預測、負采樣、多任務多視角圖表示學習、多興趣推薦

CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN、

1. Graph Structure Learning for Robust Graph Neural Networks

作者：Wei Jin, Yao Ma, Xiaorui Liu, Xianfeng Tang, Suhang Wang, Jiliang Tang

摘要：圖神經網絡(GNNs)是圖表示學習的有力工具。但是，最近的研究表明，GNN容易受到精心設計的擾動（稱為對抗攻擊）的攻擊。對抗性攻擊很容易欺騙GNN來預測下游任務。對于對抗攻擊的脆弱性使人們越來越關注在安全關鍵型應用中應用GNN。因此，開發穩健的算法來防御對抗攻擊具有重要意義。防御對抗攻擊的一個自然想法是清理受干擾的圖。很明顯，真實世界的圖共享一些內在屬性。例如，許多現實世界的圖都是低秩和稀疏的，兩個相鄰節點的特征往往是相似的。事實上，我們發現對抗攻擊很可能會違背這些圖的性質。因此，在本文中，我們利用這些特性來防御針對圖的對抗攻擊。特別是，我們提出了一個通用框架Pro-GNN，該框架可以從受這些特性指導的擾動圖中聯合學習結構圖和魯棒圖神經網絡模型。在真實圖上的大量實驗表明，即使在圖受到嚴重干擾的情況下，我們所提出的框架也比現有的防御方法獲得了顯著更好的性能。我們將Pro-GNN的實現發布到我們的DeepRobust存儲庫，以進行對抗性攻擊和防御。

網址： //arxiv.org/pdf/2005.10203.pdf

代碼鏈接：

2. Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks

作者：Zonghan Wu, Shirui Pan, Guodong Long, Jing Jiang, Xiaojun Chang, Chengqi Zhang

摘要：多變量時間序列的建模長期以來一直吸引著來自經濟、金融和交通等不同領域的研究人員的關注。多變量時間序列預測背后的一個基本假設是其變量之間相互依賴，但現有方法未能充分利用變量對之間的潛在空間相關性。同時，近些年來，圖神經網絡(GNNs)在處理關系依賴方面表現出了很高的能力。GNN需要定義良好的圖結構來進行信息傳播，這意味著它們不能直接應用于事先不知道依賴關系的多變量時間序列。本文提出了一種專門針對多變量時間序列數據設計的通用圖神經網絡框架。該方法通過圖學習模塊自動提取變量間的單向關系，可以方便地集成變量屬性等外部知識。在此基礎上，提出了一種新的max-hop傳播層和一個dilated inception層來捕捉時間序列中的時間和空間依賴關系。圖學習、圖卷積和時間卷積模塊在端到端框架中聯合學習。實驗結果表明，我們提出的模型在4個基準數據集中的3個數據上優于最新的基線方法，并且在提供額外結構信息的兩個交通數據集上，與其他方法具有同等的性能。

網址：

3. Understanding Negative Sampling in Graph Representation Learning

作者：Zhen Yang, Ming Ding, Chang Zhou, Hongxia Yang, Jingren Zhou, Jie Tang

摘要：在最近的幾年中，對圖表示學習進行了廣泛的研究。盡管它有可能為各種網絡生成連續的嵌入，但是在大型節點集中得到有效高質量的表示仍然具有挑戰性。采樣是實現該性能目標的關鍵點。現有技術通常側重于正向節點對的采樣，而對負向采樣的策略探索不夠。為了彌補這一差距，我們從目標和風險兩個角度系統地分析了負采樣的作用，從理論上論證了負采樣在確定優化目標和結果方差方面與正采樣同等重要。據我們所知，我們是第一個推導該理論并量化負采樣分布應與其正采樣分布成正相關但亞線性相關的方法。在該理論的指導下，我們提出了MCNS，用自對比度近似法近似正分布，并通過Metropolis-Hastings加速負采樣。我們在5個數據集上評估了我們的方法，這些數據集涵蓋了19個實驗設置，涵蓋了廣泛的下游圖學習任務，包括鏈接預測，節點分類和個性化推薦。這些相對全面的實驗結果證明了其穩健性和優越性。

網址：

4. M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems

作者：Menghan Wang, Yujie Lin, Guli Lin, Keping Yang, Xiao-ming Wu

摘要：將圖表示學習與多視圖數據(邊信息)相結合進行推薦是工業上的一種趨勢。現有的大多數方法可以歸類為多視圖表示融合，它們首先構建一個圖，然后將多視圖數據集成到圖中每個節點的單個緊湊表示中。這些方法在工程和算法方面都引起了人們的關注：1)多視圖數據在工業中是豐富而且有用的，并且可能超過單個矢量的容量；2)由于多視圖數據往往來自不同的分布，可能會引入歸納偏置（inductive bias）。在本文中，我們使用一種多視圖表示對齊方法來解決這個問題。特別地，我們提出了一個多任務多視角圖表示學習框架(M2GRL)來學習web級推薦系統中的多視角圖節點表示。M2GRL為每個單視圖數據構造一個圖，從多個圖中學習多個單獨的表示，并執行對齊以建立模型的交叉視圖關系。M2GRL選擇了一種多任務學習范式來聯合學習視圖內表示和交叉視圖關系。此外，M2GRL在訓練過程中利用同方差不確定性自適應地調整任務的損失權重。我們在淘寶部署了M2GRL，并對570億個實例進行了訓練。根據離線指標和在線A/B測試，M2GRL的性能明顯優于其他最先進的算法。對淘寶多樣性推薦的進一步研究表明，利用M2GRL產生的多種表征是有效的，對于不同側重點的各種工業推薦任務來說，M2GRL是一個很有前途的方向。

網址：

5. Controllable Multi-Interest Framework for Recommendation

作者：Yukuo Cen, Jianwei Zhang, Xu Zou, Chang Zhou, Hongxia Yang, Jie Tang

摘要：近年來，由于深度學習的快速發展，神經網絡在電子商務推薦系統中得到了廣泛的應用。我們將推薦系統形式化為一個序列推薦問題，目的是預測可能與用戶交互的下一個項目。最近的研究通常從用戶的行為序列中給出一個整體的嵌入。然而，統一的用戶嵌入不能反映用戶在一段時間內的多個興趣。本文提出了一種新穎的可控多興趣序列推薦框架，稱為ComiRec。我們的多興趣模塊從用戶行為序列中捕獲多個興趣，可用于從大規模項目集中檢索候選項目。然后將這些項目送入聚合模塊以獲得總體推薦。聚合模塊利用一個可控因素來平衡推薦的準確性和多樣性。我們在兩個真實的數據集Amazon和Taobao進行序列推薦實驗。實驗結果表明，我們的框架相對于最新模型取得了重大改進。我們的框架也已成功部署在離線阿里巴巴分布式云平臺上。

網址：

代碼鏈接：

【導讀】國際萬維網大會（The Web Conference，簡稱WWW會議）是由國際萬維網會議委員會發起主辦的國際頂級學術會議，創辦于1994年，每年舉辦一屆，是CCF-A類會議。WWW 2020將于2020年4月20日至4月24日在中國臺灣臺北舉行。本屆會議共收到了1129篇長文投稿，錄用217篇長文，錄用率為19.2%。這周會議已經召開，會議論文集已經公開，大家可以自己查看感興趣的論文，專知小編繼續整理WWW 2020 系列論文，這期小編為大家奉上的是WWW 2020五篇知識圖譜+圖神經網絡（KG+GNN）相關論文，供大家參考！——多關系實體對齊、問答推理、動態圖實體鏈接、序列實體鏈接、知識圖譜補全。

WWW 2020 會議論文集： //dl.acm.org/doi/proceedings/10.1145/3366423

WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN、ICML2019GNN

1. Collective Multi-type Entity Alignment Between Knowledge Graphs

作者：Qi Zhu, Hao Wei, Bunyamin Sisman, Da Zheng, Christos Faloutsos, Xin Luna Dong and Jiawei Han

摘要：知識圖(如Freebase、Yago)是表示各類實體之間豐富真實信息的多關系圖。實體對齊是實現多源知識圖集成的關鍵步驟。它旨在識別涉及同一真實世界實體的不同知識圖中的實體。然而，現有的實體對齊系統忽略了不同知識圖的稀疏性，不能通過單一模型對多類型實體進行對齊。在本文中，我們提出了一種用于多類型實體對齊的聯合圖神經網絡（Collective Graph neural network），稱為CG-MuAlign。與以前的工作不同，CG-MuAlign聯合對齊多種類型的實體，共同利用鄰域信息并將其推廣到未標記的實體類型。具體地說，我們提出了一種新的集中聚集函數1)通過交叉圖和自注意力來緩解知識圖的不完全性，2）通過小批量訓練范例和有效的鄰域抽樣策略，有效地提高了可伸縮性。我們在具有數百萬個實體的真實知識圖上進行了實驗，觀察到了比現有方法更優越的性能。此外，我們的方法的運行時間比目前最先進的深度學習方法要少得多。

網址：

2. Complex Factoid Question Answering with a Free-Text Knowledge Graph

作者：Chen Zhao, Chenyan Xiong, Xin Qian and Jordan Boyd-Graber

摘要：我們介紹了Delft，一個事實問答系統，它將知識圖問答方法的細微和深度與更廣泛的free-文本結合在一起。Delft從Wikipedia構建了一個自由文本知識圖，以實體為節點和句子，其中實體同時出現做為邊。對于每個問題，Delft使用文本句子作為邊，找到將問題實體節點鏈接到候選對象的子圖，創建了密集且覆蓋率高的語義圖。一種新穎的圖神經網絡在free-文本圖上進行推理-通過沿邊句子的信息組合節點上的證據-以選擇最終答案。在三個問答數據集上的實驗表明，Delft能夠比基于機器閱讀的模型、基于BERT的答案排序和記憶網絡更好地回答實體豐富的問題。Delft的優勢既來自于其free-文本知識圖譜的高覆蓋率--是DBpedia關系的兩倍多--也來自于新穎的圖神經網絡，它基于豐富而嘈雜的free-文本證據進行推理。

網址：

3. Dynamic Graph Convolutional Networks for Entity Linking

作者：Junshuang Wu, Richong Zhang, Yongyi Mao, Hongyu Guo, Masoumeh Soflaei and Jinpeng Huai

摘要：實體鏈接將文檔中提及的命名實體映射到給定知識圖中的合適的實體，已被證明能夠從基于圖卷積網絡(GCN)對實體相關性建模中獲得顯著好處。然而，現有的GCN實體鏈接模型沒有考慮到，一組實體的結構化圖不僅依賴于給定文檔的上下文信息，而且在GCN的不同聚合層上自適應地變化，導致在捕捉實體之間的結構信息方面存在不足。在本文中，我們提出了一種動態的GCN體系結構來有效地應對這一挑戰。模型中的圖結構是在訓練過程中動態計算和修改的。通過聚合動態鏈接節點的知識，我們的GCN模型可以集中識別文檔和知識圖之間的實體映射，并有效地捕捉整個文檔中各個實體提及（ mentions）之間的主題一致性。在基準實體連接數據集上的實證研究證實了我們提出的策略的優越性能和動態圖結構的好處。

網址：

4. High Quality Candidate Generation and Sequential Graph Attention Network for Entity Linking

作者：Yichao Zhou, Shaunak Mishra, Manisha Verma, Narayan Bhamidipati and Wei Wang

摘要：實體鏈接(EL)是將文本中提及的內容映射到知識庫(KB)中相應實體的任務。這項任務通常包括候選生成(CG)和實體消歧(ED)兩個階段。目前基于神經網絡模型的EL系統取得了較好的性能，但仍然面臨著兩個挑戰：(1)以往的研究在評估模型時沒有考慮候選實體之間的差異。事實上，候選集的質量(特別是黃金召回)對EL結果有影響。因此，如何提候選的素質需要引起更多的關注。(Ii)為了利用提及實體之間的主題一致性，提出了許多聚集ED的圖和序列模型。然而，基于圖的模型對所有候選實體一視同仁，這可能會引入大量的噪聲信息。相反，序列模型只能觀察先前引用的實體，而忽略了當前提及的實體與其后續實體之間的相關性。針對第一個問題，我們提出了一種基于多策略的CG方法來生成高召回率的候選集。對于第二個問題，我們設計了一個序列圖注意力網絡(SeqGat)，它結合了圖和序列方法的優點。在我們的模型中，提及（ mentions）是按順序處理的。在當前提到的情況下，SeqGAT對其先前引用的實體和后續實體進行動態編碼，并為這些實體分配不同的重要性。這樣既充分利用了主題的一致性，又減少了噪聲干擾。我們在不同類型的數據集上進行了實驗，并在開放的評測平臺上與以前的EL系統進行了比較。比較結果表明，與現有的方法相比，我們的模型有了很大的改進。

網址：

5. Mining Implicit Entity Preference from User-Item Interaction Data for Knowledge Graph Completion via Adversarial Learning

作者：Gaole He, Junyi Li, Wayne Xin Zhao, Peiju Liu and Ji-Rong Wen

摘要：知識圖補全(KGC)任務旨在自動推斷知識圖(KG)中缺失的事實信息。在本文中，我們采取了一個新的視角，旨在利用豐富的用戶-項目交互數據(簡稱用戶交互數據)來改進KGC任務。我們的工作靈感來自于觀察到許多KG實體對應于應用系統中的在線項目。然而，這兩種數據源的固有特性有很大的不同，使用簡單的融合策略很可能會損害原有的性能。為了應對這一挑戰，我們提出了一種新的對抗性學習方法，通過利用用戶交互數據來執行KGC任務。我們的生成器是從用戶交互數據中分離出來的，用來提高鑒別器的性能。鑒別器將從用戶交互數據中學習到的有用信息作為輸入，并逐步增強評估能力，以識別生成器生成的假樣本。為了發現用戶的隱含實體偏好，設計了一種基于圖神經網絡的協同學習算法，并與鑒別器進行聯合優化。這種方法有效地緩解了KGC任務的數據異構性和語義復雜性問題。在三個真實世界數據集上的廣泛實驗已經證明了我們在KGC任務上的方法的有效性。

網址：

最近小編推出CVPR2019圖卷積網絡、CVPR2019生成對抗網絡、【可解釋性】，CVPR視覺目標跟蹤，CVPR視覺問答，醫學圖像分割，圖神經網絡的推薦，CVPR域自適應， ICML圖神經網絡，ICML元學習相關論文，反響熱烈。最近，ACL 2019最新接受文章出爐，大會共收到2905 篇論文投稿，其中660 篇被接收（接收率為22.7%）。小編發現，今年接受的文章結合GNN的工作有二三十篇，看來，圖神經網絡已經攻占NLP領域，希望其他領域的同學多多學習，看能否結合，期待好的工作！今天小編專門整理最新十篇ACL長文，圖神經網絡（GNN）+NLP—注意力機制引導圖神經網絡、Graph-to-Sequence、動態融合圖網絡、實體和關系抽取、Multi-hop閱讀理解、多模態上下文圖理解等。

1、Attention Guided Graph Convolutional Networks for Relation Extraction （注意力機制引導圖神經網絡的關系抽取）

ACL ’19

作者：Zhijiang Guo*, Yan Zhang* and Wei Lu

摘要：Dependency trees傳遞豐富的結構信息，這些信息對于提取文本中實體之間的關系非常有用。然而，如何有效利用相關信息而忽略Dependency trees中的無關信息仍然是一個具有挑戰性的研究問題。現有的方法使用基于規則的hard-pruning策略來選擇相關的部分依賴結構，可能并不總是產生最佳結果。本文提出了一種直接以全依賴樹為輸入的Attention Guided圖卷積網絡(AGGCNs)模型。我們的模型可以理解為一種soft-pruning方法，它自動學習如何有選擇地關注對關系提取任務有用的相關子結構。在包括跨句n元關系提取和大規模句級關系提取在內的各種任務上的大量結果表明，我們的模型能夠更好地利用全依賴樹的結構信息，其結果顯著優于之前的方法。

網址： //www.statnlp.org/paper/2019/attention-guided-graph-convolutional-networks-relation-extraction.html

代碼鏈接：

2、Cognitive Graph for Multi-Hop Reading Comprehension at Scale（大規模認知圖的Multi-Hop閱讀理解）

ACL ’19

作者：Ming Ding, Chang Zhou, Qibin Chen, Hongxia Yang, Jie Tang

摘要：我們提出了一種新的基于CogQA的web級文檔multi-hop問答框架。該框架以認知科學的對偶過程理論為基礎，通過協調隱式抽取模塊(System 1)和顯式推理模塊(System 2)，在迭代過程中逐步構建認知圖，在給出準確答案的同時，進一步提供了可解釋的推理路徑。具體來說，我們基于BERT和graph neural network (GNN)的實現有效地處理了HotpotQA fullwiki數據集中數百萬個multi-hop推理問題的文檔，在排行榜上獲得了34.9的F1 score，而最佳競爭對手的得分為23.6。

網址：

代碼鏈接：

3、Coherent Comment Generation for Chinese Articles with a Graph-to-Sequence Model（使用Graph-to-Sequence模型為中文文章生成連貫的評論）

ACL ’19

作者：Wei Li, Jingjing Xu, Yancheng He, Shengli Yan, Yunfang Wu, Xu sun

摘要：自動文章評論有助于鼓勵用戶參與和在線新聞平臺上的互動。然而，對于傳統的基于encoder-decoder的模型來說，新聞文檔通常太長，這往往會導致一般性和不相關的評論。在本文中，我們提出使用一個Graph-to-Sequence的模型來生成評論，該模型將輸入的新聞建模為一個主題交互圖。通過將文章組織成圖結構，我們的模型可以更好地理解文章的內部結構和主題之間的聯系，這使得它能夠更好地理解故事。我們從中國流行的在線新聞平臺Tencent Kuaibao上收集并發布了一個大規模的新聞評論語料庫。廣泛的實驗結果表明，與幾個強大的baseline模型相比，我們的模型可以產生更多的連貫性和信息豐富性的評論。

網址：

代碼鏈接：

4、Dynamically Fused Graph Network for Multi-hop Reasoning（基于動態融合圖網絡的Multi-hop Reasoning）

ACL ’19

作者：Yunxuan Xiao, Yanru Qu, Lin Qiu, Hao Zhou, Lei Li, Weinan Zhang, Yong Yu

摘要：近年來，基于文本的問答(TBQA)得到了廣泛的研究。大多數現有的方法側重于在一段話內找到問題的答案。然而，許多有難度的問題需要來自兩個或多個文檔的分散文本的支持證據。本文提出了動態融合圖網絡(Dynamically Fused Graph Network ，DFGN)，這是一種解決需要多個分散證據和推理的問題的新方法。受人類逐步推理行為的啟發，DFGN包含一個動態融合層，從給定查詢中提到的實體開始，沿著文本動態構建的實體圖進行探索，并逐步從給定文檔中找到相關的支持實體。我們在需要multi-hop reasoning的公共TBQA數據集HotpotQA上評估了DFGN。DFGN在公共數據集上取得了有競爭力的成績。此外，我們的分析表明，DFGN可以產生可解釋的推理鏈。

網址：

5、 Encoding Social Information with Graph Convolutional Networks for Political Perspective Detection in News Media（利用圖卷積網絡對Social Information進行編碼，用于新聞媒體中的政治傾向性檢測）

ACL ’19

作者：Chang Li, Dan Goldwasser

摘要：確定新聞事件在媒體中討論方式的政治視角是一項重要而富有挑戰性的任務。在這篇文章中，我們強調了將社交網絡置于情景化的重要性，捕捉這些信息如何在社交網絡中傳播。我們使用最近提出的一種表示關系信息的神經網絡結構——圖卷積網絡（Graph Convolutional Network）來捕獲這些信息，并證明即使在很少的social information分類中也可以得到顯著改進。

網址：

6、Graph Neural Networks with Generated Parameters for Relation Extraction（用于關系抽取的具有生成參數的圖神經網絡）

ACL ’19

作者：Hao Zhu, Yankai Lin, Zhiyuan Liu, Jie Fu, Tat-seng Chua, Maosong Sun

摘要：近年來，在改進機器學習領域的關系推理方面取得了一些進展。在現有的模型中，圖神經網絡(GNNs)是最有效的multi-hop關系推理方法之一。事實上，在關系抽取等自然語言處理任務中，multi-hop關系推理是必不可少的。本文提出了一種基于自然語言語句生成圖神經網絡(GP-GNNs)參數的方法，使神經網絡能夠對非結構化文本輸入進行關系推理。我們驗證了從文本中提取關系的GPGNN。 實驗結果表明，與baseline相比，我們的模型取得了顯著的改進。我們還進行了定性分析，證明我們的模型可以通過multi-hop關系推理發現更精確的關系。

網址：

7、Incorporating Syntactic and Semantic Information in Word Embeddings using Graph Convolutional Networks（使用圖卷積網絡在詞嵌入中結合句法和語義信息）

ACL ’19

作者：Shikhar Vashishth, Manik Bhandari, Prateek Yadav, Piyush Rai, Chiranjib Bhattacharyya, Partha Talukdar

摘要：詞嵌入已被廣泛應用于多種NLP應用程序中。現有的詞嵌入方法大多利用詞的sequential context來學習詞的嵌入。雖然有一些嘗試利用詞的syntactic context，但這種方法會導致詞表數的爆炸。在本文中，我們通過提出SynGCN來解決這個問題，SynGCN是一種靈活的基于圖卷積的學習詞嵌入的方法。SynGCN在不增加詞表大小的情況下利用單詞的dependency context。SynGCN學習的詞嵌入在各種內部和外部任務上都優于現有方法，在與ELMo一起使用時提供優勢。我們還提出了SemGCN，這是一個有效的框架，用于整合不同的語義知識，以進一步增強所學習的單詞表示。我們提供了兩個模型的源代碼，以鼓勵可重復的研究。

網址：

代碼鏈接：

8、 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction（GraphRel: 將文本建模為關系圖，用于實體和關系抽取）

ACL ’19

作者：Tsu-Jui Fu, Peng-Hsuan Li, Wei-Yun Ma

摘要：本文提出了一種利用圖卷積網絡(GCNs)聯合學習命名實體和關系的端到端關系抽取模型GraphRel。與之前的baseline相比，我們通過關系加權GCN來考慮命名實體和關系之間的交互，從而更好地提取關系。線性結構和依賴結構都用于提取文本的序列特征和區域特征，并利用完整的詞圖進一步提取文本所有詞對之間的隱式特征。基于圖的方法大大提高了對重疊關系的預測能力。我們在兩個公共數據集NYT和webnlg上評估了GraphRel。結果表明，GraphRel在大幅度提高recall的同時，保持了較高的precision。GraphRel的性能也比之前的工作好3.2%和5.8% (F1 score)，實現了關系抽取的最先進的方法。

網址：

代碼鏈接：

9、Multi-hop Reading Comprehension across Multiple Documents by Reasoning over Heterogeneous Graphs（通過對異構圖進行推理，實現跨多個文檔的Multi-hop閱讀理解）

ACL ’19

作者：Ming Tu, Guangtao Wang, Jing Huang, Yun Tang, Xiaodong He, Bowen Zhou

摘要：跨文檔的Multi-hop閱讀理解(RC)對單文本RC提出了新的挑戰，因為它需要對多個文檔進行推理才能得到最終答案。在本文中，我們提出了一個新的模型來解決multi-hop RC問題。我們引入了具有不同類型的節點和邊的異構圖，稱為異構文檔-實體（HDE）圖。HDE圖的優點是它包含不同粒度級別的信息，包括特定文檔上下文中的候選信息、文檔和實體。我們提出的模型可以對HDE圖進行推理，節點表示由基于co-attention 和 self-attention的上下文編碼器初始化。我們使用基于圖神經網絡(GNN)的消息傳遞算法，在提出的HDE圖上累積evidence。通過對Qangaroo WIKIHOP數據集的blind測試集的評估，我們的基于HDE圖的單模型給出了具有競爭力的結果，并且集成模型達到了最先進的性能。

網址：

10、Textbook Question Answering with Multi-modal Context Graph Understanding and Self-supervised Open-set Comprehension（多模態上下文圖理解和自監督開放集理解的Textbook問答）

ACL ’19

作者：Daesik Kim, Seonhoon Kim, Nojun Kwak

摘要：在本文中，我們介紹了一種解決教科書問答(TQA)任務的新算法。在分析TQA數據集時，我們主要關注兩個相關問題。首先，解決TQA問題需要理解復雜輸入數據中的多模態上下文。為了解決從長文本中提取知識特征并與視覺特征相結合的問題，我們從文本和圖像中建立了上下文圖，并提出了一種基于圖卷積網絡(GCN)的f-GCN模塊。其次，科學術語不會分散在各個章節中，而且主題在TQA數據集中是分開的。為了克服這個所謂的“領域外”問題，在學習QA問題之前，我們引入了一種新的沒有任何標注的自監督開放集學習過程。實驗結果表明，我們的模型明顯優于現有的最先進的方法。此外，消融研究證實，將f-GCN用于從多模態上下文中提取知識的方法和我們新提出的自監督學習過程對于TQA問題都是有效的。

網址：

下載鏈接： 提取碼：rr1c