題目: Quaternion Knowledge Graph Embeddings
摘要: 在本篇論文中,我們引入了更具表現力的超復數表示來為知識圖嵌入建模實體和關系。更具體地說,四元數嵌入是一種具有三個虛分量的超復數值嵌入,用來表示實體。關系被建模為四元數空間中的旋轉。該方法的優點是:(1)利用Hamilton積有效地捕捉了各分量之間的潛在相互依賴關系,鼓勵了實體與關系之間更緊密的相互作用;(2)四元數在四維空間中實現了表示旋轉,比在復平面上的旋轉具有更大的自由度;(3)利用Hamilton積可以有效地捕捉各分量之間的潛在相互依賴關系該框架是超復數空間上復數的推廣,同時提供了更好的幾何解釋,同時滿足了關系表示學習(即建模對稱、反對稱和反演)的關鍵要求。
作者簡介: Shuai Zhang,羅切斯特大學激光能量學實驗室科學家。個人主頁://eps.berkeley.edu/~szhang/
題目: Multi-relational Poincaré Graph Embeddings
摘要: 雙曲嵌入最近在機器學習中獲得了關注,因為它們能夠比歐幾里得類似物更準確和簡潔地表示層次數據。然而,多關系知識圖譜經常顯示多個同時的層次結構,這是目前的雙曲模型沒有捕捉到的。為了解決這個問題,我們提出了一個模型,在雙曲空間的龐加萊球模型中嵌入多關系圖數據。我們的多關系龐加萊模型(MuRP)通過Mobius矩陣向量乘法和Mobius加法學習特定關系參數來轉換實體嵌入。在WN18RR層次知識圖上的實驗表明,我們的龐加萊嵌入方法在鏈路預測任務上優于歐氏嵌入方法和現有的嵌入方法,特別是在低維的情況下。
主題: Enriching Documents with Compact, Representative, Relevant Knowledge Graphs
介紹: 知識圖譜中蘊含豐富的知識,一個典型應用是利用知識圖譜進行文本擴充,從而幫助用戶更好地理解文檔內容。現有方法識別知識圖譜中提及的實體,并且將實體類型和實體間的直接關系作為擴充內容,這種方式表達能力非常有限。因此我們考慮用連通實體關系子圖的形式,以更好地表示一組實體間的整體關系。為了提供有代表性的、緊湊的且與文檔相關的子圖,我們提出了一個方法,分為兩個步驟:第一步,我們計算文檔中提及實體的最重要子集,使得代表性和緊湊性能夠得到權衡,并保證知識圖譜中包含連接這些實體的子圖,然后執行已有的搜索算法得到所有子圖;第二步,根據相關性返回排名第一的結果。
題目: Knowledge Graph Embeddings and Explainable AI
摘要: 知識圖譜嵌入是一種廣泛采用的知識表示方法,它將實體和關系嵌入到向量空間中。在這一章中,我們通過解釋知識圖譜嵌入是什么,如何生成它們以及如何對它們進行評估,向讀者介紹知識圖譜嵌入的概念。我們總結了這一領域的最新研究成果,對向量空間中表示知識的方法進行了介紹。在知識表示方面,我們考慮了可解釋性問題,并討論了通過知識圖譜嵌入來解釋預測的模型和方法。
題目: Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs
摘要: 近年來隨著知識圖譜(KGs)的大量涌現,加上實體間缺失關系(鏈接)的不完全或部分信息,催生了大量關于知識庫補全(也稱為關系預測)的研究。最近的一些研究表明,基于卷積神經網絡(CNN)的模型能夠生成更豐富、更有表現力的特征嵌入,因此在關系預測方面也有很好的表現。然而,我們觀察到這些KG嵌入獨立地處理三元組,因此不能捕獲到三元組周圍的復雜和隱藏的信息。為此,本文提出了一種新的基于注意的特征嵌入方法,該方法能同時捕獲任意給定實體鄰域內的實體特征和關系特征。此外,我們還在模型中封裝了關系集群和多跳關系。我們的實驗研究為我們基于注意力的模型的有效性提供了深入的見解,并且與所有數據集上的最先進的方法相比,有顯著的性能提升。
【導讀】2020 年 2 月 7 日-2 月 12 日,AAAI 2020 在美國紐約舉辦。Michael Galkin撰寫了AAAI2020知識圖譜論文相關研究趨勢包括:KG-Augmented語言模型,異構KGs中的實體匹配,KG完成和鏈路預測,基于kg的會話人工智能和問題回答,包括論文,值得查看!
Hiroaki Hayashi, Zecong Hu, Chenyan Xiong, Graham Neubig: Latent Relation Language Models. AAAI 2020
題目: Group Representation Theory for Knowledge Graph Embedding
摘要: 最近,知識圖譜嵌入已經成為一種流行的建模和推斷缺失鏈接的方法。本文提出了一種知識圖譜嵌入的群論觀點,將以往的方法與不同的群作用聯系起來。此外,利用群表示理論中的Schur引理,我們證明了最新的嵌入方法RotatE具有從任意有限阿貝爾群建立關系的能力
作者簡介: Chen Cai,俄亥俄州立大學計算機科學與工程系博士。他的研究興趣在于圖表示學習和拓撲數據分析。
題目: Background Knowledge Injection forInterpretable Sequence Classification
摘要: 序列分類是一項有監督的學習任務,它建立模型來預測未知符號序列的類標簽。盡管準確性是最重要的,但在某些情況下,可解釋性是必須的。不幸的是,我們回溯了人類獨立的可解釋性度量,這樣的權衡通常很難實現。我們介紹了一種新的序列學習算法,它結合了(i)線性分類器,已知線性分類器在預測能力和可解釋性之間取得了很好的平衡,以及(ii)背景知識嵌入。我們將經典的子序列特征空間擴展為由嵌入字或圖的背景知識生成的符號組,并利用這個新的特征空間學習線性分類器。提出了一種新的基于符號嵌入的符號特征集可解釋性評價方法。從可穿戴設備和氨基酸序列分類中識別人類活動的實驗表明,我們的分類方法保留了預測能力,同時提供了更多的可解釋模型。
作者簡介: Severin Gsponer,都柏林大學學院數據分析洞察中心博士生。
Luca Costabello,都柏林大學學院埃森哲實驗室,研究科學家。等
題目
Few-Shot Knowledge Graph Completion
簡介
知識圖是各種自然語言處理應用的有用資源。以前的KG完成方法需要為每個關系提供大量的訓練實例(即頭-尾實體對)。實際情況是,對于大多數關系,很少有實體對可用。現有的單鏡頭學習極限方法普遍適用于少鏡頭場景,不能充分利用監控信息,但很少有人對KG完工的研究還很少。在這項工作中,我們提出了一個新的少數鏡頭關系學習模型(FSRL),旨在發現新的關系事實很少鏡頭參考。FSRL可以有效地從異構圖結構中獲取知識,聚集少量鏡頭引用的表示,并為每個關系匹配相似的引用集實體對。在兩個公共數據集上進行的大量實驗表明,FSRL優于最新技術。
作者
Chuxu Zhang, Meng Jiang,Nitesh V. Chawla,來自圣母大學
Huaxiu Yao, Zhenhui Li,來自賓夕法尼亞州立大學
Chao Huang, 來自JD金融美國公司