亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

【導讀】一年一度的全球學術大會EMNLP是計算機語言學和自然語言處理領域最受關注的國際學術會議之一，由國際語言學會（ACL）旗下SIGDAT組織。據悉，EMNLP 2020共收到有效投稿3114篇，錄用602篇長文和150篇短文。近期，所有Paper list 放出，也包括（Findings of EMNLP），知識圖譜補全特別是時序知識圖譜補全（KGC）相關的接受paper很多，希望大家多多關注。

為此，這期小編為大家奉上EMNLP 2020必讀的五篇知識圖譜補全（Knowledge Graph Completion （KGC））相關論文——知識圖譜補全數據集、少樣本知識圖譜補全、時序知識圖譜補全

EMNLP 2020 Accepted Papers : //2020.emnlp.org/papers/main

EMNLP2020CI、EMNLP2020KG、ICLR2020CI、ICML2020CI

1. CODEX: A Comprehensive Knowledge Graph Completion Benchmark

作者：Tara Safavi, Danai Koutra

摘要：我們提出了CODEX，這是一組從Wikidata和Wikipedia提取的知識圖譜補全（knowledge graph completion）數據集，它們在難度和范圍上改進了現有知識圖譜補全基準。就范圍而言，CODEX包括三個大小和結構各異的知識圖譜，實體和關系的多語言描述，以及成千上萬個合理但被證實為假的難負樣本（hard negative）三元組。為了表征CODEX，我們提供了詳盡的經驗分析和基準測試。首先，我們根據邏輯關系模式分析每個CODEX數據集。接下來，我們針對五個經過廣泛調整的KG嵌入模型在CODEX上報告基準鏈接預測和三元組分類結果。最后，我們通過顯示CODEX涵蓋了更多樣化和可解釋的內容，并且它是一個更困難的鏈接預測基準，將CODEX與流行的FB15K-237知識圖譜補全數據集區分開。

代碼：

網址：

2. Adaptive Attentional Network for Few-Shot Knowledge Graph Completion

作者：Jiawei Sheng, Shu Guo, Zhenyu Chen, Juwei Yue, Lihong Wang, Tingwen Liu, Hongbo Xu

摘要：少樣本知識圖譜（KG）的補全是當前研究的重點，其中每個任務旨在根據給定的少樣本參考實體對（reference entity pairs），來查詢關系中未知的事實。最近的嘗試通過學習實體和參考的靜態表示來解決這個問題，而忽略了它們的動態屬性，即，實體可能在任務關系中發揮不同的作用，并且參考可能對查詢做出不同的貢獻。這項工作提出了自適應注意力網絡，通過學習自適應實體和參考表示來實現少樣本KG補全。具體而言，實體由自適應鄰居編碼器建模以識別其面向任務的角色，而參考則由自適應查詢感知聚合器建模以區分其貢獻。通過注意力機制，實體和參考都可以捕獲其細粒度的語義，從而呈現更具表達力的表示形式。在少數情況下，這對于知識獲取將更具預測性。對兩個公共數據集的鏈接預測的評估表明，我們的方法以不同的少樣本數量獲得了最新的最新結果。

代碼：

網址：

3. DyERNIE: Dynamic Evolution of Riemannian Manifold Embeddings for Temporal Knowledge Graph Completion

作者：Zhen Han, Peng Chen, Yunpu Ma, Volker Tresp

摘要：最近，人們對學習時序知識圖譜（KG）表示的興趣日益濃厚，這些知識記錄了實體之間隨時間的動態關系。時序KG經常表現出多個同時的非歐幾里德結構，例如層次結構和循環結構。但是，現有的時序KG嵌入方法通常會在歐幾里得空間中學習實體表示及其動態演化，這可能無法很好地捕獲此類內在結構。為此，我們提出了DyERNIE，這是一種非歐幾里得的嵌入方法，它可以學習黎曼流形（Riemannian manifolds）乘積中的演化實體表示，其中的組合空間是根據基礎數據的截面曲率估算的。這使我們的方法能夠更好地反映時間KG上的各種幾何結構。此外，為了捕獲時間KG的演化動力學，我們讓實體表示根據每個時間戳處切線空間中定義的速度矢量進行演化。我們詳細分析了幾何空間對時序KG表示學習的貢獻，并評估了我們在時序知識圖補全任務上的模型。在三個真實世界的數據集上進行的大量實驗表明，性能得到了顯著改善，這表明可以通過黎曼流形上的嵌入演化來更正確地建模多關系圖數據的動力學。

網址：

4. Temporal Knowledge Base Completion: New Algorithms and Evaluation Protocols

作者：Prachi Jain, Sushant Rathi, Mausam, Soumen Chakrabarti

摘要：將關系事實（s，r，o）與有效時間段（或時間瞬間）相關聯的時序知識庫的研究仍處于早期階段。我們的工作將預測缺失的實體（鏈接預測）和缺失的時間間隔（時間預測）視為聯合的時序知識庫補全（TKBC）任務，并提出了TIMEPLEX，這是一種新穎的TKBC方法，其中實體，關系和時間都嵌入統一的兼容空間。TIMEPLEX利用某些事實/事件的經常性和關系對之間的時間交互作用，在兩個預測任務上都產生了最新的結果。

我們還發現，由于評估機制不完善，現有的TKBC模型嚴重高估了鏈接預測性能。作為回應，我們針對鏈接和時序預測任務提出了改進的TKBC評估協議，處理了黃金實例和系統預測中時間間隔的部分重疊引起的細微問題。

網址：

5. TeMP: Temporal Message Passing for Temporal Knowledge Graph Completion

作者：Jiapeng Wu, Meng Cao, Jackie Chi Kit Cheung, William L. Hamilton

摘要：在時序知識圖譜中（TKG）推斷缺失的事實是一項基本且具有挑戰性的任務。以前的工作通過擴展靜態知識圖的方法來利用時間相關表示來解決此問題。但是，這些方法沒有顯式地利用時間步驟中的多跳結構信息和時間事實來增強其預測。此外，現有工作未明確解決TKG中實體分布的時間稀疏性和可變性。我們提出了時間信息傳遞（TeMP）框架，通過結合圖神經網絡，時間動力學模型，數據缺失處理和基于頻率的門控技術來應對這些挑戰。在標準TKG任務上進行的實驗1表明，與以前的最新技術水平相比，我們的方法可帶來可觀的收益，在三個標準基準中，Hits @ 10的平均相對改進為10.7％。我們的分析還揭示了TKG數據集內和TKG數據集之間可變性的重要來源，并且我們引入了一些簡單而強大的基線，這些基線在某些情況下優于現有技術。

網址：

【導讀】一年一度的全球學術大會EMNLP是計算機語言學和自然語言處理領域最受關注的國際學術會議之一，由國際語言學會（ACL）旗下SIGDAT組織。據悉，EMNLP 2020共收到有效投稿3114篇，錄用602篇長文和150篇短文。近期，所有Paper list 放出，也包括（Findings of EMNLP），知識圖譜表示及其應用相關的接受paper很多，在其他領域比如CV、數據挖掘、推薦等也廣受關注。

為此，這期小編為大家奉上EMNLP 2020必讀的六篇知識圖譜（Knowledge Graph）相關論文——知識圖譜表示、常識、任務型對話、多語種知識庫補全、開放式KG表示、社會常識推理

EMNLP 2020 Accepted Papers : //2020.emnlp.org/papers/main

ICLR2020CI、ICML2020CI

1. AutoETER: Automated Entity Type Representation for Knowledge Graph Embedding

作者：Guanglin Niu, Bo Li, Yongfei Zhang, Shiliang Pu, Jingyang Li

摘要：知識圖譜嵌入(KGE)可以表示連續向量空間中的實體和關系。一些利用附加類型信息的傳統KGE模型可以改善實體的表示，但這些模型完全依賴于顯式類型（explicit types），或者忽略了特定于各種關系的不同類型表示。此外，現有的方法中沒有一種方法能夠同時推斷對稱、反轉、合成的所有關系模式以及1-N、N-1和n-N關系的復雜屬性。為了探索任何KG的類型信息，我們提出了一種新的KGE框架自動實體類型表示（AutoETER），通過將每個關系看作是兩個實體類型之間的轉換（translation）操作來學習每個實體的潛在類型嵌入，并利用關系感知映射機制來學習每個實體的潛在類型嵌入。特別是，我們設計的自動類型表示學習機制是一個可插拔的模塊，可以很容易地與任何KGE模型集成。此外，我們的方法可以對所有的關系模式和復雜關系進行建模和推理。在四個數據集上的實驗表明，該模型在鏈接預測任務上的性能優于最新的基線，類型聚類的可視化清楚地解釋了類型嵌入的原因，驗證了該模型的有效性。

網址：

2. COSMIC: COmmonSense knowledge for eMotion Identification in Conversations

作者：Deepanway Ghosal, Navonil Majumder,

Alexander Gelbukh, Rada Mihalcea, Soujanya Poria

摘要：在本文中，我們利用常識知識解決了會話中語言級別的情感識別問題。我們提出了COSMIC，這是一個新的框架，它融合了不同的常識元素，如心理狀態、事件和因果關系，并在它們的基礎上學習參與對話的對話者之間的互動。目前最先進的方法在上下文傳播、情感轉移檢測和區分相關情感類別方面經常遇到困難。通過學習不同的常識表示，COSMIC解決了這些挑戰，并在四個不同的基準對話數據集上取得了新的情感識別最先進的結果。

代碼： .

網址：

3. Learning Knowledge Bases with Parameters for Task-Oriented Dialogue Systems

作者：Andrea Madotto, Samuel Cahyawijaya,

Genta Indra Winata, Yan Xu, Zihan Liu, Zhaojiang Lin, Pascale Fung

摘要：面向任務的對話系統要么通過單獨的對話狀態跟蹤(DST)和管理步驟實現模塊化，要么是端到端可訓練。在這兩種情況下，知識庫(KB)在滿足用戶請求方面起著至關重要的作用。模塊化系統依賴DST與知識庫交互，這在注釋和推理時間方面是昂貴的。端到端系統直接使用知識庫作為輸入，但當知識庫大于幾百個條目時，它們無法進行擴展。在本文中，我們提出了一種將任意大小的知識庫直接嵌入到模型參數中的方法。所得到的模型不需要任何DST或模板響應，也不需要知識庫作為輸入，并且它可以通過微調來動態更新其知識庫。我們在五個小、中、大的KB的面向任務的對話數據集中對我們的解決方案進行了評估。我們的實驗表明，端到端模型可以有效地將知識庫嵌入到它們的參數中，并在所有被評估的數據集上獲得具有競爭力的性能。

代碼：

網址：

4. Multilingual Knowledge Graph Completion via Ensemble Knowledge Transfer

作者：Xuelu Chen, Muhao Chen, Changjun Fan, Ankith Uppunda, Yizhou Sun, Carlo Zaniolo

摘要：預測知識圖(KG)中的缺失事實是知識庫構建和推理中的一項重要任務，也是近年來利用知識圖嵌入（KG embeddings）進行研究的一個重要課題。雖然現有的KG嵌入方法主要是在單個KG中學習和預測事實，但考慮到不同KG在數據質量和覆蓋范圍方面有各自的優勢和局限性，一個更合理的解決方案是從多個特定語言KG中的知識去嘗試融合。但這是相當具有挑戰性的，因為多個獨立維護的KG之間的知識遷移經常受到比對信息不足和描述事實不一致的障礙。在本文中，我們提出了一種新的框架KENS，用于嵌入學習和跨多個特定語言的KG進行集成知識遷移。KENS將所有KG嵌入到一個共享的嵌入空間中，在那里基于自學習捕獲實體之間的關聯。然后，KENS進行集成推理，合并來自多個特定語言KG嵌入的預測結果，并為此研究了多個集成技術。在五個實際語言特定的KG上的實驗表明，KENS通過有效地識別和利用互補知識，不斷改進KG補全的最新方法。

網址：

5. Out-of-Sample Representation Learning for Knowledge Graphs

作者：Marjan Albooyeh, Rishab Goel, Seyed Mehran Kazemi

摘要：許多重要問題都可以表示為知識圖中的推理。表示學習已經被證明對直推式推理（transductive reasoning）非常有效，在transductive 推理中，一個人需要對已經觀察到的實體做出新的預測，屬性圖(其中每個實體都有初始特征向量)和非屬性圖(其中唯一的初始信息來自與其他實體的已知關系)都是如此。對于樣本外推理（ out-of-sample reasoning），人們需要對訓練時看不到的實體進行預測，許多以前的工作都考慮屬性圖。然而，對于非屬性圖的樣本外推理，并沒有得到充分的研究。在本文中，我們研究了非屬性知識圖的樣本外表示學習問題，為這一任務創建了基準數據集，開發了幾個模型和基線，并對所提出的模型和基線進行了實證分析和比較。

網址：

6. Social Commonsense Reasoning with Multi-Head Knowledge Attention

作者：Debjit Paul, Anette Frank

摘要：社會常識推理需要對文本的理解，對社會事件及其實際含義的了解以及常識推理能力。在這項工作中，我們提出了一種新的多頭知識注意模型，該模型對半結構化常識推理規則進行編碼，并學習將其合并到基于transformer的推理單元中。我們評估了該模型在兩個需要不同推理技能的任務上的性能：作為一項新任務的歸納自然語言推理（Abductive Natural Language Inference）和反事實不變性預測（Counterfactual Invariance Prediction）。我們表明，我們提出的模型在兩個推理任務上都比最先進模型(即Roberta)提高了性能。值得注意的是，據我們所知，我們是第一個證明學習執行反事實推理的模型有助于在溯因推理任務中預測最佳解釋的人。通過對知識的擾動，我們驗證了模型推理能力的健壯性，并對模型的知識融合能力進行了定性分析。

網址：

題目： A Survey on Graph Neural Networks for Knowledge Graph Completion

摘要：

知識圖譜在諸如回答問題和信息檢索之類的各種下游任務中越來越受歡迎。但是，知識圖譜通常不完整，從而導致性能不佳。結果，人們對知識庫補全任務產生了濃厚的興趣。 最近，圖神經網絡已用于捕獲固有存儲在這些知識圖譜中的結構信息，并已顯示出可在各種數據集中實現SOTA性能。 在這項調查中，了解了所提出方法的各種優點和缺點，并嘗試在該領域中發現需要進一步研究的新的令人興奮的研究問題。

博文鏈接://medium.com/@mgalkin/knowledge-graphs-in-natural-language-processing-acl-2020-ebb1f0a6e0b1#ce67

這篇文章是為了紀念這個系列的一周年，在這個系列中，我們研究了由知識圖譜驅動的NLP和圖形ML的進步! 觀眾的反饋促使我繼續說下去，所以請系緊安全帶(或許也可以系上一些)，在這一集中，我們來看看與知識圖譜（KG）相關的ACL 2020進程。 今天的議程如下:

• 結構化數據的問答

• KG嵌入:雙曲空間和超關系

• 數據到文本NLG:準備你的Transformer

• 對話式AI:改進面向目標的機器人

• 信息提取:OpenIE和鏈接預測

• 結論

KG嵌入：雙曲空間和超關系

雙曲空間是ML中最近的熱門話題之一。用更簡單的術語來說，在雙曲空間中(得益于其屬性)，你可以使用更少的維數有效地表示層次結構和樹狀結構。

基于這個動機，Chami等人提出了AttH，一種雙曲線的KG嵌入算法，在KG中利用使用旋轉、反射和轉換對邏輯和層次模式進行建模。Att來自于應用于旋轉和反射矢量的雙曲注意。繞過不穩定的黎曼優化的訣竅是使用正切空間，d維的龐加萊球的每個點都可以映射到正切空間。在這個明顯不平凡的設置中，每個關系不僅與一個向量相關，而且與描述特定關系的反射和旋轉的參數相關。然而，在現實生活中，KGs中R << V，所以開銷不是很大。 在實驗中，AttH在具有一定層次結構的WN18RR和Yago3和Yago10上表現優越，在FB15k-237上的差距較小。更重要的是，僅32維的AttH就顯示了巨大的優勢，相比于真實和復雜平面的32維模型。此外，WN18RR和FB15k-237的32維在評價標準MRR評分上僅比SOTA 500維的嵌入模型分別小0.02和0.03。消融研究證明了可學習的曲率的重要性，而其優于最接近的匹配模型MurP。

圖表示學習的另一個趨勢是超越簡單的KG組成的三元組和學習表示對于更復雜,超關系KG,當每一個三元組可能有一組鍵-值對屬性,提供細粒度細節三在各種情況下的有效性。事實上，Wikidata在其Wikidata語句模型中采用了超關系模型，其中屬性被稱為限定符。重要的是不要將模型與n元事實(生成冗余謂詞)和超圖混合在一起。也就是說，如果你只在三元組層面上與Wikidata一起工作，你就會失去一大半的內容。 Guan等人不想失去Wikidata的一半，他們提出了NeuInfer，一種學習超關系KGs嵌入的方法(他們之前的工作，NaLP，更適合n元事實)。

NeuInfer的思想是計算一個超關系事實(見圖)的有效性和兼容性評分。首先，(h,r,t)嵌入輸入到一個全連接的網絡(FCN)來估計這個三元組(有效性)的合理的概率。其次，為每個鍵值對構造一個五組(h,r,t,k,v)，并通過另一組FCNs傳遞。有m對，m個向量經過最小池化，得到表示相容度評分的結果，即這些限定符在主要三元組中的表現如何。最后，用兩個分數的加權和得到最終評分。 作者在標準基準JF17K(提取自Freebase)和WikiPeople(來自Wikidata)上評估了NeuInfer，并報告說JF17K在預測頭實體、尾實體和屬性值方面比NaLP有顯著的改進。我鼓勵作者將他們的數字與HINGE(來自Rosso等人)進行比較，因為這兩種方法在概念上是相似的。 現在我們需要談談頂級會議上發布的KG嵌入算法的復現性，比如ACL 2019，Sun, Vashishth, Sanyal等人發現，報告SOTA結果(明顯優于現有基線)的幾個最近的KGE模型受到測試集泄漏的影響，或在ReLU激活有效三元組得分后出現許多異常零化的神經元。此外，他們還表明，他們的性能度量標準(如Hits@K和MRR)取決于在有效三元組負采樣(實際上，這是不應該發生的)中的位置。另一方面，現有的強基線在任何位置的表現都是一樣的。我們要做的就是使用評估原則，將一個有效的三元組隨機放置在負樣本的位置上。

我們的團隊對這個問題也有話要說:在我們的新論文《讓黑暗變得光明》(bring Light Into the Dark)中:大規模評估知識圖譜嵌入模型的一個統一的框架下我們執行65 k +實驗和k + GPU 21小時評估19模型從RESCAL首先發表在2011年RESCAL到2019年末 RotatE 和TuckER,，5種損失函數,各種訓練策略有/沒有負采用，和更多重要考慮的超參數。我們還將為您和我們熱愛的社區發布為所有模型找到的最佳超參數。此外，我們正在發布PyKEEN 1.0，這是一個PyTorch庫，用于訓練和基準測試KG嵌入式模型! 我鼓勵你仔細閱讀其他一些作品:Sachan研究了通過離散化壓縮KG實體嵌入的問題，例如，Barack Obama將被編碼為“2 1 3 3”，而不是200維的32位的浮點向量，Michelle Obama將被編碼為“2 1 3 2”。

也就是說，你只需要一個有K個值的D維長向量(這里D=4, K=3)。對于離散化，Softmax被發現性能更好。并且作為一個從KD代碼返回到n維浮點數向量的反向函數，作者建議使用一個簡單的Bi-LSTM。實驗結果顯示，FB15k-237和WN18RR的壓縮率達到了100-1000倍，但在推理時(當需要解碼KD代碼時)的性能下降和計算開銷可以忽略不計(最大MRR為2%)。 我建議大家坐下來，重新考慮一下KGE的pipelines(特別是在生產場景中)。例如，通過PyTorch-BigGraph獲得的78M Wikidata實體的200維嵌入需要110 GB的空間。想象一下壓縮100倍會有什么可能？ 還有一系列的工作改進了流行的KGE模型:

• Tang等人用正交關系變換將二維旋轉推廣到高維空間，這種正交關系變換對1-N和N-N關系更有效。
• Xu等人通過對K個部分的稠密向量進行分塊，將雙線性模型推廣為多線性模型。結果表明，當K=1時，該方法等于DistMult，當K=2時，該方法簡化為 ComplEx 和 HolE，并在K=4和K=8時進行了實驗。
• Xie等人對ConvE進行了擴展，將標準的卷積濾波器替換為計算機視覺領域中最著名的Inception網絡。
• Nguyen等人應用了一個自注意風格的編碼器和一個CNN解碼器的三元組分類和個性化搜索任務。

結論

在今年的ACL2020中，我們看到了更少的KG增強的語言模型(但是可以看看TaPas和TABERT，它們被設計用于在 tables上工作)，NER可能也少了一些。另一方面，圖形到文本的NLG正在上升!

簡介： 今年AAAI 2020接收了1591篇論文，其中有140篇是與圖相關的。接下來將會介紹幾篇與圖和知識圖譜相關的幾篇論文。以下為內容大綱：

• KG-Augmented Language Models In Diherent Flavours

Hayashi等人在知識圖上建立了自然語言生成（NLG）任務的潛在關系語言模型（LRLM）。就是說，模型在每個時間步上要么從詞匯表中提取一個單詞，要么求助于已知關系。 最終的任務是在給定主題實體的情況下生成連貫且正確的文本。 LRLM利用基礎圖上的KG嵌入來獲取實體和關系表示，以及用于嵌入表面形式的Fasttext。 最后，要參數化流程，需要一個序列模型。作者嘗試使用LSTM和Transformer-XL來評估與使用Wikidata批注的Freebase和WikiText鏈接的WikiFacts上的LRLM。

Liu等人提出了K-BERT，它希望每個句子（如果可能）都用來自某些KG的命名實體和相關（謂詞，賓語）對進行注釋。 然后，將豐富的句子樹線性化為一個新的位置相似嵌入，并用可見性矩陣進行遮罩，該矩陣控制輸入的哪些部分在訓練過程中可以看到并得到關注。

Bouraoui等人進一步評估了BERT的關系知識，即在給定一對實體（例如，巴黎，法國）的情況下，它是否可以預測正確的關系。 作者指出，BERT在事實和常識性任務中通常是好的，而不是糟糕的非詞性任務，并且在形態任務中相當出色。

• Entity Matching in Heterogeneous KGs

不同的KG具有自己的模型來建模其實體，以前，基于本體的對齊工具僅依靠此類映射來標識相似實體。 今天，我們有GNN只需少量培訓即可自動學習此類映射！

Sun等人提出了AliNet，這是一種基于端到端GNN的體系結構，能夠對多跳鄰域進行聚合以實現實體對齊。 由于架構異質性，由于相似的實體KG的鄰域不是同構的，因此任務變得更加復雜。 為了彌補這一點，作者建議關注節點的n跳環境以及具有特定損失函數的TransE樣式關系模式。

Xu等人研究了多語言KG（在這種情況下為DBpedia）中的對齊問題，其中基于GNN的方法可能陷入“多對一”的情況，并為給定的目標實體生成多個候選源實體。 作者研究了如何使他們的預測中的GNN編碼輸出更加確定。

• Knowledge Graph Completion and Link Prediction

AAAI’20標記并概述了兩個增長趨勢：神經符號計算與臨時性的KG越來越受到關注。

• KG-based Conversational AI andQuestion Answering

AAAI’20主持了“對話狀態跟蹤研討會”（DSTC8）。 該活動聚集了對話AI方面的專家，包括來自Google Assistant，Amazon Alexa和DeepPavlov的人員。在研討會上，多個專家都提出了對話AI的相關研究方法。

【導讀】2020 年 2 月 7 日-2 月 12 日，AAAI 2020 在美國紐約舉辦。Michael Galkin撰寫了AAAI2020知識圖譜論文相關研究趨勢包括：KG-Augmented語言模型，異構KGs中的實體匹配，KG完成和鏈路預測，基于kg的會話人工智能和問題回答，包括論文，值得查看！

Hiroaki Hayashi, Zecong Hu, Chenyan Xiong, Graham Neubig: Latent Relation Language Models. AAAI 2020

• 潛在關系語言模型：本文提出了一種潛在關系語言模型(LRLMs)，這是一類通過知識圖譜關系對文檔中詞語的聯合分布及其所包含的實體進行參數化的語言模型。該模型具有許多吸引人的特性:它不僅提高了語言建模性能，而且能夠通過關系標注給定文本的實體跨度的后驗概率。實驗證明了基于單詞的基線語言模型和先前合并知識圖譜信息的方法的經驗改進。定性分析進一步證明了該模型的學習能力，以預測適當的關系在上下文中。

論文摘要：知識圖譜嵌入是一種將符號實體和關系投影到連續向量空間的方法，越來越受到人們的重視。以前的方法允許對每個實體或關系進行單一的靜態嵌入，忽略它們的內在上下文性質，即。，實體和關系可能出現在不同的圖上下文中，因此，它們具有不同的屬性。該工作提出了一種新的基于上下文的知識圖譜嵌入(CoKE)范式，該范式考慮了這種上下文性質，并學習了動態的、靈活的、完全上下文化的實體和關系嵌入。研究了兩類圖的上下文:邊和路徑，它們都被表示為實體和關系的序列。CoKE采用一個序列作為輸入，并使用Transformer編碼器獲得上下文化的表示。因此，這些表現形式自然地適應輸入，捕捉實體的上下文含義和其中的關系。通過對各種公共基準的評估，驗證了CoKE在鏈路預測和路徑查詢應答方面的優越性。在幾乎所有情況下，它的性能始終比當前的技術水平更好，或者至少與之相當，特別是在H@10的路徑查詢應答方面提高了19.7%。

代碼鏈接：[ /tree/develop/PaddleKG/CoKE]( /tree/develop/PaddleKG/CoKE)