亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

題目

Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings，使用知識庫嵌入改進知識圖上的多跳問答

摘要

知識圖（KG）是由實體作為節點，實體之間的關系作為類型化邊組成的多關系圖。 KG問答（KGQA）任務的目的是回答對KG提出的自然語言查詢。 多跳KGQA要求在KG的多個邊緣進行推理，以得出正確的答案。 KG通常缺少許多鏈接，這給KGQA尤其是多跳KGQA帶來了額外的挑戰。 最近對多跳KGQA的研究已嘗試使用相關的外部文本來處理KG稀疏性，但這種方式并非一帆風順。 在另一項研究中，提出了KG嵌入方法，以通過執行丟失的鏈接預測來減少KG稀疏性。 此類KG嵌入方法盡管非常相關，但迄今為止尚未針對多跳KGQA進行探索。 我們在本文中填補了這一空白，并提出了EmbedKGQA。 EmbedKGQA在執行稀疏KG上的多跳KGQA方面特別有效（但是當知識圖譜不稀疏時，也應該能夠超過基線）。 EmbedKGQA還放寬了從預先指定的鄰域中選擇答案的要求，這是先前的多跳KGQA方法實施的次優約束。 通過在多個基準數據集上進行的廣泛實驗，我們證明了EmbedKGQA在其他最新基準上的有效性。

題目： Multi-relational Poincaré Graph Embeddings

摘要： 雙曲嵌入最近在機器學習中獲得了關注，因為它們能夠比歐幾里得類似物更準確和簡潔地表示層次數據。然而，多關系知識圖譜經常顯示多個同時的層次結構，這是目前的雙曲模型沒有捕捉到的。為了解決這個問題，我們提出了一個模型，在雙曲空間的龐加萊球模型中嵌入多關系圖數據。我們的多關系龐加萊模型(MuRP)通過Mobius矩陣向量乘法和Mobius加法學習特定關系參數來轉換實體嵌入。在WN18RR層次知識圖上的實驗表明，我們的龐加萊嵌入方法在鏈路預測任務上優于歐氏嵌入方法和現有的嵌入方法，特別是在低維的情況下。

題目： Low-Dimensional Hyperbolic Knowledge Graph Embeddings

摘要： 知識圖譜(KG)嵌入通過學習實體和關系的低維表示，以預測缺失事實。KGs通常具有層次結構和邏輯模式，必須在嵌入空間中保留這些模式。對于分層數據，雙曲嵌入方法已顯示出高保真度和簡潔表示的優勢。然而，現有的雙曲嵌入方法不能解釋KGs中豐富的邏輯模式。在本工作中，我們引入了一類雙曲KG嵌入模型，可以同時捕獲層次和邏輯模式。我們的方法結合雙曲反射和旋轉注意力模型復雜的關系模式。在標準KG基準上的實驗結果表明，我們的方法在低維的平均倒數(MRR)方面比預先的歐幾里得和雙曲的工作提高了6.1%。此外，我們觀察到不同的幾何變換捕捉不同類型的關系，而基于注意的變換則推廣到多重關系。在高維情況下，我們的方法在WN18RR和YAGO3-10上分別獲得了49.6%和57.7%的最先進的MRR。

回答大規模知識圖譜上的復雜邏輯查詢是一項基本而又具有挑戰性的任務。在本文中，我將概述如何使用向量空間嵌入在知識圖譜中執行邏輯推理。首先，我將討論預測一對實體之間關系的知識圖譜補全方法:通過捕獲與實體相鄰的關系類型來考慮每個實體的關系上下文，并通過一種新的基于邊的消息傳遞方案進行建模;考慮關系路徑捕獲兩個實體之間的所有路徑;通過一種可學習的注意力機制，自適應地整合關系上下文和關系路徑。其次，我們還將討論QUERY2BOX，這是一個基于嵌入的框架，用于推理使用and、or和存在操作符進行的大量且不完整的KGs中的任意查詢。

題目： Knowledge Graph Embeddings and Explainable AI

摘要： 知識圖譜嵌入是一種廣泛采用的知識表示方法，它將實體和關系嵌入到向量空間中。在這一章中，我們通過解釋知識圖譜嵌入是什么，如何生成它們以及如何對它們進行評估，向讀者介紹知識圖譜嵌入的概念。我們總結了這一領域的最新研究成果，對向量空間中表示知識的方法進行了介紹。在知識表示方面，我們考慮了可解釋性問題，并討論了通過知識圖譜嵌入來解釋預測的模型和方法。

【導讀】2020 年 2 月 7 日-2 月 12 日，AAAI 2020 在美國紐約舉辦。Michael Galkin撰寫了AAAI2020知識圖譜論文相關研究趨勢包括：KG-Augmented語言模型，異構KGs中的實體匹配，KG完成和鏈路預測，基于kg的會話人工智能和問題回答，包括論文，值得查看！

Hiroaki Hayashi, Zecong Hu, Chenyan Xiong, Graham Neubig: Latent Relation Language Models. AAAI 2020

• 潛在關系語言模型：本文提出了一種潛在關系語言模型(LRLMs)，這是一類通過知識圖譜關系對文檔中詞語的聯合分布及其所包含的實體進行參數化的語言模型。該模型具有許多吸引人的特性:它不僅提高了語言建模性能，而且能夠通過關系標注給定文本的實體跨度的后驗概率。實驗證明了基于單詞的基線語言模型和先前合并知識圖譜信息的方法的經驗改進。定性分析進一步證明了該模型的學習能力，以預測適當的關系在上下文中。

本文主要介紹了一種新的模型：知識圖譜卷積網絡神經網絡 （KGCN），它是一種端到端的框架，能夠通過挖掘KG上的相關屬性，有效地捕獲項間相關性。這項工作的主要思想是利用Grakn作為知識圖譜，在知識圖譜、自動邏輯推理和機器學習之間架起一座橋梁。

摘要

KGCN通過監督學習可以創建任何標簽的Grakn Things集合的向量表示以及嵌入。

1.可以直接地對KGCN進行訓練，以便對存儲在Grakn中的實例進行分類或回歸。

2.未來的工作將從通過無監督學習構建嵌入方面展開。

介紹

通常，數據并不適合表格的格式，相比之下，將復雜和相互關聯的數據存儲在知識圖譜中有許多好處，尤其是它能完整地存儲每個數據點的上下文信息。

然而，許多現有的機器學習技術依賴于每個例子的輸入向量。創建這樣的向量來表示知識圖譜中的節點是具有挑戰性的。

為了利用機器學習中豐富的現有的方法，工具和通道，我們需要一種構建這些向量的方法。通過這種方式，我們可以利用知識圖譜中的上下文信息來進行機器學習。

這是KGCN可以實現的。通過給定知識圖譜中的例子節點，它可以檢查該例子附近的節點及其上下文。基于該上下文，它可以確定該例子的向量表示以及嵌入。

KGCN適用于兩個廣泛的學習任務：

1.從知識圖譜中通過監督學習進行預測，例如多分類，回歸和鏈接預測等。 2.無監督學習知識圖譜的嵌入構建，例如用于聚類和節點比較任務。

為了建立有用的表示，KGCN需要進行一些學習。要做到這一點，它需要一個優化的函數。通過重新審視可以執行的任務，我們有不同的方式來進行學習：

1.在有監督的情況下，我們可以針對想要執行的明確任務進行優化。在這種情況下，嵌入是學習通道中的臨時張量。

2.為了構建無監督學習嵌入作為輸出，我們優化的目標則是最小化圖中的一些相似性。

方法

實施的方法基于來自斯坦福SNAP小組的GraphSAGE，它非常適合于在知識圖譜上工作。KGCN不處理典型的屬性圖，而是對從存儲在類型化超圖Grakn中的上下文數據進行學習。此外，它還能對從Grakn的自動邏輯推理器推導出的事實進行學習。

現在我們開始介紹關鍵組件以及它們如何進行交互。

KGCN

KGCN負責派生一組Things的嵌入（從而直接學習對它們進行分類）。我們首先查詢Grakn以找到一組標簽的例子。然后我們收集有關每個例子Thing的上下文的數據。我們這樣做是通過遞歸地考慮他們的鄰居和他們的鄰居的鄰居，直到K跳。

我們從Grakn（如上圖所示）中檢索有關該鄰近的數據。此信息包括連接的每個相鄰Thing 的層次結構類型，角色和屬性值，以及推測出的鄰居（由上圖中的虛線表示）。這些數據被處理成矩陣作為神經網絡的輸入。

再通過Aggregate和Combine操作，就可以構建Thing的單個向量表示。這個過程可以遞歸地鏈接到相鄰Things的K跳上。這就完成了包含從廣泛上下文提取的信息的感興趣的Thing表示。

在監督學習中，這些嵌入是直接優化來執行任務的。對于多分類，這是通過將嵌入傳遞到單個后續全連接層并通過softmax交叉熵確定損失來實現的（針對例子Thing標簽）; 然后，進行優化以減少損失。

KGCN對象將許多子組件、上下文構建器、鄰居查找器、編碼器和嵌入器組合在一起。

嵌入器

為了創建嵌入，我們在TensorFlow中構建一個網絡，該網絡能夠連續地聚合和組合從K跳到保留“摘要”表示的特征---一種嵌入（如下圖所示）。

為了創建通道，Embedder對所考慮的鄰居的K-hop進行聚合和組合操作。例如，對于2跳的情況，這意味著Aggregate-Combine-Aggregate-Combine。

上圖顯示了在監督學習分類的情況下如何工作。

Embedder負責鏈接子組件Aggregator和Combiner。

聚合器

一個聚合器（如下圖所示）發生在一件事的鄰居的子樣本的向量表示。它產生一個代表所有這些輸入的向量。它必須以與訂單無關的方式執行此操作，因為鄰居是無序的。為實現這一目標，我們使用一個全連接層，并使用maxpool輸出（maxpool與順序無關）。

組合器

一旦我們將Thing的鄰居聚合成單個向量表示，我們需要將它與Thing本身的向量表示相結合。組合器通過連接兩個向量實現這一點，并減少使用單個全連接層的維數。

有監督KGCN分類器

有監督的KGCN分類器是負責實際的學習任務的。對于任何使用KGCN的學習者，它提供：

1.方法訓練/評估/預測

2.嵌入張量到預測的通道

3.預測和標簽的損失函數

4.優化

5.循環反向傳播訓練

下面是程序流程的略微簡化的UML活動圖。

建立KGCN

在開始構建KGCN之前，需要查看閱讀文件的快速入門，確保滿足所有要求并遵循例子的使用說明，模板代碼如下：

下載鏈接：//pan.baidu.com/s/1CivnydJQD5hd8OHyB_8vpg 提取碼：4lxf

論文摘要： Multi-paragraph推理對于open-domain問答(OpenQA)是必不可少的,盡管在當前的OpenQA系統中受到的關注較少。在這項工作中,我們提出一個知識增強圖神經網絡(KGNN),使用實體對多個段落進行推理。為了顯式地捕捉到實體的關系,KGNN利用關系事實知識圖譜構建實體圖譜。實驗結果表明，與HotpotQA數據集上的基線方法相比，KGNN在分散注意力和完整的wiki設置方面都有更好的表現。我們進一步的分析表明，KGNN在檢索更多的段落方面是有效和具有魯棒性的。