題目： Probabilistic Logic Neural Networks for Reasoning
摘要：
知識圖譜推理的目的是通過對觀測到的事實進行推理來預測缺失的事實，它在許多應用中起著至關重要的作用。傳統的基于邏輯規則的方法和近年來的知識圖譜嵌入方法都對這一問題進行了廣泛的探討。馬爾可夫邏輯網絡(MLN)是一種有原則的基于規則的邏輯方法，它能夠利用一階邏輯的領域知識，同時處理不確定性。然而，由于其復雜的圖形結構，MLNs的推理通常是非常困難的。與MLNs不同的是，知識圖的嵌入方法(如TransE、DistMult)學習有效的實體嵌入和關系嵌入進行推理，這樣更有效、更高效。然而，他們無法利用領域知識。在本文中，我們提出了概率邏輯神經網絡(pLogicNet)，它結合了兩種方法的優點。pLogicNet使用一階邏輯的馬爾可夫邏輯網絡定義所有可能的三聯體的聯合分布，該網絡可以通過變分EM算法進行有效優化。采用知識圖譜嵌入模型推斷缺失的三聯體，根據觀測到的三聯體和預測到的三聯體更新邏輯規則權值。在多個知識圖譜的實驗證明了pLogicNet在許多競爭基線上的有效性。
作者：
瞿錳是蒙特利爾學習算法研究所的一年級博士生，之前，在伊利諾伊大學香檳分校獲得了碩士學位，此外，在北京大學獲得了學士學位。主要研究方向為機器學習、貝葉斯深度學習、數據挖掘和自然語言處理。
付費5元查看完整內容
相關內容
知識圖譜（Knowledge Graph），在圖書情報界稱為知識域可視化或知識領域映射地圖，是顯示知識發展進程與結構關系的一系列各種不同的圖形，用可視化技術描述知識資源及其載體，挖掘、分析、構建、繪制和顯示知識及它們之間的相互聯系。
知識圖譜是通過將應用數學、圖形學、信息可視化技術、信息科學等學科的理論與方法與計量學引文分析、共現分析等方法結合，并利用可視化的圖譜形象地展示學科的核心結構、發展歷史、前沿領域以及整體知識架構達到多學科融合目的的現代理論。它能為學科研究提供切實的、有價值的參考。
簡介：
馬爾可夫邏輯網絡（MLN）將邏輯規則和概率圖形模型完美地結合在一起，可用于解決許多知識圖問題。但是，MLN的推理需要大量的計算，這使得MLN的工業規模應用非常困難。 近年來，圖神經網絡（GNN）已經成為解決大規模圖問題的有效工具。 盡管如此，GNN并未將先前的邏輯規則明確納入模型，并且可能需要許多帶有標簽的示例來完成目標任務。 在本文中，我們探索了MLN和GNN的組合，并使用圖神經網絡進行MLN的變異推理。 我們提出了一個名為ExpressGNN的GNN變體，該變體在表示能力和模型的簡單性之間取得了很好的平衡。 我們在幾個基準數據集上進行的廣泛實驗表明，ExpressGNN可以帶來有效而高效的概率邏輯推理。
付費5元查看完整內容
題目： Probabilistic Reasoning across the Causal Hierarchy?
摘要： 我們將關聯、干預和反事實的三層因果關系形式化為一系列概率邏輯語言，我們的語言具有嚴格的表達能力，第一種語言能夠表達定量概率推理，包括條件獨立和貝葉斯推理第二個是對因果關系的計算推理，第三個是對任意反事實查詢的完全表達式計算。我們給出了在結構因果模型和概率程序上完成的一系列相應的有限公理化，并證明了多項式的SAT可效度和有效性在多項式空間中是決定性的。
作者簡介： Thomas Icard，斯坦福人工智能實驗室附屬學院，哲學和計算機科學助理教授。個人主頁：//web.stanford.edu/~icard/
付費5元查看完整內容
題目： Logical Expressiveness of Graph Neural Networks
摘要：
圖神經網絡(Graph Neural Networks, GNNs)是近年來在分子分類、知識圖譜補全等結構化數據處理領域中流行起來的一類機器學習體系結構。最近關于GNNs表達能力的研究已經建立了它們對圖中節點進行分類的能力與用于檢查圖同構的WeisfeilerLehman (WL)測試之間的緊密聯系。具體來說，這兩篇論文的作者分別觀察到，WL測試產生的節點分類總是細化了任何GNN產生的分類，而且有GNN可以重現WL測試。這些結果表明，GNNs在節點分類方面與WL測試一樣強大。然而，這并不意味著GNNs可以表達任何通過WL測試改進的分類器。我們的工作旨在回答以下問題:什么是可以用GNNs捕獲的節點分類器?在本文中，我們從邏輯的角度來看待這個問題，將其限制在FOC2中可表達的屬性上，即具有計數能力的一階邏輯的兩變量片段進行研究。
作者：
Pablo Barceló是智利天主教大學工程學院和數學學院數學與計算工程研究所所長，研究領域為數據庫理論、計算機科學中的邏輯、自動機理論。
付費5元查看完整內容
題目： Integrating Deep Learning with Logic Fusion for Information Extraction
摘要：
信息抽取(Information extraction, IE)旨在從輸入文本中產生結構化的信息，例如命名實體識別和關系抽取。通過特征工程或深度學習為IE提出了各種嘗試。然而，他們中的大多數人并沒有將任務本身所固有的復雜關系聯系起來，而這一點已被證明是特別重要的。例如，兩個實體之間的關系高度依賴于它們的實體類型。這些依賴關系可以看作是復雜的約束，可以有效地表示為邏輯規則。為了將這種邏輯推理能力與深度神經網絡的學習能力相結合，我們提出將一階邏輯形式的邏輯知識集成到深度學習系統中，以端到端方式聯合訓練。該集成框架通過邏輯規則對神經輸出進行知識正則化增強，同時根據訓練數據的特點更新邏輯規則的權值。我們證明了該模型在多個IE任務上的有效性和泛化性。
作者：
Sinno Jialin Pan是南洋理工大學計算機科學與工程學院院長兼副教授，研究方向是遷移學習、數據挖掘、人工智能、機器學習。
付費5元查看完整內容
主題：From Data to Model Programming: Injecting Structured Priors for Knowledge Extraction
摘要：從序列標記到關系抽取，再到知識推理，深度神經網絡模型在知識抽取任務中取得了最先進的性能。然而，這些渴求數據的模型嚴重依賴于人工標記的訓練數據，并且經常作為黑箱組件運行，減慢了下游應用程序的開發。在這次演講中，我將介紹我們最近在將結構化先驗知識應用到深度神經網絡模型中進行知識抽取方面的進展，這兩個模型都是在輸入數據級別(即，以及在模型架構級別(即，對模型進行編程)。特別地，我將討論如何在命名實體識別中合并域字典，以及如何在關系提取中建立語義規則，作為輸入級結構化先驗知識的示例。對于模型編程，我將提出一個基于圖神經網絡的框架，用于在涉及常識推理的自然語言推理中捕獲多關系結構化先驗知識作為模型架構的一部分。這些解決方案共同構成了從數據到使用結構化先驗知識進行模型編程的路線圖。
嘉賓簡介：任翔，美國南加州大學計算機科學系助理教授，獲美國南加州大學ISI聘任。他也是智能和知識發現(INK)研究實驗室的主任，ACM SIGKDD和數據挖掘(SIGKDD)的信息主任，以及USC機器學習中心的成員。之前，他是斯坦福大學的研究學者，并在伊利諾伊大學香檳分校獲得了計算機科學博士學位。Ren博士的研究重點是開發標簽高效的計算方法，從自然語言數據中提取機器可操作的知識(例如，組合、圖形結構表示)，并對知識結構進行神經推理。他的研究導致一本書和50多個出版物,覆蓋著超過會議教程(KDD、WWW NAACL),并獲得了獎項包括谷歌AI教師獎,摩根大通AI研究獎,亞馬遜研究獎,ACM SIGKDD論文獎(2018),WWW最佳海報亞軍(2018),大衛·j·Kuck優秀論文獎(2017),谷歌博士獎學金(2016),和Yelp數據集挑戰獎(2015)。他是福布斯亞洲30位30歲以下富豪之一。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191