事件檢測旨在從給定的文本中識別事件觸發詞，并將其分類為事件類型。目前事件檢測的大多數方法在很大程度上依賴于訓練實例，而幾乎忽略了事件類型之間的相關性。因此，它們往往會面臨數據匱乏的問題，并且無法處理新的未見過的事件類型。為了解決這些問題，我們將事件檢測重構成事件本體填充的過程：將事件實例鏈接到事件本體中的預定義事件類型，并提出一種新穎的借助本體嵌入進行事件檢測的框架——OntoED。我們通過建立事件類型之間的聯系來豐富事件本體，并進一步推理出更多的事件對之間的關聯。OntoED可以基于事件本體實現事件知識的利用和傳播，特別是從高資源傳播到低資源的事件類型。此外，OntoED可以通過建立未知事件類型與現有事件的鏈接，實現對新的未見事件類型的檢測。
付費5元查看完整內容
相關內容
基于隱含結構推理網絡的事件因果關系識別
Knowledge-Enriched Event Causality Identification via Latent Structure Induction Networks
傳統的事件關系抽取方法僅利用文本語義推斷事件關系，忽略了背景知識。很多情況下僅僅利用文本語義很難判斷出事件之間的關系。如何在復雜的真實應用場景中，同時利用文本和知識聯合推斷事件關系，是迫切亟待需要解決的問題。
知識圖譜中除了包含事件的描述性知識，還包含事件之間的關聯知識，這類知識對預測事件因果關系非常有幫助。本文采用基于隱含結構歸納網絡和事件關聯知識的事件因果關系抽取。首先，從知識圖譜中獲得事件之間的關聯知識，在知識圖譜中，事件之間的關聯知識一般由一條多跳路徑組成，由于路徑上有很多與因果無關的知識，并且由于知識圖譜的不完備性，很多有用的知識沒有標注出來，因此直接使用多跳路徑進行因果推理并不是最優的。為了降低因果無關知識的影響以及捕獲潛在的有用的知識，我們提出一個隱含結構歸納網絡，能夠基于事件之間的關聯知識自動地學出一個最優的推理結構。基于歸納出的推理結構，我們執行因果關系推理，從而預測出事件的因果關系。
付費5元查看完整內容
可學習知識引導的事件因果關系識別數據增強方法
事件因果關系識別（Event Causality Identification, ECI）旨在識別文本中事件之間的因果關系，可以為許多自然語言處理任務提供重要線索，如邏輯推理、問答系統等。ECI任務通常被建模為一個分類問題，即識別一個句子中兩個事件之間是否存在因果關系。
目前大多數ECI方法采用監督學習的范式。雖然這些方法取得了很好的性能，但通常需要大規模的標注訓練數據。然而，現有的事件因果關系識別數據集相對較少。小規模的標注數據集阻礙了高性能事件因果關系識別模型的訓練，無法提供充足的訓練數據支撐模型準確理解文本中的事件關系語義。
本文探索了一個知識融合的數據增強方法，利用大量抽取的因果相關事件生成新訓練數據，解決ECI任務訓練數據缺失問題。該方法包含兩個框架，知識增強的事件因果關系數據自動標注框架和知識引導的事件因果關系數據生成框架。其中，知識引導的事件因果關系數據生成框架（Learnable Data Augmentation framework, LearnDA），利用對偶學習機制，將事件因果關系識別器和數據生成器對偶約束，從識別過程中學習如何生成任務相關的新數據，從生成過程中學習如何更準確地理解因果語義，生成高質量表達事件因果語義的新訓練數據。
付費5元查看完整內容
論文鏈接：
GitHub鏈接：
近年來，預訓練技術在計算機視覺和自然語言處理領域均受到廣泛關注。在視覺領域，基于圖像數據的單模預訓練有效提升了視覺特征的提取能力。在自然語言處理領域，基于自監督的預訓練語言模型則利用大規模的單模文本數據，顯著提升了模型的語言表示能力。為了處理多模場景的任務，多模預訓練模型基于多模圖文對數據進行預訓練，從而有效支持下游的多模任務。然而，受限于圖文對數據量，多模預訓練模型通用性欠佳。
基于深度學習的AI系統能否像人一樣同時學習各類異構模態數據，包括文本、圖像等單模數據，以及圖文對等多模數據呢？如果能夠實現，無疑將進一步拓展深度學習對大規模數據利用的邊界，從而進一步提升AI系統的感知與認知能力以及AI算法的通用性。針對這一問題，本文提出統一模態學習UNIMO，同時利用大規模單模文本、單模圖像以及多模圖文對數據進行聯合學習，通過跨模態對比學習方法，有效地對語言知識與視覺知識進行統一表示和相互增強，從而具備同時處理多種單模態和多模態下游任務的能力。
UNIMO在語言理解與生成、多模理解與生成等四類場景共十多個任務上超越主流的文本預訓練模型和多模預訓練模型，首次驗證了通過非平行的文本與圖像單模數據，能夠讓語言知識與視覺知識相互增強。UNIMO也同時登頂了視覺問答VQA和文本推理aNLI權威榜單。
付費5元查看完整內容
跨句事件抽取旨在研究如何同時識別篇章內多個事件。我們提出多層雙向網絡MLBiNet（Multi-Layer Bidirectional Network）融合跨句語義和關聯事件信息，從而增強內各事件提及的判別。首先，為建模句子內部事件關系，我們提出雙向解碼器用于同時捕捉前向和后向事件依賴；然后，我們利用信息聚合器匯總句子語義和事件提及信息；最后，通過迭代多個由雙向解碼器和信息聚合器構造的單元，并在每一層傳遞鄰近句子的匯總信息，最終感知到整個文檔的語義和事件提及信息。實驗表明，跨句語義信息和事件依賴關系對事件抽取有效，我們的方法在ACE05數據集上取得最優表現。
付費5元查看完整內容
盡管生成式預訓練語言模型在一系列文本生成任務上取得了成功，但在生成過程中需要對基本常識進行推理的情況下，它們仍然會受到影響。現有的將常識知識整合到生成的預訓練語言模型中的方法，只是簡單地通過對單個知識三元組的后訓練來遷移關系知識，而忽略了知識圖譜中豐富的連接。我們認為，利用知識圖譜的結構和語義信息有助于常識感知文本的生成。在本文中，我們提出用多跳推理流(GRF)進行生成，使預訓練的模型能夠在從外部常識知識圖譜中提取的多關系路徑上進行動態多跳推理。我們的經驗表明，我們的模型在三個文本生成任務上優于現有的基線，這些任務需要推理而非常識知識。通過模型推導出的推理路徑，證明了動態多跳推理模塊的有效性，為生成過程提供了理論依據。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191