會話代理面臨的一個挑戰是，它們無法識別用戶命令的未聲明的假設，這對于人類來說是一項微不足道的任務，因為它們具有常識。為了實現這一目標，本文提出了一個面向會話代理的零樣本常識推理系統。我們的推理器從滿足if-(狀態)，then-(動作)，because-(目標)的一般模板的用戶命令中發現未聲明的假設。我們的推理器使用最先進的基于transformer的生成常識知識庫(KB)作為其推理背景知識的來源。我們提出了一種新穎的迭代知識查詢機制，利用符號邏輯規則從神經知識庫中提取多跳推理鏈，大大減少了搜索空間。與迄今為止收集到的任何KBs類似，我們的常識知識庫很容易丟失知識。因此，我們提出了一種新的動態問題生成策略，以對話方式從人類用戶中引出缺失的知識，該策略為人類用戶生成并呈現上下文化的查詢。我們通過用戶研究來評估該模型，與SOTA相比，該模型的成功率提高了35%。
付費5元查看完整內容
相關內容
題目：A Neural Conversation Generation Model via Equivalent Shared Memory Investigation
簡介：對話生成作為自然語言生成 (NLG) 中的一項具有挑戰性的任務，在過去幾年中越來越受到關注。最近的一些工作采用了序列到序列結構以及外部知識，成功地提高了生成對話的質量。然而，構建大規模的外部知識不僅耗費大量人力物力，并且模型的領域適用性受到限制。在本篇文章中，我們將相似對話作為一種知識來提高對話生成的性能。以客戶服務和法庭辯論領域為例，從相似的對話實例中提取必要的實體，短語，句子及其相關邏輯關系。這些信息可以為改善對話生成提供有用的信號。在本文中，我們提出了一種新的閱讀和記憶框架，稱為深度閱讀記憶網絡（DRMN），它能夠記住相似對話的有用信息，以改善話語生成。我們將我們的模型應用于司法領域和電子商務領域的兩個大規模對話數據集。實驗證明，所提出的模型取得了最好的效果。
付費5元查看完整內容
邏輯查詢是知識圖譜問答系統中一個重要的問題子集。然而，有效地回答大型知識圖譜上的邏輯查詢仍然是一個極具挑戰性的問題。傳統的基于子圖匹配的方法存在底層知識圖譜的噪聲和不完整性等問題，線響應時間長。近年來出現了一種新的方法，其核心思想是將知識圖譜實體和查詢嵌入到一個向量空間中，使答案實體的嵌入與查詢實體的嵌入更加接近。與基于子圖匹配的方法相比，該方法能更好地處理知識圖譜中的噪聲或缺失信息，在線響應速度更快。雖然它可能很有前途，但仍然存在一些基本的限制，包括建模關系的線性轉換假設，以及無法回答具有多個可變節點的復雜查詢。在本文中，我們提出了一種基于嵌入的方法(NewLook)來解決這些限制。我們提出的方法有三個主要優點。首先(適用性)，它支持四種類型的邏輯操作，并且可以使用多個變量節點回答查詢。第二(有效性)，提出的NewLook超越了線性變換的假設，因此始終優于現有的方法。第三(效率)，與基于子圖匹配的方法相比，NewLook在回答查詢方面至少快3倍;與現有的基于嵌入的方法相比，NewLook在線響應時間和離線訓練時間相當甚至更快。
付費5元查看完整內容
在這次演講中，我將介紹我們在學習知識圖推理邏輯規則方面的最新進展。邏輯規則在用于預測和推廣到其他任務時提供了可解釋，因此是學習的關鍵。現有的方法要么面臨在大搜索空間中搜索的問題(如神經邏輯編程)，要么由于稀疏獎勵而無效優化(如基于強化學習的技術)。為了解決這些局限性，本文提出了一個稱為RNNLogic的概率模型。RNNLogic將邏輯規則視為一個潛在變量，同時用邏輯規則訓練規則生成器和推理預測器。我們開發了一種基于EM的優化算法。在每次迭代中，推理預測器首先更新，以探索一些生成的邏輯規則進行推理。在E-step中，我們通過后驗推理從所有生成的規則中選取一組既有規則生成器又有推理預測器的高質量規則;而在M步中，規則生成器將用E步中選擇的規則進行更新。在四個數據集上的實驗證明了RNNLogic的有效性。
視頻：
付費5元查看完整內容
擁有良好醫學知識的人類醫生，只需與病人進行幾次有關癥狀的對話，就能診斷出疾病。相比之下，現有的以知識為基礎的對話系統往往需要大量對話實例來學習，因為它們無法捕捉不同疾病之間的相關性，忽視了它們之間共享的診斷經驗。為解決這一問題，我們提出了一種更自然、更實用的范式，即低資源的醫療對話生成，它可以將源疾病的診斷經驗轉移到有少量數據可供適應的目標疾病。它利用常識知識圖譜來表征先前的疾病癥狀關系。此外，我們還開發了一個圖演化元學習(GEML)框架，該框架通過學習進化常識圖譜來推理一種新疾病的疾病癥狀相關性，有效地緩解了大量對話的需求。更重要的是，通過動態演變的疾病癥狀圖，GEML還很好地解決了現實世界的挑戰，即每種疾病的疾病癥狀相關性可能隨著更多診斷病例而變化或演變。在CMDD數據集和我們新收集的Chunyu數據集上的大量實驗結果證明了我們的方法優于最先進的方法。此外，GEML還可以在線生成豐富的對話敏感的知識圖譜，對其他基于知識圖譜的任務有借鑒意義。
//www.zhuanzhi.ai/paper/e378691f4b084a18b1a0238815c63fb6
付費5元查看完整內容
開放域對話系統由于潛在回復數量過大而存在著訓練數據不足的問題。我們在本文中提出了一種利用反事實推理來探索潛在回復的方法。給定現實中觀測到的回復，反事實推理模型會自動推理：如果執行一個現實中未發生的替代策略會得到什么結果？這種后驗推理得到的反事實回復相比隨機合成的回復質量更高。在對抗訓練框架下，使用反事實回復來訓練模型將有助于探索潛在回復空間中的高獎勵區域。在DailyDialog數據集上的實驗結果表明，我們的方法顯著優于HRED模型和傳統的對抗訓練方法。
付費5元查看完整內容
特定領域的知識庫(KB)從各種數據源精心整理而來，為專業人員提供了寶貴的參閱咨詢。由于自然語言理解和人工智能的最新進展，會話系統使這些KBs很容易被專業人員訪問，并且越來越受歡迎。盡管在開放域應用程序中越來越多地使用各種會話系統，但特定于域的會話系統的需求是完全不同的，而且具有挑戰性。在本文中，我們針對特定領域的KBs提出了一個基于本體的對話系統。特別是，我們利用領域本體中固有的領域知識來識別用戶意圖，并利用相應的實體來引導對話空間。我們結合了來自領域專家的反饋來進一步細化這些模式，并使用它們為會話模型生成訓練樣本，減輕了會話設計人員的沉重負擔。我們已經將我們的創新集成到一個對話代理中，該代理關注醫療保健，這是IBM Micromedex產品的一個特性。
付費5元查看完整內容
盡管生成式預訓練語言模型在一系列文本生成任務上取得了成功，但在生成過程中需要對基本常識進行推理的情況下，它們仍然會受到影響。現有的將常識知識整合到生成的預訓練語言模型中的方法，只是簡單地通過對單個知識三元組的后訓練來遷移關系知識，而忽略了知識圖譜中豐富的連接。我們認為，利用知識圖譜的結構和語義信息有助于常識感知文本的生成。在本文中，我們提出用多跳推理流(GRF)進行生成，使預訓練的模型能夠在從外部常識知識圖譜中提取的多關系路徑上進行動態多跳推理。我們的經驗表明，我們的模型在三個文本生成任務上優于現有的基線，這些任務需要推理而非常識知識。通過模型推導出的推理路徑，證明了動態多跳推理模塊的有效性，為生成過程提供了理論依據。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191