亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

本文提出了一個新的多粒度閱讀理解框架,并且在NQ數據集上驗證了其有效性。我們利用文檔自身的層次結構特性,以四個粒度建模文檔,并且同時考慮NQ中兩個粒度答案的依賴關系。實驗結果表明我們提出的方法是非常有效的,并且相比現有方法有了大幅度的提升。

整體系統架構,所有文檔片段被獨立的輸入到模型中,最后匯總之后得到答案 我們針對這種NQ數據集提出了一個新的框架,整體系統架構如圖3所示,我們將問題以及文檔的每個片段獨立的輸入到模型中,通過BERT編碼器進行編碼,得到問題和文檔片段的初步表示,然后用我們提出的圖編碼器用得到的表示進一步建模,最終得到一系列結構化的表示,匯總到答案選擇模塊得到答案。

付費5元查看完整內容

相關內容

自然語言理解(NLU)的最新進展正在推動信息檢索(IR)的快速發展,這在很大程度上要歸功于對文檔排序的深層語言模型(LMs)的微調。雖然非常有效,但是基于這些LMs的排序模型比以前的方法增加了幾個數量級的計算成本,特別是因為它們必須通過一個龐大的神經網絡來為每個查詢文檔對提供數據,從而計算單個相關分數。為了解決這個問題,我們提出了一種新的排序模型ColBERT,它采用深度LMs(特別是BERT)來進行有效的檢索。ColBERT引入了一種后期交互體系結構,該體系結構使用BERT獨立地對查詢和文檔進行編碼,然后使用一種廉價但功能強大的交互步驟來建模它們的細粒度相似性。通過延遲并保留這種細粒度交互,ColBERT可以利用深度LMs的表達能力,同時獲得離線預先計算文檔表示的能力,這大大加快了查詢處理的速度。除了降低通過傳統模型檢索的文檔重新排序的成本外,ColBERT的修剪友好交互機制還支持利用向量相似度索引來直接從大型文檔集合進行端到端檢索。我們使用兩個最近的文章搜索數據集對ColBERT進行了廣泛的評估。結果表明,ColBERT的有效性與現有的基于bert的模型相比是有競爭力的(并且優于每個非bert基線),同時執行兩個數量級的速度更快,每個查詢需要減少四個數量級的錯誤。

付費5元查看完整內容

題目:

基于抽取的高考作文生成

簡介:

機器人自動寫作是人工智能和自然語言處理領域重要的研究方向,然而傳統的自動寫作方法主要針對體育新聞、天氣預報等較短的段落級文本進行研究,并沒有對篇章級文本自動生成技術進行深入的建模,針對這一問題,我們著重研究面向高考作文的篇章級文本生成任務。具體而言我們提出了一種基于抽取式的高考作文生成模型,即先進性抽取再利用深度學習排序方法進行段落內部的文本組合生產。通過實際專家測評,我們生成的作文能達到北京高考二類卷平均分數,具有一定的實際應用價值。

付費5元查看完整內容

論文摘要: Multi-paragraph推理對于open-domain問答(OpenQA)是必不可少的,盡管在當前的OpenQA系統中受到的關注較少。在這項工作中,我們提出一個知識增強圖神經網絡(KGNN),使用實體對多個段落進行推理。為了顯式地捕捉到實體的關系,KGNN利用關系事實知識圖譜構建實體圖譜。實驗結果表明,與HotpotQA數據集上的基線方法相比,KGNN在分散注意力和完整的wiki設置方面都有更好的表現。我們進一步的分析表明,KGNN在檢索更多的段落方面是有效和具有魯棒性的。

付費5元查看完整內容
北京阿比特科技有限公司