亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

主題： Neural Topological SLAM for Visual Navigation

摘要： 本文研究了圖像目標導航的問題，該問題涉及在以前看不見的新型環境中導航到目標圖像指示的位置。 為了解決這個問題，我們設計了空間的拓撲表示，以有效利用語義并提供近似的幾何推理。 表示的核心是具有關聯語義特征的節點，這些節點使用粗略的幾何信息相互連接。我們描述了基于監督學習的算法，該算法可以在噪聲激勵下構建，維護和使用此類表示。 在視覺和物理逼真的模擬中的實驗研究表明，我們的方法建立了有效的表示形式，可以捕獲結構規律性并有效解決長視距導航問題。 與研究該任務的現有方法相比，我們觀察到相對改進了50％以上。

題目： Graph Random Neural Networks

摘要：

圖神經網絡(GNNs)將深度學習方法推廣到圖結構數據中，在圖形挖掘任務中表現良好。然而，現有的GNN常常遇到具有標記節點的復雜圖結構，并受到非魯棒性、過度平滑和過擬合的限制。為了解決這些問題，本文提出了一個簡單而有效的GNN框架——圖隨機神經網絡(Grand)。與現有GNNs中的確定性傳播不同，Grand采用隨機傳播策略來增強模型的魯棒性。這種策略也很自然地使Grand能夠將傳播從特征轉換中分離出來，減少了過度平滑和過度擬合的風險。此外，隨機傳播是圖數據擴充的一種有效方法。在此基礎上，利用無標記節點在多個擴展中的分布一致性，提高模型的泛化能力，提出了Grand的一致性正則化方法。在圖形基準數據集上的大量實驗表明，Grand在半監督的圖形學習任務上顯著優于最先進的GNN基線。最后，證明了它可以顯著減輕過度平滑和過度擬合的問題，并且它的性能與魯棒性相結合。

主題： Graph Neural Networks with Composite Kernels

摘要： 近年來，對圖結構化數據的學習引起了越來越多人的興趣。諸如圖卷積網絡（GCN）之類的框架已經證明了它們在各種任務中捕獲結構信息并獲得良好性能的能力。在這些框架中，節點聚合方案通常用于捕獲結構信息：節點的特征向量是通過聚集其相鄰節點的特征來遞歸計算的。但是，大多數聚合方案都將圖中的所有連接均等化，而忽略了節點特征的相似性。本文從內核權重的角度重新解釋了節點聚合，并提出了一個框架來考慮特征相似性。我們表明歸一化的鄰接矩陣等效于Kerin空間中基于鄰居的內核矩陣。然后，我們提出功能聚集作為基于原始鄰居的內核和可學習的內核的組成，以在特征空間中編碼特征相似性。我們進一步展示了如何將所提出的方法擴展到圖注意力網絡（GAT）。實驗結果表明，在一些實際應用中，我們提出的框架具有更好的性能。

本文作者從實際的圖數據特點出發，設計了一種針對多關系有向圖的圖神經網絡 CompGCN 來同時學習節點和關系的表示。同時，為了降低大量不同類型關系帶來的參數，這里作者設計了一種分解操作 composition operation，將所有關系都用一組基的加權組合來表示。這樣用于描述關系的參數只和基的個數有關。 設計了 CompGCN 模型，一種可以考慮多種關系信息的圖神經網絡框架，來同時學習節點和關系的表示。證明了 CompGCN 與之前的多關系 GNN 之間的聯系。實驗驗證了 CompGCN 的有效性。

機器學習的許多應用都需要一個模型來對測試樣本做出準確的預測，這些測試樣本在分布上與訓練示例不同，而在訓練期間，特定于任務的標簽很少。應對這一挑戰的有效方法是，在數據豐富的相關任務上對模型進行預訓練，然后在下游任務上對其進行微調。盡管預訓練在許多語言和視覺領域都是有效的，但是如何在圖數據集上有效地使用預訓練仍是一個有待解決的問題。本文提出了一種新的圖神經網絡訓練策略和自監督方法。我們的策略成功的關鍵是在單個節點以及整個圖的層次上預訓練一個具有強表示能力的GNN，以便GNN能夠同時學習有用的局部和全局表示。我們系統地研究了多類圖分類數據集的預處理問題。我們發現，在整個圖或單個節點級別上對GNN進行預訓練的樸素策略改進有限，甚至可能導致許多下游任務的負遷移。相比之下，我們的策略避免了負遷移，顯著提高了下游任務的泛化能力，使得ROC-AUC相對于未經訓練的模型提高了9.4%，實現了分子特性預測和蛋白質功能預測的最好性能。

題目： What Can Neural Networks Reason About?

摘 要:

神經網絡已經成功地完成了許多推理任務。從經驗上看，這些任務需要專門的網絡結構，例如，圖神經網絡(GNNs)在許多這樣的任務中表現良好，但較少結構的網絡會失敗。從理論上講，盡管網絡結構具有相同的表達能力，但人們對網絡結構為什么以及何時比其他網絡結構更能泛化的理解是有限的。本文通過研究網絡的計算結構與相關推理過程的算法結構之間的一致性，建立了一個描述網絡能很好學習哪些推理任務的框架。我們正式定義了這種算法對齊，并推導出一個隨更好的對齊而減小的樣本復雜度界。該框架為流行推理模型的經驗成功提供了一個解釋，并指出了它們的局限性。例如，我們通過一個強大的算法范例——動態規劃(DP)的鏡頭，將看似不同的推理任務，如直覺物理、可視化問題回答和最短路徑統一起來。我們證明了GNN與DP是一致的，因此可以解決這些問題。在一些推理任務中，我們的理論得到了實證結果的支持。

題目： Probabilistic Logic Neural Networks for Reasoning

摘要：

知識圖譜推理的目的是通過對觀測到的事實進行推理來預測缺失的事實，它在許多應用中起著至關重要的作用。傳統的基于邏輯規則的方法和近年來的知識圖譜嵌入方法都對這一問題進行了廣泛的探討。馬爾可夫邏輯網絡(MLN)是一種有原則的基于規則的邏輯方法，它能夠利用一階邏輯的領域知識，同時處理不確定性。然而，由于其復雜的圖形結構，MLNs的推理通常是非常困難的。與MLNs不同的是，知識圖的嵌入方法(如TransE、DistMult)學習有效的實體嵌入和關系嵌入進行推理，這樣更有效、更高效。然而，他們無法利用領域知識。在本文中，我們提出了概率邏輯神經網絡(pLogicNet)，它結合了兩種方法的優點。pLogicNet使用一階邏輯的馬爾可夫邏輯網絡定義所有可能的三聯體的聯合分布，該網絡可以通過變分EM算法進行有效優化。采用知識圖譜嵌入模型推斷缺失的三聯體，根據觀測到的三聯體和預測到的三聯體更新邏輯規則權值。在多個知識圖譜的實驗證明了pLogicNet在許多競爭基線上的有效性。

作者：

瞿錳是蒙特利爾學習算法研究所的一年級博士生，之前，在伊利諾伊大學香檳分校獲得了碩士學位，此外，在北京大學獲得了學士學位。主要研究方向為機器學習、貝葉斯深度學習、數據挖掘和自然語言處理。

題目： Logical Expressiveness of Graph Neural Networks

摘要：

圖神經網絡(Graph Neural Networks, GNNs)是近年來在分子分類、知識圖譜補全等結構化數據處理領域中流行起來的一類機器學習體系結構。最近關于GNNs表達能力的研究已經建立了它們對圖中節點進行分類的能力與用于檢查圖同構的WeisfeilerLehman (WL)測試之間的緊密聯系。具體來說，這兩篇論文的作者分別觀察到，WL測試產生的節點分類總是細化了任何GNN產生的分類，而且有GNN可以重現WL測試。這些結果表明，GNNs在節點分類方面與WL測試一樣強大。然而，這并不意味著GNNs可以表達任何通過WL測試改進的分類器。我們的工作旨在回答以下問題:什么是可以用GNNs捕獲的節點分類器?在本文中，我們從邏輯的角度來看待這個問題，將其限制在FOC2中可表達的屬性上，即具有計數能力的一階邏輯的兩變量片段進行研究。

作者：

Pablo Barceló是智利天主教大學工程學院和數學學院數學與計算工程研究所所長，研究領域為數據庫理論、計算機科學中的邏輯、自動機理論。

論文摘要： Multi-paragraph推理對于open-domain問答(OpenQA)是必不可少的,盡管在當前的OpenQA系統中受到的關注較少。在這項工作中,我們提出一個知識增強圖神經網絡(KGNN),使用實體對多個段落進行推理。為了顯式地捕捉到實體的關系,KGNN利用關系事實知識圖譜構建實體圖譜。實驗結果表明，與HotpotQA數據集上的基線方法相比，KGNN在分散注意力和完整的wiki設置方面都有更好的表現。我們進一步的分析表明，KGNN在檢索更多的段落方面是有效和具有魯棒性的。