亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

摘要:

圖神經網絡(GNNs)最近變得越來越受歡迎,因為它們能夠學習復雜的關系系統,這些關系產生于從生物學和粒子物理學到社會網絡和推薦系統的廣泛問題。盡管在圖上進行深度學習的不同模型太多了,但迄今為止,很少有人提出方法來處理呈現某種動態性質的圖(例如,隨著時間的推移而進化的特征或連通性)。在本文中,作者提出了時序圖網絡(TGNs),一個通用的,有效的框架,用于深度學習動態圖表示為時間事件序列。在內存模塊和基于圖的操作符中,TGNs能夠顯著優于以前的方法,同時計算效率也更高。作者進一步表明,以前的幾個學習動態圖的模型可以轉換為TGN框架的具體實例。他們對TGN框架的不同組件進行了詳細的消融研究,并設計了最佳配置,在動態圖的幾個轉導和歸納預測任務上實現了最先進的性能。

討論的問題:

  • 理解動態圖的需要和目前靜態GNN方法的局限
  • TGN內存模塊和時間依賴嵌入模塊
  • TGN先進的訓練策略

結論

  • 時序圖網絡是動態時間圖的廣義GNN形式
  • 內存模塊為每個節點介紹,并用于存儲內存的數據動態
  • 圖嵌入可以基于內存狀態和下游時間的任務進行計算
  • 節點內存也可以更新測試時間
  • 作者介紹了計算內存的一般框架,但每個內存函數(消息、聚合和更新)可以根據手頭的問題進行修改

地址: //ai.science/e/tgn-temporal-graph-networks-for-deep-learning-on-dynamic-graphs--eqAnR859q8wk2jfcGnbx

付費5元查看完整內容

相關內容

對于來自開源社會傳感器的多種類型并發事件及其相關參與者進行建模是許多領域(如醫療保健、救災和金融分析)的一項重要任務。預測未來的事件可以幫助人類分析師更好地理解全球社會動態,并做出快速而準確的決策。預期參與這些活動的參與者或參與者還可以幫助涉眾更好地響應意外事件。然而,由于以下幾個因素,實現這些目標是具有挑戰性的:(i)難以從大規模輸入中過濾出相關信息,(ii)輸入數據通常為高維非結構化和Non-IID(非獨立同分布),(iii)相關的文本特征是動態的,隨時間而變化。最近,圖神經網絡在學習復雜和關系數據方面表現出了優勢。本文研究了一種基于異構數據融合的時間圖學習方法,用于預測多類型并發事件并同時推斷多個候選參與者。為了從歷史數據中獲取時間信息,我們提出了一種基于事件知識圖的圖學習框架Glean,它結合了關系和單詞上下文。我們提出了一個上下文感知的嵌入融合模塊來豐富事件參與者的隱藏特性。我們在多個真實數據集上進行了廣泛的實驗,結果表明,所提出的方法在社會事件預測方面與各種先進的方法相比具有競爭力,而且還提供了急需的解釋能力。

付費5元查看完整內容

圖神經網絡教程 Graph Convolutional Networks Graph Sampling Methods Application and PyTorch Implementation

付費5元查看完整內容

圖神經網絡(GNN)已經在許多具有挑戰性的應用中展示了優越的性能,包括小樣本學習任務。盡管GNN具有強大的從少量樣本中學習和歸納的能力,但隨著模型的深入,GNN通常會出現嚴重的過擬合和過平滑問題,這限制了模型的可擴展性。在這項工作中,我們提出了一個新的注意力GNN來解決這些挑戰,通過合并三重注意機制,即節點自我注意,鄰居注意和層記憶注意力。我們通過理論分析和實例說明了所提出的注意模塊可以改善小樣本學習的GNN的原因。廣泛的實驗表明,在mini-ImageNet 和Tiered-ImageNet數據集上,通過誘導和直推設置,提出的注意力GNN在小樣本學習方面優于基于最先進的GNN方法。

付費5元查看完整內容

多元時間序列建模一直是一個熱門主題,吸引了來自不同領域的研究人員,包括經濟、金融和交通。多元時間序列預測背后的一個基本假設是,其變量相互依賴,但仔細觀察,可以說現有方法無法完全利用變量對之間的潛在空間依賴性。同時,近年來,圖神經網絡(GNN)在處理關系依賴方面表現出了很高的能力。GNN需要用于信息傳播的定義明確的圖結構,這意味著它們無法直接應用于事先不知道相關性的多元時間序列。在本文中,我們提出了一個專門為多元時間序列數據設計的通用圖神經網絡框架。我們的方法通過圖形學習模塊自動提取變量之間的單向關系,可以輕松地將諸如變量屬性之類的外部知識整合到其中。進一步提出了一種新穎的混合跳躍傳播層和一個擴張的起始層來捕獲時間序列內的空間和時間依賴性。在端到端框架中共同學習圖學習,圖卷積和時間卷積模塊。實驗結果表明,我們提出的模型在4個基準數據集中的3個方面優于最新的基線方法,并在提供額外結構信息的兩個交通數據集上與其他方法相比具有同等的性能。

地址: //www.zhuanzhi.ai/paper/50fe383c75bcd2a665984f30eabe7d87

付費5元查看完整內容

人類的視覺系統證明,用極少的樣本就可以學習新的類別;人類不需要一百萬個樣本就能學會區分野外的有毒蘑菇和可食用蘑菇。可以說,這種能力來自于看到了數百萬個其他類別,并將學習到的表現形式轉化為新的類別。本報告將正式介紹機器學習與熱力學之間的聯系,以描述遷移學習中學習表征的質量。我們將討論諸如速率、畸變和分類損失等信息理論泛函如何位于一個凸的,所謂的平衡曲面上。我們規定了在約束條件下穿越該表面的動態過程,例如,一個調制速率和失真以保持分類損失不變的等分類過程。我們將演示這些過程如何完全控制從源數據集到目標數據集的傳輸,并保證最終模型的性能。

付費5元查看完整內容

標簽傳播(LPA)和圖卷積神經網絡(GCN)都是圖上的消息傳遞算法。兩者都解決了節點分類的任務,但是LPA將節點標簽信息傳播到圖的邊緣,而GCN傳播并轉換節點特征信息。然而,雖然概念相似,LPA和GCN之間的理論關系還沒有得到研究。這里我們從兩個方面研究了LPA和GCN之間的關系:(1)特征/標簽平滑,分析一個節點的特征/標簽如何擴散到它的鄰居;(2)一個節點的初始特征/標簽對另一個節點的最終特征/標簽的影響程度。在理論分析的基礎上,提出了一種統一GCN和LPA的節點分類端到端模型。在我們的統一模型中,邊緣權值是可學習的,LPA作為正則化幫助GCN學習合適的邊緣權值,從而提高分類性能。我們的模型也可以看作是基于節點標簽的注意力學習權重,它比現有的基于特征的注意力模型更面向任務。在真實圖數據的大量實驗中,我們的模型在節點分類準確度方面顯示出優于目前最先進的基于gcn的方法。

付費5元查看完整內容
北京阿比特科技有限公司