亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

圖卷積神經網絡(Graph convolutional networks GCNs)是一種通過堆疊圖卷積層來集成節點高階鄰域信息的神經網絡,被廣泛應用于許多網絡分析任務(節點分類、鏈路預測等)。然而,GCNs存在著不可避免的局限性:拓撲局限性(過度平滑,局部同質性),這些嚴重限制了其表示網絡的能力。現有的工作(如拓撲優化、自監督等)主要通過將特征在拓撲上進行卷積來緩解GCNs的拓撲限制,這使得卷積結果嚴重依賴于網絡拓撲結構。與此同時,在真實世界中,網絡很多是富文本網絡(即text-rich networks),多數現有方法在卷積時僅考慮了全局(文檔)級別的特征信息,而忽略了局部(單詞)級別的文本序列信息。為了解決這些問題,我們提出了一種新的GCN架構(BiTe-GCN),對拓撲結構和特征的進行聯合卷積進而學習更好的節點特征。具體來說,我們首先將原始的富文本網絡增廣為一個雙類型(bi-typed)異構網絡,進而獲取全局(文檔)級別信息和局部文本序列信息。其次,我們設計了一種有辨別力的卷積機制,在同一系統中實現拓撲結構和特征的聯合卷積,并針對不同目標任務自動學習拓撲結構與特征分別對目標任務的貢獻。

//arxiv.org/abs/2010.12157

付費5元查看完整內容

相關內容

圖卷積網絡(GCN)因為具備出色的捕捉站點或區域之間非歐式空間依賴性的能力,已廣泛應用于交通需求預測。然而在大多數現有研究中,圖卷積是在基于先驗知識生成的鄰接矩陣上實現的,這樣的鄰接矩陣既不能準確反映站點的實際空間關系,也不能自適應地捕捉需求的多層級空間依賴性。為解決上述問題,這篇論文提出了一種新穎的圖卷積網絡進行交通需求預測。首先,文章中提出了一種新的圖卷積架構,該圖卷積架構在不同的層具有不同的鄰接矩陣,并且所有的鄰接矩陣在訓練過程中都是可以自學習的。其次,文中提出了一種分層耦合機制,該機制將上層鄰接矩陣與下層鄰接矩陣關聯起來。它還減少了模型中參數的規模。最后,構建了一個端到端的網絡,通過將隱藏的空間狀態與門控循環單元集成在一起,給出最終的預測結果,該單元可以同時捕獲多級空間相關性和時間動態。論文提出的模型在兩個真實世界的數據集NYC Citi Bike和NYC Taxi上進行了實驗,結果證明了該模型的優越性能。

//www.zhuanzhi.ai/paper/3996bc72f87617093a55530269f6fdd8

付費5元查看完整內容

圖神經網絡(GNN)已經成為圖表示學習的事實標準,它通過遞歸地聚集圖鄰域的信息來獲得有效的節點表示。盡管 GNN 可以從頭開始訓練,但近來一些研究表明:對 GNN 進行預訓練以學習可用于下游任務的可遷移知識能夠提升 SOTA 性能。但是,傳統的 GNN 預訓練方法遵循以下兩個步驟:

在大量未標注數據上進行預訓練; 在下游標注數據上進行模型微調。 由于這兩個步驟的優化目標不同,因此二者存在很大的差距。

在本文中,我們分析了預訓練和微調之間的差異,并為了緩解這種分歧,我們提出了一種用于GNNs的自監督預訓練策略L2P-GNN。方法的關鍵是L2P-GNN試圖以可轉移的先驗知識的形式學習如何在預訓練過程中進行微調。為了將局部信息和全局信息都編碼到先驗信息中,我們在節點級和圖級設計了一種雙重自適應機制。最后,我們對不同GNN模型的預訓練進行了系統的實證研究,使用了一個蛋白質數據集和一個文獻引用數據集進行了預訓練。實驗結果表明,L2P-GNN能夠學習有效且可轉移的先驗知識,為后續任務提供好的表示信息。我們在//github.com/rootlu/L2P-GNN公開了模型代碼,同時開源了一個大規模圖數據集,可用于GNN預訓練或圖分類等。

總體來說,本文的貢獻如下:

  • 首次探索學習預訓練 GNNs,緩解了預訓練與微調目標之間的差異,并為預訓練 GNN 提供了新的研究思路。
  • 針對節點與圖級表示,該研究提出完全自監督的 GNN 預訓練策略。
  • 針對預訓練 GNN,該研究建立了一個新型大規模書目圖數據,并且在兩個不同領域的數據集上進行了大量實驗。實驗表明,該研究提出的方法顯著優于 SOTA 方法。

付費5元查看完整內容

在點擊率(CTR)預測場景中,用戶的序列行為被很好地利用來捕捉用戶的興趣。然而,盡管這些順序方法得到了廣泛的研究,但仍然存在三個局限性。首先,現有的方法大多是利用對用戶行為的關注,并不總是適合于點擊率預測,因為用戶經常會點擊與任何歷史行為無關的新產品。其次,在真實的場景中,有許多用戶在很久以前就有操作,但在最近變得相對不活躍。因此,很難通過早期的行為準確地捕捉用戶當前的偏好。第三,用戶歷史行為在不同特征子空間中的多重表示在很大程度上被忽略。為了解決這些問題,我們提出了一種多交互關注網絡(Multi-Interactive Attention Network, MIAN)來全面提取用戶檔案中各種細粒度特征(如性別、年齡和職業)之間的潛在關系。具體來說,MIAN包含一個多交互層(MIL),該層集成了三個本地交互模塊,通過順序行為捕獲用戶偏好的多種表示,同時利用細粒度的用戶特定信息和上下文信息。此外,我們設計了一個全局交互模塊(GIM)來學習高階交互并平衡多個特征的不同影響。最后,在3個數據集上進行離線實驗,并在一個大規模推薦系統中進行在線A/B測試,驗證了本文方法的有效性。

//www.zhuanzhi.ai/paper/2aac834293c05622fe4cb37096525879

付費5元查看完整內容

屬性網絡嵌入的目的是結合網絡的拓撲結構和節點屬性學習低維節點表示。現有的大多數方法要么通過網絡結構傳播屬性,要么通過編碼-解碼器框架學習節點表示。然而,基于傳播的方法傾向于選擇網絡結構而不是節點屬性,而編碼-解碼器方法傾向于忽略近鄰之外的長連接。為了解決這些限制,同時得到這兩個方面的優點,我們設計了交叉融合層的無監督屬性網絡嵌入。具體來說,我們首先構建兩個獨立的視圖來處理網絡結構和節點屬性,然后設計跨融合層來實現兩視圖之間靈活的信息交換和集成。交叉融合層的關鍵設計目標有三方面:1)允許關鍵信息沿著網絡結構傳播;2)在傳播過程中對每個節點的局部鄰域進行異構編碼;3)加入額外的節點屬性通道,使屬性信息不被結構視圖所掩蓋。在三個數據集和三個下游任務上的大量實驗證明了該方法的有效性。

//cs.nju.edu.cn/yuanyao/static/wsdm2021.pdf

付費5元查看完整內容

邊緣流通常用于捕獲動態網絡中的交互,如電子郵件、社交或計算機網絡。邊緣流異常或罕見事件的檢測問題有著廣泛的應用。然而,由于缺乏標簽,交互的高度動態特性,以及網絡中時間和結構變化的糾纏,它提出了許多挑戰。目前的方法在解決上述挑戰和有效處理大量交互方面能力有限。在此,我們提出了一種檢測邊緣流異常的新方法- F-FADE,它使用一種新的頻率因子分解技術來有效地模擬節點對間相互作用頻率的時間演化分布。然后,根據觀測到的每一次相互作用頻率的可能性來確定異常。F-FADE能夠在在線流媒體設置中處理時間和結構變化的各種異常,而只需要恒定的內存。我們在一個合成和六個真實世界動態網絡上的實驗表明,F-FADE達到了最先進的性能,可以檢測出以前的方法無法發現的異常。

//arxiv.org/pdf/2011.04723.pdf

付費5元查看完整內容

圖神經網絡(GNN)已被證明是圖分析的強大工具。關鍵思想是沿著給定圖的邊遞歸地傳播和聚合信息。盡管它們取得了成功,但是,現有的GNN通常對輸入圖的質量很敏感。真實世界的圖通常是噪聲和包含任務無關的邊緣,這可能導致在學習的GNN模型中泛化性能次優。本文提出一種參數化拓撲去噪網絡PTDNet,通過學習丟棄任務無關邊來提高GNNs的魯棒性和泛化性能。PTDNet通過使用參數化網絡懲罰稀疏圖中的邊數來刪除與任務無關的邊。考慮到整個圖的拓撲結構,采用核范數正則化對稀疏圖施加低秩約束,以便更好地泛化。PTDNet可以作為GNN模型的關鍵組件,以提高其在各種任務中的性能,如節點分類和鏈路預測。在合成數據集和基準數據集上的實驗研究表明,PTDNet可以顯著提高GNNs的性能,并且對于噪聲較大的數據集性能增益更大。

//personal.psu.edu/dul262/PTDNet/WSDM2021_PTDNet_camera_ready.pdf

付費5元查看完整內容

圖卷積網絡(Graph Convolutional Networks, GCNs)作為一種學習圖結構數據的神經網絡,在處理圖數據分析問題上表現出了極大的人氣,被用于如節點分類、圖分類、鏈路預測、推薦等任務中。典型的GCN及其變體通常采用消息傳遞方式,其關鍵步驟是特征聚合,即一個節點在每個卷積層中聚合來自其拓撲鄰居的特征信息。這樣,特征信息通過網絡拓撲結構傳播到鄰居節點表示中,然后通過學習所有節點嵌入表示用于下游任務如分類等,該學習過程是由部分節點標簽來監督的。實際上,GCNs能夠取得巨大的成功部分歸功于它提供了一種拓撲結構和節點特征的融合策略來學習節點表示,而這種融合策略的學習訓練過程由一個端到端的模型框架來監督。

這里我們首先思考了一個問題:作為端到端框架的GCNs,從拓撲結構和節點特征中真正學習和融合了什么樣的信息? 在第二小節我們通過實驗設計評估了GCNs融合拓撲結構和節點特征的能力。實驗結果表明,GCNs在融合網絡拓撲結構和節點特征上能力上與最理想的水平相差甚遠。即使在一些簡單的情況下(節點的特性/拓撲與節點標簽的關聯是非常明確的)GCN仍不能自適應地融合節點特性和拓撲結構并提取最相關的信息。而無法自適應學習到拓撲結構、節點特征與最終任務之間最相關的信息,可能會嚴重阻礙GCNs在分類任務中的表現能力,并且由于實際應用中圖數據與任務之間的相關性往往非常復雜且不可知,因此自適應能力也是很重要的。

針對這些問題,我們提出了一種靈活地用于半監督節點分類的自適應多通道圖卷積網絡方案。其核心思想是同時學習基于節點特征、拓撲結構及其組合的節點嵌入,并依據特征與結構之間的相似性對標簽預測的作用往往是互補的這一事實,采用設計的自適應融合機制來獲取對分類任務最有幫助且最深層次的相關信息。

付費5元查看完整內容

本文研究如何更好聚合網絡拓撲信息和特征信息。中心思想是,構造了結構圖,特征圖(feature graph),以及兩者的組合來提取特定的和通用的嵌入,并使用注意機制來學習嵌入的自適應重要性權重。實驗發現,AM-GCN可以從節點特征和拓撲結構中提取自適應地提取相關的信息,對應不同的參數取值。 //arxiv.org/abs/2007.02265

摘要:圖卷積網絡(GCNs)在處理圖數據和網絡數據的各種分析任務方面得到了廣泛的應用。然而,最近的一些研究提出了一個問題,即GCNs是否能夠在一個信息豐富的復雜圖形中優化地整合節點特征和拓撲結構。在本文中,我們首先提出一個實驗研究。令人驚訝的是,我們的實驗結果清楚地表明,當前的GCNs融合節點特征和拓撲結構的能力遠遠不是最優的,甚至是令人滿意的。由于GCNs無法自適應地學習拓撲結構與節點特征之間的一些深層次關聯信息,這一弱點可能會嚴重阻礙GCNs在某些分類任務中的能力。我們能否彌補這一缺陷,設計出一種新型的GCNs,既能保留現有GCNs的優勢,又能大幅度提高拓撲結構和節點特征融合的能力?為了解決這個問題,我們提出了一種自適應多通道半監督分類圖卷積網絡。其核心思想是同時從節點特征、拓撲結構及其組合中提取具體的和常見的嵌入,并利用注意機制學習嵌入的自適應重要度權值。我們在基準數據集上進行的大量實驗表明,AM-GCN從節點特征和拓撲結構中提取了最多的相關信息,顯著提高了分類精度。

付費5元查看完整內容

題目: Multi-level Graph Convolutional Networks for Cross-platform Anchor Link Prediction

摘要:

在社交網絡分析中,跨平臺賬戶匹配扮演著重要的角色,并且有利于很多應用。然而,現有的方法要么嚴重依賴高質量的用戶生成內容(包括用戶信息文件),要么僅關注網絡拓撲結構就存在數據不足的問題,這給研究者帶來了模型選擇的兩難困境。為了解決這個問題,我們提出了一個新的框架,在局部網絡結構和超圖結構上統一考慮多層次的圖卷積。該方法克服了現有工作中數據不足的問題,且不需要依賴用戶的人口統計信息。此外,為了使該方法能夠處理大規模社交網絡,我們提出了一種兩階段空間協調機制,以在基于網絡劃分的并行訓練和跨不同社交網絡的賬戶匹配中對齊嵌入空間。在兩個大規模的現實社會網絡上進行了廣泛的實驗。實驗結果表明,該方法的性能優于現有模型。

介紹: 如今,大多數人都參與了不止一個在線社交網絡(OSN),如Facebook、Twitter、微博、Linkedin。通常情況下,用戶為了不同的目的在不同的OSNs上注冊,不同的OSNs顯示了不同的觀點和人的不同方面。例如,一個用戶在Facebook上鏈接的是他們的朋友,但是使用Linkedin鏈接的是他/她的同事,感興趣的公司和尋找工作機會。雖然不同的OSNs表現出不同的特性和功能,但在不同的社交平臺上,個人用戶帳戶的重疊現象一直存在。然而,出于隱私方面的考慮或缺乏動機,在大多數社交網絡中,屬于同一個人的多個賬戶的信息并沒有明確給出。

在數據挖掘研究領域中,將來自不同社交網絡的同一個人的賬號匹配問題定義為賬號映射、社交網絡去匿名化或社交錨鏈預測。帳戶匹配在不同社交平臺在社會網絡分析中起著基礎和重要的角色,因為它有助于提高許多下游應用程序,如在線個性化服務,鏈接預測,推薦系統,生物蛋白質對齊老化相關復合物,和犯罪行為檢測。盡管人們對這一具有挑戰性的課題給予了很大的關注,但仍有很大的改進空間。以往的研究提出利用可用的輔助信息,如自生成的用戶資料、每日生成的內容和其他人口統計特征(如用戶名、頭像、位置、性別、帖子、博客、評論等)來解決這一問題。然而,隨著公眾隱私和信息權利意識的提高,這些信息越來越難以獲得和獲取。

近年來,隨著網絡嵌入(Network Embedding, NE)技術的發展,與此問題相關的研究重點已經轉移到挖掘網絡結構信息上,因為有人認為社會網絡結構數據在正確性和完整性方面更加可靠。然而,僅僅關注網絡結構本身的建模,使得幾乎所有現有的方法都存在數據不足的問題,特別是在小規模網絡和冷啟動設置(即網絡新用戶)。因此,在實際的場景中,它一直是從業者所面臨的兩難問題急需解決辦法。

基于此,我們提出利用并整合從原始網絡中提取的超圖信息來進行數據增強。在本文的其余部分,我們分別使用簡單圖和超圖來表示原始網絡和從原始網絡中提取的超圖。與簡單圖相比,超圖允許有一條邊。同時連接兩個以上的節點。這意味著圖中節點之間的非成對關系可以很容易地組織并表示為超邊。此外,超圖具有魯棒性和靈活性,能夠適應各種各樣的社交網絡,無論給定的社交網絡是純社交網絡還是具有各種屬性和鏈接的異構社交網絡。

更具體地說,我們提出了一種新的多層圖卷積網絡的嵌入框架,即MGCN,來共同學習不同粒度的網絡頂點的嵌入。簡單圖GCN,超圖GCN)。社交網絡的簡單圖結構信息揭示了用戶之間的關系(如友誼、關注者),而超圖則根據其在社交網絡中的具體定義具有不同的語義意義。例如,基于N-hop鄰居的超圖(用戶的N-hop鄰居通過同一個超邊連接)在一定程度上表示朋友圈。基于中心的超圖表示不同的社會層次(具有相似中心性值的用戶可能具有相同的社會地位)。因此,通過定義各種超圖并將其嵌入到網絡嵌入學習中,將有助于學習更好的用戶表示。為了支持這一點,我們提出的MGCN框架是靈活的,可以包含各種超圖定義,它可以將任何超圖作為向量表示,使模型結構對各種超圖定義不變性。

通過擴展GCN來開發和集成超圖背后的基本原理是,超圖提供了一個更靈活的網絡表示,與本地網絡拓撲上的單個圖GCNs相比,它可以包含更多更豐富的信息。我們發現,在大多數情況下,GCN層的最優數量總是被設置為2,因為添加更多的層不能顯著提高的性能。因此,GCNs只能捕獲網絡中某個節點周圍的本地信息。這一現象也使得單一的GCN存在矛盾,因此在賬戶匹配任務上表現的一般,因為任務的關鍵是探索更多更深的信息來進行預測。從直觀上看,在從原始網絡中提取的超圖上定義GCNs將補充現有基于GCN嵌入模型的局限性。

然而,這仍然是一項具有挑戰性的任務,因為社交網絡是大規模的,有數百萬個節點和數十億個邊。傳統的集中訓練方法由于計算量大,無法適應這樣大的網絡。為了使MGCN適應于大規模社交網絡,提高其可擴展性和效率,我們提出了一種新的訓練方法,該方法首先將大規模社交網絡分割成簇,然后以完全分散的方式學習網絡嵌入。為了對齊不同簇的學習嵌入空間,我們提出了一種新的兩相空間協調機制。在第一階段,我們對齊從同一網絡內的每個簇中學習到的嵌入空間。除了不同子網之間的排列在同一網絡,推導空間和解對齊兩個不同網絡通過少量的觀測錨節點,這使得我們的MGCN框架實現更精確的錨點鏈接比最先進的模型和預測效率高在大型社交網絡。

本文的主要貢獻總結如下:

  • 我們提出了一個新的框架,用于預測跨不同社交網絡的錨鏈接這一具有挑戰性的任務。該方法同時考慮了局部和超圖級的圖卷積來學習網絡嵌入,能夠為任務捕獲更廣泛、更豐富的網絡信息。

  • 為了使所提出的框架能夠適應大規模的社交網絡,我們提出了一系列的處理方法,包括網絡分割和空間調和來處理分布式的訓練過程。

  • 對大規模真實數據集進行了廣泛的評估,實驗結果證明了提出的MGCN模型相對于最新模型的優越性。

付費5元查看完整內容
北京阿比特科技有限公司