亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

異質信息網絡（HINs）也稱為異質圖，它是一種由多種類型的節點和邊組成的復雜網絡，包含了全面的信息和豐富的語義。圖神經網絡（GNNs）作為處理圖結構數據的強大工具，在網絡分析任務中表現出了卓越的性能。最近相繼提出了許多基于圖神經網絡的異質圖模型，并取得了巨大的成功。圖神經網絡旨在通過節點屬性間的傳播和聚合操作來完成圖表示學習任務，因而完備的節點屬性是算法運行的必要前提。

然而，大多數真實世界的場景通常存在信息不完備的問題，表現在異質信息網絡中即為：常存在某些類型節點的屬性完全缺失的現象，比如在包含三種類型節點的引文網絡ACM中，只有paper節點含有原始屬性，author和subject節點沒有屬性。不同于同構網絡中某些結點的屬性缺失或節點屬性在某些維度上的缺失，異質網絡中的屬性缺失程度更大、更為復雜。已有的一些異質網絡表示學習方法主要針對模型的改進來提高算法性能，對于屬性的缺失采用一些簡單的手工插補方法（例如平均插補、one-hot向量插補）進行補全。這些方法將屬性補全與圖表示學習過程分開，忽略了準確的屬性對于下游任務的重要性，因此很難使用簡單插補后的屬性來保證模型的性能。實際上，準確的輸入是任何模型實現性能提升的基礎，在異質網絡更為復雜的屬性缺失情況下，準確的屬性變得更為重要。

因此，本文認為與設計新的模型相比，科學準確地補全缺失的屬性應該成為異質網絡分析任務的另一個重要研究方向，并且屬性補全和模型設計可以相互增強。基于此，本文提出以可學習的方式來補全缺失的屬性，并通過采用屬性補全與圖神經網絡模型相互增強的模式來構建一個針對屬性缺失異質網絡的異質圖神經網絡通用框架（HGNN-AC）。

HGNN-AC共包含四個關鍵設計：基于拓撲結構的先驗知識預學習、基于注意力機制的屬性補全、弱監督重構損失的設計和端到端模型的構建。本文在三個真實世界的異質網絡上進行了大量的實驗，結果表明所提出的框架優于最新的基準。

現有的GNN解釋方法側重于解釋圖的節點或邊的重要性，但忽略了圖子結構。事實上子結構更直觀且容易被人理解。論文提出了一種通過識別重要的子圖來解釋GNNs 的方法，即 Subgraph X。給定一個經過訓練的GNN模型和一個輸入圖，Subgraph X 通過蒙特卡洛樹搜索有效地探索不同的子圖來解釋其預測。為了使樹搜索更加有效，論文提出使用 Shapley 值作為子圖重要性的衡量標準，這也可以捕捉到不同子圖之間的相互作用。為了加快計算速度，論文提出了高效的近似方案來計算圖數據的 Shapley 值。該論文是通過識別子圖來解釋 GNN 的第一次嘗試，實驗結果表明，Subgraph X 明顯改善了解釋結果，同時將計算量也相對合理。

先說說為啥要關注圖神經網絡的可解釋性？

現有的 GNN 模型大多被視為黑盒子，其預測結果缺乏可解釋性。如果不理解和推理預測背后的關系，這些模型就不能被人們理解信任，阻礙了它們在關鍵領域的應用，因此研究深度圖模型的可解釋性十分必要。

本文的提出的解釋方法的獨特性在于？

很多文獻在研究圖像和文本上的深度模型的解釋技術方面做了工作，這些方法可以通過不同的策略解釋網絡行為和特定輸入的預測結果。然而，GNN 的可解釋性仍未得到充分的探索。與圖像和文本不同，圖數據不是網格狀的數據，它包含重要的結構信息。因此，圖像和文本領域的方法不能直接應用。目前存在的GNN 解釋方法，如 GNNExplainer、PGExplainer 和 PGM-Explainer，但它都是關注節點、邊或節點特征層面的可解釋性，沒有進行子圖層面的可解釋性研究。本文認為子圖層面的解釋更加直觀和有用，因為子圖是復雜圖的簡單構件，與圖的功能高度相關。

知識圖譜(KG)是一種靈活的結構，能夠描述數據實體之間的復雜關系。目前，大多數KG嵌入模型都是基于負采樣進行訓練的，即模型的目標是最大限度地增加KG內被連接實體的某些相似度，同時最小化被采樣的斷開實體的相似度。負抽樣通過只考慮負實例的子集，降低了模型學習的時間復雜度，這可能會由于抽樣過程的不確定性而無法提供穩定的模型性能。為了避免這一缺陷，我們提出了一種新的KG嵌入高效非采樣知識圖譜嵌入框架(NS-KGE)。其基本思想是在模型學習中考慮KG中的所有負面實例，從而避免負面抽樣。框架可應用于基于平方損失的知識圖譜嵌入模型或其損失可轉換為平方損失的模型。這種非抽樣策略的一個自然副作用是增加了模型學習的計算復雜度。為了解決這一問題，我們利用數學推導來降低非采樣損失函數的復雜度，最終為我們提供了比現有模型更好的KG嵌入效率和精度。在基準數據集上的實驗表明，NS-KGE框架在效率和準確率方面均優于傳統的基于負采樣的模型，該框架適用于大規模知識圖譜嵌入模型。

//www.zhuanzhi.ai/paper/a63903c464665db631cd3167d395a238

異構網絡的表示學習方法為每個節點產生一個低維向量嵌入，通常在所有涉及節點的任務中都是固定的。許多現有的方法關注于以一種與下游應用程序無關的方式獲取節點的靜態向量表示。然而，在實踐中，下游任務(如鏈接預測)需要特定的上下文信息，這些信息可以從與節點相關的子圖中提取出來，作為任務的輸入。為了解決這一挑戰，我們提出了SLiCE，這是一個使用整個圖的全局信息和局部注意驅動機制來學習上下文節點表示的靜態表示學習方法的框架。我們首先通過引入高階語義關聯和屏蔽節點以自監督的方式預訓練我們的模型，然后針對特定的鏈接預測任務微調我們的模型。我們不再通過聚合所有通過元路徑連接的語義鄰居的信息來訓練節點表示，而是自動學習不同元路徑的組合，這些元路徑表征了特定任務的上下文，而不需要任何預先定義的元路徑。SLiCE在幾個公開可用的基準網絡數據集上顯著優于靜態和上下文嵌入學習方法。通過廣泛的評價，我們也證明了上下文學習的可解釋性、有效性和SLiCE的可擴展性。

序列推薦(SR)是根據用戶當前訪問的物品向其準確推薦物品列表。當新用戶不斷地進入現實世界時，一個關鍵的任務是要有歸納SR，它可以在不需要再訓練的情況下產生用戶和物品的嵌入。鑒于用戶-項目交互可能非常稀疏，另一個關鍵任務是擁有可遷移的SR，它可以將從一個具有豐富數據的領域派生的知識遷移到另一個領域。在這項工作中，我們的目標是呈現整體SR，同時適應傳統、歸納和可遷移的設置。我們提出了一種新的基于深度學習的模型——關系時間注意力圖神經網絡(RetaGNN)，用于整體SR。首先，為了具有歸納和可遷移的能力，我們在從用戶-物品對中提取的局部子圖上訓練一個關注關系的GNN，其中可學習權矩陣是關于用戶、物品和屬性之間的各種關系，而不是節點或邊。第二，長期和短期用戶偏好的時間模式被提出的序列自注意機制編碼。第三，為了更好地訓練RetaGNN，設計了一個關系感知的正則化項。在MovieLens、Instagram和Book-Crossing數據集上進行的實驗表明，RetaGNN可以在常規、歸納和可遷移的設置下優于最先進的方法。推導出的注意力權重也為模型帶來了可解釋性。

//www.zhuanzhi.ai/paper/7fd9c00d1088c2875ac0567445b5d604

圖卷積網絡（GCN）因為具備出色的捕捉站點或區域之間非歐式空間依賴性的能力，已廣泛應用于交通需求預測。然而在大多數現有研究中，圖卷積是在基于先驗知識生成的鄰接矩陣上實現的，這樣的鄰接矩陣既不能準確反映站點的實際空間關系，也不能自適應地捕捉需求的多層級空間依賴性。為解決上述問題，這篇論文提出了一種新穎的圖卷積網絡進行交通需求預測。首先，文章中提出了一種新的圖卷積架構，該圖卷積架構在不同的層具有不同的鄰接矩陣，并且所有的鄰接矩陣在訓練過程中都是可以自學習的。其次，文中提出了一種分層耦合機制，該機制將上層鄰接矩陣與下層鄰接矩陣關聯起來。它還減少了模型中參數的規模。最后，構建了一個端到端的網絡，通過將隱藏的空間狀態與門控循環單元集成在一起，給出最終的預測結果，該單元可以同時捕獲多級空間相關性和時間動態。論文提出的模型在兩個真實世界的數據集NYC Citi Bike和NYC Taxi上進行了實驗，結果證明了該模型的優越性能。

//www.zhuanzhi.ai/paper/3996bc72f87617093a55530269f6fdd8

圖神經網絡(GNNs)的快速發展帶來了越來越多的新架構和新應用。目前的研究側重于提出和評估GNNs的具體架構設計，而不是研究GNNs的更一般的設計空間，后者由不同設計維度的笛卡爾積(如層數或聚合函數的類型)組成。此外，GNN設計通常專門針對單個任務，但很少有人努力了解如何快速為新任務或新數據集找到最佳GNN設計。這里我們定義并系統地研究了GNNs的架構設計空間，它包含了超過32種不同的預測任務的315000種不同的設計。我們的方法有三個主要創新:(1)一個通用的GNN設計空間;(2)具有相似度度量的GNN任務空間，這樣對于給定的新任務/數據集，我們可以快速識別/傳輸性能最好的架構;(3)一種高效的設計空間評價方法，可以從大量的模型-任務組合中提取洞察力。我們的主要結果包括:(1)一套設計性能良好的GNN的全面指南;(2)雖然針對不同任務的最佳GNN設計存在顯著差異，但GNN任務空間允許在不同任務之間傳輸最佳設計;(3)利用我們的設計空間發現的模型實現了最先進的性能。總的來說，我們的工作提供了一個原則性和可擴展性的方法，實現了從研究針對特定任務的個體GNN設計到系統地研究GNN設計空間和任務空間的過渡。最后，我們發布了GraphGym，這是一個用于探索不同GNN設計和任務的強大平臺。GraphGym具有模塊化的GNN實現、標準化的GNN評估和可重復和可擴展的實驗管理。

//arxiv.org/abs/2011.08843

題目:

Interpretable and Efficient Heterogeneous Graph Convolutional Network

摘要:

圖卷積網絡(GCN)在學習圖中節點的有效任務特定表示方面取得了非凡的成功。然而，對于異構信息網絡(HIN)，存在面向hin的GCN方法仍然存在兩個不足:(1)不能靈活地探索所有可能的元路徑，并提取出對目標對象最有用的元路徑，這既影響了有效性，也影響了可解釋性; (2)經常需要生成中間的元路徑密集圖，計算復雜度高。為了解決上述問題，我們提出一種可解釋且高效的異構圖卷積網絡(ei-HGCN)來學習HINs中對象的表示。它被設計為一個層次聚合架構。，首先是對象級聚合，然后是類型級聚合。該結構能夠在一定長度范圍內從所有可能的元路徑中為每個對象自動提取出有用的元路徑，具有良好的模型可解釋性。避免了中間HIN轉換和鄰域關注，降低了計算量。在評估所有可能元路徑的有用性、它與HINs上的譜圖卷積的聯系以及它的準線性時間復雜度方面，我們提供了關于ei-HGCN的理論分析。在三個真實網絡數據集上的大量實驗證明了ei-HGCN比現有方法的優越性。