亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

知識圖譜(KG)是一種靈活的結構，能夠描述數據實體之間的復雜關系。目前，大多數KG嵌入模型都是基于負采樣進行訓練的，即模型的目標是最大限度地增加KG內被連接實體的某些相似度，同時最小化被采樣的斷開實體的相似度。負抽樣通過只考慮負實例的子集，降低了模型學習的時間復雜度，這可能會由于抽樣過程的不確定性而無法提供穩定的模型性能。為了避免這一缺陷，我們提出了一種新的KG嵌入高效非采樣知識圖譜嵌入框架(NS-KGE)。其基本思想是在模型學習中考慮KG中的所有負面實例，從而避免負面抽樣。框架可應用于基于平方損失的知識圖譜嵌入模型或其損失可轉換為平方損失的模型。這種非抽樣策略的一個自然副作用是增加了模型學習的計算復雜度。為了解決這一問題，我們利用數學推導來降低非采樣損失函數的復雜度，最終為我們提供了比現有模型更好的KG嵌入效率和精度。在基準數據集上的實驗表明，NS-KGE框架在效率和準確率方面均優于傳統的基于負采樣的模型，該框架適用于大規模知識圖譜嵌入模型。

//www.zhuanzhi.ai/paper/a63903c464665db631cd3167d395a238

知識圖譜(KGs)是一些真實應用中普遍存在的信息存儲結構，如web搜索、電子商務、社交網絡和生物學。由于KGs的規模和復雜性，查詢KGs仍然是一個基礎性和挑戰性的問題。有希望解決這個問題的方法包括在歐幾里得空間中嵌入KG單位(如實體和關系)，這樣嵌入的查詢就包含了與其結果相關的信息。然而，這些方法不能捕獲圖中實體的層次性質和語義信息。此外，這些方法大多只利用多跳查詢(可以通過簡單的翻譯操作建模)來學習嵌入，并忽略更復雜的操作，如交集和更簡單查詢的并集。

為了解決這些復雜的操作，在本文中，我們將KG表示學習表述為一個自我監督的邏輯查詢推理問題，利用KGs上的翻譯、交叉和并查詢。我們提出了一種新的自我監督動態推理框架——雙曲面嵌入(HypE)，它利用KG上的一階正存在查詢來學習其實體和關系在Poincaré球中的雙曲面表示。HypE將正面的一階查詢建模為幾何平移、交叉和合并。對于真實數據集中的KG推理問題，所提出的HypE模型顯著優于最先進的結果。我們還將HypE應用于一個流行的電子商務網站產品分類的異常檢測任務，以及分層組織的web文章，并演示了與現有的基線方法相比，顯著的性能改進。最后，我們還將學習到的HypE embeddings可視化在Poincaré球中，以清楚地解釋和理解表征空間。

隨著深度學習的成功，基于圖神經網絡（GNN）的方法[8，12，30]已經證明了它們在分類節點標簽方面的有效性。大多數GNN模型采用消息傳遞策略[7]：每個節點從其鄰域聚合特征，然后將具有非線性激活的分層映射函數應用于聚合信息。這樣，GNN可以在其模型中利用圖結構和節點特征信息。

然而，這些神經模型的預測缺乏透明性，人們難以理解[36]，而這對于與安全和道德相關的關鍵決策應用至關重要[5]。此外，圖拓撲、節點特征和映射矩陣的耦合導致復雜的預測機制，無法充分利用數據中的先驗知識。例如，已有研究表明，標簽傳播法采用上述同質性假設來表示的基于結構的先驗，在圖卷積網絡（GCN）[12]中沒有充分使用[15,31]。

作為證據，最近的研究提出通過添加正則化[31]或操縱圖過濾器[15，25]將標簽傳播機制納入GCN。他們的實驗結果表明，通過強調這種基于結構的先驗知識可以改善GCN。然而，這些方法具有三個主要缺點：（1）其模型的主體仍然是GNN，并阻止它們進行更可解釋的預測；（2）它們是單一模型而不是框架，因此與其他高級GNN架構不兼容；（3）他們忽略了另一個重要的先驗知識，即基于特征的先驗知識，這意味著節點的標簽完全由其自身的特征確定。

為了解決這些問題，我們提出了一個有效的知識蒸餾框架，以將任意預訓練的GNN教師模型的知識注入精心設計的學生模型中。學生模型是通過兩個簡單的預測機制構建的，即標簽傳播和特征轉換，它們自然分別保留了基于結構和基于特征的先驗知識。具體來說，我們將學生模型設計為參數化標簽傳播和基于特征的2層感知機（MLP）的可訓練組合。另一方面，已有研究表明，教師模型的知識在于其軟預測[9]。通過模擬教師模型預測的軟標簽，我們的學生模型能夠進一步利用預訓練的GNN中的知識。因此，學習的學生模型具有更可解釋的預測過程，并且可以利用GNN和基于結構/特征的先驗知識。我們的框架概述如圖1所示。 圖片

圖1：我們的知識蒸餾框架的示意圖。學生模型的兩種簡單預測機制可確保充分利用基于結構/功能的先驗知識。在知識蒸餾過程中，將提取GNN教師中的知識并將其注入學生。因此，學生可以超越其相應的老師，得到更有效和可解釋的預測。

我們在五個公共基準數據集上進行了實驗，并采用了幾種流行的GNN模型，包括GCN[12]、GAT[30]、SAGE[8]、APPNP[13]、SGC[33]和最新的深層GCN模型GCNII[4]作為教師模型。實驗結果表明，就分類精度而言，學生模型的表現優于其相應的教師模型1.4％-4.7％。值得注意的是，我們也將框架應用于GLP[15]，它通過操縱圖過濾器來統一GCN和標簽傳播。結果，我們仍然可以獲得1.5％-2.3％的相對改進，這表明了我們框架的潛在兼容性。此外，我們通過探究參數化標簽傳播與特征轉換之間的可學習平衡參數以及標簽傳播中每個節點的可學習置信度得分，來研究學生模型的可解釋性。總而言之，改進是一致，并且更重要的是，它具有更好的可解釋性。

本文的貢獻總結如下：

• 我們提出了一個有效的知識蒸餾框架，以提取任意預訓練的GNN模型的知識，并將其注入學生模型，以實現更有效和可解釋的預測。
• 我們將學生模型設計為參數化標簽傳播和基于特征的兩層MLP的可訓練組合。因此，學生模型有一個更可解釋的預測過程，并自然地保留了基于結構/特征的先驗。因此，學習的學生模型可以同時利用GNN和先驗知識。
• 五個基準數據集和七個GNN教師模型上的實驗結果表明了我們的框架有效性。對學生模型中學習權重的廣泛研究也說明了我們方法的可解釋性。

點擊率(CTR)預測在推薦系統和在線廣告中起著至關重要的作用。這些應用程序中使用的數據是多字段類別數據，其中每個特征屬于一個字段。字段信息被證明是重要的，在他們的模型中有一些考慮字段的工作。在本文中，我們提出了一種新的方法來有效和高效地建模場信息。該方法是對FwFM的直接改進，被稱為場矩陣分解機(FmFM，或FM2)。在FmFM框架下，我們對FM和FwFM提出了新的解釋，并與FFM進行了比較。除了對交叉項進行修剪外，我們的模型還支持特定領域的可變維度的嵌入向量，這是一種軟修剪。在保持模型性能的同時，我們還提出了一種有效的最小化維數的方法。FmFM模型還可以通過緩存中間向量來進一步優化，它只需要數千次浮點運算(FLOPs)就可以做出預測。實驗結果表明，該算法的性能優于復雜的FFM算法。FmFM模型的性能也可以與DNN模型相媲美，DNN模型在運行時需要更多FLOPs 。

//www.zhuanzhi.ai/paper/39df3ac3e3acb641f86294a4d6acb39f

分類法是一種層次結構的知識圖譜，在機器智能中起著至關重要的作用。分類法擴展任務旨在為現有分類法中的新術語找到一個位置，以捕獲世界上正在出現的知識，并保持分類法的動態更新。以往的分類法擴展解決方案忽略了層次結構所帶來的有價值的信息，只評估了增加的一條邊的正確性，從而將問題降級為節點對評分或小路徑分類。在本文中，我們提出了層次擴展框架(HEF)，充分利用層次結構的特性，最大限度地提高擴展分類的一致性。HEF在多個方面利用了分類法的層次結構: (i) HEF利用包含相關節點最多的子樹作為自監督數據，對親兄弟關系進行完整的比較; (ii) HEF采用一致性建模模塊，通過整合hypernymy關系檢測和多個樹獨占特征來評估分類子樹的一致性; iii) HEF引入了位置選擇的擬合得分，明確評價路徑選擇和水平選擇，并充分利用親代關系交換信息進行消歧和自我修正。大量的實驗表明，通過更好地利用層次結構和優化分類法的一致性，HEF在三個基準數據集上的準確率平均提高了46.7%，平均倒數排名提高了32.3%。

//www.zhuanzhi.ai/paper/adeba9959c7b75259d5b83a0e99d79e2

藥物相互作用預測是醫療保健機器學習領域的一項重要任務。在本文中，我們提出了一種全新的框架，利用多視角圖對比表示學習來完成藥物相互作用預測。我們不僅關注藥物分子圖，還關注藥物交互關系圖，從多個視角來建模藥物相互作用關系。針對藥物分子圖，我們使用基于化學鍵的消息傳遞機制來聚合信息和基于注意力機制的圖池化層來提取低層藥物分子表示；針對藥物交互關系圖和得到的低層藥物分子表示，我們使用圖卷積編碼器來聚合兩部分信息。此外，我們還提出了一種新穎的圖對比學習組件來平衡兩個視角中包含的信息。在真實數據集上進行的綜合性實驗表明我們的方法優于當前的其他方法。

//www.zhuanzhi.ai/paper/60e34925ef83710eaad29b0e40d124c9

情感在發現網絡虛假新聞中扮演著重要的角色。在利用情感信號時，現有的方法主要是利用發布者所傳達的新聞內容的情感(即發布者情感)。然而，虛假新聞往往是為了喚起人們的高喚醒或激活人們的情緒，像病毒一樣傳播，因此，新聞評論引起的群眾情緒(即社會情緒)是不可忽視的。此外，還需要探索出版者情緒與社會情緒(即雙重情緒)之間是否存在關系，以及雙重情緒如何在假新聞中出現。在本文中，我們提出了雙重情感特征來挖掘雙重情感及其之間的關系，用于虛假新聞的檢測。我們設計了一個通用的范例，將它插入到任何現有的檢測器作為增強。在三個真實數據集上的實驗結果表明了該特征的有效性。

//www.zhuanzhi.ai/paper/acb14d78d2e77317043f18024f4c748c

屬性網絡嵌入的目的是結合網絡的拓撲結構和節點屬性學習低維節點表示。現有的大多數方法要么通過網絡結構傳播屬性，要么通過編碼-解碼器框架學習節點表示。然而，基于傳播的方法傾向于選擇網絡結構而不是節點屬性，而編碼-解碼器方法傾向于忽略近鄰之外的長連接。為了解決這些限制，同時得到這兩個方面的優點，我們設計了交叉融合層的無監督屬性網絡嵌入。具體來說，我們首先構建兩個獨立的視圖來處理網絡結構和節點屬性，然后設計跨融合層來實現兩視圖之間靈活的信息交換和集成。交叉融合層的關鍵設計目標有三方面:1)允許關鍵信息沿著網絡結構傳播;2)在傳播過程中對每個節點的局部鄰域進行異構編碼;3)加入額外的節點屬性通道，使屬性信息不被結構視圖所掩蓋。在三個數據集和三個下游任務上的大量實驗證明了該方法的有效性。

//cs.nju.edu.cn/yuanyao/static/wsdm2021.pdf

對于來自開源社會傳感器的多種類型并發事件及其相關參與者進行建模是許多領域(如醫療保健、救災和金融分析)的一項重要任務。預測未來的事件可以幫助人類分析師更好地理解全球社會動態，并做出快速而準確的決策。預期參與這些活動的參與者或參與者還可以幫助涉眾更好地響應意外事件。然而，由于以下幾個因素，實現這些目標是具有挑戰性的:(i)難以從大規模輸入中過濾出相關信息，(ii)輸入數據通常為高維非結構化和Non-IID(非獨立同分布)，(iii)相關的文本特征是動態的，隨時間而變化。最近，圖神經網絡在學習復雜和關系數據方面表現出了優勢。本文研究了一種基于異構數據融合的時間圖學習方法，用于預測多類型并發事件并同時推斷多個候選參與者。為了從歷史數據中獲取時間信息，我們提出了一種基于事件知識圖的圖學習框架Glean，它結合了關系和單詞上下文。我們提出了一個上下文感知的嵌入融合模塊來豐富事件參與者的隱藏特性。我們在多個真實數據集上進行了廣泛的實驗，結果表明，所提出的方法在社會事件預測方面與各種先進的方法相比具有競爭力，而且還提供了急需的解釋能力。

在現實世界中，異構網絡似乎無處不在。然而，大多數圖挖掘方法，如聚類，主要關注同構圖，而忽略了現實系統中的語義信息。此外，大多數方法都是基于一階連通性模式(邊)的，盡管高階連通性模式對于理解這種網絡的結構和組織非常重要。在這項工作中，我們提出了一個異質網絡高階譜聚類的框架。該方法構建的集群可以保持由類型化圖構建的高階結構的連通性。該方法是對以往高階譜聚類研究工作的總結。我們從理論上證明了一些重要的結果，它顯示了該方法的接近最優邊界。理論結果大大簡化了以往的工作，同時為分析高階譜方法提供了統一的理論框架。經驗上，我們證明了該框架的有效性，定量為三個重要的應用，包括聚類，壓縮，和鏈接預測。