在推薦系統中，當用戶-物品交互數據稀疏時，常用社會關系來提高推薦質量。大多數現有的社交推薦模型都是利用成對關系來挖掘潛在的用戶偏好。然而，現實生活中用戶之間的互動非常復雜，用戶關系可以是高階的。超圖提供了一種自然的方式來建模復雜的高階關系，而它在改善社會推薦方面的潛力還有待開發。在本文中，我們填補了這一空白，提出了一種利用高階用戶關系增強社交推薦的多通道超圖卷積網絡。技術上，網絡中的每個通道通過超圖卷積編碼一個描述常見高階用戶關系模式的超圖。通過聚合通過多種渠道學習到的嵌入，我們獲得了全面的用戶表示，從而產生推薦結果。然而，聚合操作也可能掩蓋不同類型高階連接信息的固有特征。為了彌補累積損失，我們創新性地將自監督學習融入到超圖卷積網絡的訓練中，以獲取具有層次互信息最大化的連通信息。在多個真實數據集上的實驗結果表明，該模型優于SOTA方法，消融研究驗證了多通道設置和自監督任務的有效性。我們的模型的實現可以通過//github.com/Coder-Yu/RecQ獲得。
付費5元查看完整內容
相關內容
題目： Lorentzian Graph Convolutional Networks 會議： WWW 2021
圖卷積神經網絡（GCN）最近受到了大量研究者的關注。大多數GCN使用歐幾里得幾何學習節點的特征表示，但是對于具有無標度或層次結構的圖，歐幾里得幾何可能會產生較高的失真。近來，一些GCN使用非歐幾里得幾何，例如雙曲幾何，解決以上問題。盡管雙曲GCN展示了其性能，但是現有的雙曲圖操作實際上不能嚴格遵循雙曲幾何，這可能會限制雙曲幾何的能力，從而損害雙曲GCN的性能。 在本文中，我們提出了一種新穎的洛倫茲圖卷積網絡（LGCN），它在雙曲空間的雙曲面模型上設計了統一的圖操作框架。從該框架派生出嚴格的雙曲圖操作，包括特征變換和非線性激活，以確保變換后的節點特征遵循雙曲幾何。此外，基于洛倫茲距離的質心，我們提出了一種優雅的雙曲鄰居聚合方式，以確保被聚合的節點特征滿足數學意義。并且，我們從理論上證明了一些提出的操作等同于在另一類雙曲幾何中的定義，表明所提出的方法填補了雙曲面模型缺乏嚴謹的圖操作的空白。
付費5元查看完整內容
現有的協同過濾(CF)方法大多是基于匹配的思想設計的，即通過使用淺層或深層模型從數據中學習用戶和項目嵌入，試圖捕獲數據中的關聯關聯模式，這樣用戶嵌入就可以通過設計或學習的相似函數與相關的物品嵌入相匹配。然而，推薦作為一種認知而非感知智能任務，不僅需要從數據中進行模式識別和匹配的能力，還需要對數據進行認知推理的能力。在本文中，我們將協同過濾(CF)提升為協同推理(CR)，即每個用戶知道推理空間的一部分，并在空間中協作進行推理，以估計彼此的偏好。在技術上，我們提出了一個神經協作推理(NCR)框架來連接學習和推理。具體來說，我們整合了表示學習和邏輯推理的能力，其中表示從感知的角度捕捉數據中的相似模式，而邏輯促進了知情決策的認知推理。然而，一個重要的挑戰是在一個共享的體系結構中架起可微分神經網絡和符號推理的橋梁，以進行優化和推理。為解決這一問題，我們提出了一種模塊化的推理體系結構，將AND(∧)、OR(∨)、NOT(?)等邏輯運算學習為蘊涵推理(→)的神經模塊。這樣，邏輯表達式就可以等效地組織成神經網絡，從而在連續空間中進行邏輯推理和預測。與淺層、深層和推理模型相比，在真實數據集上的實驗驗證了我們的框架的優勢。
付費5元查看完整內容
近年來，圍繞著圖卷積網絡(GCN)這一主題的文獻大量涌現。如何有效地利用復雜圖(如具有異構實體和關系類型的知識圖譜)中豐富的結構信息是該領域面臨的主要挑戰。大多數GCN方法要么局限于具有同質邊類型的圖(例如，僅引用鏈接)，要么只專注于節點的表示學習，而不是針對目標驅動的目標共同傳播和更新節點和邊的嵌入。本文提出了一種新的框架，即基于知識嵌入的圖卷積網絡(KE-GCN)，該框架結合了基于圖的信念傳播中知識嵌入的能力和高級知識嵌入(又稱知識圖嵌入)方法的優勢，從而解決了這些局限性。我們的理論分析表明，KE-GCN作為具體案例提供了幾種著名的GCN方法的優雅統一，并提供了圖卷積的新視角。在基準數據集上的實驗結果表明，與強基線方法相比，KE-GCN方法在知識圖譜對齊和實體分類等任務中具有明顯的優勢。
付費5元查看完整內容
近年來，人們致力于提高推薦系統的準確性和相關性。多樣性是衡量所推薦項目之間差異的一個關鍵因素，但很少受到仔細研究。與用戶滿意度直接相關的是，在生成候選條目后，多樣化通常被考慮在內。然而，這種多樣化和候選生成的解耦設計使得整個系統處于次優狀態。在本文中，我們的目標是利用圖卷積網絡(GCN)將多元化推至上游候選生成階段。盡管基于GCN的推薦算法在建模復雜的協同過濾效果以提高推薦的準確性方面表現出了巨大的能力，但在這些先進的工作中，多樣性變化是如何被忽略的。我們提出在GCN的基礎上執行重新平衡的鄰居發現、類別增強的負采樣和對抗學習。我們在真實世界的數據集上進行大量的實驗。實驗結果驗證了本文方法的有效性。進一步的消融研究驗證了我們提出的方法顯著緩解了準確性-多樣性的困境。
//fi.ee.tsinghua.edu.cn/public/publications/b344fd48-92b0-11eb-96bc-0242ac120003.pdf
付費5元查看完整內容
知識圖譜(KGs)是一些真實應用中普遍存在的信息存儲結構，如web搜索、電子商務、社交網絡和生物學。由于KGs的規模和復雜性，查詢KGs仍然是一個基礎性和挑戰性的問題。有希望解決這個問題的方法包括在歐幾里得空間中嵌入KG單位(如實體和關系)，這樣嵌入的查詢就包含了與其結果相關的信息。然而，這些方法不能捕獲圖中實體的層次性質和語義信息。此外，這些方法大多只利用多跳查詢(可以通過簡單的翻譯操作建模)來學習嵌入，并忽略更復雜的操作，如交集和更簡單查詢的并集。
為了解決這些復雜的操作，在本文中，我們將KG表示學習表述為一個自我監督的邏輯查詢推理問題，利用KGs上的翻譯、交叉和并查詢。我們提出了一種新的自我監督動態推理框架——雙曲面嵌入(HypE)，它利用KG上的一階正存在查詢來學習其實體和關系在Poincaré球中的雙曲面表示。HypE將正面的一階查詢建模為幾何平移、交叉和合并。對于真實數據集中的KG推理問題，所提出的HypE模型顯著優于最先進的結果。我們還將HypE應用于一個流行的電子商務網站產品分類的異常檢測任務，以及分層組織的web文章，并演示了與現有的基線方法相比，顯著的性能改進。最后，我們還將學習到的HypE embeddings可視化在Poincaré球中，以清楚地解釋和理解表征空間。
付費5元查看完整內容
雙曲空間提供了豐富的設置來學習具有優越屬性的嵌入，這些屬性在計算機視覺、自然語言處理和計算生物學等領域得到了利用。最近，有人提出了幾種雙曲線方法來學習推薦設置中的用戶和項目的魯棒表示。但是，這些方法不能捕獲推薦領域中通常存在的高階關系。另一方面，圖卷積神經網絡(GCNs)則擅長通過對局部表示應用多層聚合來捕獲更高階的信息。在本文中，我們提出了一個用于協同過濾的雙曲線GCN模型，以一種新穎的方式將這些框架結合起來。我們證明了我們的模型可以在邊緣損失的情況下有效學習，并證明了雙曲空間在邊緣設置下具有理想的性質。在測試時，我們的模型使用雙曲距離來進行推理，雙曲距離保留了學習空間的結構。我們對三個公共基準進行了廣泛的實證分析，并與一組大型基線進行比較。我們的方法實現了非常具有競爭力的結果，并超過領先的基線，包括歐幾里德GCN對等物。我們進一步研究了雙曲線嵌入的性質，并表明它們對數據提供了有意義的見解。該工作的完整代碼可以在這里://github.com/layer6ai-labs/HGCF。
付費5元查看完整內容
點擊率(CTR)預測在推薦系統和在線廣告中起著至關重要的作用。這些應用程序中使用的數據是多字段類別數據，其中每個特征屬于一個字段。字段信息被證明是重要的，在他們的模型中有一些考慮字段的工作。在本文中，我們提出了一種新的方法來有效和高效地建模場信息。該方法是對FwFM的直接改進，被稱為場矩陣分解機(FmFM，或FM2)。在FmFM框架下，我們對FM和FwFM提出了新的解釋，并與FFM進行了比較。除了對交叉項進行修剪外，我們的模型還支持特定領域的可變維度的嵌入向量，這是一種軟修剪。在保持模型性能的同時，我們還提出了一種有效的最小化維數的方法。FmFM模型還可以通過緩存中間向量來進一步優化，它只需要數千次浮點運算(FLOPs)就可以做出預測。實驗結果表明，該算法的性能優于復雜的FFM算法。FmFM模型的性能也可以與DNN模型相媲美，DNN模型在運行時需要更多FLOPs 。
//www.zhuanzhi.ai/paper/39df3ac3e3acb641f86294a4d6acb39f
付費5元查看完整內容
圖卷積網絡(GCNs)在推薦方面表現出巨大的潛力。這歸功于他們通過利用來自高階鄰居的協作信號來學習良好的用戶和項目嵌入的能力。與其他GCN模型一樣，基于GCN的推薦模型也存在著臭名昭著的過平滑問題——當疊加更多層時，節點嵌入變得更加相似，最終無法區分，導致性能下降。最近提出的LightGCN和LR-GCN在一定程度上緩解了這一問題，但是我們認為他們忽略了推薦中出現過平滑問題的一個重要因素，即在圖卷積操作中，用戶的嵌入學習也可以涉及到與用戶沒有共同興趣的高階鄰域用戶。因此，多層圖卷積會使不同興趣的用戶具有相似的嵌入性。在本文中，我們提出了一種新的興趣感知消息傳遞GCN (IMP-GCN)推薦模型，該模型在子圖中進行高階圖卷積。子圖由具有相似興趣的用戶及其交互項組成。為了形成子圖，我們設計了一個無監督的子圖生成模塊，該模塊利用用戶特征和圖結構來有效識別具有共同興趣的用戶。為此，我們的模型可以避免將高階鄰域的負面信息傳播到嵌入學習中。在三個大規模基準數據集上的實驗結果表明，我們的模型可以通過疊加更多的層來獲得性能的提高，顯著優于目前最先進的基于GCN的推薦模型。
付費5元查看完整內容
圖神經網絡具有很強的圖表示學習能力，在各種實際應用中取得了巨大的成功。GNN通過聚集和轉換節點鄰域內的信息來探索圖的結構和節點特征。但是，通過理論和實證分析，我們發現GNN的聚集過程會破壞原始特征空間中的節點相似性。在許多場景中，節點相似性起著關鍵作用。因此，本文提出的SimP-GCN框架可以在利用圖結構的同時有效地保持節點相似性。具體地說，為了平衡圖結構和節點特征信息，我們提出了一種自適應地集成圖結構和節點特征的特征相似性保持聚合。此外，我們使用自監督學習來顯式地捕捉復雜特征之間的相似性和差異性關系。在包括3個同選型圖和4個異選型圖的7個基準數據集上驗證了SimP-GCN的有效性。結果表明SimP-GCN優于代表性基線。進一步的研究顯示了所提議的框架的各種優點。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191