學習動態用戶偏好已經成為許多在線平臺(如視頻分享網站、電子商務系統)進行序列推薦的一個越來越重要的組成部分。以前的工作已經做出了許多努力，基于各種架構，如循環神經網絡和自注意力機制，在用戶交互序列上建模物品-物品的轉換。最近出現的圖神經網絡也可以作為有用的骨干模型來捕獲序列推薦場景中的條目依賴關系。盡管它們很有效，但現有的方法一直專注于具有單一交互類型的商品序列表示，因此局限于捕捉用戶和商品之間的動態異構關系結構(例如，頁面視圖、添加到收藏、購買)。為了應對這一挑戰，我們設計了一個多行為超圖增強的Transformer框架(MBHT)，以捕獲短期和長期的跨類型行為依賴關系。具體地說，一個多尺度的Transformer配備了低級別的自注意力，以便從細粒度和粗粒度級別聯合編碼行為感知的序列模式。此外，我們將全局多行為依賴關系納入超圖神經體系結構，以自定義的方式捕獲分層的長期項目相關性。實驗結果表明，在不同的設置下，我們的MBHT優于各種最先進的推薦解決方案。進一步的消融研究驗證了我們模型設計的有效性和新的MBHT框架的好處。我們的實現代碼發布在://github.com/yuh-yang/MBHT-KDD22。
付費5元查看完整內容
相關內容
Transformer是谷歌發表的論文《Attention Is All You Need》提出一種完全基于Attention的翻譯架構
利用基于Transformer的序列編碼器進行對比學習，在序列推薦方面取得了優勢。它最大化了共享相似語義的成對序列擴充之間的一致性。然而，現有的序列推薦對比學習方法主要以左右單向Transformer為基礎編碼器，由于用戶行為可能不是嚴格的從左到右的順序，因此對于序列推薦來說，這種方法不是最優的。為了解決這個問題，我們提出了一種新的框架，名為對比學習與雙向Transformer序列推薦(CBiT)。具體來說，我們首先在雙向Transformer中對長用戶序列應用滑動窗口技術，它允許對用戶序列進行更細粒度的劃分。然后我們結合完形填空任務掩碼和dropout掩碼生成高質量的正樣本，進行多對對比學習，與普通的一對對比學習相比，表現出更好的性能和適應性。此外，我們還引入了一種新的動態損失加權策略來平衡完形任務損失和對比任務損失。在三個公共基準數據集上的實驗結果表明，我們的模型在序列推薦方面優于最先進的模型。
//www.zhuanzhi.ai/paper/b6f7c83da0550bfea4e27ceaef3b0aed
付費5元查看完整內容
圖神經網絡(GNNs)已被證明是有前途的解決方案的協同過濾(CF)與用戶項交互圖建模。現有的基于GNN的推薦系統的關鍵思路是遞歸地執行沿用戶-項目交互邊緣傳遞的消息，以細化編碼的嵌入。盡管他們的有效性，但是，目前大多數的推薦模型依賴于足夠的和高質量的訓練數據，這樣學習的表示可以很好地捕捉準確的用戶偏好。在許多實際的推薦場景中，用戶行為數據往往是有噪聲的，并且呈現出偏態分布，這可能導致基于GNN的模型的表現性能欠佳。在本文中，我們提出了一種新的自監督超圖transformer 框架(SHT)，它通過明確地探索全局協作關系來增強用戶表示。具體來說，我們首先賦予圖神經CF范式以超圖transformer 網絡來維持用戶和物品之間的全局協同效果。在提取全局上下文的基礎上，提出了一種跨視圖生成式自監督學習組件，用于用戶-物品交互圖上的數據增強，以增強推薦系統的魯棒性。大量實驗表明，SHT可以顯著提高各種最先進的基線性能。進一步的消融研究表明，我們的SHT推薦框架在緩解數據稀疏性和噪聲問題方面具有卓越的表達能力。源代碼和評估數據集可以在//github.com/akaxlh/SHT上找到。
付費5元查看完整內容
在推薦系統中，當用戶-物品交互數據稀疏時，常用社會關系來提高推薦質量。大多數現有的社交推薦模型都是利用成對關系來挖掘潛在的用戶偏好。然而，現實生活中用戶之間的互動非常復雜，用戶關系可以是高階的。超圖提供了一種自然的方式來建模復雜的高階關系，而它在改善社會推薦方面的潛力還有待開發。在本文中，我們填補了這一空白，提出了一種利用高階用戶關系增強社交推薦的多通道超圖卷積網絡。技術上，網絡中的每個通道通過超圖卷積編碼一個描述常見高階用戶關系模式的超圖。通過聚合通過多種渠道學習到的嵌入，我們獲得了全面的用戶表示，從而產生推薦結果。然而，聚合操作也可能掩蓋不同類型高階連接信息的固有特征。為了彌補累積損失，我們創新性地將自監督學習融入到超圖卷積網絡的訓練中，以獲取具有層次互信息最大化的連通信息。在多個真實數據集上的實驗結果表明，該模型優于SOTA方法，消融研究驗證了多通道設置和自監督任務的有效性。我們的模型的實現可以通過//github.com/Coder-Yu/RecQ獲得。
付費5元查看完整內容
序列推薦(SR)是根據用戶當前訪問的物品向其準確推薦物品列表。當新用戶不斷地進入現實世界時，一個關鍵的任務是要有歸納SR，它可以在不需要再訓練的情況下產生用戶和物品的嵌入。鑒于用戶-項目交互可能非常稀疏，另一個關鍵任務是擁有可遷移的SR，它可以將從一個具有豐富數據的領域派生的知識遷移到另一個領域。在這項工作中，我們的目標是呈現整體SR，同時適應傳統、歸納和可遷移的設置。我們提出了一種新的基于深度學習的模型——關系時間注意力圖神經網絡(RetaGNN)，用于整體SR。首先，為了具有歸納和可遷移的能力，我們在從用戶-物品對中提取的局部子圖上訓練一個關注關系的GNN，其中可學習權矩陣是關于用戶、物品和屬性之間的各種關系，而不是節點或邊。第二，長期和短期用戶偏好的時間模式被提出的序列自注意機制編碼。第三，為了更好地訓練RetaGNN，設計了一個關系感知的正則化項。在MovieLens、Instagram和Book-Crossing數據集上進行的實驗表明，RetaGNN可以在常規、歸納和可遷移的設置下優于最先進的方法。推導出的注意力權重也為模型帶來了可解釋性。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191