亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

為了研究像Stack Overflow這樣的社區問答(CQA)平臺，人們提出了各種數據挖掘任務。這些任務之間的相關性通過多任務學習(MTL)為彼此提供了有用的學習信號。然而，由于這些任務的高度異質性，很少有現有的工作能夠在一個統一的框架中共同解決它們。為了解決這一難題，我們開發了一種基于多關系圖的MTL模型——異構多任務圖同構網絡(Heterogeneous Multi-Task graph Isomorphism Network, HMTGIN)，該模型有效地解決了異構CQA任務。在每次訓練前向傳遞中，HMTGIN通過圖同構網絡的擴展和跳躍連接嵌入輸入的CQA論壇圖。嵌入然后在所有特定任務的輸出層共享，以計算各自的損失。此外，利用兩個基于任務關系領域知識的跨任務約束對聯合學習進行正則化。在評估中，嵌入在不同的任務特定的輸出層之間共享，以做出相應的預測。據我們所知，HMTGIN是第一個能夠從多關系圖的角度處理CQA任務的MTL模型。為了評估HMTGIN的有效性，我們從Stack Overflow中構建了一個具有200多萬個節點的大規模多關系圖CQA數據集。大量實驗表明: (1) HMTGIN在5個任務上優于所有基線; (2) 提出的MTL策略和跨任務約束具有顯著優勢。

//arxiv.org/abs/2110.02059

論文題目：Contrastive Learning of User Behavior Sequence for Context-Aware Document Ranking

作者：朱余韜，聶建云，竇志成，馬正一，張鑫宇，杜潘，左笑晨，蔣昊

通訊作者：竇志成

論文概述：搜索會話中的上下文信息已被證明有益于捕捉用戶搜索意圖。現有研究以不同方式探索會話中的用戶行為序列，以增強查詢建議或文檔排序。然而，用戶行為序列往往被視為反映用戶行為的明確而準確的信號。實際上，用戶對同一意圖的查詢可能會有所不同，并且可能會點擊不同的文檔。為了學習更穩健的用戶行為序列表示，我們提出了一種基于對比學習的方法，該方法考慮了用戶行為序列的可能變化。具體來說，我們提出了三種數據增強策略來生成用戶行為序列的相似變體，并將它們與其他序列進行對比。這樣做時，模型被迫在可能的變化方面更加穩健。優化的序列表示被合并到文檔排序中。在兩個真實查詢日志數據集上的實驗表明，我們提出的模型顯著優于最先進的方法，這證明了我們的方法在上下文感知文檔排名方面的有效性。

//www.zhuanzhi.ai/paper/a18efc45c7adc2a0fdf2448a7cbb6b88

個性化搜索的關鍵是基于歷史行為構建用戶畫像。針對缺乏歷史數據的用戶，基于組的個性化模型被提出，這些方法在對結果重排時，將相似用戶的畫像考慮在內。然而，現有的尋找相似的用戶的方法大多簡單地基于搜索行為中詞匯或主題的相似性。本文提出了一種基于神經網絡的增強方法，在語義空間中突出相似用戶的作用。此外，我們認為，當用戶只包含有限的歷史行為時，基于行為的相似用戶仍然不足以幫助用戶理解新的查詢。為了解決這個問題，我們將朋友網絡引入個性化搜索中，以另一種方式確定用戶之間的親密度關系。由于朋友關系往往是基于相似的背景或興趣而形成的，所以在朋友網絡中自然隱藏著大量個性化的信息。在搜索行為和朋友關系的融合下，相似用戶在基于組的個性化搜索中更為可靠地得到了強化。具體來說，我們分別針對用戶的搜索行為和朋友關系將其劃分到多個朋友圈。這兩種朋友圈是互補的，從而構建一個更全面的群體畫像來實現搜索結果個性化。實驗結果表明，與現有個性化模型相比，本文提出的模型有了顯著的提升。

//playbigdata.ruc.edu.cn/dou/publication/2021_SIGIR_FriendGraph.pdf

圖神經網絡(GNNs)最近在圖學習方面取得了重大進展。盡管GNN具有豐富的表示能力，但對于大規模的社會建模應用來說，GNN的開發仍然相對不足。在線社交平臺中普遍存在的一種應用是好友推薦:平臺向用戶推薦其他候選用戶，以提高用戶的聯系性、留存率和參與度。然而，在大型社交平臺上建模這樣的用戶-用戶互動帶來了獨特的挑戰: 這些圖表通常有重尾度分布，其中很大一部分用戶是不活躍的，并且結構和參與信息有限。此外，用戶與不同的功能進行交互，與不同的組進行交流，并具有多方面的交互模式。我們研究了用于好友推薦的GNN應用，就我們所知，為這項任務提供了GNN設計的首次研究。為了充分利用平臺內異構用戶行為的豐富知識，我們將好友推薦設計為具有多模式用戶特征和鏈接傳播特征的多層面好友排名。我們提出了一個神經結構，GraFRank，它是精心設計的，從多種用戶特征形態和用戶-用戶交互中學習表達用戶表示。具體而言，GraFRank通過模態特定的鄰居聚合器處理模態同質性的異質性，并通過交叉模態關注學習非線性模態相關性。我們在兩個數百萬用戶的社交網絡數據集上進行了實驗，這些數據集來自領先和廣泛流行的移動社交平臺Snapchat，在候選檢索(30%的MRR)和排名(20%的MRR)任務上，GraFRank的表現優于一些最先進的方法。此外，我們的定性分析表明，低活躍度和低級別用戶的關鍵人群獲得了顯著收益。

社會化推薦（英文：Social Recommendation）旨在利用線上社交平臺提供的用戶間社交關系（social relation）來提升推薦系統的推薦性能。利用用戶之間的社交關系不僅可以獲取好友的偏好信息來幫助建模用戶的興趣偏好，也可以幫助商品曝光給用戶的好友來吸引更多的潛在消費者。

為了在推薦系統中利用好社交關系的信息，現有的社會化推薦工作在不同方面做出了嘗試：典型的矩陣分解方法[1,2,3,4]假設具有社交關系的用戶也有著相似的偏好表述（即社會同質性理論）。因此，它們基于社會關系設計了一種社會化正則項來限制用戶偏好表示的學習。此外，一些其它方法[5,6]假設具有社交關系的人們會互相影響彼此的行為（即社會影響力理論），這些方法將好友對當前候選商品的意見也納入到模型的學習中來對用戶偏好進行建模。

盡管已有方法已經取得了很多性能上的提升，但是它們并沒有充分地利用社交網絡信息。首先，在對用戶偏好進行建模時，一些方法是直接聚合好友信息，而忽略了特定的推薦上下文下的好友信息和用戶興趣（用戶歷史行為中和候選商品相關的信息），這會導致模型從好友信息中聚合出很多噪音。而一些其他方法會將當前候選商品視為上下文，來建模上下文感知的好友信息及用戶興趣（如圖1左上所示）。但是，只考慮候選商品的淺層上下文會導致提取出的相關信息存在一定的偏差，即只能獲得有限的好友信息和用戶興趣。實際上，在用戶和好友的歷史行為中，不僅是與當前候選商品相關的信息可以反映用戶的興趣，考慮與候選項相似商品的相關信息能夠挖掘出更豐富的用戶潛在興趣（如圖1左下所示）。

圖1: 深層上下文感知的雙側調制

此外，商品的交互歷史中與目標用戶相關的信息也反映了商品對用戶的吸引力。很少有社會化推薦工作[7]根據目標用戶來建模商品吸引力。而已有的工作只考慮目標用戶作為淺層上下文，也會導致建模到有限的項目吸引力（如圖1右上所示）。實際上，如果該商品的歷史消費者是目標用戶的好友，或者與目標用戶有類似的消費習慣，則該商品可能對目標用戶更具吸引力（如圖1右下所示）。因此，通過考慮用戶之間的社交關系和相似關系將有助于從商品的交互歷史中建模出更豐富的吸引力信息。

盡管在挖掘交互歷史信息中利用社會關系和相似關系具有巨大潛力，但仍然存在一些重大挑戰。首先，高階社會關系和相似關系很復雜，很難提取高階的鄰居信息來建模不同關系下的用戶偏好表示和商品屬性表示。其次，基于高階關系增強的上下文表示來從交互歷史中建模用戶興趣和商品吸引力并不簡單，需要過濾更多的噪音。為了解決上述挑戰，本文提出了DICER(Dual SIde Deep Context-awarEModulation for Social Recommendation) 模型，其結合了圖神經網絡來建模用戶和商品在不同關系下的高階鄰居信息，并基于高階關系增強的深度上下文從交互歷史中建模了用戶興趣和商品吸引力。

論文鏈接：

//www.ijcai.org/Proceedings/2020/0379.pdf

簡介：現實世界中集成的個性化推薦系統通常處理數百萬種異構項目。由于巨大的計算成本，使用復雜的模型進行完整的語料庫檢索非常具有挑戰性。因此，大多數大型推薦系統由兩個模塊組成：一個用于有效檢索一小部分候選人的多渠道匹配模塊，以及一個用于精確個性化推薦的排名模塊。但是，在添加新通道或新數據源時，多通道匹配通常會遇到冷啟動問題。為解決此問題，我們提出了一種新穎的內部和上下文關注網絡（ICAN），該網絡突出顯示了特定于通道的上下文信息以及多個通道之間的特征字段交互。在實驗中，我們通過實際集成推薦系統上的案例研究進行離線和在線評估。重大改進證實了ICAN的有效性和魯棒性，尤其是對于冷啟動通道。目前，ICAN已部署在數百萬用戶使用的微信熱門故事上

近年來，許多在線平臺（如亞馬遜和淘寶網）都取得了巨大成功。在線平臺上的用戶行為是動態變化的，且會隨著時間而發展。序列推薦的主要目標就是從用戶歷史行為中捕捉關鍵的信息，并基于此準確表征用戶興趣進而提供高質量的推薦[1,2,3]。已有研究人員基于深度學習提出很多序列推薦的模型，此外還有研究人員結合豐富的上下文信息（如商品屬性）一起進行用戶興趣建模，實驗表明，上下文信息對于提高推薦效果很重要。

盡管現有方法在一定程度上已被證明有效，但它們有兩個可能會影響推薦效果的缺陷。首先，他們主要依靠“下一個物品推薦”（Next Item Prediction）損失函數來學習整個模型。在使用上下文信息時，也仍然只使用這一個優化目標。已有研究表明，這種優化方法很容易受到數據稀疏性等問題的影響。此外，它們過分強調最終的推薦性能，而上下文數據和序列數據之間的關聯或融合卻沒有在數據表示中被很好地捕獲。多個領域的實驗結果表明[4，5，6]，更有效的數據表示方法（例如，預先訓練的上下文信息嵌入）已成為改善現有模型或體系結構性能的關鍵因素。因此，有必要重新考慮學習范式并開發更有效的序列推薦系統。

為了解決上述問題，我們借鑒了自監督學習的思想來改進序列推薦的方法。自監督學習是一個新興的學習范式，旨在讓模型從原始數據的內在結構中學習。自監督學習的一般框架是首先從原始數據中構建新的監督信號，然后通過這些額外設計的優化目標來對模型進行預訓練。如之前討論的，有限的監督信號和低效的數據表示是現有的神經序列推薦方法的兩個主要問題。幸運的是，自監督學習似乎為解決這兩個問題提供了解決方案：它通過內在數據相關性來設計輔助訓練目標以提供豐富的自監督信號，并通過預訓練的方法增強數據表示。對于序列推薦，上下文信息以不同的形式存在，包括物品，屬性，子序列和序列。開發統一表征這種數據相關性的方法并不容易。對于這個問題，我們借鑒最近提出的互信息最大化（Mutual Information Maximization, MIM）方法，其已被證明可以有效捕獲原始輸入的不同視圖（或部分）之間的相關性。

基于以上，我們提出了一種基于自監督學習方法的序列推薦模型（Self-Supervised Learning Sequential Recommendation, S3-Rec）。基于自注意力機制的體系結構[3]，我們首先使用設計的自監督訓練目標對模型進行預訓練，然后根據推薦任務對模型進行微調。此工作的主要新穎之處在預訓練階段，我們基于MIM的統一形式精心設計了四個自監督的優化目標，分別用于捕獲物品-屬性間，序列-物品間，序列-屬性間和序列-子序列間的相關性。因此，S3-Rec能夠以統一的方式來表征不同粒度級別或不同形式數據之間的相關性，并且也可以靈活地適應新的數據類型或關聯模式。通過這樣的預訓練方法，我們可以有效地融合各種上下文數據，并學習屬性感知的上下文化的數據表示。最后，將學習到的表示輸入推薦模型，并根據推薦任務對其進行優化。

為了驗證S3-Rec的有效性，我們在6個不同領域的真實數據集上進行了充分的實驗。實驗結果表明，S3-Rec超過了目前的SOTA，并且在訓練數據非常有限的情況表現得尤為明顯。另外S3-Rec還可以有效得適應其他類別的神經體系結構，例如GRU[1]和CNN[2]。我們的主要貢獻概括如下：（1）據我們所知，這是首次采用MIM進行自監督學習來改善序列推薦任務的工作；（2）我們提出了4個自監督優化目標來最大化不同形式或粒度的上下文信息的互信息；（3）在6個數據集上的充分實驗證明了我們方法的有效性。