元學習的研究越來越受到學者們的重視,從最初在圖像領域的研究逐漸拓展到其他領域,目前推薦系統領域也出現了相關的研究問題,本文介紹了5篇基于元學習的推薦系統相關論文,包括用戶冷啟動推薦、項目冷啟動推薦等。
本文提出了一種新的推薦系統,解決了基于少量樣本物品來估計用戶偏好的冷啟動問題。為了確定用戶在冷啟動狀態下的偏好,現有的推薦系統,如Netflix,在啟動初向用戶提供物品選擇,我們稱這些物品為候選集。然后根據用戶選擇的物品做出推薦。以往的推薦研究有兩個局限性:(1) 只有少量物品交互行為的用戶推薦效果不佳,(2) 候選集合不足,無法識別用戶偏好。為了克服這兩個限制,我們提出了一種基于元學習的推薦系統MeLU。從元學習中,MeLU可以通過幾個例子快速地應用于新任務,通過幾個消費物品來估計新用戶的偏好。此外,我們提供了一個候選集合選擇策略,以確定自定義偏好估計的區分項目。我們用兩個基準數據集對MeLU進行了驗證,與兩個對比模型相比,該模型的平均絕對誤差至少降低了5.92%。我們還進行了用戶研究實驗來驗證選擇策略的有效性。
Meta-Learning for User Cold-Start Recommendation 冷啟動問題是對實際推薦系統的長期挑戰。大多數現有的推薦算法依賴于大量的觀測數據,對于很少交互的推薦場景來說是脆弱的。本文用少樣本學習和元學習來解決這些問題。我們的方法是基于這樣一種見解,即從幾個例子中有一個很好的泛化,依賴于一個通用的模型初始化和一個有效的策略來使這個模型適應新出現的任務。為了實現這一點,我們將場景指定的學習與模型無關的序列元學習結合起來,并將它們統一到一個集成的端到端框架中,即場景指定的序列元學習者(或s^2 Meta)。我們的元學習器通過聚合來自各種預測任務的上下文信息來生成一個通用的初始模型,同時通過利用學習到的知識來有效地適應特定的任務。在各種現實世界數據集上的實驗表明,我們提出的模型可以在在線推薦任務中獲得對冷啟動問題的最好效果。
Sequential Scenario-Specific Meta Learner for Online Recommendation
冷啟動問題是對實際推薦系統的長期挑戰。大多數現有的推薦算法依賴于大量的觀測數據,對于很少交互的推薦場景來說是脆弱的。本文用少樣本學習和元學習來解決這些問題。我們的方法是基于這樣一種見解,即從幾個例子中有一個很好的泛化,依賴于一個通用的模型初始化和一個有效的策略來使這個模型適應新出現的任務。為了實現這一點,我們將場景指定的學習與模型無關的序列元學習結合起來,并將它們統一到一個集成的端到端框架中,即場景指定的序列元學習者(或s^2 Meta)。我們的元學習器通過聚合來自各種預測任務的上下文信息來生成一個通用的初始模型,同時通過利用學習到的知識來有效地適應特定的任務。在各種現實世界數據集上的實驗表明,我們提出的模型可以在在線推薦任務中獲得對冷啟動問題的最好效果。
A Meta-Learning Perspective on Cold-Start Recommendations for Items 矩陣分解(M F)是最流行的項目(item)推薦技術之一,但目前存在嚴重的冷啟動問題。項目冷啟動問題在一些持續輸出項目的平臺中顯得特別尖銳(比如Tweet推薦)。在本文中,我們提出了一種元學習策略,以解決新項目不斷產生時的項目冷啟動問題。我們提出了兩種深度神經網絡體系結構,實現了我們的元學習策略。第一個體系結構學習線性分類器,其權重由項目歷史決定,而第二個體系結構學習一個神經網絡。我們評估了我們在Tweet推薦的現實問題上的效果,實驗證明了我們提出的算法大大超過了MF基線方法。
One-at-a-time: A Meta-Learning Recommender-System for Recommendation-Algorithm Selection on Micro Level
推薦算法的有效性通常用評價指標來評估,如均方根誤差、F1或點擊率CTR,在整個數據集上計算。最好的算法通常是基于這些總體度量來選擇的,然而,對于所有用戶、項目和上下文來說并沒有一個單獨的最佳算法。因此,基于總體評價結果選擇單一算法并不是最優的。在本文中,我們提出了一種基于元學習的推薦方法,其目的是為每個用戶-項目對選擇最佳算法。我們使用MovieLens 100K和1m數據集來評估我們的方法。我們的方法(RMSE,100K:0.973;1M:0.908)沒有優于單個的最佳算法SVD++(RMSE,100k:0.942;1M:0.887)。我們還探索了元學習者之間的區別,他們在每個實例(微級別),每個數據子集(中級)和每個數據集(全局級別)上進行操作。評估表明,與使用的總體最佳算法相比,一個假設完美的微級元學習器將提高RMSE 25.5%。
【導讀】作為CCF推薦的A類國際學術會議,International ACM SIGIR Conference on Research and Development in Information Retrieval(國際計算機學會信息檢索大會,簡稱 SIGIR)在信息檢索領域享有很高的學術聲譽,每年都會吸引全球眾多專業人士參與。今年的 SIGIR 2020計劃將于 2020年7月25日~30日在中國西安舉行。本次大會共有555篇長文投稿,僅有147篇長文被錄用,錄用率約26%。專知小編提前為大家整理了六篇SIGIR 2020 基于圖神經網絡的推薦(GNN+RS)相關論文,這六篇論文分別出自中科大何向南老師和和昆士蘭大學陰紅志老師團隊,供大家參考——捆綁推薦、Disentangled GCF、服裝推薦、多行為推薦、全局屬性GNN
CVPR2020SGNN、CVPR2020GNN_Part2、CVPR2020GNN_Part1、WWW2020GNN_Part1、AAAI2020GNN、ACMMM2019GNN、CIKM2019GNN、ICLR2020GNN、EMNLP2019GNN、ICCV2019GNN_Part2、ICCV2019GNN_Part1、NIPS2019GNN、IJCAI2019GNN_Part1、IJCAI2019GNN_Part2、KDD2019GNN、ACL2019GNN、CVPR2019GNN
1. Bundle Recommendation with Graph Convolutional Networks
作者:Jianxin Chang, Chen Gao, Xiangnan He, Yong Li, Depeng Jin
摘要:捆綁推薦(Bundle recommendation )旨在推薦一組商品供用戶整體消費。現有的解決方案通過共享模型參數或多任務學習的方式將用戶項目交互建模集成到捆綁推薦中,然而,這些方法不能顯式建模項目與捆綁包(bundles)之間的隸屬關系,不能探索用戶選擇捆綁包時的決策。在這項工作中,我們提出了一個用于捆綁推薦的圖神經網絡模型BGCN(Bundle Graph Convolutional Network)。BGCN將用戶-項目交互、用戶-捆綁包交互和捆綁包-項目從屬關系統一到一個異構圖中。以項目節點為橋梁,在用戶節點和捆綁包節點之間進行圖卷積傳播,使學習到的表示能夠捕捉到項目級的語義。通過基于hard-negative采樣器的訓練,可以進一步區分用戶對相似捆綁包的細粒度偏好。在兩個真實數據集上的實驗結果表明,BGCN的性能有很高的提升,其性能比最新的基線高出10.77%到23.18%。
網址: //arxiv.org/abs/2005.03475
2. Disentangled Graph Collaborative Filtering
作者:Xiang Wang, Hongye Jin, An Zhang, Xiangnan He, Tong Xu, Tat-Seng Chua
摘要:從交互數據中學習用戶和項目的信息表示對于協同過濾(CF)至關重要。當前的嵌入函數利用用戶-項目關系來豐富表示,從單個用戶-項目實例演變為整體交互圖。然而,這些方法在很大程度上以統一的方式對關系進行建模,而忽略了用戶采用這些項目的意圖的多樣性,這可能是為了打發時間,為了興趣,或者為其他人(如家庭)購物。這種統一的對用戶興趣建模的方法很容易導致次優表示,不能對不同的關系建模并在表示中分清用戶意圖。在這項工作中,我們特別關注用戶意圖細粒度上的用戶-項目關系。因此,我們設計了一種新的模型- Disentangled圖協同過濾(Disentangled Graph Collaborative Filtering ,DGCF),來理清這些因素并產生disentangled的表示。具體地說,通過在每個用戶-項目交互意圖上的分布建模,我們迭代地細化意圖感知的交互圖和表示。同時,我們鼓勵不同的意圖獨立。這將生成disentangled的表示,有效地提取與每個意圖相關的信息。我們在三個基準數據集上進行了廣泛的實驗,DGCF與NGCF、DisenGCN和MacridV AE這幾個最先進的模型相比取得了顯著的改進。進一步的分析揭示了DGCF在分解用戶意圖和表示的可解釋性方面的優勢。
網址:
代碼鏈接:
.
3. GCN-Based User Representation Learning for Unifying Robust Recommendation and Fraudster Detection
作者:Shijie Zhang, Hongzhi Yin, Tong Chen, Quoc Viet Nguyen Hung, Zi Huang, Lizhen Cui
摘要:近年來,推薦系統已經成為所有電子商務平臺中不可缺少的功能。推薦系統的審查評級數據通常來自開放平臺,這可能會吸引一群惡意用戶故意插入虛假反饋,試圖使推薦系統偏向于他們。此類攻擊的存在可能會違反高質量數據始終可用的建模假設,而這些數據確實會影響用戶的興趣和偏好。因此,構建一個即使在攻擊下也能產生穩定推薦的健壯推薦系統具有重要的現實意義。本文提出了一種基于GCN的用戶表示學習框架GraphRf,該框架能夠統一地進行穩健的推薦和欺詐者檢測。在其端到端學習過程中,用戶在欺詐者檢測模塊中被識別為欺詐者的概率自動確定該用戶的評級數據在推薦模塊中的貢獻;而在推薦模塊中輸出的預測誤差作為欺詐者檢測模塊中的重要特征。因此,這兩個組成部分可以相互促進。經過大量的實驗,實驗結果表明我們的GraphRf在魯棒評級預測和欺詐者檢測這兩個任務中具有優勢。此外,所提出的GraphRf被驗證為對現有推薦系統上的各種攻擊具有更強的魯棒性。
網址:
4. Hierarchical Fashion Graph Network for Personalized Outfit Recommendation
作者:Xingchen Li, Xiang Wang, Xiangnan He, Long Chen, Jun Xiao, Tat-Seng Chua
摘要:服裝推薦越來越受到網購服務商和時尚界的關注。與向用戶推薦單個單品(例如,朋友或圖片)的其他場景(例如,社交網絡或內容共享)不同,服裝推薦預測用戶對一組匹配良好的時尚單品的偏好。因此,進行高質量的個性化服裝推薦應滿足兩個要求:1)時尚單品的良好兼容性;2)與用戶偏好的一致性。然而,目前的研究主要集中在其中一個需求上,只考慮了用戶-全套服裝(outfit)或全套服裝-項目的關系,從而容易導致次優表示,限制了性能。在這項工作中,我們統一了兩個任務,服裝兼容性建模和個性化服裝推薦。為此,我們開發了一個新的框架,層次時尚圖網絡(HFGN),用于同時建模用戶、商品和成套服裝之間的關系。特別地,我們構建了一個基于用戶-全套服裝交互和全套服裝-項目映射的層次結構。然后,我們從最近的圖神經網絡中得到啟發,在這種層次圖上使用嵌入傳播,從而將項目信息聚合到一個服裝表示中,然后通過他/她的歷史服裝來提煉用戶的表示。此外,我們還對這兩個任務進行了聯合訓練,以優化這些表示。為了證明HFGN的有效性,我們在一個基準數據集上進行了廣泛的實驗,HFGN在NGNN和FHN等最先進的兼容性匹配模型基礎上取得了顯著的改進。
網址:
代碼鏈接:
5. Multi-behavior Recommendation with Graph Convolutional Networks
作者:Bowen Jin, Chen Gao, Xiangnan He, Depeng Jin, Yong Li
摘要:傳統的推薦模型通常只使用一種類型的用戶-項目交互,面臨著嚴重的數據稀疏或冷啟動問題。利用多種類型的用戶-項目交互(例如:點擊和收藏)的多行為推薦可以作為一種有效的解決方案。早期的多行為推薦研究未能捕捉到行為對目標行為的不同程度的影響。它們也忽略了多行為數據中隱含的行為語義。這兩個限制都使得數據不能被充分利用來提高對目標行為的推薦性能。在這項工作中,我們創新性地構造了一個統一的圖來表示多行為數據,并提出了一種新的模型--多行為圖卷積網絡(Multi-Behavior Graph Convolutional Network,MBGCN)。MBGCN通過用戶-項目傳播層學習行為強度,通過項目-項目傳播層捕獲行為語義,較好地解決了現有工作的局限性。在兩個真實數據集上的實驗結果驗證了該模型在挖掘多行為數據方面的有效性。我們的模型在兩個數據集上的性能分別比最優基線高25.02%和6.51%。對冷啟動用戶的進一步研究證實了該模型的實用性。
網址:
6. GAG: Global Atributed Graph Neural Network for Streaming Session-based Recommendation
作者:Ruihong Qiu, Hongzhi Yin, Zi Huang, Tong Chen
摘要:基于流會話的推薦(Streaming session-based recommendation,SSR)是一項具有挑戰性的任務,它要求推薦器系統在流媒體場景(streaming scenario)中進行基于會話的推薦(SR)。在電子商務和社交媒體的現實應用中,在一定時間內產生的一系列用戶-項目交互被分組為一個會話,這些會話以流的形式連續到達。最近的SR研究大多集中在靜態集合上,即首先獲取訓練數據,然后使用該集合來訓練基于會話的推薦器模型。他們需要對整個數據集進行幾個epoch的訓練,這在流式設置下是不可行的。此外,由于對用戶信息的忽視或簡單使用,它們很難很好地捕捉到用戶的長期興趣。雖然最近已經提出了一些流推薦策略,但它們是針對個人交互流而不是會話流而設計的。本文提出了一種求解SSR問題的帶有Wasserstein 庫的全局屬性圖(GAG)神經網絡模型。一方面,當新的會話到達時,基于當前會話及其關聯用戶構造具有全局屬性的會話圖。因此,GAG可以同時考慮全局屬性和當前會話,以了解會話和用戶的更全面的表示,從而在推薦中產生更好的性能。另一方面,為了適應流會話場景,提出了Wasserstein庫來幫助保存歷史數據的代表性草圖。在兩個真實數據集上進行了擴展實驗,驗證了GAG模型與最新方法相比的優越性。
網址:
【導讀】新加坡國立大學的Xiang Wang、Tat-Seng Chua,以及來自中國科學技術大學的Xiangnan He在WSDM 2020會議上通過教程《Learning and Reasoning on Graph for Recommendation》介紹了基于圖學習和推理的推薦系統,涵蓋了基于隨機游走的推薦系統、基于網絡嵌入的推薦系統,基于圖神經網絡的推薦系統等內容。
Tutorial摘要:
推薦方法構建預測模型來估計用戶-項目交互的可能性。之前的模型在很大程度上遵循了一種通用的監督學習范式——將每個交互視為一個單獨的數據實例,并基于“信息孤島”進行預測。但是,這些方法忽略了數據實例之間的關系,這可能導致性能不佳,特別是在稀疏場景中。此外,建立在單獨數據實例上的模型很難展示推薦背后的原因,這使得推薦過程難以理解。
在本教程中,我們將從圖學習的角度重新討論推薦問題。用于推薦的公共數據源可以組織成圖,例如用戶-項目交互(二部圖)、社交網絡、項目知識圖(異構圖)等。這種基于圖的組織將孤立的數據實例連接起來,為開發高階連接帶來了好處,這些連接為協作過濾、基于內容的過濾、社會影響建模和知識感知推理編碼有意義的模式。隨著最近圖形神經網絡(GNNs)的成功,基于圖形的模型顯示了成為下一代推薦系統技術的潛力。本教程對基于圖的推薦學習方法進行了回顧,重點介紹了GNNs的最新發展和先進的推薦知識。通過在教程中介紹這一新興而有前景的領域,我們希望觀眾能夠對空間有更深刻的理解和準確的洞察,激發更多的想法和討論,促進技術的發展。
Tutorial大綱:
摘要:
推薦系統經常面對包含高度個性化的用戶歷史數據的異構數據集,單個模型無法為每個用戶提供最佳的推薦。我們在公共和私有數據集上觀察到這種普遍存在的現象,并解決了為每個用戶優化推薦質量的模型選擇問題。我們提出了一個元學習框架,以促進用戶級自適應模型選擇推薦系統。在該框架中,用來自所有用戶的數據對推薦器集合進行訓練,在此基礎上通過元學習對模型選擇器進行訓練,為具有特定用戶歷史數據的每個用戶選擇最佳模型。我們在兩個公共數據集和一個真實的生產數據集上進行了大量的實驗,證明我們提出的框架在AUC和LogLoss方面實現了對單個模型基線和樣本級模型選擇器的改進。特別是,這些改進可能會帶來巨大的利潤收益時,部署在網上推薦系統。
地址:
【導讀】最近小編推出CVPR2019圖卷積網絡相關論文和CVPR2019生成對抗網絡相關視覺論文,反響熱烈。最近,模型的可解釋性是現在正火熱的科研和工程問題,也在各個頂級會議上都有相關文章發表,今天小編專門整理最新十篇可解釋性相關應用論文—推薦系統、知識圖譜、遷移學習以及視覺推理等。
1、Recurrent Knowledge Graph Embedding for Effective Recommendation(基于循環知識圖嵌入的推薦)
RecSys ’18
作者:Zhu Sun, Jie Yang, Jie Zhang, Alessandro Bozzon, Long-Kai Huang, Chi Xu
摘要:知識圖(KGs)已被證明是改進推薦的有效方法。現有的方法主要依賴于KG手工設計的特性(例如,元路徑meta paths),這需要領域知識(domain knowledge)。本文介紹了一種KG嵌入方法RKGE,它可以自動學習實體和實體之間的路徑的語義表示,從而描述用戶對商品的偏好。具體地說,RKGE采用了一種新的循環網絡架構,其中包含了一批循環網絡,用于對鏈接相同實體對的路徑進行語義建模,這些路徑無縫地融合到推薦中。它還使用pooling操作符來區分不同路徑在描述用戶對商品的偏好時的顯著性。對真實數據集的廣泛驗證顯示出RKGE相對于最先進方法的優越性。此外,我們證明了RKGE為推薦結果提供了有意義的解釋。
網址:
//yangjiera.github.io/works/recsys2018.pdf
2、Explainable Recommendation via Multi-Task Learning in Opinionated Text Data( 在觀點文本數據中基于多任務學習的可解釋性推薦)
SIGIR ’18
作者:Nan Wang, Hongning Wang, Yiling Jia, Yue Yin
摘要:通過解釋自動生成的推薦,可以讓用戶更明智、更準確地決定使用哪些結果,從而提高他們的滿意度。在這項工作中,我們開發了一個可解釋推薦的多任務學習解決方案。通過聯合張量因子分解,將推薦用戶偏好建模和解釋用戶意見內容建模這兩項學習任務結合起來。因此,該算法不僅預測了用戶對一組商品的偏好,即推薦,而且預測用戶如何在特征級別上喜歡某一特定商品,即觀點文本解釋。通過對Amazon和Yelp兩個大型評論數據集的大量實驗,與現有的幾種推薦算法相比,驗證了我們的解決方案在推薦和解釋任務方面的有效性。我們廣泛的實驗研究清楚地證明了我們的算法生成的可解釋建議有著不錯的實用價值。
網址:
代碼鏈接:
3、TEM:Tree-enhanced Embedding Model for Explainable Recommendation(基于Tree增強嵌入方法的可解釋性推薦)
WWW ’18
作者:Xiang Wang, Xiangnan He, Fuli Feng, Liqiang Nie, Tat-Seng Chua
摘要:雖然協同過濾是個性化推薦的主導技術,但它只對用戶-商品交互進行建模,不能為推薦提供具體的理由。與此同時,與用戶-商品交互相關的豐富的側面信息(例如,用戶統計數據和商品屬性)提供了有價值的證據,可以說明為什么該推薦適合于用戶,但在提供解釋方面還沒有得到充分的探索。在技術方面,基于嵌入的方法,如廣度&深度和神經因子分解機,提供了最先進的推薦性能。然而,它們的工作原理就像一個黑匣子,無法明確地呈現出預測背后的原因。另一方面,決策樹等基于樹的方法通過從數據中推斷決策規則來進行預測。雖然可以解釋,但它們不能推廣到不可見的特性交互,因此在協作過濾應用程序中會失敗。在這項工作中,我們提出了一種新的解決方案,稱為樹增強嵌入方法,它結合了基于嵌入和基于樹的模型的優點。我們首先使用一個基于樹的模型從豐富的側面信息來學習明確的決策規則(又稱交叉特征)。接下來,我們設計了一個嵌入模型,該模型可以包含顯式交叉特征,并推廣到用戶ID和商品ID上不可見的交叉特征。嵌入方法的核心是一個易于解釋的注意力網絡,使得推薦過程完全透明和可解釋。我們對旅游景點和餐廳推薦的兩個數據集進行了實驗,證明了我們的解決方案的優越性能和可解釋性。
網址:
代碼鏈接:
4、Explainable Reasoning over Knowledge Graphs for Recommendation(基于知識圖譜可解釋推理的推薦)
AAAI ’19
作者:Xiang Wang, Dingxian Wang, Canran Xu, Xiangnan He, Yixin Cao, Tat-Seng Chua
摘要:近年來,將知識圖譜與推薦系統相結合引起越來越多的關注。通過研究知識圖譜中的相互關系,可以發現用戶與商品之間的連接路徑,這為用戶與商品之間的交互提供了豐富且互補的信息。這種連通性不僅揭示了實體和關系的語義,而且有助于理解用戶的興趣。然而,現有的工作尚未充分探索用來推斷用戶偏好的這種連接性,特別是在建模路徑內部的順序依賴關系和整體語義方面。本文提出了一種新的知識感知路徑遞歸網絡(Knowledgeaware Path Recurrent Network,KPRN)模型,利用知識圖進行推薦。KPRN可以通過組合實體和關系的語義來生成路徑表示。通過利用路徑中的順序依賴關系,我們允許對路徑進行有效的推理,從而推斷用戶-商品交互的基本原理。此外,我們設計了一個新的加權pooling操作來區分連接用戶和商品的不同路徑的優勢,使我們的模型具有一定的可解釋性。我們對電影和音樂的兩個數據集進行了大量的實驗,證明了,與最好的方法相比,CKE(Collaborative Knowledge Base Embedding)和神經因子分解(Neural Factorization Machine),都有了顯著的改進。
網址:
代碼鏈接:
5、Explainable Recommendation Through Attentive Multi-View Learning(基于注意力機制多視角學習的可解釋推薦)
AAAI ’19
作者:Jingyue Gao, Xiting Wang, Yasha Wang, Xing Xie
摘要:由于信息的爆炸式增長,推薦系統在我們的日常生活中發揮著越來越重要的作用。當我們評估一個推薦模型時,準確性和可解釋性是兩個核心方面,并且已經成為機器學習的基本權衡指標之一。在本文中,我們提出通過開發一個結合了基于深度學習的模型和現有可解釋方法的優點的可解釋的深度模型,來減輕準確性和可解釋性之間的權衡。其基本思想是基于可解釋的深度層次結構(如Microsoft概念圖)構建初始網絡,通過優化層次結構中的關鍵變量(如節點重要性和相關性)來提高模型精度。為了保證準確的評分預測,我們提出了一個周到的多視圖學習框架。該框架通過在不同的特征層之間進行協同正則化,并專注地結合預測,使我們能夠處理稀疏和噪聲數據。為了從層次結構中挖掘可讀的解釋,我們將個性化解釋生成問題定義為一個約束樹節點選擇問題,并提出了一種動態規劃算法來解決該問題。實驗結果表明,該模型在準確性和可解釋性方面均優于現有的最好的方法。
網址:
6、ExFaKT- A Framework for Explaining Facts over Knowledge Graphs and Text(ExFaKT:一個基于知識圖譜和文本來解釋事實的框架)
WSDM ’19
作者:Mohamed H. Gad-Elrab, Daria Stepanova, Jacopo Urbani, Gerhard Weikum
摘要:事實檢驗是準確填充、更新和整理知識圖譜的關鍵。手工驗證候選事實非常耗時。先前關于自動完成這一任務的工作側重于使用非人類可解釋的數值分數來估計真實性。另一些則提取文本中對候選事實的顯式提及作為候選事實的證據,這很難直接發現。在我們的工作中,我們引入了ExFaKT,這是一個專注于為候選事實生成人類可理解的解釋的框架。ExFaKT使用以Horn子句形式編碼的背景知識將相關事實重寫為一組其他更容易找到的事實。我們框架的最終輸出是文本和知識圖譜中候選事實的一組語義跟蹤。實驗表明,我們的重寫在保持較高精確度的同時,顯著提高了事實發現的召回率。此外,我們還表明,這些解釋有效地幫助人類執行事實檢查,并且在用于自動事實檢查時也可以執行得很好。
網址:
代碼鏈接:
7、Interaction Embeddings for Prediction and Explanation in Knowledge Graphs(知識圖譜中的預測和解釋的交互嵌入學習)
WSDM ’19
作者:Wen Zhang, Bibek Paudel, Wei Zhang, Abraham Bernstein, Huajun Chen
摘要:知識圖嵌入旨在學習實體和關系的分布式表示,并在許多應用中被證明是有效的。交叉交互(Crossover interactions)——實體和關系之間的雙向影響——有助于在預測新的三元組時選擇相關信息,但之前從未正式討論過。在本文中,我們提出了一種新的知識圖嵌入算法CrossE,它可以顯式地模擬交叉交互。它不僅像以前的大多數方法一樣,為每個實體和關系學習一個通用嵌入,而且還為這兩個實體和關系生成多個三重特定嵌入,稱為交互嵌入。我們評估了典型鏈接預測任務的嵌入,發現CrossE在復雜和更具挑戰性的數據集上實現了最先進的結果。此外,我們從一個新的角度來評估嵌入——為預測的三元組提供解釋,這對實際應用非常重要。在本工作中,對三元組的解釋被認為是頭尾實體之間可靠的閉合路徑。與其他baseline相比,我們通過實驗證明,CrossE更有能力生成可靠的解釋來支持其預測,這得益于交互嵌入。
網址:
8、SimGNN- A Neural Network Approach to Fast Graph Similarity Computation(SimGNN:一種快速計算圖相似度的神經網絡方法)
WSDM ’19
作者:Yunsheng Bai, Hao Ding, Song Bian, Ting Chen, Yizhou Sun, Wei Wang
摘要:圖相似度搜索是基于圖的最重要的應用之一,例如查找與已知化合物最相似的化合物。圖的相似度/距離計算,如圖的編輯距離(GED)和最大公共子圖(MCS),是圖的相似度搜索和許多其他應用的核心操作,但在實踐中計算成本很高。受最近神經網絡方法在一些圖應用(如節點或圖分類)中的成功的啟發,我們提出了一種新的基于神經網絡的方法來解決這個經典但具有挑戰性的圖問題,目的是在保持良好性能的同時減輕計算負擔。這個被稱為SimGNN的方法結合了兩種策略。首先,我們設計了一個可學習的嵌入函數,它將每個圖映射到一個嵌入向量,該向量提供了一個圖的全局摘要。提出了一種新的注意機制,針對特定的相似度度量強調重要節點。其次,設計了一種節點對比較法,用細粒度節點信息來補充圖級嵌入。我們的模型對不可見圖有較好的泛化效果,并且在最壞的情況下,對兩個圖中的節點數運行二次方的時間。以GED計算為例,在三個實際圖形數據集上的實驗結果表明了該方法的有效性和效率性。具體來說,我們的模型與一系列baseline相比,包括一些基于GED計算的近似算法和許多現有的基于圖神經網絡的模型,實現了更小的錯誤率和更大的時間縮短。我們的工作表明,SimGNN為圖相似度計算和圖相似度搜索提供了一個新的研究方向。
網址:
代碼鏈接:
9、Human-centric Transfer Learning Explanation via Knowledge Graph(通過知識圖譜以人為中心的遷移學習可解釋)
AAAI-19 Workshop on Network Interpretability for Deep Learning
作者:Gao Yuxia Geng, Jiaoyan Chen, Ernesto Jim′enez-Ruiz, Huajun Chen
摘要:遷移學習(Transfer Learning)是利用從一個問題(源域)中學習到的知識來解決另一個不同但相關的問題(目標域),已經引起了廣泛的研究關注。然而,目前的遷移學習方法大多是無法解釋的,尤其是對沒有機器學習專業知識的人來說。在這篇摘要中,我們簡要介紹了兩種基于知識圖譜(KG)的人類可理解遷移學習解釋框架。第一個解釋了卷積神經網絡(CNN)學習特征通過預訓練和微調從一個域到另一個域的可移植性,第二個證明了零樣本學習(zero-shot learning ,ZSL)中多個源域模型預測的目標域模型的合理性。這兩種方法都利用了KG及其推理能力,為遷移過程提供了豐富的、人類可以理解的解釋。
網址:
10、Explainable and Explicit Visual Reasoning over Scene Graphs(對場景圖進行的可解釋和顯式的視覺推理)
CVPR-19
作者:Jiaxin Shi, Hanwang Zhang, Juanzi Li
摘要:我們的目標是將復雜視覺推理任務中使用的流行黑盒神經架構拆分為可解釋的,明確的神經模塊(XNMs), 它能夠超越現有的神經模塊網絡,使用場景圖—對象作為節點,成對關系作為邊—用于結構化知識的可解釋和明確推理。XNMs讓我們更加關注教機器如何“思考”,無論它們“看起來”是什么。正如我們將在本文中展示的那樣,通過使用場景圖作為一個歸納偏差,1)我們可以用簡潔靈活的方式設計XNMs,即, XNMs僅由4種元類型組成,大大減少了10 ~ 100倍的參數數量,2)我們可以根據圖的注意力程度顯式地跟蹤推理流程。XNMs是如此的通用,以至于它們支持具有不同質量的各種場景圖實現。例如,當圖形被完美地檢測到時,XNMs在CLEVR和CLEVR CoGenT上的準確率都達到了100%,為視覺推理建立了一個經驗性能上限; 當從真實世界的圖像中噪聲檢測出這些圖時,XNMs仍然很健壯,在VQAv2.0上達到了67.5%的有競爭力的精度,超越了流行的沒有圖結構的(bag-of-objects)注意力模型。
網址:
代碼鏈接:
鏈接: 提取碼:9e9x