首篇跨域少樣本圖分類
我們通過引入三個新的跨域基準來研究具有非等效特征空間的跨域少樣本圖分類問題。我們還提出了一種基于注意力的圖編碼器，該編碼器使用三個一致的圖形視圖、一個上下文視圖和兩個拓撲視圖，學習任務特定信息的表示，以便快速適應，以及任務無關信息的表示，以便進行知識遷移。我們進行了詳盡的實驗來評估對比學習策略和元學習策略的表現。我們發現，當與基于度量的元學習框架相結合時，所提出的編碼器在所有基準測試中都獲得了最佳的元測試平均分類精度。源代碼和數據將在這里發布://github.com/kavehhassani/metagrl
在“少樣本學習”中，一個模型從幾個被標記的樣本中學習適應新的類別。常見的做法，如使用增強、正則化和預訓練可能有助于緩解數據匱乏，但不能解決這個問題。受人類學習(Lake, Salakhutdinov, and Tenenbaum 2015)的啟發，元學習(Hospedales, et al. 2020)利用類似任務的分布(Satorras, and Estrach 2018)來積累可遷移的經驗知識，這些經驗可以作為快速適應下游任務的強烈歸納偏差(Sung, et al. 2018)。在元學習中，快速學習發生在任務內，而關于任務結構變化的知識是在任務間逐步學習的(Huang and Zitnik 2020)。這種學習知識的例子是嵌入函數(Vinyals et al. 2016; Snell, Swersky, and Zemel 2017; Satorras and Estrach 2018; Sung et al. 2018)，初始參數(Finn, Abbeel, and Levine 2017; Raghu et al. 2020)、優化策略(Li et al. 2017)，或可以直接將訓練樣本映射到網絡權重的模型(Garnelo et al. 2018; Mishra et al. 2018)。
元學習的一個基本假設是，元訓練和元測試階段的任務是從相同的分布中采樣的，即任務是iid。然而，在許多現實世界的應用程序中，從相同的分布中收集任務是不可行的。相反，有來自相同模態但不同領域的數據集。在遷移學習中，源域和目標域之間的特征/標簽空間是不等效的，通常是不重疊的，這被稱為異構遷移學習(Day和Khoshgoftaar 2017)。據觀察，當源域和目標域之間有很大的轉移時，元學習算法被預訓練/微調方法所超越(Chen et al. 2019b)。
計算機視覺方面的一些工作通過歸一化層的元學習統計來解決跨領域的少樣本學習(Tseng et al. 2020; Du et al. 2021)。這些方法局限于仍然包含高度視覺相似性的自然圖像(Guo et al. 2020)。跨域學習對于尺寸變化順序不變的圖結構數據更為重要。與其他常見模態相比，圖形標注更具挑戰性，因為它們通常表示特定領域的概念，如生物學，在這些領域中，通過wet-lab實驗進行標注是資源密集型(Hu et al. 2020b)，而使用領域知識進行程序性標注的成本較高(Sun et al. 2020)。此外，除了在邊際/條件概率分布上的偏移外，非等價和非重疊特征空間在圖數據集上是常見的。例如，可以訪問小分子數據集，其中每個數據集使用不同的特征集來表示分子(Day和Khoshgoftaar 2017)。
據我們所知，這是關于圖的跨域少樣本學習的第一項工作。為了解決這個問題，我們設計了一個以任務為條件的編碼器，它可以學習處理任務的不同表示。我們的貢獻如下:
-
我們引入了跨域少樣本圖分類的三個基準，并進行了詳盡的實驗來評估監督、對比和元學習策略的性能。
-
我們提出了一種圖編碼器，可以學習圖的三個一致視圖、一個上下文視圖和兩個拓撲視圖，學習任務特定信息的表示，以便快速適應，以及任務無關信息，以便進行知識遷移。
-
我們表明，當與基于指標的元測試框架相結合時，所提出的編碼器在所有三個基準上都實現了最佳的平均元測試分類準確度。
方法
圖結構數據可以從兩個一致的視圖進行分析: 上下文視圖和拓撲視圖。上下文視圖基于初始節點或邊緣特征(為了簡單和不失一般性，我們只考慮節點特征)，并攜帶特定于任務的信息。另一方面，拓撲視圖表示圖的拓撲屬性，這些拓撲屬性是任務無關的，因此可以作為錨點來對齊來自特征空間中不同領域的圖。我們利用這種對偶表示，并通過為每個視圖設計專用編碼器來明確地解開它們，這些視圖反過來施加了所需的歸納偏見，以學習特定于任務的域不變特征。在異構的少樣本環境中，拓撲特征有助于跨任務的知識遷移，而上下文特征有助于快速適應。我們還使用了一種注意力機制，該機制隱含地限制了任務，并學習從兩種視圖中聚合學習到的特征。我們采用元學習策略，通過共同學習編碼器參數和注意機制來模擬泛化過程。如圖1所示，我們的方法由以下組件組成:
增強機制，將一個采樣圖轉換為一個上下文視圖和兩個拓撲視圖。對初始節點特征和圖結構進行增強處理。
編碼器包括兩個專用的GNN，即圖形編碼器，和一個MLP，分別用于上下文和拓撲視圖，以及一個注意力機制來聚合學習的特征。
元學習機制，基于查詢集的錯誤信號，聯合學習專用編碼器和注意力模型的參數。
實驗結果
我們詳盡地進行了實證評估，以回答以下問題:(1)基準的元測試集分類精度的實證上限是多少?(2)跨元域是否存在知識遷移?如果沒有，是否會發生負遷移?(3)基于對比的預訓練效果如何?(4)基于度量的元學習方法與基于優化的元學習方法相比表現如何?(5)使用提出的編碼器有什么效果?
結果表明: (1)在這三個基準上，都存在可遷移的潛在知識。實驗結果證實通過觀察元學習和對比方法都優于單純分類器。(2) 對比方法與元學習方法相比具有更強的性能。例如，在20-shot生物信息學基準測試中，MVGRL的絕對準確度比最佳的元學習方法高出1.57%。(3) 將基于度量的元學習方法與我們提出的編碼器相結合，顯著提高了性能。例如，在單次測試的情況下，最佳元學習方法結合我們的編碼器，在分子、生物信息學和社交網絡基準上的絕對精度分別比常規元學習方法的最佳結果高出3.28%、4.29%和5.17%。(4)與我們的編碼器相結合，僅用20個例子訓練的RelationNet模型，與全監督模型在所有可用的分子數據、生物信息學和社會網絡基準上訓練的模型相比，準確率分別只有4.46%、6.96%和2.68%。注意，其中一些數據集有成千上萬個訓練樣本。(5) 當我們將知識從分子元訓練遷移到社會網絡元測試時，我們得到了最大的改進。這是因為社會網絡任務不包含任何初始節點特征，因此對它們進行分類完全依賴于任務不可知的幾何特征。這表明我們的編碼器能夠在一個領域學習表達幾何表示并泛化到另一個領域。
付費5元查看完整內容
相關內容
無監督域自適應是一種將深度神經網絡泛化到新目標域的有效范式。然而，要達到完全監督的性能，仍有巨大的潛力有待挖掘。在本文中，我們提出了一種新的主動學習策略來輔助目標領域中的知識遷移，稱為主動領域自適應。我們從一個觀察開始，當訓練(源)和測試(目標)數據來自不同的分布時，基于能量的模型表現出自由能量偏差。受這一內在機制的啟發，我們從經驗上揭示了一個簡單而有效的基于能量的采樣策略，它比現有的需要特定架構或計算距離的方法更能幫助我們選擇最有價值的目標樣本。我們的算法，基于能量的主動域自適應(EADA)，在每一輪的選擇中查詢集域特征和實例不確定性的目標數據組。同時，通過正則化項將目標數據壓縮的自由能對準源域，可以隱式地減小域間隙。通過大量的實驗，我們證明了EADA在眾所周知的具有挑戰性的基準測試中取得了重大改進，超越了最先進的方法，使其成為開放世界中一個有用的選項。代碼可以在//github.com/BIT-DA/EADA上找到。
付費5元查看完整內容
目標檢測在過去的十年中取得了長足的進步。然而，利用少樣本檢測新類仍然具有挑戰性，因為在低數據環境下的深度學習通常會導致特征空間的退化。現有的研究都采用了整體的微調范式來解決這個問題，即首先對模型進行大量樣本的所有基類的預訓練，然后用它來學習新的類特征空間。盡管如此，這種范式仍然是不完美的。在微調過程中，一個新類可能會隱式地利用多個基類的知識來構造其特征空間，導致特征空間分散，違反類間的可分離性。為了克服這些障礙，我們提出了一種兩步微調的框架，即關聯與識別的少樣本目標檢測(FADI)，該框架采用兩步整合的方法為每個新類建立判別特征空間。1) 在關聯步驟中，與隱式利用多個基類不同，我們通過顯式模擬一個特定的基類特征空間來構造一個緊湊的新類特征空間。具體來說，我們根據每個新類的語義相似度將它們與基類關聯起來。之后，新類的特征空間可以很容易地模仿相關基類的經過良好訓練的特征空間。2)在判別步驟中，為了保證新類和相關基類之間的可分離性，我們對基類和新類的分類分支進行解糾纏。為了進一步擴大各類別間的可分性，引入了一個集合化的保證金損失。在Pascal VOC和MS-COCO數據集上的大量實驗表明，FADI實現了新的SOTA性能，在任何鏡頭/分割中顯著提高了18.7的基線。值得注意的是，這種優勢是在極少的場景中體現出來的。
付費5元查看完整內容
可供性檢測是指識別圖像中物體的潛在動作可能性，是智能體感知和操縱的重要能力。為了在未知場景中賦予智能體這種能力，研究員們考慮了具有挑戰性的單樣本可供性檢測問題，即，給定描述動作目的的支持圖像，應檢測出場景中具有共同可供性的所有對象（如圖3.1所示）。
圖3.1 單樣本可供性檢測的流程圖
與對象檢測/分割問題不同，對象的可供性和語義類別高度相關，但并不相互暗示。一個對象可能有多種可供性（見圖 3.2），例如，沙發可用于坐下或躺下。實際上，可能的可供性取決于人在實際應用場景中的目的。在沒有目的的指導下直接從單個圖像中學習可供性使模型傾向于關注統計上占主導地位的可供性，而忽略可能適合完成任務的其他可供性。
為了解決這個問題：1）研究員們試圖從單個支持圖像中找到關于動作目的的明確提示（即通過主體和客體的位置信息），它隱含地定義了對象可供性，并且這是未知場景中的合理設置。2）研究員們采用協作學習來捕捉不同對象之間的內在關系，以抵消視覺外觀差異帶來的干擾，提高泛化能力。具體來說，研究員們設計了一種新穎的 One-Shot Affordance Detection (OS-AD) 網絡來解決這個問題（如圖3.3所示）。以一張圖像作為支持，一組圖像（本文中為 5 張圖像）作為查詢。
網絡首先使用意圖學習模塊（PLM）從支持圖像中捕獲人與對象的交互，以對動作意圖進行編碼。然后，設計了一個意圖轉移模塊 (PTM) 以使用動作目的的編碼來激活查詢圖像中具有共同可供性的特征。最后，設計了一個協作增強模塊（CEM）來捕捉具有相同可供性的對象之間的內在關系，并抑制與動作意圖無關的背景。通過這種方式，OS-AD網絡可以學習到良好的適應能力來感知未知場景中的物體可供性。
此外，由于物體可供性多樣性的限制，現有數據集相對于實際應用場景仍然存在差距。 為了解決數據集的局限性，研究員們收集并提出了PAD可供性數據集，其中包含 4,002 張不同的圖像，涵蓋 31 個可供性類別以及來自不同場景的 72 個對象類別。
最后，研究員們對提議的 PAD 基準進行的實驗表明，OS-AD網絡優于包含3種類型（分割模型，顯著性檢測模型和協同顯著性模型）的6個SOTA模型（UNet, PSPNet, CPD, BASNet, CSNet 和 CoEGNet），可以作為未來研究的強大基線。
付費5元查看完整內容
Adaptive Methods for Real-World Domain Generalization
不變方法在解決領域泛化問題方面已經取得了顯著的成功，該問題的目標是對不同于訓練中使用的數據分布進行推斷。在我們的工作中，我們研究是否有可能利用未知測試樣本本身的領域信息。我們提出一個域自適應方法包括兩個步驟: a)我們首先學習區別的域嵌入從無監督訓練的例子,和 b)使用該域嵌入作為補充信息來構建一個domainadaptive模型,這需要輸入以及其域考慮而做出的預測。對于看不見的域，我們的方法簡單地使用少數未標記的測試示例來構建域嵌入。這使得對任何看不見的域進行自適應分類成為可能。我們的方法在各種領域泛化基準上實現了最先進的性能。此外，我們還引入了第一個真實世界的大規模域泛化基準Geo-YFCC，該基準包含超過40個訓練域、7個驗證域和15個測試域的1.1萬個樣本，比之前的工作大了幾個數量級。我們表明，現有的方法要么不能擴展到這個數據集，要么不如基于所有訓練領域的數據聯合的訓練模型的簡單基線。相比之下，我們的方法獲得了顯著的1%的改進。
//www.zhuanzhi.ai/paper/6e7661967d0879ebfd0236873a75386b
付費5元查看完整內容
遷移學習
·
Adaptive Consistency Regularization for Semi-Supervised Transfer Learning Abulikemu Abuduweili1,2*, Xingjian Li1,3? , Humphrey Shi2? , Cheng-Zhong Xu3 , Dejing Dou1?
雖然最近關于半監督學習的研究在利用標記和未標記數據方面取得了顯著進展，但大多數研究都假定模型的基本設置是隨機初始化的。在這項工作中，我們將半監督學習和遷移學習結合起來，從而形成一個更實用和更具競爭力的范式，該范式可以利用來自源領域的強大的預訓練模型以及目標領域的標記/未標記數據。更好地利用pre-trained權重和標記的價值目標的例子,我們引入自適應一致性互補正規化,由兩部分組成:自適應知識一致性(AKC)在源和目標之間的示例模型和自適應表示一致性(AKC)標記和未標記示例之間的目標模型。一致性正則化所涉及的實例是根據它們對目標任務的潛在貢獻自適應選擇的。通過微調ImageNet預先訓練的ResNet-50模型，我們對流行基準進行了廣泛的實驗，包括CIFAR-10、CUB-200、Indoor67和MURA。結果表明，我們提出的自適應一致性正則化優于最先進的半監督學習技術，如偽標簽、Mean Teacher和MixMatch。此外，我們的算法與現有的方法是正交的，因此能夠在MixMatch和FixMatch之上獲得額外的改進。我們的代碼可以在//github.com/SHI-Labs/SemiSupervised-Transfer-Learning上找到。
付費5元查看完整內容
圖神經網絡最近的成功極大地促進了分子性質的預測，促進了藥物發現等活動。現有的深度神經網絡方法通常對每個屬性都需要大量的訓練數據集，在實驗數據量有限的情況下(特別是新的分子屬性)會影響其性能，這在實際情況中是常見的。為此，我們提出了Meta-MGNN，一種新穎的預測少樣本分子性質的模型。Meta-MGNN應用分子圖神經網絡學習分子表示，建立元學習框架優化模型。為了挖掘未標記的分子信息，解決不同分子屬性的任務異質性，Meta-MGNN進一步將分子結構、基于屬性的自監督模塊和自關注任務權重整合到Meta-MGNN框架中，強化了整個學習模型。在兩個公共多屬性數據集上進行的大量實驗表明，Meta-MGNN優于各種最先進的方法。
付費5元查看完整內容
記憶門控循環網絡
·
多元序列學習的本質是如何提取數據中的相關性。這些數據集，如重癥監護病房的每小時醫療記錄和多頻語音時間序列，通常不僅在個別成分中表現出強烈的序列依賴性(“邊緣”記憶)，而且在橫剖面依賴性中也表現出不可忽略的記憶(“聯合”記憶)。由于聯合分布演化的多元復雜性是數據生成過程的基礎，我們采用數據驅動的方法，構建了一種新的循環網絡結構，稱為記憶門控循環網絡(mGRN)，門顯式地調節兩種不同類型的記憶:邊緣記憶和聯合記憶。通過對一系列公共數據集的綜合模擬研究和經驗實驗的結合，我們表明我們提出的mGRN架構始終優于針對多元時間序列的最先進架構。
//www.zhuanzhi.ai/paper/4236df35ff33a6911c4913ac13bb78e0
付費5元查看完整內容
小樣本自然語言處理(NLP)是指NLP任務只具有少量標注的樣例。這是人工智能系統必須學會處理的現實挑戰。通常我們依賴于收集更多的輔助信息或開發一個更有效的學習算法。然而，在高容量模型中，一般基于梯度的優化，如果從頭開始訓練，需要對大量帶標記的樣例進行很多參數更新步驟，才能表現良好(Snell et al.， 2017)。
如果目標任務本身不能提供更多的信息，如何收集更多帶有豐富標注的任務來幫助模型學習?元學習的目標是訓練一個模型在各種任務上使用豐富的標注，這樣它就可以用少量標記的樣本解決一個新的任務。關鍵思想是訓練模型的初始參數，這樣當參數通過零階或幾個梯度步驟更新后，模型在新任務上有最大的性能。
已經有一些關于元學習的綜述，例如(Vilalta和Drissi, 2002;Vanschoren, 2018;Hospedales等，2020)。然而，本文的研究主要集中在NLP領域，尤其是小樣本的應用。本文試圖對元學習應用于較少次數的神經語言處理提供更清晰的定義、進展總結和一些常用的數據集。
付費5元查看完整內容
圖分類的目的是對圖結構數據進行準確的信息提取和分類。在過去的幾年里，圖神經網絡(GNNs)在圖分類任務上取得了令人滿意的成績。然而，大多數基于GNNs的方法側重于設計圖卷積操作和圖池操作，忽略了收集或標記圖結構數據比基于網格的數據更困難。我們利用元學習來進行小樣本圖分類，以減少訓練新任務時標記圖樣本的不足。更具體地說，為了促進圖分類任務的學習，我們利用GNNs作為圖嵌入主干，利用元學習作為訓練范式，在圖分類任務中快速捕獲特定任務的知識并將其轉移到新的任務中。為了提高元學習器的魯棒性，我們設計了一種新的基于強化學習的步進控制器。實驗表明，與基線相比，我們的框架運行良好。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191