現實世界中的對象頻率通常遵循冪次定律，導致機器學習模型所看到的具有長尾類分布的數據集與我們對模型在所有類上表現良好的期望之間的不匹配。我們從領域適應的角度來分析這種不匹配。首先，我們將現有的長尾分類的類平衡方法與目標移位相聯系，這是一個在領域適應方面得到充分研究的場景。這種聯系表明，這些方法隱含地假設訓練數據和測試數據共享相同的類條件分布，這種分布在一般情況下不成立，尤其是尾部類。雖然頭類可以包含豐富多樣的訓練示例，很好地表示推斷時的預期數據，但尾部類通常缺乏代表性的訓練數據。為此，我們建議通過元學習方法顯式地估計類條件分布之間的差異來擴充經典的類平衡學習。我們用6個基準數據集和3個損失函數驗證了我們的方法。
付費5元查看完整內容
相關內容
小樣本學習(FSL)近年來引起了越來越多的關注，但仍然具有挑戰性，因為學習從少數例子中歸納的固有困難。本文提出了一種自適應間隔原則，以提高基于度量的元學習方法在小樣本學習問題中的泛化能力。具體地說，我們首先開發了一個與類相關的加性邊緣損失算法，該算法考慮了每對類之間的語義相似性，從而將特征嵌入空間中的樣本從相似的類中分離出來。此外，我們在抽樣訓練任務中加入所有類別之間的語義上下文，并開發了與任務相關的附加間隔損失，以更好地區分不同類別的樣本。我們的自適應間隔方法可以很容易地推廣到更現實的廣義FSL設置。大量的實驗表明，在標準FSL和通用FSL設置下，所提出的方法可以提高現有基于度量的元學習方法的性能。
付費5元查看完整內容
領域適應(DA)提供了重用數據和模型用于新問題領域的有價值的方法。然而，對于具有不同數據可用性的時間序列數據，還沒有考慮到健壯的技術。在本文中，我們做出了三個主要貢獻來填補這一空白。我們提出了一種新的時間序列數據卷積深度域自適應模型(CoDATS)，該模型在現實傳感器數據基準上顯著提高了最先進的DA策略的準確性和訓練時間。通過利用來自多個源域的數據，我們增加了CoDATS的有用性，從而進一步提高了與以前的單源方法相比的準確性，特別是在域之間具有高度可變性的復雜時間序列數據集上。其次，我們提出了一種新的弱監督域自適應(DA-WS)方法，利用目標域標簽分布形式的弱監督，這可能比其他數據標簽更容易收集。第三，我們對不同的真實數據集進行了綜合實驗，以評估我們的域適應和弱監督方法的有效性。結果表明，用于單源DA的CoDATS比最先進的方法有了顯著的改進，并且我們使用來自多個源域和弱監督信號的數據實現了額外的準確性改進。
付費5元查看完整內容
題目： Multi-Modal Domain Adaptation for Fine-Grained Action Recognition
摘要： 細粒度動作識別數據集表現出環境偏差，其中多個視頻序列是從有限數量的環境中捕獲的。在一個環境中訓練一個模型，然后部署到另一個環境中，由于不可避免的領域轉換，會導致性能下降。無監督域適應(UDA)方法經常用于源域和目標域之間的對抗訓練。然而，這些方法并沒有探索視頻在每個領域的多模態性質。在這個工作我們利用模式的通信作為UDA self-supervised對齊的方法除了敵對的對齊(圖1),我們測試我們的方法在三個廚房從大規模的數據集,EPIC-Kitchens,使用兩種方法通常用于行為識別:RGB和光學流。結果表明，多模態的自監督比單純的訓練平均提高了2.4%。然后我們將對抗訓練與多模態自我監督相結合，結果表明我們的方法比其他的UDA方法高3%。
付費5元查看完整內容
小樣本學習是計算機視覺中的一項基本任務，它帶來了減輕對詳盡標記數據需求的希望。到目前為止，大多數小樣本學習方法都集中在日益復雜的神經特征提取器和分類器適應策略，以及任務定義本身的細化。在這篇論文中，我們探討了一個假設，即一個簡單的基于類協方差的距離度量，即馬氏距離，被采用到一個最先進的小樣本學習方法(CNAPS)中，它本身可以導致顯著的性能改進。我們還發現，學習自適應特征提取器是可能的，它允許從非常少的樣本中對該度量所需的高維特征協方差進行有用的估計。我們的工作結果是一個新的“簡單的CNAPS”架構，它比CNAPS少了9.2%的可訓練參數，并且在標準的小樣本圖像分類基準數據集上比現有的技術水平高了6.1%。
付費5元查看完整內容
題目： Adversarial-Learned Loss for Domain Adaptation
摘要： 近年來，在跨領域學習可轉移表征方面取得了顯著的進展。以往的領域適應研究主要基于兩種技術：領域對抗學習和自我訓練。然而，領域對抗性學習只會調整領域之間的特征分布，而不考慮目標特征是否具有區分性。另一方面，自訓練利用模型預測來增強目標特征的識別，但無法明確地指定領域分布。為了將這兩種方法的優點結合起來，我們提出了一種新的領域自適應的通用學習損失（ALDA）方法，首先分析了一種典型的自訓練方法偽標簽方法。然而，偽標簽和地面真實性之間存在差距，這可能導致錯誤的訓練。因此，我們引入了混淆矩陣，通過對抗性的方式在ALDA中學習，以減少gap并對齊特征分布。最后，從學習的混淆矩陣中自動構造一個新的損失函數，作為未標記目標樣本的損失。在四標準域自適應數據集中，OurALDA優于最新方法。
作者簡介： Haifeng Liu，博士，浙江大學計算機學院副教授。個人主頁：//person.zju.edu.cn/en/hfliu
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191