現代神經網絡訓練在很大程度上依賴于數據的增強來提高泛化能力。在保持標記的擴展最初獲得成功之后，最近出現了對標記擾動方法的興趣激增，這種方法將訓練樣本中的特征和標記結合起來，以平滑所學習的決策表面。在本文中，我們提出了一種新的增強方法，利用特征歸一化提取并重新注入第一和第二矩。我們將一個訓練圖像的學習特征的矩替換為另一個訓練圖像的學習特征的矩，并對目標標簽進行插值。由于我們的方法速度快，完全在特征空間中操作，并且與以前的方法相比混合了不同的信號，因此可以有效地將其與現有的增強方法相結合。我們在計算機視覺、語音和自然語言處理的基準數據集上演示了它的有效性，在這些基準數據集上，它不斷地提高了高度競爭的基線網絡的泛化性能。
付費5元查看完整內容
相關內容
題目： Convolutional Kernel Networks for Graph-Structured Data
摘要：
本文介紹了一系列多層圖核，并在圖卷積神經網絡和核方法之間建立了新的聯系。該方法通過將圖表示為一系列內核特征圖來概括卷積核網絡以繪制結構化數據圖，其中每個節點都承載有關局部圖子結構的信息。一方面，內核的觀點提供了一種無監督，表達性強且易于調整的數據表示形式，這在有限樣本可用時非常有用。另一方面，我們的模型也可以在大規模數據上進行端到端訓練，從而產生新類型的圖卷積神經網絡。并且證明了該方法在幾種圖形分類基準上均具有競爭優勢，同時提供了簡單的模型解釋。
付費5元查看完整內容
標題
對抗特征幻覺網絡的小樣本學習，Adversarial Feature Hallucination Networks for Few-Shot Learning
關鍵字
小樣本學習，神經網絡，生成對抗網絡，機器學習，人工智能
簡介
最近在各種任務中進行的深度學習蓬勃發展，在很大程度上已經獲得了豐富且可訪問的標記數據的認可。 盡管如此，對于許多實際應用而言，大量的監督仍然是奢侈的事情，這引起了人們對標簽稀缺技術的極大興趣，例如小樣本學習（FSL），旨在通過少量標簽樣本學習新類的概念。 FSL的自然方法是數據擴充，許多最近的工作通過提出各種數據綜合模型證明了其可行性。 但是，這些模型不能很好地確保合成數據的可分辨性和多樣性，因此經常會產生不良結果。 在本文中，我們提出了基于條件Wasserstein生成對抗網絡（cWGAN）的對抗特征幻覺網絡（AFHN），并幻化了以少量標記樣本為條件的各種和判別特征。 兩種新穎的正則化器，即分類正則器和反崩潰正則器，被合并到AFHN中以分別促進合成特征的可辨別性和多樣性。 消融研究驗證了所提出的基于cWGAN的特征幻覺框架和所提出的調節器的有效性。 在三個常見基準數據集上的比較結果證實了AFHN優于現有的基于數據增強的FSL方法和其他最新方法的優越性。
作者
Kai Li, Yulun Zhang, Kunpeng Li, Yun Fu，波士頓東北大學電氣與計算機工程系
付費5元查看完整內容
題目： Self-supervised Visual Feature Learning with Deep Neural Networks: A Survey
摘要： 為了在計算機視覺應用中從圖像或視頻中獲得更好的視覺特征學習性能，通常需要大規模的標記數據來訓練深度神經網絡。為了避免大規模數據集收集和標注的大量開銷，作為無監督學習方法的一個子集，提出了一種自監督學習方法，在不使用任何人類標注的標簽的情況下，從大規模無標記數據中學習圖像和視頻的一般特征。本文對基于深度學習的自監督一般視覺特征學習方法進行了廣泛的綜述。首先，描述了該領域的動機、通用管道和術語。在此基礎上，總結了常用的用于自監督學習的深度神經網絡體系結構。接下來，回顧了自監督學習方法的模式和評價指標，然后介紹了常用的圖像和視頻數據集以及現有的自監督視覺特征學習方法。最后，總結和討論了基于基準數據集的定量性能比較方法在圖像和視頻特征學習中的應用。最后，對本文的研究進行了總結，并提出了一套具有發展前景的自監督視覺特征學習方法。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191