亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

借助現代的高容量模型，大數據已經推動了機器學習的許多領域的革命，但標準方法——從標簽中進行監督學習，或從獎勵功能中進行強化學習——已經成為瓶頸。即使數據非常豐富，獲得明確指定模型必須做什么的標簽或獎勵也常常是棘手的。收集簡單的類別標簽進行分類對于數百萬計的示例來說是不可能的，結構化輸出(場景解釋、交互、演示)要糟糕得多，尤其是當數據分布是非平穩的時候。

自監督學習是一個很有前途的替代方法，其中開發的代理任務允許模型和代理在沒有明確監督的情況下學習，這有助于對感興趣的任務的下游性能。自監督學習的主要好處之一是提高數據效率:用較少的標記數據或較少的環境步驟(在強化學習/機器人技術中)實現可比較或更好的性能。

自監督學習(self-supervised learning, SSL)領域正在迅速發展，這些方法的性能逐漸接近完全監督方法。

題目： Self-supervised Equivariant Attention Mechanism for Weakly Supervised Semantic Segmentation

摘要： 圖像級弱監督語義分割是近年來深入研究的一個具有挑戰性的問題。大多數高級解決方案都利用類激活映射(CAM)。然而，由于監督的充分性和弱監督的差距，CAMs很難作為目標掩模。在這篇論文中，我們提出了一個自我監督的等變注意機制(SEAM)來發現額外的監督并縮小差距。我們的方法是基于等方差是完全監督語義分割的一個隱含約束，其像素級標簽在數據擴充過程中與輸入圖像進行相同的空間變換。然而，這種約束在圖像級監控訓練的凸輪上丟失了。因此，我們提出了對不同變換圖像的預測凸輪進行一致性正則化，為網絡學習提供自監督。此外，我們提出了一個像素相關模塊(PCM)，它利用上下文外觀信息，并改進當前像素的預測由其相似的鄰居，從而進一步提高CAMs的一致性。在PASCAL VOC 2012數據集上進行的大量實驗表明，我們的方法在同等監督水平下表現優于最先進的方法。

主題： Learning Video Object Segmentation from Unlabeled Videos

摘要：

我們提出了一種新的視頻對象分割方法(VOS)，解決了從未標記的視頻中學習對象模式的問題，而現有的方法大多依賴于大量的帶注釋的數據。我們引入了一個統一的無監督/弱監督學習框架，稱為MuG，它全面地捕捉了VOS在多個粒度上的內在特性。我們的方法可以幫助提高對VOS中可視模式的理解，并顯著減少注釋負擔。經過精心設計的體系結構和強大的表示學習能力，我們的學習模型可以應用于各種VOS設置，包括對象級零鏡頭VOS、實例級零鏡頭VOS和單鏡頭VOS。實驗表明，在這些設置下，有良好的性能，以及利用無標記數據進一步提高分割精度的潛力。

小樣本學習是計算機視覺中的一項基本任務，它帶來了減輕對詳盡標記數據需求的希望。到目前為止，大多數小樣本學習方法都集中在日益復雜的神經特征提取器和分類器適應策略，以及任務定義本身的細化。在這篇論文中，我們探討了一個假設，即一個簡單的基于類協方差的距離度量，即馬氏距離，被采用到一個最先進的小樣本學習方法(CNAPS)中，它本身可以導致顯著的性能改進。我們還發現，學習自適應特征提取器是可能的，它允許從非常少的樣本中對該度量所需的高維特征協方差進行有用的估計。我們的工作結果是一個新的“簡單的CNAPS”架構，它比CNAPS少了9.2%的可訓練參數，并且在標準的小樣本圖像分類基準數據集上比現有的技術水平高了6.1%。

許多視覺和語言的研究集中在一組小而多樣的獨立任務和支持的數據集上，這些數據集通常是單獨研究的;然而，成功完成這些任務所需的視覺語言理解技能有很大的重疊。在這項工作中，我們通過開發一個大規模的、多任務的訓練機制來研究視覺和語言任務之間的關系。我們的方法最終在12個數據集上建立了一個模型，這些數據集來自4大類任務，包括可視化問題回答、基于標題的圖像檢索、基礎引用表達式和多模態驗證。與獨立訓練的單任務模型相比，這意味著從大約30億個參數減少到2.7億個參數，同時在各個任務中平均提高性能2.05個百分點。我們使用我們的多任務框架來深入分析聯合訓練不同任務的效果。此外，我們還展示了從單一的多任務模型中細化特定任務模型可以帶來進一步的改進，達到或超過最先進的性能。

簡介： 在許多將數據表示為圖形的領域中，學習圖形之間的相似性度量標準被認為是一個關鍵問題，它可以進一步促進各種學習任務，例如分類，聚類和相似性搜索。 最近，人們對深度圖相似性學習越來越感興趣，其中的主要思想是學習一種深度學習模型，該模型將輸入圖映射到目標空間，以使目標空間中的距離近似于輸入空間中的結構距離。 在這里，我們提供對深度圖相似性學習的現有文獻的全面回顧。 我們為方法和應用提出了系統的分類法。 最后，我們討論該問題的挑戰和未來方向。

在特征空間上學習足夠的相似性度量可以顯著確定機器學習方法的性能。從數據自動學習此類度量是相似性學習的主要目的。相似度/度量學習是指學習一種功能以測量對象之間的距離或相似度，這是許多機器學習問題（例如分類，聚類，排名等）中的關鍵步驟。例如，在k最近鄰（kNN）中分類[25]，需要一個度量來測量數據點之間的距離并識別最近的鄰居；在許多聚類算法中，數據點之間的相似性度量用于確定聚類。盡管有一些通用度量標準（例如歐幾里得距離）可用于獲取表示為矢量的對象之間的相似性度量，但是這些度量標準通常無法捕獲正在研究的數據的特定特征，尤其是對于結構化數據。因此，找到或學習一種度量以測量特定任務中涉及的數據點的相似性至關重要。

論文題目

論文摘要

盡管細粒度重新定義在我們的領域中的可見性不斷提高，“細粒度”至今還缺乏一個明確的定義，在這項工作中，我們在集群理論的基礎上，尋求一個測量數據集粒度的框架。我們認為數據集的粒度不僅取決于數據樣本及其標簽，而且還取決于我們選擇的距離函數。我們提出了一個無公理框架來捕獲ADATASET粒度測量所需的屬性，并提供滿足這些特性的MEA保證的例子。我們通過對不同粒度的分層標記數據集的實驗來評估每種度量。當用我們的方法測量常用數據集中的粒度時，我們發現某些事實上被廣泛認為是細粒度的數據集包含相當大的子集，這些子集實質上比通常被認為是粗粒度的數據集更粗粒度。我們還研究了數據粒度與各種因素之間的相互作用，發現細粒度數據集更難學習，更難傳輸到，更難執行很少的shotlearning，更容易受到攻擊。

論文作者

Yin Cui,來自康奈爾大學，康奈爾科技學院； Zeqi Gu，來自康奈爾大學； Dhruv Mahajan，來自FaceBoo AI； Laurens van der Maaten，來自FaceBoo書 AI； Serge Belongie，來自康奈爾大學，康奈爾科技學院； Ser-Nam Lim，來自FaceBook AI。

摘要： 現有的不流利檢測方法大多嚴重依賴人工標注的數據，而在實踐中獲取這些數據的成本很高。為了解決訓練數據的瓶頸，我們研究了將多個自監督任務相結合的方法。在監督任務中，無需人工標記就可以收集數據。首先，我們通過隨機添加或刪除未標記新聞數據中的單詞來構建大規模的偽訓練數據，并提出了兩個自我監督的訓練前任務:(i)標記任務來檢測添加的噪聲單詞。(ii)對句子進行分類，區分原句和語法錯誤句子。然后我們將這兩個任務結合起來共同訓練一個網絡。然后使用人工標注的不流利檢測訓練數據對訓練前的網絡進行微調。在常用的英語交換機測試集上的實驗結果表明，與以前的系統(使用完整數據集進行訓練)相比，我們的方法只需使用不到1%(1000個句子)的訓練數據，就可以獲得具有競爭力的性能。我們的方法在全數據集上進行訓練，明顯優于以前的方法，在英語Switchboard上將錯誤率降低了21%。