亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

題目： Laplacian Regularized Few-Shot Learning

簡介：

我們為小樣本學習提出了一個拉普拉斯正則化推斷。給定從基類中學習到的任何特征嵌入，我們將包含兩個項的二次二進制賦值函數最小化：（1）將查詢樣本分配給最近的類原型的一元項，以及（2）鼓勵附近查詢樣本成對使用的成對拉普拉斯項具有一致的標簽。我們的推論不會重新訓練基本模型，并且可以將其視為查詢集的圖形聚類，但要受到支持集的監督約束。我們導出了函數松弛的計算有效邊界優化器，該函數在保證收斂的同時為每個查詢樣本計算獨立（并行）更新。在基礎類上進行簡單的交叉熵訓練，并且沒有復雜的元學習策略后，我們對五個基準進行了全面的實驗。我們的LaplacianShot在不同模型，設置和數據集上具有顯著優勢，始終優于最新方法。此外，我們的歸納推理非常快，其計算時間接近于歸納推理，可用于大規模的一次性任務。

為了利用少量標注樣本實現對未見類圖片的識別，小樣本學習希望從可見類圖片中學習先驗知識。小樣本學習的難點是未見類別的數據分布與可見類別的不同，從而導致在可見類上訓練好的模型無法較好地遷移到未見類別領域。這種由于類別不同導致的數據分布差異可以看作是一種特殊的領域遷移問題。 在這篇論文中，我們提出了一種基于注意力機制的領域遷移原型網絡 (DAPNA)，去解決在元學習框架下的領域遷移問題。具體來說是在訓練過程中，我們將可見類的一個紀元 (episode，訓練單位)分拆成兩個類別完全不重合的子紀元（sub-episode)，用以模擬從可見類到未見類的領域遷移。在假定所有紀元都采樣于同一個分布的情況下，我們在理論上給出了該模型的期望損失上界，我們也根據該期望損失上界進行損失函數的設計與模型的優化。諸多實驗表明，我們所提出的DAPNA模型能比已有小樣本學習模型取得更好的效果。

模型主要由兩大子模塊構成：小樣本學習模塊和領域遷移模塊。流程圖中的AutoEncoder是兩個簡單的線性層，為了讓圖片特征的領域歸屬更模糊，在這里不做詳細介紹。

【導讀】小樣本學習是一類重要的機器學習方法，旨在解決數據缺少的情況下如何訓練模型的問題。在CVPR2020的Tutorial，來自valeo.ai的學者給了Spyros Gidaris關于小樣本學習的最新教程報告。

在過去的幾年里，基于深度學習的方法在圖像理解問題上取得了令人印象深刻的效果，如圖像分類、目標檢測或語義分割。然而，真實字計算機視覺應用程序通常需要模型能夠(a)通過很少的注釋例子學習，(b)不斷適應新的數據而不忘記之前的知識。不幸的是，經典的監督深度學習方法在設計時并沒有考慮到這些需求。因此，計算機視覺的下一個重大挑戰是開發能夠解決這方面現有方法的重要缺陷的學習方法。本教程將介紹實現這一目標的可能方法。小樣本學習(FSL)利用先驗知識，可以快速地泛化到只包含少量有監督信息的樣本的新任務中。

//annotation-efficient-learning.github.io/

目錄內容：

• 概述
• 小樣本學習種類
• 度量學習
• 帶記憶模塊的元學習
• 基于優化的元學習
• 學習預測模型參數
• 無遺忘小樣本學習
• 結論

大多數基于圖網絡的元學習方法都對實例級關系進行了建模。我們進一步擴展了這個思想，以1-vs-N的方式顯式地將一個示例的分布級關系建模為所有其他示例的分布級關系。提出了一種新的分布傳播圖網絡(DPGN)學習算法。在每一個小樣本學習任務中，它都傳達了分布層次關系和實例層次關系。為了結合所有實例的分布級關系和實例級關系，我們構造了一個由點圖和分布圖組成的對偶完全圖網絡，其中每個節點都代表一個實例。DPGN具有雙重圖結構，可以在幾個更新代中將標簽信息從帶標簽的示例傳播到未帶標簽的示例。在對小樣本學習基準的大量實驗中，DPGN在監督設置下的5% ~ 12%和在半監督設置下的7% ~ 13%的范圍內都比最新的結果好得多。代碼可以在//github.com/megviiresearch/DPGN找到。

人工智能技術在醫學影像領域的應用是醫學研究的熱點之一。然而，這一領域最近的成功主要依賴于大量仔細注釋的數據，而對醫學圖像進行注釋是一個昂貴的過程。在本文中，我們提出了一種新的方法，稱為FocalMix，據我們所知，這是第一個利用半監督學習(SSL)的最新進展來進行3D醫學圖像檢測的方法。我們對兩個廣泛應用的肺結節檢測數據集LUNA16和NLST進行了廣泛的實驗。結果表明，與最先進的監督學習方法相比，我們提出的SSL方法可以通過400個未標記的CT掃描實現高達17.3%的實質性改進。

小樣本學習是計算機視覺中的一項基本任務，它帶來了減輕對詳盡標記數據需求的希望。到目前為止，大多數小樣本學習方法都集中在日益復雜的神經特征提取器和分類器適應策略，以及任務定義本身的細化。在這篇論文中，我們探討了一個假設，即一個簡單的基于類協方差的距離度量，即馬氏距離，被采用到一個最先進的小樣本學習方法(CNAPS)中，它本身可以導致顯著的性能改進。我們還發現，學習自適應特征提取器是可能的，它允許從非常少的樣本中對該度量所需的高維特征協方差進行有用的估計。我們的工作結果是一個新的“簡單的CNAPS”架構，它比CNAPS少了9.2%的可訓練參數，并且在標準的小樣本圖像分類基準數據集上比現有的技術水平高了6.1%。

論文題目： Meta-GNN: On Few-shot Node Classification in Graph Meta-learning

摘要： 元學習作為一種模仿人類智能的可能方法，近來受到了極大的關注，即，學習新的知識和技能。現有的元學習方法多用于解決圖像、文本等少數樣本的學習問題，在歐幾里得域比較常見。然而，將元學習應用于非歐幾里得域的研究工作非常少，最近提出的圖神經網絡(GNNs)模型在處理圖少樣本學習問題時表現不佳。為此，我們提出了一種新的圖元學習框架——元GNN，以解決圖元學習環境中節點分類問題。該算法通過對多個相似的少樣本學習任務進行訓練，獲得分類器的先驗知識，然后利用標記樣本數量較少的新類對節點進行分類。此外，Meta-GNN是一個通用模型，可以直接納入任何現有的最先進的GNN。我們在三個基準數據集上的實驗表明，我們的方法不僅在元學習范式中大大提高了節點分類性能，而且為任務適應提供了一個更通用、更靈活的模型。

論文作者： Fan Zhou, Chengtai Cao, Kunpeng Zhang, Goce Trajcevski, Ting Zhong, Ji Geng