亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

基于深度學習的半監督學習(SSL)算法在醫學圖像分割方面取得了很有前途的結果，并可以通過利用未標記的數據減輕醫生昂貴的標注。然而，現有文獻中的大多數SSL算法都傾向于通過干擾網絡和/或數據來規約模型訓練。考慮到多/雙任務學習涉及到具有固有的預測擾動的各個級別的信息，我們在這項工作中提出了一個問題:我們能夠顯式地構建任務級別的正則化，而不是隱式地構建用于SSL的網絡和/或數據級別的擾動和轉換嗎?為了回答這個問題，我們首次提出了一個新的雙任務一致性半監督框架。具體地說，我們使用一個雙任務深度網絡來聯合預測一個像素級分割圖和一個幾何感知的目標集表示。通過可微任務轉換層將水平集表示轉換為近似分割映射。同時，我們在水平集導出的分割圖和直接預測的分割圖之間引入了一種雙任務一致性正則化，用于標記和未標記數據。在兩個公共數據集上的大量實驗表明，我們的方法可以通過合并未標記數據極大地提高性能。同時，我們的框架優于最先進的半監督醫學圖像分割方法。代碼可以在//github.com/Luoxd1996/DTC找到。

圖神經網絡（GNN）已經成為圖表示學習的事實標準，它通過遞歸地聚集圖鄰域的信息來獲得有效的節點表示。盡管 GNN 可以從頭開始訓練，但近來一些研究表明：對 GNN 進行預訓練以學習可用于下游任務的可遷移知識能夠提升 SOTA 性能。但是，傳統的 GNN 預訓練方法遵循以下兩個步驟：

在大量未標注數據上進行預訓練； 在下游標注數據上進行模型微調。 由于這兩個步驟的優化目標不同，因此二者存在很大的差距。

在本文中，我們分析了預訓練和微調之間的差異，并為了緩解這種分歧，我們提出了一種用于GNNs的自監督預訓練策略L2P-GNN。方法的關鍵是L2P-GNN試圖以可轉移的先驗知識的形式學習如何在預訓練過程中進行微調。為了將局部信息和全局信息都編碼到先驗信息中，我們在節點級和圖級設計了一種雙重自適應機制。最后，我們對不同GNN模型的預訓練進行了系統的實證研究，使用了一個蛋白質數據集和一個文獻引用數據集進行了預訓練。實驗結果表明，L2P-GNN能夠學習有效且可轉移的先驗知識，為后續任務提供好的表示信息。我們在//github.com/rootlu/L2P-GNN公開了模型代碼，同時開源了一個大規模圖數據集，可用于GNN預訓練或圖分類等。

總體來說，本文的貢獻如下：

• 首次探索學習預訓練 GNNs，緩解了預訓練與微調目標之間的差異，并為預訓練 GNN 提供了新的研究思路。
• 針對節點與圖級表示，該研究提出完全自監督的 GNN 預訓練策略。
• 針對預訓練 GNN，該研究建立了一個新型大規模書目圖數據，并且在兩個不同領域的數據集上進行了大量實驗。實驗表明，該研究提出的方法顯著優于 SOTA 方法。

多元序列學習的本質是如何提取數據中的相關性。這些數據集，如重癥監護病房的每小時醫療記錄和多頻語音時間序列，通常不僅在個別成分中表現出強烈的序列依賴性(“邊緣”記憶)，而且在橫剖面依賴性中也表現出不可忽略的記憶(“聯合”記憶)。由于聯合分布演化的多元復雜性是數據生成過程的基礎，我們采用數據驅動的方法，構建了一種新的循環網絡結構，稱為記憶門控循環網絡(mGRN)，門顯式地調節兩種不同類型的記憶:邊緣記憶和聯合記憶。通過對一系列公共數據集的綜合模擬研究和經驗實驗的結合，我們表明我們提出的mGRN架構始終優于針對多元時間序列的最先進架構。

//www.zhuanzhi.ai/paper/4236df35ff33a6911c4913ac13bb78e0

在本文中，我們提出了一種用于語義分割的無監督域自適應算法，該算法的目標是利用有標記的合成數據來分割無標記的真實數據。UDA語義分割的主要問題在于縮小真實圖像與合成圖像之間的域差距。為了解決這個問題，我們將重點放在將圖像中的信息分離為內容和樣式。在這里，只有內容具有進行語義分割的線索，而風格造成了領域差距。因此，即使在使用合成數據進行學習時，也可以將圖像中的內容和風格進行精確的分離，起到監督真實數據的作用。為了充分利用這種效果，我們提出采用零損失模式。盡管我們在實域上很好地提取了用于語義分割的內容，但在語義分類器中仍然存在類別不平衡的問題。我們通過將尾部類的內容從合成域轉移到實域來解決這個問題。實驗結果表明，該方法在兩種主要的神經網絡環境下都取得了最先進的語義分割性能。

在本文中，我們研究了在自然環境下使用無標記視頻進行視覺對應的自監督學習。我們的方法同時考慮視頻內和視頻間的表示關聯，以獲得可靠的對應估計。視頻內學習通過幀對相似性在單個視頻中跨幀轉換圖像內容。為了獲得實例級分離的判別表示，我們在視頻內部分析的基礎上，構造了視頻間的相似關系，以方便不同視頻之間的對比變換。通過強制視頻內級和視頻間級之間的轉換一致性，可以很好地保留細粒度的對應關聯，有效地加強實例級特征識別。在視頻目標跟蹤(VOT)、視頻目標分割(VOS)、姿態關鍵點跟蹤等一系列視覺任務上，我們的簡單框架的性能優于最近的自監督對應方法。值得一提的是，我們的方法也超過了完全監督的相似表示(如ResNet)，并與最近為特定任務(如VOT和VOS)設計的完全監督算法相媲美。

//arxiv.org/abs/2012.05057

簡介：小樣本學習（Few-shot Learning）近年來吸引了大量的關注，但是針對多標簽問題（Multi-label）的研究還相對較少。在本文中，我們以用戶意圖檢測任務為切入口，研究了的小樣本多標簽分類問題。對于多標簽分類的SOTA方法往往會先估計標簽-樣本相關性得分，然后使用閾值來選擇多個關聯的標簽。 為了在只有幾個樣本的Few-shot場景下確定合適的閾值，我們首先在數據豐富的多個領域上學習通用閾值設置經驗，然后采用一種基于非參數學習的校準（Calibration）將閾值適配到Few-shot的領域上。 為了更好地計算標簽-樣本相關性得分，我們將標簽名稱嵌入作為表示（Embedding）空間中的錨點，以優化不同類別的表示，使它們在表示空間中更好的彼此分離。 在兩個數據集上進行的實驗表明，所提出的模型在1-shot和5-shot實驗均明顯優于最強的基線模型（baseline）。

//www.zhuanzhi.ai/paper/caf3b2b72106ee93d00ddbe2416c4e1a

我們發現了在流行的小樣本學習(FSL)方法中一直被忽視的一個缺陷: 預訓練的知識確實是限制性能的一個混雜因素。這一發現源于我們的因果假設: 一個關于預訓練的知識、樣本特征和標簽之間因果關系的結構性因果模型(SCM)。正因為如此，我們提出了一種新的FSL范式:干預少樣本學習(IFSL)。具體來說,我們開發三個有效的IFSL算法,它本質上是一個因果干預SCM學習:目前在因果視圖的上限。值得注意的是，IFSL的貢獻與現有的基于微調和元學習的FSL方法是正交的，因此IFSL可以改進所有這些方法.

在海量大數據的幫助下，深度學習在許多領域都取得了顯著的成功。但是，數據標簽的質量是一個問題，因為在許多現實場景中缺乏高質量的標簽。由于帶噪標簽嚴重降低了深度神經網絡的泛化性能，從帶噪標簽中學習(魯棒訓練)已成為現代深度學習應用的一項重要任務。在這個綜述中，我們首先從監督學習的角度來描述標簽噪聲的學習問題。接下來，我們提供了對46種最先進的魯棒訓練方法的全面回顧，所有這些方法根據其方法上的差異被歸類為7組，然后系統地比較用于評價其優越性的6種屬性。然后，總結了常用的評價方法，包括公共噪聲數據集和評價指標。最后，我們提出了幾個有前景的研究方向，可以作為未來研究的指導。

//arxiv.org/abs/2007.08199

題目：

Probabilistic Video Prediction from Noisy Data with a Posterior Confidence

簡介：

我們從一系列嘈雜的輸入中研究了概率視頻預測的新研究問題，這很有用，因為在實際的時空預測應用中很難保證輸入幀的質量。它也具有挑戰性，因為它涉及兩個級別的不確定性：來自噪聲觀測的感知不確定性和正向建模中的動力學不確定性。在本文中，我們通過端到端訓練模型，稱為貝葉斯預測網絡（BP-Net）。與先前在隨機視頻預測中假設時空一致性并因此無法處理感知不確定性的工作不同，BP-Net在集成框架中對兩個不確定性水平進行建模。此外，與以前的工作僅能提供未分類的未來幀估計不同，BP-Net利用可微的順序重要性抽樣（SIS）方法基于基礎物理狀態的推論做出未來的預測，從而根據SIS重要性權重，即置信度。我們的實驗結果表明，BP-Net在根據嘈雜數據預測未來幀方面明顯優于現有方法。