亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

時空時間序列預測在廣泛的現實應用中發揮著關鍵作用。盡管在這一領域已經取得了顯著進展，但充分捕捉和利用時空異質性仍然是一個根本性挑戰。因此，我們提出了一種新穎的異質性信息元參數學習方案。具體來說，我們的方法通過學習空間和時間嵌入來隱式捕捉時空異質性，這可以看作是一個聚類過程。然后，提出了一種新穎的時空元參數學習范式，從元參數池中學習時空特定參數，并以捕捉到的異質性為指導。基于這些思想，我們開發了用于時空時間序列預測的異質性信息時空元網絡（HimNet）。在五個廣泛使用的基準上進行的大量實驗表明，我們的方法在表現出卓越解釋性的同時，達到了最先進的性能。我們的代碼可在//github.com/XDZhelheim/HimNet獲取。

大規模預訓練的普及促進了醫學基礎模型的發展。然而，一些研究表明，盡管基礎模型具有較強的一般特征提取能力，但其在特定任務上的表現仍不如特定任務方法。在本文中，我們探索了一種稱為“知識分解”的新視角來提高特定醫療任務的性能，該視角將基礎模型解構為多個輕量級專家模型，每個模型致力于特定任務，目的是提高專業化，同時減少資源支出。為了實現上述目標，我們設計了一種新的低秩知識分解框架(LoRKD)，該框架通過結合低秩專家模塊和有效的知識分離卷積來明確地分離梯度。大量的實驗結果表明，分解模型在性能和可移植性方面表現良好，甚至超過了原有的基礎模型。源代碼可從//github.com/MediaBrainSJTU/LoRK獲得

元學習算法能夠利用先前學習的知識來學習新任務，但它們通常需要大量的元訓練任務，而這些任務可能并不容易獲得。為了解決這個問題，我們提出了一種用更少任務進行小樣本學習的方法，我們稱之為 MetaModulation（元調制）。關鍵的想法是通過在元訓練期間調節批量歸一化參數，使用神經網絡增加元訓練任務的密度。此外，我們在各種網絡層面，而非僅在單一層面，修改參數以增加任務多樣性。為了解決由于訓練任務有限而導致的不確定性，我們提出了一種變分元調制方法，其中調制參數被視為隱變量。我們還引入了通過變分元調制學習的變分特征層次結構，這種調制可以調節所有層面的特征，并能考慮任務不確定性，生成更多樣化的任務。消融研究顯示了在不同層面利用可學習的任務調制的優點，并證明了在少任務元學習中加入概率變體的好處。我們的元調制及其變分變體在四個少任務元學習基準測試中均一致優于當前最先進的替代方案。

//www.zhuanzhi.ai/paper/6bad681ebd0c520eacc14067e18627dc

從原始無標簽時間序列數據中學習語義豐富的表示，對于分類和預測等下游任務至關重要。最近，對比學習在沒有專家注釋的情況下顯示出了很好的表示學習能力。然而，現有的對比方法通常獨立地對待每個實例，從而導致具有相同語義的假負樣本對。為了解決這一問題，本文提出了一種掩碼層次聚類對比學習模型MHCCL，利用多元時間序列的多個潛在分區組成的層次結構所獲得的語義信息。細粒度聚類保持了較高的純度，而粗粒度聚類反映了更高層次的語義，受此啟發，本文提出了一種新的向下屏蔽策略，通過融合來自聚類層次的多粒度信息來過濾假負樣本并補充正樣本。此外，MHCCL設計了一種向上掩蔽策略，在每個劃分處去除聚類的離群點，以完善原型，有助于加快層次聚類過程，提高聚類質量。在7個廣泛使用的多元時間序列數據集上進行了實驗評估。實驗結果表明，MHCCL比目前最先進的無監督時間序列表示學習方法具有優越性。

//www.zhuanzhi.ai/paper/e0c875b4a35564ddf37b97d9d3fab9f7

我們研究離線元強化學習，這是一種實用的強化學習范式，從離線數據中學習以適應新的任務。離線數據的分布由行為策略和任務共同決定。現有的離線元強化學習算法無法區分這些因素，導致任務表示對行為策略的變化不穩定。為了解決這個問題，我們提出了一個任務表示的對比學習框架，該框架對訓練和測試中的行為策略分布不匹配具有魯棒性。我們設計了一個雙層編碼器結構，使用互信息最大化來形式化任務表示學習，導出了一個對比學習目標，并引入了幾種方法來近似負對的真實分布。在各種離線元強化學習基準上的實驗表明，我們的方法比以前的方法更有優勢，特別是在泛化到非分布行為策略上。代碼可以在//github.com/PKU-AI-Edge/CORRO上找到。

視覺對話旨在回答基于對話歷史和圖像內容的多輪互動問題。現有方法要么單獨考慮答案排序和生成，要么僅通過兩個單獨的模型微弱地捕捉兩個任務之間的關系。在單一模型中共同學習排序和生成答案的通用框架的研究很少。在本文中，我們提出了一個基于對比學習的框架UTC，以統一和促進識別任務和生成任務在視覺對話中使用單一的模型。具體來說，考慮到之前學習范式的內在局限性，我們設計了兩種任務間對比損失，即情境對比損失和答案對比損失，使區分性任務和生成性任務相輔相成。這兩種互補的對比損失利用對話語境和目標答案作為錨點，從不同的角度提供表征學習信號。我們在VisDial v1.0數據集上評估我們提出的UTC，在那里，我們的方法在鑒別和生成任務上優于最先進的技術，并在Recall@1上超過2個絕對點。

//www.zhuanzhi.ai/paper/527537bf22a0260715026e0ea474fb5f

持續學習變得越來越重要，因為它使NLP模型能夠隨著時間的推移不斷地學習和獲取知識。以往的持續學習方法主要是為了保存之前任務的知識，并沒有很好地將模型推廣到新的任務中。在這項工作中，我們提出了一種基于信息分解的正則化方法用于文本分類的持續學習。我們提出的方法首先將文本隱藏空間分解為對所有任務都適用的表示形式和對每個單獨任務都適用的表示形式，并進一步對這些表示形式進行不同的規格化，以更好地約束一般化所需的知識。我們還介紹了兩個簡單的輔助任務:下一個句子預測和任務id預測，以學習更好的通用和特定表示空間。在大規模基準上進行的實驗證明了我們的方法在不同序列和長度的連續文本分類任務中的有效性。

類不平衡數據的半監督學習雖然是一個現實的問題，但已經得到了研究。雖然現有的半監督學習(SSL)方法在少數類上表現不佳，但我們發現它們仍然在少數類上生成高精度的偽標簽。通過利用這一特性，在這項工作中，我們提出了類再平衡自我訓練(CReST)，這是一個簡單而有效的框架，用于改進現有的對類不平衡數據的SSL方法。CReST通過從一個未標記集中添加偽標記樣本擴展了一個標記集，迭代地重新訓練一個基線SSL模型，在該模型中，根據估計的類分布，從少數類中更頻繁地選擇偽標記樣本。我們還提出了一種漸進式分布對齊，以適應調整CReST+的再平衡強度。我們展示了CReST和CReST+在各種類不平衡的數據集上改進了最先進的SSL算法，并始終優于其他流行的再平衡方法。

//www.zhuanzhi.ai/paper/fdb3245caf8bded4d2ba340c2a9c64cc

為了從最能區分類的高維數據中學習內在的低維結構，我們提出了最大編碼率降低原理(MCR2)，這是一種信息理論度量，可以最大限度地提高整個數據集和每個類的編碼率差。明確了它與交叉熵、信息瓶頸、信息增益、壓縮學習和對比學習等現有框架的關系，為學習多樣性和有判別性表示提供了理論保障。該編碼率可以從簡并類子空間分布的有限樣本中精確地計算出來，并且可以統一地學習有監督、自監督和無監督三種情況下的本征表示。特別地，單獨使用該原理學習的表示比使用交叉熵學習的表示在分類中標記錯誤時具有更強的魯棒性，并且可以在自學習不變特征聚類混合數據方面產生最先進的結果。

//www.zhuanzhi.ai/paper/fb91343d453aad8707064021f94bb9de

領域適應(DA)提供了重用數據和模型用于新問題領域的有價值的方法。然而，對于具有不同數據可用性的時間序列數據，還沒有考慮到健壯的技術。在本文中，我們做出了三個主要貢獻來填補這一空白。我們提出了一種新的時間序列數據卷積深度域自適應模型(CoDATS)，該模型在現實傳感器數據基準上顯著提高了最先進的DA策略的準確性和訓練時間。通過利用來自多個源域的數據，我們增加了CoDATS的有用性，從而進一步提高了與以前的單源方法相比的準確性，特別是在域之間具有高度可變性的復雜時間序列數據集上。其次，我們提出了一種新的弱監督域自適應(DA-WS)方法，利用目標域標簽分布形式的弱監督，這可能比其他數據標簽更容易收集。第三，我們對不同的真實數據集進行了綜合實驗，以評估我們的域適應和弱監督方法的有效性。結果表明，用于單源DA的CoDATS比最先進的方法有了顯著的改進，并且我們使用來自多個源域和弱監督信號的數據實現了額外的準確性改進。