亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

目前面向異質圖的圖卷積神經網絡普遍存在兩個重要的不足：（1）大部分已有工作依賴用戶人工輸入一系列任務相關的元路徑（Meta-path），這對于沒有專業知識的用戶來說是困難的。換句話說，已有方法無法有效地、靈活地從所有可能的元路徑中自動挖掘出針對某個任務的最優元路徑，這阻礙了模型的有效性和可解釋性；（2）大部分已有方法在執行圖卷積之前都需要執行額外的、耗時的預處理操作，這顯著增加了模型的時間復雜度，限制了模型的伸縮性。為了解決上述兩個問題，該論文提出了高效且可解釋的異質圖卷積神經網絡ie-HGCN，其包含了投影，對象級聚合，類型級聚合三個關鍵步驟。該模型可以端到端地自動評估所有可能的元路徑的重要性，在粗粒度和細粒度兩個層面上發現對于當前任務最優的元路徑。而且，提出的兩層聚合架構也可以避免額外的預處理操作，從而降低了模型的時間復雜度。論文從理論上證明了ie-HGCN自動發現元路徑的能力，分析了其與譜圖卷積的聯系，分析了其近似線性的時間復雜度。在四個真實網絡數據集上的實驗結果顯示，ie-HGCN不僅能夠取得優越的性能，而且可以有效地發現元路徑。

在各種機器學習和數據分析任務中，學習一個圖的拓撲以揭示數據實體之間的底層關系扮演著重要的角色。在結構化數據在圖上平滑變化的假設下，問題可以表示為正半定錐上的正則凸優化，并用迭代算法求解。經典的方法需要一個顯式凸函數來反映一般的拓撲先驗，例如為增強稀疏性而使用L1懲罰，這限制了學習豐富拓撲結構的靈活性和表達性。基于學習優化(L2O)的思想，我們提出學習從節點數據到圖結構的映射。具體來說，我們的模型首先展開了一個迭代原對偶分裂算法到神經網絡。關鍵結構的近端投影被一個變分自編碼器取代，該編碼器用增強的拓撲特性來改進估計圖。模型以端到端方式訓練，使用成對的節點數據和圖樣本。在合成和真實數據上的實驗表明，在學習具有特定拓撲性質的圖時，我們的模型比經典的迭代算法更有效。

//www.zhuanzhi.ai/paper/b14639f0742ba74db5cc07a572dd92a7

神經網絡搜索（Neuarl Architecture Search)是近年來興起的熱門方向。在這次 ICML 的文章中，我們提出了 Few-shot NAS， 通過分割搜索空間，對分割后的子空間獨立建立了一個子超網絡（sub-supernet）來預測網絡性能。通過建立 one-shot NAS 和傳統挨個訓練 NAS 的聯系，few-shot NAS 巧妙繼承了兩種方法的優點，兼有 one-shot NAS 的快速和傳統 NAS 的準確網絡性能評估。大量實驗表明 few-shot NAS 是一個簡單易行的方法，在不同任務上和數據集上能提升當下幾乎所有的 NAS 方法，包括 ImageNet 及 CIFAR-10 的分類任務和 GAN 這樣的生成任務等。該文章被 ICML-2021 接收為 long talk。

論文鏈接：//www.zhuanzhi.ai/paper/1dcafa33a4d3b9d9aa3004f85f92dcf0 源代碼鏈接：

Adaptive Methods for Real-World Domain Generalization

不變方法在解決領域泛化問題方面已經取得了顯著的成功，該問題的目標是對不同于訓練中使用的數據分布進行推斷。在我們的工作中，我們研究是否有可能利用未知測試樣本本身的領域信息。我們提出一個域自適應方法包括兩個步驟: a)我們首先學習區別的域嵌入從無監督訓練的例子,和 b)使用該域嵌入作為補充信息來構建一個domainadaptive模型,這需要輸入以及其域考慮而做出的預測。對于看不見的域，我們的方法簡單地使用少數未標記的測試示例來構建域嵌入。這使得對任何看不見的域進行自適應分類成為可能。我們的方法在各種領域泛化基準上實現了最先進的性能。此外，我們還引入了第一個真實世界的大規模域泛化基準Geo-YFCC，該基準包含超過40個訓練域、7個驗證域和15個測試域的1.1萬個樣本，比之前的工作大了幾個數量級。我們表明，現有的方法要么不能擴展到這個數據集，要么不如基于所有訓練領域的數據聯合的訓練模型的簡單基線。相比之下，我們的方法獲得了顯著的1%的改進。

//www.zhuanzhi.ai/paper/6e7661967d0879ebfd0236873a75386b

摘要: 近年來, 卷積神經網絡(Convolutional neural network, CNNs)在計算機視覺、自然語言處理、語音識別等領域取得了突飛猛進的發展, 其強大的特征學習能力引起了國內外專家學者廣泛關注.然而, 由于深度卷積神經網絡普遍規模龐大、計算度復雜, 限制了其在實時要求高和資源受限環境下的應用.對卷積神經網絡的結構進行優化以壓縮并加速現有網絡有助于深度學習在更大范圍的推廣應用, 目前已成為深度學習社區的一個研究熱點.本文整理了卷積神經網絡結構優化技術的發展歷史、研究現狀以及典型方法, 將這些工作歸納為網絡剪枝與稀疏化、張量分解、知識遷移和精細模塊設計4個方面并進行了較為全面的探討.最后, 本文對當前研究的熱點與難點作了分析和總結, 并對網絡結構優化領域未來的發展方向和應用前景進行了展望.

題目： Multi-Channel Graph Neural Networks

摘要： 圖結構數據的分類在許多學科中已經變得越來越重要。據觀察，在真實世界圖中保留的隱式或顯式的層次社區結構對于下游分類應用是有用的。利用分層結構的一個直接方法是利用池化算法將節點聚類到固定的組中，并逐層縮小輸入圖以學習池化的圖。但池化收縮丟棄了圖的細節，難以區分兩個非同構圖，固定聚類忽略了節點固有的多重特性。為了彌補網絡的收縮損失和學習網絡節點的各種特性，我們提出了多通道圖神經網絡（MuchGNN）。在卷積神經網絡的基礎機制的驅動下，我們定義了定制的圖卷積來學習每一層的一系列圖通道，并分層縮小圖來編碼匯集的結構。在真實數據集上的實驗結果證明了MuchGNN的優越性。