亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

在本文中，我們提出了一種端到端的圖學習框架，即迭代深度圖學習(IDGL)，用于共同迭代地學習圖結構和圖嵌入。IDGL的關鍵原理是學習基于更好的節點嵌入的更好的圖結構，反之亦然(即基于更好的圖結構的更好的節點嵌入)。我們的迭代方法動態停止時，學習圖接近足夠優化的圖預測任務。此外，我們將圖學習問題轉換為一個相似度量學習問題，并利用自適應圖正則化來控制學習圖的質量。最后，結合基于錨點的近似技術，我們進一步提出了一個可擴展的IDGL版本，即IDGL- anch，在不影響性能的前提下，顯著降低了IDGL的時間和空間復雜度。我們在9個基準上進行的廣泛實驗表明，我們提出的IDGL模型始終能夠優于或匹配最先進的基線。此外，IDGL還能更魯棒地處理對抗圖，并能同時處理傳導學習和歸納學習。

//arxiv.org/abs/2006.13009

從圖結構數據中學習節點集的結構表示對于從節點角色發現到鏈接預測和分子分類的各種應用至關重要。圖神經網絡（GNNs）在結構表示學習方面取得了巨大的成功。然而：

大多數 GNN 受到 1-Weisfeiler-Lehman（WL）test 的限制，因此有可能為實際上不同的結構和圖形生成相同的表示。 最近通過模仿高階 WL tests 提出的更強大的 GNN 只關注全圖表示，不能利用圖結構的稀疏性來提高計算效率。 這篇文章提出了一類與結構相關的特征，稱為距離編碼(Distance Encoding，DE)，以幫助 GNN 以比 1-WL test 更嚴格的表達能力來表示任意大小的節點集。DE 本質上捕獲了要學習表示的節點集與圖中每個節點之間的距離，其中包括與圖相關的重要度量，如最短路徑距離和廣義 PageRank 得分。

此外，此文還提出了兩個通用的 GNNs 框架來使用 DEs：

作為額外的節點屬性 進一步作為 GNNs 中消息聚合的控制器 這兩個框架仍然可以利用稀疏結構來保持處理大型圖的可擴展性。

理論上，作者證明了這兩個框架可以區分傳統 GNN 經常失效的幾乎所有規則圖中嵌入的節點集。還嚴格分析了它們的局限性。 實驗上，作者在6個真實網絡上分別從節點結構角色預測、鏈路預測和三角形預測三個方面對這兩個框架進行了實證評估。 結果表明，DE-assisted GNNs 的平均準確率比沒有 DEs 的 GNNs 提高了15%，DE-assisted GNNs 的性能也明顯優于專門為這些相應任務設計的其他最先進的基線。

本文通過最小化驗證損失代理來搜索最佳神經網絡結構。現有的神經結構搜索（NAS）方法在給定最新的網絡權重的情況下發現基于驗證樣本的最佳神經網絡結構。但是，由于在NAS中需要多次重復進行反向傳播，使用大量驗證樣本進行反向傳播可能會非常耗時。在本文中，我們建議通過學習從神經網絡結構到對應的損失的映射來近似驗證損失情況。因此，可以很容易地將最佳神經網絡結構識別為該代理驗證損失范圍的最小值。同時，本文進一步提出了一種新的采樣策略，可以有效地近似損失情況。理論分析表明，與均勻采樣相比，我們的采樣策略可以達到更低的錯誤率和更低的標簽復雜度。在標準數據集上的實驗結果表明，通過本方法進行神經結構搜索可以在較低的搜索時間內搜索到精度很高的網絡結構。

在最大化源與目標之間的互信息方面的最新進展已經證明了它在文本生成方面的有效性。然而，以往的工作對MI(即MI)的后向網絡建模關注較少。這對于變分信息最大化下界的緊密性至關重要。在本文中，我們提出了一個對抗互信息(AMI):一個文本生成框架，它是一個新的鞍點(min-max)優化，旨在識別源與目標之間的聯合交互。在這個框架中，通過比較真實和合成的數據分布，前向網絡和后向網絡能夠迭代地提升或降級彼此生成的實例。我們還開發了一個潛在噪聲采樣策略，利用高級語義空間的隨機變化來增強生成過程中的長期依賴性。基于不同文本生成任務的大量實驗表明，所提出的AMI框架能夠顯著優于多個強基線，我們還表明，AMI有可能為變分信息最大化問題帶來更緊密的互信息上限。

//www.zhuanzhi.ai/paper/ccd8403755c153d155bec032656f8c49

主題： Multi-Agent Determinantal Q-Learning

摘要： 具有分散執行力的集中訓練已成為多主體學習中的重要范例。盡管可行，但是當前的方法依賴于限制性假設來分解跨執行主體的集中價值函數。在本文中，我們通過提出多智能體確定性Q學習來消除這種限制。我們的方法是基于Q-DPP，這是一種將確定性點過程（DPP）擴展到多智能體設置的新方法。 Q-DPP促進代理商獲取多種行為模式；這允許對聯合Q函數進行自然分解，而無需對值函數或特殊網絡體系結構進行先驗結構約束。我們證明Q-DPP在可分散合作任務上概括了包括VDN，QMIX和QTRAN在內的主要解決方案。為了有效地從Q-DPP提取樣本，我們開發了具有理論近似保證的線性時間采樣器。在訓練過程中，我們的采樣器還通過協調代理覆蓋狀態空間中的正交方向而受益于探索。我們在多個合作基準上評估我們的算法；與最新技術相比，我們算法的有效性得到了證明。

圖卷積網絡(GCN)在許多應用中越來越受歡迎，但在大型圖數據集上的訓練仍然是出了名的困難。它們需要從它們的鄰居遞歸地計算節點表示。當前的GCN訓練算法要么計算成本高，隨層數呈指數增長，要么加載整個圖和節點嵌入時占用大量內存。提出了一種高效的GCN (L-GCN)分層訓練框架，將訓練過程中的特征集合和特征轉換分離出來，大大降低了訓練的時間復雜度和記憶復雜度。我們在圖同構框架下對L-GCN進行了理論分析，結果表明，在較溫和的條件下，L-GCN與代價較高的傳統訓練算法具有同樣強大的GCNs性能。我們進一步提出了L^2-GCN，它為每一層學習一個控制器，可以自動調整L-GCN中每一層的訓練時間。實驗表明，L-GCN至少比目前的水平快一個數量級，內存使用的一致性不依賴于數據集的大小，同時保持了可比較的預測性能。通過學習控制器，L^2-GCN可以進一步減少一半的訓練時間。我們的代碼在這個https URL中可用。

深度推薦系統近年來取得了顯著的進步。盡管其具有較高的排名精度，但其運行效率和內存消耗在現實中成為嚴重的瓶頸。為了克服這兩個限制，我們提出了LightRec，這是一個輕量級的推薦系統，具有快速的在線推理和經濟的內存消耗。LightRec的主干是B碼本，每個B碼本由W個潛在向量組成，稱為碼字。在這種結構的頂部，LightRec將有一個項目表示為B碼字的附加組合，這些B碼字是從每個碼本中最佳選擇的。為了從數據中有效地學習代碼本，我們設計了一個端到端學習工作流，其中所提出的技術克服了固有的可微性和多樣性方面的挑戰。此外，為了進一步提高表示質量，我們使用了一些蒸餾策略，這些策略可以更好地保存用戶-項目的相關性分數和相對的排序順序。LightRec通過四個真實世界的數據集進行了廣泛的評估，這產生了兩個經驗發現:1)與最先進的輕量級基線相比，LightRec在召回性能方面取得了超過11%的相對改進;2)與傳統推薦算法相比，在top-k推薦算法中，LightRec的精度下降幅度可以忽略不計，但速度提高了27倍以上。

雖然貝葉斯優化(BO)在計算材料工程中已被用于加速材料設計，但現有的工作僅限于定量變量的問題。然而，真正的材料系統設計包括定性和定量的設計變量，代表材料的組成、微觀結構形態和加工條件。對于混合變量問題，現有的貝葉斯優化(BO)方法首先用虛擬變量表示定性因素，然后用數值變量作為替代模型擬合標準高斯過程(GP)模型。這種方法在理論上是有局限性的，并且不能捕獲定性層次之間的復雜關系。摘要提出了一種基于BO框架的混合變量GP建模新方法。LVGP是一種完全不同的方法，它將定性設計變量映射到GP中潛在的數值LV，具有很強的物理合理性。它提供了靈活的參數化和定性因子的表示，與現有的建模方法相比，具有較高的建模精度。我們通過數值算例和材料設計算例來說明我們的方法。所選擇的材料設計實例代表了兩種不同的場景，一種是為優化準隨機太陽能電池的光吸收而進行的并行材料選擇和微觀結構優化，另一種是為優化有機-無機鈣鈦礦(HOIP)混合設計而進行的材料組合搜索。結果發現，在所有的測試實例中，映射的lv提供了直觀的可視化和對定性因素的性質和影響的實質性洞察。雖然以材料設計為例，但該方法是通用的，可以用于其他混合變量設計優化問題，涉及昂貴的基于物理的模擬。