亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

可控生成是深度生成模型在現實應用中成功應用的關鍵要求之一,但它仍然是一個巨大的挑戰。特別是,生成新概念組合的組合能力是目前大多數模型所無法達到的。在這項工作中,我們使用基于能量的模型(EBMs)來處理一組屬性的組成生成。為了使它們可擴展到高分辨率圖像生成,我們在StyleGAN等預訓練生成模型的潛在空間中引入了EBM。我們提出了一種新的EBM公式來表示數據和屬性的聯合分布,并且我們展示了如何將它的抽樣表示為求解常微分方程(ODE)。給定一個預訓練的生成器,我們所需要的可控生成就是訓練一個屬性分類器。利用ODE進行采樣是有效的,并且對超參數具有魯棒性。因此,該方法簡單、訓練快、采樣效率高。實驗結果表明,該方法在條件采樣和順序編輯方面都優于現有的方法。在成分生成中,我們的方法優于零樣本生成未見的屬性組合。此外,通過將能量函數與邏輯運算符組合在一起,這項工作首次實現了這種組合,從而生成分辨率為1024x1024的逼真圖像。

//www.zhuanzhi.ai/paper/c147eb44b164e0db8544e879ceff29f0

付費5元查看完整內容

相關內容

從 2D 分子圖中預測穩定的 3D 構象一直是計算化學中的一個長期挑戰。而最近,機器學習方法取得了相比傳統的實驗和基于物理的模擬方法更優異的成績。這些方法主要側重于模擬分子圖上相鄰原子之間的局部相互作用,而忽略了非鍵合原子之間的長程相互作用。然而,這些未成鍵的原子在 3D 空間中可能彼此接近,模擬它們的相互作用對于準確確定分子構象至關重要,尤其是對于大分子和多分子復合物。在本文中,作者提出了一種稱為動態圖評分匹配 (DGSM) 的分子構象預測新方法,該方法通過在訓練和推理過程中根據原子之間的空間接近度動態構建原子之間的圖結構來對局部和遠程相互作用進行建模。具體來說,DGSM根據動態構建的圖,使用評分匹配方法直接估計原子坐標對數密度的梯度場。可以以端到端的方式有效地訓練整個框架。多項實驗表明,DGSM 的表現遠超該領域一流水平,并且能夠為更廣泛的化學系統生成構象,例如蛋白質和多分子復合物。

論文鏈接: //proceedings.neurips.cc/paper/2021/hash/a45a1d12ee0fb7f1f872ab91da18f899-Abstract.html

付費5元查看完整內容

人類能夠利用從以往經驗中提取的概念快速理解場景。這些概念是多種多樣的,包括全局場景描述符(如天氣或光照),以及局部場景描述符(如特定對象的顏色或大小)。到目前為止,概念的無監督發現主要集中在建模全局場景級或局部對象級的變化因素,而不是兩者。在這項工作中,我們提出了COMET,它發現并表示概念為獨立的能量函數,使我們能夠在一個統一的框架下表示全局概念和對象。COMET通過重新組合輸入圖像發現能量函數,我們發現該圖像捕獲獨立的因素,而不需要額外的監督。COMET中的示例生成是對底層能量函數的優化過程,使我們能夠生成具有排列和組合概念的圖像。最后,在COMET中發現的可視概念具有很好的通用性,使我們能夠在不同的圖像模式之間組合概念,以及在不同數據集上訓練的單獨COMET實例發現的其他概念。代碼和數據可在//energy-based-model.github.io/comet/。

付費5元查看完整內容

題目: 基于置信度校正可信圖神經網絡

會議: NeurIPS 2021

論文地址://arxiv.org/abs/2109.14285

自信點,我的GNN們

圖神經網絡 (GNN) 卓越的性能已經廣受關注,但其預測結果是否值得信賴卻有待探索。之前的研究結果表明,許多現代神經網絡對其預測具有過度自信的現象。然而與之不同的是,我們發現 GNN對其預測結果卻呈現出欠自信的現象。因此,要想獲得一個可信的GNN,亟需對其置信度進行校正。在本文中,我們設計了一種拓撲感知的后處理校正函數,并由此提出了一種新穎的可信賴 GNN 模型。具體來說,我們首先驗證了圖中的置信度分布具有同質性的特點,由此啟發我們再次利用GNN模型來為分類GNN模型學習校正函數(CaGCN)的想法。CaGCN 能夠為每個節點學習到一種從分類 GNN 的輸出到校正后的置信度的唯一轉換,同時這種轉換還能夠保留類間的序關系,從而滿足保存精度的屬性。此外,我們還將CaGCN應用于自訓練框架,結果表明可以通過對置信度進行校正獲得更可信的偽標簽,從而并進一步提高性能。我們通過大量實驗證明了我們提出的模型在置信度校正方面和在提高分類準確率方面的有效性。

付費5元查看完整內容

圖上的不平衡分類是普遍存在的,但在許多現實世界的應用(如欺詐節點檢測)中具有挑戰性。近年來,圖神經網絡在許多網絡分析任務中顯示出良好的性能。然而,現有的GNN大多只關注平衡網絡,在不平衡網絡上的性能不理想。為了彌補這一缺陷,本文提出了生成式對抗圖網絡模型ImGAGN來解決圖上的不平衡分類問題。介紹了一種新的圖結構數據生成器GraphGenerator,它可以通過生成一組合成的少數節點來模擬少數類節點的屬性分布和網絡拓撲結構分布,從而使不同類中的節點數量達到均衡。然后訓練一個圖卷積網絡(GCN)識別器來區分合成平衡網絡上的真實節點和虛假節點(即生成節點),以及少數節點和多數節點。為了驗證該方法的有效性,在四個真實的不平衡網絡數據集上進行了大量的實驗。實驗結果表明,在半監督不平衡節點分類任務中,該方法優于現有的算法。

//www.zhuanzhi.ai/paper/33880c15714dc3d8d5411efc239ddd66

付費5元查看完整內容

最近的對比表示學習方法依賴于估計潛在上下文的多個視圖之間的互信息(MI)。例如,我們可以通過應用數據增強獲得給定圖像的多個視圖,或者我們可以將序列分割成包含序列中某個步驟的過去和未來的視圖。MI的對比下界很容易優化,在估計大量MI時具有很強的低估偏差。我們提出將整個MI估計問題分解為一組較小的估計問題,方法是將其中一個視圖分解為越來越知情的子視圖,并在分解的視圖之間運用MI的鏈式法則。這個表達式包含無條件和有條件的MI項的和,每一項測量MI總量的適度塊,便于通過對比邊界進行近似。為了使和最大化,我們在條件MI上建立了一個可以有效逼近的對比下界。我們將我們的一般方法稱為互信息分解估計(DEMI)。我們證明了DEMI可以在一個綜合設置中捕獲比標準的非分解的對比邊界更多的MI,并且在視覺域中學習更好的表示和對話生成。

//www.zhuanzhi.ai/paper/8843e06299bf34535700e85e6c684c37

付費5元查看完整內容

從合成生物學到計算機架構,計算設計問題出現在許多環境中。在本文中,我們的目標是解決基于數據驅動模型的優化(MBO)問題,其中的目標是找到一個設計輸入,使一個未知的目標函數最大化,只提供訪問先前實驗的靜態數據集。這種數據驅動的優化過程是許多現實領域中唯一實用的方法,在這些領域中,主動數據收集是昂貴的(如優化蛋白質)或危險的(如優化飛機設計)。針對已知模型優化設計的典型MBO方法遭遇了分布轉移:很容易找到一種設計,它“愚弄”了模型,使其預測出高價值。為了克服這一點,我們提出了保守目標模型(COMs),一種學習目標函數模型的方法,該模型下界的真實目標的實際值在非分布輸入外,并使用它進行優化。在結構上,COMs類似于用來克服對抗性例子的對抗性訓練方法。COM易于實現,并且在許多MBO問題上優于現有的一些方法,包括優化蛋白質序列、機器人形態、神經網絡權值和超導材料。

//www.zhuanzhi.ai/paper/eaa6ff747a559f00731e498e36ddb232

付費5元查看完整內容

我們研究計算化學中的一個基本問題,即分子構象生成,試圖從二維分子圖中預測穩定的三維結構。現有的機器學習方法通常首先預測原子之間的距離,然后生成滿足這些距離的3D結構,而在3D坐標生成過程中,預測距離中的噪聲可能會導致額外的誤差。本文受傳統分子動力學力場模擬方法的啟發,提出了一種直接估算原子坐標對數密度梯度場的新方法ConfGF。估計的梯度場允許通過朗之萬動力學直接生成穩定的構象。然而,由于梯度場是旋轉平移等變的,因此該問題非常具有挑戰性。我們注意到估計原子坐標的梯度場可以轉化為估計原子間距離的梯度場,因此開發了一種基于最近的基于分數的生成模型的新算法來有效地估計這些梯度。跨多個任務的實驗結果表明,ConfGF顯著優于以前的最先進基線。

//arxiv.org/abs/2105.03902

付費5元查看完整內容

自監督學習已被廣泛應用于從未標記圖像中獲取可轉移的表示。特別是,最近的對比學習方法在下游圖像分類任務中表現出了令人印象深刻的性能。這些對比方法主要集中在語義保留變換下的圖像級上生成不變的全局表示,容易忽略局部表示的空間一致性,因此在目標檢測和實例分割等本地化任務的預處理中存在一定的局限性。此外,在現有的對比方法中使用的積極裁剪視圖可以最小化單個圖像中語義不同區域之間的表示距離。

在本文中,我們提出了一種用于多目標和特定位置任務的空間一致表示學習算法(SCRL)。特別地,我們設計了一個新的自監督目標,試圖根據幾何平移和縮放操作產生隨機裁剪局部區域的連貫空間表示。在使用基準數據集的各種下游定位任務上,提出的SCRL顯示了相對于圖像級監督前訓練和最先進的自監督學習方法的顯著性能改進。代碼將會被發布。

//www.zhuanzhi.ai/paper/86fc25415eef2e6e1ed9019494ce1fcf

付費5元查看完整內容

GAN逆轉化的目的是將給定的圖像逆映射到預先訓練好的GAN模型的潛在空間,以便由生成器從反代碼忠實地重建圖像。GAN逆映射作為一種新興的連接真實和虛假圖像領域的技術,在使預先訓練好的GAN模型如StyleGAN和BigGAN用于真實圖像編輯應用中起著至關重要的作用。同時,GAN逆轉化也為GAN的潛在空間的解讀以及如何生成逼真的圖像提供了思路。在本文中,我們對GAN逆轉化進行了概述,并重點介紹了它最近的算法和應用。我們涵蓋了GAN逆轉化的重要技術及其在圖像恢復和圖像處理中的應用。我們進一步闡述了未來方向的一些趨勢和挑戰。

//www.zhuanzhi.ai/paper/8a6100aa9aacbe624aae09afc4308355

生成對抗網絡(GAN)框架是一種深度學習架構,可以估計數據點是如何在概率框架[1]、[2]中生成的。它由兩個相互作用的神經網絡組成:一個生成器G和一個鑒別器D,它們通過對抗過程共同訓練。G的目標是合成與真實數據相似的假數據,D的目標是區分真實數據和假數據。通過對抗性的訓練過程,生成器G可以生成與真實數據分布相匹配的假數據。近年來,GANs被應用于圖像翻譯[3]、[4]、[5]、圖像處理[6]、[7]、[11]0到圖像恢復[9]、[10]、[11]、[12]、[13]等眾多任務。

許多GAN模型,如PGGAN [14], BigGAN[15]和StyleGAN[16],[17],已經被開發用于從隨機噪聲輸入合成高質量和多樣性的圖像。近年來的研究表明,GANs在圖像生成過程中有效編碼了中間特征[18]和潛在空間[19]、[20]、[21]中豐富的語義信息。這些方法可以通過改變潛在代碼來合成具有不同屬性的圖像,如老化、表情、光方向等。然而,由于GANs缺乏推理功能和編碼器,這種對潛在空間的操作只適用于GANs生成的圖像,并不適用于任何給定的真實圖像。

相比之下,GAN反轉的目標是將給定的圖像反演回預先訓練好的GAN模型的潛在空間。然后,圖像發生器就可以從反碼中忠實地重建出來。由于GAN逆轉化是連接真實和虛假圖像域的關鍵,因此在[17]、[20]、[21]、[23]、[24]、[25]、[26]、[27]、[28]等領域取得了重大進展。GAN反演使得在現有訓練過的GAN的潛在空間中發現的可控方向適用于真實的圖像編輯,而不需要特別的監督或昂貴的優化。如圖1所示,在將真實圖像倒置到潛在空間后,我們可以沿著一個特定的方向改變其代碼來編輯圖像的相應屬性。GAN反演作為一個將生成對抗網絡與可解釋機器學習技術相結合的快速發展的領域,不僅提供了一種靈活的替代圖像編輯框架,而且有助于揭示深層生成模型的內在機制。

在這篇文章中,我們提出了一個全面的GAN逆向轉化方法,重點是算法和應用。據我們所知,這項工作是對快速增長的GAN反轉的第一次調查,并有以下貢獻。首先,我們提供了一個全面和系統的回顧,以及深刻的分析,在GAN倒置的所有方面的層次和結構。其次,我們對GAN反轉方法的性質和性能進行了比較總結。第三,我們討論了挑戰和有待解決的問題,并確定了未來研究的趨勢。

付費5元查看完整內容

神經結構搜索(NAS)旨在以全自動的方式找到表現出色且新穎的神經網絡結構。然而現有的搜索空間設計過度依賴于研究者的專業知識,所涵蓋的神經網絡相對比較單一,導致搜索策略雖然能找到表現不錯的結構,卻無法發現突破性的新型神經網絡。在這篇工作中,我們 1)首次提出了搜索最優的神經網絡結構生成分布(architecturegenerator)而不僅僅是單個神經網絡(single architecture) 的概念,2)并針對這個概念提出了一個全新的,多階層的,基于圖的搜索空間。該搜索空間不但能生成非常多樣化的網絡結構,而且只由幾個超參來定義。這極大減少了結構搜索的維度,使得我們能高效地使用貝葉斯優化作為搜索策略。與此同時,因為我們拓廣了搜索空間(包含眾多性能和存儲需求差異巨大的有效網絡結構),這使得多目標學習在我們的場景下更有意義。我們在六個圖像數據集上驗證了我們方法(NAGO)的高效性, 并展示了我們的方法能找到非常輕便且性能卓越的網絡結構。

//www.zhuanzhi.ai/paper/32eaa4b0ef54865420bd74ec5d831f7c

付費5元查看完整內容
北京阿比特科技有限公司