亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

本論文聚焦于兩個選定的學習問題：1）圖模型上的統計推斷；2）神經網絡上的梯度下降，共同的目標是定義和分析表征基本限制的度量。

在論文的第一部分，我們考慮了圖上的自旋同步問題，該問題包括基于圖邊緣上它們的交互的噪聲觀察來重構圖頂點上的n個獨立自旋的向量。特別是，我們考慮了帶擦除（BEC）邊信息的同步模型，在這些模型中，一小部分節點的自旋被揭示，并研究了這樣的邊信息如何影響遠距離位點上的自旋的相關性。我們表明，在樹上，當邊緣觀察給出的遠距離位點上的自旋幾乎是獨立的時，那么給出邊緣觀察和邊信息的自旋仍然幾乎是獨立的。我們推測這對任何圖都適用。另一方面，（Kanade等人，2014）推測，在正規樹和Galton-Watson樹上，只要揭示了任何小部分節點標簽，無窮深度處的邊界就無法檢測到根位，即使在重構范圍內也是如此。我們解釋了這如何用于計算具有兩個對稱社區的稀疏隨機塊模型（SBM）的極限熵。最后，我們表明，后一推測不適用于每一棵樹。

在論文的第二部分，我們考慮了用全連接神經網絡上的梯度下降（GD）學習布爾目標函數的問題。我們引入了一個概念，即神經網絡在初始化時與目標函數之間的“初始對齊”（INAL），并證明如果網絡和目標在初始時沒有顯著的INAL，那么在具有i.i.d. 高斯初始化的全連接網絡上的帶噪聲梯度下降無法在多項式時間內學習目標。我們表明，對于用相關性損失訓練的有限深度網絡，結果可以擴展到布爾輸入之外。此外，我們證明，在相似的設置中，泛化誤差可以用目標函數的噪聲穩定性來下界，支持了（Zhang等人，2021）提出的一個推測。

然后，我們展示，在分布轉換設置中，當數據扣留對應于凍結單一特征時，泛化誤差在幾個相關架構上都承認布爾影響的緊密特征。這一點在線性模型上得到了證明，并在其他模型，如MLP和Transformers上得到了實驗支持。特別是，這提出了這樣一個假設，對于這些架構和學習邏輯函數，GD傾向于對低度表示有一個隱性偏好。

最后，我們考慮了一種‘課程學習’（CL）策略，用于學習二進制字符串上的k奇偶校驗。我們表明，一個明智的訓練樣本選擇，涉及兩個或更多的產品分布，允許在d^O(1)時間內用GD訓練的全連接神經網絡學習k奇偶校驗。我們進一步表明，對于另一類函數，即‘漢明混合’，涉及有界數量的產品分布的CL策略不是有益的。

在這篇論文中，我們研究了深度強化學習中的對稱性和結構。我們將論文分為兩部分。在第一部分，我們探討如何在強化學習中利用對稱性的知識。在第二部分，我們提出了一些方法，用于學習智能體的環境和狀態的結構。我們提出了MDP 同態網絡，這是一種在 MDP 的聯合狀態-動作空間下對稱性下是等變的神經網絡。由于等變性，我們發現與非等變的基線相比，數據效率得到了提高。我們提出了多智能體MDP 同態網絡，一類網絡，允許使用僅局部信息的分布式執行，但能夠在合作多智能體系統的聯合狀態-動作空間的全局對稱性之間分享經驗。我們顯示全局等變性比對稱協調問題的非等變分布式網絡的數據效率更高。我們提出了 PRAE。PRAE 利用動作等變性進行強化學習中的表示學習。動作下的等變性表明輸入空間中的轉換被潛在空間中的等效轉換所鏡像，而映射和轉換函數也應該交換。我們證明，在某些假設下，學到的映射是一個 MDP 同態，并且通過實驗證明該方法是數據高效的，易于訓練，能很好地推廣到具有相同環境動力學的新目標狀態和實例。我們提出了 C-SWMs，它使用對比編碼和圖神經網絡轉換函數，從像素中找到狀態的面向對象的表示。我們顯示與使用解碼器、非結構化轉換或非結構化表示相比，在多步預測和泛化到未見環境配置方面有所改善。

對稱性和結構無處不在。當我們行走時，右腿的運動鏡像了左腿的運動。當分子旋轉時，它們的分子性質不變。當我們導航到一個目的地時，我們會考慮不同路段的連通性。當我們交談時，我們可以將單詞串聯起來，形成完全新的句子。在日常生活中，我們使用關于任務的對稱性和結構的信息來指導我們的決策制定。

在人工智能中，對稱性和結構也無處不在。考慮一下在運動過程中鏡像左右腿運動的機器人，自動化芯片設計，追蹤野生動物運動的無人機群，玩 Atari Pong 的機器人，其中屏幕的上下部分是彼此的反射，分子設計，計算機玩家在圍棋游戲中考慮旋轉的棋盤狀態，以及自動駕駛車輛從荷蘭的右側道路切換到英國的左側道路。這些都是 AI 中展示了某種對稱性或結構的任務的例子。利用固有對稱性和結構的知識是構建可擴展系統的重要一步。

強化學習是人工智能的一個基礎研究領域，它鼓勵智能體從正反饋信號中學習，我們稱這為獎勵。通過試錯，智能體可以學會將情境、動作和反饋關聯起來，從而改善其決策。例如，我們可以給一個機器人正向獎勵以鼓勵它快速行走，而給它負向獎勵以防止它跌倒。同樣，我們可以給計算機玩家正向獎勵以鼓勵它贏得比賽，負向獎勵以防止輸掉比賽，或者給一個提出特別高效的芯片設計的智能體正向獎勵。使用強化學習領域的概念，我們可以將上述示例正式化，以提出導致智能體做出良好決策的方法。在深度強化學習中，智能體使用神經網絡來決定采取哪個動作，而神經網絡會根據收到的獎勵信號適應任務。然而，即使是那些遠遠不及人類能力的智能任務，對于人工決策者來說也可能會遇到問題。考慮任何一個在現實世界中運作的基于視覺的控制系統。智能體接收到攝像頭輸入作為觀測，然后必須學習采取最佳動作。可能的觀測數量是極其龐大的，而智能體不太可能遇到兩個完全相同的狀態。因此，我們希望智能體能夠重用先前狀態的經驗，以便在具有相似特征的未見狀態中做出良好的決策。例如，在決定如何移動左腿時，智能體應該模仿它學到的移動右腿的動作。

上述示例只是強化學習問題中對稱性和結構出現的幾個案例。這可以通過考慮在一個狀態中采取一個動作是否等同于在另一個狀態中采取另一個動作來形式化。在這篇論文中，我們將研究當我們知道對稱性和結構時如何在強化學習中使用它，以及如果不知道時如何提取它。智能體不應該學習已知的東西。知識是由系統設計者作為先驗知識提供的，還是通過智能體自身的泛化獲得的，應取決于問題的上下文。通過適當地重復使用知識，我們可以減少智能體需要與世界互動的次數，這是擴展到真實世界設置的重要部分。在這篇論文中，我們將特別關注強化學習中的對稱性和結構。

在現代的統計和機器學習模型中，通常會施加結構約束以提高模型的可解釋性和降低模型復雜性。在這篇論文中，我們展示了一些可擴展的優化方法，用于處理在結構約束下的大規模機器學習問題，特別關注的是非參數統計的形狀約束和高維統計的稀疏性。在第一章中，我們考慮了梯度正則化的凸回歸問題，該問題的目標是在目標變量和協變量之間擬合一個凸函數。我們提出了新穎的大規模算法，這些算法基于近端梯度下降和活動集方法，并為我們提出的算法推導出了新穎的線性收斂保證。從實證結果來看，我們的框架可以在幾分鐘內大致解決?? = 105 和?? = 10的實例。在第二章中，我們開發了一個新的計算框架，用于計算對數凹密度的最大似然估計，這個框架基于平滑技術和逐漸提高精度的適當積分離散化。我們證明了我們的方法的收斂性，并顯示出比早期的凸方法明顯的運行時間改善。在第三章中，我們關注的是高斯圖形模型，該模型旨在從獨立同分布的多元高斯樣本中估計稀疏的精確矩陣。我們通過?0?2-penalized偽似然提出了一種新的估計器。然后，我們設計了一種專門的非線性Branch-and-Bound（BnB）框架，該框架解決了提出的估計器的混合整數編程（MIP）公式。我們的估計器在計算上可以擴展到?? ～ 10,000，并且相比于競爭的?1方法提供了更快的運行時間，同時帶來了優越的統計性能。

在第四章中，我們進一步研究如何改進用于具有?0?2懲罰和一般凸平滑損失的稀疏學習問題的BnB框架。我們在BnB框架內提出了一種新穎的篩選程序，以保證將松弛變量固定為0或1。我們的實驗表明，這種篩選程序可以顯著減少BnB求解器的運行時間。

在這篇論文中，我們研究了穩定性的兩個不同方面：神經網絡動態模型的穩定性和強化學習算法的穩定性。在第一章中，我們提出了一種新的學習方法，可以構造出穩定的Lyapunov動態模型，即使在隨機初始化時也是穩定的。我們通過對阻尼多連桿擺進行實驗，展示了這種方法的有效性，并展示了如何用它來生成高保真的視頻紋理。在第二章和第三章中，我們關注強化學習（RL）的穩定性。在第二章中，我們展示了正則化，一種常見的解決不穩定性的方法，在RL環境中的反直覺行為。它不僅有時無效，而且可能導致不穩定性。我們在線性和神經網絡環境中都證明了這種現象。此外，標準的重要性采樣方法也容易受到這種影響。 在第三章中，我們提出了一種通過重新采樣來穩定離策略強化學習的機制。這種方法被稱為投影離策略TD（POP-TD），它將TD更新重新采樣為來自“安全”分布的凸子集，而不是（如在其他重新采樣方法中）重新采樣為在策略分布。我們展示了這種方法如何在一個設計為最大化此類轉換的離線RL任務中緩解分布轉換問題。總的來說，這篇論文提出了動態模型穩定性和強化學習訓練穩定性的新方法，對該領域的現有假設提出了質疑，并指出了模型和強化學習穩定性的有前景的研究方向。

在這篇論文中，我們考慮了多模態在機器學習決策和協調問題中的作用。我們提出使用一系列多模態概率方法，使用(有限)混合模型的擴展來解決時間序列預測的挑戰，神經網絡中的高效不確定性量化，對抗模型和多智能體協調。在論文的第一部分中，我們關注多模態不確定性估計在時間序列預測中的應用，表明這種方法提供了易于操作的、有益的替代點估計方法，點估計仍然是預測的普遍選擇方法。我們討論了多模態不確定性的意義，并展示了更熟練的方法估計后驗目標分布的必要性。我們提出了一系列計算高效，但有能力的方法來估計豐富的多模態后驗分布。我們將我們的模型與用點測量或單峰分布估計不確定性的技術進行了比較，并在生成對抗網絡的啟發下，對所開發的方法進行了擴展，以此結束本部分。我們表明，該方法對加性噪聲提供了最先進的魯棒性，使其特別適用于包含大量未知隨機的數據集。

在本工作的第二部分，我們研究了協作多智能體系統(CMASs)的多模態模型的重要性，并將我們的工作擴展到采用概率方法。到目前為止，這一領域的大多數研究都局限于考慮自玩范式，即使這些方法解決了各種具有挑戰性的問題。雖然這些進步是重要的，但在自玩中使用任意約定會導致當智能體在此設置之外玩時的協調問題。我們考慮了特殊的CMAS設置，遠離了自玩框架。這是機器學習中一個特別具有挑戰性的領域，也是近年來備受關注的一個領域，為AI智能體在現實世界中能夠與人類(和其他智能體)有效交互提供了希望。我們通過在其他主體的策略上建立后驗信念來解決特別協調問題。這是通過吉布斯抽樣的擴展來實現的，以獲得接近最優的即席性能。我們在具有挑戰性的游戲Hanabi上測試了我們的算法，Hanabi是合作多智能體強化學習中最著名的測試平臺之一，近年來已成為一個具有發展勢頭的基準。我們表明，我們的方法可以實現強大的交叉游戲，即使與看不到的合作伙伴，實現成功的臨時協調，無需預先了解合作伙伴的戰略。

本文介紹了在一系列背景下進行因果參數推理的程序，包括觀察性研究、完全隨機化設計、配對實驗和協變量自適應設計。首先，我們討論了凸優化在匹配觀測研究中進行方向推斷和靈敏度分析的應用。我們設計了一種算法，使信噪比最大化，同時考慮了未觀察到的混雜。我們分析算法輸出的漸近分布行為，以發展因果效應的漸近有效假設檢驗。由此產生的程序在廣泛的程序類上達到最大的設計靈敏度。其次，我們研究了特征信息在完全隨機實驗中對效應進行高精度推斷的作用。本文構建了一種基于線性回歸的校正技術，該技術構造了估計量的漸近方差的上界。該校準程序適用于任何可能是半參數有效的填補估計器，并自動證明所產生的非線性回歸調整估計器至少與均值之差一樣漸近精確;在模型錯誤規范下，非線性回歸調整估計器先前沒有保證的一個特性。第三，我們引入了高斯預軸:一種構建檢驗統計量的算法技術，即使在零中違反隨機化假設的對稱性時，隨機化推理仍保持漸近有效。我們證明了基于預軸統計量的隨機化檢驗在銳利的零值下是有限樣本精確的，而在弱零值下它們漸近地控制了錯誤拒絕的概率。這允許形成具有同聲傳譯的處理效應的置信區域，作為齊次相加處理效應的精確置信區域和異質相加處理效應的漸近置信區域;從而統一費雪和內曼推理的許多實驗設計，包括重隨機實驗。第四，我們構建了重采樣算法的嵌套層次結構，該算法利用了超總體、固定協變量和有限總體模型中的概率結構，以促進完全隨機設計中各種統計數據的非參數推斷。重采樣算法通過利用回歸調整和最優傳輸的現代結果擴展了經典的自舉范例，在固定協變量和有限人口模型下實現了顯著的增益。

機器學習模型在有偏差的數據集上訓練時是有偏差的。最近提出了許多方法，以減輕被確定為先驗的偏差。然而，在現實世界的應用中，標注偏差不僅耗時而且具有挑戰性。本論文考慮了三種不同的場景，并提出了學習魯棒模型的新算法。這些算法是有效的，因為它們不需要明確的偏差注釋，從而實現了實用的機器學習。

首先，我們引入了一種算法，該算法對從多個環境中收集的數據進行操作，其中偏差特征和標簽之間的相關性可能會有所不同。我們表明，當使用在一個環境上訓練的分類器對來自不同環境的例子進行預測時，它的錯誤是隱藏偏見的信息。

然后，我們利用這些錯誤來創建一組示例，這些示例的插值結果只具有穩定的相關性。我們的算法在四種文本和圖像分類任務上實現了最新的技術。然后我們考慮無法訪問多個環境的情況，這是新任務或資源有限任務的常見場景。我們證明，在現實世界的應用中，相關的任務往往有類似的偏見。在此基礎上，我們提出了一種算法，從資源豐富的源任務中推斷出偏差特征，并將這種知識轉移到目標任務中。與橫跨5個數據集的15個基線相比，我們的方法始終提供顯著的性能提升。

最后，我們研究了只給出一組輸入標簽對的自動偏差檢測。我們的算法學習分割數據集，使得在訓練分割上訓練的分類器不能泛化到測試分割上。性能差距為測量學習特征的偏差程度提供了一個智能體，因此可以用來識別未知偏差。在六個NLP和視覺任務上的實驗表明，我們的方法能夠產生與人類識別的偏差相關的虛假分裂。

多模態數據融合是將不同的數據源集成到一個適用于復雜推理的共享表示的過程。因此，人們可以對潛在現象做出比單獨使用每個數據源更精確的推論。在論文中，我們采用貝葉斯觀點的多模態數據融合，它將推理定義為對潛在變量的后驗推理。在貝葉斯設置中，我們提出了一種新的數據集成方法，我們稱之為輕量級數據融合(LDF)。LDF解決了數據源子集的正向模型未知或特征不佳的情況。LDF利用剩余的數據源學習適合后驗推斷的逆模型，該模型結合了這兩種類型的數據。此外，我們開發了分層Dirichlet過程(mmHDPs)的多模態擴展，其中，與LDF的設置相比，我們缺乏跨模態的觀察級對應，數據來自隱式潛在變量模型。最后，我們為Dirichlet過程和HDP混合模型開發了一種新穎的表示，可以在推理過程中實現并行化，并擴展到更復雜的模型，包括mmHDPs。

我們解決數據融合的問題，即從多個數據源學習。我們考慮了幾個具體的挑戰:例如，某些數據源可能缺乏特征良好的正向模型，或者底層模型的復雜性可能未知。我們采用貝葉斯視角，將數據融合問題視為對潛在變量結構的后驗推斷，并允許進行各種分析，包括不確定性量化、優雅地處理缺失數據和模型檢查。然而，貝葉斯推斷也提出了自己的挑戰。后驗推斷的常見方法不適應缺乏前向模型或難以適應大數據集的觀察模式。

本論文的一個重要重點是開發能夠實現高效和并行的后驗推理的表示。我們特別關注多模態數據融合中的兩個明顯挑戰。首先，當一個或多個觀察模態缺乏特征良好的前向模型，并且我們也缺乏明確標記的訓練數據，從而允許直接學習前向模型時，我們考慮學習。在這里，我們使用了來自不同模態的數據，它具有一個特征良好的正態模型，與未校準的數據一起出現。我們提出了一種方法，該方法使用具有良好校準數據的聯合觀測來學習一種模態的逆模型。其次，我們試圖從多種測量模態中學習，其中跨模態的觀察之間的直接對應是不可用的。我們利用不同模態的數據組之間的對應關系來揭示共同表示。在這里，我們開發了層次Dirichlet過程(HDP)混合模型的擴展，將不同的模態表示為子文檔。本文解決了這兩個問題，并開發了一種新的Dirichlet過程(DP)和HDP混合模型的表示，從而產生了一個并行推理過程。

在第三章中，我們提出了輕量級數據融合(LDF)。LDF是一種基于多源數據的貝葉斯推理新方法，其中一些源缺乏已知的正演模型。雖然與論文中的其他章節略有不同，但LDF確實解決了多模態數據融合中的一個常見挑戰。LDF的一個核心組成部分是它將未校準的數據源簡化為一組描述后驗分布的信息統計數據。我們為一般的模型結構制定了LDF，并表明我們的構造導致了有效的推理和一個易于處理的學習過程，具有吸引人的信息理論屬性。LDF使用具有已知可能性的數據類型來幫助學習如何對具有未知可能性的數據類型設置條件。

在第四章中，我們開發了一種新的DP和HDP混合模型的表示，這對設計高效的推理程序有重要的意義。在本章中，我們假設數據的正向模型是已知的，與第3章不同;我們將使用在第5章中開發的方法。特別地，我們引入了DP和HDP混合模型的聚合表示，它們既有被實例化的顯式原子，也有被聚合成未實例化組件的隱式原子。未實例化組件是延遲實例化Gibbs采樣器的核心，它允許并行執行許多采樣操作。

我們在第5章中介紹了DP和HDP混合模型的擴展，它可以容納多個數據源，并允許學習聯合依賴。在第4章中，我們假設數據的正向模型是已知的。本章使用底層的泊松過程表示定義了多模態DP和HDPs，并將它們用作混合模型的基礎。所得到的模型可以被視為所有模態的聯合措施，也可以被視為適用于單個模態的邊際隨機措施。我們提供了這些模型的幾種特征，指定了折疊推理過程，并使用第4章中的延遲實例化開發了一個并行推理過程。

由于醫療數據的多樣性和數據收集和注釋的費用高昂，數據不足和異質性是表示學習在醫學機器學習中的挑戰。為了從如此有限和異構的醫療數據中學習可泛化的表示，我們的目標是利用各種學習范式來克服這個問題。在本文中，我們系統地探索了有限數據、數據不平衡和異構數據的機器學習框架，使用跨領域學習、自我監督學習、對比學習、元學習、多任務學習和魯棒學習。我們提出了不同醫療應用的研究，如臨床語言翻譯、超聲圖像分類和分割、醫學圖像檢索、皮膚診斷分類、病理元數據預測和肺部病理預測。

//dspace.mit.edu/handle/1721.1/144745

我們首先關注有限的數據問題，這在醫學領域很常見。我們利用具有相同錨點的無監督嵌入空間對齊方法，在有限且不配對的醫學語料庫中學習臨床語言翻譯的跨領域表示，并使用統計語言建模進行句子翻譯。使用臨床正確性和可讀性的指標，開發的方法在單詞和句子級別的翻譯中優于基于詞典的算法。為了更好地學習有限數量的超聲圖像的數據表示，我們隨后采用了自我監督學習技術，并將相應的元數據作為多模態資源集成，以引入歸納偏差。我們發現，與標準遷移學習方法相比，通過開發的方法學習的表示可以獲得更好的下游任務性能，如超聲圖像質量分類和器官分割。

接下來，我們放大數據不平衡問題。本文探索了對比學習的用途，特別是孿生網絡，從不平衡的眼底成像數據集中學習表示，用于糖尿病視網膜病變圖像檢索。與標準的監督學習設置相比，我們使用從Siamese網絡學習的表示獲得了可比較但可解釋的結果。我們還利用極不平衡的長尾皮膚圖像數據集進行皮膚病分類的元學習。我們發現，使用元學習模型和使用常規類不平衡技術訓練的模型集成可以產生更好的預測性能，特別是對于罕見的皮膚病。

最后，針對異構醫療數據，我們開發了一個多模態多任務學習框架來學習病理元數據預測的共享表示。我們利用多模態融合技術集成幻燈片圖像、自由文本和結構化元數據，并采用多任務目標損失來引入學習時的歸納偏差。這比標準的單模態單任務訓練設置產生更好的預測能力。我們還應用魯棒訓練技術來學習可以解決兩個胸部x射線數據集分布轉移的表示。與標準訓練相比，我們發現當存在偏移時，魯棒訓練提供了更好的容忍度，并學習了肺病理預測的魯棒表示。本文的研究并不詳盡，但對在有限和異構的醫療數據設置下利用機器學習幫助臨床決策進行了廣泛的了解。我們還提供了見解和警告，以激發利用低資源和高維醫療數據的機器學習的未來研究方向，并希望對現實世界的臨床產生積極的影響。

在本論文中，我們研究了兩類涉及大規模稀疏圖的問題，即圖數據的壓縮問題和網絡中的負載均衡問題。我們利用局部弱收斂的框架，或所謂的目標方法來實現這一點。這個框架提供了一個觀點，使人們能夠理解稀疏圖的平穩隨機過程的概念。

利用局部弱收斂框架，我們引入了有根圖上概率分布的熵概念。這是Bordenave和Caputo將熵概念推廣到頂點和邊帶有標記的圖上。這樣的標記可以表示關于真實數據的信息。這種熵的概念可以看作是稀疏圖數據世界中香農熵率的自然對應。我們通過介紹一種用于稀疏標記圖的通用壓縮方案來說明這一點。此外，我們研究了圖數據的分布式壓縮。特別地，我們介紹了一個關于稀疏標記圖的Slepian-Wolf定理的版本。

除了研究壓縮問題外，我們還研究了網絡中的負載均衡問題。我們通過將問題建模為超圖來實現這一點，其中每個超邊表示承載一個單元負載的任務，而每個頂點表示一個服務器。配置是分配此負載的一種方式。我們研究平衡分配，粗略地說，就是沒有需求希望改變其分配的分配。將局部弱收斂理論推廣到超圖，研究了均衡分配的某些漸近行為，如典型服務器上的漸近經驗負荷分布，以及最大負荷的漸近性。

本文所研究的問題可以作為實例來說明局部弱收斂理論和上述熵概念的廣泛適用性。事實上，這個框架為稀疏標記圖提供了平穩隨機過程的觀點。時間序列理論在控制理論、通信、信息論和信號處理等領域有著廣泛的應用。可以預料，平穩隨機過程的組合結構理論，特別是圖形，將最終有類似廣泛的影響。

//www2.eecs.berkeley.edu/Pubs/TechRpts/2020/EECS-2020-166.html