亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

現代生物醫學數據集——從基因表達的分子測量到病理圖像——為發現新的治療方法和探索有關細胞行為的基本問題提供了希望。對這些復雜的高維數據進行深思熟慮的統計建模，對于闡明可靠的科學發現至關重要。數據分析中一個常見的假設是數據樣本是獨立同分布的。然而，這個假設在實踐中幾乎總是被違背。在生物醫學數據的設置中尤其如此，生物醫學數據通常表現出一定的結構，例如患者的亞群、細胞或組織類型或樣本之間的其他相關結構。

在這項工作中，我提出了數據分析和實驗設計框架，以解釋幾種類型的高度結構化生物醫學數據。這些方法采用貝葉斯模型和相關推理算法的形式，是專門為具有組結構、多種數據模態和樣本空間組織的數據集量身定制的。在第一行工作中，我提出了一個對比降維模型，該模型分解了屬于案例和控制條件的樣本的變異源。其次，提出了一種計算框架，用于將空間分辨的基因組數據對齊到一個共同的坐標系中，該坐標系考慮了樣本之間的空間相關性，并對多種數據模態進行建模。最后，我提出了一系列方法，用于優化設計空間分辨基因組學實驗，這些方法是為這些研究的高度結構化數據收集過程量身定制的。通過開發直接利用這些數據中常見結構類型的模型，并展示這些建模方法在各種數據類型中的優勢，這些工作推進了生物醫學數據分析領域。 //dataspace.princeton.edu/handle/88435/dsp01bn9999982

**近年來，具有復雜自主行為的智能體和系統的發展加快。**隨著這些智能體行動的后果開始在社會中顯現，對理解其決策的需求推動了對機制的研究，以獲得與人類推理兼容的解釋。然而，可解釋系統的設計往往沒有考慮解釋可能給機器和人類智能體帶來的影響。本文探討了這一挑戰。

**該方法首先著眼于具有復雜監管的分散環境，在這些環境中，必須交換解釋，以確保智能體之間的有序交互。**為將人類規則集轉換為機器兼容的推理機制，本文提出一種基于辯論的人-智能體架構，將人類規則映射到具有可解釋行為的人工智能體的文化中。在混合的、可解釋的人-智能體設置下的用戶研究表明，系統復雜性是解釋對人類有用的決定因素。對于自主智能體，隱私性和部分可觀察性會在分散系統中引入主觀不公平性的概念。本文表明，這種影響也可以通過使用有效的解釋來緩解。

**以類似的方式，研究了強化學習(RL)智能體，并研究了定向具有可解釋特征的學習機制的可能性。**將此過程稱為解釋感知經驗回放(XAER)，并證明了解釋工程可以用來代替具有可解釋特征的環境的獎勵工程。進一步，將這一概念擴展到多智能體強化學習中，并展示了如何在具有部分可觀測性的環境中交換解釋，以獲得更魯棒和有效的集體行為。結論是，可解釋系統的設計不僅要考慮解釋的生成，還要考慮解釋的消耗。解釋可以作為交流精確和精煉信息的工具，人類智能體獲得的見解也可以由機器智能體獲得，特別是在具有分散智能體或部分知識的系統中。

近年來，深度神經網絡(Deep Neural Networks, DNNs)，包括卷積神經網絡(Convolutional Neural Networks, cnn)和圖神經網絡(Graph Neural Networks, GNNs)的快速發展，使得圖像和圖結構數據等幾何數據的表示學習得到了快速的發展，并取得了顯著的進展。然而，dnn通常提供非常有限的透明度，這對觀察和理解模型何時以及為什么做出成功/不成功的預測提出了重大挑戰[61]。近年來，局部解釋技術的研究快速發展，但大部分關注的是如何生成解釋，而不是理解“解釋是否準確/合理”、“如果解釋不準確/不合理該如何處理”、“如何調整模型以生成更準確/合理的解釋”[13,108,168,88,129,130,62,183,151]。 **為探索和回答上述問題，本文旨在探索一條新的研究路線，即解釋引導學習(EGL)，通過XAI技術干預深度學習模型的行為，共同提高深度神經網絡的可解釋性和泛化性。**本文提出在幾何數據上探索EGL，包括圖像和圖結構數據，由于幾何數據解釋的復雜性和固有挑戰，這些數據目前在研究界未得到充分探索[61]。為實現上述目標，本文首先探索了幾何數據的可解釋性方法，以理解深度神經網絡(dnn)用生物啟發方法學習的概念，并提出了解釋圖神經網絡(gnn)對醫療保健應用的預測的方法。為圖神經網絡設計了一個交互式通用解釋監督框架GNES，以實現"學習解釋"管道，從而可以提供更合理、更可控的解釋。本文提出兩個通用框架，即梯度和RES，通過開發新的解釋模型目標，用于魯棒的視覺解釋指導學習，可以將噪聲的人類注釋標簽作為監督信號，并從理論上證明了模型泛化的好處。這項研究跨越了多個學科，并通過提出新的框架，可應用于各種現實世界問題，這些問題的可解釋性和任務性能都至關重要，有望在各個領域做出一般性貢獻，如深度學習、可解釋的人工智能、醫療保健、計算神經科學和人機交互。

//etd.library.emory.edu/concern/etds/k930bz47x?locale=en

機器學習和數據挖掘中的許多重要問題，如知識庫推理、個性化實體推薦、科學假設生成等，都可以歸結為圖數據結構上的學習和推理。這些問題代表了推進圖學習的令人興奮的機會，但也帶來了重大挑戰。由于圖通常是稀疏的，并且由模式定義，因此它們通常不能完全捕獲數據中潛在的復雜關系。將圖與豐富的輔助文本模態相結合的模型具有更高的表達潛力，但聯合處理這些不同的模態——即稀疏的結構化關系和密集的非結構化文本——并不是直接的。

本文考慮了通過結合結構和文本來改進圖學習的重要問題。論文的第一部分考慮了關系知識表示和推理任務，展示了預訓練上下文語言模型在為圖結構知識庫增加新的深度和豐富度方面的巨大潛力。論文的第二部分超越了知識庫，通過對文檔交互和內容進行聯合建模，改進信息檢索和推薦系統中出現的圖學習任務。所提出的方法在單模態和跨模態基線上不斷提高準確性，這表明，通過適當選擇的歸納偏差和仔細的模型設計，可以充分利用結構和文本的獨特互補方面。

//deepblue.lib.umich.edu/handle/2027.42/174515

機器學習已經被應用于越來越多影響我們日常生活的社交相關場景，從社交媒體和電子商務到自動駕駛汽車和刑事司法。因此，開發可信、可靠的機器學習方法至關重要，以避免對個人和社會產生負面影響。本文致力于理解和提升圖機器學習的可信性，由于圖數據的復雜關系結構，這提出了獨特的挑戰。

特別地，我們認為機器學習模型的可信性在異常情況下是可靠的。例如，機器學習模型在對抗攻擊下或在子種群上的性能不應嚴重退化，分別對應對抗魯棒性或公平性問題。值得信任的圖機器學習的獨特挑戰是，在圖數據的上下文中有許多更復雜的，有時是隱式的異常條件。本文識別了未充分挖掘的異常情況，理解了識別出的異常情況下的預期模型行為，并改進了現有模型在此類異常情況下的行為。

重點關注圖神經網絡(GNN)，這是一類流行的圖機器學習模型，利用了深度學習的最新進展。**本文確定了圖神經網絡的三種異常情況。**首先，受社交網絡應用場景啟發，通過一個新的實際威脅模型研究了GNN的對抗魯棒性，并研究了GNN何時以及為什么會遭受對抗攻擊。發現現有的GNN對許多現實世界的圖數據可能會被錯誤指定，并開發了一個新的框架來改進現有的模型。發現了一種與節點結構位置相關的測試節點子種群之間的GNN預測的不公平性。本文還提出了一種主動學習框架來緩解不公平問題。

人工智能(AI)，特別是機器學習(ML)，已經作為一種通用技術融入人類社會1，有望在許多方面重塑我們的日常生活，從社交媒體和電子商務，到自動駕駛汽車和刑事司法。然而，盡管AI和ML帶來了巨大的經驗成功和商業價值，但要更廣泛地部署這些技術，需要更好地理解ML模型對社會的影響。因此，可信的ML成為了一個越來越受歡迎的研究方向。Trustworthy ML是一個概括性的概念，包括關于ML可靠性和透明度的各種主題，如公平性、魯棒性、可解釋性等。

例如，機器學習模型可能在特定子種群上的系統表現較差，這導致了公平性問題。因此，對機器學習公平性的研究興趣迅速增加。也有現實世界的ML應用程序證明了偏見和不公平:亞馬遜的人工智能招聘工具被發現具有性別偏見[37];一種曾經廣泛使用的犯罪預測工具，矯正罪犯管理分析替代制裁(COMPAS)，被發現具有種族偏見[4]。另一個例子是，ML模型已被證明對添加到數據中的小的對抗性擾動很敏感，因此容易受到對抗性攻擊[136]。例如，最先進的計算機視覺模型可能通過停車標志[45]上看似隨機的涂鴉，將停車標志識別為限速標志。

由于相關主題的多樣性和我們對可信機器學習的科學理解的文獻歷史，社區自然發展出了一套相對被廣泛接受的可信性問題的概念類別，包括但不限于公平性、魯棒性、安全性、隱私、可問責性、可解釋性和因果性。雖然這種概念分類，像任何分類系統一樣，有助于簡化對該領域的理解，但有時也會產生誤導。

首先，這種分類可以使可信機器學習的不同問題被視為孤立的主題。然而，這些不同的可信性問題可能相互沖突或相關。例如，在某些隱私和公平概念之間存在固有的沖突[32,24]。另一方面，公平性也可以與域外泛化相關[99]。此外，可解釋的ML[41]和因果推理[113]可以成為一些公平性或魯棒性問題的候選解決方案。一個扁平的概念類別分類方法無法捕捉不同主題之間豐富的相互關系。

其次，這種分類傾向于為每個主題尋找過度通用的解決方案，這可能不是解決可信機器學習問題的最佳方法。由于主題的概念性質，通常有各種直觀合理的方法來將可信性概念(例如，公平性或魯棒性)形式化為定量概念，而同時實現所有概念的可信性是不現實的。例如，Kleinberg等人[78]證明，通常不可能有一種算法同時滿足三個常見的公平標準。因此，沒有一個通用的解決方案是所有應用的萬能藥。此外，不同的可信性問題的重要性和恰當表述是高度特定于應用程序的。就可信性不同方面的重要性而言，例如，自動駕駛汽車可能會遭受對抗性攻擊，因為它在野生[45]中接受數據輸入;相比之下，對電子健康記錄(EHR)數據進行對抗性攻擊實際上要困難得多，因為這些數據由授權的醫療專家生成，并且在封閉的系統中循環。另一方面，EHR數據的隱私標準遠高于駕駛數據。在可信性的正確制定方面，研究表明，制定的選擇應該利用利益相關者在具體應用[28]中的感知。總的來說，應該將可信性作為位于特定類型的應用程序場景中的ML技術的屬性來研究，而不是作為通用ML技術的屬性。

許多現有的可信性概念可以按照這個程序重新制定。例如，機器學習模型的不公平性問題往往是由于它們在特定少數子種群上的性能下降，而與它們在多數子種群上的性能相比。機器學習的對抗漏洞是指與在干凈數據上的性能相比，它們在對抗攻擊下的性能下降。另一方面，其他一些可信性概念，如可解釋性或因果關系，不能通過上述過程直接表述。在某種程度上，不公平或不魯棒的模型將產生直接后果，而可解釋性或因果關系可以被視為緩解問題的候選解決方案(例如，不公平或不魯棒)。上述過程關注的是作為問題而不是解決方案的可信性概念。這個過程還強調應用場景的可信性問題。

為約束特定應用場景下的可信范圍，本文對圖機器學習(GML)的可信性進行了研究。現實世界的數據中存在大量的關系結構，通常以圖的形式表示。例如，社交媒體上的用戶或物聯網系統中的傳感器通過圖結構進行連接。如果在預測任務中使用得當，這種關系圖結構可以提供顯著的預測能力。GML是一個流行的機器學習技術家族，它將圖結構用于預測模型。近年來，GML在許多影響人們日常生活的應用中表現出了優異的性能。舉個常見的例子，GML在Uber Eats[65]、亞馬遜[162]和Pinterest[157]的工業推薦系統中發揮著重要作用;GML還被廣泛用于在谷歌Map[38]中的ETA預測或房地產價格估計等任務中對地理數據進行建模[114]。此外，由于關系結構的普遍性，GML方法已經應用于或準備應用于高利害攸關的決策問題，如社會正義。例如犯罪預測和數據驅動的起訴[68,156]，警察不當行為預測[22]，假釋決定的風險評估[132]，公共安全監視[95]，以及許多其他社會公正和安全問題[111]。

鑒于GML的眾多社會相關應用場景，這類ML系統的可信性問題變得至關重要。此外，與傳統的ML相比，由于GML復雜的關系結構，在理解和改進GML的可信性問題方面存在獨特的挑戰。特別是，在GML的上下文中，有許多更復雜，有時甚至是隱式的異常條件。以對抗性攻擊為例，在傳統的機器學習設置中，攻擊者大多通過向輸入特征添加對抗性擾動來進行攻擊。對于GML，在實際應用中存在著更復雜的威脅:攻擊者不僅可以擾動GML節點屬性，還可以擾動圖結構;攻擊者還可以通過擾動鄰居節點來間接影響節點的預測結果。在子種群之間的機器學習公平性方面，大多數傳統文獻研究的是有關某些敏感屬性的子種群，如性別或種族。在圖數據中，人們可以根據圖結構來調查子群體，例如節點中心性[12,13]或社區結構[51,47]。社會科學理論認為，社會網絡中人們的結構特征往往與其社會經濟地位相關[53,16]。圖數據中獨特的對抗性威脅和基于結構的子群呈現出在傳統ML文獻中沒有充分探索的例外情況，使可信的GML更具挑戰性。

本文旨在解決這些對理解和提高GML可信性的獨特挑戰。具體而言，本文旨在回答以下3類研究問題，并在3種應用場景下展示研究方法。

1. GML模型在實際應用場景中可能遇到的潛在異常情況是什么?2. 在確定的異常條件下，GML模型的預期行為是什么?3.在識別出的異常情況下，如何緩解GML模型的性能差異? 在GML方法中，我們關注圖神經網絡(GNN)[52,124,77]，這是一個大的趨勢GML模型家族，將深度學習[83]的最新進展利用到GML中，并在許多真實世界的應用程序中顯示出卓越的性能。

圖聚類是無監督學習中的一個基本問題，在計算機科學和分析現實世界數據中有著廣泛的應用。在許多實際應用中，我們發現聚類具有重要的高層結構。這在圖聚類算法的設計和分析中經常被忽視，因為這些算法對圖的結構做了強烈的簡化假設。本文討論了聚類結構是否可以有效學習的自然問題，并描述了四個用于學習圖和超圖中聚類結構的新算法結果。論文的第一部分對經典的譜聚類算法進行了研究，并對其性能進行了更嚴格的分析。這一結果解釋了為什么它在更弱、更自然的條件下工作，并有助于縮小譜聚類算法的理論保證與其優秀的經驗性能之間的差距。

論文的第二部分在前一部分的理論保證的基礎上，表明當底層圖的簇具有一定的結構時，少于k個特征向量的譜聚類能夠比使用k個特征向量的經典譜聚類產生更好的輸出，其中k是聚類的個數。本文首次討論和分析了少于k個特征向量的譜聚類的性能，并表明一般的聚類結構可以用譜方法學習。第三部分考慮使用局部算法高效地學習簇結構，其運行時間僅依賴于目標簇的大小，且與底層輸入圖無關。經典的局部聚類算法的目標是找到一個與圖其他部分稀疏連接的簇，本文的這一部分提出了一種局部聚類算法，它可以找到一對彼此緊密連接的簇。這一結果表明，即使在現實世界中普遍存在的大圖中，某些聚類結構也可以在局部環境中有效地學習。

論文的最后研究了超圖中密集連接聚類的學習問題。該算法基于一種新的熱擴散過程，擴展了最近在超圖譜理論方面的一系列工作。它允許在建模對象的高階關系的數據集中學習簇的結構，可以應用于有效分析在實踐中發生的許多復雜數據集。在不同領域的合成數據集和真實數據集上進行了廣泛的評估，包括圖像分類和分割、遷移網絡、合著網絡和自然語言處理。實驗結果表明，新提出的算法是實用、有效的，可以立即應用于實際數據的聚類結構學習。

與2D圖像數據相比，3D信息與人類的視覺感知更密切相關，有助于智能機器更好地了解世界。三維信息預測和理解，如結構預測和語義分析，在三維視覺感知中起著重要的作用。具體到3D結構，比如深度數據，雖然我們可以從各種3D傳感器中獲取它，但在機器學習框架中，仍然有大量的嘗試從單個圖像、視頻序列、立體聲數據或多模態數據中預測它。主要原因是3D傳感器通常價格昂貴，捕獲的3D數據通常稀疏且有噪聲。此外，網站中還有大量的圖片，我們希望從中獲取深度圖。最近的研究表明，深度神經網絡，如深度卷積神經網絡(DCNNs)，在相關任務中具有優勢。盡管深度學習取得了巨大的成功，但仍有許多具有挑戰性的問題需要解決。例如，盡管有監督深度學習促使深度估計模型的性能有了很大的提高，但在許多場景下，對大量真實深度數據的需求很難滿足。因此，訓練三維結構估計模型需要采用無監督學習策略。在本文中，我們以一個眾所周知的具體任務，即單目深度估計為例，來研究這一問題。為了降低對真實深度的要求，研究了在合成數據上學習深度模型的域自適應技術，并探索真實數據中的幾何信息，使域自適應過程感知真實域的幾何結構。除了單幅或多幅圖像的預測外，我們還可以從多模態數據中估計深度，例如RGB圖像數據與3D激光掃描數據的耦合。為了實現這一目標，需要解決一些具有挑戰性的問題。例如，由于3D數據通常是稀疏且不規則分布的，我們需要從稀疏數據中建模上下文信息并融合多模態特征。在本文中，我們通過研究深度完成任務來考察這些問題。具體而言，我們提出采用圖傳播來捕獲觀測到的空間上下文，并引入對稱門控融合策略來有效地結合提取的多模態特征。

目前，各種經典的DCNNs被提出用于處理二維圖像數據進行各種分析，如語義理解。而三維點集作為一種重要的三維信息表示形式，由于其稀疏性和無序性，為了理解語義內容，需要新的操作來建模局部形狀，而不是傳統的卷積。在本文中，我們選擇點集作為三維數據的表示形式，即三維點云，然后設計了一個點云分析的基本操作。以往的工作主要考慮相鄰點對之間的關系進行特征聚合，而忽略了編碼局部形狀結構的邊之間的關系。為了提供補救，本文提出了一個新的自適應邊到邊交互學習模塊。此外，由于三維激光掃描儀配置的多樣性，捕獲的三維數據往往因數據集的對象大小、密度和視角而異。因此，三維數據分析中的域泛化問題也是一個關鍵問題。然而，據我們所知，這個問題仍然沒有得到充分的探索。為了對這一問題進行初步探索，本文還通過提出一個熵正則化項來研究3D形狀分類中的域泛化，該項衡量學習到的特征和類標簽之間的依賴性。

本文通過對4個具體任務的研究，圍繞模型設計、多模態融合、稀疏數據分析、無監督學習、域適應和域泛化等關鍵問題展開研究。

//ses.library.usyd.edu.au/handle/2123/27482

盡管數據規模在增長，但我們希望將學習算法的許多應用都受到數據數量和質量的限制。生成模型提出了一個框架，可以自然地將先驗信念與現實世界的數據結合起來。生成式方法的核心是概率推理的挑戰，或估計給定觀測的潛變量。這一挑戰催生了涵蓋多種統計技術的豐富研究領域。最近，深度學習方法被用來解決推理查詢，被恰當地命名為深度推理。在我的論文中，我將探索深度推理的擴展，以應對現實世界的稀疏性和效率的挑戰。我將介紹實際應用的案例研究，其中深度推理在以前的工作上取得了相當大的改進。

本文主要圍繞三個部分展開。我們介紹了生成模型和深度推理的背景，重點是現代變分方法。第一部分將提出新的泛化推理算法，以對不同的稀疏性概念(如多模態數據、缺失數據或計算約束)具有魯棒性。其次，我們研究了元平攤推理，或“推斷如何推斷”。一種雙平攤推理算法將能夠廉價地解決一個新的生成模型的推理查詢。我們將展示一種新的算法來重新利用掩碼語言建模來實現這一點。

第三，我們提出了深度推理在教育中的兩個現實應用:(a)在項目反應理論和相關心理測量模型下估計學生的能力，(b)為學生學習解決編程問題推理教育反饋。總之，這些貢獻展示了深度推理在教育中的豐富性和實用性，以及在現實世界中更廣泛的應用。

關于圖信號處理、圖分析、圖機器學習比較全面的一本書，值得關注！

當前強大的計算機和龐大的數據集正在為計算數學創造新的機會，將圖論、機器學習和信號處理的概念和工具結合在一起，創建圖數據分析。

在離散數學中，圖僅僅是連接一些點(節點)和線的集合。這些圖表的強大之處在于，節點可以代表各種各樣的實體，比如社交網絡的用戶或金融市場數據，這些可以轉換成信號，然后使用數據分析工具進行分析。《圖數據分析》是對生成高級數據分析的全面介紹，它允許我們超越時間和空間的標準常規采樣，以促進建模在許多重要領域，包括通信網絡，計算機科學，語言學，社會科學，生物學，物理學，化學，交通，城市規劃，金融系統，個人健康和許多其他。

作者從現代數據分析的角度重新審視了圖拓撲，并著手建立圖網絡的分類。在此基礎上，作者展示了頻譜分析如何引導最具挑戰性的機器學習任務，如聚類，以直觀和物理上有意義的方式執行。作者詳細介紹了圖數據分析的獨特方面，例如它們在處理從不規則域獲取的數據方面的好處，它們通過局部信息處理微調統計學習過程的能力，圖上的隨機信號和圖移位的概念，從圖上觀察的數據學習圖拓撲，以及與深度神經網絡、多路張量網絡和大數據的融合。包括了大量的例子，使概念更加具體，并促進對基本原則的更好理解。

本書以對數據分析的基礎有良好把握的讀者為對象，闡述了圖論的基本原理和新興的數學技術，用于分析在圖環境中獲得的各種數據。圖表上的數據分析將是一個有用的朋友和伙伴，所有參與數據收集和分析，無論應用領域。

地址： //www.nowpublishers.com/article/Details/MAL-078-1

Graph Signal Processing Part I: Graphs, Graph Spectra, and Spectral Clustering

圖數據分析領域預示著，當我們處理數據類的信息處理時，模式將發生改變，這些數據類通常是在不規則但結構化的領域(社交網絡，各種特定的傳感器網絡)獲得的。然而，盡管歷史悠久，目前的方法大多關注于圖本身的優化，而不是直接推斷學習策略，如檢測、估計、統計和概率推理、從圖上獲取的信號和數據聚類和分離。為了填補這一空白，我們首先從數據分析的角度重新審視圖拓撲，并通過圖拓撲的線性代數形式(頂點、連接、指向性)建立圖網絡的分類。這作為圖的光譜分析的基礎，圖拉普拉斯矩陣和鄰接矩陣的特征值和特征向量被顯示出來，以傳達與圖拓撲和高階圖屬性相關的物理意義，如切割、步數、路徑和鄰域。通過一些精心選擇的例子，我們證明了圖的同構性使得基本屬性和描述符在數據分析過程中得以保留，即使是在圖頂點重新排序的情況下，在經典方法失敗的情況下也是如此。其次，為了說明對圖信號的估計策略，通過對圖的數學描述符的特征分析，以一般的方式介紹了圖的譜分析。最后，建立了基于圖譜表示(特征分析)的頂點聚類和圖分割框架，說明了圖在各種數據關聯任務中的作用。支持的例子展示了圖數據分析在建模結構和功能/語義推理中的前景。同時，第一部分是第二部分和第三部分的基礎，第二部分論述了對圖進行數據處理的理論、方法和應用，以及從數據中學習圖拓撲。

Graph Signal Processing Part II: Processing and Analyzing Signals on Graphs

本專題第一部分的重點是圖的基本性質、圖的拓撲和圖的譜表示。第二部分從這些概念著手，以解決圍繞圖上的數據/信號處理的算法和實際問題，也就是說，重點是對圖上的確定性和隨機數據的分析和估計。

Graph Signal Processing -- Part III: Machine Learning on Graphs, from Graph Topology to Applications

許多關于圖的現代數據分析應用都是在圖拓撲而不是先驗已知的領域上操作的，因此它的確定成為問題定義的一部分，而不是作為先驗知識來幫助問題解決。本部分探討了學習圖拓撲。隨著越來越多的圖神經網絡(GNN)和卷積圖網絡(GCN)的出現，我們也從圖信號濾波的角度綜述了GNN和卷積圖網絡的主要發展趨勢。接著討論了格結構圖的張量表示，并證明了張量(多維數據數組)是一類特殊的圖信號，圖的頂點位于高維規則格結構上。本部分以金融數據處理和地下交通網絡建模的兩個新興應用作為結論。

圖片

強化學習定義了僅通過行動和觀察來學習做出好的決策的代理所面臨的問題。為了成為有效的問題解決器，這些代理必須能有效地探索廣闊的世界，從延遲的反饋中分配信用，并歸納出新的經驗，同時要利用有限的數據、計算資源和感知帶寬。抽象對所有這些努力都是必要的。通過抽象，代理可以形成其環境的簡潔模型，以支持一個理性的、自適應的決策者所需要的許多實踐。在這篇論文中，我提出了強化學習中的抽象理論。首先，我提出了執行抽象過程的函數的三個要求:它們應該1)保持近似最優行為的表示，2) 有效地被學習和構造，3) 更低的規劃或學習時間。然后，我提出了一套新的算法和分析，闡明了代理如何根據這些需求學習抽象。總的來說，這些結果提供了一條通向發現和使用抽象的部分路徑，將有效強化學習的復雜性降到最低。

強化學習問題如下。RL代理通過以下兩個離散步驟的無限重復與環境進行交互:

1. 代理收到觀察和獎勵。
2. 代理從這種交互中學習并執行一個動作。 這個過程如圖1.2所示。在這種互動過程中，agent的目標是做出決策，使其獲得的長期報酬最大化。

論文余下組織如下： 第1部分。在第2章中，我提供了關于RL(2.1節)以及狀態抽象(2.2節)和動作抽象(2.3節)的必要背景知識。

第2部分。下一部分將專注于狀態抽象。我提出了新的算法和三個緊密相連的分析集，每一個目標是發現滿足引入的需求的狀態抽象。在第3章中，我開發了一個形式化的框架來推理狀態抽象，以保持近似最優的行為。這個框架由定理3.1總結，它強調了值保持狀態抽象的四個充分條件。然后，在第4章中，我將這一分析擴展到終身RL設置，在終身RL設置中，代理必須不斷地與不同的任務交互并解決不同的任務。本章的主要觀點是介紹了用于終身學習設置的PAC狀態抽象，以及澄清如何有效計算它們的結果。定理4.4說明了保證這些抽象保持良好行為的意義，定理4.5說明了有多少以前已解決的任務足以計算PAC狀態抽象。我著重介紹了模擬實驗的結果，這些結果說明了所介紹的狀態抽象類型在加速學習和計劃方面的效用。最后，第五章介紹了信息論工具對狀態抽象的作用。我提出了狀態抽象和率失真理論[283,43]和信息瓶頸方法[318]之間的緊密聯系，并利用這種聯系設計新的算法，以高效地構建狀態抽象，優雅地在壓縮和良好行為表示之間進行權衡。我以各種方式擴展了這個算法框架，說明了它發現狀態抽象的能力，這些狀態抽象提供了良好行為的樣本高效學習。

第3部分。然后我轉向行動抽象。在第6章中，我展示了Jinnai等人的分析[144]，研究了尋找盡可能快地做出計劃的抽象動作的問題——主要結果表明，這個問題通常是NP困難的(在適當簡化的假設下)，甚至在多項式時間內很難近似。然后，在第7章中，我解決了在規劃中伴隨高層次行為構建預測模型的問題。這樣的模型使代理能夠估計在給定狀態下執行行為的結果。在本章中，我將介紹并分析一個用于這些高級行為的新模型，并證明在溫和的假設下，這個簡單的替代仍然是有用的。我提供的經驗證據表明，新的預測模型可以作為其更復雜的對等物的適當替代者。最后，在第8章中，我探討了抽象行動改善探索過程的潛力。我描述了Jinnai等人開發的一種算法[145]，該算法基于構建可以輕松到達環境所有部分的抽象行動的概念，并證明該算法可以加速對基準任務的探索。

第4部分。最后，我轉向狀態動作抽象的聯合過程。在第9章中，我介紹了一個將狀態和動作抽象結合在一起的簡單機制。使用這個方案，然后我證明了哪些狀態和動作抽象的組合可以在任何有限的MDP中保持良好的行為策略的表示，定理9.1總結了這一點。接下來，我將研究這些聯合抽象的反復應用，作為構建分層抽象的機制。在對層次結構和底層狀態動作抽象的溫和假設下，我證明了這些層次結構也可以保持全局近最優行為策略的表示，如定理9.3所述。然后，我將在第十章中總結我的思考和今后的方向。

總的來說，這些結果闡明了強化學習的抽象理論。圖1.4展示了本文的可視化概述。