亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

機器學習已經被應用于越來越多影響我們日常生活的社交相關場景，從社交媒體和電子商務到自動駕駛汽車和刑事司法。因此，開發可信、可靠的機器學習方法至關重要，以避免對個人和社會產生負面影響。本文致力于理解和提升圖機器學習的可信性，由于圖數據的復雜關系結構，這提出了獨特的挑戰。

特別地，我們認為機器學習模型的可信性在異常情況下是可靠的。例如，機器學習模型在對抗攻擊下或在子種群上的性能不應嚴重退化，分別對應對抗魯棒性或公平性問題。值得信任的圖機器學習的獨特挑戰是，在圖數據的上下文中有許多更復雜的，有時是隱式的異常條件。本文識別了未充分挖掘的異常情況，理解了識別出的異常情況下的預期模型行為，并改進了現有模型在此類異常情況下的行為。

重點關注圖神經網絡(GNN)，這是一類流行的圖機器學習模型，利用了深度學習的最新進展。**本文確定了圖神經網絡的三種異常情況。**首先，受社交網絡應用場景啟發，通過一個新的實際威脅模型研究了GNN的對抗魯棒性，并研究了GNN何時以及為什么會遭受對抗攻擊。發現現有的GNN對許多現實世界的圖數據可能會被錯誤指定，并開發了一個新的框架來改進現有的模型。發現了一種與節點結構位置相關的測試節點子種群之間的GNN預測的不公平性。本文還提出了一種主動學習框架來緩解不公平問題。

人工智能(AI)，特別是機器學習(ML)，已經作為一種通用技術融入人類社會1，有望在許多方面重塑我們的日常生活，從社交媒體和電子商務，到自動駕駛汽車和刑事司法。然而，盡管AI和ML帶來了巨大的經驗成功和商業價值，但要更廣泛地部署這些技術，需要更好地理解ML模型對社會的影響。因此，可信的ML成為了一個越來越受歡迎的研究方向。Trustworthy ML是一個概括性的概念，包括關于ML可靠性和透明度的各種主題，如公平性、魯棒性、可解釋性等。

例如，機器學習模型可能在特定子種群上的系統表現較差，這導致了公平性問題。因此，對機器學習公平性的研究興趣迅速增加。也有現實世界的ML應用程序證明了偏見和不公平:亞馬遜的人工智能招聘工具被發現具有性別偏見[37];一種曾經廣泛使用的犯罪預測工具，矯正罪犯管理分析替代制裁(COMPAS)，被發現具有種族偏見[4]。另一個例子是，ML模型已被證明對添加到數據中的小的對抗性擾動很敏感，因此容易受到對抗性攻擊[136]。例如，最先進的計算機視覺模型可能通過停車標志[45]上看似隨機的涂鴉，將停車標志識別為限速標志。

由于相關主題的多樣性和我們對可信機器學習的科學理解的文獻歷史，社區自然發展出了一套相對被廣泛接受的可信性問題的概念類別，包括但不限于公平性、魯棒性、安全性、隱私、可問責性、可解釋性和因果性。雖然這種概念分類，像任何分類系統一樣，有助于簡化對該領域的理解，但有時也會產生誤導。

首先，這種分類可以使可信機器學習的不同問題被視為孤立的主題。然而，這些不同的可信性問題可能相互沖突或相關。例如，在某些隱私和公平概念之間存在固有的沖突[32,24]。另一方面，公平性也可以與域外泛化相關[99]。此外，可解釋的ML[41]和因果推理[113]可以成為一些公平性或魯棒性問題的候選解決方案。一個扁平的概念類別分類方法無法捕捉不同主題之間豐富的相互關系。

其次，這種分類傾向于為每個主題尋找過度通用的解決方案，這可能不是解決可信機器學習問題的最佳方法。由于主題的概念性質，通常有各種直觀合理的方法來將可信性概念(例如，公平性或魯棒性)形式化為定量概念，而同時實現所有概念的可信性是不現實的。例如，Kleinberg等人[78]證明，通常不可能有一種算法同時滿足三個常見的公平標準。因此，沒有一個通用的解決方案是所有應用的萬能藥。此外，不同的可信性問題的重要性和恰當表述是高度特定于應用程序的。就可信性不同方面的重要性而言，例如，自動駕駛汽車可能會遭受對抗性攻擊，因為它在野生[45]中接受數據輸入;相比之下，對電子健康記錄(EHR)數據進行對抗性攻擊實際上要困難得多，因為這些數據由授權的醫療專家生成，并且在封閉的系統中循環。另一方面，EHR數據的隱私標準遠高于駕駛數據。在可信性的正確制定方面，研究表明，制定的選擇應該利用利益相關者在具體應用[28]中的感知。總的來說，應該將可信性作為位于特定類型的應用程序場景中的ML技術的屬性來研究，而不是作為通用ML技術的屬性。

許多現有的可信性概念可以按照這個程序重新制定。例如，機器學習模型的不公平性問題往往是由于它們在特定少數子種群上的性能下降，而與它們在多數子種群上的性能相比。機器學習的對抗漏洞是指與在干凈數據上的性能相比，它們在對抗攻擊下的性能下降。另一方面，其他一些可信性概念，如可解釋性或因果關系，不能通過上述過程直接表述。在某種程度上，不公平或不魯棒的模型將產生直接后果，而可解釋性或因果關系可以被視為緩解問題的候選解決方案(例如，不公平或不魯棒)。上述過程關注的是作為問題而不是解決方案的可信性概念。這個過程還強調應用場景的可信性問題。

為約束特定應用場景下的可信范圍，本文對圖機器學習(GML)的可信性進行了研究。現實世界的數據中存在大量的關系結構，通常以圖的形式表示。例如，社交媒體上的用戶或物聯網系統中的傳感器通過圖結構進行連接。如果在預測任務中使用得當，這種關系圖結構可以提供顯著的預測能力。GML是一個流行的機器學習技術家族，它將圖結構用于預測模型。近年來，GML在許多影響人們日常生活的應用中表現出了優異的性能。舉個常見的例子，GML在Uber Eats[65]、亞馬遜[162]和Pinterest[157]的工業推薦系統中發揮著重要作用;GML還被廣泛用于在谷歌Map[38]中的ETA預測或房地產價格估計等任務中對地理數據進行建模[114]。此外，由于關系結構的普遍性，GML方法已經應用于或準備應用于高利害攸關的決策問題，如社會正義。例如犯罪預測和數據驅動的起訴[68,156]，警察不當行為預測[22]，假釋決定的風險評估[132]，公共安全監視[95]，以及許多其他社會公正和安全問題[111]。

鑒于GML的眾多社會相關應用場景，這類ML系統的可信性問題變得至關重要。此外，與傳統的ML相比，由于GML復雜的關系結構，在理解和改進GML的可信性問題方面存在獨特的挑戰。特別是，在GML的上下文中，有許多更復雜，有時甚至是隱式的異常條件。以對抗性攻擊為例，在傳統的機器學習設置中，攻擊者大多通過向輸入特征添加對抗性擾動來進行攻擊。對于GML，在實際應用中存在著更復雜的威脅:攻擊者不僅可以擾動GML節點屬性，還可以擾動圖結構;攻擊者還可以通過擾動鄰居節點來間接影響節點的預測結果。在子種群之間的機器學習公平性方面，大多數傳統文獻研究的是有關某些敏感屬性的子種群，如性別或種族。在圖數據中，人們可以根據圖結構來調查子群體，例如節點中心性[12,13]或社區結構[51,47]。社會科學理論認為，社會網絡中人們的結構特征往往與其社會經濟地位相關[53,16]。圖數據中獨特的對抗性威脅和基于結構的子群呈現出在傳統ML文獻中沒有充分探索的例外情況，使可信的GML更具挑戰性。

本文旨在解決這些對理解和提高GML可信性的獨特挑戰。具體而言，本文旨在回答以下3類研究問題，并在3種應用場景下展示研究方法。

1. GML模型在實際應用場景中可能遇到的潛在異常情況是什么?2. 在確定的異常條件下，GML模型的預期行為是什么?3.在識別出的異常情況下，如何緩解GML模型的性能差異? 在GML方法中，我們關注圖神經網絡(GNN)[52,124,77]，這是一個大的趨勢GML模型家族，將深度學習[83]的最新進展利用到GML中，并在許多真實世界的應用程序中顯示出卓越的性能。

在許多現代應用中取得顯著成功的最主要的技術之一是深度學習。對圖像識別、語音處理和文本理解中的海量數據分析的癡迷，促使深度神經網絡在不同研究領域的不同學習任務中取得了顯著進展。深度學習技術聯盟產生了強大的卷積神經網絡和新興的圖神經網絡。圖神經網絡(Graph neural networks)，簡稱GNNs，是一種輸入包含內部結構關系的深度神經網絡。圖神經網絡(GNNs)的主流找到了圖的充分數值表示，這對統計或機器學習模型的預測性能至關重要。圖表示學習在現實世界中有許多應用，如藥物再利用、蛋白質分類、流行病傳播控制和社會網絡分析等。在過去五年中，GNN的快速發展過程中，發現了一些設計缺陷，如過度平滑、易受擾動、缺乏表現力和缺乏可解釋性。同時，對該研究領域的持續熱情為解決更復雜的問題積累了經驗，如大小可變圖壓縮和時變圖動態捕獲。

//ses.library.usyd.edu.au/handle/2123/28617

**這篇論文的目標是闡明一些關于數學的概述問題。**其中，圖壓縮的置換不變設計支持流形學習，魯棒的圖平滑依賴于凸優化原理，高效的動態圖表示學習借鑒了信號處理和矩陣分解的隨機冪方法。作者認為，深度學習技術的有效性不應該僅僅取決于在特定數據集上的性能，對黑盒模型的修改應該在皮膚層之下進行，并比超參數調整付出更多的努力。深度神經網絡的可靠性期待著在嚴格的數學支持下設計模型，以便有一天“計算機科學”成為真正的科學。

過去十年在人工智能和硬件開發方面的研究對自動駕駛的發展產生了重大影響。然而，在高風險環境中部署此類系統時，安全性仍然是一個主要問題。現代神經網絡已被證明很難正確識別自己的錯誤，并在面對看不清的情況時提供過度自信的預測，而不是放棄。在這些問題上取得進展，不僅對獲得交通主管部門的認證至關重要，而且對激發用戶的熱情也至關重要。

本論文的目的是開發為深度神經網絡提供可靠的不確定性估計的方法工具。特別是，我們的目標是改進測試時錯誤預測和異常的檢測。首先，我們引入了一種新的模型置信度目標準則——真類概率(TCP)。在故障預測任務中，TCP比當前的不確定性度量提供了更好的性能。由于真正的類在測試時本質上是未知的，我們提出使用輔助模型(知己網)從數據中學習TCP準則，并引入了一種適合這種情況的特定學習方案。在圖像分類和語義分割數據集上驗證了所提方法的相關性，證明了在故障預測方面強不確定性量化基線的優越性。

然后，我們將學習過的置信度方法擴展到語義分割的領域適應任務中。一種流行的策略是自訓練，它依賴于在未標記的數據上選擇預測，并用這些偽標簽重新訓練模型。這種被稱為ConDA的自適應方法通過提供用于選擇偽標簽的有效置信度估計改進了自我訓練方法。為了應對領域適應的挑戰，我們為輔助模型配備了多尺度的置信度體系結構，并用對抗訓練方案補充置信度損失，以加強源域和目標域的置信度映射之間的對齊。最后，我們考慮了異常的存在，并解決了聯合檢測錯誤分類和非分布樣本的最終實際目標。為此，我們引入了一種基于證據模型并定義在類概率單形上的不確定性測度KLoS。通過保留完整的分布信息，KLoS既捕獲了由于類別混亂而產生的不確定性，又捕獲了與分布不均樣本相關的知識缺乏。通過使用輔助模型和學習置信方法，我們進一步提高了不同圖像分類數據集的性能。

深度學習在經驗上非常有影響力，但在理論理解上滯后。神經網絡在結構和訓練算法上都比傳統的機器學習模型復雜得多，所以傳統的理論直覺可能不適用。本文旨在從理論上更好地理解深度學習中的泛化問題。在論文的第一部分，我們研究了所有數據都有標簽的監督設置下的泛化。我們的主要工具是泛化界:通過推導和研究泛化界，我們可以深入了解深度學習中影響泛化的各種因素。

首先，我們比較了正則化神經網絡和神經正切核(NTK)的統計特性。通過建立神經網絡常見的正則化訓練損失與基于輸出邊際的泛化界之間的聯系，我們證明了正則化神經網絡比NTK解具有更好的泛化效果。其次，我們基于邊緣的新概念——全層邊緣，推導出神經網絡的新泛化邊界。與傳統的基于規范的泛化測度相比，這些邊界更依賴于數據，更具有深度，并突出了數據依賴的Lipschitzness在泛化中的重要作用。我們以經驗證明，這些邊界對于激勵新的訓練目標和理解和解密現有的正則化策略是有用的。

在論文的第二部分，我們把我們的焦點轉向涉及未標記數據的設置。在這些情況下，很難證明為什么許多算法可以工作，盡管它們有廣泛的經驗成功。

首先，我們研究了視覺設置，并提出了一個理論框架來理解最近的半監督學習和領域適應的自訓練算法。通過利用自然圖像的現實結構屬性，我們表明，在未標記數據上的自訓練導致可證明的準確性增益。此外，我們的理論框架和相關假設可以用來表明，自監督對比學習在線性探針評價下獲得了可證明的良好特征。最后，我們研究了為什么預訓練語言模型可以幫助處理NLP設置中的下游任務。我們通過潛在的潛在變量生成模型來考慮預訓練和下游任務相關的設置。我們表明，當這個生成模型是HMM或記憶增強HMM時，預訓練允許解決下游任務的可證明保證。

//searchworks.stanford.edu/view/14230987

在一個特定的數據集上訓練一個強大的神經預測器執行一項任務的主流NLP范式取得了在各種應用上的成功(如:情感分類、基于廣度預測的問答或機器翻譯)。然而，它建立在數據分布是平穩的假設之上，即。在訓練和測試時，數據都是從一個固定的分布中取樣的。這種訓練方式與我們人類在不斷變化的信息流中學習和操作的方式不一致。此外，它不適合于真實世界的用例，在這些用例中，數據分布預計會在模型的生命周期中發生變化。

本文的第一個目標是描述這種偏移在自然語言處理環境中可能采取的不同形式，并提出基準和評價指標來衡量它對當前深度學習體系結構的影響。然后，我們繼續采取步驟，以減輕分布轉移對NLP模型的影響。為此，我們開發了基于分布魯棒優化框架的參數化重構方法。從經驗上講，我們證明了這些方法產生了更魯棒的模型，正如在選擇的現實問題上所證明的那樣。在本文的第三部分和最后一部分，我們探索了有效地適應現有模型的新領域或任務的方法。我們對這個主題的貢獻來自于信息幾何學的靈感，獲得了一個新的梯度更新規則，緩解了適應過程中災難性的遺忘問題。

我們從評估開始，因為分布轉移特別難以描述和測量，特別是在自然語言方面。這部分是由于數據缺乏規范的度量結構。換句話說，如何有效地衡量兩個句子之間的語義相似度還不清楚，因此沒有直接的方法來衡量兩個樣本之間的差異，更不用說兩種分布了。因此，作為解決分布偏移的第一步，我們提出了一個新的基準(第3章)和評估指標(第4章)，分別評估域偏移和對抗擾動的魯棒性。有了這些工具在手，我們開始構建魯棒的模型，這些模型經過訓練，即使在沒有關于轉移本質的明確信息的情況下，對分布轉移也不那么敏感。這是通過利用訓練分布中的數據多樣性來實現的，以確保在訓練數據(子群體)中存在的各種領域上的統一性能。具體來說，我們制定了一個分布魯棒優化框架的參數化版本，該框架允許訓練模型對子群體轉移更為穩健(第5章和第6章)。最后，在靜態環境中學習從根本上是次優的:我們不能期望我們的模型在每一個可能的未來環境中都表現良好，我們必須能夠使它們適應我們遇到的任何新情況。因此，我們研究了一種機制，通過這種機制，我們能夠根據新的證據微調訓練模型，而不會忘記之前獲得的知識(第7章)。

//www.zhuanzhi.ai/paper/c5e7a9742d6a6313d63c5976499166dc

隨著機器學習模型越來越多地用于做出涉及人類的重大決策，重要的是，這些模型不能因為種族和性別等受保護的屬性而歧視。然而，模型持有人并不是受到歧視性模型傷害的首當其沖的人，因此模型持有人修復歧視性模型的自然動機很少。因此，如果其他實體也能發現或減輕這些模型中的不公平行為，將對社會有益。只需要對模型進行查詢訪問的黑盒方法非常適合這個目的，因為它們可以在不知道模型的全部細節的情況下執行。

在這篇論文中，我考慮了三種不同形式的不公平，并提出了解決它們的黑盒方法。第一個是代理使用，模型的某些組件是受保護屬性的代理。其次是個體公平性的缺乏，這使模型不應該做出任意決定的直覺觀念形式化。最后，模型的訓練集可能不具有代表性，這可能導致模型對不同的保護組表現出不同程度的準確性。對于這些行為中的每一個，我提出使用一個或多個方法來幫助檢測模型中的此類行為或確保缺乏此類行為。這些方法只需要對模型的黑箱訪問，即使模型持有者不合作，它們也能有效地使用。我對這些方法的理論和實驗分析證明了它們在這種情況下的有效性，表明它們是有用的技術工具，可以支持對歧視的有效回應。

我們為什么在這里?我們大多數人來到這里的原因很簡單:我們想解決人工智能問題。那么，人工智能和這本書的書名有什么關系呢?人工智能的現代定義之一是對理性代理的研究和設計[RN09]。從這個意義上說，我們將一個系統描述為智能的，當它最大化某些預期的性能概念時。機器學習的子領域處理的是問題和算法的子集，其中代理可以獲得經驗(通常以某種形式的數據)，可以利用這些經驗來改進性能的概念[MRT12]。大多數情況下，性能是由代理人在新的和看不見的情況下如何行動來衡量的，這些情況不構成其訓練經驗的一部分。例如，可以訓練一名代理人將英文翻譯成法文，其訓練經驗包括大量翻譯的聯合國文件。然而，在評估時，它可能會在與它所見過的文件不同的聯合國新文件上進行測試。很自然地，代理在它所看到的訓練經驗和它所評估的新情況下的表現之間存在著差距。代理泛化的能力是通過性能上的差距有多小來衡量的。

希望前面的段落已經解釋了在機器學習的背景下，以及在更大的AI背景下，什么是泛化。那么，標題中還保留著哪些“分布外”詞呢?如前所述，泛化是指減少一個agent在已知訓練情境下的表現與同一agent在未知測試情境下的表現之間的差距。然而，有許多不同類型的未知。統計學習通常處理的一類泛化是分布的:當從訓練示例生成的數據與測試示例生成的數據無法區分時。根據定義，非分布內的泛化問題稱為分布外泛化問題，這是本書的主題。

這項工作的目標很簡單。我們想要回顧，分布外泛化的知識。因此，這項工作的很大一部分將致力于理解(有時是微妙的)不同方法和假設之間的差異和相似性，通常以一種孤立的方式呈現。重點將放在與人工智能或現代大規模機器學習應用等想法上。此外，我們將特別注意研究不同方法的缺點，以及下一步可能是重要的。

• 在第二章中，我們首先討論如何量化分布外泛化。通過幾個例子，我們研究了分布外泛化與處理不同分布外任務的幾種常用方法之間的關系。本文將特別強調這些方法背后的假設，并說明這些方法何時有效，何時無效。

• 在第三章中，我們將關注一個特定的分布外任務類。在這些預測任務中，就像在許多實際問題中一樣，在分布之外泛化的困難在于找出數據中的哪些相關性是假的和不可靠的，以及哪些相關性代表感興趣的現象。

• 在第四章中，我們討論了不同應用領域在實踐中出現的分布外任務的類型，以及這些領域在過去是如何處理這些問題的。

• 在第五章中，我們為分布外泛化和人工智能背景下的新研究領域奠定了基礎。在本章中，我們將關注在探索或強化學習環境中與世界交互的agent，以及它們如何從分布外泛化中獲益。

【導讀】紐約大學的Andrew Gordon Wilson和Pavel Izmailov在論文中從概率角度的泛化性對貝葉斯深度學習進行了探討。貝葉斯方法的關鍵區別在于它是基于邊緣化，而不是基于最優化的，這為它帶來了許多優勢。

貝葉斯方法的關鍵區別是邊緣化，而不是使用單一的權重設置。貝葉斯邊緣化可以特別提高現代深度神經網絡的準確性和校準，這是典型的不由數據完全確定，可以代表許多令人信服的但不同的解決方案。我們證明了深度集成為近似貝葉斯邊緣化提供了一種有效的機制，并提出了一種相關的方法，通過在沒有顯著開銷的情況下，在吸引域邊緣化來進一步改進預測分布。我們還研究了神經網絡權值的模糊分布所隱含的先驗函數，從概率的角度解釋了這些模型的泛化性質。從這個角度出發，我們解釋了那些對于神經網絡泛化來說神秘而獨特的結果，比如用隨機標簽來擬合圖像的能力，并證明了這些結果可以用高斯過程來重現。最后，我們提供了校正預測分布的貝葉斯觀點。