亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

最近在無監督表示學習方面的進展導致了許多廣泛使用的人工智能工具，如ChatGPT和穩定擴散。這些工具是將相對簡單的訓練算法應用于大規模GPU集群上的大規模模型，甚至是大量未標記的訓練數據，以及在大量標記的評估任務上調整算法的結果。在這篇論文中，我們提出了一些方法來解決在訓練模型進行表示學習時去除這些組件的問題，即有限的計算量、有限的訓練數據和有限的評估數據。本文主要分為四章，重點研究數據和標簽高效的表示學習。

數據高效表示學習的重點是用較少的數據(有標記或無標記)學習有用的表示，這在本文中討論過，對于數據可用性有限的應用特別重要。標記高效表示學習專注于在訓練數據很少或沒有人工標注的情況下學習有用的表示。正如將要討論的，這對于通常很難或不可能獲得準確標記數據的應用程序很重要，例如在隱私敏感領域或具有高度模糊的標簽定義的應用程序。

(1)自增強:用于自監督學習的自動增強策略，探索了如何在很少/沒有標記訓練數據和少量無標記數據的情況下為無監督學習管道開發增強策略。(2)數據高效的自監督表示學習，探索了如何利用一種形式的分層預訓練進行數據高效80倍的預訓練。(3)區域相似性表示學習，通過在區域(基于塊的)水平上進行對比學習，探索了學習區域級表示的首批方法之一，并在標記數據很少的情況下，對目標檢測/分割等下游任務進行了實質性的改進。(4) scale - mae:一種面向多尺度地理空間表示學習的尺度感知掩碼自編碼器，探索了利用已知尺度信息進行地理空間表示學習的方法。

**最近機器學習方法的大部分成功都是通過利用過去幾年產生的大量標記數據而實現的。**然而，對于一些重要的實際應用來說，如此大規模的數據收集仍然是不可行的。這包括機器人、醫療健康、地球科學和化學等領域，在這些領域獲取數據可能既昂貴又耗時。在本文中，我們考慮三個不同的學習問題，其中可以收集的數據量是有限的。這包括在在線學習期間限制對標簽、整個數據集和生成經驗的訪問的設置。本文通過采用序列決策策略來解決這些數據限制，這些策略在收集新數據和根據新獲得的證據做出明智的決策之間迭代。**首先，解決標簽獲取成本較高時如何高效地收集批量標簽的問題。**概率主動學習方法可用于貪婪地選擇信息量最大的待標記數據點。然而，對于許多大規模問題，標準的貪心算法在計算上變得不可行。為緩解這個問題，本文提出一種可擴展的貝葉斯批量主動學習方法，其動機是近似模型參數的完整數據后驗。

**其次，我們解決了自動化分子設計的挑戰，以加速對新藥物和材料的搜索。**由于迄今為止只探索了化學空間的一個小區域，可用于某些化學系統的數據量是有限的。本文通過將3D分子設計問題制定為強化學習任務，克服了生成模型對數據集的依賴，并提出了一種對稱感知策略，可以生成用以前方法無法實現的分子結構。

**最后，我們考慮了如何在不同任務中有效地學習機器人行為的問題。**實現這一目標的一個有希望的方向是在不同的任務上下文中泛化局部學習的策略。上下文策略搜索通過顯式地將策略約束在參數化上下文空間上，從而提供數據高效的學習和泛化。進一步構建上下文策略表示，在各種機器人領域實現更快的學習和更好的泛化。

兒童和機器的語言習得是了不起的。然而，雖然兒童通過聽相對少量的語言以及與人和周圍環境的互動來學習，但神經語言模型需要更多的數據和監督，難以泛化到新領域，絕大多數情況下只能從文本中學習。本文探討了關于兒童語言習得的知識——特別是兒童接受語言信息的規模和類型，他們如何使用反饋，以及他們如何以超出他們接觸到的語言輸入的系統方式進行概括——如何應用于多模態語言模型。本文的重點是:(1)基于視覺，用較少的數據訓練弱監督語言模型;(2)探索模型在多模態域的泛化能力。第一種方法使用字幕視頻訓練語義解析器，將自然語言映射到邏輯形式，在沒有解析樹或任何其他注釋的情況下進行學習。第二種方法從簡單的觀察視頻轉向使用機器人模擬器和世界狀態來驗證生成的邏輯形式的更動態的設置。這些方法專注于評估弱監督，訓練和推理數據相對相似;探索了評估，其中推理數據與訓練數據有很大不同，需要系統的泛化。一種方法測試了預訓練和一種新的解碼策略在網格世界中導航的作用;推理命令和動作序列在系統方面與訓練不同。最后一種方法測試了當輸入圖像或文本中的人口統計特征與其學習到的社會偏見不同時，預訓練的多模態transformer模型的泛化程度。

一個機器人要想在非結構化的室外環境中與人類高效合作，就必須將指令從操作者直觀的模態轉化為行動。機器人必須能夠像人類一樣感知世界，這樣機器人所采取的行動才能反映自然語言和人類感知的細微差別。傳統上，導航系統結合了個人感知、語言處理和規劃塊，這些塊通常是根據不同的性能規格單獨訓練的。它們使用限制性接口進行通信以簡化開發(即，具有離散屬性的點對象和有限的命令語言)，但這也限制了一個模塊可以傳遞給另一個模塊的信息。

深度學習的巨大成功徹底改變了計算機視覺的傳統研究方向，如目標檢測和場景標記。視覺問答(VQA)將自然語言處理中的最先進技術與圖像理解聯系起來。符號基礎、多步驟推理和對空間關系的理解已經是這些系統的元素。這些元素統一在一個具有單一可微損失的架構中，消除了模塊之間定義良好接口的需要，并簡化了與之相伴的假設。我們介紹了一種將文本語言命令和靜態航空圖像轉換為適合規劃的成本圖的技術。我們建立在FiLM VQA架構的基礎上，對其進行調整以生成成本圖，并將其與修改后的可微分計劃損失(最大邊際計劃)結合起來使用Field D*計劃器。通過這種架構，我們向統一語言、感知和規劃到單一的端到端可訓練系統邁出了一步。

我們提出了一個源自CLEVR數據集的可擴展綜合基準測試，我們用它來研究算法在無偏倚環境中具有幾乎無限數據的理解能力。我們分析了該算法在這些數據上的表現，以了解其局限性，并提出未來的工作來解決其缺點。我們使用真實的航空圖像和合成命令提供混合數據集的結果。規劃算法通常具有高分支因子，并且不能很好地映射到近年來催化深度學習發展的GPU。我們精心選擇了Field D和Max Margin Planning，以在高度并行的架構上表現良好。我們引入了一個適用于多GPU數據并行訓練的Field D版本，它使用Bellman-Ford算法，與我們的cpu優化實現相比，性能幾乎提高了十倍。在團隊中工作的人之間的流暢互動取決于對任務、環境和語言微妙之處的共同理解。在這種情況下工作的機器人也必須這樣做。學習將命令和圖像轉換為具有可微分規劃損失的軌跡是捕捉和模仿人類行為的一種方法，也是實現機器人和人類無縫交互的一小步。

過去十年在人工智能和硬件開發方面的研究對自動駕駛的發展產生了重大影響。然而，在高風險環境中部署此類系統時，安全性仍然是一個主要問題。現代神經網絡已被證明很難正確識別自己的錯誤，并在面對看不清的情況時提供過度自信的預測，而不是放棄。在這些問題上取得進展，不僅對獲得交通主管部門的認證至關重要，而且對激發用戶的熱情也至關重要。

本論文的目的是開發為深度神經網絡提供可靠的不確定性估計的方法工具。特別是，我們的目標是改進測試時錯誤預測和異常的檢測。首先，我們引入了一種新的模型置信度目標準則——真類概率(TCP)。在故障預測任務中，TCP比當前的不確定性度量提供了更好的性能。由于真正的類在測試時本質上是未知的，我們提出使用輔助模型(知己網)從數據中學習TCP準則，并引入了一種適合這種情況的特定學習方案。在圖像分類和語義分割數據集上驗證了所提方法的相關性，證明了在故障預測方面強不確定性量化基線的優越性。

然后，我們將學習過的置信度方法擴展到語義分割的領域適應任務中。一種流行的策略是自訓練，它依賴于在未標記的數據上選擇預測，并用這些偽標簽重新訓練模型。這種被稱為ConDA的自適應方法通過提供用于選擇偽標簽的有效置信度估計改進了自我訓練方法。為了應對領域適應的挑戰，我們為輔助模型配備了多尺度的置信度體系結構，并用對抗訓練方案補充置信度損失，以加強源域和目標域的置信度映射之間的對齊。最后，我們考慮了異常的存在，并解決了聯合檢測錯誤分類和非分布樣本的最終實際目標。為此，我們引入了一種基于證據模型并定義在類概率單形上的不確定性測度KLoS。通過保留完整的分布信息，KLoS既捕獲了由于類別混亂而產生的不確定性，又捕獲了與分布不均樣本相關的知識缺乏。通過使用輔助模型和學習置信方法，我們進一步提高了不同圖像分類數據集的性能。

深度學習推動了應用的爆炸式增長，然而訓練深度神經網絡通常需要昂貴的人工注釋。在這篇論文中，我們探索了在訓練深度神經網絡時避免大量依賴人工注釋示例的替代方案。具體來說，要么采用自監督方法來自動糾正自由獲得的數據標簽，要么完全放棄使用人工標簽，而是利用音頻和視覺信息的自然共生來學習視頻中的對象表示。越來越多的數字數據通常會提供噪聲標簽，這些標簽可以用來監督學習過程。傳統的數據預處理包括在訓練識別模型之前糾正/清理數據，但這可能需要大量的人工工作。我們考慮自動更正注釋噪聲，從而避免了昂貴的手動注釋的需要。我們構建和擴展了最近的突破，使用一致性損失(consistency loss)和空間記憶映射(space memory map)來提供靈活的實例級注冊，從而實現更大的泛化。進一步探索了多模態感覺流，利用模態冗余，即模態之間的重疊信息，為模型提供自監督。表示是通過利用不同的模式來學習的，而不使用任何人類注釋的標簽。我們將使用三個不同的應用程序演示此技術。

首先，我們自動管理一個大型音頻數據集VGG-Sound，使用視覺引導收集了超過200k的視頻，并在此基礎上進行訓練，生成最先進的音頻識別模型。其次，我們提出了一種改進和擴展最近聲源定位技術的方法，通過引入一種機制來挖掘硬樣本并自動將其添加到對比學習公式中。最后，與在一個特定領域執行的現有視聽同步任務不同，我們建議通過探索使用幾種基于transformer的體系結構來解決開放世界設置中的同步問題。通過這些模型，我們在具有挑戰性的語音數據集中獲得了最先進的結果，并在一般聲音數據集中顯示了出色的泛化效果。

近期，南京大學周志華教授在《國家科學評論》（National Science Review, NSR）發表題為“Open-environment Machine Learning”的文章，對開放環境機器學習（簡稱Open ML）的研究內容進行了界定，并對相關進展進行了回顧總結。

傳統的機器學習研究通常假設在封閉的環境中，學習過程的重要因素保持不變。隨著機器學習的巨大成功，如今越來越多的實際任務，尤其是那些涉及到開放環境場景的任務，其中重要因素會發生變化，本文稱之為開放環境機器學習。顯然，機器學習從封閉環境向開放環境的轉變是一個巨大的挑戰。更具有挑戰性的是，在各種大數據任務中，數據通常是隨著時間的積累而積累的，就像流一樣，而很難像傳統研究那樣收集完所有的數據后訓練機器學習模型。本文簡要介紹了這一研究方向的一些進展，重點介紹了新類別、增量特征、變化的數據分布和不同的學習目標等方面的技術，并討論了一些理論問題。

機器學習在各種應用中取得了巨大的成功，特別是在監督學習任務，如分類和回歸。通常，在機器學習中，優化特定目標的預測模型是從由訓練示例組成的訓練數據集學習的，每個示例對應一個事件/對象。一個訓練示例由兩部分組成:描述事件/對象外觀的特征向量(或稱為實例)，以及表示相應地面真實輸出的標簽。分類時，標簽表示訓練實例所屬的類;在回歸中，標簽是對應于實例的實值響應。這篇文章主要關注分類，盡管大多數討論也適用于回歸和其他機器學習任務。形式上，考慮從訓練數據集D = {(X 1, y1)，…， (x m, ym)}，其中x i∈x是特征空間x中的特征向量，yi∈Y是給定標簽集Y中的真值標簽。

值得注意的是，目前機器學習的成功案例大多涉及假設接近封閉環境場景的任務，其中學習過程的重要因素保持不變。例如，所有要預測的類標簽都是預先知道的，描述訓練/測試數據的特征永遠不會改變，所有數據都來自一個相同的分布，學習過程朝著一個不變的唯一目標優化。圖1說明了在封閉環境機器學習研究中假設的典型不變因素。封閉環境假設提供了一種簡化的抽象，使復雜的任務能夠以更容易的方式處理，導致機器學習技術的繁榮發展。隨著這些技術取得的巨大成就，如今，越來越多的超越封閉環境設置的具有挑戰性的任務出現在社區中，要求新一代的機器學習技術能夠處理學習過程中重要因素的變化。我們稱之為開放環境機器學習，簡稱開放學習或開放ML。請注意，“開放世界機器學習”這個名字是用來指帶有不可見類[1]或超出分布(OOD)數據[2]的機器學習。事實上，如果看不見的類是事先知道的，它并不超出封閉環境研究，如果看不見的類是未知的，它與“新興的新類”一節有關。OOD與“變化的數據分布”一節有關，盡管只關注不同的分布比隨時間變化的分布更簡單。

似乎有一個直接的解決方案:通過提前模擬可能的變化來人為地生成許多訓練樣本，然后將這些數據輸入強大的機器學習模型(如深度神經網絡)。然而，這樣的解決方案只適用于當用戶知道或者至少可以估計什么變化以及變化將如何發生時。不幸的是，在大多數實際任務中并非如此。當我們考慮到真正的大數據任務中的數據通常是隨著時間累積的，例如實例是一個接一個接收的，就像一個流一樣，這就變得更加具有挑戰性。我們不可能像傳統研究那樣在獲得所有數據后訓練機器學習模型;更合理的方法是根據新接收到的數據對訓練好的模型進行細化/更新。不幸的是，眾所周知，如果只使用新數據對訓練好的深度神經網絡進行精化，則可能會發生災難性遺忘[3]，而基于存儲所有接收到的數據的頻繁重新訓練可能會導致難以承受的巨大計算和存儲成本。雖然有像[4]這樣的研究試圖幫助深度神經網絡抵抗遺忘，但通常需要對大量訓練數據進行多次掃描和離線訓練，對大流數據有嚴重的計算和存儲問題。盡管面臨巨大的挑戰，但最近在開放機器學習方面進行了大量的研究工作。本文簡要介紹了這一研究方向的一些進展，重點關注有關新興類別、遞減/增量特征、變化的數據分布和不同的學習目標的技術。本文還將討論一些理論問題。

封閉環境機器學習中的典型變量

以森林病蟲害預測任務為例：

1. 標記集合發生變化**。**隨著時間推移，可能會有新的病蟲類型出現。針對該類問題，典型應對思路包括：先通過異常檢測技術對潛在新類別進行識別，再進一步精化將其加入標記集合進行增量學習。

2. 特征空間發生變化**。**森林部署的數據監測傳感器由于壽命有限，研究人員需要在其失效前加裝新的傳感器以保證有效的監測，這將導致特征空間發生變化。針對該類問題，典型應對思路包括：利用新舊特征共存時的數據學習特征之間映射關系，從而使舊模型在新空間也能發揮作用。

3. 數據分布發生變化**。**夏季綠葉茂盛，而冬季葉萎雪積，直接利用舊分布上訓練出的模型可能無法在新任務上取得良好性能。針對該類問題，典型應對思路包括：利用滑窗或遺忘法降低歷史數據在學習目標中的權重，構建多個分類器并采用集成學習等手段緩解分布變化帶來的影響。

4. 學習目標發生變化**。**隨著收集數據的增多以及模型準確率的提高，學習目標可能由追求更高的準確率變更為追求更低的耗電量。針對該類問題，典型應對思路包括：考察不同學習目標之間的相關性，將舊模型輸出作為基礎，復用相應模型以優化新的學習目標，實現學習目標的快速切換。

文章還對建立開放環境機器學習理論進行了探討并給出了初步框架。 作者認為，亟需研究能夠適應開放環境的機器學習理論與方法，這將為提升和保障人工智能系統的穩健性提供關鍵技術支撐。

我們為什么在這里?我們大多數人來到這里的原因很簡單:我們想解決人工智能問題。那么，人工智能和這本書的書名有什么關系呢?人工智能的現代定義之一是對理性代理的研究和設計[RN09]。從這個意義上說，我們將一個系統描述為智能的，當它最大化某些預期的性能概念時。機器學習的子領域處理的是問題和算法的子集，其中代理可以獲得經驗(通常以某種形式的數據)，可以利用這些經驗來改進性能的概念[MRT12]。大多數情況下，性能是由代理人在新的和看不見的情況下如何行動來衡量的，這些情況不構成其訓練經驗的一部分。例如，可以訓練一名代理人將英文翻譯成法文，其訓練經驗包括大量翻譯的聯合國文件。然而，在評估時，它可能會在與它所見過的文件不同的聯合國新文件上進行測試。很自然地，代理在它所看到的訓練經驗和它所評估的新情況下的表現之間存在著差距。代理泛化的能力是通過性能上的差距有多小來衡量的。

希望前面的段落已經解釋了在機器學習的背景下，以及在更大的AI背景下，什么是泛化。那么，標題中還保留著哪些“分布外”詞呢?如前所述，泛化是指減少一個agent在已知訓練情境下的表現與同一agent在未知測試情境下的表現之間的差距。然而，有許多不同類型的未知。統計學習通常處理的一類泛化是分布的:當從訓練示例生成的數據與測試示例生成的數據無法區分時。根據定義，非分布內的泛化問題稱為分布外泛化問題，這是本書的主題。

這項工作的目標很簡單。我們想要回顧，分布外泛化的知識。因此，這項工作的很大一部分將致力于理解(有時是微妙的)不同方法和假設之間的差異和相似性，通常以一種孤立的方式呈現。重點將放在與人工智能或現代大規模機器學習應用等想法上。此外，我們將特別注意研究不同方法的缺點，以及下一步可能是重要的。

• 在第二章中，我們首先討論如何量化分布外泛化。通過幾個例子，我們研究了分布外泛化與處理不同分布外任務的幾種常用方法之間的關系。本文將特別強調這些方法背后的假設，并說明這些方法何時有效，何時無效。

• 在第三章中，我們將關注一個特定的分布外任務類。在這些預測任務中，就像在許多實際問題中一樣，在分布之外泛化的困難在于找出數據中的哪些相關性是假的和不可靠的，以及哪些相關性代表感興趣的現象。

• 在第四章中，我們討論了不同應用領域在實踐中出現的分布外任務的類型，以及這些領域在過去是如何處理這些問題的。

• 在第五章中，我們為分布外泛化和人工智能背景下的新研究領域奠定了基礎。在本章中，我們將關注在探索或強化學習環境中與世界交互的agent，以及它們如何從分布外泛化中獲益。