元學習可以讓機器學習新的算法。這是一個新興且快速發展的機器學習研究領域,對所有人工智能研究都有影響。最近的成功案例包括自動模型發現、少槍學習、多任務學習、元強化學習,以及教機器閱讀、學習和推理。正如人類不會從頭開始學習新任務,而是利用之前所學的知識一樣,元學習是高效和穩健學習的關鍵。本教程將介紹該領域及其應用的重要數學基礎,包括這個領域中當前技術水平的關鍵方法,該領域對眾多AAAI參與者來說越來越重要。
//sites.google.com/mit.edu/aaai2021metalearningtutorial
內容目錄:
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是算法公平性與偏見。
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是深度強化學習。
課程地址: //introtodeeplearning.com/
課程介紹:
麻省理工學院的深度學習方法的導論課程,應用到計算機視覺,自然語言處理,生物學,和更多! 學生將獲得深度學習算法的基礎知識和在TensorFlow中構建神經網絡的實踐經驗。先修習微積分(即求導數)和線性代數(即矩陣乘法),我們將在學習過程中嘗試解釋其它內容! Python方面的經驗是有幫助的,但不是必需的。歡迎聽眾!
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是深度生成式建模。
近年來,在大量原始文本上預先訓練的大型語言模型徹底改變了自然語言處理。現有的方法,基于因果或隱藏的語言模型的變化,現在為每一個NLP任務提供了事實上的方法。在這個演講中,我將討論最近在語言模型預訓練方面的工作,從ELMo、GPT和BERT到更近期的模型。我的目標是對總體趨勢進行廣泛的報道,但提供更多關于我們最近在Facebook AI和華盛頓大學開發的模型的細節。其中特別包括序列到序列模型的預訓練方法,如BART、mBART和MARGE,它們提供了一些迄今為止最普遍適用的方法。
社交網絡和分子圖等結構化的圖形數據在現實世界中隨處可見。設計先進的圖結構數據表示學習算法,促進下游任務的完成,具有重要的研究意義。圖神經網絡(GNNs)將深度神經網絡模型推廣到圖結構數據,為從節點級或圖級有效學習圖結構數據表示開辟了一條新途徑。由于其強大的表示學習能力,GNN在從推薦、自然語言處理到醫療保健等各種應用中獲得了實際意義。近年來,它已成為一個熱門的研究課題,越來越受到機器學習和數據挖掘界的關注。本教程涵蓋了相關和有趣的主題,包括使用GNNs在圖結構數據上的表示學習、GNNs的魯棒性、GNNs的可擴展性和基于GNNs的應用程序。
目錄內容: 引言 Introduction 基礎 Foundations 模型 Models 應用 Applications
在這節課中,我們將討論GNN的可遷移性,也就是說能夠在保證性能的情況下遷移機器學習模型。首先,我們深入研究了譜域和節點域的graphon濾波器的收斂性。稍后,我們將以生成模型的形式討論graphon過濾器。我們將繼續介紹graphon 神經網絡(WNNs),這是解釋為什么graphon 神經網絡可以在從graphon 獲得的確定性圖之間轉換的關鍵元素。我們最后證明GNN繼承了圖濾波器的可遷移性。
在這次演講中,Graph Mining team的創始人Vahab對本圖挖掘和學習進行了高層次的介紹。這個演講涉及到什么是圖,為什么它們是重要的,以及它們在大數據世界中的位置。然后討論了組成圖挖掘和學習工具箱的核心工具,并列出了幾個規范的用例。它還討論了如何結合算法、系統和機器學習來在不同的分布式環境中構建一個可擴展的圖學習系統。最后,它提供了關于Google一個簡短的歷史圖挖掘和學習項目。本次演講將介紹接下來的演講中常見的術語和主題。
注意力是一種在廣泛的神經結構中使用的越來越流行的機制。由于這一領域的快速發展,仍然缺乏對注意力的系統概述。在本文中,我們定義了用于自然語言處理的注意力體系結構的統一模型,重點介紹了用于文本數據的向量表示的體系結構。我們討論了以往工作的不同方面,注意力機制的可能用途,并描述了該領域的主要研究工作和公開挑戰。
//web.eecs.umich.edu/~justincj/slides/eecs498/FA2020/598_FA2020_lecture13.pdf
不確定性的概念在機器學習中是非常重要的,并且構成了現代機器學習方法論的一個關鍵元素。近年來,由于機器學習與實際應用的相關性越來越大,它的重要性也越來越大,其中許多應用都伴隨著安全要求。在這方面,機器學習學者們發現了新的問題和挑戰,需要新的方法發展。事實上,長期以來,不確定性幾乎被視為標準概率和概率預測的同義詞,而最近的研究已經超越了傳統的方法,也利用了更一般的形式主義和不確定性計算。例如,不確定性的不同來源和類型之間的區別,例如任意不確定性和認知不確定性,在許多機器學習應用中被證明是有用的。講習班將特別注意這方面的最新發展。
綜述論文:
不確定性的概念在機器學習中是非常重要的,并且構成了機器學習方法的一個關鍵元素。按照統計傳統,不確定性長期以來幾乎被視為標準概率和概率預測的同義詞。然而,由于機器學習與實際應用和安全要求等相關問題的相關性穩步上升,機器學習學者最近發現了新的問題和挑戰,而這些問題可能需要新的方法發展。特別地,這包括區分(至少)兩種不同類型的不確定性的重要性,通常被稱為任意的和認知的。在這篇論文中,我們提供了機器學習中的不確定性主題的介紹,以及到目前為止在處理一般不確定性方面的嘗試的概述,并特別將這種區別形式化。
本教程對基于模型的強化學習(MBRL)領域進行了廣泛的概述,特別強調了深度方法。MBRL方法利用環境模型來進行決策——而不是將環境視為一個黑箱——并且提供了超越無模型RL的獨特機會和挑戰。我們將討論學習過渡和獎勵模式的方法,如何有效地使用這些模式來做出更好的決策,以及規劃和學習之間的關系。我們還強調了在典型的RL設置之外利用世界模型的方式,以及在設計未來的MBRL系統時,從人類認知中可以得到什么啟示。
//sites.google.com/view/mbrl-tutorial
近年來,強化學習領域取得了令人印象深刻的成果,但主要集中在無模型方法上。然而,社區認識到純無模型方法的局限性,從高樣本復雜性、需要對不安全的結果進行抽樣,到穩定性和再現性問題。相比之下,盡管基于模型的方法在機器人、工程、認知和神經科學等領域具有很大的影響力,但在機器學習社區中,這些方法的開發還不夠充分(但發展迅速)。它們提供了一系列獨特的優勢和挑戰,以及互補的數學工具。本教程的目的是使基于模型的方法更被機器學習社區所認可和接受。鑒于最近基于模型的規劃的成功應用,如AlphaGo,我們認為對這一主題的全面理解是非常及時的需求。在教程結束時,觀眾應該獲得: