機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自DeepMind Doina Precup博士講述《深度強化學習》,165頁ppt系統性講述了深度強化學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹:
Doina Precup,McGill University計算機系副教授。
貝葉斯推斷
視頻地址:
來自DeepMind 的S. M. Ali Eslami · Irina Higgins · Danilo J. Rezende的ICML 2020教程-自監督學習,222頁ppt,非常干貨!
無標簽表示學習,也稱為無監督或自監督學習,正在取得重大進展。新的自監督學習方法在大規模基準測試中取得了接近甚至超過了完全監督技術的性能,如圖像分類。因此,無標簽表示學習最終開始解決現代深度學習中的一些主要挑戰。然而,為了繼續取得進步,系統地理解學習表示的性質以及產生這些表示的學習目標是很重要的。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自DeepMind Shakir Mohamed博士講述《貝葉斯推斷》,125頁ppt系統性講述了貝葉斯推斷基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹:
Shakir Mohamed,統計機器學習和人工智能的研究科學家。
貝葉斯推斷
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自深度學習大佬Yoshua Bengio教授講述《深度學習教程》,104頁ppt系統性講述了深度學習基礎知識和最新進展,非常干貨。
Yoshua Bengio
Yoshua Bengio,蒙特利爾大學教授。Bengio 教授憑《Learning Deep Architectures for AI》、《A neural probabilistic language model》兩篇經典之作在內的 300 多篇論文,對深度學習的發展起到了巨大的推動作用,他與 Geoff Hinton、Yann LeCun 兩位一起造就了 2006 年始的深度學習復興,并稱深度學習三巨頭。Yoshua Bengio 教授于 2017 年獲得加拿大總督功勛獎。
Bengio 教授研究人工智能的動力就是發掘它的潛能,而不是對它的恐懼。他的研究成果不僅是如今 AI 熱浪的基石,也是加拿大在人工智能時代占據一席領導者位置的重要原因。「要讓電腦能像人類那樣思考,或者起碼能像人類那樣理解世界,我們現在離那一步還太遠」,Bengio 教授說,「但是人工智能現在的發展已經足以對經濟和人類的福祉產生巨大的影響。」
深度學習 AI
深度學習指的是用計算機模擬神經元網絡,以此逐漸“學會”各種任務的過程,比如識別圖像、理解語音甚或是自己做決策。這項技術的基礎是所謂的“人工神經網絡”,它是現代人工智能的核心元素。人工神經網絡和真實的大腦神經元工作方式并不完全一致,事實上它的理論基礎只是普通的數學原理。但是經過訓練后的人工神經網絡卻可以完成很多任務,比如識別照片中的人物和物體,或是在幾種主要語言之間互相翻譯等等。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自牛津大學Yee Whye Teh教授講述《元學習》,165頁ppt系統性講述了元學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹
Yee Whye Teh是牛津大學統計學系的統計機器學習教授,也是DeepMind研究人工智能的科學家。他在多倫多大學(Geoffrey E. Hinton教授)獲得博士學位,并在加州大學伯克利分校(Michael I. Jordan教授)和新加坡國立大學(Lee Kuan Yew博士后研究員)從事博士后工作。在進入牛津大學和DeepMind之前,他是一名講師,后來在倫敦大學學院(UCL)蓋茨比計算神經科學單元(Gatsby computing Neuroscience Unit)擔任讀者。他計劃聯合主席(Michael Titterington教授)人工智能國際會議和統計(AISTATS) 2010年,項目主持國際會議(Precup試圖教授)在2017年機器學習(ICML),和am /貝葉斯分析的副主編,IEEE模式分析與機器智能,機器學習日報,統計科學,英國皇家統計學會期刊B輯和機器學習研究期刊。他曾多次擔任NIPS、ICML和AISTATS的區域主席。他的研究興趣橫跨機器學習和計算統計學,包括概率方法、貝葉斯非參數學和深度學習。他開發了新穎的模型以及高效的推理和學習算法。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自米蘭Sonia Petrone教授講述《流數據貝葉斯預測》,177頁ppt系統性講述了貝葉斯預測,非常干貨。
地址:
【導讀】機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自德國人工智能教授 Bernhard Sch?lkopf教授講述《因果性》,177頁ppt系統性講述了機器學習中的因果性,非常干貨。
由Judea Pearl開創的圖因果推理起源于人工智能(AI)的研究,在很長一段時間內與機器學習領域幾乎沒有聯系。本文認為,機器學習和人工智能的硬開放問題本質上與因果關系有關,并解釋了該領域是如何開始理解它們的。
近年來,機器學習社區對因果關系的興趣顯著增加。我對因果關系的理解是由Judea Pearl和許多合作者和同事所啟發的,其中的大部分內容來自與Dominik Janzing和Jonas Peters合著的一本書(Peters et al., 2017)。我已經在各種場合談論過這個話題,其中一些正在進入機器學習的主流,特別是因果建模可以提升機器學習模型的魯棒性。因果性和機器學習的交叉的發展令人興奮。這篇報告不僅能夠對討論因果思維對AI的重要性有所幫助,而且還可以為機器學習的觀眾介紹一些圖或結構因果模型的相關概念。
盡管最近取得了諸多成功,但如果我們將機器學習的能力與動物的能力進行比較,我們會發現,在一些動物擅長的關鍵技能上,前者相當糟糕。這包括遷移到新問題,任何形式的泛化,不是從一個數據點到下一個從相同的分布(采樣),而是從一個問題到下一個——都被稱為泛化。這個缺點并不是太令人吃驚,因為機器學習經常忽略生物大量使用的信息: 世界干預、領域遷移、時間結構。最后,機器學習也不擅長思考,在康拉德洛倫茨的意義上,即,在想象的空間中行動。我認為,因果性關注建模和推理,可以對理解和解決這些問題做出實質性的貢獻,從而將該領域帶入下一個層次。
視頻: //www.youtube.com/watch?v=btmJtThWmhA&feature=youtu.be
目錄內容:
【導讀】機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自米蘭大學Nicoló Cesa-Bianchi教授講述《統計學習理論》,非常干貨,包括:
Deep Reinforcement Learning via Policy Optimization