機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自米蘭Sonia Petrone教授講述《流數據貝葉斯預測》,177頁ppt系統性講述了貝葉斯預測,非常干貨。
地址:
來自深度學習數學夏季學校2020的第一節課:深度學習即統計學習,介紹了深度學習與統計學習一系列的關系知識點。
印尼機器學習暑期學校(MLSS- indo)是MLSS系列(MLSS .cc)的一部分,該系列于2002年在德國圖賓根的馬普智能系統研究所啟動。這是一個為期7天的活動,參與者有機會學習更多的基礎知識和當前的藝術在機器學習和深度學習,包括相關應用的數據科學,計算機視覺,和自然語言處理。
//mlss.telkomuniversity.ac.id/
內容目錄:
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自DeepMind Doina Precup博士講述《深度強化學習》,165頁ppt系統性講述了深度強化學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹:
Doina Precup,McGill University計算機系副教授。
貝葉斯推斷
視頻地址:
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自DeepMind Shakir Mohamed博士講述《貝葉斯推斷》,125頁ppt系統性講述了貝葉斯推斷基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹:
Shakir Mohamed,統計機器學習和人工智能的研究科學家。
貝葉斯推斷
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自帝國理工學院Michael Bronstein教授講述《幾何深度學習》,166頁ppt系統性講述了幾何深度學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹 Michael Bronstein,倫敦帝國理工學院教授,Twitter 圖機器學習研究負責人,CETI 項目機器學習領導、Twitter 圖機器學習負責人、研究員、教師、企業家和投資者。
幾何深度學習
在過去的幾年,深度學習方法在多個領域取得了前所未有的成就,比如計算機視覺和語言識別。目前研究者主要將深度學習方法應用于歐氏結構數據,然而有些非常重要的應用需要處理非歐氏空間結構的數據,比如圖和流形。這些幾何數據在許多任務重的重要性越來越多高,比如3D視覺、傳感網絡、藥品研發、生物醫藥、推薦系統以及各種web程序。深度學習在這些方面的應用有著明顯的滯后,這是因為處理的對象的非歐性質使得在深層網絡中對其基本操作的定義相當麻煩。
本教程的目的是介紹幾何深度學習在圖和流形數據上的最新成果,并綜述針對這些問題的解決方法、關鍵難點和未來的研究方向。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自深度學習大佬Yoshua Bengio教授講述《深度學習教程》,104頁ppt系統性講述了深度學習基礎知識和最新進展,非常干貨。
Yoshua Bengio
Yoshua Bengio,蒙特利爾大學教授。Bengio 教授憑《Learning Deep Architectures for AI》、《A neural probabilistic language model》兩篇經典之作在內的 300 多篇論文,對深度學習的發展起到了巨大的推動作用,他與 Geoff Hinton、Yann LeCun 兩位一起造就了 2006 年始的深度學習復興,并稱深度學習三巨頭。Yoshua Bengio 教授于 2017 年獲得加拿大總督功勛獎。
Bengio 教授研究人工智能的動力就是發掘它的潛能,而不是對它的恐懼。他的研究成果不僅是如今 AI 熱浪的基石,也是加拿大在人工智能時代占據一席領導者位置的重要原因。「要讓電腦能像人類那樣思考,或者起碼能像人類那樣理解世界,我們現在離那一步還太遠」,Bengio 教授說,「但是人工智能現在的發展已經足以對經濟和人類的福祉產生巨大的影響。」
深度學習 AI
深度學習指的是用計算機模擬神經元網絡,以此逐漸“學會”各種任務的過程,比如識別圖像、理解語音甚或是自己做決策。這項技術的基礎是所謂的“人工神經網絡”,它是現代人工智能的核心元素。人工神經網絡和真實的大腦神經元工作方式并不完全一致,事實上它的理論基礎只是普通的數學原理。但是經過訓練后的人工神經網絡卻可以完成很多任務,比如識別照片中的人物和物體,或是在幾種主要語言之間互相翻譯等等。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自牛津大學Yee Whye Teh教授講述《元學習》,165頁ppt系統性講述了元學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹
Yee Whye Teh是牛津大學統計學系的統計機器學習教授,也是DeepMind研究人工智能的科學家。他在多倫多大學(Geoffrey E. Hinton教授)獲得博士學位,并在加州大學伯克利分校(Michael I. Jordan教授)和新加坡國立大學(Lee Kuan Yew博士后研究員)從事博士后工作。在進入牛津大學和DeepMind之前,他是一名講師,后來在倫敦大學學院(UCL)蓋茨比計算神經科學單元(Gatsby computing Neuroscience Unit)擔任讀者。他計劃聯合主席(Michael Titterington教授)人工智能國際會議和統計(AISTATS) 2010年,項目主持國際會議(Precup試圖教授)在2017年機器學習(ICML),和am /貝葉斯分析的副主編,IEEE模式分析與機器智能,機器學習日報,統計科學,英國皇家統計學會期刊B輯和機器學習研究期刊。他曾多次擔任NIPS、ICML和AISTATS的區域主席。他的研究興趣橫跨機器學習和計算統計學,包括概率方法、貝葉斯非參數學和深度學習。他開發了新穎的模型以及高效的推理和學習算法。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自法國INRIA Francis Bach研究員述《大規模機器學習優化》,177頁ppt系統性講述了大規模機器學習優化算法,非常干貨。
Francis Bach 先生是INRIA(法國國家信息與自動化研究所)的研究員,自2011年起領導SIERRA項目團隊(該團隊是Ecole Normale Supérieure計算機科學系的一部分,也是CNRS、ENS和INRIA的聯合團隊)。自2016年起,成為Ecole Normale Supérieure的兼職教授。在伯克利大學完成了計算機科學博士學位,與邁克爾·喬丹教授合作,在巴黎礦業大學數學形態學組工作了兩年,然后從2007年到2010年加入了INRIA/Ecole Normale Superieure/CNRS的WILLOW項目組。從2009年到2014年,負責ERC項目SIERRA。對統計機器學習很感興趣,特別是在圖形模型、稀疏方法、基于核的學習、凸優化視覺和信號處理方面。
Optimization for Large Scale Machine Learning
機器學習是數學、計算機科學和工程相結合的一個快速發展的領域,它為計算機提供了無需明確編程就能進行學習的能力,以便做出預測或采取理性行動。從癌癥研究到金融、自然語言處理、市場營銷或自動駕駛汽車,如今許多領域都受到了機器學習算法近期進展的影響。機器學習算法得益于收集大量數據并從中“學習”的能力。
本報告概述了監督機器學習、面向凸優化的快速隨機梯度方法、更多超越凸優化的問題。
【導讀】機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自德國人工智能教授 Bernhard Sch?lkopf教授講述《因果性》,177頁ppt系統性講述了機器學習中的因果性,非常干貨。
由Judea Pearl開創的圖因果推理起源于人工智能(AI)的研究,在很長一段時間內與機器學習領域幾乎沒有聯系。本文認為,機器學習和人工智能的硬開放問題本質上與因果關系有關,并解釋了該領域是如何開始理解它們的。
近年來,機器學習社區對因果關系的興趣顯著增加。我對因果關系的理解是由Judea Pearl和許多合作者和同事所啟發的,其中的大部分內容來自與Dominik Janzing和Jonas Peters合著的一本書(Peters et al., 2017)。我已經在各種場合談論過這個話題,其中一些正在進入機器學習的主流,特別是因果建模可以提升機器學習模型的魯棒性。因果性和機器學習的交叉的發展令人興奮。這篇報告不僅能夠對討論因果思維對AI的重要性有所幫助,而且還可以為機器學習的觀眾介紹一些圖或結構因果模型的相關概念。
盡管最近取得了諸多成功,但如果我們將機器學習的能力與動物的能力進行比較,我們會發現,在一些動物擅長的關鍵技能上,前者相當糟糕。這包括遷移到新問題,任何形式的泛化,不是從一個數據點到下一個從相同的分布(采樣),而是從一個問題到下一個——都被稱為泛化。這個缺點并不是太令人吃驚,因為機器學習經常忽略生物大量使用的信息: 世界干預、領域遷移、時間結構。最后,機器學習也不擅長思考,在康拉德洛倫茨的意義上,即,在想象的空間中行動。我認為,因果性關注建模和推理,可以對理解和解決這些問題做出實質性的貢獻,從而將該領域帶入下一個層次。
視頻: //www.youtube.com/watch?v=btmJtThWmhA&feature=youtu.be
目錄內容:
【導讀】機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自米蘭大學Nicoló Cesa-Bianchi教授講述《統計學習理論》,非常干貨,包括: