機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自牛津大學Yee Whye Teh教授講述《元學習》,165頁ppt系統性講述了元學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹
Yee Whye Teh是牛津大學統計學系的統計機器學習教授,也是DeepMind研究人工智能的科學家。他在多倫多大學(Geoffrey E. Hinton教授)獲得博士學位,并在加州大學伯克利分校(Michael I. Jordan教授)和新加坡國立大學(Lee Kuan Yew博士后研究員)從事博士后工作。在進入牛津大學和DeepMind之前,他是一名講師,后來在倫敦大學學院(UCL)蓋茨比計算神經科學單元(Gatsby computing Neuroscience Unit)擔任讀者。他計劃聯合主席(Michael Titterington教授)人工智能國際會議和統計(AISTATS) 2010年,項目主持國際會議(Precup試圖教授)在2017年機器學習(ICML),和am /貝葉斯分析的副主編,IEEE模式分析與機器智能,機器學習日報,統計科學,英國皇家統計學會期刊B輯和機器學習研究期刊。他曾多次擔任NIPS、ICML和AISTATS的區域主席。他的研究興趣橫跨機器學習和計算統計學,包括概率方法、貝葉斯非參數學和深度學習。他開發了新穎的模型以及高效的推理和學習算法。
來自深度學習數學夏季學校2020的第二節課:深度神經網絡,介紹了深度學習歷史、神經網絡等知識點。
來自深度學習數學夏季學校2020的第一節課:深度學習即統計學習,介紹了深度學習與統計學習一系列的關系知識點。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自DeepMind Doina Precup博士講述《深度強化學習》,165頁ppt系統性講述了深度強化學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹:
Doina Precup,McGill University計算機系副教授。
貝葉斯推斷
視頻地址:
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自DeepMind Shakir Mohamed博士講述《貝葉斯推斷》,125頁ppt系統性講述了貝葉斯推斷基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹:
Shakir Mohamed,統計機器學習和人工智能的研究科學家。
貝葉斯推斷
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自帝國理工學院Michael Bronstein教授講述《幾何深度學習》,166頁ppt系統性講述了幾何深度學習基礎知識和最新進展,非常干貨。
地址: //mlss.tuebingen.mpg.de/2020/schedule.html
作者介紹 Michael Bronstein,倫敦帝國理工學院教授,Twitter 圖機器學習研究負責人,CETI 項目機器學習領導、Twitter 圖機器學習負責人、研究員、教師、企業家和投資者。
幾何深度學習
在過去的幾年,深度學習方法在多個領域取得了前所未有的成就,比如計算機視覺和語言識別。目前研究者主要將深度學習方法應用于歐氏結構數據,然而有些非常重要的應用需要處理非歐氏空間結構的數據,比如圖和流形。這些幾何數據在許多任務重的重要性越來越多高,比如3D視覺、傳感網絡、藥品研發、生物醫藥、推薦系統以及各種web程序。深度學習在這些方面的應用有著明顯的滯后,這是因為處理的對象的非歐性質使得在深層網絡中對其基本操作的定義相當麻煩。
本教程的目的是介紹幾何深度學習在圖和流形數據上的最新成果,并綜述針對這些問題的解決方法、關鍵難點和未來的研究方向。
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自米蘭Sonia Petrone教授講述《流數據貝葉斯預測》,177頁ppt系統性講述了貝葉斯預測,非常干貨。
地址:
機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自法國INRIA Francis Bach研究員述《大規模機器學習優化》,177頁ppt系統性講述了大規模機器學習優化算法,非常干貨。
Francis Bach 先生是INRIA(法國國家信息與自動化研究所)的研究員,自2011年起領導SIERRA項目團隊(該團隊是Ecole Normale Supérieure計算機科學系的一部分,也是CNRS、ENS和INRIA的聯合團隊)。自2016年起,成為Ecole Normale Supérieure的兼職教授。在伯克利大學完成了計算機科學博士學位,與邁克爾·喬丹教授合作,在巴黎礦業大學數學形態學組工作了兩年,然后從2007年到2010年加入了INRIA/Ecole Normale Superieure/CNRS的WILLOW項目組。從2009年到2014年,負責ERC項目SIERRA。對統計機器學習很感興趣,特別是在圖形模型、稀疏方法、基于核的學習、凸優化視覺和信號處理方面。
Optimization for Large Scale Machine Learning
機器學習是數學、計算機科學和工程相結合的一個快速發展的領域,它為計算機提供了無需明確編程就能進行學習的能力,以便做出預測或采取理性行動。從癌癥研究到金融、自然語言處理、市場營銷或自動駕駛汽車,如今許多領域都受到了機器學習算法近期進展的影響。機器學習算法得益于收集大量數據并從中“學習”的能力。
本報告概述了監督機器學習、面向凸優化的快速隨機梯度方法、更多超越凸優化的問題。
【導讀】機器學習暑期學校(MLSS)系列開始于2002年,致力于傳播統計機器學習和推理的現代方法。今年因新冠疫情在線舉行,從6月28號到7月10號講述了眾多機器學習主題。本文推薦來自米蘭大學Nicoló Cesa-Bianchi教授講述《統計學習理論》,非常干貨,包括:
報告主題: On Statistical Thinking in Deep Learning
報告簡介:
在過去的二十年形成了一系列成功的機器學習方法,影響了許多這個領域研究人員的思維,而深度學習的興起徹底改變了這個領域。在這次演講中,將探討深度學習中的統計思維,統計思維如何幫助我們理解深度學習方法或者引導我們開發出有趣的新方法,或者深度學習技術如何幫助我們開發先進的統計方法。
嘉賓介紹:
Yee Whye Teh是牛津大學統計學教授,他于2003年獲得多倫多大學計算機博士學位,師從Geroffery Hinton。獲得多倫多大學的博士學位,鄭懷宇在美國加州大學伯克利分校和新加坡國立大學從事博士后工作,研究方向是機器學習和計算統計學,特別是圖形模型、貝葉斯非參數和表征學習。他還多次擔任NIPS、ICML和AISTATS的領域主席(area chair)。