本課程來自微軟《人工智能系統》課程,講述了深度學習推導系統,包含推理系統簡介、設計與優化、部署等。
本課程來自微軟《人工智能系統》課程,講述了強化學習系統,包含強化學習概述與原理、主要算法介紹、系統等。
本課程來自微軟《人工智能系統》課程,講述了自動機器學習系統,包含自動機器學習概述與原理、主要算法介紹、系統等。
本課程的中文名稱設定為 人工智能系統,主要講解支持人工智能的計算機系統設計,對應的英文課程名稱為 System for AI。本課程中將交替使用一下詞匯:人工智能系統,AI-System 和 System for AI。
近年來人工智能特別是深度學習技術得到了飛速發展,這背后離不開計算機硬件和軟件系統的不斷進步。在可見的未來,人工智能技術的發展仍將依賴于計算機系統和人工智能相結合的共同創新模式。需要注意的是,計算機系統現在正以更大的規模和更高的復雜性來賦能于人工智能,這背后不僅需要更多的系統上的創新,更需要系統性的思維和方法論。與此同時,人工智能也反過來為設計復雜系統提供支持。
我們注意到,現在的大部分人工智能相關的課程,特別是深度學習和機器學習相關課程主要集中在相關理論、算法或者應用,與系統相關的課程并不多見。我們希望人工智能系統這門課能讓人工智能相關教育變得更加全面和深入,以共同促進人工智能與系統交叉人才的培養。
本課程主要為本科生高年級和研究生設計,幫助學生:
完整的了解支持深度學習的計算機系統架構,并通過實際的問題,來學習深度學習完整生命周期下的系統設計。
介紹前沿的系統和人工智能相結合的研究工作,包括AI for Systems and Systems for AI,以幫助高年級的本科生和研究生更好的尋找和定義有意義的研究問題。
從系統研究的角度出發設計實驗課程。通過操作和應用主流和最新的框架、平臺和工具來鼓勵學生動手實現和優化系統模塊,以提高解決實際問題的能力,而不僅僅是了解工具使用。
先修課程: C/C++/Python, 計算機體系結構,算法導論
課程主要包括以下三大模塊:
第一部分,是人工智能的基礎知識和人工智能系統的全棧概述;以及深度學習系統的系統性設計和方法學。
第二部分,為高級課程,包括最前沿的系統和人工智能交叉的研究領域。
第三部分,是與之配套的實驗課程,包括最主流的框架、平臺和工具,以及一系列的實驗項目。
第一部分的內容將集中在基礎知識,而其他兩部分的內容將隨著學術界和工業界的技術進步而動態調整。后兩部分的內容將以模塊化的形式組織,以利于調整或與其他CS的課程(比如編譯原理等)相結合,作為高級講義或者實習項目。
本課程的設計也會借助微軟亞洲研究院在人工智能和系統交叉領域的研究成果和經驗,其中包括微軟及研究院開發的一部分平臺和工具。課程也鼓勵其他學校和老師根據自己的需求添加和調整更多的高級課題,或者其他的實驗。
基礎課程
高階課程
Google 研究科學家Mathieu Blondel在PSL大學的“機器學習的對偶性”課程材料。主題包括共軛函數,平滑技術,Fenchel對偶性,Fenchel-Young損失和塊對偶坐標上升算法。
//mblondel.org/teaching/duality-2020.pdf
人類的視覺系統證明,用極少的樣本就可以學習新的類別;人類不需要一百萬個樣本就能學會區分野外的有毒蘑菇和可食用蘑菇。可以說,這種能力來自于看到了數百萬個其他類別,并將學習到的表現形式轉化為新的類別。本報告將正式介紹機器學習與熱力學之間的聯系,以描述遷移學習中學習表征的質量。我們將討論諸如速率、畸變和分類損失等信息理論泛函如何位于一個凸的,所謂的平衡曲面上。我們規定了在約束條件下穿越該表面的動態過程,例如,一個調制速率和失真以保持分類損失不變的等分類過程。我們將演示這些過程如何完全控制從源數據集到目標數據集的傳輸,并保證最終模型的性能。
Deep Reinforcement Learning via Policy Optimization