【課程描述】
在現實世界系統中部署機器學習需要一套互補的技術,以確保機器學習是值得信賴的。在這里,信任的概念被廣泛使用:該課程涵蓋了與機器學習中更廣泛的安全和隱私研究相關的新興研究領域的不同主題。學生將了解利用機器學習對計算機系統進行的攻擊,以及減輕此類攻擊的防御技術。
本課程假設學生已經對機器學習有基本的了解。學生將熟悉來自不同研究團體調查這些問題的新興文獻。該課程旨在幫助學生探索新的研究方向和應用。大部分課程閱讀將來自該領域的開創性和最近的論文。這門課不需要教科書。筆記和幻燈片以及研究論文將構成本課程中使用的材料。這些鏈接將在下面的時間表中提供。
【課程主題】
機器學習是指通過經驗自動提高性能的計算機程序(例如,學習識別人臉、推薦音樂和電影,以及駕駛自動機器人的程序)。本課程從不同的角度涵蓋了機器學習的理論和實際算法。我們涵蓋的主題如貝葉斯網絡,決策樹學習,支持向量機,統計學習方法,無監督學習和強化學習。本課程涵蓋了歸納偏差、PAC學習框架、貝葉斯學習方法、基于邊際的學習和奧卡姆剃刀等理論概念。編程作業包括各種學習算法的動手實驗。本課程旨在為研究生提供機器學習研究人員目前所需要的方法學、技術、數學和算法的全面基礎知識。
通過學習這門課程,能夠獲取:
實現和分析現有的學習算法,包括學習良好的分類、回歸、結構化預測、聚類和表示學習方法 將實際機器學習的多個方面整合到一個系統中:數據預處理、學習、正則化和模型選擇 描述用于學習的模型和算法的形式屬性,并解釋這些結果的實際含義 比較和對比不同的學習模式(有監督的,無監督的,等等) 設計實驗來評估和比較現實問題中不同的機器學習技術 運用概率、統計學、微積分、線性代數和最優化來開發新的預測模型或學習方法 給出ML技術的描述,分析它以確定(1)形式主義的表達能力;(2)算法隱含的歸納偏差;(3)搜索空間的大小和復雜度;(5)關于終止、收斂、正確性、準確性或泛化能力的任何保證(或缺乏保證)。
課程地址:
ML模型無處不在——從交通(自動駕駛汽車)到金融(信用卡或抵押貸款申請)和職業(公司招聘)。然而,ML并非沒有風險。一些重要的風險涉及模型理解和問責:機器學習創建的模型很大程度上是我們難以窺視和理解的黑盒子;他們容易受到不可預見的錯誤、對抗性操縱以及在隱私和公平方面違反倫理規范的影響。
本課程將提供最先進的ML方法的介紹,旨在使人工智能更值得信賴。本課程關注四個概念: 解釋、公平、隱私和健壯性。我們首先討論如何解釋ML模型輸出和內部工作。然后,我們研究了偏差和不公平是如何在ML模型中產生的,并學習了緩解這個問題的策略。接下來,我們將研究模型在不應該泄漏敏感信息的情況下泄漏敏感信息的上下文中的差異隱私和成員關系推斷。最后,我們將討論對抗性攻擊和提供抗對抗性操作的健壯性的方法。
學生將了解一套方法和工具,以部署透明、倫理和魯棒的機器學習解決方案。學生將完成實驗,家庭作業,并討論每周閱讀。
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是算法公平性與偏見。
這是一門關于在不確定情況下強化學習(RL)和順序決策的入門課程,重點在于理解理論基礎。我們研究如何使用動態規劃方法,如價值和策略迭代,來解決具有已知模型的順序決策問題,以及如何擴展這些方法,以解決模型未知的強化學習問題。其他主題包括(但不限于)RL中的函數近似、策略梯度方法、基于模型的RL以及平衡探索-利用權衡。本課程將以講座和閱讀古典及近期論文的方式傳授給學生。因為重點是理解基礎,你應該期望通過數學細節和證明。本課程的要求背景包括熟悉概率論和統計、微積分、線性代數、最優化和(有監督的)機器學習。
//amfarahmand.github.io/IntroRL/
目錄內容:
強化學習入門筆記
這是多倫多大學計算機科學系于2021年春季教授的強化學習(RL)研究生課程介紹的講義。本課程是入門性的,因為它不需要預先接觸強化學習。然而,它不僅僅是算法的集合。相反,它試圖在RL中經常遇到的許多重要思想和概念背后建立數學直覺。在這些講義的過程中,我證明了很多基礎的,或者有時不那么基礎的,RL的結果。如果某個結果的證明過于復雜,我就證明一個簡化的版本。
強化學習(RL)既指一類問題,也指解決這類問題的一組計算方法。RL問題是指如何采取行動,使某些長期績效的概念得到最大化。RL問題,從它的定義來看,是關于一個實體的行為和交互,我們稱之為代理,與其周圍的環境,我們稱之為環境。這是一個非常普遍的目標。有人可能會說,解決AI問題等同于解決RL問題。強化學習也指解決RL問題的一套計算方法。一個代理需要做什么樣的計算才能確保它的行為能夠帶來良好的(甚至是最佳的)長期性能?實現這些的方法稱為RL方法。歷史上,在所有試圖解決RL問題的計算方法中,只有一個子集被稱為RL方法。例如Q-Learning這樣的方法(我們將在本課程中學習)是一種很好的RL方法,但是進化計算的方法,如遺傳算法,則不是。人們可以爭辯說,進化計算方法沒有太多的“學習”成分,或者它們不以個體生命的時間尺度行事,而是以世代的時間尺度行事。雖然這些是真正的區別,但這種劃分方式有些武斷。在本課堂講稿中,我們將重點放在“RL社區”中經常學習的方法上。
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是深度強化學習。
課程地址: //introtodeeplearning.com/
課程介紹:
麻省理工學院的深度學習方法的導論課程,應用到計算機視覺,自然語言處理,生物學,和更多! 學生將獲得深度學習算法的基礎知識和在TensorFlow中構建神經網絡的實踐經驗。先修習微積分(即求導數)和線性代數(即矩陣乘法),我們將在學習過程中嘗試解釋其它內容! Python方面的經驗是有幫助的,但不是必需的。歡迎聽眾!
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是深度生成式建模。
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是深度計算機視覺。
【導論】麻省理工學院最近開設一門深度學習課程MIT 6.S191,共包含十大主題課程,涵蓋深度學習導論、序列建模、深度視覺、生成模型、強化學習、圖神經網絡、對抗學習、貝葉斯模型、神經渲染、機器學習嗅覺等,圖文并茂,涵蓋最新的前沿內容,非常值得學習!最新一講是深度序列建模。
課程地址:
課程介紹:
麻省理工學院的深度學習方法的導論課程,應用到計算機視覺,自然語言處理,生物學,和更多! 學生將獲得深度學習算法的基礎知識和在TensorFlow中構建神經網絡的實踐經驗。先修習微積分(即求導數)和線性代數(即矩陣乘法),我們將在學習過程中嘗試解釋其它內容! Python方面的經驗是有幫助的,但不是必需的。歡迎聽眾!