UvA - Machine Learning 1課程是阿姆斯特丹大學人工智能碩士課程的一部分。該課程由阿姆斯特丹機器學習實驗室開發,目前由Erik Bekkers博士提供。
UvA - Machine Learning 1的課程主頁(//uvaml1.github.io)包括講課的鏈接(Youtube頻道)和相應的pdf注釋幻燈片。該系列講座密切關注Bishop的《模式識別和機器學習》一書。每個視頻的開頭都有相關章節。
課程內容如下:
第一周
第二周
第三周
第四周:
第五周
第六周
第七周
課程視頻和PDF下載鏈接在下方的PDF文件中
本課程由四個部分組成。
數學基礎。矩陣、向量、Lp范數、范數的幾何、對稱性、正確定性、特征分解。無約束優化,graident下降,凸函數,拉格朗日乘數,線性最小二乘。概率空間,隨機變量,聯合分布,多維高斯函數。
線性分類器。線性判別分析、分離超平面、多類分類、貝葉斯決策規則、貝葉斯決策規則的幾何、線性回歸、邏輯回歸、感知器算法、支持向量機、非線性變換。
學習理論。偏差與方差、訓練與測試、泛化、PAC框架、Hoeffding不等式、VC維。
魯棒性。對抗性攻擊,有目標和無目標攻擊,最小距離攻擊,最大損失攻擊,規則攻擊。通過納微擾。支持向量機的魯棒性。
課程內容:
數學基礎:矩陣、向量、Lp范數、范數的幾何、對稱性、正確定性、特征分解。無約束最優化,graident下降法,凸函數,拉格朗日乘子,線性最小二乘法。概率空間,隨機變量,聯合分布,多維高斯。
線性分類器:線性判別分析,分離超平面,多類分類,貝葉斯決策規則,貝葉斯決策規則幾何,線性回歸,邏輯回歸,感知機算法,支持向量機,非線性變換。
魯棒性:對抗性攻擊、定向攻擊和非定向攻擊、最小距離攻擊、最大允許攻擊、基于規則的攻擊。通過納微擾。支持向量機的魯棒性。
學習理論:偏差和方差,訓練和測試,泛化,PAC框架,Hoeffding不等式,VC維。
參考書籍:
講者: Stanley Chan 教授 //engineering.purdue.edu/ChanGroup/stanleychan.html
課程目標: 您將能夠應用基本的線性代數、概率和優化工具來解決機器學習問題
?你將了解一般監督學習方法的原理,并能評論它們的優缺點。 ?你會知道處理數據不確定性的方法。 ?您將能夠使用學習理論的概念運行基本的診斷。 ?您將獲得機器學習算法編程的實際經驗。
本課程涵蓋了機器學習和統計建模方面的廣泛主題。 雖然將涵蓋數學方法和理論方面,但主要目標是為學生提供解決實際中發現的數據科學問題所需的工具和原理。 本課程還可以作為基礎,以提供更多專業課程和進一步的獨立學習。 本課程是數據科學中心數據科學碩士學位課程核心課程的一部分。 此類旨在作為DS-GA-1001數據科學概論的延續,其中涵蓋了一些重要的基礎數據科學主題,而這些主題可能未在此DS-GA類中明確涵蓋。
由Marc Peter Deisenroth,A Aldo Faisal和Cheng Soon Ong撰寫的《機器學習數學基礎》“Mathematics for Machine Learning” 最新版417頁pdf版本已經放出,作者表示撰寫這本書旨在激勵人們學習數學概念。這本書并不打算涵蓋前沿的機器學習技術,因為已經有很多書這樣做了。相反,作者的目標是通過該書提供閱讀其他書籍所需的數學基礎。這本書分為兩部分:數學基礎知識和使用數學基礎知識進行機器學習算法示例。值得初學者收藏和學習!