機器學習涉及的是通過經驗自動提高其性能的計算機程序(例如,學習人臉識別,推薦音樂和電影,以及驅動自主機器人的程序)。本課程從多種角度涵蓋了機器學習的理論和實際算法。我們涵蓋了貝葉斯網絡、決策樹學習、支持向量機、統計學習方法、無監督學習和強化學習等主題。課程涵蓋的理論概念如歸納偏差,PAC學習框架,貝葉斯學習方法,基于邊際的學習,和奧卡姆剃刀。編程作業包括各種學習算法的動手實驗。本課程旨在為研究生提供機器學習研究人員所需要的方法論、技術、數學和算法的全面基礎知識。
學習成果: 課程結束時,學生應能夠:
實現并分析現有的學習算法,包括為分類、回歸、結構預測、聚類和表示學習而充分研究的方法 將實際機器學習的多個方面集成到一個系統中:數據預處理、學習、正則化和模型選擇 描述學習模型和算法的形式屬性,并解釋這些結果的實際含義 比較和對比不同的學習范式(監督的、非監督的,等等) 設計實驗評估和比較不同的機器學習技術在現實世界的問題 運用概率論、統計學、微積分、線性代數和最優化來開發新的預測模型或學習方法 給出一種ML技術的描述,分析它,確定(1)形式主義的表達能力;(2)算法中隱含的歸納偏差;(3)搜索空間
參考書籍:
Machine Learning, Tom Mitchell. Machine Learning: a Probabilistic Perspective, Kevin Murphy. Full online access is free through CMU’s library – for the second link, you must be on CMU’s network or VPN. A Course in Machine Learning, Hal Daumé III. Online only.
目錄內容: Classification & Regression Linear Models 深度學習 強化學習 生成模型 概率圖模型 學習理論 學習方式
人工智能是一門研究生(高年級本科生可選)專業基礎課程,旨在講授人工智能的基本理論、方法和技術,并落實到算法,主要內容包括:智能體,搜索算法,約束滿足問題,邏輯智能體,自動推理,自動規劃,知識表示,不確定知識和推理, 決策,機器學習,自然語言理解,機器人等。授課內容參見講義。參考資料選自國際優秀教材和重要文獻。
//www.math.pku.edu.cn/teachers/linzq/teaching/ai/ai.html
人工智能
1 引論
1.1 AI
1.2 基礎
1.3 歷史
1.4 現狀
1.5 爭論
2 智能體
2.1 智能體
2.2 智能程序
2.3 理性
2.4 環境
2.5 智能體結構
2.6 多智能體
3 搜索算法
3.1 問題求解主體
3.2 基本搜索算法
3.3 啟發式搜索
3.4 局部搜索
3.5 在線搜索
3.6 對抗搜索
3.7 元搜索
4 約束滿足問題
4.1 約束滿足問題
4.2 約束傳播
4.3 回溯搜索
4.4 局部搜索
4.5 結構與分解
5 邏輯智能體
5.1 知識智能體
5.2 命題邏輯
5.3 可滿足性問題
5.4 一階邏輯
5.5 AI的邏輯基礎
6 自動推理
6.1 自動定理證明
6.2 前向和反向推理
6.3 歸結
6.4 模型檢測
7 自動規劃
7.1 規劃智能體
7.2 經典規劃
7.3 分層規劃
7.4 情態演算
7.5 偏序規劃
7.6 非經典規劃
7.7 排程
8 知識表示
8.1 知識
8.2 本體
8.3 產生式系統
8.4 定性物理
8.5 結構描述
8.6 框架與語義網
8.7 語義Web
8.8 知識圖譜
8.9 知識嵌入
8.10 變化
8.11 解釋與診斷
8.12 心智狀態
8.13 常識
9 不確定知識和推理
9.1 不確定性
9.2 概率
9.3 貝葉斯網絡
9.4 概率推理
9.5 動態貝葉斯網絡
9.6 因果推理
9.7 概率程序設計
9.8 概率邏輯
10 決策
10.1 決策智能體
10.2 優先性
10.3 效用
10.4 決策網
10.5 序列決策
10.6 多智能體系統
10.7 博弈論
11 機器學習
11.1 學習智能體
11.2 歸納學習
11.3 深度學習
11.4 統計學習
11.5 強化學習
11.6 遷移學習
11.7 集成學習
11.8 聯邦學習
11.9 解釋學習
11.10 計算學習理論
12 自然語言理解
12.1 語言
12.2 語法
12.3 語義
12.4 語言模型
12.5 神經語言系統
12.6 自然語言任務
12.7 對話 AI
13 機器人
13.1 機器人
13.2 計算機視覺
13.3 機器人感知
13.4 運動規劃
13.5 控制器
13.6 智能汽車
14 人工智能哲學
14.1 AI 哲學
14.2 弱 AI
14.3 強 AI
14.4 倫理
14.5 AI 的未來
本課程涵蓋了機器學習和數據挖掘的一系列選定主題,重點是部署真實系統的好方法和實踐。大部分章節是關于常用的監督學習技術,和較小程度上非監督方法。這包括線性回歸和邏輯回歸的基本算法、決策樹、支持向量機、聚類、神經網絡,以及特征選擇和降維、誤差估計和經驗驗證的關鍵技術。
//www.siamak.page/teachings/comp551f20/comp551f20/
Part 1.機器學習簡史 a short tour of ML Part 2. 線性模型、概率解釋與梯度優化,linear models, their probabilistic interpretation and gradient optimization Part 3. 神經網絡與深度學習,Neural networks and deep learning
UvA - Machine Learning 1課程是阿姆斯特丹大學人工智能碩士課程的一部分。該課程由阿姆斯特丹機器學習實驗室開發,目前由Erik Bekkers博士提供。
UvA - Machine Learning 1的課程主頁(//uvaml1.github.io)包括講課的鏈接(Youtube頻道)和相應的pdf注釋幻燈片。該系列講座密切關注Bishop的《模式識別和機器學習》一書。每個視頻的開頭都有相關章節。
課程內容如下:
第一周
第二周
第三周
第四周:
第五周
第六周
第七周
課程視頻和PDF下載鏈接在下方的PDF文件中
這是一門關于機器學習的入門課程。機器學習是一組技術,它允許機器從數據和經驗中學習,而不是要求人類手工指定所需的行為。在過去的20年里,機器學習技術在人工智能的學術領域和科技行業中都變得越來越重要。本課程提供了一些最常用的ML算法的廣泛介紹。
課程的前半部分側重于監督學習。我們從最近鄰、決策樹和集合開始。然后介紹了參數化模型,包括線性回歸、logistic回歸和softmax回歸以及神經網絡。然后我們轉向無監督學習,特別關注概率模型,以及主成分分析和k均值。最后,我們介紹了強化學習的基礎知識。
課程內容:
//www.cs.toronto.edu/~huang/courses/csc2515_2020f/
推薦閱讀材料: Hastie, Tibshirani, and Friedman: “The Elements of Statistical Learning” Christopher Bishop: “Pattern Recognition and Machine Learning”, 2006. Kevin Murphy: “Machine Learning: a Probabilistic Perspective”, 2012. David Mackay: “Information Theory, Inference, and Learning Algorithms”, 2003. Shai Shalev-Shwartz & Shai Ben-David: “Understanding Machine Learning: From Theory to Algorithms”, 2014.
學習路線圖:
這本受歡迎的教科書的第一版,當代人工智能,提供了一個學生友好的人工智能介紹。這一版完全修訂和擴大更新,人工智能: 介紹機器學習,第二版,保留相同的可訪問性和解決問題的方法,同時提供新的材料和方法。
該書分為五個部分,重點介紹了人工智能中最有用的技術。書的第一部分涵蓋了基于邏輯的方法,而第二部分著重于基于概率的方法。第三部分是涌現智能的特點,探討了基于群體智能的進化計算和方法。接下來的最新部分將提供神經網絡和深度學習的詳細概述。書的最后一部分著重于自然語言的理解。
適合本科生和剛畢業的研究生,本課程測試教材為學生和其他讀者提供關鍵的人工智能方法和算法,以解決具有挑戰性的問題,涉及系統的智能行為在專門領域,如醫療和軟件診斷,金融決策,語音和文本識別,遺傳分析等。
【導讀】2020新年伊始,多倫多大學Amir-massoud Farahmand和Emad A. M. Andrews博士開設了機器學習導論課程,介紹了機器學習的主要概念和思想,并概述了許多常用的機器學習算法。它還可以作為更高級的ML課程的基礎。
課程地址:
//amfarahmand.github.io/csc311/
機器學習(ML)是一組技術,它允許計算機從數據和經驗中學習,而不需要人工指定所需的行為。ML在人工智能作為一個學術領域和工業領域都變得越來越重要。本課程介紹了機器學習的主要概念和思想,并概述了許多常用的機器學習算法。它還可以作為更高級的ML課程的基礎。
本課程結束時,學生將學習(大致分類)
機器學習問題:監督(回歸和分類),非監督(聚類,降維),強化學習
模型:線性和非線性(基擴展和神經網絡)
損失函數:平方損失、交叉熵、鉸鏈、指數等。
Regularizers: l1和l2
概率觀點:最大似然估計,最大后驗,貝葉斯推理
偏差和方差的權衡
集成方法:Bagging 和 Boosting
ML中的優化技術: 梯度下降法和隨機梯度下降法
課程目錄:
參考資料:
(ESL) Trevor Hastie, Robert Tibshirani, and Jerome Friedman, The Elements of Statistical Learning, 2009.
(PRML) Christopher M. Bishop, Pattern Recognition and Machine Learning, 2006.
(RL) Richard S. Sutton and Andrew G. Barto Reinforcement Learning: An Introduction, 2018.
(DL) Ian Goodfellow, Yoshua Bengio and Aaron Courville (2016), Deep Learning
(MLPP) Kevin P. Murphy, Machine Learning: A Probabilistic Perspective, 2013.
(ISL) Gareth James, Daniela Witten, Trevor Hastie, and Robert Tibshirani, Introduction to Statistical Learning, 2017.
() Shai Shalev-Shwartz and Shai Ben-David Understanding Machine Learning: From Theory to Algorithms, 2014.
(ITIL) David MacKay, Information Theory, Inference, and Learning Algorithms, 2003.
主題: Introduction to Machine Learning
課程簡介: 機器學習是指通過經驗自動提高性能的計算機程序(例如,學習識別人臉、推薦音樂和電影以及驅動自主機器人的程序)。本課程從不同的角度介紹機器學習的理論和實用算法。主題包括貝葉斯網絡、決策樹學習、支持向量機、統計學習方法、無監督學習和強化學習。本課程涵蓋理論概念,例如歸納偏差、PAC學習框架、貝葉斯學習方法、基于邊際的學習和Occam的剃刀。編程作業包括各種學習算法的實際操作實驗。這門課程的目的是讓一個研究生在方法論,技術,數學和算法方面有一個徹底的基礎,目前需要的人誰做的機器學習的研究。
邀請嘉賓: Hal Daumé III,紐約市微軟研究院的研究員,是機器學習小組的一員;他也是馬里蘭大學的副教授。他主要從事自然語言處理和機器學習。
Matt Gormley,卡內基梅隆大學計算機科學學院機器學習部(ML)助教。
Roni Rosenfeld,卡內基梅隆大學計算機學院機器學習系教授兼主任,個人主頁://www.cs.cmu.edu/~roni/。等