ML模型無處不在——從交通(自動駕駛汽車)到金融(信用卡或抵押貸款申請)和職業(公司招聘)。然而，ML并非沒有風險。一些重要的風險涉及模型理解和問責:機器學習創建的模型很大程度上是我們難以窺視和理解的黑盒子;他們容易受到不可預見的錯誤、對抗性操縱以及在隱私和公平方面違反倫理規范的影響。

本課程將提供最先進的ML方法的介紹，旨在使人工智能更值得信賴。本課程關注四個概念: 解釋、公平、隱私和健壯性。我們首先討論如何解釋ML模型輸出和內部工作。然后，我們研究了偏差和不公平是如何在ML模型中產生的，并學習了緩解這個問題的策略。接下來，我們將研究模型在不應該泄漏敏感信息的情況下泄漏敏感信息的上下文中的差異隱私和成員關系推斷。最后，我們將討論對抗性攻擊和提供抗對抗性操作的健壯性的方法。

學生將了解一套方法和工具，以部署透明、倫理和魯棒的機器學習解決方案。學生將完成實驗，家庭作業，并討論每周閱讀。

//web.stanford.edu/class/cs329t/syllabus.html

南京大學《量子計算課程》，值得關注！

本課程是為那些想要了解操作系統的設計與實現的本科生而設。

人工智能系統

本課程的中文名稱設定為 人工智能系統，主要講解支持人工智能的計算機系統設計，對應的英文課程名稱為 System for AI。本課程中將交替使用一下詞匯：人工智能系統，AI-System 和 System for AI。

English

人工智能系統課程設立背景

近年來人工智能特別是深度學習技術得到了飛速發展，這背后離不開計算機硬件和軟件系統的不斷進步。在可見的未來，人工智能技術的發展仍將依賴于計算機系統和人工智能相結合的共同創新模式。需要注意的是，計算機系統現在正以更大的規模和更高的復雜性來賦能于人工智能，這背后不僅需要更多的系統上的創新，更需要系統性的思維和方法論。與此同時，人工智能也反過來為設計復雜系統提供支持。

我們注意到，現在的大部分人工智能相關的課程，特別是深度學習和機器學習相關課程主要集中在相關理論、算法或者應用，與系統相關的課程并不多見。我們希望人工智能系統這門課能讓人工智能相關教育變得更加全面和深入，以共同促進人工智能與系統交叉人才的培養。

人工智能系統課程設立目的

本課程主要為本科生高年級和研究生設計，幫助學生：

1. 完整的了解支持深度學習的計算機系統架構，并通過實際的問題，來學習深度學習完整生命周期下的系統設計。

2. 介紹前沿的系統和人工智能相結合的研究工作，包括AI for Systems and Systems for AI，以幫助高年級的本科生和研究生更好的尋找和定義有意義的研究問題。

3. 從系統研究的角度出發設計實驗課程。通過操作和應用主流和最新的框架、平臺和工具來鼓勵學生動手實現和優化系統模塊，以提高解決實際問題的能力，而不僅僅是了解工具使用。

先修課程: C/C++/Python, 計算機體系結構，算法導論

人工智能系統課程的設計與特點

課程主要包括以下三大模塊：

第一部分，是人工智能的基礎知識和人工智能系統的全棧概述；以及深度學習系統的系統性設計和方法學。

第二部分，為高級課程，包括最前沿的系統和人工智能交叉的研究領域。

第三部分，是與之配套的實驗課程，包括最主流的框架、平臺和工具，以及一系列的實驗項目。

第一部分的內容將集中在基礎知識，而其他兩部分的內容將隨著學術界和工業界的技術進步而動態調整。后兩部分的內容將以模塊化的形式組織，以利于調整或與其他CS的課程（比如編譯原理等）相結合，作為高級講義或者實習項目。

本課程的設計也會借助微軟亞洲研究院在人工智能和系統交叉領域的研究成果和經驗，其中包括微軟及研究院開發的一部分平臺和工具。課程也鼓勵其他學校和老師根據自己的需求添加和調整更多的高級課題，或者其他的實驗。

人工智能系統課程大綱

課程部分

基礎課程

高階課程

本課程由四個部分組成。

• 數學基礎。矩陣、向量、Lp范數、范數的幾何、對稱性、正確定性、特征分解。無約束優化，graident下降，凸函數，拉格朗日乘數，線性最小二乘。概率空間，隨機變量，聯合分布，多維高斯函數。

• 線性分類器。線性判別分析、分離超平面、多類分類、貝葉斯決策規則、貝葉斯決策規則的幾何、線性回歸、邏輯回歸、感知器算法、支持向量機、非線性變換。

• 學習理論。偏差與方差、訓練與測試、泛化、PAC框架、Hoeffding不等式、VC維。

• 魯棒性。對抗性攻擊，有目標和無目標攻擊，最小距離攻擊，最大損失攻擊，規則攻擊。通過納微擾。支持向量機的魯棒性。

//engineering.purdue.edu/ChanGroup/ECE595/index.html

本課程是講座和編程作業的結合，其中我們將學習現代數據庫管理系統的內部原理。它將涵蓋在高性能事務處理系統(OLTP)和大型分析系統(OLAP)中使用的組件的核心概念和基礎。這個類將強調這些思想實現的效率和正確性。本課程適用于對系統編程感興趣的高級本科生和研究生。

//www.cc.gatech.edu/~jarulraj/courses/4420-f20/

一、教學目標和基本要求

腦認知及其相關的智能科學是人工智能專業的重要基礎知識，通過對這門課程的學習，

要求學生掌握腦與認知科學的基本概念和知識結構，熟悉認知相關的智能科學技術方法、

原理與應用等，了解相關領域的研究現狀和發展趨勢，對已有成果展開分析與討論，為

今后進一步的學科探索打好基礎。

二、課程簡介

本課程重點介紹腦與認知科學的基本概念、知識及其在現實生活中的應用，在此基礎

上介紹人工大腦、認知計算等相關的智能科學技術，體現了腦科學、認知科學、人工智能

及計算機和信息科學等多學科領域交叉的特點，為學生提供較為全面系統的知識框架，為

進一步學習后續專業課程打下良好的基礎。

三、教材名稱及主要參考書

（1）Michael Gazzaniga等著，《認知神經科學》，中國輕工業出版社，2016年（圖書館借閱）

（2）王志良主編，《腦與認知科學概論》，北京郵電大學出版社，2011年（圖書館借閱）

（3）杰夫·霍金斯著，《人工智能的未來》，陜西科學技術出版社，2006年（圖書館借閱）

四、課程內容和課件資料 （更新日期：2020-02-27）

第一章 《緒論及腦科學發展史》

第二章 《神經系統的細胞機制》

課程題目

機器學習中的常識性問題

課程內容

機器學習是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、算法復雜度理論等多門學科。專門研究計算機怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能。它是人工智能的核心，是使計算機具有智能的根本途徑。本課程主要介紹了當下機器學習的常識性問題，如機器學習概念，發展歷史，超參數，常用的統計學習方法，以及數學理論等基礎性知識。