主題：用于推理的大型語言模型 大型語言模型（LLMs）是機器學習和人工智能中一項令人興奮的新發展。本課程探索使用LLMs作為強基礎模型以啟用推理任務的研究方向。 本課程的目標是使學生能夠： 了解各種推理任務。（講座） 獲得如何在應用程序中使用LLMs的操作理解。（Colab筆記本） 學會解構研究論文。（論文展示） 在將LLMs應用到新的推理任務時，制定挑戰。（項目提案） 作為研究項目探索上述挑戰。（最終項目） 對于希望更深入了解LLMs架構及其他生成式AI模型的人，應考慮選修EE 148課程。

課程描述從生成圖像和文本到生成音樂和藝術，生成建模的目標長久以來一直是人工智能的一個關鍵挑戰。本課程探討了推動生成建模和基礎模型近期進展的機器學習和人工智能技術。學生將理解、開發并應用能夠讓機器生成逼真和富有創造性內容的最新算法。核心主題將包括：學習的基本機制；如何構建生成模型和其他大型基礎模型（例如，用于視覺和語言的transformers，擴散模型）；如何訓練這些模型（預訓練，微調）并有效地適應它們（適配器，上下文內學習）；如何擴大到大型數據集（多GPU/分布式優化）；如何使用現有模型進行日常使用（生成代碼，帶有生成模型的編碼）。學生還將探索理論基礎和實證嘗試以理解其內部工作機制，以及學習關于事情可能出錯的方式（偏見，幻覺，對抗攻擊，數據污染）和對抗這些問題的方法。課程中的學生將通過實現來發展對現代技術的理解，但他們也將利用現有的庫和模型來探索其生成能力和限制。本課程適用于已經完成機器學習或深度學習入門課程的學生。學習成果：完成課程后，學生應能夠……區分不同的學習機制，如參數調整和上下文內學習。 實現支撐現代生成建模方法的基礎模型，如transformers和擴散模型。 將現有模型應用于文本、代碼、圖像、音頻和視頻的實際生成問題。 采用適應基礎模型任務的技術，如微調、適配器和上下文內學習。 實現生成建模方法擴展到大型文本、代碼或圖像數據集的技術。 使用現有生成模型解決實際的判別問題和其他日常用例。 分析大規模基礎模型的理論屬性。 識別不同模態的生成建模潛在陷阱。 描述大規模生成AI系統的社會影響。 有關涵蓋主題的更多細節，請參見課程安排頁面。先決條件進入該課程的學生預期應具有通過修讀以下課程之一（10301或10315或10601或10701或10715或11485或11685或11785）獲得的機器學習或深度學習的入門知識。您必須嚴格遵守這些先決條件！即使CMU的注冊系統不阻止您為這門課程注冊，您仍有責任在注冊前確保您具備所有這些先決條件。

大型語言模型（LLMs）及其驅動的應用近期受到了巨大的關注，尤其是自2022年11月發布ChatGPT以來。此課程將為您提供介紹最先進的方法和工具，使LLMs - 模型和應用 - 更為可信。課程將被組織成三個模塊：第一部分將為LLMOps的新興技術棧提供背景知識。學生們將快速了解如何使用LlamaIndex構建LLM應用，并完成一個關于評估使用LLM和向量數據庫構建的檢索增強生成問題回答應用的實踐作業。第二部分將涵蓋LLMs的主要應用領域，特別是醫療、教育和安全領域。我們將交替進行演示與關于項目方向的頭腦風暴。第三部分將涵蓋最先進的LLM（應用）評估方法和工具。我們將涵蓋從相關性、基礎性、信心、校準、不確定性、可解釋性、隱私、公平性、有害性、對抗性攻擊及相關主題的一系列話題。學生將對評估LLM應用的一套方法和工具有所了解。學生們將完成一項家庭作業以獲得必要的背景知識。主要的努力將放在為期一個季度的課程項目上。

//web.stanford.edu/class/cs329t/index.html

講者:

Anupam Datta，聯合創始人、總裁兼TruEra首席科學家 在卡內基梅隆大學擔任教授15年，研究重點是可信賴人工智能的基礎和工具。目標是確保采用人工智能和機器學習的數據驅動系統不是不可捉摸的黑盒子；相反，它們的操作方式應以一種形式進行解釋，從而確保對其操作、性能改進以及對社會價值觀的保護，包括隱私和公平性。在此領域的貢獻中，獲得了2018年CMU工程學院頒發的David P. Casasent杰出研究獎，2020年IIT Kharagpur的青年校友成就獎，以及2021年Google教育研究獎。

**John C. Mitchell，**斯坦福計算系教授，研究興趣：編程語言、計算機安全與隱私、區塊鏈、機器學習、協作學習以及教育技術。

Ankur Taly，Google的員工研究科學家。

課前預備：

學生應具備以下背景: python ML類簡介(CS229或同等版本) 對深度學習算法有良好的理解(例如，至少一種CS230, CS231N, CS224N或同等的)。 熟悉至少一個機器學習框架，如TensorFlow, PyTorch, Keras, scikit-learn。

目錄內容：

課程內容：

1. LLM技術棧
2. LlamaIndex 用于構建LLM應用 TruLens 用于LLM應用評估
3. 應用領域（教育） 項目思路 -- 評估
4. 應用領域（安全） 針對安全的對抗性攻擊 LLMs 用于安全
5. 應用領域（醫療健康）
6. 評估范圍實證性、一致性、信心與不確定性、對抗性攻擊、隱私、公平性
7. RAG 三重奏：上下文相關性、實證性、問答相關性 相關性實證性評估：定義、技術、工具
8. 信心、校準、不確定性
9. 解釋性：影響函數LLM訓練數據隱私：成員推斷
10. 解釋性：歸因（機械性解釋性）IG用于文本BERT模型的影響模式
11. LLM對齊，工業中的LLM輸出治理無限上下文模型
12. LLM與安全

機器學習的一個關鍵挑戰是結構化預測:將非結構化數據作為輸入并產生結構化輸出。結構化預測問題在自然語言處理、語音處理、計算生物學、計算機視覺、醫療保健等應用領域中比比皆是。在本課程中，我們將研究建立在概率圖模型、深度學習和搜索基礎上的結構化預測的現代方法。本課程將關注三個關鍵方面:模型、推理和學習。我們考慮的模型將集中于生成和判別模型，如貝葉斯網絡、馬爾可夫隨機場(MRFs)、條件隨機場(CRFs)和深度神經網絡，包括卷積神經網絡(CNNs)和循環神經網絡(RNNs)，以及圖形模型和神經網絡的混合。本課程將探討精確推理和近似推理的方法:連接樹算法、馬爾科夫鏈蒙特卡羅(MCMC)和變分方法的近似邊際推理、整數線性規劃(ILP)和搜索的近似MAP推理。我們將使用學習問題的不同形式來探索無監督、半監督和監督學習:MLE、貝葉斯推理、結構化感知器、M3Ns、搜索學習和自動編碼器。涵蓋的應用將包括機器翻譯，語音識別，DNA序列分析，場景理解，醫療診斷。這門課程被交叉列為10-418和10-618;注冊10-618的學生將做一個課程項目。

學習成果:

在本課程結束時，學生應該能夠…… * 將新任務形式化為結構化預測問題。 * 通過整合關于輸出之間的約束或交互的領域知識，開發新的圖模型 * 結合深度神經網絡和圖形模型 * 為概率圖形模型確定適當的推理方法，精確的或近似的 * 采用學習算法，充分利用可用數據 * 為結構化預測模型從頭開始實現最先進的學習和推理方法

不可錯過！多模態機器學習課程！

多模態機器學習(MMML)是一個充滿活力的多學科研究領域，通過整合和建模多種交流模式(包括語言、視覺和聲學)來解決人工智能的一些最初目標。這一研究領域給多模態研究人員帶來了一些獨特的挑戰，因為數據的異質性和模式之間的偶然性經常被發現。本課程是一門研究生水平的課程，涵蓋了多模態機器學習的最新研究論文，包括表示、對齊、推理、生成、協同學習和量化方面的技術挑戰。本課程的主要目標是提高批判性思維能力，了解最新的技術成就，并了解未來的研究方向。

本課程將介紹機器學習和深度學習中與多模態機器學習中的五個主要挑戰相關的基本數學概念:(1)多模態表示學習，(2)平移與映射，(3)模態對齊，(4)多模態融合和(5)協同學習。這些包括但不限于，多模態自動編碼器，深度典型相關分析，多核學習，注意力模型和多模態遞歸神經網絡。本課程還將討論MMML的許多最新應用，包括多模式的情感識別、圖像和視頻字幕以及跨模式的多媒體檢索。

//cmu-multicomp-lab.github.io/adv-mmml-course/spring2022/schedule/

這是一門基于研究的機器學習數據系統(ML)課程，在ML/AI、數據管理和系統領域的交叉。這些系統為大型復雜數據集的現代數據科學應用提供了強大的動力，包括企業分析、推薦系統和社交媒體分析。學生們將了解這些系統的景觀和進化以及最新的研究。這是一門以講座為導向的課程，包括測驗、考試和論文復習。它主要是為碩士學生、博士學生和對可擴展數據科學和ML工程系統的最新技術感興趣的高級本科生量身定制的。

本課程將涵蓋基于ML的數據分析的整個生命周期的關鍵系統主題，包括ML的數據來源和準備，可擴展ML模型構建的編程模型和系統，以及快速ML部署的系統。還可能會涉及到諸如ML系統的治理、解釋和倫理等新興主題。本課程的一個主要部分是回顧最近在這些主題上的頂級會議的前沿研究論文。請參閱課程進度表頁面，了解整個主題列表，以及論文閱讀列表。

//cseweb.ucsd.edu/classes/fa21/cse234-a/schedule.html

機器學習是指通過經驗自動提高性能的計算機程序(例如，學習識別人臉、推薦音樂和電影，以及駕駛自動機器人的程序)。本課程從不同的角度涵蓋了機器學習的理論和實際算法。我們涵蓋的主題如貝葉斯網絡，決策樹學習，支持向量機，統計學習方法，無監督學習和強化學習。本課程涵蓋了歸納偏差、PAC學習框架、貝葉斯學習方法、基于邊際的學習和奧卡姆剃刀等理論概念。編程作業包括各種學習算法的動手實驗。本課程旨在為研究生提供機器學習研究人員目前所需要的方法學、技術、數學和算法的全面基礎知識。

通過學習這門課程，能夠獲取：

實現和分析現有的學習算法，包括學習良好的分類、回歸、結構化預測、聚類和表示學習方法 將實際機器學習的多個方面整合到一個系統中:數據預處理、學習、正則化和模型選擇 描述用于學習的模型和算法的形式屬性，并解釋這些結果的實際含義 比較和對比不同的學習模式(有監督的，無監督的，等等) 設計實驗來評估和比較現實問題中不同的機器學習技術 運用概率、統計學、微積分、線性代數和最優化來開發新的預測模型或學習方法 給出ML技術的描述，分析它以確定(1)形式主義的表達能力;(2)算法隱含的歸納偏差;(3)搜索空間的大小和復雜度;(5)關于終止、收斂、正確性、準確性或泛化能力的任何保證(或缺乏保證)。

課程地址：

//www.cs.cmu.edu/~mgormley/courses/10601/

機器學習涉及的是通過經驗自動提高其性能的計算機程序(例如，學習人臉識別，推薦音樂和電影，以及驅動自主機器人的程序)。本課程從多種角度涵蓋了機器學習的理論和實際算法。我們涵蓋了貝葉斯網絡、決策樹學習、支持向量機、統計學習方法、無監督學習和強化學習等主題。課程涵蓋的理論概念如歸納偏差，PAC學習框架，貝葉斯學習方法，基于邊際的學習，和奧卡姆剃刀。編程作業包括各種學習算法的動手實驗。本課程旨在為研究生提供機器學習研究人員所需要的方法論、技術、數學和算法的全面基礎知識。

學習成果: 課程結束時，學生應能夠:

實現并分析現有的學習算法，包括為分類、回歸、結構預測、聚類和表示學習而充分研究的方法 將實際機器學習的多個方面集成到一個系統中:數據預處理、學習、正則化和模型選擇 描述學習模型和算法的形式屬性，并解釋這些結果的實際含義 比較和對比不同的學習范式(監督的、非監督的，等等) 設計實驗評估和比較不同的機器學習技術在現實世界的問題 運用概率論、統計學、微積分、線性代數和最優化來開發新的預測模型或學習方法 給出一種ML技術的描述，分析它，確定(1)形式主義的表達能力;(2)算法中隱含的歸納偏差;(3)搜索空間

參考書籍：

Machine Learning, Tom Mitchell. Machine Learning: a Probabilistic Perspective, Kevin Murphy. Full online access is free through CMU’s library – for the second link, you must be on CMU’s network or VPN. A Course in Machine Learning, Hal Daumé III. Online only.

目錄內容： Classification & Regression Linear Models 深度學習 強化學習 生成模型 概率圖模型 學習理論 學習方式

本課程首先介紹了機器學習、安全、隱私、對抗性機器學習和博弈論等主題。然后從研究的角度，討論各個課題和相關工作的新穎性和潛在的拓展性。通過一系列的閱讀和項目，學生將了解不同的機器學習算法，并分析它們的實現和安全漏洞，并培養開展相關主題的研究項目的能力。

//aisecure.github.io/TEACHING/2020_fall.html

Evasion Attacks Against Machine Learning Models (Against Classifiers) Evasion Attacks Against Machine Learning Models (Non-traditional Attacks) Evasion Attacks Against Machine Learning Models (Against Detectors/Generative odels/RL) Evasion Attacks Against Machine Learning Models (Blackbox Attacks) Detection Against Adversarial Attacks Defenses Against Adversarial Attacks (Empirical) Defenses Against Adversarial Attacks (Theoretic) Poisoning Attacks Against Machine Learning Models

醫療保健是人工智能最令人興奮的應用領域之一，在醫學圖像分析、基于電子健康記錄的預測和精確醫療等領域具有變革潛力。本課程將深入探討醫療領域人工智能的最新進展，特別關注醫療問題的深度學習方法。我們將從神經網絡基礎開始，然后在各種醫療保健數據(包括圖像、文本、多模態和時間序列數據)的背景下研究前沿的深度學習模型。在本課程的后半部分，我們將討論在社會應用(如醫療保健)中整合人工智能所面臨的開放挑戰，包括可解釋性、健壯性、隱私性和公平性。本課程旨在為來自不同背景的學生提供醫療領域人工智能前沿研究的概念理解和實踐基礎。

//web.stanford.edu/class/biods220/index.html