亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

課程描述從生成圖像和文本到生成音樂和藝術，生成建模的目標長久以來一直是人工智能的一個關鍵挑戰。本課程探討了推動生成建模和基礎模型近期進展的機器學習和人工智能技術。學生將理解、開發并應用能夠讓機器生成逼真和富有創造性內容的最新算法。核心主題將包括：學習的基本機制；如何構建生成模型和其他大型基礎模型（例如，用于視覺和語言的transformers，擴散模型）；如何訓練這些模型（預訓練，微調）并有效地適應它們（適配器，上下文內學習）；如何擴大到大型數據集（多GPU/分布式優化）；如何使用現有模型進行日常使用（生成代碼，帶有生成模型的編碼）。學生還將探索理論基礎和實證嘗試以理解其內部工作機制，以及學習關于事情可能出錯的方式（偏見，幻覺，對抗攻擊，數據污染）和對抗這些問題的方法。課程中的學生將通過實現來發展對現代技術的理解，但他們也將利用現有的庫和模型來探索其生成能力和限制。本課程適用于已經完成機器學習或深度學習入門課程的學生。學習成果：完成課程后，學生應能夠……區分不同的學習機制，如參數調整和上下文內學習。 實現支撐現代生成建模方法的基礎模型，如transformers和擴散模型。 將現有模型應用于文本、代碼、圖像、音頻和視頻的實際生成問題。 采用適應基礎模型任務的技術，如微調、適配器和上下文內學習。 實現生成建模方法擴展到大型文本、代碼或圖像數據集的技術。 使用現有生成模型解決實際的判別問題和其他日常用例。 分析大規模基礎模型的理論屬性。 識別不同模態的生成建模潛在陷阱。 描述大規模生成AI系統的社會影響。 有關涵蓋主題的更多細節，請參見課程安排頁面。先決條件進入該課程的學生預期應具有通過修讀以下課程之一（10301或10315或10601或10701或10715或11485或11685或11785）獲得的機器學習或深度學習的入門知識。您必須嚴格遵守這些先決條件！即使CMU的注冊系統不阻止您為這門課程注冊，您仍有責任在注冊前確保您具備所有這些先決條件。

推理和學習是(人工或自然)智能的兩個基本部分。本課程旨在介紹邏輯推理與機器學習相結合的前沿研究。我們將首先研究現代推理引擎背后的基本思想和工程技巧，如布爾可滿足性(SAT)求解器、可滿足性模理論(SMT)求解器和特定領域求解器。然后，我們將調研最近使用機器學習來改進推理系統的工作，以及反過來的工作。具體來說，本課程將涵蓋以下主題——布爾可滿足性(SAT)、可滿足性模塊理論(SMT)、程序分析與綜合、(歸納)邏輯程序設計和神經符號方法。

//www.cs.toronto.edu/~six/csc-2547hs-w23.html

學習目標: 在本課程結束時，您將: 了解SAT/SMT求解器的工作原理，并使用它們來解決有趣的挑戰。 了解當前機器學習和程序推理研究的前景和局限性。 建設性地評論研究論文，并進行指導式的演示。在一個完整的周期中實踐您的研究技能，即，提出?實施和評估?目前并獲得反饋?最終報告。

機器學習的一個關鍵挑戰是結構化預測:將非結構化數據作為輸入并產生結構化輸出。結構化預測問題在自然語言處理、語音處理、計算生物學、計算機視覺、醫療保健等應用領域中比比皆是。在本課程中，我們將研究建立在概率圖模型、深度學習和搜索基礎上的結構化預測的現代方法。本課程將關注三個關鍵方面:模型、推理和學習。我們考慮的模型將集中于生成和判別模型，如貝葉斯網絡、馬爾可夫隨機場(MRFs)、條件隨機場(CRFs)和深度神經網絡，包括卷積神經網絡(CNNs)和循環神經網絡(RNNs)，以及圖形模型和神經網絡的混合。本課程將探討精確推理和近似推理的方法:連接樹算法、馬爾科夫鏈蒙特卡羅(MCMC)和變分方法的近似邊際推理、整數線性規劃(ILP)和搜索的近似MAP推理。我們將使用學習問題的不同形式來探索無監督、半監督和監督學習:MLE、貝葉斯推理、結構化感知器、M3Ns、搜索學習和自動編碼器。涵蓋的應用將包括機器翻譯，語音識別，DNA序列分析，場景理解，醫療診斷。這門課程被交叉列為10-418和10-618;注冊10-618的學生將做一個課程項目。

學習成果:

在本課程結束時，學生應該能夠…… * 將新任務形式化為結構化預測問題。 * 通過整合關于輸出之間的約束或交互的領域知識，開發新的圖模型 * 結合深度神經網絡和圖形模型 * 為概率圖形模型確定適當的推理方法，精確的或近似的 * 采用學習算法，充分利用可用數據 * 為結構化預測模型從頭開始實現最先進的學習和推理方法

在過去3-4年中，大型語言模型(LLMs)徹底改變了自然語言處理(NLP)領域。它們構成了最先進的系統的基礎，在解決廣泛的自然語言理解和生成任務時無處不在。隨著前所未有的潛力和能力，這些模型也帶來了新的道德和可擴展性挑戰。本課程旨在涵蓋圍繞預訓練語言模型的前沿研究課題。我們將討論它們的技術基礎(BERT、GPT、T5模型、專家混合模型、基于檢索的模型)、新出現的功能(知識、推理、少樣本學習、上下文學習)、微調和適應、系統設計以及安全和倫理。我們將涵蓋每個主題，并深入討論重要論文。學生將被期望定期閱讀和提交研究論文，并在結束時完成一個研究項目。 這是一門高級研究生課程，所有學生都應該上過機器學習和NLP課程，并熟悉諸如transformer等深度學習模型。

//www.cs.princeton.edu/courses/archive/fall22/cos597G/

學習目標

• 本課程旨在幫助您在自然語言處理方面進行前沿研究，特別是與預訓練語言模型相關的主題。我們將討論最先進的技術，它們的能力和局限性。

• 練習你的研究技能，包括閱讀研究論文，進行文獻調查，口頭報告，以及提供建設性的反饋。

• 通過期末項目獲得實踐經驗，從頭腦風暴到實施和實證評估，再到撰寫期末論文。

課程內容：

引言 BERT T5 (encoder-decoder models) GPT-3 (decoder-only models) Prompting for few-shot learning Prompting as parameter-efficient fine-tuning In-context learning Calibration of prompting LLMs Reasoning Knowledge Data

參考論文：On the Opportunities and Risks of Foundation Models

作者：Percy Liang、李飛飛等 * 論文鏈接：

**摘要：**最近，斯坦福大學的 Percy Liang、Rishi Bommasani（Percy Liang 的學生） 、李飛飛等 100 多位研究者聯名發布了一篇論文。在論文中，他們給大模型取了一個名字——「基礎模型（foundation model）」，并系統探討了基礎模型的機遇與風險。「基礎」代表至關重要，但并不完備。 論文正文分為四個部分，分別闡述了基礎模型的能力、應用、相關技術和社會影響，其具體內容如下：

能力：語言、視覺、機器人學、推理、交互、理解等； * 應用：醫療、法律、教育等； * 技術：建模、訓練、適應、評估、系統、數據、安全與隱私、穩健性、理論、可解釋性等； * 社會影響：不平等、濫用、環境、法規、經濟、倫理等。

這篇論文的問世將為負責任地發展、部署基礎模型提供一些借鑒。

介紹口語技術，重點介紹對話和會話系統。深度學習等方法用于自動語音識別、語音合成、影響檢測、對話管理，以及數字助理和語音理解系統的應用。

本課程圍繞講座、作業和課程項目設計，為學生提供建立口語系統的實際經驗。我們將使用現代軟件工具和算法方法。沒有考試。我們的目標是讓每個學生都能做出自己引以為豪的東西。

有四份作業。作業題目: 介紹音頻分析和口語工具 使用Amazon Alexa Skills Kit構建一個完整的對話系統 利用PyTorch實現端到端深度神經網絡語音識別方法 使用高級深度學習工具包進行語音識別(speech brain)和語音克隆

講者：

目錄內容：

第一周: 介紹和聲學語音學 第二周: 對話入門 第三周: 對話中的機器學習 第四周: 課程項目和自動語音識別(ASR)介紹 第五周: 自動語音識別 第六周: 高級ASR 第七周: 帶有現代工具包的口語產品 第八周: 語音合成/從文本到語音(TTS) 第九周: 實用TTS和意義提取 第十周: 海報展示和總結

要實現人工智能的夢想，就需要學會做出正確決策的自主系統。強化學習是這樣做的一個強大范式，它與大量的任務相關，包括機器人、游戲、消費者建模和醫療保健。本課程將提供強化學習領域的充實介紹，學生將學習強化學習的核心挑戰和方法，包括推廣和探索。通過講課、書面作業和編碼作業的結合，學生將學習RL的關鍵思想和技術。作業將包括強化學習的基礎知識以及深度強化學習——一個結合了深度學習技術和強化學習的極具前景的新領域。

學生能夠學習到：

• 定義強化學習與人工智能和非交互式機器學習的區別的關鍵特征。
• 給定一個應用問題(例如，計算機視覺，機器人等)，決定它是否應該被表述為RL問題;如果是，可以正式定義它(根據狀態空間，行動空間，動態和獎勵模型)，說明什么算法(從類)是最適合解決它，并證明你的答案。
• 在代碼中實現通用的RL算法。
• 描述(列出和定義)分析RL算法的多種標準，并根據這些指標評估算法:例如遺憾度、樣本復雜度、計算復雜度、經驗性能、收斂性等。
• 描述探索與開發的挑戰，并對至少兩種解決這一挑戰的方法進行比較和對比(從性能、可伸縮性、實現的復雜性和理論保證方面)。

內容目錄：
1 Introduction to Reinforcement Learning

• ppt

2 Tabular MDP planning

3 Tabular RL policy evaluation

4 Q-learning

5 RL with function approximation

6 Policy search

7 Fast Learning

8 Batch Reinforcement Learning

機器學習是指通過經驗自動提高性能的計算機程序(例如，學習識別人臉、推薦音樂和電影，以及駕駛自動機器人的程序)。本課程從不同的角度涵蓋了機器學習的理論和實際算法。我們涵蓋的主題如貝葉斯網絡，決策樹學習，支持向量機，統計學習方法，無監督學習和強化學習。本課程涵蓋了歸納偏差、PAC學習框架、貝葉斯學習方法、基于邊際的學習和奧卡姆剃刀等理論概念。編程作業包括各種學習算法的動手實驗。本課程旨在為研究生提供機器學習研究人員目前所需要的方法學、技術、數學和算法的全面基礎知識。

通過學習這門課程，能夠獲取：

實現和分析現有的學習算法，包括學習良好的分類、回歸、結構化預測、聚類和表示學習方法 將實際機器學習的多個方面整合到一個系統中:數據預處理、學習、正則化和模型選擇 描述用于學習的模型和算法的形式屬性，并解釋這些結果的實際含義 比較和對比不同的學習模式(有監督的，無監督的，等等) 設計實驗來評估和比較現實問題中不同的機器學習技術 運用概率、統計學、微積分、線性代數和最優化來開發新的預測模型或學習方法 給出ML技術的描述，分析它以確定(1)形式主義的表達能力;(2)算法隱含的歸納偏差;(3)搜索空間的大小和復雜度;(5)關于終止、收斂、正確性、準確性或泛化能力的任何保證(或缺乏保證)。

課程地址：

//www.cs.cmu.edu/~mgormley/courses/10601/

本課程首先介紹了機器學習、安全、隱私、對抗性機器學習和博弈論等主題。然后從研究的角度，討論各個課題和相關工作的新穎性和潛在的拓展性。通過一系列的閱讀和項目，學生將了解不同的機器學習算法，并分析它們的實現和安全漏洞，并培養開展相關主題的研究項目的能力。

//aisecure.github.io/TEACHING/2020_fall.html

Evasion Attacks Against Machine Learning Models (Against Classifiers) Evasion Attacks Against Machine Learning Models (Non-traditional Attacks) Evasion Attacks Against Machine Learning Models (Against Detectors/Generative odels/RL) Evasion Attacks Against Machine Learning Models (Blackbox Attacks) Detection Against Adversarial Attacks Defenses Against Adversarial Attacks (Empirical) Defenses Against Adversarial Attacks (Theoretic) Poisoning Attacks Against Machine Learning Models

本課程探索了生成式模型的各種現代技術。生成模型是一個活躍的研究領域: 我們在本課程中討論的大多數技術都是在過去10年發展起來的。本課程與當前的研究文獻緊密結合，并提供閱讀該領域最新發展的論文所需的背景。課程將集中于生成式建模技術的理論和數學基礎。作業將包括分析練習和計算練習。本課程專題旨在提供一個機會，讓你可以將這些想法應用到自己的研究中，或更深入地研究本課程所討論的主題之一。

• 自回歸模型 Autoregressive Model
  • The NADE Framework
  • RNN/LSTM and Transformers
• 變分自編碼器 Variational Autoencoders
  • The Gaussian VAE
  • ConvNets and ResNets
  • Posterior Collapse
  • Discrete VAEs
• 生成式對抗網絡 Generative Adversarial Nets
  • f-GANs
  • Wasserstein GANs
  • Generative Sinkhorn Modeling
• 生成流 Generative Flow
  • Autoregressive Flows
  • Invertible Networks
  • Neural Ordinary Differential Equations
• 基于能量的模型 Energy-Based Models
  • Stein's Method and Score Matching
  • Langevin Dynamics and Diffusions

本課程是講座和編程作業的結合，其中我們將學習現代數據庫管理系統的內部原理。它將涵蓋在高性能事務處理系統(OLTP)和大型分析系統(OLAP)中使用的組件的核心概念和基礎。這個類將強調這些思想實現的效率和正確性。本課程適用于對系統編程感興趣的高級本科生和研究生。

//www.cc.gatech.edu/~jarulraj/courses/4420-f20/