這門研究生水平的課程將專注于NLP框架、算法和方法的高級研究,包括語言建模、文本分類、機器翻譯和問題回答等最先進的技術。本課程將包括多種編程作業、論文閱讀、期中和期末專題。在這門課之前,學生應該至少學習過一門自然語言處理/機器學習的入門課程,并且熟悉Python編程。
本課程包括相關主題的介紹性講座。這些講座是和COS 484聯合的,請看這里的課程安排。
//princeton-nlp.github.io/cos484/cos584.html
Date Topics Fri (2/5) Language Models Fri (2/12) Text classification Fri (2/19) Word embeddings Fri (2/26) Feedforward Neural Networks Fri (3/5) Conditional Random Fields Fri (3/12) No meeting (midterm) Fri (3/19) Recurrent neural networks and neural language models Fri (3/26) Dependency parsing Fri (4/2) Machine translation Fri (4/9) Transformers Fri (4/16) Pre-training Fri (4/23) Language Grounding
斯坦福大學 CS224N 深度學習自然語言處理 2021 冬季課程即將開課!
自然語言處理(NLP)或者計算語言學是信息時代最重要的技術之一。從網絡搜索、廣告、電子郵件到客戶服務、語言翻譯、虛擬代理、醫療報告等,NLP 的應用幾乎無處不在。近年來,深度學習(或神經網絡)在許多 NLP 任務上達到了非常高的性能,使用單個端到端神經模型就能完成許多任務,不再需要特定于任務的特征工程。
而提及入門自然語言處理,想必大家都非常熟悉斯坦福大學的公開課 CS224N,它與計算機視覺方面的課程 CS231n 堪稱絕配。CS224N 是一門關于自然語言處理的專項課程,非常系統地介紹自然語言處理任務等相關知識。
機器之心介紹過 CS224N 2019 冬季課程,重點講解了 Transformer 和預訓練表征。今日,斯坦福 NLP Group 宣布 CS224N 深度學習自然語言處理 2021 冬季課程將于當地時間 1 月 12 日開課,授課講師為斯坦福大學教授 Christopher Manning 以及他的三年級博士生 John Hewitt。
課程鏈接://web.stanford.edu/class/cs224n/
該課程全面介紹了 NLP 深度學習的前沿研究。通過講座、作業和結課項目,學生將學到設計、實現和理解各自的神經網絡模型等必要技能。本年度的 CS224n 課程依然使用 PyTorch 授課。
不過遺憾的是,CS224N 2021 冬季課程視頻只對注冊學生開放,課程 PPT 和作業會在網上實時更新。
【導讀】陳丹琦博士是自然語言處理研究員領域的新星大神,她從斯坦福畢業后,到普林斯頓大學任助理教授。她將深度學習用于一系列自然語言處理重要問題,幫助機器獲取知識、更好地回答問題。她開設了COS 598C (Winter 2020)課程,深度學習自然語言處理, Deep Learning for Natural Language Processing,共有21講,講解最新NLP進展,非常值得follow。
本課程旨在介紹自然語言處理的前沿深度學習方法。本課程的主題包括詞的嵌入/上下文化的詞的嵌入、預訓練和微調、機器翻譯、問題回答、摘要、信息提取、語義分析和對話系統等。我們對每個主題進行了深入的討論,并討論了最近關于每個主題的重要論文,包括背景、方法、評價、目前的局限性和未來的發展方向。學生應定期閱讀和提交研究論文,并完成一篇期末論文。
學習目標:
本課程旨在為您在自然語言處理方面的前沿研究做準備。我們將討論在NLP的每個子領域中最有影響力的想法,最先進的技術和我們今天面臨的主要問題。
練習你的研究技能,包括閱讀研究論文,進行文獻調查,口頭和書面報告,以及提供建設性的反饋。
課程簡介: 本課程將向學生介紹NLP的基礎知識,涵蓋處理自然語言的標準框架以及解決各種NLP問題的算法和技術,包括最新的深度學習方法。 涵蓋的主題包括語言建模,表示學習,文本分類,序列標記,語法解析,機器翻譯,問題解答等。
課程安排:
嘉賓介紹:
陳丹琦,普林斯頓大學計算機科學的助理教授,在此之前,是西雅圖Facebook AI Research(FAIR)的訪問科學家。 斯坦福大學計算機科學系獲得博士學位,并在斯坦福NLP集團工作。研究方向:自然語言處理,文本理解、知識解釋。
Karthik Narasimhan,普林斯頓大學計算機科學系助理教授,研究跨越自然語言處理和強化學習。
學習自然語言處理路線圖,要總結了NLP相關的路線圖(思維導圖)和關鍵詞(知識點),包括概率和統計、機器學習、文本挖掘、自然語言處理幾個部分。 ROADMAP(Mind Map) and KEYWORD for students those who have interest in learning NLP //github.com/graykode/nlp-roadmap