近年來,以機器學習、知識圖譜為代表的人工智能技術逐漸變得普及。從車牌識別、人臉識別、語音識別、智能問答、推薦系統到自動駕駛,人們在日常生活中都可能有意無意地使用到了人工智能技術。這些技術的背后都離不開人工智能領域研究者們的長期努力。特別是最近這幾年,得益于數據的增多、計算能力的增強、學習算法的成熟以及應用場景的豐富,越來越多的人開始關注這一個“嶄新”的研究領域:深度學習。深度學習以神經網絡為主要模型,一開始用來解決機器學習中的表示學習問題。但是由于其強大的能力,深度學習越來越多地用來解決一些通用人工智能問題,比如推理、決策等。目前,深度學習技術在學術界和工業界取得了廣泛的成功,受到高度重視,并掀起新一輪的人工智能熱潮。
本課程主要介紹神經網絡與深度學習中的基礎知識、主要模型(前饋網絡、卷積網絡、循環網絡等)以及在計算機視覺、自然語言處理等領域的應用。
神經網絡與深度學習,復旦大學邱錫鵬老師。近年來,以機器學習、知識圖譜為代表的人工智能技術逐漸變得普及。從車牌識別、人臉識別、語音識別、智能問答、推薦系統到自動駕駛,人們在日常生活中都可能有意無意地使用到了人工智能技術。這些技術的背后都離不開人工智能領域研究者們的長期努力。特別是最近這幾年,得益于數據的增多、計算能力的增強、學習算法的成熟以及應用場景的豐富,越來越多的人開始關注這一個“嶄新”的研究領域:深度學習。深度學習以神經網絡為主要模型,一開始用來解決機器學習中的表示學習問題。但是由于其強大的能力,深度學習越來越多地用來解決一些通用人工智能問題,比如推理、決策等。目前,深度學習技術在學術界和工業界取得了廣泛的成功,受到高度重視,并掀起新一輪的人工智能熱潮。
本課程主要介紹神經網絡與深度學習中的基礎知識、主要模型(前饋網絡、卷積網絡、循環網絡等)以及在計算機視覺、自然語言處理等領域的應用。
本書的寫作目的是使得讀者能夠掌握神經網絡與深度學習技術的基本原理,知其然還要知其所以然。全書共 15 章。第 1 章是緒論,介紹人工智能、機器學習、深度學習的概要,使讀者對相關知識進行全面的了解。第2、3章介紹機器學習的基礎知識。第4、5、6章分別講述三種主要的神經網絡模型:前饋神經 網絡、卷積神經網絡和循環神經網絡。第7章介紹神經網絡的優化與正則化方法。第8章介紹神經網絡中的注意力機制和外部記憶。第9章簡要介紹一些無監督學習方法。第10章介紹一些模型獨立的機器學習方法:集成學習、自訓練、協同訓練多任務學習、遷移學習、終身學習、元學習等,這些都是目前深度學習的難點和熱點問題。第11章介紹概率圖模型的基本概念,為后面的章節進行鋪墊。第12章介紹兩種早期的深度學習模型:玻爾茲曼機和深度信念網絡。第13章介紹最近兩年發展十分迅速的深度生成模型:變分自編碼器和生成對抗網絡。第14章介紹深度強化學習的知識。第15章介紹應用十分廣泛的序列生成模型。