【導讀】本文章從深度神經網絡(DNN)入手,對深度學習(DL)領域的研究進展進行了簡要的綜述。內容包括:卷積神經網絡(CNN)、循環神經網絡(RNN)、長時記憶(LSTM)和門控遞歸單元(GRU)、自動編碼器(AE)、深度信念網絡(DBN)、生成對抗性網絡(GAN)和深度強化學習(DRL)。
近年來,深度學習在各個應用領域都取得了巨大的成功。這個機器學習的新領域發展迅速,已經應用于大多數傳統的應用領域,以及一些提供更多機會的新領域。針對不同類型的學習,提出了不同的學習方法,包括監督學習、半監督學習和非監督學習。
實驗結果表明,與傳統機器學習方法相比,深度學習在圖像處理、計算機視覺、語音識別、機器翻譯、藝術、醫學成像、醫學信息處理、機器人與控制、生物信息學、自然語言處理、網絡安全等領域具有最先進的性能。
本研究從深度神經網絡(DNN)入手,對深度學習(DL)領域的研究進展進行了簡要的綜述。研究內容包括:卷積神經網絡(CNN)、循環神經網絡(RNN)、長時記憶(LSTM)和門控遞歸單元(GRU)、自動編碼器(AE)、深度信念網絡(DBN)、生成對抗性網絡(GAN)和深度強化學習(DRL)。
此外,我們還討論了最近的發展,例如基于這些DL方法的高級變體DL技術。這項工作考慮了2012年以后發表的大部分論文,當時深度學習的歷史開始了。此外,本文中還包括了在不同應用領域探索和評價的DL方法。我們還包括最近開發的框架、SDKs和基準數據集,用于實施和評估深度學習方法。目前有一些研究已經發表,例如使用神經網絡和一個關于強化學習(RL)的綜述。然而,這些論文還沒有討論大規模深度學習模型的個別高級訓練技術和最近發展起來的生成模型的方法。
關鍵詞:卷積神經網絡(CNN);循環神經網絡(RNN);自動編碼器(AE);受限Boltzmann機器(RBM);深度信念網絡(DBN);生成對抗性網絡(GAN);深度強化學習(DRL);遷移學習。
摘要
本文綜述了遷移學習在強化學習問題設置中的應用。RL已經成為序列決策問題的關鍵的解決方案。隨著RL在各個領域的快速發展。包括機器人技術和游戲,遷移學習是通過利用和遷移外部專業知識來促進學習過程來幫助RL的一項重要技術。在這篇綜述中,我們回顧了在RL領域中遷移學習的中心問題,提供了一個最先進技術的系統分類。我們分析他們的目標,方法,應用,以及在RL框架下這些遷移學習技術將是可接近的。本文從RL的角度探討了遷移學習與其他相關話題的關系,并探討了RL遷移學習的潛在挑戰和未來發展方向。
關鍵詞:遷移學習,強化學習,綜述,機器學習
介紹
強化學習(RL)被認為是解決連續決策任務的一種有效方法,在這種方法中,學習主體通過與環境相互作用,通過[1]來提高其性能。源于控制論并在計算機科學領域蓬勃發展的RL已被廣泛應用于學術界和工業界,以解決以前難以解決的任務。此外,隨著深度學習的快速發展,應用深度學習服務于學習任務的集成框架在近年來得到了廣泛的研究和發展。DL和RL的組合結構稱為深度強化學習[2](Deep Reinforcement Learning, DRL)。
DRL在機器人控制[3]、[4]、玩[5]游戲等領域取得了巨大的成功。在醫療保健系統[6]、電網[7]、智能交通系統[8]、[9]等領域也具有廣闊的應用前景。
在這些快速發展的同時,DRL也面臨著挑戰。在許多強化學習應用中,環境模型通常是未知的,只有收集到足夠的交互經驗,agent才能利用其對環境的知識來改進其性能。由于環境反饋的部分可觀察性、稀疏性或延遲性以及高維觀察和/或行動空間等問題,學習主體在沒有利用任何先驗知識的情況下尋找好的策略是非常耗時的。因此,遷移學習作為一種利用外部專業知識來加速學習過程的技術,在強化學習中成為一個重要的課題。
在監督學習(SL)領域[10]中,TL得到了廣泛的研究。與SL場景相比,由于MDP環境中涉及的組件更多,RL中的TL(尤其是DRL中的TL)通常更復雜。MDP的組件(知識來自何處)可能與知識轉移到何處不同。此外,專家知識也可以采取不同的形式,以不同的方式轉移,特別是在深度神經網絡的幫助下。隨著DRL的快速發展,以前總結用于RL的TL方法的努力沒有包括DRL的最新發展。注意到所有這些不同的角度和可能性,我們全面總結了在深度強化學習(TL in DRL)領域遷移學習的最新進展。我們將把它們分成不同的子主題,回顧每個主題的理論和應用,并找出它們之間的聯系。
本綜述的其余部分組織如下:在第2節中,我們介紹了強化學習的背景,關鍵的DRL算法,并帶來了這篇綜述中使用的重要術語。我們還簡要介紹了與TL不同但又緊密相關的相關研究領域(第2.3節)。
在第3節中,我們采用多種視角來評價TL方法,提供了對這些方法進行分類的不同方法(第3.1節),討論了遷移源和目標之間的潛在差異(第3.2節),并總結了評價TL有效性的常用指標(第3.3節)。
第4節詳細說明了DRL領域中最新的TL方法。特別是,所討論的內容主要是按照遷移知識的形式組織的,如成型的獎勵(4.1節)、先前的演示(4.2節)、專家策略(4.3節),或者按照轉移發生的方式組織的,如任務間映射(4.4節)、學習可轉移表示(4.5節和4.6節)等。我們在第5節討論了TL在DRL中的應用,并在第6節提供了一些值得研究的未來展望。
深度學習算法已經在圖像分類方面取得了最先進的性能,甚至被用于安全關鍵應用,如生物識別系統和自動駕駛汽車。最近的研究表明,這些算法甚至可以超越人類的能力,很容易受到對抗性例子的攻擊。在計算機視覺中,與之相對的例子是惡意優化算法為欺騙分類器而產生的含有細微擾動的圖像。為了緩解這些漏洞,文獻中不斷提出了許多對策。然而,設計一種有效的防御機制已被證明是一項困難的任務,因為許多方法已經證明對自適應攻擊者無效。因此,這篇自包含的論文旨在為所有的讀者提供一篇關于圖像分類中對抗性機器學習的最新研究進展的綜述。本文介紹了新的對抗性攻擊和防御的分類方法,并討論了對抗性實例的存在性。此外,與現有的調查相比,它還提供了相關的指導,研究人員在設計和評估防御時應該考慮到這些指導。最后,在文獻綜述的基礎上,對未來的研究方向進行了展望。
隨著web技術的發展,多模態或多視圖數據已經成為大數據的主要流,每個模態/視圖編碼數據對象的單個屬性。不同的模態往往是相輔相成的。這就引起了人們對融合多模態特征空間來綜合表征數據對象的研究。大多數現有的先進技術集中于如何融合來自多模態空間的能量或信息,以提供比單一模態的同行更優越的性能。最近,深度神經網絡展示了一種強大的架構,可以很好地捕捉高維多媒體數據的非線性分布,對多模態數據自然也是如此。大量的實證研究證明了深多模態方法的優勢,從本質上深化了多模態深特征空間的融合。在這篇文章中,我們提供了從淺到深空間的多模態數據分析領域的現有狀態的實質性概述。在整個調查過程中,我們進一步指出,該領域的關鍵要素是多模式空間的協作、對抗性競爭和融合。最后,我們就這一領域未來的一些方向分享我們的觀點。
深度學習在人工智能領域已經取得了非常優秀的成就,在有監督識別任務中,使用深度學習算法訓練海量的帶標簽數據,可以達到前所未有的識別精確度。但是,由于對海量數據的標注工作成本昂貴,對罕見類別獲取海量數據難度較大,所以如何識別在訓練過程中少見或從未見過的未知類仍然是一個嚴峻的問題。針對這個問題,該文回顧近年來的零樣本圖像識別技術研究,從研究背景、模型分析、數據集介紹、實驗分析等方面全面闡釋零樣本圖像識別技術。此外,該文還分析了當前研究存在的技術難題,并針對主流問題提出一些解決方案以及對未來研究的展望,為零樣本學習的初學者或研究者提供一些參考。
題目: The History Began from AlexNet: A Comprehensive Survey on Deep Learning Approaches
簡介:
近年來,深度學習在各個應用領域都取得了巨大的成功。這一新的機器學習領域發展迅速,已經應用到大多數傳統的應用領域,以及一些提供更多機會的新領域。基于不同的學習類別,提出了不同的學習方法,包括監督學習、半監督學習和非監督學習。當與傳統的機器學習方法在圖像理、計算機視覺、語音識別、機器翻譯、藝術、醫學成像、醫療信息處理、機器人控制、生物信息學、自然語言處理(NLP),網絡安全等相比,實驗結果表明了使用深度學習最先進的性能。
本報告從深度神經網絡(DNN)開始,簡要介紹了DL領域的研究進展。調查涵蓋了卷積神經網絡(CNN)、遞歸神經網絡(RNN),包括長短時記憶(LSTM)和門控遞歸單元(GRU)、自動編碼器(AE)、深度信念網絡(DBN)、生成對抗網絡(GAN)和深度強化學習(DRL)。此外,我們還介紹了最新的發展,例如基于這些DL方法的高級DL變體技術。本研究考慮了2012年以后發表的關于深度學習歷史開始的大部分論文。此外,在不同的應用領域中探索和評估過的DL方法也包括在本次調查中。我們還包括最近開發的用于實現和評估深度學習方法的框架、sdk和基準數據集。有一些關于使用神經網絡進行深度學習的調查和關于RL的調查已經發表。然而,這些論文并沒有討論用于訓練大規模深度學習模型的個別先進技術和最近發展起來的生成模型方法。
作者簡介:
Md Zahangir Alom博士是美國俄亥俄州代頓大學的研究工程師。他分別于2008年和2012年獲得了孟加拉國拉杰沙伊大學(University of Rajshahi)和韓國全北國立大學(Chonbuk National University)的計算機工程學士和碩士學位。2018年,他獲得了戴頓大學電子和計算機工程博士學位。他的研究興趣包括機器學習、深度學習、醫學成像和計算病理學。他是IEEE學生會員,國際神經網絡協會(INNS)會員,美國數字病理學協會(DPA)會員。
Tarek M. Taha博士是代頓大學(University of Dayton)電子和計算機工程教授。他的研究興趣是神經形態計算和高性能計算。Tarek M. Taha博士是美國國家科學基金會職業獎的獲得者。