題目: A Survey on Edge Intelligence
簡介:
邊緣智能是指一組連接的系統和設備,用于在靠近基于人工智能捕獲數據的位置進行數據收集,緩存,處理和分析。邊緣智能的目的是提高數據處理的質量和速度,并保護數據的隱私和安全性。盡管最近出現,從2011年到現在,這個研究領域在過去五年中顯示出爆炸性增長。在本文中,我們對有關邊緣智能的文獻進行了全面的調查。我們首先根據與擬議和部署的系統有關的理論和實踐結果,確定邊緣智能的四個基本組成部分,即邊緣緩存,邊緣訓練,邊緣推理和邊緣卸載。然后,我們通過檢查四個組成部分每個的研究結果和觀察結果,來對解決方案的狀態進行系統的分類,并提出一種分類法,其中包括實際問題,采用的技術和應用目標。對于每個類別,我們從采用的技術,目標,性能,優點和缺點等方面詳細闡述,比較和分析文獻。本調查文章全面介紹了邊緣智能及其應用領域。此外,我們總結了新興研究領域的發展和當前的最新技術,并討論了重要的開放性問題以及可能的理論和技術解決方案。
題目: AutoML: A Survey of the State-of-the-Art
摘要:
深度學習(DL)技術已滲透到我們生活的方方面面,并為我們帶來了極大的便利。但是,針對特定任務構建高質量的DL系統高度依賴于人類的專業知識,這阻礙了DL在更多領域的應用。自動機器學習(AutoML)成為在無需人工協助的情況下構建DL系統的有前途的解決方案,并且越來越多的研究人員專注于AutoML。在本文中,對AutoML中的最新技術(SOTA)進行了全面而最新的回顧。首先,根據管道介紹AutoML方法,涵蓋數據準備,特征工程,超參數優化和神經體系結構搜索(NAS)。我們更加關注NAS,因為它是AutoML的非常熱門的子主題。然后總結了具有代表性的NAS算法在CIFAR-10和ImageNet數據集上的性能,并進一步討論了NAS方法的一些值得研究的方向:一階段/兩階段NAS,單次NAS以及聯合超參數和體系結構優化。最后,討論了現有AutoML方法的一些未解決的問題,以供將來研究。
題目: A Survey on Dynamic Network Embedding
簡介:
現實世界的網絡由各種相互作用和不斷發展的實體組成,而大多數現有研究只是將它們描述為特定的靜態網絡,而沒有考慮動態網絡的發展趨勢。近來,在跟蹤動態網絡特性方面取得了重大進展,它利用網絡中實體和鏈接的變化來設計網絡嵌入技術。與靜態網絡嵌入方法相比,動態網絡嵌入致力于將節點編碼為低維密集表示形式,從而有效地保留了網絡結構和時間動態特性,這對眾多下游機器學習任務是有益的。在本文中,我們對動態網絡嵌入進行了系統的調查。特別是,描述了動態網絡嵌入的基本概念,特別是,我們首次提出了一種基于現有動態網絡嵌入技術的新分類法,包括基于矩陣分解的方法,基于Skip-Gram的方法,基于自動編碼器,基于神經網絡和其他嵌入方法。此外,我們仔細總結了常用的數據集以及動態網絡嵌入可以帶來的各種后續任務。之后,我們提出了現有算法面臨的幾個挑戰,并概述了促進未來研究的可能方向,例如動態嵌入模型,大規模動態網絡,異構動態網絡,動態屬性網絡,面向任務的動態網絡嵌入和更多的嵌入空間。
最新的技術進步提高了交通運輸的質量。新的數據驅動方法為所有基于控制的系統(如交通、機器人、物聯網和電力系統)帶來了新的研究方向。將數據驅動的應用與運輸系統相結合在最近的運輸應用程序中起著關鍵的作用。本文綜述了基于深度強化學習(RL)的交通控制的最新應用。其中,詳細討論了基于深度RL的交通信號控制(TSC)的應用,這在文獻中已經得到了廣泛的研究。綜合討論了TSC的不同問題求解方法、RL參數和仿真環境。在文獻中,也有一些基于深度RL模型的自主駕駛應用研究。我們的調查廣泛地總結了這一領域的現有工作,并根據應用程序類型、控制模型和研究的算法對它們進行了分類。最后,我們討論了基于深度可編程邏輯語言的交通應用所面臨的挑戰和有待解決的問題。
題目: Meta-Learning in Neural Networks: A Survey
簡介: 近年來,元學習領域的興趣急劇上升。與使用固定學習算法從頭解決給定任務的傳統AI方法相反,元學習旨在根據多次學習事件的經驗來改善學習算法本身。這種范例為解決深度學習的許多傳統挑戰提供了機會,包括數據和計算瓶頸以及泛化的基本問題。在本次調查中,我們描述了當代的元學習環境。我們首先討論元學習的定義,并將其相對于相關領域(例如轉移學習,多任務學習和超參數優化)進行定位。然后,我們提出了一種新的分類法,該分類法為當今的元學習方法提供了更為全面的細分。我們調查了元學習的有希望的應用程序和成功案例,包括,強化學習和架構搜索。最后,我們討論了未來研究的突出挑戰和有希望的領域。
主題: Deep Learning on Knowledge Graph for Recommender System: A Survey
摘要: 最近的研究表明,知識圖譜(KG)在提供有價值的外部知識以改進推薦系統(RS)方面是有效的。知識圖譜能夠編碼連接兩個對象和一個或多個相關屬性的高階關系。借助于新興的GNN,可以從KG中提取對象特征和關系,這是成功推薦的一個重要因素。本文對基于GNN的知識感知深度推薦系統進行了綜述。具體來說,我們討論了最新的框架,重點是它們的核心組件,即圖嵌入模塊,以及它們如何解決實際的推薦問題,如可伸縮性、冷啟動等。我們進一步總結了常用的基準數據集、評估指標以及開源代碼。最后,我們對調查結果進行了總結,并提出了這一快速發展領域的潛在研究方向。
Edge intelligence refers to a set of connected systems and devices for data collection, caching, processing, and analysis in locations close to where data is captured based on artificial intelligence. The aim of edge intelligence is to enhance the quality and speed of data processing and protect the privacy and security of the data. Although recently emerged, spanning the period from 2011 to now, this field of research has shown explosive growth over the past five years. In this paper, we present a thorough and comprehensive survey on the literature surrounding edge intelligence. We first identify four fundamental components of edge intelligence, namely edge caching, edge training, edge inference, and edge offloading, based on theoretical and practical results pertaining to proposed and deployed systems. We then aim for a systematic classification of the state of the solutions by examining research results and observations for each of the four components and present a taxonomy that includes practical problems, adopted techniques, and application goals. For each category, we elaborate, compare and analyse the literature from the perspectives of adopted techniques, objectives, performance, advantages and drawbacks, etc. This survey article provides a comprehensive introduction to edge intelligence and its application areas. In addition, we summarise the development of the emerging research field and the current state-of-the-art and discuss the important open issues and possible theoretical and technical solutions.
題目: Convergence of Edge Computing and Deep Learning: A Comprehensive Survey
簡介: 來自工廠和社區的傳感器和智能設備正在生成大量數據,而不斷增長的計算能力正在將計算和服務的核心從云端驅動到網絡邊緣。作為廣泛改變人們生活的重要推動力,從人臉識別到智能工廠和城市,基于人工智能(尤其是深度學習,DL)的應用程序和服務的發展正在蓬勃發展。但是,由于效率和延遲問題,當前的云計算服務體系結構阻礙了“為每個地方的每個人和每個組織提供人工智能”的愿景。因此,使用在數據源附近的網絡邊緣的資源來釋放DL服務已經成為一種理想的解決方案。因此,旨在通過邊緣計算促進DL服務部署的邊緣智能已引起了廣泛關注。此外,作為人工智能的代表技術的DL可以集成到邊緣計算框架中,以構建用于動態,自適應邊緣維護和管理的智能邊緣。關于互惠互利的邊緣智能和智能邊緣,本文介紹和討論:1)兩者的應用場景; 2)實際的實現方法和使能技術,即定制邊緣計算框架中的DL訓練; 3)現有挑戰以及更普遍,更精細的智能化趨勢。通過整合散布在通信,網絡和DL領域的信息,可以幫助讀者理解支持技術之間的聯系,同時促進對邊緣智能與智能邊緣融合的進一步討論。
題目: A Survey on Distributed Machine Learning
簡介: 在過去十年中,對人工智能的需求已顯著增長,并且這種增長得益于機器學習技術的進步以及利用硬件加速的能力,但是,為了提高預測質量并在復雜的應用程序中提供可行的機器學習解決方案,需要大量的訓練數據。盡管小型機器學習模型可以使用一定數量的數據進行訓練,但用于訓練較大模型(例如神經網絡)的輸入與參數數量成指數增長。由于處理訓練數據的需求已經超過了計算機器的計算能力的增長,因此急需在多個機器之間分配機器學習工作量,并將集中式的精力分配到分配的系統上。這些分布式系統提出了新的挑戰,最重要的是訓練過程的科學并行化和相關模型的創建。本文通過概述傳統的(集中的)機器學習方法,探討了分布式機器學習的挑戰和機遇,從而對當前的最新技術進行了廣泛的概述,并對現有的技術進行研究。
論文題目: A Survey on Edge Computing Systems and Tools
論文摘要: 在物聯網和5G通信的愿景驅動下,邊緣計算系統在網絡邊緣集成了計算,存儲和網絡資源,以提供計算基礎架構,從而使開發人員能夠快速開發和部署邊緣應用程序。 如今,邊緣計算系統已在業界和學術界引起了廣泛關注。 為了探索新的研究機會并幫助用戶選擇適合特定應用的邊緣計算系統,本調查報告對現有邊緣計算系統進行了全面概述,并介紹了代表性的項目。 根據開放源代碼工具的適用性進行了比較。 最后,我們重點介紹了邊緣計算系統的能源效率和深度學習優化。 本次調查還研究了用于分析和設計邊緣計算系統的未解決問題。
論文題目: Blockchain for Future Smart Grid: A Comprehensive Survey
論文摘要: 智能電網的概念已被引入,作為常規電網的新視野,以尋求一種整合綠色和可再生能源技術的有效方法。通過這種方式,連接互聯網的智能電網(也稱為能源互聯網)也正在作為一種創新的方法出現,以確保隨時隨地的能源供應。這些發展的最終目標是建立一個可持續發展的社會。但是,對于傳統的集中式網格系統而言,集成和協調大量不斷增長的連接可能是一個具有挑戰性的問題。因此,智能電網正在從其集中形式轉變為分散式拓撲。另一方面,區塊鏈具有一些出色的功能,使其成為智能電網范例的有前途的應用程序。本文旨在對區塊鏈在智能電網中的應用進行全面的調查。因此,我們確定了可以通過區塊鏈解決的智能電網場景的重大安全挑戰。然后,我們提出了許多基于區塊鏈的最新研究成果,這些研究成果發表在不同的文獻中,涉及智能電網領域的安全問題。我們還總結了最近出現的幾個相關的實用項目,試驗和產品。最后,我們討論了將區塊鏈應用于智能電網安全問題的基本研究挑戰和未來方向。