生物有機體在其一生中通過與環境的相互作用來學習。為了使人工系統能夠成功地在現實世界中行動和適應,它也同樣能夠在持續的基礎上學習。這一挑戰被稱為終身學習,在很大程度上仍未解決。在這篇文章中,我們確定了人工系統實現終身學習所需要的一組關鍵能力。我們描述了一些生物機制,包括神經元和非神經元,這有助于解釋生物體如何解決這些挑戰,并介紹了生物啟發模型和生物似是而非的機制的例子,它們已應用于人工系統,以尋求終身學習機器的發展。我們討論了進一步了解和推進終身學習技術的機會,旨在彌合自然智能和人工智能之間的差距。
機器學習技術為提取信息和數據之間的潛在關系以及通過處理現有信息來訓練模型來預測未來事件提供了具有成本效益的替代方法。《高效學習機器》探討了機器學習的主要主題,包括知識發現、分類、遺傳算法、神經網絡、核心方法和生物啟發技術。
Mariette Awad和Rahul Khanna的綜合方法將理論闡述、設計原則和高效機器學習的實際應用結合在一起。他們的經驗重點,表達在他們的樣本算法的密切分析貫穿全書,旨在裝備工程師,工程學生和系統設計師設計和創建新的和更有效的機器學習系統。高效學習機器的讀者將學習如何識別和分析機器學習技術可以為他們解決的問題,如何實現和部署樣本問題的標準解決方案,以及如何設計新的系統和解決方案。
計算性能、存儲、記憶、非結構化信息檢索和云計算方面的進步,與新一代機器學習范式和大數據分析共同發展,作者在其傳統前身的概念背景下提出了這些概念。Awad和Khanna探索了深度神經網絡、分層時間記憶和皮質算法的深度學習技術的當前發展。
《自然》建議使用復雜的學習技術,使用簡單的規則來產生具有適應性、進化和分布式特性的高度智能和有組織的行為。作者研究了最流行的生物啟發算法,以及一個分布式數據中心管理的示例應用程序。他們還討論了用于解決多目標優化問題的機器學習技術,在這個問題中,現實世界系統中的解決方案是受約束的,并根據它們對多個目標的總體表現進行評估。關于支持向量機及其擴展的兩章重點介紹了機器學習核心的分類和回歸技術的最新改進。
//link.springer.com/book/10.1007/978-1-4302-5990-9#toc
構建能夠有效解決各種問題的通用RL算法需要將正確的結構和表示編碼到我們的模型中。我們泛化能力的一個關鍵組成部分是我們開發世界內部模型的能力,該模型可以用于穩健的預測和有效的規劃。在本論文中,我們討論了如何利用表示學習來學習更好的物理場景預測模型,并使agent能夠在基于模型的RL框架下通過規劃學習到的模型來推廣到新的任務。我們將介紹兩種能夠實現良好泛化的抽象:對象級表示形式的狀態抽象和分層RL的技能表示形式的時間抽象。通過將這些抽象概念整合到我們的模型中,我們可以在長期、多階段的問題上實現高效的學習和組合推廣。我們還討論了元學習在自動學習一般RL算法的正確結構中的作用。利用大規模的基于進化的計算,我們可以學習通用的RL算法,這些算法在各種任務中具有更好的樣本效率和最終性能。最后,我們將介紹如何使用這些內部模型來計算RL目標本身,并在不設計獎勵函數的情況下訓練具有復雜行為的一般RL代理。
Recent years have witnessed significant advances in technologies and services in modern network applications, including smart grid management, wireless communication, cybersecurity as well as multi-agent autonomous systems. Considering the heterogeneous nature of networked entities, emerging network applications call for game-theoretic models and learning-based approaches in order to create distributed network intelligence that responds to uncertainties and disruptions in a dynamic or an adversarial environment. This paper articulates the confluence of networks, games and learning, which establishes a theoretical underpinning for understanding multi-agent decision-making over networks. We provide an selective overview of game-theoretic learning algorithms within the framework of stochastic approximation theory, and associated applications in some representative contexts of modern network systems, such as the next generation wireless communication networks, the smart grid and distributed machine learning. In addition to existing research works on game-theoretic learning over networks, we highlight several new angles and research endeavors on learning in games that are related to recent developments in artificial intelligence. Some of the new angles extrapolate from our own research interests. The overall objective of the paper is to provide the reader a clear picture of the strengths and challenges of adopting game-theoretic learning methods within the context of network systems, and further to identify fruitful future research directions on both theoretical and applied studies.
Meta-learning, or learning to learn, has gained renewed interest in recent years within the artificial intelligence community. However, meta-learning is incredibly prevalent within nature, has deep roots in cognitive science and psychology, and is currently studied in various forms within neuroscience. The aim of this review is to recast previous lines of research in the study of biological intelligence within the lens of meta-learning, placing these works into a common framework. More recent points of interaction between AI and neuroscience will be discussed, as well as interesting new directions that arise under this perspective.
作為人工智能的一個領域,機器推理(MR)主要使用符號手段來形式化和模擬抽象推理。早期MR的研究已經開始對可解釋的人工智能(XAI)進行調查,這可以說是當今人工智能界最關心的問題之一。從那時起,關于可解釋的MR以及人工智能其他領域可解釋的MR方法的工作一直在繼續。它在現代的MR branch中尤其有效,比如論證,約束和邏輯編程,規劃。在此,我們旨在對MR可解釋性技術和研究進行有選擇性的概述,希望從這一長期研究中獲得的見解能夠很好地補充目前的XAI景觀。這份文件報告了我們在MR解釋能力方面的工作進展。
題目
【綜述:心理學、神經科學和機器學習中的注意力】《Attention in Psychology, Neuroscience, and Machine Learning | Frontiers in Computational Neuroscience》
關鍵詞
注意力機制,機器學習,心理學,神經學,多學科交叉,人工智能
簡介
注意力是靈活控制有限的計算資源的重要能力。 它已與神經科學和心理學中的許多其他主題一起研究,包括意識,警惕,顯著性,執行控制和學習。 最近,它還被應用于機器學習的多個領域。 生物學注意力研究及其作為增強人工神經網絡工具的用途之間的關系并不總是很清楚。 這篇綜述首先概述了神經科學和心理學文獻中如何將注意力概念化。 然后,它涵蓋了機器學習中注意的幾個用例,指出了它們在生物學上的對應之處。 最后,探索了可以通過生物學進一步激發人工注意力以生產復雜和整合系統的方式。
作者
Gatsby Computational Neuroscience Unit, Sainsbury Wellcome Centre, University College London, London, United Kingdom。
題目: Machine learning and the physical sciences
摘要:
機器學習(ML)包含廣泛的算法和建模工具,用于大量的數據處理任務,這些任務近年來已經進入大多數科學學科。本文有選擇地回顧了機器學習與物理科學接口的最新研究進展。這包括由物理洞察力驅動的ML的概念發展,機器學習技術在物理中的幾個領域的應用以及這兩個領域之間的交叉。在介紹了機器學習方法和原理的基本概念之后,舉例說明了如何用統計物理來理解ML中的方法,然后介紹了ML方法在粒子物理和宇宙學、量子多體物理、量子計算、化學和材料物理中的應用。此外,還強調了針對加速ML的新型計算體系結構的研究和開發。每個部分都描述了最近的成功以及特定領域的方法和挑戰。
作者簡介:
Giuseppe Carleo于2018年加入了位于美國計算量子物理中心的Flatiron研究所。2007年,他在羅馬大學獲得物理學學士學位;2011年,他在意大利國際高等研究學院獲得凝聚態理論博士學位。他在法國光學研究所和瑞士蘇黎世聯邦理工學院獲得博士后。他也是蘇黎世聯邦理工學院計算量子物理學的講師。Carleo的主要研究方向是發展先進的數值算法來研究強相互作用量子系統的挑戰性問題。他的研究應用范圍包括凝聚態物質、超冷原子和量子計算。他對量子蒙特卡羅方法的發展做出了貢獻,包括平衡和動態特性,包括時變蒙特卡羅和神經網絡量子態。在CCQ,他正在開發和推廣基于人工智能的新技術來解決量子問題。他是開源項目NetKet的創始人和開發負責人。
Graphical causal inference as pioneered by Judea Pearl arose from research on artificial intelligence (AI), and for a long time had little connection to the field of machine learning. This article discusses where links have been and should be established, introducing key concepts along the way. It argues that the hard open problems of machine learning and AI are intrinsically related to causality, and explains how the field is beginning to understand them.
這本書為讀者提供關于了解人工智能的基本概念,以及人工智能和機器人可以成功地納入制造業,交通,教育和醫學的方法。總共415頁,是了解最新人工智能方面的資料。
人工智能和機器人技術的研究提供了巨大的潛力,可以繼續就人類和機器如何在現在和未來共同生活展開廣泛的辯論。數百年來,機器能夠對環境做出反應、做出決策并學習的概念一直是科幻小說的主題。這項工作研究了工程和技術進步背后的關鍵原則和概念,這些技術和進步使得IBM的深藍能夠與專業棋手和游戲節目參賽者競爭,以及一種可以自己打掃房間的設備。人工智能(AI)推斷,機器可以評估周圍環境,并朝著目標采取步驟。自動駕駛汽車不僅依靠人工智能來繪制路線和遵守既定的交通規則,而且還能對周圍車輛的行為做出反應。機器人依靠計算機、感官反饋系統和信息處理來代替人類。
This tutorial is based on the lecture notes for the courses "Machine Learning: Basic Principles" and "Artificial Intelligence", which I have (co-)taught since 2015 at Aalto University. The aim is to provide an accessible introduction to some of the main concepts and methods within machine learning. Many of the current systems which are considered as (artificially) intelligent are based on combinations of few basic machine learning methods. After formalizing the main building blocks of a machine learning problem, some popular algorithmic design patterns formachine learning methods are discussed in some detail.