亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

強化學習作為一類重要的人工智能方法, 廣泛應用于解決復雜的控制與決策問題, 其在眾多領域的應用已展示出 巨大潛力. 近年來, 強化學習從單智能體決策逐漸擴展到多智能體協作與博弈, 形成多智能體強化學習這一研究熱點. 多智 能體系統由多個具有自主感知和決策能力的實體組成, 有望解決傳統單智能體方法難以應對的大規模復雜問題. 多智能體 強化學習不僅需要考慮環境的動態性, 還需應對其他智能體策略的不確定性, 這增加了學習和決策的復雜度. 本文梳理多智 能體強化學習在控制與決策領域的研究, 分析其面臨的主要問題與挑戰, 從控制理論與自主決策兩個層次綜述現有的研究 成果與進展, 并針對未來的研究方向進行了展望. 通過本文的分析, 期望為未來多智能體強化學習的研究提供有價值的參考 和啟示. 關鍵詞 強化學習, 多智能體系統, 序列決策, 協同控制, 博弈論

摘要: 多智能體強化學習作為博弈論、控制論和多智能體學習的交叉研究領域, 是多智能體系統研究中的前沿方向, 賦予了智能體在動態多維的復雜環境中通過交互和決策完成多樣化任務的能力. 多智能體強化學習正在向應用對象開放化、應用問題具身化、應用場景復雜化的方向發展, 并逐漸成為解決現實世界中博弈決策問題的最有效工具. 本文對基于多智能體強化學習的博弈進行了系統性綜述. 首先, 介紹了多智能體強化學習的基本理論, 梳理了多智能體強化學習算法與基線測試環境的發展進程. 其次, 針對合作、對抗以及混合三種多智能體強化學習任務, 從提高智能體合作效率、提升智能體對抗能力的維度來介紹多智能體強化學習的最新進展, 并結合實際應用探討了混合博弈的前沿研究方向. 最后, 對多智能體強化學習的應用前景和發展趨勢進行了總結與展望. //www.aas.net.cn/cn/article/doi/10.16383/j.aas.c240478

強化學習 (Reinforcement learning, RL) 通過智能體與環境在線交互來學習最優策略, 近年來已成為解決復雜環 境下感知決策問題的重要手段. 然而, 在線收集數據的方式可能會引發安全、時間或成本等問題, 極大限制了強化學習在實 際中的應用. 與此同時, 原始數據的維度高且結構復雜, 解決復雜高維數據輸入問題也是強化學習面臨的一大挑戰. 幸運的 是, 基于表征學習的離線強化學習能夠僅從歷史經驗數據中學習策略, 而無需與環境產生交互. 它利用表征學習技術將離線 數據集中的特征表示為低維向量, 然后利用這些向量來訓練離線強化學習模型. 這種數據驅動的方式為實現通用人工智能 提供了新契機. 為此, 對近期基于表征學習的離線強化學習方法進行全面綜述. 首先給出離線強化學習的形式化描述, 然后 從方法、基準數據集、離線策略評估與超參數選擇 3 個層面對現有技術進行歸納整理, 進一步介紹離線強化學習在工業、推 薦系統、智能駕駛等領域中的研究動態. 最后, 對全文進行總結, 并探討基于表征學習的離線強化學習未來所面臨的關鍵挑 戰與發展趨勢, 以期為后續的研究提供有益參考.

近年來, 基于環境交互的強化學習方法在機器人相關應用領域取得巨大成功, 為機器人行為控制策略優化提供一個現實可行的解決方案. 但在真實世界中收集交互樣本存在高成本以及低效率等問題, 因此仿真環境被廣 泛應用于機器人強化學習訓練過程中. 通過在虛擬仿真環境中以較低成本獲取大量訓練樣本進行策略訓練, 并將 學習策略遷移至真實環境, 能有效緩解真實機器人訓練中存在的安全性、可靠性以及實時性等問題. 然而, 由于仿真環境與真實環境存在差異, 仿真環境中訓練得到的策略直接遷移到真實機器人往往難以獲得理想的性能表現. 針對這一問題, 虛實遷移強化學習方法被提出用以縮小環境差異, 進而實現有效的策略遷移. 按照遷移強化學習過 程中信息的流動方向和智能化方法作用的不同對象, 提出一個虛實遷移強化學習系統的流程框架, 并基于此框架 將現有相關工作分為 3 大類: 基于真實環境的模型優化方法、基于仿真環境的知識遷移方法、基于虛實環境的策略迭代提升方法, 并對每一分類中的代表技術與關聯工作進行闡述. 最后, 討論虛實遷移強化學習研究領域面臨的 機遇和挑戰. 當前, 強化學習 (reinforcement learning, RL)[1]方法在一系列復雜決策問題上取得了巨大成功, 如棋牌[2?4]和實 時戰略類游戲[5,6]、推薦系統[7?9]、自動駕駛[10,11]等. 在諸如機器人運動控制[12,13]、機器人操控[14?17]、運動導航[18?21] 和機器人足球[22,23]等任務上, 強化學習也取得了令人矚目的進展. 為了得到有效機器人控制策略, 強化學習依賴大 量交互樣本進行訓練, 而在真實環境中獲取樣本具有較高的成本代價與安全風險; 此外, 由于機器人結構復雜且真 實世界動態變化, 在機器人控制中運用強化學習依然面臨有效性、安全性以及實時性等問題. 為減輕真實樣本的 需求, 仿真環境被廣泛用于機器人策略學習當中. 基于仿真的機器人策略學習有如下優點: (1**) 廉價性**: 仿真環境的 物理引擎能夠以比實時更快的速度對真實環境進行計算模擬, 以較低成本生成訓練樣本用于機器人策略學習, 從 而提高機器人策略的訓練效率. (2) 真實性: 仿真環境不但能模擬機器人的完整運動特性, 如關節及關節之間的運 動關聯等, 還能模擬機器人和環境作用之間的物理屬性, 如重力、壓力、摩擦力等, 從而為真實世界建立逼真的物 理模型. (3) 多維性: 在特定的機器人任務中可以利用多個仿真環境對真實世界進行不同粒度建模, 從不同層次反 映真實場景的環境屬性, 提供與真實世界相關的數據與信息以滿足不同的應用需求. (4) 安全性: 在仿真環境中的 試錯行為沒有實際風險, 可以重復不斷地執行現實世界中耗時且危險的任務.

綜上可知, 基于仿真的強化學習在機器人控制中具有一定優勢. 為使機器人成功地完成現實世界中的一系列 操作, 需要將仿真環境中學習的策略遷移至真實世界中. 然而, 由于仿真環境和真實世界之間存在現實差距 (reality gap)[24] , 包括在不同平臺中機器人動力模型的差異以及環境物理屬性的差異 (如動作感知延遲、地面狀況與大氣 狀況等[25?27] ), 即使最高逼真度的仿真環境也難以對真實世界進行完全一致的建模. 因此, 將仿真環境中學到的策 略直接遷移到真實機器人上, 效果通常難以達到預期. 為了彌合仿真環境和現實之間的差異, 基于虛實遷移 (sim-toreal transfer)[24,28?30]的機器人強化學習方法通過解決仿真環境和真實環境之間的差異性問題, 從而實現學習策略的 有效遷移. 近年來, 一系列虛實混合遷移強化學習方法被提出, 包括系統識別[31?33]、域隨機化[34?37]、域自適應[38?40]、 多保真度學習[41?43]等, 廣泛地應用于運動控制、運動操控以及運動導航等機器人任務上, 取得了巨大的成功, 為機 器人行為控制策略優化提供了一個現實可行的解決方案. 已有一些工作對現有的機器人虛實遷移學習方法進行了總結. Zhao 等人[30]對虛實遷移中基本概念與具體技 術進行了簡要的介紹. Dimitropoulos 等人[29]按照是否需要真實數據將現有虛實遷移方法分類為模擬器方法以及 自適應方法, 前者不依賴真實數據, 后者則需要真實數據用于策略遷移. Salvato 等人[24]將虛實遷移方法分為 3 類: 域隨機化、對抗強化學習以及遷移學習方法. Zhu 等人[28]按照不同的應用目標, 將仿生機器人研究中使用的虛實 遷移方法分為 4 類: 基于精準的模擬器、基于運動學和動力學模型、基于分層與分布式控制器、基于演示的方 法. 盡管這些工作對現有的虛實遷移學習研究工作進行了總結, 但缺乏一個通用的框架對現有工作進行全面梳理 和分類. 因此, 本文對當前研究進行全面梳理, 從方法執行過程中信息流動和智能化方法作用對象的角度建立一個 通用的虛實遷移學習框架, 并基于此框架將當前主要的虛實遷移強化學習方法劃分為 3 類: 基于真實環境的模型優化方法、基于仿真環境的知識遷移方法和基于虛實環境的策略迭代提升方法, 并對相關具體理論和應用進行討論. 本文第 2 節介紹強化學習與遷移學習中重要的概念. 第 3 節深入探討為了縮小仿真與現實之間的差異所采取 的不同方法, 并提出一個通用的虛實遷移學習框架, 對遷移步驟中的數據信息流動和智能化方法作用的對象進行 闡述與分析, 并在此基礎上對現有方法進行分類, 分析它們的基本差異與優缺點. 第 4 節對該領域的目前的挑戰進 行分析, 并對于未來研究進行展望. 最后, 第 5 節對本文工作進行總結.

虛實遷移強化學習

虛實遷移[24,30,100]指機器人在仿真環境中進行訓練, 獲得的策略被遷移部署至真實機器人控制系統中, 其中仿 真環境作為源域, 真實環境作為目標域, 機器人的控制策略作為遷移對象, 核心內容是實現環境信息與控制信息在 真實環境與仿真環境之間的遷移. 虛實遷移對遷移效果提出了 4 個重要的目標: 有效性、效率性、安全性、泛化 性. 有效性[101,102]是指在仿真環境中學到的策略能在真實世界中發揮預期作用, 即在仿真環境中獲得高回報的策略 在真實環境中也能獲得較高回報, 針對有效性的研究大多從縮小環境差異角度著手. 效率性[103,104]從采樣的時間與 經濟成本出發, 強調在真實世界中進行盡可能少的探索采樣, 針對效率性的研究關注對真實樣本中環境信息的充 分挖掘與利用. 安全性[105,106]強調現實中的探索與直接的策略部署具有潛在的安全風險及較高的成本代價, 需要指 導真實機器人進行安全的探索與樣本收集. 泛化性[107,108]針對多任務遷移場景, 強調獲得的策略能在盡可能少的微 調下快速適應不同環境的任務. 本文主要關注圍繞虛實遷移的有效性以及效率性開展的相關研究工作, 在此基礎 上對現有方法進行梳理總結. 本文從遷移學習過程中的信息流動和智能化方法作用對象的角度提出了一個通用的虛實遷移強化學習系統 流程框架, 如圖 1 所示. 首先將策略學習與遷移過程分為以下 5 個主要步驟: 基于真實環境的仿真模型優化、仿真 策略優化、基于仿真環境的知識遷移、真實環境探索與評估, 以及基于虛實環境的策略迭代提升.  (1) 基于真實環境的仿真模型優化: 通過修正或調整仿真模型來縮小仿真環境與真實環境的差異. (2) 仿真環境策略優化: 通過仿真環境的交互樣本對策略進行學習訓練. (3) 基于仿真環境的知識遷移: 將仿真環境中獲取的學習知識向真實環境遷移.(4) 真實環境探索與評估: 對真實環境進行充分探索以及部署策略性能評估. (5) 基于虛實環境的策略迭代提升

:上述 4 個步驟的循環迭代實現策略的不斷提升. 真實環境信息包含了真實任務場景中的動力學模型以及獎勵模型, 前者受復雜的環境參數, 如溫度、濕度、 摩擦力系數等影響, 后者則由最終的任務目標及獎勵結構決定. 復雜的真實環境難以被精準且完整地表征, 但蘊含 于樣本數據、評估指標以及人類對任務的先驗認知中的真實環境信息能夠被有效利用, 這些信息蘊藏于人類在建 立仿真環境時所用的物理方程、環境參數的估計以及對參數范圍的約束中. 基于真實環境的仿真模型優化通過真 實世界的樣本數據修正或調整仿真環境, 其本質是將仿真模型中的先驗但不精確信息與真實樣本中的真實但局部 信息相融合以還原真實環境. 在仿真環境策略優化中, 機器人與仿真環境進行高效交互生成大量廉價樣本并利用 當前已有的深度強化學習算法如 DDPG[49]、PPO[50]等實現策略優化, 在此過程中融合真實環境信息后的仿真環境 信息被轉化成仿真控制策略中的控制信息. 在基于仿真環境的知識遷移中, 仿真環境中優化得到的策略控制信息 通過分解、組合或者直接遷移等手段從仿真策略中被提煉并遷移到真實策略. 最后, 遷移得到的真實策略又用于 真實環境探索與評估, 通過樣本采集以及策略評估從真實環境中提取局部信息, 通過真實策略的控制信息引導機器人探索真實環境的未知部分以建立更加精準的環境模型. 虛實遷移中的仿真環境策略優化、真實環境探索與評估是傳統強化學習領域中獨立的研究方向. 現有的虛實 遷移強化學習方法通常針對基于真實環境的仿真模型優化、基于仿真環境的知識遷移以及基于虛實環境的策略 迭代提升這 3 個部分開展, 所以本文著重從上述 3 個角度出發對虛實遷移方法及代表工作進行分類與總結, 并闡 述每類方法內在動機與關聯.****

本文總結了有關于機器人虛實遷移學習的主要工作, 從遷移學習過程中數據信息流動和智能化方法作用對象 的角度提出一個虛實遷移的流程框架, 并在此基礎上提出了當前虛實遷移學習技術的 3 個主要方向: 基于真實環 境的仿真模型優化、基于仿真環境的知識遷移、基于虛實環境的策略迭代提升. 接著, 對每個方向中的主要方法 以及相關工作進行闡述, 并對比了一些代表性工作的實驗內容. 最后, 介紹虛實遷移學習領域未來面臨的挑戰, 給 出了相應的解決思路與發展方向. 值得說明的是, 除了機器人領域, 虛實遷移強化學習相關思想與技術也可廣泛應 用于其他領域, 以避免高風險的真實環境交互并提高訓練效率. 如在金融交易中, 虛實遷移強化學習可應用于虛擬 金融市場環境中的交易策略開發和優化, 以提高交易策略的性能和魯棒性, 并將其應用于實際市場中進行交易. 另 外, 在醫療決策場景中, 虛實遷移強化學習可用于在虛擬環境中訓練智能代理來模擬醫療治療決策, 并將其遷移到 實際臨床實踐中, 以提高醫療決策的準確性和效果. 我們希望通過對當前相關工作的分類與總結, 為相關研究人員 提供一種新的視角解讀虛實遷移強化學習領域的研究現狀與方向.

摘要: 強化學習(Reinforcement learning, RL)在圍棋、視頻游戲、導航、推薦系統等領域均取得了巨大成功. 然而, 許多強化學習算法仍然無法直接移植到真實物理環境中. 這是因為在模擬場景下智能體能以不斷試錯的方式與環境進行交互, 從而學習最優策略. 但考慮到安全因素, 很多現實世界的應用則要求限制智能體的隨機探索行為. 因此, 安全問題成為強化學習從模擬到現實的一個重要挑戰. 近年來, 許多研究致力于開發安全強化學習(Safe reinforcement learning, SRL)算法, 在確保系統性能的同時滿足安全約束. 本文對現有的安全強化學習算法進行全面綜述, 將其歸為三類: 修改學習過程、修改學習目標、離線強化學習, 并介紹了5大基準測試平臺: Safety Gym、safe-control-gym、SafeRL-Kit、D4RL、NeoRL. 最后總結了安全強化學習在自動駕駛、機器人控制、工業過程控制、電力系統優化和醫療健康領域中的應用, 并給出結論與展望.

作為一種重要的機器學習方法, 強化學習 (Reinforcement learning, RL) 采用了人類和動物學習中 “試錯法” 與 “獎懲回報” 的行為心理學機制, 強調智能體在與環境的交互中學習, 利用評價性的反饋信號實現決策的優化[1]. 早期的強化學習主要依賴于人工提取特征, 難以處理復雜高維狀態和動作空間下的問題. 近年來, 隨著計算機硬件設備性能的提升和神經網絡學習算法的發展, 深度學習由于其強大的表征能力和泛化性能受到了眾多研究人員的關注[2-3]. 于是, 將深度學習與強化學習相結合就成為了解決復雜環境下感知決策問題的一個可行方案. 2016年, Google公司的研究團隊DeepMind創新性地將具有感知能力的深度學習與具有決策能力的強化學習相結合, 開發的人工智能機器人AlphaGo成功擊敗了世界圍棋冠軍李世石[4], 一舉掀起了深度強化學習的研究熱潮. 目前, 深度強化學習在視頻游戲[5]、自動駕駛[6]、機器人控制[7]、電力系統優化[8]、醫療健康[9]等領域均得到了廣泛的應用.

近年來, 學術界與工業界開始逐步注重深度強化學習如何從理論研究邁向實際應用. 然而, 要實現這一階段性的跨越還有很多工作需要完成, 其中尤為重要的一項任務就是保證決策的安全性. 安全對于許多應用至關重要, 一旦學習策略失敗則可能會引發巨大災難. 例如, 在醫療健康領域, 微創手術機器人輔助醫生完成關于大腦或心臟等關鍵器官手術時, 必須做到精準無誤, 一旦偏離原計劃位置, 則將對病人造成致命危害. 再如, 自動駕駛領域, 如果智能駕駛車輛無法規避危險路障信息, 嚴重的話將造成車毀人亡. 因此, 不僅要關注期望回報最大化, 同時也應注重學習的安全性.

García和Fernández[10]于2015年給出了安全強化學習 (Safe reinforcement learning, SRL) 的定義: 考慮安全或風險等概念的強化學習. 具體而言, 所謂安全強化學習是指在學習或部署過程中, 在保證合理性能的同時滿足一定安全約束的最大化長期回報的強化學習過程. 自2015年起, 基于此研究, 學者們提出了大量安全強化學習算法. 為此, 本文對近年來的安全強化學習進行全面綜述, 圍繞智能體的安全性問題, 從修改學習過程、修改學習目標以及離線強化學習三方面進行總結, 并給出了用于安全強化學習的5大基準測試平臺: Safety Gym、safe-control-gym、SafeRL-Kit、D4RL、NeoRL, 以及安全強化學習在自動駕駛、機器人控制、工業過程控制、電力系統優化以及醫療健康領域的應用. 安全強化學習中所涉及的方法、基準測試平臺以及應用領域之間的關系如圖1所示.

強化學習 (reinforcement learning, RL) 技術經歷了數十年的發展, 已經被成功地應用于連續決 策的環境中. 如今強化學習技術受到越來越多的關注, 甚至被冠以最接近通用人工智能的方法之一. 但 是, 客觀環境中往往不僅包含一個決策智能體. 因此, 我們更傾向于以多智能體強化學習 (multi-agent reinforcement learning, MARL) 為技術手段, 應對現實的復雜系統.** 近十年來, 多智能體系統 (multiagent system, MAS) 和強化學習的結合日漸緊密, 逐漸形成并豐富了多智能體強化學習這個研究方向. 回顧 MARL 的相關工作, 我們發現研究者們大致從學習框架的討論、聯合動作學習, 以及基于通信的 MARL 這 3 個角度解決 MARL 的問題**. 而本文重點調研基于通信的 MARL 的工作. 首先介紹選取基 于通信的 MARL 進行討論的原因, 然后列舉出不同性質的多智能體系統下的代表性工作. 希望本文能 夠為 MARL 的研究者提供參考, 進而提出能夠解決實際問題的 MAS 方法.

1 引言

如今, 強化學習 (reinforcement learning, RL) 作為人工智能領域中的熱門話題之一, 吸引了很多不 同專業領域學者的關注. 強化學習的本質 [1] 是讓智能體在與環境的不斷交互中, 通過嘗試和犯錯, 學 習如何在特定的時間段中作出合適的序列性決策以解決社會和工程中遇到的問題. 強化學習的發展過程有著鮮明的特征. 在 20 世紀 50 ～ 60 年代以前, 關于 RL 的探索都局限于 反復的試錯. 而后, 貝爾曼提出貝爾曼方程 (Bellman equation) 以及離散的動態系統中的最優控制理 論并且將其建模為馬爾可夫決策過程 (Markov decision process, MDP). 然而最優控制的潛在前提是我 們知道系統相關的所有特性, 實際上這個前提往往是無法滿足的. 這一點恰恰是強化學習的獨特研究 背景之一. 在 20 世紀 60 年代, “Reinforcement Learning” 第一次出現在了工程領域的試錯方法總結 中. 其中影響最深遠的就是 Minsky 的工作 [2], 其中提到了試錯和信任分配 (credit assignment) 的問題, 這些都是強化學習的起源. 此后研究者們從未知環境中試錯的出發點提出了基于時序差分的方法 (temporal differences, TD) [3]、Q- 學習 [4] 和 SARSA [5] . 當時的 RL 技術還處于比較樸素的階段, 主要針對的是規模較小的離散狀態離散動作的場景. 當 狀態或者動作空間連續時, 便無法得到準確的值函數. 這時就需要對值函數進行近似, 從而產生了基 于值函數 (value based) 的強化學習方法. 此外, 如果直接對策略進行近似, 學習的目標就可以直接定 義為最優策略搜索 (policy search) 的性能. 如果在策略近似的同時還引入了值函數的近似, 并且策略 是基于值函數的評價而更新的, 這類方法屬于策略近似的一種特殊形式, 稱為 Actor-Critic 方法, 其中 的 Actor 指的是策略, Critic 指的是值函數. 自從 2015 年, Mnih 等 [6] 在 Atari 環境中利用深度 Q- 學習取得了突破性進展之后, 深度強化學 習 (deep reinforcement learning, DRL) 便開始在機器學習、人工智能領域掀起了一陣熱潮. 研究者們 不斷發現 DRL 的巨大潛力, 不論是機器人控制 [7]、優化與調度 [8] , 或者是游戲和博弈 [6, 9] 等方面都 能夠借助于 DRL 來解決. 而當 DRL 在解決現實問題的時候, 研究者們往往高估了它的能力, 低估了 實現它的難度 [10] . 事實上, 現實世界中的問題是十分復雜的. 本文總結, 現實世界的復雜性很大程度上體現在: 多 數任務所涉及的系統規模較為龐大, 并且根據一些規則或者常識可以分解為多個完成不同子任務的個 體. 為了完成某個任務, 系統需要多個智能體同時參與, 它們會在各自所處的子空間分散執行任務, 但 從任務層面來看, 這些智能體需要互相配合并且子決策的結果會互相影響. 這樣的系統可以被稱為多 智能體系統 (multi-agent system, MAS). 在多智能體系統中, 各個智能體需要在環境不完全可知的情 況下互相關聯進而完成任務. 簡而言之, 它們可以互相協同, 或者互相競爭, 也可以有競爭有合作. 如 果將強化學習技術用于上述場景中, 相異于傳統強化學習場景的是, 在這種系統中, (1) 至少有兩個智 能體; (2) 智能體之間存在著一定的關系, 如合作關系、競爭關系, 或者同時存在競爭與合作的關系; (3) 每個智能體最終所獲得的獎賞會受到其余智能體的影響. 通常, 我們將這種場景下的強化學習技術稱 為多智能體強化學習 (multi-agent RL, MARL). MARL 場景中的環境是復雜的、動態的. 這些特性給 學習過程帶來很大的困難, 例如, 隨著智能體數量的增長, 聯合狀態及動作空間的規模會呈現出指數擴 大, 帶來較大的計算開銷; 多個智能體是同時學習的, 當某個智能體的策略改變時, 其余智能體的最優 策略也可能會變化, 這將對算法的收斂性和穩定性帶來不利的影響。

針對上述 MARL 的困難, 研究者們提出智能體可以在動態的環境中借助于一些輔助信息彌補其 不可見的信息, 從而高效學得各自的策略. 為了達到這個目的, 研究者們提出了一些方法, 可以大致被 分為以下幾類: (1) 學習框架的討論, 這類工作意在探索一種可行的學習框架, 因此這類工作更多地 偏向于將已有的機器學習 (machine learning, ML) 研究背景或者 RL 技術向 MAS 的場景中作融合; (2) 聯合動作學習, 這類方法基于單智能體的視角, 即將多個智能體合并為一個整體, 而原本各個智能 體的動作則被視為系統 “子部件” 的動作, 但是這類方法在狀態動作空間維數較高時會面臨學習效率 不高的問題; (3) 智能體之間的通信, 即智能體通過發送和接收抽象的通信信息來分析環境中其他智能 體的情況從而協調各自的策略. 學習框架和聯合的多動作學習算法主要依賴于集中式的訓練學習或者 直接共享某些局部信息等條件. 不難發現, 更容易適應于現實系統的是基于通信的這類方法: 集中各 個智能體, 并使各個智能體分享的局部信息的訓練模式在實際應用中很難滿足. 因此, 我們希望智能 體之間可以不依賴于集中式的訓練學習方式, 依舊能夠在不完全可知的環境中分析感知其他智能體的 信息, 從而完成任務. 所以, 通過通信信息來補充環境的缺失信息的這種思路更容易被泛化. 近期, 更 為迫切的實際需求是參與任務的多個智能體不愿意進行諸如策略參數等信息的共享. 這就是聯邦學習 (federated learning, FL) 的要求. 在這種情況下, 算法更需要保證智能體之間只有有限的抽象信息用來傳輸, 從而滿足各個智能體對于隱私的需求。

在多智能體系統中, 如果對智能體的保護程度較高, 即智能體不會直接分享重要的內部信息, 智能 體則需要一些輔助的信息來補充這一部分缺失的不可觀測狀態. 最直觀的做法就是互相傳遞有意義的 通信信息, 這種信息可以在一定程度上幫助智能體對環境進行理解. 但是, 在滿足嚴格的互相不可見, 且有限信息共享的要求的前提下, 智能體之間要做到完全的獨立學習與通信是十分困難的事情. 即便 是在基于通信的 MARL 的工作中, 也有很大一部分工作依賴于集中式的訓練學習或者依賴于智能體 之間重要信息的共享 (例如智能體的動作). 而這樣的學習方式有悖于實際的需求. 因此, 智能體需要 能夠自主地在更新策略的同時自行調整通信信息, 從而做到完全的不依賴于集中式的或基于局部信息 共享的學習. 本文重點回顧基于通信的 MARL 的工作. 我們總結了基于通信的 MARL 的發展歷程, 以及不同 性質的多智能體系統場景下的代表性工作, 進一步給出不同工作的分析以及適用條件. 最后, 我們總結 并展望未來可能進行的探索方向. 我們由衷希望本文能夠為對研究 MARL 的讀者提供幫助.

2 單智能體強化學習

本節主要介紹單智能體 DRL 的基礎知識. 首先, 回顧傳統的強化學習, 即單智能體 (single-agent RL, SARL) 的相關概念, 然后, 介紹深度強化學習的興起、前沿的算法和現存的問題以及挑戰. 方便后 續章節為大家引入多智能體 RL 的問題設定、前沿研究的大致分類和框架.

3 多智能體強化學習

MARL DRL 面對的問題的復雜性很大程度上體現在: 多數任務所涉及的系統結構較為繁雜, 往往根據一 些規則或者常識可以分解為多個完成不同子任務的個體. 也就是說, 為了完成某個任務, 系統需要多個 智能體同時參與, 它們會在各自所處的子空間分散執行任務, 但從任務層面來看, 它們需要互相配合并 且這些智能體各自的子決策結果會互相影響. 在這樣的多智能體系統中, 各個智能體需要在環境不完全可知的情況下互相關聯, 進而完成任務. 它們需要互相配合. “配合” 沒有限定一定要合作, 可以互相競爭也可以有競爭有合作, 依據任務本身 來定. 對于 MAS 的場景, 同樣需要對這類問題進行建模然后探索解決問題的方法.

4 基于通信的多智能體強化學習

在實際系統中, 參與任務的各個智能體往往會考慮安全或者隱私, 不希望過多地依賴于直接共享 各自領域的局部信息來完成任務. 這些關鍵的局部信息可能包括: 各個智能體的動作, 或者直接共享 同樣的策略網絡結構, 甚至是集中起來共享經驗池以更新各個智能體的策略, 也就是中心化的學習 (centralized learning) 的概念. 下面我們簡要地將現有的基于通信的 MARL 或者 MADRL 算法歸類, 然后列舉現在每一類的研究進展. 依據算法利用的 DRL 技術, 現有的基于通信的多智能體深度強化 學習算法 (communication-based multi-agent deep reinforcement learning, CB-MADRL) 大致可以分為 以下幾類: (1) 基于值函數的 CB-MADRL. 這種方法依靠對值函數 (以 Q- 值函數為主) 進行重構使之適用 于 MA 系統, 這部分工作在表 1 中總結. (2) 包含直接策略搜索的 CB-MADRL. 由于表現不夠穩定, 單純使用直接策略搜索作 MAS 決策 的工作十分少見. 現在大多學者都傾向于選擇基于 Actor-Critic 框架作 CB-MADRL 的研究, Actor 是 各個智能體的局部子策略, 通信的過程和效果主要依靠 Critic 來判定, 這部分算法在表 2 中總結. (3) 提升通信效率的突破. 我們發現在以上兩類方法逐漸發展的過程中, 學者們對這些算法也嘗 試了改進, 意在提升通信的效率進而提升算法的學習性能, 相關工作總結于表 3. (4) 關于應急通信的研究. 如今研究領域間的交叉已經極為常見, 很多語言研究領域的研究者們開 始嘗試從通信語言如何產生, 以及通信信息的質量度量等方向進行研究, 從而豐富了多智能體通信的 研究方向, 相關工作總結于表 4. 如果要求智能體通過通信的方式彼此協同完成一項任務, 智能體就需要通過將自己的信息, 例如 狀態和動作等, 編碼成一條有限長的信息, 傳遞給其余智能體, 同時也接受來自其余智能體的信息. 其 目的就是希望智能體能夠將收到的信息作為觀測的補充, 盡可能地還原不可見狀態的信息, 進而得到 近似全局狀態下的最優動作. 上述過程中, 通信的問題主要集中在如何傳遞高質量的通信信息, 具體來 說主要考慮: 通信信息需要包含哪些內容, 以及如何及時地更新通信信息. 在接下來的幾個小節中, 我們將主要從以上兩點為大家介紹并分析現有算法的特性.

5 歸納與展望

通過前面的回顧不難發現, 隨著 DRL 技術的發展, MAS 場景的問題越來越多地可以利用 DRL技術的遷移得到解決. 并且在各種 MAS 環境中都得到了測試, 甚至在星際這樣的游戲上也取得了勝 利. MADRL 的技術和突破是值得肯定的, 并且 MADRL 大背景下的現有工作已經有學者進行了總 結[62] . 我們更加希望各個智能體通過互相必要的溝通, 就能在不完全可知的環境中分析感知環境中其 他智能體的信息, 從而完成既定的任務. 本節主要對現存的 CB-MADRL 算法進行歸納, 然后進一步探 討未來可能需要解決的問題和工作方向.

6 結束語

多智能體強化學習的發展離不開深度強化學習的突破性進展. 而從多智能體強化學習這個層面來 說, 在看到已有的成績的同時, 提高學習效率、提高魯棒性和泛化性的困難依舊存在. 這種困難是多智 能體系統本身固有的性質, 例如環境的非穩定性、獎賞的延遲性和稀疏性、獎賞分配的困難性等. 盡 管這些困難依舊是牽制這個領域發展的因素, 但多智能體強化學習服務于現實系統解決現實問題是學 界的目標. 選擇基于通信的多智能體強化學習算法進行介紹的主要原因是通信本身更迎合實際的應用場景 的需求. 通信信息能夠很自然地使得智能體擺脫中心化的學習的框架. 智能體之間的有效的信息傳遞 不是簡單的私密的信息共享, 而是智能體在不斷地跟環境交互中所給出的有意義的反饋. 這種反饋通 常是抽象的, 是需要協同的智能體互相理解的. 通過對現有的基于通信的多智能體深度強化學習算法的分析, 不難發現能用于現實多智能體系統 中的基于通信的多智能體強化學習算法需要盡可能擺脫其對信息共享的依賴, 也就是盡可能保證較少 的信息共享, 做到完全基于通信. 完全基于通信的隱含意義是智能體在互相不可知的情況下僅僅依靠 通信信息實現缺失信息的補充, 進而擺脫過多的內部信息交流以及中心化學習的需求. 從而有如下的 結果.

? 智能體的隱私需求得到保障: 智能體可以根據自身狀態及接收的信息自行調整傳送信息. ? 算法的泛化性得到提升: 如果智能體可以僅通過通信信息互相理解進而協同完成任務, 在面對不 同任務時智能體可以根據不同的任務需求, 自適應地調整通信信息. 最后, 希望通過我們的介紹能夠對多智能體強化學習, 特別是基于通信手段的多智能體強化學習 方向有所關注的學者們提供一些幫助; 希望通過廣大學者們的努力使得多智能體強化學習技術更快更好地服務于現實世界中的系統.

摘要: 強化學習作為一種用于解決無模型序列決策問題的方法已經有數十年的歷史, 但強化學習方法在處理高維變量問題時常常會面臨巨大挑戰. 近年來, 深度學習迅猛發展, 使得強化學習方法為復雜高維的多智能體系統提供優化的決策策略、在充滿挑戰的環境中高效執行目標任務成為可能. 本文綜述了強化學習和深度強化學習方法的原理, 提出學習系統的閉環控制框架, 分析了多智能體深度強化學習中存在的若干重要問題和解決方法, 包括多智能體強化學習的算法結構、環境非靜態和部分可觀性等問題, 對所調查方法的優缺點和相關應用進行分析和討論. 最后提供多智能體深度強化學習未來的研究方向, 為開發更強大、更易應用的多智能體強化學習控制系統提供一些思路.