亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

由于與陸地有關的敵對活動將繼續下去，無論是作為全球競爭還是地方沖突的一部分，而且在世界許多地區的對峙火力中單方的優勢已經被否定，那么陸軍在國家安全中的作用是什么--其目前的形式和未來？

首先，正如歷史一次又一次揭示的那樣，我們設想未來沖突以及武器和能力將在其中發揮何種作用的能力相當令人失望。最近的例子是以色列在第二次黎巴嫩戰爭前錯誤地認為反恐是戰爭的主要特征，以及西方在烏克蘭戰爭前對俄羅斯在大多數領域使用武力的錯誤看法。在網絡戰爭和對峙戰爭之后，動用陸軍可能是軍事對抗的最后一步（軍事歷史再次告訴我們，"以炸制勝 "在面對堅定的對手時從未奏效）。然而，當它到來時，陸戰應該是決定性的和結論性的。因此，在一個平均每五十年發生一次大地震，但在過去六十年沒有發生過大地震的地區，建立陸軍部隊就像一份龐大的地震保險。當陸軍可以改變游戲規則時，你最好準備好它們。對政治領導人來說，把錢投資在延遲滿足的能力上并不容易，然而，否則，有一天，歷史會對他們無視公認的知識和經驗的行為進行審判。

第二，陸軍應該被建設成能夠快速機動、摧毀敵軍和征服地面的部隊。然而，這需要許多調整，最關鍵的是關于發現敵人的能力，這已經適應了空中優勢；以及在擁有先進情報資產和火力能力的敵人構成的威脅中生存的能力，而沒有戰前有效對峙打擊的優勢。為了獲得對陸軍設計和使用的政治支持，這兩種能力是必不可少的。否則，各國將不得不對國家安全利益做出嚴重的妥協。

陸軍不僅必須更好地整合（與其他部門、領域以及自身內部），提高致命性、生存能力和后勤效率；他們還必須以比以前更快的速度吸收人工智能和網絡等領域的新興可用資產。這不僅需要大量的資源投資，還需要一種開放的思想和探索性的方法，這與軍事組織作為保守實體的常見但有時被過度夸大的看法不同。

本卷對陸軍的現狀和未來提供了一個全新的觀點。首先，它介紹了陸戰的各個方面，包括指揮、作戰后勤和互操作性。這些方面主要是通過現有的挑戰和克服這些挑戰的方法來探討的。第二部分介紹了案例研究，闡明了不同國家的陸軍--每個國家都有其獨特的文化、組織和在國家安全機構中的作用--是如何努力應對不斷變化的地緣政治威脅、對手的戰術、技術潛力以及內部社會和資源限制。總的來說，從這個關于當前安全事務中最具挑戰性、辯論性和根本性問題之一的多層面和豐富的概述中可以學到和吸收很多東西。

目錄

• 1.走近21世紀的陸地戰爭

• 一、陸地戰爭

  • 2.機動戰的未來
  • 3.指揮當代和未來的陸地作戰：任務指揮的作用是什么？
  • 4.21世紀的戰斗后勤：使北約部隊在未來的重大沖突中具有機動性、持久性和可持續性
  • 5.陸地部隊的指揮
  • 6.戰術原則：檢查表或工具箱
  • 7.城市戰爭：明日戰場上的軍事行動的挑戰
  • 8.新興技術：從概念到能力
  • 9.系統性競爭時代的互操作性挑戰
  • 10.戰斗的道德因素：讓社會回歸
  • 11.支持21世紀陸軍組成部分的軍事衛生服務

• 二、案例研究

  • 12.美國地面部隊的作戰文化
  • 13.中國在陸地領域的作戰和戰術：信息化戰爭到智能化戰爭
  • 14.有限行動的戰略：俄羅斯在敘利亞的地基部隊
  • 15.以色列的地面部隊在以色列戰爭中的作用
  • 16.戰術與權衡：英國陸軍演習的演變
  • 17.夾在石頭和硬地方之間 法國軍隊、遠征戰和戰略競爭的回歸
  • 18.1991-2021年波蘭和維謝格拉德國家的陸戰能力趨勢

• 三、結論

  • 19.邁向多面手：為未來沖突發展陸軍

走近21世紀的陸地戰爭

1.1 走進陸戰

在過去的十年中，國際政治變得更加動蕩，增加了大規模軍事暴力的風險。然而，未來戰爭的確切特征將取決于一系列與對手、盟友、技術、地理范圍和多個作戰領域有關的因素。很少有人會質疑，在可預見的未來，陸軍也會很重要。最近在烏克蘭、敘利亞、馬里、也門和納戈爾諾-卡拉巴赫的戰爭表明，陸地部隊仍然是戰爭的一個重要特征。然而，隨著戰場的轉變，陸軍的任務、目的和使用也在發生變化。事實上，面對巨大而復雜的挑戰和安全威脅，未來的陸戰行為受到了嚴重而重要的質疑。

事實上，在過去的20年里，陸軍的使用發生了深遠的變化。特別是，在伊拉克和阿富汗的反叛亂任務，與冷戰時期預期的大規模陸戰類型相比，在對手、裝備可用性和戰術方面，對軍隊意味著完全不同的作戰現實。在2014年克里米亞被吞并后的歐洲，軍隊已經開始適應抵御同級對手的任務，這種變化無疑具有深遠的影響，不僅對所需的陸軍規模，而且對作戰計劃方法也有影響。盡管重塑冷戰時期的戰術概念似乎是顯而易見的，但這些概念必須適應當前和未來的現實，例如，技術的復雜性、分散的和潛在的地理分散的戰場，以及越來越致命的、精確的和遠程的武器系統。

本卷以陸軍不斷發展的作用為目標，特別關注在指揮和執行戰斗的藝術方面所發生的變化，以及快速技術創新和信息傳播在塑造戰爭方面的作用。在展望未來的同時，本卷也認為應該用當代陸戰的經驗教訓來重新審視既定的軍事理論和思維（其中一些在近幾年被忽視了）。

在分析該領域的現狀和當前陸戰的趨勢時，出現了一些核心主題，這些主題無疑將在未來幾年的陸戰思維、概念和實踐中起到關鍵作用。機動戰將保持其作為陸戰最高方法的地位，還是會因為其他新興的部隊使用方法而逐漸淡出人們的視野？經典和當代軍事理論在多大程度上與解釋和描述當前和預期的未來戰斗的現實有關？什么樣的指揮方法最適合于未來的西方戰術和行動？特別是，作為機動戰的一個關鍵組成部分，任務指揮在未來可能會如何發展？二十一世紀的戰斗后勤應該是什么樣子的？

新興技術正在改變著戰爭。預計將在未來戰場上發揮越來越重要作用的技術創新包括人工智能、傳感器、無人駕駛航空和地面系統以及網絡能力。這些技術目前正在快速發展，將需要與不斷發展的陸軍戰術實踐相結合，同時它們也可能促使同行對手開發出反措施。此外，軍隊作戰的環境在未來可能會有很大的變化。特別是，城市環境被預測將在未來的戰爭中發揮更大的作用，特別是由于目標定位和遠程火力能力的進步，這可能會減少陸地部隊在開闊地的生存機會。盡管如此，軍隊將需要為一系列不同的作戰環境做好準備。如果軍隊，尤其是歐洲軍隊，在幾十年來主要解決海外遠征任務之后，目前正在經歷決定性的重新轉型，成為領土防御部隊，那么部署在遠征行動中仍將是一種明顯的可能性。此外，還有必要擴大多領域能力和互操作性。

對未來戰爭的討論往往集中在技術發展上。然而，我們不應忽視這樣一個事實，即戰爭從根本上說是一種人類的努力，其特征將由戰斗中的人們的行動所決定。心理、文化和社會問題需要在任何關于陸戰的討論中保持核心地位。除其他事項外，軍事單位的凝聚力是單位在極端的戰斗壓力下發揮作用的能力的關鍵因素，同樣需要一個高效的醫療支持系統。

本卷從專題和經驗的角度探討了上述問題。它提供了關于當代陸戰的關鍵發展的各種觀點，同時也介紹了不同國家背景下的陸戰戰術和行動的案例研究。在后一種情況下，對可預見的未來具有重要軍事意義的幾個行為體--美國、英國、法國、以色列、中國和俄羅斯--都是重點。因此，對他們各自的陸上戰術的考慮將是有啟發性的。本卷還包括一章，涵蓋了自冷戰結束以來波蘭和維謝格拉德集團的陸戰能力趨勢。但首先，讓我們簡要地考慮一下陸戰的演變。

本章的結構如下。首先，在研究作戰環境中當前和未來的關鍵挑戰之前，簡要概述了陸戰的發展。在接下來的章節中，將討論戰爭的未來特征和戰場的轉變。此后，概述了本卷的結構和各章的內容。

1.2 陸戰的發展

一些作者將戰爭的演變描述為分五個步驟的世代發展。這些世代的飛躍始于第一代大規模陸地編隊之間的古代戰爭。第二代戰爭表示現代戰術的出現，這是由于早期火器的發展和后來的間接射擊。第三代戰爭是由于技術革新促進了速度和機動性，允許利用間接的方法和戰術，旨在突襲、沖擊和崩潰--而不是消滅--對方的部隊。第四代戰爭是指冷戰時期超級大國競爭結束后戰爭性質的變化，包括國家控制的軍事力量的非壟斷化和戰斗人員與平民之間界限的模糊化。最后，第五代戰爭將重點從動能力量轉移到信息環境，在那里，敘事和觀念成為中心，由人工智能、自動化和機器人等新興技術促成。

二十世紀見證了戰爭的快速演變，兩次世界大戰期間、之間和之后發展的戰術和概念推動了戰爭的發展。第一次世界大戰誘發了現代戰術的發展，包括縱深防御和滲透技術，這是避免工業時代火炮的巨大破壞力、直接戰術進入堅固的戰壕線的停滯以及破壞性的消耗戰所必需的。這些新的條件尋求攻防戰的靈活性，而分散性和機動性將限制對敵人間接火力的暴露。在現代戰爭中，對攻防戰的重視是基于掩護、分散、小單位獨立機動、火力壓制，以及通過聯合武器整合給對手帶來無法解決的困境。

雖然這些創新帶來了戰術上的成功，但事實證明，很少有可能將這些進步轉化為戰略上的勝利。因此，在戰時，特別是在蘇聯，作戰藝術的發展和戰爭的作戰水平形成了一種大規模協調戰術以追求戰略目標的手段。在第二次世界大戰期間，德國利用機動裝甲部隊的潛力，提出了作戰級機動戰和縱深作戰防御的概念。

這些概念在冷戰期間進一步發展，因為敵對的超級大國準備在歐洲大陸上進行大規模戰爭。特別是蘇聯在陸軍方面的數量優勢，隨著時間的推移不斷擴大，促使美國陸軍在1982年提出了空地戰的理論。該理論后來發展為機動戰的概念，構成了對對手--蘇聯在戰區的巨大數量優勢所帶來的戰略問題的行動解決方案。機動戰的目的是通過在作戰區域的縱深地帶作戰來抵消這一劣勢，依靠速度、移動和聯合武器，通過在對手的整個編隊中作戰和對薄弱點的攻擊，給對手造成意想不到的危險困境。因此，這一概念獎勵的是戰術能力和速度，而不是物質資源、質量和對損耗的容忍度。

軍事革命（RMA）的概念起源于蘇聯軍事理論家尼古拉-奧加爾科夫在20世紀70年代和80年代關于軍事技術革命的工作，并首先通過網絡評估辦公室主任安德魯-馬歇爾的工作進入西方軍事思想。然而，在1991年海灣戰爭中美國取得壓倒性勝利后，這一概念在西方軍事強國中產生了很大影響。盡管技術創新一直是國防規劃中的一個重要方面，但海灣戰爭開創了一種認識，即技術使一種全新的戰爭類型成為可能。這一想法在美國和其他西方軍事強國中于20世紀90年代取得了重大突破。RMA的主要論點聲稱，進步，尤其是計算機技術和傳感器系統的進步，使軍事打擊的協調達到了前所未有的程度，例如，通過網絡中心戰、目標識別和精確轟炸。軍事力量的不同部分可以通過 "系統的系統 "進行整合，數字化的指揮系統，加上最高的偵察和態勢感知以及遠距離精確打擊能力，可以通過對關鍵漏洞的攻擊和對攻擊方的最小損失來實現戰爭目標。在20世紀90年代，一些思想家認為這些發展將消除克勞塞維茨的 "戰爭迷霧"、戰斗的不可預測性和抵消有效計劃和指揮的摩擦，導致RMA的倡導者質疑許多 "永恒的真理"，這些真理自第二次世界大戰以來一直構成作戰思想的基礎。

在20世紀90年代的沖突之后，RMA的概念在很大程度上被否定了。前南斯拉夫和后蘇聯國家以及撒哈拉以南非洲地區的繼承戰爭表明，冷戰后世界秩序中的戰爭已恢復到前現代的部落爭奪領土和資源的特點，暴力的目標往往是平民而不是敵方戰斗人員。此外，在世紀之交，美國和北約在科索沃、阿富汗和伊拉克的主要交戰，生動地表明了技術優勢和外科手術式的精確打擊作為取得決定性勝利的手段的局限性。

這些發展強調了陸地行動在整個沖突中的持久意義。與此同時，陸地行動的開展也變得越來越復雜。北約盟國陸地作戰聯合理論強調了陸地部隊在作戰之外的多種功能；他們在平民和基礎設施中行動，在日益緊張和媒體化的信息環境中行動，并且往往是在綜合方法的框架內促成其他機構活動的關鍵。除了作戰之外，他們還有很強的象征意義，因為部署意味著長期的政治-戰略承諾。此外，對跨作戰領域的整合和協同作用的日益強調已經獲得了新的雄心壯志，特別是美國陸軍的多領域作戰概念，該概念設想了協調效果的能力，超越了陸空海聯合行動，也包括作為作戰領域的太空和網絡空間，并強調電磁頻譜和信息環境是現代戰爭的關鍵層面。

綜上所述，設想的未來戰場是這樣的：陸軍同時要保持執行各種任務的能力，從和平時期的活動到高強度的戰爭，重視機動作戰的熟練程度和任務指揮的行使。他們必須同時在復雜的沖突環境中積極處理與平民的關系，采用和利用高科技系統進行通信、偵察和動能效應，保留在需要時不使用這些系統的能力，并為與其他部門、機構、盟友和合作伙伴的廣泛聯合行動作出貢獻。毫不夸張地說，隨著我們接近21世紀中期，未來的陸戰以及對陸軍的要求將變得更加艱巨。那么，在當前和未來的作戰環境中，有哪些關鍵的挑戰？

1.3 目前和未來的挑戰

一個新的作戰環境正在發展，對未來的戰爭和作戰提出了新的挑戰。戰爭特征的變化，時間的壓縮（"距離的死亡"）和信息領域作為重心的變化，已經被廣泛認可。網絡和空間已經成為自己的領域，而人工智能（AI）、機器學習（ML）和其他類型的技術已經成為軍事討論和思考的前沿。

同樣明顯的是，未來的戰斗將在城市地形中進行，包括在特大城市，給陸軍帶來了新的挑戰。此外，新的作戰環境帶來了跨領域和跨沖突范圍作戰的挑戰，因為和平與戰爭之間的灰色地帶已經擴大。前者要求多領域作戰，需要有互操作性，同時又要處理往往位于和平與戰爭之間灰色地帶的作戰環境中的戰爭。

盡管在評估未來的作戰環境和戰場時，技術上的突破處于中心位置，但同樣重要的是要認識到，我們生活在一個世界秩序顫抖的時代。經濟、政治和軍事力量正在從西方轉向東方，從美國和日本轉向中國，從北方轉向南方，這改變了全球的力量平衡，從長遠來看，有可能破壞現有的世界秩序。對于這場權力斗爭的最終結果，人們可能會有不同的看法，但世界將發生變化是一個事實。由此產生的新現實，無論人們喜歡與否，都將是明天戰爭和戰斗發生的地方。

軍隊在這里將不得不應對來自尋求新角色的無數行為者的新要求和挑戰。這不僅適用于像伊朗、朝鮮和白俄羅斯這樣的小國，以及包括俄羅斯和中國在內的大國，還適用于像印度、土耳其、巴西、印度尼西亞、卡塔爾和迪拜等國家。此外，現有的和新出現的聯盟和結盟模式意味著當地的發展可以很容易地達到全球效果。

監測和制定應對非國家行為者增長的戰略也是非常重要的。這些行為體如何發展，以及他們的所作所為，對作戰環境和戰場的發展有著非常大的直接和間接影響。這當然涉及到需要應對ISIL/ISIS和基地組織等直接敵對行為體以及各種形式的代理情報、犯罪、破壞、顛覆和恐怖主義。這里還應該提到私營軍事公司的激增和私營行為體對戰爭和沖突的參與，因為它們的作用和這一部門的規模已經擴大，而且沒有跡象表明正在發生變化。私人行為者已經成為國家軍事行動和戰爭的一個組成部分。同時，他們有可能改變軍事行動和戰爭的方式，并且從長遠來看，挑戰國家的壟斷和作用，因為他們越來越多地使公司、個人和其他擁有貨幣資產的非國家行為者獲得自己的軍事能力。

新興和破壞性的技術突破已經并將繼續改變作戰環境。這些突破，特別是關于傳感器技術、人工智能和機器學習的突破，對陸上行動和陸戰有直接影響。已經很清楚的是，未來的行動將更加數字化和互聯化，其中網絡和空間領域具有最重要的戰略意義。同時，在與戰爭有關的技術發展方面存在一個固有的問題；區分革命性的技術和一天的奇跡。在未來不確定的情況下，廣闊的視野是必要的。陸軍需要有足夠的注意力和適應力，既要利用技術的優勢，又要了解如何防御對手的技術，更重要的是要識別哪些技術是重要的，甚至是革命性的，哪些是不相關的。

同樣明顯的是，信息環境將是未來作戰環境中的一個重要重心。人們常說，未來的戰爭將在信息環境中決定，未來戰爭的80%-90%將是關于戰略溝通的，而對敘事的爭奪是核心和持續的。不用爭論這些細枝末節，很明顯，信息環境對陸軍的理解和管理是很重要的。

要了解未來陸上行動的挑戰，還必須考慮快速城市化的直接影響，以及向城市，尤其是特大城市遷移的全球趨勢，以及由此帶來的機遇和挑戰。這一事實，加上其他全球大趨勢，如氣候變化和有限的自然資源，以及隨后的人口和社會變化，將改變誰在戰斗，如何戰斗，為什么戰斗，以及基本的戰斗條件。這些都是重塑我們世界的全球大趨勢，是對包括陸軍在內的所有行為者具有重大影響的發展進程。這些大趨勢，加上技術突破和持續的權力轉移，將創造出未來陸上行動的行為者必須適應、回應和促進塑造的環境。

1.4 戰爭的特征和戰場的轉型

戰場上最重要的革命之一是高質量傳感器的擴散，結合戰場的數字化以及人工智能和ML的發展，增加了戰場的透明度，因為兩者都可以并將幫助管理信息流，以建立可行的指揮和控制系統。傳感器涵蓋了廣泛的技術和設備，包括雷達、聲學、熱學、光學、地震、磁學、主動傳感器、智能傳感器、納米傳感器和可穿戴傳感器，可能會驅散 "戰爭迷霧"，使指揮官（有時甚至是單個士兵）能夠獲得有關敵人和自己部隊的實時信息。

無人值守的地面傳感器的使用使高科技部隊，如美國和北約，能夠在一定程度上提高情報、監視和偵察能力，使對手的掩護和隱蔽充其量也是有限的。這也是為什么現在大量的研發投資被用于開發新形式的隱蔽物。廉價和可操縱的微型和納米無人機也正在被開發出來用于偵察和監視，就像可穿戴傳感器技術一樣，以提供位置和導航數據，以及在GPS信號微弱或沒有的地區，部隊和無人機之間不間斷的通信。不應低估不間斷通信的可能性，因為沒有通信，來自傳感器的信息將不存在或實際用途有限。

明天的戰爭往往是零散的，分散的，發生在跨越邊界的多領土戰場上，而且往往是遠距離的。戰場和其他地方之間也沒有明確的區別。在地理方面是如此，因為戰場很少有明確的邊界，在戰斗發生的領域方面也是如此。這不僅涉及到傳統的空中、海上和陸地領域，而且還涉及到網絡領域和可能的空間領域。除了領域，信息維度也很關鍵，因為戰爭、作戰、戰斗和勝利的敘事性戰斗在這里上演。戰場往往還包括許多類型的戰斗人員，從武裝團體到正規部隊，以及各種各樣的盟友、支持者、友軍、非支持者、中立者、不活躍的敵方和未知者，除了明確的敵人之外，還使未來的行動更加復雜。

在新的戰場上還存在著行為者的異質性，不僅包括正規軍和非正規軍，還包括一系列主子不明的私人和混合行為者，以及許多可能是、也可能不是朋友或敵人的平民，或者他們的忠誠度隨著時間的推移而改變。

明天的戰場也將是復雜的，因為人們必須準備與高技術和低技術的對手作戰，不僅要準備迎接非同行的對手，而且要準備迎接同行或近似同行的對手。同樣，如前所述，人們還必須為跨領域的混合做準備，即在所有五個領域以及信息環境中同時發生戰斗，這不是因為人們希望，而是因為人們必須。

與混合威脅和混合戰爭有關的挑戰也必須加以管理。已經很清楚，未來的戰場存在于戰爭與和平之間的灰色地帶。在這個灰色地帶，非動能效應被發現取代，或與動能效應相結合。存在著軍事和非軍事活動的協同組合，從不同形式的戰略溝通，到入侵、特別行動、制裁和顛覆等措施，再到使用蒙面士兵，如克里米亞的所謂綠人、網絡攻擊、破壞，以及恐怖或代理戰爭，然后才進入戰爭的門檻。

同樣明顯的是，未來的戰斗將發生在密集的城市地區，包括在大城市。在幾個相互支持的趨勢推動下，為城市戰爭做準備已成為公認的必要條件。城市化和技術是驅動力，前者使城市成為明顯的重心，后者造成了叛亂的不規則轉向和城市化，因為城市地區創造了非正規部隊生存所需的防御優勢。除此之外，還可以加上上文概述的戰爭性質的變化。簡而言之，不對稱戰爭，即弱者在城市地區尋求防御優勢，將成為一種必要，特別是在全球南方，因為特大城市和野蠻城市都在擴大，有時甚至有跨境的大區域，這就造成了進一步的復雜性。城市行動還需要應對來自跨領域和跨沖突范圍的戰斗的挑戰，因為和平與戰爭之間的灰色地帶已經擴大。城市作為人口和權力的相互聯系的樞紐，是這個灰色地帶的中心點。這包括處理低于戰爭門檻的威脅和攻擊。

在今天的戰場上越來越明顯的另一個參數是信息流的指數級增長。因此，對潛在的重要信息的獲取急劇增加，而對幾乎無限量的信息進行優先處理和分析則變得越來越需要資源。作戰評估需要一些工具來管理信息流、持續評估、信息傳播以及在一個基本上信息無限的環境中的前瞻性作戰建議之間的動態關系。在這里，必須對來自一系列信息源的信息流進行管理。

1.5 本書結構

本卷旨在綜合理論、實踐和專業經驗的精華。為此，每一章都將由一位國際領先的學者或實踐者撰寫。在與現代戰場的現實情況相關的方面，本卷將解決有關陸軍戰術和作戰的幾個關鍵問題，將概念基礎與戰術思想和實踐的經驗性例子相結合。它強調了了解各國軍隊觀點的重要性

通過借鑒領先的戰爭學者（其中許多人有軍事經驗）的知識和見解，該卷旨在提供對陸戰核心問題的當前理解。該項目將由瑞典國防大學的陸戰研究小組（LWRG）成員領導，并匯集了歐洲、美國和其他地區的杰出學者和從業人員的貢獻。

該卷包括19個章節，分為兩部分。在這篇導言之后，第一部分包括導言和十個概念性的章節，接著是第二部分，包括七個基于國家的案例研究和一個追蹤模式、實踐和未來影響的結論章節。

前兩章的概念性章節分別討論了機動戰的未來和新興作戰環境下的任務指揮。第四章和第五章重點討論了21世紀的作戰后勤以及當代軍隊的指揮現狀和挑戰。第六章探討了幾個戰術信條和軍事理論的效用。此后的三章探討了可能成為未來戰場中心的幾個方面：城市戰、新興技術和互操作性。第十一章從超越部隊凝聚力問題的角度探討了陸戰的道德因素，探討了士兵的戰斗動機與他們所處的社會之間的聯系。最后，重點轉向軍事衛生服務在二十一世紀的作用

本卷的第二部分由八個基于國家的陸地戰術和行動的案例研究組成。它們涉及美國陸軍的不同文化；中國的體制和戰術；俄羅斯從敘利亞的陸軍行動中吸取的教訓；以色列國防軍的成功、失敗和適應能力；以及英國在發展英國陸軍時在戰略雄心和財政及物質限制之間的平衡行為。倒數第二章集中討論了法國軍隊、遠征戰爭和戰略競爭的回歸，而最后一章則探討了冷戰后波蘭和維西格拉德國家的陸戰能力趨勢。

最后得出結論，概述了綜合通用性模型，作為一種捕捉需求的方式，以確保為未來戰場準備的陸戰能力的通用性優勢。

這本書探討了人工智能(AI)如何改變賽博空間的國際沖突。

過去30年，賽博空間發展成為國際沖突的重要前沿和熱點。然而，關于人工智能與賽博空間沖突之間關系的學術研究是沿著某種嚴格的學科界限和更嚴格的社會技術鴻溝產生的，其中技術和社會學術很少被帶入對話。這是通過全面和跨學科的方法來解決這些主題的第一卷。目的是探討“通過人工智能在賽博空間的國際沖突中使用自動化會帶來什么風險?”，本卷的章節側重于三個廣泛的主題，即(1)技術和操作，(2)戰略和地緣政治，(3)規范和法律。這些也構成了本卷的章節組織的三個部分。

這本書適用于對賽博沖突、人工智能、安全研究和國際關系的讀者。

提綱

• 1 人工智能與賽博空間的國際沖突
• 第一部分 技術和操作挑戰
  • 2 不可知的沖突：追蹤AI、識別和(人類)循環的死亡
  • 3 混合戰和信息戰中的人工智能：一把雙刃劍
• 第二部分 戰略和地緣政治挑戰
  • 4 算法的力量?人工智能在歐洲戰略自主中的作用
  • 5 中等強國的中間力量困境：在巴西、印度和新加坡，支持人工智能的服務是賽博沖突的場所
  • 6 人工智能與軍事優勢：“賽博-人工智能攻防軍備競賽”如何影響美國對完全一體化戰場的愿景
• 第三部分 規范和法律挑戰
  • 7 國防領域人工智能的倫理原則
  • 8 震網是下一個天網嗎?作為致命自主武器系統的自主賽博能力
  • 9 選舉干預背景下的先進人工智能技術和不干涉原則：對強制“苛求”要素的挑戰?

人工智能與賽博空間的國際沖突

1.1 引言

在過去三十年中，賽博空間發展成為國際沖突的重要前沿和熱點。與最初對在賽博空間內或通過賽博空間爆發全面戰爭的恐懼預期相反，這場沖突越來越“遠離”傳統的戰爭與和平的范疇和門檻。正如盧卡斯·凱洛(Lucas Kello)所說，賽博空間既不是真正處于戰爭狀態，也不是真正處于和平狀態，而是一直處于“不和平”狀態。賽博空間的國際沖突主要發生在所謂的灰色地帶，通常涉及信息、數據及其操縱領域，最終以間諜、破壞和顛覆行為告終。經驗證據壓倒性地表明，賽博空間的對抗主要由低影響的黑客攻擊、間諜活動、虛假信息和監視組成。鑒于此，最近的學術工作質疑我們是否應該將賽博空間中的沖突視為“情報競爭”，而不是通過傳統戰爭的鏡頭。與此同時，這并不意味著我們應該將賽博空間視為互聯網早期賽博自由主義者所設想的和平、但不受管制和無法治理的綠洲——恰恰相反。各國傳統上將賽博空間視為國家安全問題，越來越多地通過賽博空間的防御戰略和進攻行動來維護和促進國家利益。

在數據和信息變得越來越重要的背景下，人工智能(AI)的發展和應用在有關賽博空間國際沖突的各種話語中獲得了動力，這并不奇怪。人工智能技術——如機器學習、自然語言處理、量子計算、神經網絡和深度學習——為軍事和情報機構提供了新的作戰解決方案，用于預測和應對威脅，以及在賽博空間開展進攻性行動。除了自動化生產有關賽博威脅的知識外，人工智能還可以自動化決策，這可能會“稀釋”(人類)政治機構作為賽博空間國際沖突因素的作用。關于致命自主武器系統(LAWS)的國際辯論的核心問題也將進入關于賽博沖突的辯論。此外，人工智能技術在賽博空間的作戰糾纏進一步模糊了已經存在爭議的賽博空間防御與進攻之間的界限，同時也挑戰了網絡沖突與信息作戰之間的界限。除了開辟新的作戰環境外，采用人工智能增強的網絡能力也代表了各國的一項重要戰略資產，因為正在進行的采用這些技術的全球競賽完全嵌入了更廣泛的地緣政治沖突、威懾、證券化戰略和技術民族主義敘事，例如關于數字主權的敘事。

人工智能技術與網絡沖突的糾纏引發了幾個問題，主要與人機交互、(大)數據在社會中的作用、大國競爭和監管有關。在創造科學和數據驅動安全的“幻覺”的同時，將安全功能委托給獨立的機器可能會使網絡暴露于由于自治和自動化而出現的各種新風險。數據機械處理中的潛在偏差可能導致誤判，并為人工智能聲稱要保護的系統創造更廣泛的“攻擊面”和漏洞。同樣，獲取這些技術的全球競賽也有可能進一步加劇和兩極分化賽博空間的國際沖突。由于這些原因，人工智能技術也作為一個規范問題在賽博空間中負責任的(國家)行為的道德和法律辯論中引起了人們的興趣——盡管關于自主性的辯論還沒有完全從軍事領域“適當”跨越到網絡沖突領域。正如本卷所示，可能需要特定的監管框架和立法來捕捉人工智能，將其視為對國家安全以及一些國家尋求維護的“開放和安全”賽博空間的潛在資產和威脅。

目的是探討“通過人工智能在賽博空間的國際沖突中使用自動化會帶來什么風險?”，本卷側重于三個主題，即:(1)技術和操作，(2)戰略和地緣政治，(3)規范和法律。這些也構成了這一卷的章節組織的三個部分。關于人工智能和賽博空間沖突之間關系的學術研究是沿著某種嚴格的學科界限和更嚴格的社會技術鴻溝產生的，其中技術和社會學術很少被帶入對話。本卷通過全面和跨學科的方法解決這些主題。從這個意義上說，組織在三個部分的體積不應該被認為是一個分析，甚至更少，學科劃分。本導論章的其余部分概述了本卷三部分的主要辯論，并提供了背景。

1.2 技術和操作方面的考慮

人工智能已經成為我們這個時代的決定性技術，似乎是每個人都想要的、每個人都關心的終極創新的縮影。“各國通常對新技術持技術樂觀態度，并積極看待通過自動化合理化和完善治理的前景，人工智能目前被應用于廣泛而多樣的治理領域和問題。”“人工智能”概念的吸引力可能最好地體現在這樣一個事實上:政府(以及政府之外)的許多應用仍然被更恰當地稱為“經典”自動化，而不是人工智能或在系統中引入自治。然而，人工智能的發展確實開始滲透到傳統治理中，通過擴大可實現有意義自動化的操作的范圍、規模和復雜性，包括與網絡安全相關的操作。然而，與其他治理分支相比，人工智能技術在網絡安全中的應用代表的創新較少。例如，早在20世紀90年代，機器學習和神經網絡就被應用于過濾和分類垃圾郵件。畢竟，自動化構成了互聯網技術和計算的固有特征。相對較新的，也是本卷主要感興趣的是賽博空間沖突的國際化和“滿足”，人工智能的潛力標志著通過自主進入一個新的操作階段。

從操作角度來看，人工智能技術有望為賽博空間國際沖突的核心動態之一做出貢獻:通過及時有效地解釋數據(無論是防御還是進攻)來識別漏洞。也就是說，人工智能有可能使賽博空間的沖突變得更加可知和可預測。當考慮到賽博空間國際沖突背景下的自動化和機器自治方面時，智能機器在不同程度的獨立下做出操作選擇的能力指向了誰是賽博空間國際沖突的實際執行者的問題。正如本卷第三部分將進一步討論的那樣，這個問題不僅是分析性的或技術性的。知道誰是賽博空間沖突的始作俑者也與責任問題密切相關。在代理似乎已經被賽博和社會技術組合稀釋的背景下，探索ai -網絡聯系的主要手段是探索人與機制的互動。

自主性和人工智能的問題提出了一個與人類在所謂的操作決策“循環”中的“位置”相關的操作疑問。這種困境在關于法律的辯論中已經被明確表達出來，其核心問題仍然是人類是否應該被置于這個循環之中，之上或之外。在本卷的第2章中，Andrew Dwyer通過分析深度強化學習(RL)算法的作用，直接解決了這個問題，質疑人工智能技術使賽博空間中的沖突更加可知的假設。它認為，通過識別、執行和改變賽博空間國際沖突的對象、地點和方式，人工智能不僅僅是一種改善運營的認知工具。從這個意義上講，本章還使關于可控制和道德上負責任的人工智能系統以及人類“在”循環中的位置的規范性考慮復雜化。

人工智能對賽博安全的核心技術承諾之一包括蒂姆·史蒂文斯(Tim Stevens)所定義的“從已知威脅到未知威脅的預測，再到預期狀態”的轉變，這在關鍵的安全文獻中受到了廣泛關注。在第三章中，Wesley Moy和Kacper Gradon探討了人工智能在虛假信息和錯誤信息傳播中的各種潛在應用，以及在混合和不對稱戰爭的背景下。通過分析兩種方法——即“生成對抗網絡”和“大型語言模型”——本章解釋了人工智能在理解鏈接如何形成、信息如何傳播以及信息如何影響社交網絡中的意見和行動方面的相關性。總而言之，本卷第一部分的貢獻表明，雖然提高了運營效率，但人工智能應用并不一定“使”國際沖突更加已知/可預測，網絡安全更加以人為中心。相反，自主性和自動化進一步助長了將賽博空間理解為主要是技術和操作問題或領域的問題。

1.3 戰略和地緣政治考慮

超越其技術可能性和操作困境，人工智能將成為數字時代經濟、政治和軍事力量的憲法組成部分。隨著大國競爭的回歸以及國家之間在賽博空間的不斷爭奪和對抗，人工智能正在經歷一個證券化的過程，將這種主要用于民用的雙重技術轉變為國家安全和主權問題。因此，人工智能已經完全成為有爭議的全球“數字軍備競賽”的一部分，引發了人們對將其用于攻擊目的的更廣泛風險的重大擔憂。這種演變并不令人驚訝。這與過去30年來賽博空間的更廣泛的證券化是一致的，這種證券化迅速(但并不總是正確)與國家話語中的軍事化聯系在一起。

自2010年以來，隨著越來越復雜和有針對性的國家支持的賽博攻擊的興起，賽博空間成為了證券化的必要條件，也是一個需要動用特殊手段的新作戰領域。鑒于這一領域面臨的復雜挑戰，例如犯罪組織對個人利益構成的威脅，既可能損害最終用戶的安全，也可能損害賽博空間本身的安全與穩定，將賽博空間主要視為對國家安全的威脅并非不言自明。其他可能占據上風的特征，如經濟風險、犯罪危險或對個人用戶隱私的威脅，越來越多地讓位于國家和國際安全問題。用互聯網治理學者米爾頓·穆勒(Milton Mueller)的話來說，“網絡安全正在吞噬互聯網治理”，并正在推出替代框架。安全框架已逐步擴展到包括人工智能在內的所有可能在數字戰爭背景下武器化的數字技術，并推動了數字技術的國際競爭。美國和中國在數字技術的生產、控制、使用和治理方面的激烈競爭體現了這種競爭，并日益影響著這種競爭。亞當·西格爾(Adam Segal)認為，在20世紀90年代和21世紀頭十年，中美經濟一體化被認為在政治和經濟上都是互利的，但政治決策者現在認為風險大于收益。在兩國的言論中，安全問題都是競爭的核心。值得注意的是，中國已經啟動了一項龐大的計劃，到2030年成為人工智能領域的世界領導者，擁有1500億美元的產業。也就是說，人才爭奪戰已經打響

少數國家在人工智能能力方面的領導地位也揭示了許多其他國家令人不安的戰略依賴。這在歐盟引發了一場辯論，討論與這些依賴相關的風險，以及確保數字主權的戰略自治的必要性。但推進人工智能技術似乎是解決這些問題的有限政策選擇。在第四章中，Simona Soare質疑人工智能在促進歐洲安全和防務領域戰略自主方面的作用。她認為，采用人工智能是一種“分心”，因為它在歐洲防務中引入了額外的復雜性，同時對歐洲的戰略自主沒有重大貢獻。一方面，由于歐盟在防務領域的內部運作，將人工智能整合到歐盟的決策過程和行動中是具有挑戰性的。另一方面，工業能力的缺乏和對其他大國的戰略依賴是真實存在的，可能很難克服。在第五章中，阿倫·莫漢·蘇庫馬爾同樣論證了依賴人工智能會帶來風險和戰略依賴，正如新興大國的例子所示。本章通過巴西、印度和新加坡衛生部門的例子，審查人工智能在公共服務發展中的作用。報告顯示，盡管各國被敦促提高數據透明度并為其人民開發數字服務，但它們面臨著新的風險，這些風險可能會在數年內阻礙各國關鍵任務系統的數字化進程。也就是說，他們面臨著進一步數字化和接受更多安全風險之間的權衡，這個例子表明，不僅要從技術/運營角度考慮人工智能與網絡的聯系，還要考慮更廣泛的戰略影響。

世界各地的武裝部隊也認識到人工智能網絡關系的戰略意義，并同樣參與了其行動的深刻數字化轉型。一方面，這大大增加了他們對數字技術和數據的依賴。另一方面，它也帶來了新的風險和脆弱性。士兵在新的數字環境中進化，深刻地改變了他們的操作方式，并創造了有時難以完全理解和管理的新挑戰。在這種環境下，人工智能提供了有希望的新能力，以提高情報質量、態勢感知、訓練條件、遠程操作能力、武器系統的精度和自主性，最重要的是，行動的速度和范圍。因此，對人工智能的競爭也是對軍事力量和優勢的競爭，并再次提出與作戰問題密切相關的戰略問題。這種表現與美國軍事文化中根深蒂固的觀點產生了共鳴，即技術可以提供軍事優勢。在第6章中，Jeppe Jacobsen和Tobias Liebetrau認為，這種愿景可以追溯到人工智能之前的很長一段時間，并且自20世紀70年代的第二次抵消戰略以來一直主導著美國的軍事話語。也就是說，人工智能代表的是一種運營創新，而不是戰略創新。

在進一步證明大國競爭將回歸的同時，軍事優勢戰略也助長了技術引發的恐懼，并推動了發展進攻而非防御，以保持對敵人的優勢。但是，考慮到網絡環境的高度動態性，人工智能支持的網絡能力也可能傳達出一種控制的想法，這種想法在賽博空間中即使不是虛幻的，也是困難的。它也沒有考慮到人工智能技術帶來的漏洞和相關風險。事實上，隨著社會和武裝部隊的數字化轉型，攻擊面不斷增加。雖然人工智能可以大大提高防守，但對進攻的強調可能是風險的來源。Jeppe Jacobsen和Tobias Liebetrau證明，網絡軍備競賽不僅是大國之間對人工智能網絡能力的競爭，而且是由人工智能驅動的進攻性和防御性網絡能力之間的具體軍備競賽。考慮到有關軍隊如何在賽博空間平衡攻防的討論的教訓，他們得出結論，人工智能增強的網絡進攻能力可能占據主導地位。然而，人工智能在很多方面可能適得其反。隨著我們的社會越來越依賴數字技術，人工智能技術的證券化可能對網絡(in)穩定性的整體水平產生重要的溢出效應。正在進行的數據競賽及其對戰略優勢的利用進一步模糊了軍事和民用行動之間的界限，給私營部門和民間社會帶來了不可避免的后果，提出了新的法律和規范挑戰。

1.4 規范和法律方面的考慮

基于上述技術/操作和戰略/地緣政治考慮，有必要規范人工智能技術在賽博空間的采用和使用。一方面，賽博能力的發展，另一方面，人工智能及其在賽博沖突中的可能應用，給國家和其他行為者帶來了兩難境地:他們對這些新技術感興趣——尤其是為了增強自己的作戰能力和戰略姿態——但同時，他們又擔心這些發展對國際和平與安全的潛在后果。這種困境是本卷最后第三部分的核心，它涉及人工智能在賽博空間應用所提出的規范和法律問題。為了理解這些，本節還介紹了這些規范和法律討論嵌入并與各國戰略考慮深深交織在一起的國際進程。

在國際網絡安全問題上，聯合國大會于1998年12月通過了第一項關于“國際安全背景下信息和電信領域的發展”的決議。自2004年以來，聯合國大會就這一主題連續設立了六屆政府專家組。第一屆和第五屆政府專家組未能通過協商一致的報告，據說是因為在討論國際法的具體分支方面存在分歧。2017年6月，第五屆政府專家組未能通過共識報告，導致各方對如何開展工作存在分歧。2018年，這導致通過了兩項同時通過的決議，并創建了兩個基本相同任務的平行進程。除第六屆政府專家組外，還設立了一個不限成員名額工作組。2020年，新的OEWG成立，將持續到2025年，而截至目前，還沒有新的GGE計劃。此外，自2020年以來，一些國家正在倡導就此主題開展新進程，即制定《行動綱領》，以促進賽博空間負責任的國家行為，該行動綱領于2022年11月受到聯合國大會原則上的歡迎。第二屆、第三屆、第四屆和第六屆政府專家組以及第一屆OEWG成功地通過了協商一致報告。這些報告特別肯定了國際法適用于賽博空間，并列舉了在這方面特別相關的具體國際法規則和原則。他們還列出了11項賽博空間負責任行為準則。這些報告合在一起構成了賽博空間負責任國家行為的框架，其中包括國際法和非約束性規范，以及能力建設和建立信任措施。有趣的是，在這本書的背景下，盡管在2019-2021輪談判中討論了人工智能應用的發展，但在GGE或OEWG的報告中從未提及人工智能應用的發展。雖然這個問題沒有被列入2021年的共識報告，但在OEWG進程的所謂主席總結中，它在其專門討論“威脅”的部分中占據了重要地位:“在ICT運營中追求越來越多的自動化和自主性，以及可能導致連接減少或中斷、意外升級或對第三方產生負面影響的行動，都被作為一個具體問題提出。”此外，無論是在聯合國談判的背景下，還是在談判之外，各國和其他行為體都開始對自動化和自主在網絡行動中的作用表示擔憂。

關于人工智能國際安全層面的討論一直側重于法律的制定。2013年，《禁止或限制使用某些常規武器公約》(CCW)締約方會議將這一事項列入議程。經過幾次非正式會議，這些討論走上了與國際網絡安全類似的道路，2016年成立了政府專家組，并于2019年通過了11項法律指導原則。通過這些原則，專家組確認了國際法，特別是國際人道主義法以及一系列道德和非約束性原則的適用性。令人驚訝的是，在第六項原則中，網絡安全只是作為“在開發或獲取基于致命自主武器系統領域新興技術的新武器系統時應考慮的適當的非物理保障措施”之一被簡單地提到。然而，沒有提到自主網絡能力。盡管網絡安全和人工智能之間的聯系是在經合組織和聯合國教科文組織關于人工智能倫理的建議中提出的，但這兩份文件都避開了國家和國際安全。因此，到目前為止，在聯合國第一委員會中，“網絡”和“人工智能”似乎是夜間經過的船只。

這種“缺席”是本卷第三部分的核心。在國際層面上利用這一真空。Taddeo、McNeish、Blanchard和Edgar在第7章中討論了定義道德框架的努力，以指導人工智能在國內國防領域的使用——通過英國的案例——并提出了一個可能的框架，圍繞五個原則闡述:合理和可推翻的使用;公正和透明的制度和程序;人類的道德責任;有意義的人為控制;最后是可靠的人工智能系統。這些倫理考慮的核心是技術自主和需要某種形式的人類控制、參與或推翻的問題:再一次，人類在“循環”中的位置?回到國際層面，在第8章中，路易斯·佩雷斯(Louis Perez)在討論如何將當前的法律方法應用于自主網絡行動之前，在聯合國網絡問題和法律問題上進行了不同的討論。在反思法律的定義時，本章討論了自主網絡能力是否可以被視為法律的關鍵問題，從而受到《常規武器公約》框架下有關國際法和道德的討論的關注。在第9章中，杰克·肯尼將重點放在國際法的一個具體原則上，即不干涉原則，這一原則已被GGE和OEWG廣泛討論。在這些討論的基礎上，以及現有的關于這一原則在賽博空間中的應用的學術研究，本章著眼于自動化對這一原則提出的具體挑戰，并特別關注其強制要求。通過回到前面討論的操作困境之一，本章通過分析與使用具有一定程度自主權的網絡手段干預選舉過程有關的不同例子來闡明這一規范性討論。

本卷的第三部分也是最后一部分表明，聯合國層面的辯論還需要一段時間才能有意義地解決人工智能技術與賽博空間沖突之間的交集。這有幾個原因，這與前面概述的技術/業務和戰略/地緣政治觀點有關。首先，大多數富裕和頂級(網絡)軍事國家往往不愿放棄可能改變游戲規則的新軍事可能性。美國、以色列和俄羅斯等積極發展法律的國家在GGE談判中拖拖拉拉。歷史并沒有提供太多證據證明武器在使用之前就被禁止了。此外，在政治上，一些主要談判方之間的信任水平目前處于低點。美國正日益與中國展開對抗性競爭——中國是“人工智能之冠”的主要競爭者之一——自從俄羅斯入侵烏克蘭以來，許多國家都在積極地試圖制裁和孤立俄羅斯聯邦。當涉及到新的軍事和網絡技術時，這不是討論約束作為治理機制的理想情況。最后，兩個聯合國進程之間的任務不匹配。聯合國法律專家組——顧名思義——明確關注與武器相關的特定技術(人工智能)。聯合國網絡安全專家組將國家行為作為其建議的焦點，通常旨在盡可能保持技術中立。如果要在這些過程之間架起一座橋梁，就必須建立在對技術如何影響或改變網絡沖突中的國家行為的合理推理之上。諸如“國家控制”是否僅在有意義的人為控制下存在，還是在“系統控制”的情況下也存在，以及自動化和/或自主網絡攻擊是否存在或可能存在歧視等問題可能是該問題的核心。換句話說，只有將人工智能與賽博空間沖突之間的關系理解為一種綜合現象，并嵌入更廣泛的地緣政治沖突中，國際社會才能真正推進有意義的監管。

美國的戰略重點已經越來越多地轉向大國競爭，但目前還沒有一個框架來理解美國與近鄰對手俄羅斯等的競爭。根據對美國與這些國家戰略競爭的經濟、軍事和地緣政治層面的廣泛研究，蘭德公司的研究人員收集了高水平的研究結果和建議，以支持即時的政策決定，確保美國的競爭優勢。在這個過程中，他們開發了一個框架，從四個方面評估大國之間的競爭：（1）競爭的整體背景，（2）國家實力和競爭力，（3）國際地位和影響，以及（4）雙邊競爭的形式和地位。這本關于理解新的戰略競爭時代并在其中取得成功的指南，匯集了關于全球聯盟、經濟相互依存、技術和軍事優勢、國家利益等方面的歷史教訓和最新數據，強調了美國政策和投資的廣泛優先事項。

主要發現

• 美國在戰略競爭中的成功有賴于保持其經濟和技術實力

  • 保持美國的競爭地位需要經濟實力，在主要行業的領導地位，以及將自己定位在技術創新的前沿。
  • 在軍事上，美國在與中國和俄羅斯的競爭中面臨的最大威脅是技術創新，它威脅到美國的戰爭方式以及美國軍隊所依賴的網絡和系統的安全。

• 當前的大國競爭從根本上說是關于國際體系的特征的競爭

  • 美國與中國和俄羅斯的競爭涉及多種交叉的軍事、經濟和地緣政治利益，對國際秩序有重大影響。
  • 尤其是中國，除了增強軍事能力外，還在努力重塑占主導地位的國際規則、規范和機構。
  • 美國仍然處于強大的競爭地位。然而，它的長期成功取決于保持強大的經濟態勢和在國際范圍內參與經濟活動的意愿；關鍵盟友和合作伙伴的結盟；對國際規則、規范和機構的意識形態影響；以及相對于競爭大國的強大全球軍事態勢。

建議

• 美國政策的優先事項應包括保持經濟和財政實力和靈活性，保持在新興技術和產業中的領先地位或份額，保護信息環境，開發工具和技術以支持持續的競爭，并保持美國在全球機構中的現有影響力水平。
• 美國的國防投資應優先考慮快速采用新興技術用于軍事用途，保護創新的軍事系統不受知識產權盜竊或攻擊，發展能力，以增強美國的競爭力。

在實際情況下，決策面臨很多不確定性狀況，如何量化這些不確定性以及進行推理是個很關鍵的問題。最近來自弗吉尼亞理工最新《不確定性推理與量化的決策研究綜述》，51頁pdf闡述信念理論與深度學習結合下的不確定性決策，值得關注！

深入理解不確定性是在不確定性下做出有效決策的第一步。深度/機器學習(ML/DL)在解決涉及處理高維數據的復雜問題方面發揮了巨大作用。然而，與其他人工智能(AI)領域相比，ML/DL中對不同類型的不確定性進行推理和量化以實現有效決策的研究要少得多。特別是自20世紀60年代以來，KRR研究了信念/證據理論，以推理和衡量不確定性，以提高決策有效性。我們發現，只有少數研究利用ML/DL中信念/證據理論中成熟的不確定性研究來解決不同類型不確定性下的復雜問題。在這篇綜述論文中，我們討論了幾種流行的關于不確定性原因和類型的信念理論及其核心思想，并對它們進行了量化，并討論了它們在ML/DL中的適用性。此外，我們討論了利用深度神經網絡(DNNs)中的信念理論的三種主要方法，包括證據型DNNs、模糊型DNNs和粗糙型DNNs，就它們的不確定性原因、類型、量化方法及其在不同問題領域的適用性進行了討論。在深入調研的基礎上，我們討論了目前最先進的連接信念理論與ML/DL的見解、經驗教訓、局限性以及未來的研究方向。

//www.zhuanzhi.ai/paper/5ffe9344a3d2d7ed61531d9d1fcb859f

在各種業務流程和我們的私人生活中，我們面臨著各種各樣的決策，涉及多種選擇和相對的不確定性。對不確定性的清晰認識是進行合理有效的決策的先決條件。盡管不確定性下的推理和決策問題已經在包括信念/證據理論、博弈論和機器/深度學習(ML/DL)在內的各種人工智能(AI)領域研究了幾十年，但基于其根本原因的不確定性的不同表現尚未得到深入研究。互聯網和大數據時代帶來了大量可以用于決策的信息。在這種情況下，對及時、準確的決策的挑戰不再是缺乏信息，而是缺乏對不可靠、不完整、具有欺騙性和相互沖突的信息所帶來的內在不確定性的理解和管理的風險。

在人工智能中，一系列研究不確定性下的推理和/或決策的信念或證據理論有著悠久的歷史。然而，人們對不確定性的理解仍然有限，因為不確定性不僅僅是由于缺乏證據或不可預測性造成的。此外，ML/DL算法還考慮了不確定性(如任意不確定性或認知不確定性)，為有效決策提供解決方案。然而，對于多維不確定性，即使在追求有效決策的共同目標時，每個領域對不確定性的理解都是不同的和/或有限的，對多維不確定性沒有共同的、堅實的理解。

我們的綜述論文旨在對一系列信念模型進行深入的調研，并引入一個新的解決域，利用信念/證據理論中的不確定性研究來開發ML/DL解決方案，以實現有效的決策。我們特別感興趣的是量化由不同根本原因引起的不同類型的不確定性。這將有助于ML/DL提供解決方案，通過提供不確定性是如何產生的，背后的原因是什么，以及最終它如何影響決策的有效性，從而滿足可解釋AI，即所謂的XAI。最先進的決策研究已經充分認識到考慮不確定性對有效決策的重要意義。然而，目前還很少有研究廣泛綜述已有的信念模型來研究不確定性及其在ML/DL領域的決策適用性。

在這項工作中，我們旨在回答以下研究問題:

RQ1。信念理論和深度學習研究的不確定性的主要原因和類型是什么? RQ2。如何根據信念模型和深度學習中研究的多維不確定性定義不確定性本體? RQ3。每個信念模型如何考慮和測量不確定性? RQ4。每個信念模型如何應用于深度學習，反之亦然，以便在不確定性下進行有效的決策? RQ5。信念理論和深度學習中不確定性推理和量化的關鍵區別是什么? RQ6。如何將信念模型應用于深度學習以解決復雜的決策問題?

雖然不確定性已經在許多領域得到了考慮，但本文將范圍限制在信任模型及其在深度學習算法中的應用上。請注意，當我們提到“決策”時，我們指的是在多個選項中做出選擇。例如，它可以是分類任務中的某個類以最大化預測精度，可以是在多個可用操作中選擇的一個操作以最大化決策效用，或者是為了優化系統性能而選擇的一個策略。在本文中，我們的主要貢獻如下:(1)我們首次在識別各種信念模型和深度學習中研究的不確定性的原因和類型方面進行了廣泛的調研，并提供了不確定性本體。(2)我們首先調研不同的信念理論如何考慮不確定性，并量化它，以有效的決策。(3)我們還首先討論了信念理論如何有效地用于基于深度學習的決策解決方案。(4)我們確定了每個信念理論如何導致和量化不確定性，以及它如何在深度學習環境中應用或與之一起應用的關鍵共性和差異。(5)我們提供了從廣泛調研中獲得的見解和教訓以及局限性的整體視角，并提出了有前景的未來研究方向。

第2節提供了不確定性的各種分類類型，以及不同類型不確定性產生的原因，并在調研不確定性多維概念的基礎上提出了不確定性本體。

第3節提供了8個信念模型的細節，并討論了信念的形成、不確定性的原因和類型、不確定性量化及其作為決策應用的應用。8種信念模型包括Dempster Shafer理論(DST)、可轉移信念模型(TBM)、Dezert-Smarandache理論(DSmT)、不精確Dirichlet模型(IDM)、Kleene三值邏輯(TVL)、模糊邏輯(FL)、貝葉斯推理(BI)和主觀邏輯(SL)。

第4節討論如何將信念理論應用于DL的背景下，作為不確定性下的決策應用，特別是在證據神經網絡、模糊深度神經網絡和粗糙深度神經網絡方面。

第5節提供了第1節中提出的關鍵研究問題的答案。 第6部分通過討論從我們的調研中獲得的局限性、見解和教訓來總結我們的論文。在此基礎上，展望了信念模型在解決基于深度學習的決策問題中的應用前景。

圖1 不確定性分類

圖2 不確定性體系

【導讀】小樣本學習是研究關注的焦點。最近來自華東師范大學等學者發布了《少樣本學習》全面綜述論文，從近三年200篇文獻闡述小樣本學習的演變、應用、挑戰。

少樣本學習(FSL)已成為一種有效的學習方法，并顯示出巨大的潛力。盡管最近在處理FSL任務方面有一些創造性的工作，但從少量甚至零樣本中快速學習有效信息仍然是一個嚴峻的挑戰。在此背景下，我們對近三年來發表的200多篇關于FSL的最新論文進行了廣泛的調研，旨在及時全面地綜述FSL的最新進展，并對現有工作的優缺點進行公正的比較。為了避免概念混淆，我們首先闡述并比較了一組類似的概念，包括少樣本學習、遷移學習和元學習。此外，針對FSL的挑戰，我們提出了一種新的分類法，根據知識的抽象級別對現有的工作進行分類。為了豐富這一調研，在每個小節中，我們提供了關于這些主題的最新進展的深入分析和深刻的討論。并以計算機視覺為例，重點介紹了FSL的重要應用，涵蓋了各種研究熱點。最后，我們總結了對技術發展趨勢和潛在的未來研究機會的獨特見解，希望為后續研究提供指導。

//www.zhuanzhi.ai/paper/7596f00df5df833013b71075a2849dac

引言

硬件和信息技術的最新進展加快了各種物聯網應用領域中數十億設備的互聯。智能和自適應設備越來越多地應用于關鍵基礎設施，如衛生、交通、工業生產、環境檢測、家庭自動化和許多其他物聯網框架。這些數量龐大的終端設備一直在產生大量的數據，這些數據需要發送回服務器進行中央處理和存儲。雖然邊緣生成的數據總量非常大，但是單個設備或單個場景生成的每個數據集的容量都非常有限，樣本很少。傳統的數據驅動和單域算法在這些設置中表現不佳。為此，在探索基于少量樣本和跨域場景的有效學習方法方面進行了大量的研究。少樣本學習(FSL)和元學習不可避免地成為一種有前途的方法。然而，如何從小樣本甚至跨域的數據集中有效地獲取有效信息仍然是當前FSL面臨的最大挑戰。

此外，現實場景中的數據分布往往具有長尾效應，很難在不同領域泛化相同的模型。以智能制造工業檢測為例，這種泛化能力差的問題已經成為影響其智能模型性能的關鍵挑戰之一。具體來說，目前的工業質量檢測設備對特定的光照條件有一定的要求，在一種光照條件下訓練的AI模型很難“泛化”到其他光照條件下。此外，考慮到工業質量檢測場景對準確性的要求較高，目前的AI模型通常采用監督學習，需要大量的缺陷樣本進行訓練。然而，由于實際生產場景中不良品的比例很小，很難收集到足夠數量的滿意樣品。此外，也不可能跨域進行傳輸。例如，一個PC外觀缺陷檢測模型不能直接用于檢測手機屏幕、冰箱、洗衣機甚至不同型號的PC的缺陷。同樣的，在識別元器件和電路板的字符圖像時，由于元器件供應商多，設備類型多，不同的字符風格多，所以不可能為一個供應商收集到足夠多的各種字符圖像樣本，導致每種類型的樣本很少或沒有。表1提供了這些挑戰的詳細摘要。

為了更有效地應對這些挑戰，FSL在數據、算法和模型方面進行了一些創造性的工作。迄今為止，作為最經典的分類方法之一，FSL分為元學習和基于度量的學習。本文從挑戰的角度，將FSL分為數據增強、遷移學習、元學習和多模態學習。數據增強主要是通過度量或生成方法模擬不同場景下的數據，使實際數據分布最大化。遷移學習主要是將預訓練和微調相結合，從大規模輔助數據集中提取先驗知識。當領域相關性相對不常見或沒有大型輔助數據集時，遷移學習具有一定的局限性。元學習是目前解決FSL問題的主流方法。近年來，一些學者提出了這樣的疑問:“這種元訓練或情景訓練范式真的是對FSL問題負責和最優的嗎?”這引發了關于FSL元學習必要性的廣泛討論。對于多模態學習，它集成了不同維度的信息，如語言、圖像和音頻。多模態學習有望打破現實信息世界中FSL有用信息不足的困境。

由于FSL的特殊性，每一種FSL方法都面臨著不同程度的多方面挑戰。數據增強最直接的挑戰之一是數據樣本太有限，模型不能僅依靠少數樣本來評估真實的數據分布。因此，在這種設置下訓練的模型有偏倚，容易陷入過擬合。在遷移學習中，特征可以有效緩解FSL問題，即數據量小，不能跨相似域遷移。然而，如何有效地表示特征，如何在不同任務之間重用特征，如何建立數據和標簽之間的有效映射，是遷移學習中存在的巨大挑戰。此外，在元學習范式中，當用一組任務訓練元學習器時，它不僅對數據空間采樣，而且對任務空間采樣。通過不斷適應每個特定的任務，使網絡具有抽象的學習能力。當訓練任務和目標任務存在顯著差異時，元學習的效果最小。此外，在多模態學習領域，已經開展了大量的研究來探索如何有效地整合來自多模態的信息來輔助FSL。

已有幾篇綜述論文對FSL的相關工作進行了研究，如[3]研究將FSL方法分為經驗學習和概念學習。工作[4]根據概率分布將FSL方法分為生成模型和判別模型。最近，[5]提出了一種新的分類法，從數據、模型和算法等方面對FSL方法進行分類。然而，據我們所知，還沒有一篇論文從FSL挑戰的角度提供過分類。通過總結FSL的挑戰，讀者可以更好地把握FSL背后的動機和原則，而不是局限于各種模型。表2列出了本文使用的關鍵縮略語。

本綜述的其余部分組織如下。第二節提供了FSL的概述，介紹了FSL，比較分析了機器學習、元學習和遷移學習，并總結了當前FSL的變體和挑戰。此外，為了系統地解決這些障礙，在本節中，我們將演示一種新的分類法來對現有的FSL相關工作進行分類。第3 - 6節從FSL挑戰的角度對當前主流研究進行了系統的調研，并從各個方面進行了比較分析。有了這種分類，討論和總結提供在每一節的結束，給予我們對各自領域的見解，伴隨著一些潛在的研究機會。第7節以計算機視覺為例，按時間順序列出了FSL在圖像分類、目標檢測、語義分割、實例分割等方面的最新進展。第8節深入探討了當前FSL面臨的挑戰，以及如何在每個分支中尋求突破。本文的總體輪廓如圖1所示。

這項綜述的主要貢獻可歸納如下:

• 我們從邊緣計算場景開始，在此場景中出現了少樣本學習挑戰，解釋和澄清幾個容易與FSL混淆的類似概念。這將有助于讀者建立少樣本學習、遷移學習和元學習之間的關系。

• 我們通過知識圖譜和熱圖從挑戰的角度全面考察了FSL相關工作。根據這種分類法，我們將FSL分為幾個不同的級別，其中最高級別是多模態學習，主要使用各種語義知識來輔助判斷，第二、第三和第四級別是單模態學習，分別解決數據級、特征級和任務級的挑戰。值得注意的是，本文還對當前外語教學領域中比較具有挑戰性的跨領域研究方向進行了深入的探討。

• 本文通過對近三年來大量論文的研究，總結了FSL在計算機視覺領域的主要研究成果，包括圖像分類、目標檢測、語義分割和實例分割等。

• 結合調研最后提到的這些挑戰，結合實際應用，我們深入研究當前FSL面臨的挑戰，探索如何在各個分支中找到突破點，共同推動FSL的研究向更實用的方向發展。

• 我們對FSL的演變提供了獨特的見解，并確定了關于每個挑戰的幾個未來方向和潛在的研究機會。

什么是少樣本學習？

FSL的概念受到人類強大推理和分析能力的啟發，廣泛應用于邊緣計算場景。2020年，Wang et al.[5]通過機器學習的經驗、任務和性能給出了FSL的詳細定義，這是目前為止被認可最多的定義之一: 一個計算機程序在某些類別的任務T和性能度量P上，如果在用P度量的任務上，通過E可以提高它的性能，那么它就從經驗E中學習。這里值得一提的是，FSL中的E很小。

根據知識的融合程度，廣義上可將FSL分為單模態學習和多模態學習。在本研究中，單模態學習可進一步分為數據增強、遷移學習和元學習。它主要是將有限的信息抽象或轉換為更高層次的特征向量或元知識。多模態學習更接近真實的人類智能世界，不再依賴于有限的樣本，而是試圖尋找其他模態的空間來輔助FSL。根據這種分類法，我們詳盡地回顧和討論每一種方法。圖6生動地展示了挑戰視角下的FSL分類。

整個分類以金字塔的形式呈現。底層為“云-端”邊緣計算場景，其特點是在高流量下實現少樣本實時計算。在此基礎上，根據所需知識的整合程度，將FSL挑戰分為四個層次。其中，以數據增強、遷移學習和元學習為代表的挑戰是單模態挑戰。 根據知識的融合程度，廣義上可將FSL分為單模態學習和多模態學習。在本研究中，單模態學習可進一步分為數據增強、遷移學習和元學習。它主要是將有限的信息抽象或轉換為更高層次的特征向量或元知識。多模態學習更接近真實的人類智能世界，不再依賴于有限的樣本，而是試圖尋找其他模態的空間來輔助FSL。根據這種分類法，我們詳盡地回顧和討論每一種方法。圖6生動地展示了挑戰視角下的FSL分類。

數據增強，以最大概率評估真實的數據分布

在真實的FSL任務中，由于隱私、收集成本和標簽成本，支持和查詢集中的樣本數量通常是有限的。為了緩解這一問題，數據增強被認為是提高FSL中樣本豐富度最直接的方法。然而，FSL數據增強的核心風險是增強數據集評估真實數據背后分布的可能性。根據數據增強技術能否在其他任務上重用，將FSL數據增強分為手工規則和自動學習數據處理。

遷移學習為特定的問題構建數據到標簽的映射

遷移學習[63]是一種經典的學習范式，其目的是解決FSL中只有很少甚至沒有標記樣本的挑戰性問題[64][65]。特征重用是遷移學習解決FSL缺乏數據設置問題的核心思想。其基本操作是在廣泛的數據集上對模型進行預訓練，然后在有限的支持集上進行微調。當源領域和目標領域存在較大差距時，知識轉移的效率就會大大降低。這種跨域設置給FSL帶來了新的挑戰。在FSL中，遷移學習可以大致分為訓練前階段和微調階段，也可以參考基線階段。圖10說明了一般過程。

元學習派生出獨立于特定問題的任務到目標模型映射

元學習從數據和任務的雙重抽樣中學習歷史先驗知識，然后提取元知識應用于未來的任務。元學習獨立于具體問題，在任務空間中探索最優初始化參數，拋棄了傳統監督學習下與任務無關的特征表示。目前，大多數元學習模型采用傳統的梯度下降法進行參數更新。當然，也有基于強化學習和度量方法的非梯度下降方法。在FSL中，元學習可以用于自動學習模型參數、指標函數和信息傳遞。

具有有限信息的小樣本多模態補充學習

迄今為止，FSL在單模態領域取得了顯著的進展。在單模態學習中，模型主要負責將信息表示為特征向量，這些特征向量可以由計算機處理，或者進一步抽象為更高層次的語義向量。特別是，FSL中的多模態學習是指通過利用多種模態之間的互補性和消除模態之間的冗余來學習更好的特征表示。在現實生活中，當父母教他們的嬰兒事物時，他們總是包含一般信息和語義描述。這對于FSL來說是至關重要的，因為在FSL中幾乎沒有有效的信息來很好地評估數據或特征分布。受此啟發，許多研究工作[8]，[148]，[149]考慮在求解FSL時引入其他模態信息。通過融合多模態信息，可以提高模型對小樣本數據的感知能力。圖13顯示了多模態下FSL的主要路徑。

來自香港科技大學、IDEA、中科院、清華、微軟等發表《視覺語言智能》綜述論文，從時間的角度對視覺語言智能進行了全面的研究。非常值得關注！

本文從時間的角度對視覺語言智能進行了全面的研究。這項研究的靈感來自于計算機視覺和自然語言處理的顯著進展，以及從單一模態處理到多模態理解的最新趨勢。我們將這一領域的發展總結為三個時期，即任務特定方法，視覺語言預訓練(VLP)方法，以及由大規模弱標記數據訓練的大模型。我們首先以一些常見的VL任務為例，介紹了特定于任務的方法。然后我們重點介紹了VLP方法，并全面回顧了模型結構和訓練方法的關鍵組成部分。之后，我們展示了最近的工作是如何利用大規模的原始圖像-文本數據來學習語言對齊的視覺表示，這種視覺表示在零或少數樣本學習任務中得到了更好的泛化。最后，我們討論了在模態協同、統一表示和知識整合方面的一些潛在的未來趨勢。我們相信這篇綜述將有助于人工智能和ML的研究人員和實踐者，特別是那些對計算機視覺和自然語言處理感興趣的人。

引言

計算機視覺(CV)和自然語言處理(NLP)是人工智能(AI)的兩個分支，它們專注于在視覺和語言上模擬人類智能。近十年來，深度學習在這兩個領域極大地推進了單模態學習，并在一系列任務上取得了最先進的成果。深度學習的顯著進步的核心在于快速發展的GPU和大規模數據集的可用性，這允許在大規模上加速深度模型的訓練。

隨著深度學習的發展，我們看到了一系列功能強大的神經網絡的發展。傳統的神經網絡通常是多層感知器(MLP)，由多個堆疊的線性層和非線性激活組成(Rosenblatt, 1957, 1961)。LeCun等人(1998)提出了卷積神經網絡(CNN)，將平移不變特性作為對2D視覺輸入更好的誘導偏差，這啟發了大量的深度神經網絡，包括AlexNet (Krizhevsky et al.， 2012)、VGGNet (Simonyan and Zisserman, 2015a)、googlet (Szegedy et al.， 2015)、和ResNet (He et al.， 2016a)。另一個突出的突破是自然語言處理(NLP)領域的循環神經網絡(RNN)，它提出了循環細胞用于順序數據建模(Rumelhart et al., 1985; Hochreiter and Schmidhuber, 1997a)。為了緩解長序列訓練中梯度的消失和爆炸問題，提出了RNN的一種變體LSTM (Hochreiter and Schmidhuber, 1997a)和LSTM的一種更高效的版本GRU (Chung et al.， 2014)。NLP的另一個重大突破是Transformer (Vaswani et al.， 2017)，它利用注意力機制追求更好的語言表征。使用多個堆疊的注意力層，Transformer可以以高并行性在全局范圍內融合語言標記上的信息，這有利于強大的表示和大規模的訓練。

雖然在單一模態領域取得了令人鼓舞的進展，但現實世界的問題往往涉及多種模態。例如，自動駕駛汽車應該能夠處理人類的命令(語言)、交通信號(視覺)、道路狀況(視覺和聲音)。即使是單模態學習也能從多模態學習中受益。例如，語言學習需要感知，而感知是許多語義公理的基礎(Bisk et al.， 2020)。感知是人類理解物質世界的方式，決定了人類語言背后的假設。因為我們都聽到和看到同樣的事情，我們會留下一些知識作為常識，這些知識在我們的語言中是不成文的(Bisk et al.， 2020)。即使局限于語言，言語也比文本包含更多有用的信息，例如，韻律可以暗示情感。注意到多模態感知在多模態和單模態任務中都有幫助，有大量的研究工作。多模的領域內, 視覺和語言的集成得到太多的關注, 因為視覺是人類最重要的感知理解環境和l語言對齊視覺特征可以極大地提高視覺任務的表現和視覺語言任務。此外，視覺語言智能的普及還得益于該領域豐富的數據集和基準。

解決許多特定于任務的VL問題的動力推動了VL學習的初步發展。這些VL問題包括圖像描述、視覺問答(VQA)、圖像-文本匹配等。Xu et al. (2015); Karpathy et al. (2014); Vinyals et al. (2015)集成了一個CNN圖像編碼器和一個RNN文本解碼器用于圖像描述。Antol et al. (2015); Yang et al. (2016); Anderson et al. (2018b) 通過將圖像和文本映射到相同的潛在空間并從潛在表征中預測答案來解決VQA任務。Kiros et al. (2014); Karpathy et al. (2014); Huang et al. (2016); Lee et al. (2018)通過計算圖像和文本在句子級別或標記級別上的相似度來進行圖像-文本匹配。這些模型是為各種數據集的特定問題量身定制的，每個模型只能解決一個任務。

受普遍存在的語言(Devlin et al.， 2018)和視覺的預訓練和微調的啟發，視覺和語言跨學科領域迎來了一個新時代:通過圖像-文本對的預訓練來學習視覺和語言的聯合表征。VLP模型的興起主要是受到了架構設計和訓練方法中的語言模型的啟發。例如，最近的許多研究(Li et al., 2019b; Lu et al., 2019; Zhang et al., 2021; Tan and Bansal, 2019; Li et al., 2020b; Yu et al., 2020; Chen et al., 2020)采用了BERT-like (Devlin et al.， 2018)架構和訓練方法。由于缺乏足夠大規模的人工標注數據，VL學習的發展面臨著嚴峻的挑戰。最近，一些研究(Radford et al., 2021; Jia et al., 2021; Wang et al., 2021; Li et al., 2021b)通過采用對比學習和利用大規模網絡爬行數據學習視覺語言特征，打破了這一限制，這些特征可用于零樣本學習。

VL領域的快速發展推動了對該領域現有研究的全面綜述。本文旨在提供一個結構化的綜述，在VL領域的最新進展，以幫助研究人員獲得一個整體的視圖，并更好地理解最近的研究。我們將VL學習的發展分為三個階段。第一個是從2014年到2018年，專門的模型被設計用于不同的任務。第二個時代是2019年至2021年，在此期間，通過對標記良好的VL數據集進行預訓練，學習視覺和語言的聯合表征。最后，隨著2021年CLIP的出現，第三個時代開始了(Shen等人，2021年)，研究人員尋求在更大的弱標記數據集上預先訓練VL模型，并通過預訓練VL獲得強大的零樣本/少樣本視覺模型。

回顧VL智能的整個發展過程，我們發現總體目標是學習良好的視覺表征。一個好的視覺表示應該具有(Li et al.， 2021b)中總結的三個屬性，即對象級、語言對齊和語義豐富。對象級意味著視覺和語言特性的粒度應該分別與對象級和詞級一樣細。語言對齊強調與語言對齊的視覺特征可以幫助完成視覺任務。語義豐富是指不受領域限制地從大規模數據中學習表示。在VL的第一個時代，研究工作的目的是解決具體的問題，而不是學習上述好的表征。在第二個時代，研究人員訓練模型的圖像-文本對，以獲得語言對齊的視覺特征。這個時代的一些作品采用檢測到的區域作為圖像表示，學習對象級的特征。只有在第三時代，研究人員才能處理大規模的數據集和預訓練的語義豐富的特征。

據我們所知，這是第一次從時間段的角度總結研究的VL綜述。本文的其余部分組織如下。我們從VL中的一些特定于任務的問題開始，如第二節中的圖像標題、VQA和圖像-文本檢索。然后，我們在第三節中全面解釋了預訓練增強的視覺-語言聯合表征學習。在第六節中，我們展示了一些直接從原始圖像-文本數據學習語言對齊的視覺表示的工作，以及大規模的視覺語言訓練。

VLP方法發展概覽

與特定任務問題的比較。任務分為四類。對于每個任務，我們總結了輸入、輸出、數據集、度量和主流方法。

未來發展

在過去的幾年中，我們見證了VLP模型如何擴展到使用大量弱標記和更多樣化的數據。在未來，模型和數據將繼續擴大，以實現更強的模態協作，甚至統一表示。此外，知識的整合可以進一步增強VLP模型的泛化能力。在本節中，我們將討論這些未來的趨勢。

模態合作

除了利用VL數據集改進跨模態任務外，模態合作還出現在訓練前以提高單模態任務和多模態任務的性能。模態合作是幫助不同模態的人互相幫助，學習更好的表現。例如，用視覺數據改進語言任務，用單模態數據改進跨模態任務

通用統一模態

由于Transformer架構，研究人員在單模態和多模態表示學習方面都取得了顯著進展。在前幾節中，我們討論了多模態表示和模態合作，它們以不同的方式連接視覺和語言。一個更雄心勃勃的目標是建立一個通用的表示模型，它可以統一多種模態。

VL+知識

許多VL任務需要常識和事實信息超出訓練數據集。

幾何機器學習和基于圖的機器學習是當前最熱門的研究課題之一。在過去的一年中，該領域的研究發展迅猛。在本文中，幾何深度學習先驅 Michael Bronstein 和 Petar Veli?kovi? 合作，采訪了多位杰出的領域專家，總結了該領域過去一年中的研究亮點，并對該方向在 2022 年的發展趨勢進行了展望。

本文編譯自//towardsdatascience.com/predictions-and-hopes-for-geometric-graph-ml-in-2022-aa3b8b79f5cc#0b34

作者：Michael Bronstein 牛津大學DeepMind人工智能教授、Twitter圖機器學習負責人

編譯：熊宇軒

01

要點概述

1. 幾何在機器學習中變得越來越重要。 微分幾何和同源場為機器學習研究引入了新的思想，包括利用了對稱性和類似于圖中的曲率的新等變圖神經網絡（GNN）架構，以及在深度學習模型中理解和利用不確定性。

2. 消息傳遞仍然是 GNN 的主導范式。 在 2020 年，研究社區意識到了了消息傳遞 GNN 的不足之處，并尋求這種范式之外的更具表現力的架構。2021 年，很明顯，消息傳遞仍然占據主導地位，因為有的研究工作表明，將 GNN 應用于子圖可以獲得更好的表達能力。

3. 微分方程催生了新的 GNN 架構。NeuralODE 的趨勢擴展到了圖機器學習領域。一些工作說明了如何將 GNN 模型形式化定義為連續微分方程的離散形式。在短期內，這些工作將催生新的可以規避 GNN 中的常見問題（如過平滑和過壓縮）的架構。從長遠來看，我們可能會更好地理解 GNN 的工作原理，以及如何使它們更具表現力和可解釋性。

4. 信號處理、神經科學和物理學領域的舊思想煥發了新生。 許多研究者認為，圖信號處理重新點燃了最近對圖機器學習的興趣，并為該領域提供了第一套分析工具（例如，廣義傅里葉變換和圖卷積）。表征理論等其它經典信號處理和物理學中的基本技術已經在2021年取得了一些重要進展，并仍有很大的潛力。

5. 為復雜系統建模不僅需要圖。 2021 年的諾貝爾物理學獎授予 Giorgio Parisi，以表彰他對復雜系統的研究。雖然，這樣的系統通常可以被基本地抽象為圖。但我們有時必須考慮非成對關系和動態行為等更復雜的結構。2021 年的多項工作討論了動態關系系統，并展示了如何將 GNN 擴展到高階結構（如傳統上在代數拓撲領域處理的細胞和單純復雜結構）。我們可能會看到機器學習更多地采用該領域的其它思想。

6. 在圖機器學習領域中，推理、公理化和泛化的問題仍然是重要的有待解決的問題。 在這一年中，我們看到了受算法推理啟發的 GNN 架構的持續進步，以及在圖結構任務上更魯棒的與分布外泛化（OOD）相關的工作。如今，我們有了與廣義 Bellman-Ford 算法顯式一致的知識圖譜推理器，以及利用分布偏移的顯式因果模型的圖分類器。可以說，這些都是未來具有廣闊前景的更魯棒、更通用的 GNN 的發展方向。在2022年，這其中許多的課題可能將取得很大的進展。

7. 圖在強化學習中越來越流行，但可能還有很大的探索空間。 也許并不令人意外的是，強化學習中存在許多有關圖和對稱性的問題（通常在強化學習智能體的結構中，或在對環境的表征中）。2021 年，有一些研究方向試圖利用這種結構，并取得了不同程度的成功。我們現在對如何在強化學習中利用這些對稱性有了更好的理解（包括在多智能體系統中）。然而，將智能體建模為圖似乎不需要嚴格地使用圖結構。盡管如此，我們相信，圖和幾何賦能的強化學習在 2022 年具有廣闊的發展前景。

8. AlphaFold 2 是幾何機器學習領域的重要成果，也是結構生物學領域的范式轉變。 20 世紀 70 年代，諾貝爾化學獎得主 Christian Anfinsen 提出了預測蛋白質三維折疊結構的可能性。這是一項非常困難的計算任務，是結構生物學領域的「圣杯」。2021年，DeepMind 的 AlphaFold 2 打破了該問題之前的記錄，取得了讓領域專家們信服的準確率，并得到了廣泛的應用。AlphaFold 2 的核心正是一個基于等變注意力機制的幾何架構。

9. GNN 及其與 Transformer 模型的融合助力了藥物研發和設計。 實際上，GNN 的起源可以追溯到 20 世紀 90 年代的計算化學工作。因此，分子圖的分析是最流行的 GNN 應用之一，也就不足為奇了。2021 年，這一領域取得了持續的顯著進展，涌現出了數十個新架構和幾項超越對比基準的成果。將 Transformer 應用于圖數據也取得了巨大的成功，它有望模擬 Transformer 架構在自然語言處理領域成功的關鍵之處：能夠跨任務泛化的大型預訓練模型。

10. 人工智能主導的藥物發現技術越來越多地使用了幾何和圖機器學習。 AlphaFold 2 和分子圖神經網絡的成功讓人類距離通過人工智能設計新藥的夢想更近了一步。Alphabet 的新公司 Isomorphic Labs 標志著工業界「壓寶」于這項技術。然而，為了實現這類夢想，對分子間的相互作用建模是必須解決的重要前沿課題。

11. 基于圖的方法也助力了量子機器學習。 對于機器學習領域的大多數專家來說，量子機器學習仍然是一個神器的小眾方向，但隨著量子計算硬件的逐漸普及，它很快就成為了現實。Alphabet X 最近的工作顯示了圖結構歸納偏置在量子機器學習架構中的優勢，他們結合了這兩個貌似不相關的領域。從長遠來看，由于量子物理系統通常擁有豐富而深奧的群對稱性，我們可以將這種性質用于量子結構設計，幾何可能會扮演更重要的角色。

2021 年，幾何和基于圖的機器學習方法出現在一系列備受矚目的應用中

**

**

02

幾何在機器學習中的重要性與日俱增

如果我們必須選擇一個詞，它在 2021 年遍布圖表示學習的幾乎每個領域，毫無疑問，「幾何」一詞將是首選。

Melanie Weber：

「在過去的一年里，我們看到許多經典的幾何思想以新的方式在圖機器學習領域中得以應用」——Melanie Weber，牛津大學數學研究所 Hooke 研究員

Melanie 認為：值得注意的例子包括利用對稱性更高效地學習模型，最優傳輸相關概念的應用，或在表示學習中使用微分幾何中的曲率概念。

最近，人們對理解關系型數據的幾何特性和利用這些信息學習良好的（歐氏或非歐）表征產生了濃厚的興趣[1]。這催生了許多對特定幾何編碼的 GNN 架構。值得注意的例子是雙曲 GNN 模型[2]，該模型于 2019 年底作為學習層次化數據的高效表征的工具被首次提出。在過去的一年里，出現了大量的新模型和架構，它們能夠更高效地學習雙曲表征，或者能捕獲更復雜的幾何特征[3, 4]。此外，還有一類工作利用了等變性和對稱性等幾何信息[5]。

圖注：今年，在圖神經網絡領域，我們看到了幾何技術的激增。例如，等變信息傳遞在小分子性質預測、蛋白質折疊等生化應用中起到了關鍵作用。

Melanie 進一步研究了微分幾何，指出它在 2022 年存在許多潛在的應用方向：離散微分幾何（研究圖或單純復形等離散結構的幾何）已被用于分析 GNN。離散曲率概念是表征離散結構局部和整體幾何性質的重要工具。Topping 等人在論文「Understanding over-squashing and bottlenecks on graphs via curvature」中提出了曲率在圖機器學習中的一種重要應用[6]，在圖重連的背景下研究離散 Ricci 曲率，作者提出了一種新的方法來緩解 GNN 中的過壓縮效應。未來，離散曲率很可能與圖機器學習中的其它結構和拓撲問題聯系在一起。

Melanie 希望這些課題將在 2022 年繼續影響該領域，被應用于更多的圖機器學習任務。這可能會推動計算方面的進步，從而減輕實現非歐算法的計算挑戰，傳統的針對歐式數據設計的工具很難勝任這些工作。此外，離散曲率等幾何工具的計算成本很高，因此很難將它們集成到大規模應用中。計算技術的進步或專用程序庫的發展可以使相關從業者更容易使用這些幾何思想。

Pim de Haan：

「圖神經網絡設計者越來越重視圖豐富的對稱結構。」——Pim de Haan，阿姆斯特丹大學博士生

傳統上，GNN 采用具有置換不變性的消息傳遞方式，后來的工作利用群與表示理論構造節點置換群表示之間的等變映射。最近，類比于流形的局部對稱性（稱為度規對稱性），我們開始研究由同構子圖產生的圖的局部對稱性。我們發現應該用對稱理論而不是群分析某些圖中的問題，將對稱性整合到神經網絡架構中可以提高某些圖機器學習任務（例如，分子預測）的性能。

圖注：圖機器學習研究者利用圖中豐富的對稱結構。

Pim 預測道：在新的一年里，我希望看到范疇論成為一種廣泛應用于神經網絡的設計語言。這將給我們提供一種形式化的語言來討論和利用比以前更復雜的對稱。特別是，我很高興看到它被用于處理圖的局部和近似對稱，結合點云的幾何和組合結構，并幫助我們研究因果圖的對稱性。”

Francesco Di Giovanni：

「盡管圖是不可微的，但是許多在流形分析中被成功應用的思想正逐漸出現在 GNN 領域中。」——Francesco Di Giovanni，Twitter 機器學習研究員

Francesco 對偏微分方程方法特別感興趣，這種方法最初被用于研究曲面，Francesco 等人用它來處理圖像。他們探索了「圖重連」的思路，「圖重連」指的是對底層鄰接關系的修改，它屬于對幾何流方法的拓展。此外，他們還利用基于邊的曲率的新概念來研究 GNN 中的過壓縮問題，并提出了一種圖重連方法。對于保持和破壞對稱形式的分子，幾何也被認為是將 GNN 應用于分子的關鍵因素。

Francesco 認為，這個領域的研究剛剛興起。圖重連技術將可能在解決消息傳遞的一些主要缺陷方面發揮作用，這些缺陷包括在異類數據集上的性能和處理長距離依賴關系。我們希望能很快彌平在圖上的卷積和流形上的卷積之間的概念上的較大差異，這可能會導致下一代 GNN 的出現。最后，Francesco 很高興看到幾何變分方法進一步揭示了 GNN 內在的動力學，并希望能夠提供更有原則的方法來設計新的 GNN 架構、比較現有的架構。

圖注：Ricci 曲率、幾何流等微分幾何領域的概念被用于圖機器學習，改進 GNN 中的信息流。

Aasa Feragen:

**

**

「人們希望通過微分幾何等數學理論為那些精確的公式中存在非線性幾何的問題給出有理有據的解決方案。」——Aasa Feragen，哥本哈根大學助理教授

Aasa 認為，微分幾何在理解和利用深度學習模型的不確定性方面發揮著基礎性的作用。例如，使用模型不確定性生成數據的幾何表示，揭示在標準歐式表征下仍然十分模糊的生物信息。另一個例子是，利用由局部有向數據編碼的黎曼幾何對結構化的大腦連接的不確定性進行量化。

幾何模型通常用于經過深度預處理的數據，揭示其幾何結構。數據通常是根據原始數據估計的，而原始數據存在誤差和不確定性。Aasa 希望 2022 年有更多工作開始評估原始數據的不確定性對我們直接處理的數據的影響，以及這種不確定性應該如何傳播到模型上。Aasa 希望能夠將測量誤差納入對非歐數據的分析，努力打破統計和深度學習之間的鴻溝。

03

消息傳遞仍然是 GNN 的主導范式

Haggai Maron：

「我希望子圖 GNN 以及相應的重構猜想這一研究方向在新的一年里成果豐碩。」——Haggai Maron，英偉達研究科學家

由于等價于 Weisfeiler-Lehman 測試，圖機器學習領域遭遇到了消息傳遞范式的根本限制。Michael Brostein 在 2021 年預測道：想要繼續發展圖機器學習，就需要脫離 2020 年及之前在占據主導地位的消息傳遞機制。如今，這一預測在一定程度上得以實現。然而，盡管 2021 年已經出現了一些表達能力更強的 GNN 架構，但其中大多數仍然停留在消息傳遞機制的范圍內。

最近，一些研究者使用子圖來提高 GNN 的表達能力。Haggai Maron 曾指出：「子圖 GNN」底層的想法是將圖表示為其子結構的集合，在 Kelly 和 Ulam 在上世紀 60 年代有關圖重建猜想的工作就可以發現這一主題。如今，同樣的思想被用來構造富有表達能力的 GNN，而 GNN 的相關工作反過來又催生了新的、更精細的重構猜想。

04

微分方程催生了新的 GNN 架構

圖注：2021 年，一些研究工作通過離散擴散偏微分方程推導圖神經網絡。

Pierre Vandergheynst：

「這提出了一種新的觀點，讓我們可以使用 GNN 為下游機器學習任務提取有意義的信息，并將關注焦點從支撐信息的域轉移到使用圖作為針對信號的計算的支撐。」——Pierre Vandergheynst，洛桑聯邦理工學院

通過用微分方程表示的物理系統動力學重新構建圖上的學習，是 2021 年的另一個趨勢。正如常微分方程是理解殘差神經網絡的強大工具一樣（「Neural ODEs」被評為 NeurIPS 2019 的最佳論文），偏微分方程可以在圖上建立信息傳播的模型。我們可以通過迭代的數值計算求解這樣的偏微分方程，從而恢復出許多標準的 GNN 架構。此時，我們將圖看作對連續對象的離散化表示：

Pierre 認為，在 2022 年，使用圖作為針對給定數據集執行局部連貫的計算、交換信息的機制，并且關注數據的整體屬性，將成為一種新的趨勢。這將在無監督、零樣本學習領域激發人們的興趣。

05

信號處理、神經科學和物理學領域的舊觀點煥發新生

許多現代的 GNN 方法都起源于信號處理領域。圖信號處理（GSP）之父 Pierre Vandergheynst 從這個角度為圖機器學習方法的發展提供了一個有趣的視角：

圖信號處理對數字信號處理的擴展體現在兩個方面：（1）推廣了支撐信息的域。傳統的數字信號處理定義在低維歐式空間上，圖信號處理將其定義在了復雜得多、但是結構化的對象上。我們可以用圖（例如，網絡、網格曲面）來表示這些對象。（2）使用圖（某種最近鄰），從而拋開結構化域，直接處理一些數據集，表示樣本之間的相似性。這背后的思想是，標簽域繼承了一些可以使用圖定義并通過適當轉換捕獲的規律。因此，圖可以支撐整個數據集上的局部計算。GNN 中的一些有趣的思路可以追溯到這些早先的動機，2021 年有一些亮點工作延續了這一趨勢。 **

**

Pierre Vandergheynst：

「經典線性變換（例如，傅里葉變換、小波變換）提給出了一個具有某些數學特性（例如，平滑信號具有低頻傅里葉系數，分段平滑信號具有稀疏、局部的小波稀疏）的通用潛空間」——Pierre Vandergheynst，洛桑聯邦理工學院

過去，研究者們通過構建線性變換來揭示信號的特性。物理學家在設計基于群作用的不同對稱的等價變換方面尤為領先。這些群作用包括，仿射群上的小波變換、Weyl-Heisenberg 群的線性時頻分析等。關于數學物理中相干態領域的工作提出了一種通用的解決方法：通過使用群表示對函數進行參數化，從而構建某種線性變換。2021 年，一些出色的論文進一步引入了非線性和可學習的參數化函數，賦予了 GNN 對稱性，使它們在物理或化學問題中大放異彩：

圖注：群表示是一種信號處理和物理學領域的傳統工具，使我們可以推導出可以應用于流形的坐標無關的深度學習架構。

Pierre 認為，由于某些應用需求、適應性和可解釋性之間權衡（結構化變換域適應性較差但可解釋性很強，GNN 可以在二者之間取得很好的平衡），構建結構化潛空間的趨勢將會在 2022 年得以延續。

在傳統上，神經科學與信號處理密切相關。事實上，我們通過分析大腦傳遞的電信號來了解動物如何感知其周圍的世界。

Kim Stachenfeld：

「我的研究背景是計算神經科學，我首次在研究中用到圖是因為我希望表示任何動物如何學習結構。」——Kim Stachenfeld，DeepMind 研究科學家

我們可以通過圖這種數學對象來分析任何動物如何表示通過獨立的經驗片段獲取的相關概念，并將其拼接成一個全局連貫的、集成的知識體系。

2021 年，一些研究將神經網絡的局部操作和底層或內在的集合表征相結合。例如，一些有關 GNN 中不變性的工作使 GNN 可以利用圖結構以外的幾何和對稱性。此外，使用圖拉普拉斯特征向量作為圖 Transformer 的位置編碼，使 GNN 可以在不受其約束的條件下，利用關于內在、低維幾何性質的信息。

Kim 對 GNN 在神經科學和更廣闊的領域中的應用感到十分興奮，尤其是在超大規模真實數據上的應用。例如，使用 GNN 預測交通狀況、對復雜物理動力學進行仿真、解決超大規模圖上的問題。將 GNN 用于神經數據分析的工作也紛紛涌現。這些問題對現實世界產生影響，它們要求模型能夠高效擴展并泛化，同時仍然能夠捕獲真正的復雜的動力學。GNN 的優化目標是對結構和表達能力的平衡。

06

對復雜系統建模不僅需要圖

Tina Eliassi-Rad：

「2021 年諾貝爾物理學獎授予了對復雜系統的研究。從根本上說，復雜系統是由實體及其之間的交互組成的。復雜系統通常被表示為復雜網絡，而這為圖機器學習提供了動力。」——Tina Eliassi-Rad，東北大學教授

隨著圖機器學習逐漸成熟，我們需要仔細分析以不同形式體現的系統依賴（例如，子集、時間、空間），通用的數學表征（圖、單純復形、超圖），它們的底層假設。沒有完美的方法可以表示一個復雜系統，檢驗來襲一個系統的數據集時所作的建模決策可能并不一定能遷移到另一個系統上，甚至不能遷移到來自同一系統的另一個數據集上。然而，考慮與我們選擇的數學表示法相關的系統依賴，為圖機器學習指出了新的研究機會。

Pierre Vandergheynst：

圖并不能為所有的復雜系統提供適當的模型，我們需要圖之外的方式。2021 年，一些優秀的論文提出了通過圖的泛化獲取的新的結構化信息域。使用單純復形和代數拓撲的其它思想來構建新的神經網絡在理論和實踐上對 GNN 進行了提升。這一趨勢在 2022 年會延續下去，我們會深入研究通過代數拓撲或微分幾何提供的大量結構化數學對象。

圖注：將圖拓展到胞腔復形或單純復形，可以傳遞更復雜的拓撲消息，從而產生超越 WL 測試表達能力的 GNN 架構。

Cristian Bodanr：

「我們很可能會看到采用更奇特的數學對象，這些數學對象迄今為止還鮮為探索。我相信這些拓撲方法降維分析和理解 GNN 提供一套新的數學工具。」——Cristian Bodnar，劍橋大學博士

Cristian Bodnar 熱衷于代數研究拓撲和圖機器學習之間的聯系。在過去的一年中，單純復形和胞腔復形上的卷積和消息傳遞模型解決了許多 GNN 的缺陷（例如，檢測特定的子結構、捕獲長距離和高階交互、處理高階特征、跳出 WL 測試的層次）。他們在分子相關的問題、軌跡預測和分類等任務中取得了目前最優的結果。

2022 年，Cristian 預計這些方法將會擴展到令人激動的新應用上，例如：計算代數拓撲、鏈接預測、計算機圖形學，等。

Rose Yu：

「我對圖機器學習在學習時空動力學中扮演的角色感到十分興奮。」——Rose Yu，UCSD 助理教授

時空圖是一種重要的復雜網絡系統，它的結構會隨著時間演變。Rose 認為，COVID-19 預測、交通預測、軌跡建模等應用需要捕獲高度結構化的時序數據的復雜動力學。圖機器學習有能力捕獲時間序列、空間依賴之間的交互，以及動力學中的相關性。

2022 年，我們樂見時間序列和動態系統中的思想與圖機器學習融合。希望這些思想將催生新的模型設計、訓練算法，幫助我們更好地理解復雜動態系統的內在機制。圖神經網絡具有置換對稱性（不變性或等變性），對稱性發現是圖表示學習領域中一個被忽視的重要問題。但這種全局對稱性可能從根本上被限制，有一些優秀的工作將圖神經網絡推廣到置換之外的對稱群和局部對稱中。我們希望看到更多關于圖神經網絡對稱性的研究。

參考文獻： [1] M. Bogu?á et al., Network geometry (2021) Nature Reviews Physics 3:114–135. [2] Q. Liu, M. Nickel, D. Kiela, Hyperbolic Graph Neural Networks (2019) NeurIPS. [3] M. Law. Ultrahyperbolic Neural Networks (2021) NeurIPS. [4] Y. Zhang et al., Lorentzian Graph Convolutional Networks (2021) WWW. [5] V. G. Satorras, E. Hoogeboom, M. Welling, E(n) equivariant graph neural networks (2021) ICML.