提綱

• 戰術無人機營--一個場景
• 背景和框架
  • 未來戰斗行動的開展
  • 人工智能
  • 政治和法律框架
• 目標
  • G1：提高日常工作的效率
  • G2: 提高行動能力
  • G3: 解決潛在的能力差距
• 驅動力
  • DF1: 潛在對手的人工智能能力
  • DF2：作戰行動的動態性不斷增強
  • DF3: 更少的合格人員
  • DF4: 資源短缺
  • DF5: 信息的數量和密度
  • DF6：信息技術和人工智能發展的動態性
• 陸軍發展的行動領域(FoA)
  • FoA1：現有系統的進一步發展
  • FoA2：新的武器系統和武器裝備
  • FoA3：人員/物資的人工智能能力管理
  • FoA4：在培訓中使用人工智能
• 組織結構的行動領域
  • 招聘人工智能專家
  • 軍隊、研究和工業之間的合作
  • 國際合作
  • 使用測試和實驗結構
  • AI數據基礎設施和組織
• 總結
• 附件：德國陸軍概念和能力發展中的實施措施

在軍事上有許多行動領域使用人工智能。除了對正在使用的系統進行持續的進一步開發和人工智能鑒定，特別是具有新特性的未來系統將能夠從人工智能的應用中受益。日常工作中的人員和物資管理，以及培訓，也提供了主要的潛在行動領域。

一個精心定義的政治和法律框架是必不可少的，特別是對于軍事力量的使用。因此，目前和將來使用自動化和自主系統必須符合FMoD的政治和法律要求。除了政治和法律方面，從軍事角度來看，使用致命性自主武器系統也是一種不可取的、非預期的選擇。

人工智能是一種高技術，需要大量的專業知識和開發努力。為了實現這一目標，德國陸軍正在尋求與歐洲工業和研究的密切合作。在德國陸軍發展的背景下已經建立的技術與能力（TmC）模式正被用作進一步活動的起點。

為了能夠充分應對未來所有與人工智能相關的挑戰，德國陸軍必須擁有合格的人工智能人才。在這方面，聯邦國防軍面臨著來自民用部門的強烈競爭。為了滿足短期內的需求，軍隊正在依靠現有的OR/M&S人員。

目前所有的數據表明，利用人工智能的方法和程序可以大幅提高陸軍的效率和效力。為了能夠適當地應對即將到來的挑戰，必須采取與組織程序和結構有關的措施。因此，"陸軍中的人工智能 "立場文件建議為陸軍設立人工智能工作臺，為陸軍設立人工智能開發中心，為陸軍設立人工智能數據中心。只有這樣才能全面覆蓋人工智能領域的創新、人工智能系統的培訓和數據的提供。

下文將在附件中詳細介紹使早期實現成為可能所需的所有措施。

德國陸軍概念和能力發展中的實施措施

2018/2019年，在德國陸軍概念和能力發展中心開展了關于人工智能（AI）主題的 "技術與能力 "形式。在一系列研討會的過程中，根據北約綜合作戰計劃指令（COPD），確定了人工智能在陸軍所有能力領域以及武器和服務中的應用，并按行動路線進行分類。下面詳細列出了五個應用領域，每個領域都有不同的行動路線。

根據內容和發展的成熟度，這些措施和行動方針的實施是通過CD&E和R&T活動進行的，或者在CPM的范圍內通過適當的舉措進行。與聯邦國防軍的能力概況相匹配是至關重要的。陸軍概念和能力發展中心負責實施。

• 1 圖像分析

這個領域匯集了基于人工智能的目標識別和分類系統領域的所有活動。這些項目正在逐步建立起一種功能，以模塊化的方式擴展陸軍的各種保護和效果組件，包括從ISR到基于效果的自動系統。一個重點是將現有的民用方法用于軍事目的。

• 2 戰術無人機

這一領域匯集了與不同幾何形狀的小型無人機系統有關的所有活動。這些活動包括從偵察到障礙物，再到進攻性武器系統。不管是什么活動，重點都是在防御和部署自己的TaUAS的能力。一個重要的挑戰是，特別是創造出足夠堅硬和強大的TaUAS，使其能夠使用被動傳感器系統，在非常有限的通信和沒有GPS的情況下，在白天和晚上半自主地行動。

• 3 下一代戰斗管理系統（NGBMS）

這一領域匯集了所有側重于指揮和控制的活動。它既包括實現單一的功能，在適用的情況下，也可以在已經進行的活動中進行改裝，也包括將可能用于超戰爭情況的系統和方法概念化。沒有任何跡象表明有任何明顯的雙重用途。挑戰在于對指揮和控制過程的相關部分進行建模，以創建超戰可行的指揮和控制組件。理想情況下，指揮和控制過程的一部分可以按照博弈論的思路被描述為一個游戲，這樣人工智能就可以在決策支持或指揮和控制的自動手段的意義上使用。MUM-T是這方面的一個關鍵挑戰。

• 4 材料和基礎設施

這一領域匯集了后勤、維護和IT管理領域的所有活動。該行動路線包含了各種可以相對快速實施的措施，并有助于更好地應對當前在支持方面的挑戰。許多力爭實現的功能正在民用部門以非常類似的形式使用或開發。

• 5 分析方法

這個領域匯集了各種單獨的解決方案，其中人工智能和大數據可以為有關數據分析和優化的經典問題提供支持。數字化和人工智能提供了一個新的質量機會，因為某些問題（識別，......）可以實時和提前解決（也適用于車輛）或技術設備（如防火墻）。

在當代戰爭中，數據科學對于軍隊實現信息優勢至關重要。在這項研究中，通過綜合的、半系統的文獻綜述，對158篇同行評議的文章進行了分析，以獲得對該主題的概述。該研究考察了文獻在多大程度上關注數據科學在軍事決策中的機會或風險，并按戰爭級別（即戰略、戰役和戰術級別）進行區分。

在社會科學文獻中觀察到對數據科學風險的關注相對較多，這意味著政治和軍事決策者受到對數據科學軍事應用的悲觀看法的影響過大。然而，在正式科學文獻中，幾乎沒有涉及到數據科學的感知風險。這意味著對數據科學軍事應用的擔憂并不是針對能夠實際開發和增強數據科學模型和算法的受眾。對軍事數據科學的機會和風險的跨學科研究可以解決觀察到的研究差距。

考慮到戰爭的級別，與其他兩個級別相比，觀察到對戰役級別的關注相對較少，這可以說是一個研究空白。軍事數據科學的機會大多出現在戰術層面。相反，對戰略問題的研究大多強調了軍事數據科學的風險。因此，對軍事戰略數據科學應用的特定領域要求幾乎沒有表達。在當今的戰爭中，缺乏這樣的應用可能最終導致次優的戰略決策。

1 引言

如今，數據科學和相關概念吸引了大眾的關注。然而，分析數據以支持決策并不新鮮。考慮一下歷史文明中著名的人口普查的例子，可以追溯到巴比倫帝國（公元前4000年）。巴比倫人利用人口普查來調節糧食庫存，以確保整個人口有足夠的食物[1]。然而，相對較新的是捕捉一切事物和每個人的數據的傳感器的數量，產生的數據量不斷增加。結合計算能力的急劇增加，這為廣泛的行業帶來了分析的機會，例如癌癥研究[2]、金融[3]和公共服務[4]。對軍隊來說也是如此。除了這些機會之外，決策者也面臨著由于數據量不斷增加而帶來的挑戰。僅舉幾個例子。如何在決策過程中整合所有相關數據？我們使用哪些算法，為什么？我們是否被允許將所有可用的數據用于所有目的？然而，在競爭環境中，主要的挑戰和決定勝負的因素之一可能是比競爭對手更快地處理更可靠和詳細的數據的能力。在商業上，這相當于贏得或失去金錢或市場份額；在政治上，這可能最終導致地方或全球范圍的權力轉移。因此，軍隊--作為政治的工具--必須努力爭取權威的信息地位，這一點也得到了政策制定者的認可，例如[5]，[6]。

為了實現這種信息優勢，有必要處理所謂的戰爭迷霧，即與戰爭密不可分的不確定性。在當代信息環境中，數據科學對實現這一地位至關重要。換句話說，數據科學既是利用大數據機會的前提，也是回答那大量數據帶來的挑戰的前提。

隨后，關于戰爭行為中的信息優勢有大量的研究，例如[7]、[8]、[9]、[10]。有關軍事決策中的數據科學的研究大多集中在軍事行動的戰術層面上的數據科學機會，例如[11]、[12]、[13]，而關于軍事戰略決策中的數據科學的研究卻很少。那些針對戰略層面的研究主要關注算法決策的風險而不是機會，例如[14]、[15]、[16]。據我們所知，目前還沒有關于數據科學在各級軍事決策中的機會和風險的廣泛文獻調查。為彌補這一空白，我們重點關注以下研究問題：

• 問題1：關于軍事決策中的數據科學的學術文獻在多大程度上集中于機會或風險？

• 問題2：這種關注點是否因研究集中的戰爭級別而不同？如果是的話，這意味著什么？

• 問題3：在安全研究學科之外，有哪些關于數據科學的研究可以在理論上加強軍事決策？

我們對數據科學在軍事決策中的作用進行了綜合的、半系統的文獻回顧，對目前關于這一主題的研究進行了嚴格的評估，并確定了未來研究的差距。在社會科學文獻中，我們發現人們對數據科學在軍事上的效用持相對悲觀的態度，在戰略層面的懷疑程度最高。因此，我們建議加強對軍事數據科學的跨學科研究。

本研究的主要貢獻是對有關在軍事決策中使用數據科學的知識體系進行了廣泛評估。此外，還指出了一些未來研究的機會。除了豐富學術討論外，這也有助于改善實踐中的軍事戰略決策。

本文的其余部分結構如下。為了把我們的研究放在一個更廣泛的角度，第2節概述了先前關于軍事決策中的數據科學的研究，我們還提供了數據科學的定義和軍事決策發生的戰爭級別。第3節描述了研究方法，解釋了為本文獻綜述尋找相關文章的過程，我們在第4節介紹并討論了我們的主要發現。在結論部分，我們概述了本文獻綜述的理論和實踐意義，以及我們研究的局限性。

結論

為了在信息時代保持競爭優勢，軍隊必須利用數據和計算能力來獲得權威的信息地位[5]。然而，數據科學在軍事決策中的應用還沒有得到充分的發揮。我們對軍事決策中的數據科學進行了綜合的、半系統的學術文獻回顧，以獲得對該主題的概述，并對其進行批判性評估。此外，我們還分析了文獻在多大程度上關注了數據科學的機會或風險，以及這與研究集中在的戰爭層面有什么關系。我們在文獻回顧中包括了158篇文章。在這個結論部分，我們概述了我們研究的理論和實踐意義以及局限性。

5.1 理論和實踐意義

首先，社會科學文獻顯示出對數據科學風險的相對關注。由于我們假設對軍事決策感興趣的政策制定者很可能主要是由社會科學文獻提供信息，這意味著政治和軍事政策制定者受到對數據科學在軍事領域應用的悲觀看法的影響過大。

同時，在正式的科學文獻中，幾乎沒有涉及數據科學的感知風險。這意味著對數據科學在軍事上的應用的擔憂并沒有針對那些能夠實際開發和加強數據科學模型和算法的受眾。這表明，這些模型的進一步發展不會適合所有具體的軍事決策需求。我們相信，對軍事數據科學的機會和風險的跨學科研究可以解決所觀察到的研究差距。

當我們放大軍事決策時，我們觀察到與其他兩個層面相比，戰爭的操作層面的關注度相對較低，這表明在軍事操作數據科學方面存在研究空白。

軍事數據科學的機會大多出現在戰術層面。相反，強調軍事數據科學風險的研究往往主要集中在戰略層面，其中核威懾最引人關注。因此，軍事戰略數據科學應用的特定領域要求幾乎沒有被表達。在當代信息環境中，缺乏軍事戰略數據科學可能會導致次優的戰略決策。這本身就是一個道德問題。因此，進一步研究軍事戰略數據科學的機會對軍隊來說是非常有價值的。

我們為這種未來的工作提供了一些建議，主要來自非軍事文獻，再次強調了跨學科研究在加強軍事決策方面的價值。數據科學可以改善這種決策。顯然，這并不是說數據科學應該在決策過程中完全取代人類，但我們至少應該探索各種可能性，為決策提供最佳參考。

對軍事數據科學的進一步研究（特別是在戰略和行動層面）不僅是學術責任。我們同意梅茨的觀點，這也需要培養未來的戰略領導力，注重創業精神[61]。畢竟，只有當數學、計算機科學和商業知識齊頭并進的時候，數據科學才會成功。而后者又取決于商業領袖如何設想他們的未來。

5.2 局限性

首先，由于我們在廣泛的領域中進行了跨學科的文獻回顧，不可能選擇所有的相關文獻。因此，我們對與各學科相關的期刊進行了初選。鑒于現有期刊的總數，這種選擇本身可能會影響我們研究的有效性。為了盡量減少這種影響，我們又進行了一次電子搜索，如我們的方法論部分所述。

第二，我們只審查了學術文獻。未來的研究可能會受益于包括關于數據科學在軍事決策中的應用的非學術來源。

總而言之，盡管對某些文章是否強調數據科學的風險或機會的分類可能被認為是未定的，但我們相信，仔細閱讀最后一組論文的結果與所提出的評估類似。

摘要

本文是挪威國防大學學院更廣泛的研究和開發項目的一部分，該項目旨在探索各種兵棋推演和軍事演習的效用和潛力。這篇文章旨在激發對兵棋的使用和問題進行討論，并激發產生新的和更好的建議。因此，本文包含意見和學術思考。本文討論了兵棋推演、其多種不同類型、它們的實際用途，以及在使用兵棋以產生有用結果時出現的一些危險或陷阱。本文的目的是促進辯論，而不是給出任何明確的結論。

簡介

"兵棋推演"這個詞對不同的人意味著許多不同的含義。在某些情況下，存在著截然不同的解釋，從與軍事決策過程（MDMP；見CALL，2015）中的特定階段有關的極其狹窄的定義，到記者和大部分公眾傾向于將戰爭之外的所有軍事努力，包括現場訓練和計算機模擬，視為兵棋推演。這個詞有許多不同的使用方式，并帶有許多情感成見，這取決于相關人員的經歷。問題的一部分在于"'兵棋推演'沒有單一的、普遍接受的定義"（英國國防部，2020）。

即使是那些在專業基礎上參與兵棋推演的人，也很難接受現有的眾多定義，這些定義在定性技術和對更多分析性產出的定量要求之間可能有所不同。對于是否應該包括計算機模擬，或者 "兵棋推演"是否僅指人工技術，也存在分歧。有些人甚至不認可寫成 "war gaming"或"wargaming"。

與許多軍官一樣，我不關心學術定義的細枝末節，而更關心與我所承擔的任務有關的特定技術的有效性。我認為，任何 "兵棋推演"的定義都只能與兵棋推演所支持的具體任務和目的相關，而不是任何全面的概括。我還認為，試圖給"兵棋推演"下一個萬能的定義，不僅是徒勞的，而且實際上對更廣泛地采用這種技術來解決國防需求是有害的。因此，針對本文目的，我將以最廣泛的定義來使用 "兵棋推演"，包括所有涉及人類決策者的教育、培訓和分析目的，但不包括實際戰斗。

兵棋推演

兵棋推演是一種決策技術，它提供了結構化的、但在智力上是自由的、可以避免失敗的環境，以幫助探索什么是有效的（勝利/成功），什么是無效的（損失/失敗），通常成本比較低。兵棋推演是一個對抗性挑戰和創造性的過程，以結構化的形式提供，通常有裁判或裁決。兵棋推演是由玩家決策驅動的動態事件。除了敵對的行動者，它們還應該包括所有抵制計劃的 "反對 "因素。兵棋推演的核心是：

• 玩家。

• 他們做出的決策。

• 他們創造的敘事。

• 他們的共同經歷；以及

• 他們所獲得的教訓"。(英國國防部, 2020)

兵棋推演涵蓋了廣泛的方法和技術，旨在優化其與目標相關的產出，從那些旨在利用想象力、創造力和原創思維的方法和技術，到那些旨在支持軍事決策過程的方法和技術，以及那些旨在產生定量數據以支持采購和部隊開發的方法和技術。

作者的經驗

由于這是一篇以實踐為導向的文章，關注的是兵棋推演在現實生活中的實際應用，以支持特定的任務和目的，因此也許值得花一些時間來闡述我自己作為一個兵棋玩家的實踐以及我過去在軍隊中舉辦訓練活動的經驗。我是1979年在桑德赫斯特皇家軍事學院開始接觸兵棋推演的，當時是在帕迪-格里菲斯（已故）的指導下，他是一位軍事歷史學家、兵棋家和多產的軍事歷史和戰術作者。在接下來的幾年里，我參與并幫助組織了許多大規模的兵棋推演活動，這些活動都是利用桑赫斯特的設施，由帕迪-格里菲斯和其他人負責。

兵棋推演的目的

有幾個不同的，往往是重疊的，你可能希望進行兵棋推演的原因。根據30年的經驗，我提供了一個主要原因的簡短清單，如下：

• 了解系統能力。

• 有效地了解態勢。

• 教育。

• 訓練。

• 當前部隊戰略或戰術。

• 未來部隊發展（包括作為采購過程的一部分）。

• 軍事決策過程的一部分。

• 了解團隊。

• 預測可能的未來。

• 了解系統能力。

2015年，我應邀在中國長沙的國防科技大學講授仿真和建模。作為一系列講座的一部分，我被邀請向軍校學生演示一個簡單的 "自由兵棋（free-kriegsspiel）"（一種很少或沒有書面規則的兵棋，裁決是基于一個高級裁判的經驗，而不是復雜的規則和程序）。這是在大學體育館進行的，由模擬學生充當裁判員（之前接受過技術培訓），同時進行25場10人的同一游戲。

我觀察到，中國學生傾向于尋找 "答案"，而不是探索學習或自己思考，所以當一個學生質疑為什么有人會進行兵棋推演時，我選擇指導他們玩游戲，然后告訴我他們認為游戲的目的是什么。

在比賽中，關于戰術的討論非常少（以至于一個玩家在得知有炮火支援時，建議連續轟炸敵人的陣地，直到敵人死亡）。大部分的問題和討論都與武器的能力和效果有關。有人向我提問，如 "某個武器系統的有效射程是多少？"，我回答說，作為解放軍的軍官，他們應該知道這些信息。這導致了許多討論、信息共享和對軍事手冊的研究。會議結束時，學生們一致認為，與死記硬背相比，這是一種非常高效和有效的信息教學方式。大多數人還同意，這顯然是進行這樣一個兵棋推演的主要原因。我并不反對。

高效的態勢理解

與上述見解相聯系的是，約翰-康普頓博士3在2018年的 "連接美國 "專業兵棋推演會議上討論說，兵棋推演是向參與者介紹軍事態勢的一種極其高效和有效的方式。這是因為信息的呈現方式與它所處的環境直接相關，而且，由于它通常是通過發現學習的過程獲得的，所以它往往更容易在解決問題時發揮作用（Alfieri等人，2011）。這與我在英國常設聯合部隊總部工作時，在俄羅斯吞并克里米亞后，就波羅的海局勢進行的兵棋推演的經驗相吻合。

最終，我為總部的辦公人員就波羅的海局勢進行了四小時的矩陣游戲。游戲結束后，大家一致認為，游戲使參與者迅速掌握了不同的要素和關于當前局勢的重要背景。一位玩家說："我現在知道了我所知道的，并理解了我不知道的，以及我需要研究的東西。一位J2的工作人員對此提出質疑，他指出這些信息已經以電子郵件簡報的形式提供，并指著一疊至少300毫米高的紙質打印件。大多數工作人員的回答是 "太長了--沒看"。

教育

兵棋推演在教育中特別有效，正如上面提到的發現學習的背景。"我聽了就忘，我看了就記，我做了就懂"（Seok，2011）。然而，與所有基于游戲的學習一樣，也有一些注意事項，那就是需要仔細管理，所選擇的游戲類型應該是有重點的，并且與預期的學習結果相關（以及在現有的時間內可以實現）。也有很好的證據表明，試圖讓不熟悉或不習慣這種方法的教師強制使用基于游戲的學習，可能弊大于利（Whitney等人，2014）。

將游戲用于教育目的需要考慮的其他因素是，游戲不一定要玩到最后（避免得出 "我輸了，所以游戲不好 "或 "我贏了，所以游戲好 "的結論--這兩種結論對教育理解都是有害的），以及游戲不一定要完美地表現現實--游戲的簡易性和學生的參與性更為重要。事實上，如果游戲是不完美的，教員邀請學生就如何改進游戲提出建議，可以產生比游戲本身更多的洞察力和智能對話。因此，在一節基于游戲的學習之后，進行適當的匯報是非常重要的，以確保游戲與要達到的學習結果相聯系。

培訓

兵棋推演可以在培訓中發揮作用，因為兵棋推演往往比其他培訓方法更容易獲得，更容易接觸，而且成本更低（允許有更多的機會進行練習--刻意練習比天賦更重要；見Ericsson等人，1993）。就像上面的評論一樣，游戲是在一個特定的環境中進行的，這有助于信息的保留，并有助于理解游戲中描述的情況。

然而，與教育游戲不同的是，特別重要的是，游戲機制和裁決要根據對現實世界表現的期望進行驗證，以防止對游戲的價值失去信心或從體驗游戲中獲得錯誤的教訓。

當前部隊戰略或戰術

2019年，駐扎在蘇格蘭愛丁堡的3號步兵營（一個輕型步兵營）的指揮官要求我協助開展一些戰斗小組級別的兵棋推演。該部隊將從輕步兵重新定位，成為一個機械化營，配備輕型裝甲的偵察車、支援車和運兵車。其目的是為了獲得一些洞察力和理解，以適應裝備這些車輛所需的戰術和程序的變化。

很快就可以看出，作為在阿富汗使用的 "緊急行動需求 "而購買的車輛，完全不適合機械化營所期望的更廣泛的作用。當把它放在一個特定的兵棋推演場景中，試圖在不同的地形中使用不同的車輛，并對付另一種更常規的敵軍時，很明顯，如果按照最初的設想使用這些車輛，會有很大的缺點。用于偵察的車輛雖然裝甲較輕，但缺乏對乘員的保護，特別容易受到炮彈碎片和敵人裝備的大炮的偵察。運兵車雖然在阿富汗的地形上對簡易爆炸裝置有很好的防護作用，但完全不適合在另一種地形上越野行駛。

事實上，所有這些因素都被暴露出來，在場景的操作背景下，在所有相關的利益相關者在場的情況下一起工作，這使得什么可能有效，什么不可能有效變得很明顯。這導致了對如何改變戰術以減少這些風險，或對部隊可以承擔的任務和角色進行限制的清晰理解。

未來部隊的發展

當考慮將未來部隊的發展作為兵棋推演的目的之一時，這分為兩個主要領域：兵棋推演作為分析過程的一部分，以確定未來采購的數量和性能；以及兵棋推演，以確定這些新能力在特定場景下的最佳應用。前者最有可能由研究機構進行，后者則由軍事單位和編隊進行。

應該注意的是，在用于分析目的的兵棋推演中，游戲規則、數據和程序必須盡可能準確，以確保游戲產生的數據同樣準確；游戲的簡易性和玩家的參與是次要的（與教育戰爭游戲相反）。

軍事決策過程的一部分

可以說，兵棋推演是軍事決策過程中最關鍵的部分之一，因為它將指揮官的計劃從概念變成了細節，并使部隊的戰斗力同步于行動。這通常是軍事人員最熟悉的戰爭演習類型，也是由于對如何正確執行戰爭演習的誤解，以及缺乏分配給這一職能的時間和專業知識而通常做得不好的類型（CALL, 2020）。

戰術演練應該被用來評估作戰方案（COA）完成任務的潛力，以應對不同對手COA的預見性反擊，以及識別和糾正不足之處。然而，真正的價值在于它能夠允許指揮官和參謀部將行動的開展可視化，并深入了解對手的能力和行動，以及作戰環境的狀況（AJP-5，2019）。

基本要素是在作戰的背景下了解計劃，以及敵人可能采取的作戰方針。

了解團隊

托馬斯-謝林是美國經濟學家，馬里蘭大學學院公園公共政策學院的外交政策、國家安全、核戰略和軍備控制教授。他因 "通過博弈論分析提高了我們對沖突和合作的理解 "而被授予2005年諾貝爾經濟科學紀念獎。他還根據自己在戰略層面上的博弈經驗，在美國和俄羅斯之間建立了核熱線（Miller, 2021, pp.176-191）。

在蘭德公司的論文《27年后的危機兵棋推演》（Levine et al., 1991）中，Schelling寫道："最大的好處是他們（參與者）與一些他們將來可能有機會合作或依賴的人變得親密無間，或者至少是隨意地熟悉起來。" 這被明確為兵棋推演的一個重要副產品，以及我所說的場景理解和系統能力。

預測可能的未來

"兵棋推演不是預測性的。兵棋推演說明了可能的結果，所以有可能從兵棋推演的一次運行中發現錯誤的教訓。兵棋推演可以說明某些事情是合理的，但不能明確地預測它是可能的。(英國國防部, 2020) "

許多作者，包括支持使用兵棋推演的作者和批評兵棋推演方法的作者，都對兵棋推演的預測能力提出了可怕的警告。人們總是對兵棋推演的失敗提出批評，從未能預測1899-1902年布爾戰爭的心理或經濟方面的決定性因素（Caffrey，2019），到商業兵棋推演 "遙遠的平原"（關于阿富汗戰爭）的設計者無法預測2021年8月阿富汗軍隊出現災難性崩潰的可能性（BGG，2021）。

如果兵棋推演在過去的122年里都不能預測未來，盡管有些作者聲稱它們可以（Dupuy, 1985），那么它們在這個領域有什么用處呢？

答案在于它們能夠在關鍵的利益相關者在場的情況下，暴露出一個計劃的多面性，同時面對克勞塞維茨式的摩擦（Watts，2004）和敵人行動所能帶來的所有對抗性因素。這種方法，如果執行得當，有一種獨特的能力，可以暴露任何未來計劃的弱點，排除那些根本行不通的行動和意圖，并完善可能結果的未來錐（Voros, 2017），突出預測的、合理的和可能的未來，并允許更好地理解與之相關的風險。

兵棋推演可能無法預測實際的未來，但它們善于排除那些根本行不通的未來計劃，并允許更好地理解在執行一項行動時可能發生的一系列結果。

兵棋推演的誤用

在簡要討論了你可能希望進行兵棋推演的一些原因之后，重要的是要介紹一下為專業目的進行兵棋推演所涉及的陷阱和危險。

然而，在開始之前，有必要參考一下關于這個特定主題的開創性工作："兵棋推演的病癥"（Weuve, et al, 2004）一文。我所做的任何評論只是反映了對我所進行的兵棋推演影響最大的問題，由于我在職業生涯的后半段是一名 "教育者"，這影響了我的思維，也意味著在兵棋推演的某些領域（訓練和分析），我的經驗比較有限。

幻想游戲

以色列軍方堅定地認為，任何具有虛構背景的訓練活動，包含專門為該活動創建的數據，不僅是一種浪費，而且浪費了對真實世界的理解和洞察的機會 - 他們是絕對正確的。你永遠不應該使用假的場景。

除非你必須這樣做。

在某些情況下，對運行有關真實潛在敵人的游戲存在政治敏感性。大多數情況下，這些都是誤導，實際上對活動的價值有害。在真實的潛在情況下進行游戲的行為不僅本身非常有價值，而且如果消息傳到反對派那里，那就更好了，因為這將產生威懾作用。更不用說，如果一般公眾認為我們是在 "瞎編"，他們會認為我們不認真對待這種情況，是瘋了。畢竟，20世紀20年代的 "紅色戰爭計劃 "是美國針對英國和加拿大的一套真實的計劃方案，是由一個剛剛在歐洲作為英國的盟友之一打了一場大仗的國家設計的（Major, 1998, pp.12-15）。

如果你被迫擁有一個虛構的場景，基本上有三種選擇：從頭開始生成場景，增加一個額外的國家，以及改變名稱。

從頭開始構建場景是最糟糕的選擇。所需的工作是巨大的，根據游戲的層級，你可能需要創建整個大陸、國家和其他社會政治集團。你可能需要繪制地圖，以及關于友軍和敵軍作戰命令的深層背景數據，這可能是非常耗時的。

添加一個額外的國家是一個稍好的選擇，因為地緣政治環境是真實的世界，但在危機地區插入了一兩個虛構的國家。這減少了準備工作的負擔，通常允許使用真實的地形（重新劃定一些邊界），并有一個可否認的外衣。

改變名稱是最好的選擇。它允許所有相關人員使用現實世界的情況，并將變化降到最低，而我們決定費盡心思改變名稱的事實表明，我們不希望冒犯他人，同時顯然允許在真實的地緣政治情況下進行訓練。然而，不要搞錯了--"僅僅改變名稱 "本身就可能是一項巨大的努力。我曾參與過一次軍團級的演習，我們要使用西德的地理環境，我們只是把它重新命名為 "紅土"。準備工作已經到了高級階段，當參加演習的德國師級人員震驚地發現，只有國名改變了，但城鎮、地區或河流的名稱都沒有改變。例如，將下薩克森州作為 "敵人的領土"，這在政治上被認為是不可接受的，而且，由于計算機模擬無法在現有的時間內進行修改，因此不得不完全重寫設定，使用英國的地理環境，因為這是當時唯一存在的替代模擬地形。

人們經常表示擔心，如果使用真實世界的數據，場景將不得不成為機密；增加的費用和努力是一個數量級的。有幾件事情需要考慮：

• 用真實的數據進行訓練是更好、更現實的。它將吸引在現實生活中處理情況的個人更高水平的參與，并提供一個機會在事件中檢查數據的有效性和背后的假設。在大多數情況下，在高分類的情況下，實際需要的數據非常少，但額外的成本可能非常高。

• 根本不需要使用分類數據。完全可以使用通常用于 "訓練 "或公共領域的數據，以較低的分類來設計事件，將其設置在現實世界中。與從完全 "編造 "的數據中得出的那種教訓相比，認為這可能會產生 "錯誤的教訓 "的論點顯然是可笑的。

在過去，這不是一個問題，因為人們普遍認為戰爭與和平之間有一條分界線。這意味著，與手頭的軍事任務相比，對地緣政治局勢、當地政治或宗教的詳細了解被置于次要地位。然而，在當前的不對稱威脅環境中，這種復雜性變得極為重要，因此，為了解決這個問題，場景模擬變得越來越復雜了。

問了錯誤的問題

當一位高級軍官說他希望通過一個特定的兵棋推演來 "證明我們需要更多的[某種]導彈 "時，我實際上也在場。他沒有按照兵棋推演的原意使用兵棋，而是為了研究一個問題，以收集有助于為辯論提供信息的見解，他已經決定了答案，只是想通過兵棋推演來證實他的偏見。

這種行為比你想象的要多，不一定像上面的例子那樣明目張膽地發生，但在減少兵棋推演的范圍時，表面上是出于預算或編程的原因，所以被審查的場景被迫處理如此少的替代方案，結果是預先注定的。

英國皇家海軍進行了一次兵棋推演，研究格陵蘭島、冰島和英國之間的差距，這是大西洋北部的一個區域，在這三個陸地之間形成了一個海軍扼制點。其目的是確定是否可以有效地發現俄羅斯北方艦隊的潛艇運動進入北大西洋。一些憤世嫉俗的分析家認為，這場戰爭的目的是為了 "證明 "皇家海軍沒有足夠的潛艇來發揮效力。他們感到驚訝的是，這個假設在游戲開始時就被假定了，而實際的問題是調查如果這種情況被證明是真的，最具有成本效益的替代方案。

最后，顯然需要更多的潛艇才能有效地對付更現代化的俄羅斯潛艇，但除了試圖采購更昂貴的潛艇外，還有一些具有成本效益的替代方案：衛星監視、與盟國加強合作以及海上空中巡邏。當然，海軍兵棋準備建議為皇家空軍海上航空隊提供額外的資金，這一事實在分析上，特別是在政治上都是令人信服的，并且保證了結果被廣泛分享和采取行動。一個提出正確問題的例子。

重要的不是兵棋推演確定了某一系統或戰略存在嚴重的不足，而是玩家做了什么來克服這一不足，以及這是否能夠成功。

太大的問題

兵棋推演，至少以我在英國的經驗來看，一般是例外，而不是常態。因此，當安排了適當數量的高級領導人參加的兵棋推演時，它們往往會受到 "膨脹 "的影響，目的和目標變得越來越雄心勃勃，以證明有這么多的高級決策者參加。在這種情況下，活動中不可避免地增加了其他內容，在活動中插入了審查其他場景和問題的機會，以充分利用參與的人才。

這必然會扭曲活動，將重點從最初的問題上移開，并有可能稀釋結論，從而使它們在更廣泛的戰后報告中丟失，這些報告中充滿了對大多數人來說不感興趣或不相關的信息。

額外的元素也將有助于固定活動方案，分散對原意的注意力，減少那些高級人員花時間 "深入研究 "的靈活性，以進一步研究與他們的同行產生的任何特殊見解。相反，他們往往被從一個點引導到另一個點，缺乏參與或時間來產生有用的投入。

當一場兵棋推演成為 "大事件"，有許多高級決策者參加時，它也可能吸引媒體的注意，因此游戲的結果將受到明顯的關注。這意味著要避免被認為是失敗或缺點的尷尬，而且游戲不可避免地被傾斜，以產生一個 "成功的結果"（就外部第三方而言），而不考慮最初的目的。

在這種情況下，游戲不再是一個兵棋，而是通過計劃獲得成功的行動，只有微不足道的 "學習 "才能證明事后的活動。

更多的計算機和更多的數據

如果我們考慮在最廣泛的意義上使用兵棋推演，我們需要理解許多人為了產生一個 "更準確 "的結果而希望涉及計算機模擬，也許還有人工智能（AI）。這是錯誤地認為 "更多的數據 "和 "更多的計算能力 "可以在某種程度上，本身就可以提高準確性。

使用模擬和人工智能協助軍事指揮官決策的機會是令人興奮的：使用計算機模擬未來的沖突局勢，然后 "通過人工智能運行它們"，以制定最佳行動方案、部隊組合和實現成功的時間。請注意，在這種情況下，人工智能的軍事概念包括在一個基于云的分布式架構中查看多個同時進行的行動方案，以并行地完成許多這些過程（庫克，2020年）。它可能不是嚴格意義上的人工智能，但任何先進的技術計算架構都傾向于被概括為這個標題--軍事指揮官實際上只對產出的實際效用感興趣，而不是對術語的學術定義。

然而，這種方法有一些問題，主要是在兩個方面：基礎模型的準確性；以及優化的危險，導致可預測性和脆弱性。

人工智能系統采用規則來優化其行為，以尋求優勢。這種方法的優勢在于它的有效性。這種方法的缺點也是它有效。我們必須非常小心，確保我們為人工智能定義參數，以產生我們想要的行為（例如，最佳攻擊路線可能在國家邊界之外，所以我們需要確保我們在執行計劃時不會入侵鄰國）。人工智能可以產生不同的行動方案，只要他們的規則適合任務，在封閉的模擬環境中。這必須由人類嚴格控制，以確保不僅規則適合情況，而且人工智能不會通過利用系統中的錯誤來作弊（Benson，2020）。

雖然許多這些系統或多或少都是聚集在一起的，所以必須對性能進行近似，但它們是用來訓練的，這意味著它們足夠準確，有軍事用途；對于Box（1979）來說，"所有的模型都是錯的，有些是有用的"。

危險的是，如果我們可以做這種分析，我們的敵人也可以，讓他們預測我們的行動方案。在尋求具有決定性優勢的武器系統時，這樣的系統變得昂貴，減少了用于替代方案的資源，并且需要很長時間才能投入使用。敵人在得知這樣一個系統后，可以花時間來打敗這個系統。而當他們這樣做的時候，就沒有什么可以反對他們了。韋恩-休斯教授警告說："海上戰爭中的殺戮往往是用海軍的第二好的武器完成的。如果在未來的某個沖突中，雙方都反擊了對方的首要武器，那么海軍將不得不問：我們的下一個最佳武器是什么？" (Rielage, 2017)。如果人工智能生成的可預測性已經導致了一個單一的武器系統或最佳方法，而它被打敗了，可能就沒有什么替代品了。

優化的系統也是脆弱的，特別是在面對突發事件時。這一點在COVID-19大流行病早期的衛生紙交付的供應鏈失敗中得到了明確的證明（Wieczner, 2020）。特別是軍事行動，需要對突發事件有強大的抵抗力。

然而，許多這樣的實驗未能解決的是關于情報和局勢數據準確性的一些隱性和顯性假設。正如在科索沃的空襲行動中所證明的那樣，塞族人能夠用相對粗糙的技術騙過美國的情報分析員（施密特，1999年），而且在堅實的地面、泥濘的斜坡和耕地上的相對 "前進"（即前進速度）很少被量化，所以假設是危險的。

然而，所有的軍事規劃都是在不完善的信息基礎上進行的。假設人類對人工智能的建議有所節制，那么當人類和人工智能合作以利于決策時，有可能導致更好的結果（an den Bosch & Bronkhorst, 2018），或至少排除更愚蠢的選擇。

因此，人工智能，在一些注意事項和人類的支持下，可以使其發揮作用 - 但代價是什么？人工智能的歷史是一個炒作和預期失敗的故事，被Floridi（2020）稱為 "人工智能的冬天"。其他技術（現有的統計方法、人工兵棋推演、競爭性假設的分析）已被證明是同樣有效的，而成本和精力卻只有一小部分（Makridakis等人，2018），而且不容易出現人工智能衍生結果有時會產生的嚴重錯誤（Yampolskiy，2016；Osoba和Welser，2017）。

英國防部傾向于希望在最昂貴和效率最低的領域使用人工智能--而不是后勤支持和光學識別這些低垂的果實（國防采購機構認為在正常競爭下會自動交付）。相反，他們追求的是最昂貴和最令人興奮的獎品：常規部隊的行動過程評估（Kerbusch等人，2018）。

兵棋推演應該是小型的定期活動，其范圍靈活，產出集中，能夠從最廣泛的角度考慮問題。只有從這樣的活動中才能產生洞察力。

正如偉大的F.W.蘭徹斯特所說。"提供有用見解的簡單模型比那些與現實世界如此接近的模型更受歡迎，因為他們想要解開的謎團在模型中重復出現，而且仍然是謎團"（Fletcher, 1995）。

對兵棋推演缺乏了解

然而，到目前為止，對兵棋推演最大的誤用僅僅是因為許多人（包括許多高級決策者）根本不了解兵棋推演這一技術，或者認為他們自己對兵棋推演的狹義解釋是正確的，而所有其他的解釋都或多或少地存在缺陷。

這并不局限于國防領域的普通民眾。職業兵棋手們自己也對兵棋的定義爭論不休，在那些認為分析性兵棋的定量科學是唯一有效的方法的人和那些喜歡 "更廣泛的兵棋"的定性藝術而不是 "狹隘的"（和 "狹隘的"）替代品的人之間存在著明確的分裂。

造成這種情況的原因是，幾乎在所有情況下，兵棋推演都是由自學成才的少數人進行的，由他們個人的職業發展提供信息，缺乏正規專業教育所能提供的更廣闊的視野。這并不是說兵棋推演課程不存在，但總的來說，這些課程是其環境的產物，因此其產出偏向于其贊助商的要求。舉個例子，MORS7兵棋證書（正如你所期望的那樣）在很大程度上偏向于分析的一端。

為了有效，兵棋推演需要來自指揮系統的正式支持。它需要一個冠軍（一個高級領導人，承擔起確保每個參與者都致力于該技術的最終成功的重任），需要有人負責確保兵棋推演在每個級別都得到理解并定期進行，從計劃分區攻擊的初級士兵到軍隊的最高級別，如英國國務卿的網絡評估和挑戰辦公室（SONAC；見Elefteriu，2020）。

需要在軍事學校和學院開設正式的教育課程，教授全方位的兵棋推演，而且兵棋推演應該被強制規定為任何課程或單位和編隊的年度培訓周期的一部分。只有這樣，才能培養出新一代有適當資格和經驗的人，以取代 "有天賦的業余愛好者"，他們在大多數軍隊中構成了大部分的兵棋推演專家。

不過，無論怎樣強調都不為過的是，不能把應該進行兵棋推演的授權與應該玩某種游戲或游戲類型的授權混為一談。

正如弗朗茨-哈爾德將軍（Generaloberst Franz Halder）在談到20世紀30年代和40年代的德國軍隊兵棋推演時所說:

"軍事文獻包括關于兵棋推演的非官方手冊。為了避免哪怕是最輕微的軍團化跡象，并在戰爭游戲的應用和發展中保持充分的自由，官方沒有發布任何形式的正式指令。(霍夫曼, 1952)"

結語

在這篇文章中，我試圖確定兵棋推演的多種多樣的用途，強調游戲類型之間的差異，所有這些游戲都是為了一個特定的目的。沒有哪種游戲適合所有人--用于教育、培訓和分析的游戲之間的差異是非常重要的，而且經常被忽略。

我還從我的經驗出發，介紹了一些在運行兵棋推演時可能出現的錯誤和危險（并指出了關于這個問題的開創性工作）。為了避免其中最重要的危險，并確保它作為一種使軍隊更加有效的技術而獲得成功和發展，兵棋推演需要得到指揮系統的支持，并且必須成為軍事學校和學院課程的一個重要組成部分。

現代戰術戰爭需要迅速而有效的決策和行動，以便在經常是高度動態和復雜的戰區保持競爭優勢。需要考慮的因素的數量因不確定性、事件的快速發展和人為錯誤的風險而放大。自動化、人工智能和博弈論方法的潛在應用可以為作戰人員提供認知支持。這項研究以自動兵棋推演輔助決策的形式探索了這些應用。該團隊為這個未來的系統開發了一個概念設計，并將其稱為兵棋推演實時人工智能輔助決策（WRAID）能力。

頂點項目的目標是探索自動化、人工智能和博弈論的應用，作為支持未來WRAID能力的方法。該團隊為WRAID能力開發了需求、概念設計和操作概念。該小組確定并探索了可能對未來實施WRAID能力構成障礙的挑戰性領域。該小組調查了與使用人工智能來支持戰爭決策有關的倫理挑戰和影響。

本報告首先對與WRAID能力相關的主題進行文獻回顧。文獻回顧從人工智能的回顧開始，提供了一個關于人工智能如何工作以及它能夠完成什么類型任務的概述。文獻綜述探討了人機協作的方法，以支持未來指揮官和人類用戶與WRAID系統之間的互動。需要翻譯指揮官的意圖，并讓WRAID將有意義的輸出傳達給指揮官，這需要一個強大的界面。審查包括傳統的兵棋推演，以研究目前的模擬兵棋推演是如何進行的，以便深入了解，未來的WRAID能力如何能夠實時復制兵棋推演的各個方面，并認為以前的兵棋推演可以為人工智能和機器學習（ML）算法的發展提供訓練數據。ML算法的訓練需要大量的代表性數據。文獻回顧研究了人類的認知負荷，以深入了解人類大腦的認知技能和上限；并確定人類思維的極限，以顯示人工智能可能提供的支持。文獻綜述中涉及的最后一個主題是，傳統的計劃和決策，以了解目前在軍事上如何制定戰術行動方案。

該小組進行了需求分析和利益相關者分析，探索WRAID能力如何支持作戰人員。該小組在需求分析的基礎上為WRAID系統開發了一套需求。這些要求被歸類為：硬件/軟件，人機界面，和道德規范。第一階段的分析結果包括 (1)戰爭的復雜性需要發展一種未來的WRAID能力，這種能力利用自動化方法，包括人工智能、ML和博弈論，(2)WRAID能力需要大量的計算能力和復雜的軟件算法，(3)實現未來WRAID系統的挑戰將是技術和道德的。

未來WRAID系統的概念設計是基于需求分析的。概念設計被記錄在一套系統模型中，包括背景圖、系統視圖、功能工作流程圖和操作視圖。該團隊開發了一個作戰場景，以支持對WRAID能力如何在作戰中使用。

在開發WRAID的過程中，預計會有一些路障。開發WRAID系統的技術是存在的，然而，研究小組發現數據挑戰、人工智能訓練、程序限制和當前系統工程的局限性將是需要解決的障礙。數據挑戰指的是獲得足夠的數據集的能力，這些數據集代表了訓練ML算法所需的真實世界的戰術行動和兵棋推演分析。程序性挑戰包括國防部實施網絡安全、機密數據、數據庫訪問和信息分配協議的能力。系統工程方面的障礙是需要新的方法來設計安全和可靠的人工智能系統，如WRAID能力。將需要SE方法來處理不可預見的故障模式，并在系統生命周期的早期確定根本原因。

對像WRAID能力這樣的人工智能系統的倫理考慮是系統發展的一個重要因素。開發系統以取代倫理學，將使系統更有可能被部署。有幾個有道德問題的自主武器系統被拉出來作為WRAID能力的道德對話的基礎。通過一個示例場景，對道德狀況進行定性分析，以了解在部署WRAID能力時可能出現的道德問題。倫理學在未來的技術中發揮著巨大的作用；從一開始就考慮到倫理學，建立技術是很重要的。

未來的重點需要放在繼續對想象中的WRAID系統采取正規的系統工程方法。WRAID系統需要一個強大的數據集，需要收集和注釋；收集的定性兵棋推演數據越多，WRAID系統的可行性和準確性就越高。與軍事部門的合作對于最大化WRAID的利益至關重要，例如情報和偵察組織。WRAID的模擬將是完善系統要求和創建現實模型的關鍵。關于如何使用WRAID的培訓和文檔應該同時開發，所以利益相關者，特別是指揮官已經準備好，知道如何使用這個新工具。未來的研究領域包括認知工程、基于正式模型的系統工程和人機協作。

隨著目前技術進步的速度和外國的目標，人工智能將在未來的沖突和戰爭中發揮作用。自上而下的指令將需要設計和實施WRAID能力：提供大量的資源，解決操作和文化變化，重組系統工程，并確保網絡安全和收購變化。實現未來的WRAID能力并不是一個微不足道的任務。然而，它對確保現在和未來的戰斗空間優勢至關重要。

執行摘要

大數據、人工智能和機器學習代表了當今最前沿的一些技術，并可能成為未來幾十年甚至更久的主導技術。大多數專家都認為，人工智能的發展將比1879年電力發明以來的任何技術都更能改變我們的生活，這一點通常被稱為人工智能或簡稱AI。

可悲的是，在人工智能和無人系統（或用老話說的 "機器人"）的編隊協作問題上，熱度遠遠高于光度，其中大部分是由大眾媒體推動的。普通大眾被不斷喂食關于 "壞"機器人的書籍和電影（例如《世界大戰》、《終結者》），甚至是關于 "好"機器人叛變的書籍和電影（例如《2001：太空漫游》和《機器之家》），普遍擔心今天的機器人--使用人工智能的無人駕駛機器--將以我們在2021年只能模糊感知的方式來主宰我們的生活。

當涉及到人工智能的軍事應用時，這些擔憂就會變得異常強烈。許多人表示擔心，美國軍方可能會失去對其無人系統的控制，特別是其武裝的無人系統。這些擔心已經表現在許多方面，最明顯的是谷歌停止了美國國防部的算法戰爭跨功能團隊的工作，也就是所謂的Maven項目。這尤其令人擔憂，因為Maven項目與武裝無人系統毫無關系。

在許多國家，關于人工智能的軍事用途的對話已經變得尖銳，并阻礙了人工智能在美國軍事武器系統中的有效插入。當人工智能、自主性、無人駕駛和武裝在同一個句子中使用時，這些擔憂被放大了。同時，美國的同行競爭者，中國和俄羅斯，認識到了人工智能在控制他們自己的社會以及其他社會方面的價值，并且正在投資數千億于人工智能，其中大部分是為了給他們的軍隊提供一個與美國軍隊不對稱的優勢。

此外，也許更重要的是，由于今天的戰爭速度往往超過了人腦做出正確決定的能力，美國軍隊需要大數據、人工智能和機器學習，以使其作戰人員在戰斗中獲得優勢，特別是在決策領域。美國軍隊--以及其他國家的軍隊--曾發生過決策者在正確的時間沒有得到正確的信息，來支持時間緊迫的作戰決策而導致悲劇發生的一些情況。

重要的是要注意到，做出這些次優決策的軍事人員在手頭的工具下做了他們能做的最好工作。發生的情況是，戰爭的速度往往超過了人腦做出正確決策的能力。事實上，正如美國陸軍研究實驗室首席科學家亞歷山大-科特博士在一次指揮和控制會議上所說："人類的認知帶寬將成為戰場上最嚴重的制約因素。"

直到最近，將強化決策提高到新水平的技術根本不存在。今天，它確實存在，而且利用大數據、人工智能和機器學習能夠為作戰人員提供的東西，很可能導致海戰的下一個突破，特別是在決策領域。海軍太平洋信息戰系統中心與海軍研發界、工業界和學術界的合作伙伴一起，正在領導各種努力，以確保美國作戰人員有能力以更少的人和更少的錯誤做出更好的決策。

1 大國競爭時代的戰略視角

21世紀在世界秩序、地緣政治和戰爭方式方面迎來了巨大的變化。正如美國國家情報委員會的頂點出版物《全球趨勢:進步的悖論》所說：

• 過去幾十年的進步是歷史性的，它將人們聯系起來，賦予個人、團體和國家權力，并在此過程中使10億人擺脫了貧困。但同樣的進步也催生了阿拉伯之春、2008年全球金融危機以及民粹主義、反建制政治的全球崛起等沖擊。這些沖擊揭示了這些成就是多么的脆弱，凸顯了全球格局的深刻變化，預示著一個黑暗而艱難的近期。

《全球趨勢：進步的悖論》指出，未來五年，國家內部和國家之間的緊張局勢將不斷加劇。全球增長將放緩，就像日益復雜的全球挑戰即將到來一樣。范圍越來越廣的國家、組織和有能力的個人將塑造地緣政治。無論好壞，新出現的全球格局正在結束冷戰后美國占主導地位的時代。以公眾期望的方式進行國際合作和治理將變得更加困難。Covid-19危機放大了這些困難，暴露了國際合作的極限。擁有否決權的人處處威脅要阻止合作，而信息回音室效應將強化無數相互競爭的現實，破壞對世界事件的共同理解。因此，未來幾年發生沖突的幾率將比近期任何時候都要高。

這一評估在美國國家情報局局長的《世界范圍內的威脅評估》中得到了再次確認，其中部分內容指出。"隨著大國和地區侵略者利用復雜的全球趨勢，同時適應美國外交政策的新優先事項，各國之間的競爭將在未來幾年內增加。國家間沖突的風險，包括大國之間的沖突，比冷戰結束以來的任何時候都要高。"雖然現在評估Covid-19大流行病的全面影響還為時過早，但初步跡象表明，這場危機加劇了美國與其同行競爭對手之間的緊張關系。

2021年，美國仍然在世界各地參與活動。國家安全戰略涉及對美國安全和繁榮的廣泛威脅。這些威脅包括從中國和俄羅斯這樣的高端同行競爭對手，到朝鮮和伊朗，以及以伊黎伊斯蘭國為代表的恐怖主義的持續威脅。在里根國防論壇上的國家安全戰略預演中，當時的國家安全顧問麥克馬斯特將軍強調了這些威脅，并再次確認了前政府的 "4+1戰略"，將俄羅斯、中國、伊朗和朝鮮這四個國家以及 "+1"--恐怖分子，尤其是ISIL--列為美國今天必須應對的緊迫威脅。

國際安全范式的這一巨大變化的程度怎么強調都不過分。引起這一新焦點的原因并不神秘，那就是與中國和俄羅斯的大國競爭。事實上，《國家安全戰略》提出了保護美國人民和維護他們的生活方式、促進繁榮、通過實力維護和平以及提升美國在世界上的影響力的戰略愿景。值得注意的是，這個新的、發達的戰略代表了與以前版本的巨大轉變，以前的版本側重于安全、繁榮和國際秩序這三大支柱，都是一些沒有什么具體內容的理想。這個新的國家安全戰略強化了美國對中國和俄羅斯的立場，拋棄了 "朋友 "和 "伙伴 "的字眼，取而代之的是 "修正主義國家 "和 "競爭對手"。

《國防戰略》進一步發展了《國家安全戰略》中提出的主題，更直接地處理了對美國安全和繁榮的威脅。這份文件指出，美國面臨的核心挑戰是被《國家安全戰略》歸類為修正主義大國的長期戰略競爭的重新出現。它指出，越來越明顯的是，中國和俄羅斯想要塑造一個符合其“獨裁”模式的世界--獲得對其他國家的經濟、外交和安全決定的否決權。《國防戰略》發表后不久，美國防部高級官員從詞典中刪除了 "4+1戰略 "一詞，現在以 "2+3戰略 "的方式談論，以承認俄羅斯和中國構成的生存威脅。美國防部領導人已經公開表示，"中國是第一，俄羅斯是第二"。此外，他們還說，俄羅斯仍然是我們最大的近期安全挑戰，而中國是我們最大的長期挑戰。

這份國防戰略繼續說："與中國和俄羅斯的長期戰略競爭是國防部的主要優先事項，需要增加和持續的投資，因為它們今天對美國的安全和繁榮構成了巨大的威脅，而且這些威脅在未來可能會增加。"

國會研究服務處的一份文件《向國會提交的關于大國競爭和國防的報告》中描述了這種急劇變化的戰略格局。以下是這份報告對今天的戰略環境的描述：

• 國際關系的后冷戰時代--始于20世紀90年代初，有時被稱為單極時刻（美國是單極大國）--在2006-2008年顯示出消退的初步跡象，到2014年已經讓位于與中國和俄羅斯重新開始的大國競爭以及這兩個國家和其他國家對二戰以來美國主導的國際秩序要素的挑戰，這是一種根本性的不同情況。

• 在奧巴馬政府2015年6月的《國家軍事戰略》中，大國競爭的恢復與其他考慮因素一起被承認，并被置于特朗普政府2017年12月的《國家安全戰略》（NSS）和2018年1月的《國防戰略》（NDS）的中心位置。2017年12月的NSS和2018年1月的NDS正式調整了美國國家安全戰略和美國國防戰略的方向，明確將主要精力放在與中國和俄羅斯的大國競爭上。國防部（DOD）官員隨后將對抗中國的軍事能力確定為國防部的首要任務。

國會研究處隨后的一份報告《國防初探：地理、戰略和部隊設計》強調了將美國的戰略重點轉向這兩個歐亞大國的重要性，指出：

• 防止歐亞大陸出現區域性霸權，有時也被稱為維護歐亞大陸的權力分工，或防止歐亞大陸的關鍵地區被一個大國所支配，或防止出現勢力范圍的世界，這可能是歐亞大陸出現一個或多個區域性霸權的后果。

以下是《紐約時報》的一篇社論如何看待美國面臨的長期挑戰問題。"冠狀病毒可能幾乎改變了一切，但它并沒有改變這一點。美國面臨的全球挑戰還在繼續，美國的對手在測試極限，看看他們能在最小的反擊下取得什么成果。"

雖然通常留給更高級別的文件，但美國海軍的《維持海上優勢的設計2.0》也強調了這種同行（而且明顯不再是 "近鄰"）競爭的首要重要性，指出："中國和俄羅斯正在部署其國家力量的所有要素以實現其全球“野心”......中國和俄羅斯試圖以對自己更有利的條件重新定義整個國際體系的規范"。

邁克爾-吉爾德伊上將在就任美國海軍作戰部長后的指示中，強調了這種對高端作戰的需求，以及與美國海軍陸戰隊整合的重要性，在他的FRAGO 01/2019中指出："我們將確保作戰能力和致命部隊的整體性，使分布式海上作戰、遠征先進基地作戰和有爭議環境中的瀕海作戰效益最大化。"

雖然是聯合部隊集體為國家作戰，但海軍部隊在應對大國競爭方面的重要性在一份題為《海上安全和大國競爭》的報告中得到強調。《維護以美國為首的國際秩序》，其中部分內容指出：

• 大國競爭(GPC)將大量的注意力引向了威懾或擊敗美國最強大的競爭對手所需的高端能力。然而，競爭不僅僅是高強度的沖突，這就需要對不太激烈的沖突形式與大國競爭之間的關系進行更深入的質疑。盡管分析家們越來越多地詢問全球契約對日常競爭意味著什么，但很少有人詢問全球契約與海軍的海上安全任務之間的關系。這種關注很重要，因為水面海軍的長期部署通常以海上安全行動為主--戰區安全交戰、航行自由行動、人道主義援助等等。

這并不是說海軍比美國其他軍種更重要，也不是說像一些海軍專家所建議的那樣，海軍應該在有限的國防預算中獲得更大的份額，而是說大國競爭的前線是，而且可能繼續是廣闊的歐亞大陸的沿海地區。南中國海的持續摩擦只是大國競爭中的一個爭論點，還有很多其他爭論點。

美國在2020年12月發布的新海洋戰略《海上優勢》毫不含糊地將海上事務置于這一大國競爭的最前沿，其中部分內容指出：

• 自我們上次在2015年發布《21世紀海權合作戰略》以來，安全環境發生了巨大的變化。一些國家正在爭奪關鍵地區的權力平衡，并試圖破壞現有的世界秩序。我們的對手的重大技術發展和積極的軍事現代化正在侵蝕我們的軍事優勢。遠程精確導彈的擴散意味著美國不能再假定在沖突時可以不受限制地進入世界海洋。

• 自21世紀初以來，我們的三個海務部門一直在警惕地注視著中國日益增長的海軍力量和俄羅斯聯邦日益增長的侵略行為。我們部署在全球的海軍部隊每天都與中國和俄羅斯的軍艦和飛機互動。我們親眼目睹了他們越來越復雜和越來越有侵略性的行為。中國代表著最緊迫的、長期的戰略威脅。

《國防戰略》高度關注技術，并指出，如果不利用先進的技術來支持我們的作戰人員，美國將無法實現它所尋求的安全和繁榮，并指出：

• 安全環境也受到快速的技術進步和戰爭性質變化的影響。開發新技術的動力是無情的，以較低的準入門檻擴大到更多的行為者，并以加速的速度發展。新技術包括先進的計算、大數據分析、人工智能、自主性、機器人、定向能、高超音速和生物技術--正是這些技術確保我們能夠打贏未來的戰爭。

• 新的商業技術將改變社會，并最終改變戰爭的性質。許多技術發展將來自于商業部門，這意味著國家競爭者和非國家行為者也將有機會獲得這些技術，這一事實有可能侵蝕我們國家已經習慣的傳統的超強對抗。保持技術優勢將需要改變行業文化、投資來源和保護整個國家安全創新基地。

《全球趨勢》中強調的發展。《全球趨勢：進步的悖論》以及《國家安全戰略》和《國防戰略》中強調的發展，在美國軍方的未來展望出版物《2035年聯合行動環境》（又稱JOE）中得到了呼應。《聯合作戰環境》的副標題是 "有爭議和無序世界中的聯合部隊"，它著眼于20年后，研究未來將如何影響作戰和聯合部隊。《聯合作戰環境》強調，即使在伊拉克和阿富汗的沖突逐漸結束時，美國軍隊在本十年的剩余時間和以后將面臨越來越大的壓力。

《2035年聯合行動環境》有一節專門討論技術。報告的作者解釋了這樣處理技術問題的理由：

• 聯合部隊將面臨一個主要由加速的技術變革定義的未來技術環境。在過去的20年里，美國對高技術戰爭的做法鼓勵了對手發展非對稱、非常規、不規則和混合的方法。敵人將繼續創新，應用不同的高低技術組合來挫敗美國的利益和軍事力量。

• 到2035年，美國將面對一系列尋求在一些關鍵領域實現技術平等的競爭對手。累積的結果將是這樣一種情況，用前國防部副部長羅伯特-沃克的話說，"我們的部隊面臨著非常現實的可能性，即到達未來的一個戰區，發現自己面臨著一個先進的、破壞性的技術庫，這可能會使我們以前的技術優勢被推翻--我們的武裝部隊不再擁有無爭議的戰區準入或不受約束的行動自由。"

很明顯，美國情報界和美國軍方都認識到，世界秩序的變化速度與技術生態系統的快速變化如出一轍。此外，在美國政府的最高層，人們承認美國曾經享有的技術優勢已經被削弱，美國軍隊不能再以純粹的技術優勢來支配其對手了。事實上，一些寫軍事和技術的專家已經預示了這種認識。

軍事歷史學家馬克斯-布特（Max Boot）在他的暢銷書《全新的戰爭》（War Made New）中指出："我的觀點是，技術設定了可能的參數；它創造了軍事革命的潛力。"他用歷史實例支持他的論點，說明技術驅動的 "軍事革命 "如何改變了戰爭并改變了歷史的進程。重要的是，布特指出了技術的重要性，它使那些迅速創新和運用新軍事技術的國家獲得了戰爭勝利的優勢。

美國軍隊已經接受了技術變革的浪潮，這構成了戰爭方式的真正革命。隨著全球技術變革的步伐加快，美國特別善于運用新技術來應對威脅。正如布魯斯-伯科維茨在《戰爭的新面貌》中指出的那樣：

• 戰時經驗表明，正確的技術，明智地使用，使純粹的數量變得無關緊要。轉折點是1991年的海灣戰爭。戰爭結束時，美國及其聯盟伙伴僅損失了240人。伊拉克遭受了大約10,000人的戰死，盡管沒有人會真正確定。不同的是，美國人可以在晚上看到東西，在沒有特征的沙漠中開車而不迷路，并以90%的概率將一枚智能炸彈投入目標。

雖然所引用的兩本書都是十多年前的舊書，但它們關于技術的論述在美國軍隊接受新工具的方式上仍然是正確的。但正如《2035年聯合作戰環境》以及其他高級別政府、情報界和軍事出版物所指出的，雖然美軍一直善于采用新技術用于軍事用途，但這一過程一直處于壓力之下。有許多因素阻礙了新技術在美國軍隊中的應用，包括這些部隊在過去20年中所面臨的高操作節奏、預算壓力和持續的扣押幽靈，以及往往是笨重的軍事采購系統。盡管有這些壓力，各軍種已經找到了接受新技術的方法，這些技術有望使平衡重新向美國的優勢傾斜。

今天，美國軍隊采用的創新技術中增長最迅速的領域之一涉及無人駕駛系統。在過去的幾十年里，美軍使用的無人駕駛飛行器（UAVs）已經從寥寥無幾增加到1萬多架，而無人駕駛地面車輛（UGVs）的使用已經從零爆炸到12000多架。無人水面飛行器（USV）和無人水下飛行器（UUV）的使用也在增長，因為USV和UUV被證明在廣泛的軍事應用中越來越有用。軍事無人系統（UxS）的擴大使用已經在創造十年前不存在的戰略、作戰和戰術的可能性。

武裝無人系統的擴大使用不僅改變了現代戰爭的面貌，而且還改變了戰斗行動的決策過程。事實上，有人認為，無人機戰爭的興起正在改變我們對 "戰爭 "本身的概念和定義。這些系統在伊拉克和阿富汗的沖突中被廣泛使用，并且隨著美國的戰略重點轉向印度-亞洲-太平洋地區以及這一戰略所要求的高端戰爭，這些系統將繼續具有同樣的相關性，甚至更加重要。無人系統，尤其是它們的效用，不是作為獨立的實體，而是作為被稱為 "人-機-隊 "的作戰伙伴，是美國 "第三抵消戰略 "的一個基本原則。

2 對 "抵消"戰略的需求

美國防部已經啟動了 "第三次抵消戰略"，以確保美國保持對潛在對手的軍事優勢。"抵消"戰略是一種軍事競爭的方法，它試圖以不對稱的方式彌補不利的地位。與其在潛在對手也可能擁有巨大實力的領域進行正面競爭，抵消戰略試圖通過引入新的作戰概念和技術，將競爭的軸心轉向美國具有顯著和可持續優勢的領域。

美國在冷戰期間成功地推行了兩種不同的抵消戰略。這些戰略使美國能夠 "抵消"蘇聯在常規部隊中的數量優勢，而不需要在前沿部署的部隊中進行巨大的投資，因為這需要以士兵對士兵、以坦克對坦克的方式提供超額補償。這些抵消戰略依賴于技術、作戰方法和組織結構的根本創新，以彌補蘇聯在時間、空間和部隊規模上的優勢。

這些抵消戰略中的第一個發生在20世紀50年代，當時艾森豪威爾總統試圖通過利用美國的核優勢來克服華沙條約組織的數量優勢，引入戰場核武器--從而將競爭的軸心從常規部隊數量轉移到美國擁有不對稱優勢的領域。這種方法提供了穩定性并為威懾提供了基礎。

第二種抵消戰略產生于20世紀70年代末和80年代初，因為人們認識到蘇聯已經實現了核均勢。第二個抵消戰略試圖通過追求一種新的聯合行動方式來創造一種持久的優勢，即利用常規精確武器、支持實時精確瞄準的實時遠程ISR（情報、監視、偵察）傳感器能力以及允許這些能力在整個戰斗空間同步執行的聯合戰斗網絡的綜合效應。

幸運的是，構成 "第二次抵消戰略 "的軍事技術從未在與蘇聯的正面交鋒中得到檢驗。然而，在 "沙漠風暴 "行動中，這些技術被部署在一支由蘇聯訓練和裝備的軍隊面前。如前所述，正如《戰爭的新面孔》所描述的那樣，伊拉克的失敗是徹底的，代表了現代戰爭中最一邊倒的運動之一。顯然，美國的潛在敵人注意到技術在這場勝利中發揮的關鍵作用。

在20世紀80年代初引入第二套抵消戰略時，美國是唯一擁有知識和能力來開發、部署和成功執行情報、監視和偵察能力、天基系統以及支持這種方法的精確武器的國家。今天，像俄羅斯和中國這樣的競爭對手（以及這些國家向其擴散先進能力的國家）正在追求和部署先進的武器和能力，這些武器和能力展示了許多與傳統上為美國優勢提供高科技基礎的技術力量，如精確制導彈藥。在俄羅斯在敘利亞的力量投射行動中，可以看到美國技術能力與潛在競爭對手之間的這種日益對稱性。

國際安全環境中出現的越來越多的均勢，使得美國必須開始考慮各種技術、系統概念、軍事組織和作戰概念的組合，這些技術、系統概念、軍事組織和作戰概念可能會改變競爭的性質，使美國比潛在對手更有優勢。這一系列的能力為第三個抵消戰略提供了基礎。如同以前的抵消戰略一樣，第三個抵消戰略尋求在預算有限的環境下，通過確定美國獨特的力量和能力所帶來的不對稱優勢，保持并擴大美國的技術和作戰競爭優勢。第三套抵消戰略確保美國的常規威懾態勢在未來仍像今天一樣強大，并為將這一優勢擴展到未來創造條件。

在解釋《第三次抵消戰略》的技術要素時，當時的國防部副部長羅伯特-沃克強調了無人系統、人工智能、機器學習和自動駕駛方面新興能力的重要性。他指出，這些技術為聯合部隊提供了巨大的優勢，使未來的部隊能夠開發和操作先進的聯合、協作的人機戰斗網絡，在太空、空中、海上、海底、地面和網絡領域同步作戰。人工智能將使聯合作戰網絡的自主性達到新的水平--決策權的有限授權，從而為人機協作和作戰團隊帶來全新的機會。

無人系統、人工智能和機器學習等技術在第三個抵消戰略中，特別是在該戰略的長期研究和發展計劃（LRRDP）中的突出地位很難被夸大。

也就是說，該戰略有一個強有力的組成部分，強調在使用具有日益復雜的人工智能和機器學習能力的無人系統時，要讓人類處于循環之中。事實上，人機協作是現存的 "第三抵消戰略 "文件以及國防部高級官員的演講和訪談中所強調的一個必要條件。雖然深入研究 "第三抵消戰略 "技術主旨的全部細節超出了本文的范圍，但重要的是要注意，該戰略的主要技術路線集中在人機協作和戰斗團隊的概念上。這一概念的五個基本組成部分是:

• 自主深度學習系統，它將利用機器學習，在人類反應時間太慢的領域 "以光速 "運作，例如網絡攻擊、電子戰攻擊或大型導彈突襲攻擊。

• 人機協作，這將使機器能夠幫助人類更快地做出更好的決定。工部長列舉了F-35聯合攻擊戰斗機和海軍綜合火控反航（NIFC-CA）作為這些概念的例子。

• 輔助人類作戰，這將專注于人和機器可以一起行動的方式，通過可穿戴電子設備、外骨骼和戰斗應用等工具，在各種可能的緊急情況下協助作戰人員。

• 先進的人機作戰團隊，將側重于人類與無人系統合作作戰；其中一個例子是海軍的P-8 "海神 "與MQ-4C "海神 "的作戰。展望未來，團隊合作的下一個層次將研究蜂群戰術和合作自主。

• 網絡支持的、網絡硬化的自主武器，將有彈性地在電子戰和網絡環境中運行。目前的一個例子包括戰術戰斧Block IX，其目標可以在飛行中更新。

知識淵博的外部觀察家參考了《第三次抵消戰略》，并強調了無人駕駛系統在實現美國戰略目標方面的重要性。前歐洲盟軍最高司令官詹姆斯-斯塔夫里迪斯（James Stavridis）上將在其發表在《外交政策》上的文章《新三體》中指出，無人系統是這個新三體的三大支柱之一，他指出："新三體的第二個能力是無人駕駛車輛和傳感器。三合會的這一分支不僅包括空中攻擊無人機，還包括空中、地面和海洋表面的無人監視車......這種系統有一個明顯的優勢，即不需要所有最昂貴的部件：人。"

美國陸軍的一份報告描述了在2014年首次闡述的第三次抵消戰略，而且遠在美國開始稱中國和俄羅斯為同行競爭對手之前，該戰略必須在21世紀的第三個十年中變形和改變:

• 蘇聯軍隊在數量上的優勢促成了前兩個抵消戰略。隨著美國軍事技術進步的應用已經擴散到近似的對手，它已經有效地重新平衡了戰場。為確保第三次抵消戰略的成功實施，國防部與美國政府必須就我們試圖抵消的東西以及如何平衡這些優先事項以對付處于巨大不同區域和能力的對手達成一致。

• 第三抵消戰略的運用將恢復美國的力量投射能力，通過可靠的拒絕和懲罰威脅來加強常規威懾力，并作為長期競爭的一部分對潛在的對手施加代價。平衡或擊敗對手能力的能力需要資源，為確保有效運用該戰略，我們必須解決我們試圖抵消的問題。

鑒于第三個抵消戰略的強烈技術重點，在美國尋求在本十年及以后實施這一戰略時，這一戰略的表現將由聯合部隊放置在戰場上的軍事平臺、系統、傳感器和武器所代表。同樣明顯的是，美國各軍種--特別是美國海軍--已經表示希望將無人系統作為其部隊結構中一個日益重要的部分投入戰場。

3 大數據、人工智能和機器學習與軍事武器系統

在國會作證時，前國防部長邁克爾-埃斯珀回答了一個問題："美國防部技術現代化的首要任務是什么？"他指出，"對我來說，是人工智能。我認為人工智能將可能改變戰爭的特征，我相信誰先掌握了它，誰就會在戰場上主宰很多很多年。這是一個根本性的游戲改變者。我們必須先到達那里。"

美國軍方有許多理由主動利用大數據、人工智能和機器學習來使其武器系統變得更好。也許最令人信服的理由是，我們的潛在對手--特別是我們的同行競爭對手--正在積極地這樣做。一個古老的觀點是軍事術語，"敵人有投票權"。在這種情況下，俄羅斯正在用盧布投票，中國正在用人民幣投票。

這些國家正在對這些技術進行巨大投資。雖然這兩個國家出于國內原因進行這些投資，但他們正在有意和有條不紊地將這些技術盡可能快地插入他們的軍事系統，以便創造一個與美國軍隊不對稱的優勢。鑒于俄羅斯和中國注重保密，這些舉動似乎有悖常理，但這兩個國家都沒有試圖對這些目標保密。

在一次被廣泛宣傳的講話中，俄羅斯總統弗拉基米爾-普京這樣說。"人工智能是未來，不僅是俄羅斯的，而且是全人類的。它帶來了巨大的機遇，但也有難以預測的威脅。誰成為這個領域的領導者，誰就會成為世界的統治者。"

很明顯，其他 "大國 "將人工智能的發展視為一場競賽，并將從中利用競爭性軍事應用。

從美國的角度來看，以及從一些美國盟國的角度來看，這場競賽在很大程度上是，盡管不完全是，軍事競爭的一個方面。美國和盟國對一個或多個潛在對手在人工智能發展中領先的可能性表示擔憂。第三套抵消戰略被設想為一種在人工智能等新技術的軍事競爭中保持領先的方法。

軍事大國競爭的歷史表明，人工智能競爭，本質上是一場軍備競賽，是一種自然發展。然而，比技術跨越更令人擔憂的是，美國的軍事對手--所有某種形式的專制政權--可能不會像以前那樣致力于維持 "人在回路中 "的方法，將人工智能納入軍事事務。這在目前俄羅斯的軍事人工智能發展中似乎尤其如此。

俄羅斯、中國和美國這三個主要軍事大國都認識到，大數據、人工智能和機器學習有可能應用于軍事能力。在政府參與人工智能研究、他們愿意在人工智能發展中承擔的風險、他們將在多大程度上讓位于人工智能系統的自主權以及他們尋求的直接應用方面，這三者的近期目標都有所不同。

鑒于潛在對手將大數據、人工智能和機器學習植入其軍事武器系統的程度，美國軍方非常有必要采取同樣的措施，以確保這些國家不會獲得不對稱的優勢。也就是說，美國軍方的重點必須是證明人工智能武器系統將 "首先不造成傷害"。因此，將人工智能插入軍事系統不是一個 "非此即彼 "的問題，而是一個 "多少？"的問題。換句話說，美國軍方必須專注于在正確的時間和地點應用適量的人工智能。

正如我們前面所指出的，美國防部已經接受了第三套抵消戰略，試圖為美國提供對同行和其他對手的不對稱優勢。雖然這一戰略有許多方面，但其中一個支柱涉及技術，而這一支柱在很大程度上取決于大數據、人工智能和機器學習來獲得這一優勢。作為這一技術重點的一個子集，人機合作被認為是利用人工智能的無人系統獲得軍事優勢的一種方式。

在軍事系統中找到這種恰到好處的自主權平衡所需的能力必須利用許多仍在出現的技術。軍方知道它想實現什么，但往往不知道它需要什么技術或甚至能力，以使系統在自主性和人際互動之間達到適當的平衡。這種探索的一個關鍵因素是，不要擔心機器本身擁有什么屬性--速度、耐力和其他屬性，而是要關注機器內部的東西。美國國防科學委員會的報告《自主性在國防部系統中的作用》是這樣說的:

• 與其將自主性視為無人系統孤立的內在屬性，不如從人與系統協作的角度來考慮無人系統的設計和操作......操作人員面臨的一個關鍵挑戰是保持執行任務所需的人機協作，而這種協作經常因設計不當而受到阻礙......無人系統開發人員面臨的一個關鍵挑戰是從以硬件為導向、以車輛為中心的開發和獲取過程轉向強調軟件在創造自主性方面的首要地位。

關于將人工智能植入軍事系統的一些爭議源于術語的不精確。幫助澄清這種模糊性的方法之一是確保在使用自主性一詞時，它指的是人和機器之間的關系。在一段時間內執行某項功能，然后停止并等待人類的輸入，然后再繼續，這樣的機器通常被稱為半自主或有人類在環。可以完全依靠自己的力量完成某項功能的機器，但有一個人在監督，并能夠在機器出現故障或失靈時進行干預，通常被稱為人類監督下的自主或人類在環。能夠完全獨立完成某項功能而人類無法干預的機器通常被稱為完全自主或人類不參與的機器。

這表明，我們需要重新調整關于自主武器的一些辯論，以更準確地區分增加武器的自主性和自主武器。在這個意義上，自主性不是指機器的智能，而是指它與人類控制器的關系。對于相對較少的無人系統將用武器與敵人作戰，這種平衡是至關重要的。在發射武器之前，無人平臺需要向操作者--必須有一個操作者在其中--提供一個關于發射決定可能帶來的利弊的決策矩陣。

可以說，即使是一些在美國軍事人工智能領域工作的人，對于將人工智能插入美國軍事武器系統也會有一些矛盾。也許解決這個問題的最好方法是考慮二戰中最知名的照片之一。這張照片由美國信號部隊的約翰-摩爾中尉拍攝，描述了德懷特-艾森豪威爾將軍在1944年6月5日，即入侵諾曼底的前一天與第101空降師的士兵交談。在此之前，艾森豪威爾已經聽取了空軍元帥利-馬洛里的匯報，101師是入侵期間將遭受80%傷亡的兩支部隊之一。

那些研究無人系統對軍事行動的影響的人--特別是那些大力提倡無人系統的人--看了這張照片，可以設想艾森豪威爾將軍不是與美國空降兵對話，而是與他將派往戰場的機器人對話。那些害怕無人系統的人可能會想象美國空降兵就像照片中描述的那樣，但他們會設想一個機器人來指揮這些士兵，而不是艾森豪威爾將軍--顯然這是一個站不住腳的情況。但是，那些深思熟慮地考慮人工智能無人系統對軍事行動的影響的人，會設想艾森豪威爾將軍向一隊美國空降兵講話，與他們的機器人伙伴站在一起。顯然，需要做更多的工作來充分解決人機合作對今天的軍隊意味著什么。

但這種利用大數據、人工智能和機器學習的普遍愿望未能解決一個關鍵問題，即我們希望這些技術能夠幫助作戰人員執行哪些具體任務。問題的根源可能是美國軍方沒有能力將作戰人員的需求轉化為大數據、人工智能和機器學習所帶來的技術解決方案。除非或直到這樣做，否則這些技術不太可能被充分利用來支持美國的作戰人員。

4 公眾將接受什么？軍事武器系統自主化的黑暗面

作為上個世紀最具代表性的電影之一，斯坦利-庫布里克的《2001：太空漫游》將機器人（當時的無人駕駛車輛）的自主性問題作為其中心主題。看過這部電影的人很少能忘記這樣一個場景：宇航員大衛-鮑曼和弗蘭克-普爾考慮斷開HAL（啟發式編程的算法計算機）的認知電路，因為他似乎錯誤地報告了航天器的通信天線中存在故障。他們試圖隱瞞他們所說的話，但不知道HAL能讀懂他們的嘴唇。面對斷線的前景，HAL決定殺死宇航員，以保護并繼續其程序化的指令。

雖然今天很少有人擔心21世紀的HAL會背叛它的主人，但在使用日益自主的無人系統方面所涉及的問題是復雜的、具有挑戰性和有爭議的。庫布里克1968年的電影是有先見之明的。半個多世紀后，雖然我們接受了無人系統其他方面的改進，如推進力、有效載荷、隱身性、速度、耐力和其他屬性，但我們仍在處理多少自主權是足夠的，多少可能是太多的問題。這可以說是我們在未來十年內需要解決的有關軍事無人系統的最重要問題。

這些正在進行的辯論已經催生了一個山寨的書籍產業，試圖解決人工智能、自主性和無人系統的問題，特別是武裝的軍事無人系統。諸如《為戰爭而生》（Wired for War）、《遙控殺人》（Killing by Remote Control）等書。無人駕駛軍隊的倫理；無人駕駛。無人機、數據和完美戰爭的幻覺；反思無人機戰爭；無主之軍。自主武器與戰爭的未來》和《無人機下的國家》只是試圖以深思熟慮的方式解決這一復雜問題的書籍中的一個例子。

無人系統將變得更加自主，與它們感知環境和適應環境的能力成正比。這種能力使無人系統能夠實現更高的決策速度，并使友軍能夠在對手的OODA（觀察、定向、決定和行動）環路內行動。隨著環境或任務的變化，感知和適應的能力將使無人系統能夠找到實現其任務的最佳解決方案，而無需依賴人類操作員的持續監督、輸入和決策。然而，雖然我們需要無人系統在敵人的OODA環內運作，但我們是否準備好讓它們在沒有我們的決策下運作--在我們的OODA環內運作？

《經濟學人》雜志的一篇文章《道德與機器》以這種方式討論了自主權和人在回路中的問題：

• 隨著機器變得越來越聰明，越來越普遍，自主機器最終必然會在不可預測的情況下做出生死攸關的決定，從而承擔--或者至少看起來承擔--道德機構。目前，武器系統有人類操作員 "在環"，但隨著它們越來越復雜，將有可能轉為 "在環 "操作，由機器自主執行命令。

• 隨著這種情況的發生，它們將面臨著倫理上的困境。一架無人機是否應該向已知目標藏身的房屋開火，而該房屋可能還藏有平民？無人駕駛汽車是否應該轉彎以避開行人，如果這意味著撞上其他車輛或危及車內人員？參與災難恢復的機器人是否應該告訴人們正在發生的真相，如果這有可能引起恐慌？

• 這些問題導致了 "機器倫理"領域的出現，其目的是讓機器有能力做出適當的選擇--換句話說--分辨是非。工程師、倫理學家、律師和政策制定者之間需要更多的合作，如果讓他們自己來決定，他們都會制定出非常不同的規則。

在《紐約時報》的一篇題為 "智能無人機 "的專欄文章中，比爾-凱勒這樣描述無人系統的自主權問題：

• 如果你覺得使用遙控戰士無人機令人不安，想象一下，殺死一個可疑敵人的決定不是由遠處控制室的操作員做出的，而是由機器本身做出的。想象一下，一個空中機器人研究下面的景觀，識別出敵對活動，計算出附帶損害的風險最小，然后，在沒有人類參與的情況下，扣動扳機。

• 歡迎來到戰爭的未來。當美國人在爭論總統是否有權下令用無人機進行暗殺時，強大的動力--科學、軍事和商業--正在推動我們走向將同樣的致命權力讓給軟件的那一天。

最近，雖然看起來有些反常，但對自主機器和人工智能的擔憂也來自于在開發這些技術能力方面最為突出的行業。《紐約時報》的一篇文章，題為 "機器人霸主？也許不是"，引用了電影《機器之家》的導演亞歷克斯-加蘭（Alex Garland）的話，他談到了人工智能，并引用了幾個科技行業領導人的話。

• 理論物理學家斯蒂芬-霍金告訴我們，"全面人工智能的發展可能意味著人類的終結"。特斯拉的首席執行官埃隆-馬斯克告訴我們，人工智能 "可能比核彈更危險"。蘋果公司的聯合創始人史蒂夫-沃茲尼亞克告訴我們，"計算機將取代人類"，"未來是可怕的，對人非常不利。"

美國防部正在把人類對無人系統的控制問題作為第一要務來處理，并發布了政策指示，以確保人類確實保持在OODA循環中。時任美國防部副部長阿什頓-卡特（Ashton Carter）的一項指令發布了以下指導：

• 自主和半自主武器系統需要人類的投入和持續的核查，以幫助防止意外的交戰。這些系統的設計應允許指揮官和作戰人員對武力的使用進行適當程度的人為判斷。授權使用或操作這些系統的人類，必須以適當的謹慎并按照戰爭法、適用的條約、武器系統安全規則和適用的交戰規則行事。自主系統的定義是，一旦啟動，就可以選擇和攻擊目標，而無需人類操作員進一步干預的武器系統。

這些指令和討論是--而且應該是--政策制定者、軍事領導人、工業界、學術界和科技界之間對話的一部分，因為明天的自主系統的設計和運作是經過深思熟慮的。正如當時的國防部副部長羅伯特-沃克在新美國安全中心國防論壇上發言時指出的那樣，"我們堅信，人類應該是唯一能夠決定何時使用致命武力的人。但當你受到攻擊時，特別是在機器的速度下，我們希望有一臺機器可以保護我們"。

發布政策聲明是一回事，但實際設計自主系統來執行預期的計劃又是另一回事。從政策的角度來看，這是一個關鍵點，因為盡管人們可以選擇把各種層次的決策權交給自主機器，但卻不能逃避對由此產生的行動的責任。在高度自主的系統中，系統對操作者來說變得不透明，這些操作者經常會問一些問題，如：。它在做什么？它為什么要這樣做？它接下來要做什么？如果被問到這些問題，很難看到操作者如何能履行對自主系統行動的責任。

由于這些原因，美國政府，特別是美國軍方要向美國公眾證明它不會失去對機器人的控制，其門檻是異常高的。許多人表示擔心，美國軍方可能會失去對其無人系統的控制，特別是其武裝的無人系統。這些擔心已經表現在許多方面，最明顯的是谷歌停止了國防部算法戰爭跨職能團隊的工作，也就是所謂的Maven項目。這尤其令人擔憂，因為Maven項目與武裝無人系統無關。

5 美國軍事自主系統規劃

在美國最高級別的政策和戰略文件中，無人系統被作為聯合部隊未來作戰方式的一個重要部分。最近的《四年期國防審查》（QDR）指出："延續1990年代末開始的趨勢，美軍將增加對無人系統的使用和整合。" 在QDR的其他地方，無人駕駛系統被確定為。"保持我們投射力量的能力"。重要的是，《QDR》強調無人系統是國防部致力于創新和適應的一個關鍵部分。

美國國防部對無人系統的愿景是將這些系統納入聯合部隊。由于無人系統被所有軍種使用，國防部發布了一個路線圖，為軍隊使用無人系統提供一個總體愿景。在新的路線圖發布后不久，《海軍內部》雜志發表的一篇文章指出："國防部新的30年無人系統計劃--四年來第一次更新路線圖--旨在為快速發展的無人系統技術領域制定一個三十年的指南。"最近的路線圖，即2017-2042財年無人系統綜合路線圖，特別指出需要加強無人系統的自主性，指出。

• 美國防部保持著將無人系統繼續擴展到聯合部隊結構的愿景，并確定了將進一步擴大無人系統潛在整合的興趣和投資領域。本文件的目的是提供總體戰略指導，使各軍種的無人系統目標和努力與國防部的戰略愿景保持一致。該戰略指導將側重于減少重復工作，促成合作，確定挑戰，并概述了國防部和工業界可能合作的主要領域，以進一步擴大無人系統的潛力。由于國防部已經接受了在幾乎所有作戰環境中使用無人系統，這項戰略將使國防部能夠利用無人系統提供的技術進步和模式轉變。

2017-2042財年無人系統綜合路線圖接著列出了四個感興趣的基礎領域，將加速無人系統的整合。這些領域包括:

• 互操作性。互操作性在歷史上一直是，并將繼續是無人系統集成和運行的主要推動力。載人和無人系統已經越來越多地將其能力協同起來，重點關注使用開放和通用架構的關鍵需求。一個強大的互操作性基礎提供了一個結構，將使未來的作戰取得進展。

• 自主性。自主性和機器人技術的進步有可能徹底改變作戰概念，成為一個重要的力量倍增器。自主性將大大提高載人和無人系統的效率和效力，為國防部提供戰略優勢。

• 網絡安全。無人系統操作通常依賴于網絡連接和有效的頻譜訪問。必須解決網絡漏洞，以防止破壞或操縱。

• 人機協作。如果說互操作性奠定了基礎，那么人機協作則是最終目標。人類力量和機器之間的協作將實現革命性的合作，機器將被視為重要的隊友。

報告接著討論了機器人和無人系統的聯合概念（JCRAS），它為這些系統在未來戰爭場景中的應用提供了一個愿景，直到2035年。JCRAS與之前討論的2035年聯合行動環境直接保持一致，指出了機器人和自主系統（RAS）給聯合部隊帶來的八個關鍵屬性：

• 學習能力。未來的RAS將通過與環境、人類的互動以及訪問網絡資源來學習。

• 更強的態勢感知。未來的RAS將通過收集、處理和優先處理來自先進傳感器網絡的信息來增強意識，這將為作戰人員將數據轉換成知識。這將使復雜、擁擠的戰斗空間中的行動更加有效。

• 實現更高的性能。與載人和可選擇的載人系統不同，RAS沒有人類生理上的限制（如疲勞）。這允許在單一平臺上延長射程和徘徊時間，進行持久監視，并對傳感器和有效載荷進行全新組合。

• 提高效率和效益。能力更強的RAS將能夠在軍事行動范圍內執行更多的聯合任務，如戰區內空運、地雷行動、打擊大規模殺傷性武器、供應和維持，同時提高部隊的效率和效力。

• 提供更大的靈活性。未來的RAS系統將可以通過交換模塊硬件和/或下載新的軟件來快速重新配置，從而賦予新的能力。未來的RAS多任務功能將使聯合部隊能夠快速適應，以滿足不同或不斷變化的任務要求。

• 通過以機器速度運行來提高節奏。RAS以不斷增加的機器速度 "思考"。RAS可以融合來自網絡ISR傳感器的數據，機動到一個有利的位置，并比對手的人類和RAS更快采取行動。先進的數據分析、實時處理和替代性決策框架將使指揮官能夠比對手更快地做出決定和采取行動。

• 提供產生大規模的潛力。目前聯合部隊的載人庫存是基于相對較少的高能力、復雜和昂貴的武器裝備，無法迅速再生。RAS提供了使用大量廉價系統以產生大規模的機會。

• 啟用分布式和分散式行動。敵方的技術將以更高的精度和范圍瞄準美國部隊，使傳統部隊面臨更大的風險。使用RAS進行分布式和/或分散式作戰將提高未來作戰環境中的能力。

正如《質量發展報告》和《無人系統綜合路線圖》都指出的那樣，在美軍面臨具有強大防御能力的同行競爭者的那些地區，無人系統是特別重要的資產。聯合行動準入概念認為，"無人系統，可以在目標區域內徘徊以提供情報收集或火力"，是一種關鍵能力，在對手擁有大量防御設施，可以限制美國和聯軍進入的地區，這種能力特別有價值。 此外，無人系統是在西太平洋等高威脅地區執行美國 "空海作戰概念"（現更名為 "全球公域準入和機動聯合概念"，簡稱JAM-GC）的一個關鍵組成部分，在這些地區，對手的防御系統對有人駕駛飛機和水面平臺構成了不可接受的高風險。

海軍部已經為海軍和海軍陸戰隊的無人系統開發制定了雄心勃勃的目標。在一份備忘錄中，負責研究、開發和采購的海軍助理部長James Geurts閣下強調了無人駕駛系統的重要性，他在求職信中指出:

• 美國海軍和海軍陸戰隊在戰略上有必要利用新興的和快速發展的無人駕駛和自主技術。為了加速無人系統的開發和投入使用，并確保綜合有效的努力，海軍部（DoN）已經為加速海軍部的無人系統制定了積極的目標，并確保海軍部在這些新興的能力方面保持領先地位。

這份詳細的備忘錄繼續指出："無人駕駛和自主技術正在改變各國開展軍事行動的方式......無人駕駛和自主系統的使用將改變我們的戰斗方式。" 美國防部的無人系統愿景隨后引出了無人系統戰略和計劃，最后引出了一系列高級無人系統目標：

• 通過載人、無人和自主能力的綜合團隊實現空中優勢。

• 通過擴大我們的海底星座的全球范圍來實現海底優勢。

• 通過載人和無人自主能力的綜合團隊，實現地面優勢。

• 吸收我們未來的地面戰斗力。

• 實行多領域的無人駕駛和自主系統。

• 實現無人駕駛的大規模。

• 通過整合無人駕駛和自主系統，實現持久的供應、支持和維持。

• 實現全面的無人操作能力和先進的自主性和機器學習。

這八個高層次目標中的每一個都有一個段落來支持，該段落提供了關于總體目標所需的更多細節，以及海軍部打算采取的步驟來實現這些預期結果。備忘錄接著詳細介紹了近期的促進因素和塑造努力，然后在結論中指出。"增加無人駕駛和自主系統的作戰使用，有望為我們的海軍部隊釋放出一種革命性的能力。"

最近，海軍部公布了期待已久的《無人駕駛作戰框架》。該文件旨在協調整個部門的無人系統工作，列出了雄心勃勃的目標，旨在幫助使無人系統成為海軍平臺庫存中越來越重要的一部分。該框架有五個目標。

• 在海軍和聯合行動的全部范圍內推進有人-無人的團隊效應。

• 建立一個數字基礎設施，快速和大規模地整合和采用無人駕駛能力。

• 激勵無人駕駛系統的快速增量開發和測試周期。

• 分解共同的問題，一次解決，并跨平臺和領域擴展解決方案。

• 為無人駕駛貢獻（平臺、系統、子系統）創造一個以能力為中心的方法。

盡管如此，這份38頁的報告確實為海軍部打算如何將無人駕駛系統引入艦隊和緬因州部隊提供了一個組織動力和指南。

6 為軍用無人駕駛系統設計合適的自主性程度

大多數人都熟悉兒童寓言故事《金發姑娘和三只熊》。當金發女郎品嘗三碗粥時，她發現一碗太熱，一碗太冷，還有一碗恰到好處。當美國防部和各軍種尋求實現自主性和人類互動的最佳平衡--平衡這兩種經常對立的力量并使其 "恰到好處"--在一開始就將這種能力設計到未來的無人系統中，而不是試圖在事后將其固定下來，這可能是唯一可持續的前進道路。如果我們不能做到這一點，幾乎不可避免的是，對我們的武裝無人系統將具有 "HAL"式的力量并超出我們的控制的擔憂將破壞這些重要作戰伙伴的承諾。

在用于軍事用途的無人系統中建立適當程度的自主性的一個關鍵是要記住一句老話："你站在哪里取決于你坐在哪里。" 用戶和設計無人系統的人經常從不同的--通常是明顯不同的--觀點來對待他們試圖完成的任務。海軍研究咨詢委員會的一份報告指出，在設計具有適當程度的自主性的無人系統時，必須調和四個不同的觀點：

• 用戶觀點。我可以給這個平臺一個任務，并相信它能在沒有持續關注的情況下完成它嗎？它能識別和處理意外事件或模糊的任務嗎？

• 機器人學觀點。我能否建立一個實用的機器人，在正確的時間做正確的事情？我可以動態地控制、導航、執行和測量我的機器人嗎？它能管理和融合數據嗎？

• 機器學習觀點。我的機器能解釋復雜的傳感器嗎？它能理解口頭語言，解釋手勢，或識別人或物嗎？

• 認知的觀點。我的機器能不能復制人類智能的元素，如認知、推理和推理？

隨著美國軍方出于各種原因增加對無人系統的依賴，它最好在某個時候決定該平臺是否足夠好，也就是說，它具有執行任務所需的速度、耐力和其他物理屬性。一旦確定了這一點，那么正如國防科學委員會報告所建議的那樣，軟件開發的艱苦工作必須成為優先考慮的因素。

7 無人駕駛系統:美國國防部的一個使用案例

利用大數據、人工智能和機器學習的普遍愿望未能解決一個關鍵問題，即我們希望這些技術能夠幫助作戰人員執行哪些具體任務。問題的根源可能是美國軍方缺乏將作戰人員的需求轉化為建議由大數據、人工智能和機器學習實現的技術解決方案的能力。作為前美國海軍軍官和艦艇指揮官，我們思考這個問題的方式讓我們很自然地想到海軍的例子。

開始解決這個問題的一個方法是思考海上的指揮官需要什么信息。無論是1812年8月艾薩克-赫爾艦長試圖帶著憲法號對蓋瑞爾號采取行動，還是今天的航母打擊群指揮官考慮將他的艦艇帶入一個可能有爭議的地區，指揮官需要三個主要東西來幫助他做出最佳決定。

他或她需要知道部隊前方的情況，需要將這些信息傳達給旗艦，并需要做出明智的決定。雖然今天的海軍指揮官擁有豐富的資產來幫助實現這些目標，但現在大數據、人工智能和機器學習可以幫助彌補一些差距。

一個打擊小組的指揮官擁有許多資產，可以展望部隊未來，以評估戰術形勢。他可能使用MQ-4C “海衛一”無人機系統來執行這種偵察任務。今天，"海衛一"操作人員會收到MQ-4C看到的流媒體視頻。但這需要他連續幾個小時盯著這段視頻（海衛一的續航時間為30小時），看到的主要是空曠的海洋空間。

利用大數據、人工智能和機器學習，MQ-4C可以被訓練成只發送它遇到的每艘船的視頻，從而大大壓縮了人類的工作量。更進一步，"海衛一"可以對每一次接觸進行機載分析，以標明其可能的興趣。例如，如果一艘船在航道上運行，已向海事當局提交了航行計劃，并提供了AIS（自動識別系統）信號，那么它很可能只值得操作者注意，“海衛一”將相應地標記它。然而，如果它不符合這些標準（例如，該船突然改變航線，離開了航道，或者沒有AIS信號），操作人員將被提醒。隨著這項技術的不斷發展，“海衛一”或其他無人機系統最終可能會配備分類算法，有可能導致自動識別目標。

一旦“海衛一”處理了這些信息，大數據、人工智能和機器學習可以幫助確定如何與旗艦溝通。在今天有爭議的電子戰環境中，不同的通信路徑具有不同程度的脆弱性。在 “海衛一”號發射之前，指揮官可以確定可接受的通信截獲風險水平，以及泄露打擊群存在的風險。

掌握了這個指揮官的意圖，并利用大數據、人工智能和機器學習，"海衛一"可以評估電子環境，從多個通信路徑中進行選擇，并確定哪條路徑提供最小的攔截漏洞。鑒于 "海衛一"號的尺寸和增長潛力，它甚至可以攜帶一個較小的無人機，并將其發射回部隊，以傳遞這種監視信息。

在旗艦上，指揮官必須了解他的傳感器所收集的數據，然后做出一些時間關鍵性的決定。他應該繼續前進，等待，還是撤退？他應該在前面偵察，還是在另一個方向？他是否應該調用其他部隊，或者他的有機資產是否足以成功地完成任務而不會給他的部隊帶來不必要的風險？

這就是大數據、人工智能和機器學習可以做出重要貢獻，幫助指揮官做出關鍵決策的地方。

如果指揮官選擇勇往直前，強制進行交戰，大數據、人工智能和機器學習可以做到今天的初級戰術決策輔助工具無法做到的事情--提供一系列選擇，并評估每個選擇的利弊。重要的是，這些技術并不--也不應該--做出決定，而是為指揮官提供足夠的、經過精心策劃的信息，以便他能比對手更快地做出最佳決定。

對于致命的軍事無人系統來說，在授權無人作戰伙伴發射武器之前，操作者必須知道什么，或者像經常發生的那樣，建議上級當局授權采取致命行動，這個標準更高。例如，考慮軍事操作人員管理一系列正在進行的無人駕駛航空系統飛行的情況，他們一直在觀察一個恐怖分子，并等待上級當局授權使用從該無人駕駛航空系統發射的空對地導彈來消除威脅。

利用大數據、人工智能和機器學習，操作者可以訓練無人駕駛航空系統預測上級主管部門在授權發射前會問什么問題，即使不能提供點解決方案，至少也可以提供百分比概率或信心水平的問題，例如。這個人是預定目標的信心水平是多少？這種信心是基于什么？是面部識別、聲音識別、行為模式、與某些人的聯系、與已知家庭成員的接近或與已知同伙的接近？對家庭成員、已知同伙或未知人員造成附帶損害的可能性是什么？等待與現在出擊的潛在影響是什么？

這些考慮只是操作者必須訓練其配備致命武器的無人系統處理的問題的一個子集。用大數據、人工智能和機器學習來增強這些系統，并利用它們在敵人和我們的決策圈內運作的能力，遠不是把致命的權力讓給無人系統，而是使這些系統能夠在戰斗的壓力下把人類操作員從不得不做出實時的、往往是即時的決定中解放出來。從一開始就將這種能力設計到無人系統中，最終將使它們成為其軍事操作者的有效伙伴。

這使我們回到了美國防部副部長羅伯特-沃克提出的一些擔憂。他指出，當敵人以 "機器速度 "攻擊我們時，我們需要利用機器來幫助保護我們。建立具有強大的大數據、人工智能和機器學習水平的無人系統，能夠與操作人員合作進行這項工作，才能最終確保我們建造的無人系統充分發揮其潛力，幫助我們的作戰人員在戰斗中獲勝。

有令人信服的證據表明，美國，特別是美國軍隊，必須在利用大數據、人工智能和機器學習方面超過我們的同行競爭對手。人工智能國家安全委員會在其2019年的臨時報告中明確分析了人工智能將如何成為游戲規則的改變者。"人工智能將塑造權力的未來。"2020年，《未來國防工作組報告》這樣提出將大數據、人工智能和機器學習插入美國軍事武器系統的必要性：

• 將人工智能納入軍事和國家安全領域，將從根本上改變戰爭的打法和勝利方式。無論哪個國家在人工智能競賽中獲勝，都將擁有關鍵的、也許是不可逾越的軍事和經濟優勢......算法戰爭的到來，由速度和精度驅動的人工智能武器在復雜的戰斗空間中競爭，要求美國在進攻性和防御性人工智能能力方面進行大量投資。

我們通過使用無人機系統的例子討論了插入大數據、人工智能和機器學習的影響，在這種情況下，MQ-4C “海衛一”，因為當插入這些技術的問題出現時，這是大多數人想到的戰爭領域。但還有一個領域，大數據、人工智能和機器學習可以在戰爭中產生更大的影響，那就是決策領域。

8 一個更普遍的用例：增強決策

伊恩-托爾在其獲獎的美國海軍誕生和成熟的歷史《六艘護衛艦》中，不僅記錄了海軍的早期發展，還記錄了它在多場戰爭中的掙扎。67很少有人在讀完這本書后，會對1775年至1815年間海軍和國家的生存是如何的近在眼前。

雖然我們很容易被托爾的敘述所吸引，像讀小說一樣快速閱讀這段歷史，但至關重要的是，不要錯過決策在海軍的勝利和失敗中的重要性。從在哪里建造這些護衛艦，到選擇它們的活動區域，到它們要打哪場戰役和避免哪場戰役，以及其他一系列的決定，主要是使國家能夠在那危險的幾十年中生存下來的正確決定。

雖然今天美國海軍的平臺和武器與迪凱特、普雷布爾、班布里奇、赫爾、佩里、勞倫斯等艦長的海軍沒有任何相似之處，但今天的艦長仍然必須做出他們的前輩所做的那種生死攸關的決定。大不相同的是今天的決策速度。像憲法號、星座號和其他早期護衛艦的艦長往往有幾個小時甚至幾天的時間來做出關鍵的選擇，而今天的艦長必須在幾分鐘甚至幾秒鐘內做出決定。

軍事史上不乏這樣的例子：做出更好決定的指揮官獲得了勝利，即使他們的對手擁有地理或物質優勢，這些事件在此無需重述。值得注意的是，在過去的幾個世紀里，各級領導人有幾個小時，甚至幾天的時間來做出關鍵決定。但到了上個世紀中期，戰爭的變化極大地壓縮了決策周期。

在朝鮮戰爭期間，俄羅斯的米格-15戰斗機和美國的F-86 "佩刀 "戰斗機為爭奪制空權展開了激烈的戰斗。空軍上校約翰-博伊德（John Boyd）為了找到一種減輕美國戰斗損失的方法，創造了我們今天所知的OODA循環。OODA是指：觀察、定向、決定和行動。

博伊德的概念是，勝利的關鍵是創造一個比對手更快地做出適當決定的環境。博伊德的構思最初是一種在空對空作戰中獲得成功的理論，是根據他的能量-機動性理論和他對米格-15戰斗機和北美F-86佩刀戰斗機在朝鮮的空對空作戰的觀察而發展出來的。哈利-希拉克--F-16戰斗機的總設計師在談到OODA理論時說："時間是主導參數。在最短的時間內完成OODA循環的飛行員占了上風，因為他的對手在應對已經發生變化的情況時被抓住了。"

即使是非軍事觀察員也清楚，空對空作戰可以說是壓力最大的軍事行動之一。但是，軍事領導人越來越意識到，壓力--尤其是無法處理信息--導致軍事操作人員開始出現自己的OODA環，并做出次優的決定。

在壓力下做出關鍵軍事決策的挑戰在1965年的電影《貝德福德事件》中進入流行文化。這部電影松散地基于美國海軍艦艇和蘇聯潛艇之間的一些冷戰事件，其情節線圍繞著美國驅逐艦貝德福德號（DLG 113）和一艘蘇聯潛艇之間的貓捉老鼠游戲。

貝德福德號的船員在長達數日的潛艇搜尋中變得越來越疲憊。隨著尋找蘇聯對手的緊迫性加劇，貝德福德號的船長無視他的船員在壓力下萎靡不振的警告，提高了他的要求，甚至碾壓了柴油潛艇的呼吸器。當有人問船長他是否會對他的對手開第一槍時，他回答說他不會，但 "如果他開一槍，我就開一槍"。一個疲憊的少尉把他的船長的話誤認為是 "開一槍 "的命令，于是發射了一枚反潛火箭，摧毀了潛艇，但在它發射一枚核武魚雷之前，潛艇就被消滅了。

雖然是虛構的，但《貝德福德事件》對55年后的一個真實世界的事件卻有可怕的預見。雖然對2020年1月伊朗革命衛隊擊落一架烏克蘭噴氣式客機的全面調查需要幾個月，甚至幾年的時間，但今天已知的是，在戰斗的壓力下，伊朗剛剛向美國軍隊發射了一連串彈道導彈，該國對美國的反擊保持高度警惕。

在伊朗情報或軍事指揮系統的某個地方，發出了巡航導彈來襲的警告。負責一個防空導彈組的軍官試圖聯系他的上級指揮中心，以獲得開火的授權。可悲的是，他無法接通，帶著不完整的信息，他發射了兩枚防空導彈，176人死亡。

這些事件--一個是虛構的，一個是非常真實的--有一個共同點：人類被迫在信息不充分或錯誤的情況下做出關鍵決定。在《貝德福德事件》中，它是人類之間相隔幾英尺的空氣間隙。在烏克蘭飛機被擊落的案例中，是無法溝通，以及對威脅的錯誤認知。

很容易將上述事件視為難以置信的虛構或不如美國軍隊的決定，但這將是一個悲劇性的錯誤。美軍人員做出錯誤決定導致生命損失的引人注目的事件已經困擾了美國軍隊四十多年。

• 1987年5月，美國海軍斯塔克號（FFG 31）在兩伊戰爭的禁區邊界附近巡邏。由于錯誤地認為交戰雙方都不會以美國軍艦為目標，當斯塔克號試圖與來襲的飛機進行溝通時，艦長一開始并沒有感到震驚。伊拉克的 "幻影 "噴氣機發射了兩枚 "飛魚 "導彈，造成37名美國人死亡，近二十人受傷。

• 1988年7月，懷著對斯塔克號艦長未能采取行動保護他的艦艇的回憶，在兩伊戰爭仍然激烈的情況下，當他的艦艇被伊朗炮艇圍攻時，文森斯號（CG49）的艦長錯誤地認為，一架接近的飛機正在接近并以攻擊姿態下降。他發射了一枚SM- 2ER導彈，擊落了伊朗航空公司655號航班，機上290人全部死亡。

• 1994年4月，兩架美國空軍F-15 "攻擊鷹 "在伊拉克上空擊落兩架美國陸軍UH-60 "黑鷹 "直升機，認為它們是伊拉克的米-24 "雌鹿 "直升機，機上26名軍人和平民全部死亡。空軍AWACS控制飛機和 "攻擊鷹 "之間的誤傳，以及自動識別敵我系統的故障，是造成這場悲劇的近因。

• 2001年2月，在瓦胡島以南10英里處，在為VIP平民游客進行的演示中，美國海軍格林維爾號核潛艇（SSN 772）進行了一次緊急壓載打擊機動，并在日本漁船愛媛丸號下浮出水面。船上的三十五人中有九人死亡。

• 2017年6月，美國海軍菲茨杰拉德號（DDG 62）與集裝箱船MV ACX Crystal相撞。她的七名船員被殺，其他幾人受傷。僅僅三個月后，美國海軍約翰-S-麥凱恩號（DDG 56）與懸掛利比里亞國旗的油輪Alnic MC相撞。她的10名船員在這次事故中死亡。

雖然所有這些悲慘的事故背后有多種原因，最明顯的是涉及美國海軍菲茨杰拉德號和美國海軍約翰-S-麥凱恩號的致命碰撞，但很明顯，在每個案例中，都有可用的數據，如果使用得當，可能會打破安全專家所說的 "事故鏈"，并防止悲劇的發生。

值得注意的是，做出這些次優決策的軍方人員是在手頭的工具下做了他們能做的最好工作。發生的情況是，戰爭的速度往往超過了人腦做出正確決定的能力。事實上，正如美國陸軍研究實驗室的首席科學家亞歷山大-科特博士在一次指揮和控制會議上所說，"人類的認知帶寬將成為戰場上最嚴重的制約因素"。

美國空軍技術地平線報告這樣描述這一挑戰："盡管今天人類在許多任務上仍然比機器更有能力，但人類的自然能力正變得與技術提供或要求的巨大數據量、處理能力和決策速度越來越不匹配。更緊密的人機耦合和增強人的表現將成為可能和必要。"由于這些原因和其他原因，海軍需要大數據、人工智能和機器學習，以使其作戰人員在戰斗中獲得優勢。

對于我們今天使用技術的人來說，這一挑戰應該不足為奇。正如任何擁有智能手機的人在打開機器后不久就知道的那樣，獲得足夠的數據很少是個問題。有時讓人不知所措的是對大量的數據進行分類，并試圖只挑出當下必要的數據。從戰爭的角度來看，這意味著系統只向決策者提供經過精心策劃的信息，以幫助他或她做出更好的決定，而且往往是在戰斗的壓力下。

每年春天在海軍戰爭學院舉行的當前戰略論壇是美國海軍的年度會議，討論和評估海軍對國家和國際安全的貢獻。雖然每個論壇都有其亮點，但2017年的活動可能會被人們記住，因為海軍作戰部長在會上用手說話。沒錯，約翰-理查森上將，一個核潛艇兵--而不是一個戰斗機飛行員--用他的手說話，把聽眾帶回了70多年前發明的航空戰術。

CNO將時鐘撥回到20世紀50年代的空軍上校約翰-博伊德和OODA循環。理查森上將用OODA環路來討論美國海軍正在使用的各種新技術。他指出，海軍已經在博伊德分類法中的觀察和行動部分進行了大量投資。他指出，在大數據、機器學習和人工智能等新興技術出現之前，我們對OODA環路中的 "觀察和決定 "部分無能為力，但今天我們可以。

這正是CNO在他的講話中使用博伊德的OODA循環的原因。他解釋說，今天的海軍作戰人員有大量的--甚至是壓倒性的--數據需要處理。他們需要大數據、人工智能和機器學習來整理這些數據，只呈現那些有助于決策者和扣動扳機者更快做出更好決策的信息。不難看出，這種將數據轉化為戰術上有用的信息的努力對作戰的所有方面都很重要，而不僅僅是戰斗機戰術。

現在可能是時候在美國海軍幾十年來幫助作戰人員做出更好決策的努力基礎上再接再厲了。海軍在利用技術幫助作戰人員在緊張的情況下以更少的人和更少的錯誤更快地做出更好的決定方面一直走在前列。在20世紀80年代，海軍研究辦公室啟動了一項計劃，研究作戰人員如何在高度緊張的情況下做出更好的決定。這項計劃被稱為TADMUS（壓力下的戰術決策），它利用認知科學在了解決策者如何做出決策方面取得了新的突破。這導致了海軍太平洋信息戰中心的科學家和工程師設計了幾個原型（多模式觀察站、知識墻和其他），并進行了測試，在幫助決策者實現改進決策方面取得了令人鼓舞的成果。

TADMUS與類似的海軍項目一樣，就其本身而言是好的。但正如理查德森上將在其當前戰略論壇的發言中所指出的，直到最近，將強化決策提升到新水平的技術還不存在。今天，它確實存在，而且利用大數據、人工智能和機器學習能夠為作戰人員提供的東西，很可能導致海戰的下一個突破，特別是在決策領域。海軍太平洋信息戰中心與通過海軍研發界、工業界和學術界的合作伙伴一起，正在領導各種努力，以確保美國作戰人員有能力以更少的人和更少的錯誤做出更好的決定。

9 充分發揮大數據、人工智能和機器學習的作用

在美國戰略和軍事指導的最高層，大數據、人工智能和機器學習被認為對為美國軍隊提供作戰優勢極為重要。而且，那些負責將這些技術整合到美國軍事平臺、系統、傳感器和武器的人越來越多地將決策確定為這些技術可以增加最大價值的一個重要領域。

在AFCEA/海軍研究所 "西部 "會議上的講話中，海軍預算主任迪特里希-庫爾曼少將這樣提出了海軍如何能夠最好地利用大數據、人工智能和機器學習的問題。"我們如何利用人工智能，不是為了生產殺人的自主平臺，而是為了讓指揮官在戰斗中獲得優勢？"的確，美國海軍--進而是美國軍隊--想要利用大數據、機器學習和人工智能的本質，不是在沒有人類監督的情況下向遠方發射終結者般的無人系統，而是幫助操作員做出更快、更明智的決定。

軍事作戰人員將始終處于循環之中，并將得到大數據、機器學習和人工智能的協助。軍方希望通過這些尖端技術--無論是應用于無人系統還是戰爭的其他方面--來實現的是進入對手的OODA循環。負責研究、開發和采購的海軍助理部長詹姆斯-格茨閣下在一次軍事工業會議上這樣說："如果一支部隊能夠利用人工智能讓決策者比對手更快地做出決定，那么它每次都會贏。"

在海軍戰爭學院的一次演講中，美國防部聯合人工智能中心主任杰克-沙納漢中將這樣說。"人工智能對美國國防最有價值的貢獻將是它如何幫助人類做出更好、更快、更精確的決定，特別是在高后果的行動中。"

很明顯，美國國防部已經認識到，淹沒在數據海洋中的作戰人員無法做出有效的決策，并試圖利用人工智能和機器學習等技術來幫助整理數據，只呈現在激烈戰斗中有用的信息。

沙納漢將軍在戰爭學院的講話中談到了利用大數據、人工智能和機器學習幫助作戰人員做出更好決策的機會和挑戰，他指出："在思考、書寫和談論人工智能與實踐之間存在著鴻溝。卷起袖子，投入到人工智能項目中，這是無可替代的。

最近，國防部聯合人工智能中心的新主任邁克爾-格羅恩中將這樣強調了決策:

• 當我考慮人工智能的應用時，我想的不僅僅是在發現目標后近乎瞬時開火的用例。在整個聯合部隊中，有一系列廣泛的決策必須由人工智能來實現。

在20世紀的戰爭中，衡量軍事優勢的單位是坦克、艦艇或飛機，以及 "勝過槍炮和棍棒 "對手的能力。在21世紀的戰爭中，軍事領導人只有幾分鐘甚至幾秒鐘的時間來做出關鍵的決定，超越對手的思維能力將決定勝利和失敗的區別。

當美國軍方及其國防工業伙伴在21世紀的第三個十年中制定他們的研發投資決策時，早就應該關注一個長期被忽視的領域--我們的軍事決策者的思想，并確保他們能夠做出更好的決定，比他們的對手更快和更少的錯誤。

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。

摘要

可解釋的人工智能（XAI）提供了克服這一問題的手段，它基于有關深度學習（DL）算法結果的額外補充信息。雖然完全透明對于復雜的DL算法來說仍然是不可行的，但解釋有助于用戶在關鍵情況下對AI信息產品進行判斷。應該指出的是，XAI是透明度、因果關系、可信度、信心、公平、信心和隱私等方面的總稱。因此，基本的方法論是多方面的。一種已經流行的方法是局部可解釋模型-預知解釋（LIME）方法，因為它可以很好地應用于各種應用中的不同模型。在本文中，LIME算法是在戰略運營的決策建議背景下進行研究的。在簡單介紹了其概念后，介紹了文獻中的應用。然后，一個戰略博弈的場景被認為是軍事戰爭的替代環境。一個基于DL的國際象棋人工智能被做成 "可解釋的"，以評估信息對人類決定者的價值。得出了與戰略混合行動有關的結論，這反映了所提出的方法的局限性。

引言

根據設想，未來戰略戰爭的決策將在很大程度上受到基于人工智能（AI）方法的信息產品的影響。特別是混合作戰，是在一個高維和變異的環境中進行的，在這種環境中，對潛在的威脅和機會的評估是人類操作者難以掌握的，戰略規劃必須納入異質的、多功能的和高容量的數據源。因此，基于人工智能方法的算法產生的分類、預測和建議在這種復雜的場景中變得越來越重要。在過去的幾年里，人工智能的方法已經獲得了巨大的發展，有大量的創新和令人尊敬的成果，可以從大型數據集中獲得更高層次的信息。然而，深度學習（DL）方法的一個主要缺點是其固有的黑箱屬性，即由于計算模型的復雜性，其結果是不透明的。例如，后者可能有數百個層和數百萬個參數，這些參數是在訓練階段通過算法發現和優化的。因此，即使結果是準確的，用戶也沒有機會理解它或掌握輸入數據的因果部分。這反過來又會影響到用戶對輔助設備的信任，在兩個方向上都是如此。這個問題在某些民事應用中起著次要的作用，例如語音識別，它經常被應用于與設備的互動，因為除了體面的失望之外沒有潛在的風險。對于其他非常具體的任務，如手寫字符識別，DL算法的性能超出了人類的平均水平，這意味著失敗的可能性很小，因此關于因果關系的問題可能成為附屬品。然而，在許多軍事應用中，當涉及到與人工智能的互動時，人類的信任是一個關鍵問題，因為錯誤的決定可能會產生嚴重的后果，而用戶始終要負責任。這實際上是兩方面的。一方面，操作者往往需要了解人工智能產品的背景，特別是如果這些產品與他或她自己的本能相悖。另一方面，不可理解的技術會對算法信息產品產生偏見，因為很難確定在哪些條件下它會失敗。因此，適當的信任程度可能很難計算。

可解釋的人工智能（XAI）是向黑盒人工智能模型的用戶提供 "透明度"、"可解釋性 "或 "可解釋性 "的方法的集合。這些術語幾乎沒有一個共同的定義，但許多出版物提到了：

• 透明度是指人類跟蹤和理解模型創建過程的可能理解程度。這就是從數據中提取信息，轉化為推理參數的表現形式。DL前饋網絡由于其基于大數據集的迭代學習過程和錯誤向各層的遞歸傳播而缺乏這一特性。
• 可解釋性是指對模型本身的理解程度，即從輸入數據到預測結果的信息流可以被理解。由于涉及的參數數量和層的層次結構，這對標準網絡來說是不可行的。
• 可解釋性是指對特定預測結果進行解釋的可能性程度。也就是說，用戶可以看到與輸入數據的一致性，在某種程度上可以看到是否存在因果關系。

XAI不能完全 "解釋 "DL模型，然而，它為工程師或操作員提供了更好地理解特定AI產品背后的因果關系的手段。而且很多時候，這可以幫助看到，從合理的因果關系鏈暗示算法決策或預測的意義上來說，該模型是否是合理的（或不是）。因此，XAI可以成為人工智能模型工程的一個重要工具，用于安全方面的驗證，甚至用于認證過程，以及為操作員提供額外的信息，以支持明智的決策。

雖然關于XAI的大多數文獻都集中在圖像識別的方法上，但這些結果很難轉化為基于特定挑戰性競爭形勢的戰術和戰略決策領域。在本文中，我們研究了人工智能模型在棋盤評估中的可解釋性。對更復雜的軍事戰略模擬的一些影響進行了討論。

本文的結構如下。在下一節中，簡要介紹了選定的XAI方法。然后，這些方法之一（LIME）被應用于棋盤評估問題，以證明在支持信息方面的解釋的質量。在最后一節，得出了結論，并討論了對更復雜的戰爭博弈和模擬的概括。

摘要

實時戰略游戲已經成為開發和分析人工智能（AI）和基于深度機器學習的競爭、攻擊者與防御者場景的算法的一個有吸引力的環境。基于計算機的實時戰略游戲和用于軍事訓練的戰爭游戲的特征之間的相似性也提供了一種手段，可以將基于人工智能的實時戰略游戲的結果和教訓過渡到幫助和告知作戰人員的決策能力。我們的論文研究了基于人工智能的實時戰略游戲和軍事決策中的戰略規劃之間的這種交集，這個領域被稱為對抗性人工智能。我們描述了在實時戰略游戲中開發有效的對抗性人工智能的問題和挑戰，我們最近組織了一次對抗性人工智能競賽，使用的是海洋環境中的模擬版奪旗游戲。我們討論了比賽的條目、結果和從競爭者的反饋中獲得的教訓，并為基于人工智能的、復雜的、對立的實時戰略游戲規定了未來的方向和公開的挑戰。

引言

近年來，人工智能（AI）已經成為用于軍事和民用領域的自動化系統背后的主要使能技術。自動化系統必須不斷與環境中的其他實體互動，包括人類、智能設備、計算機和其他人工智能。傳統上，基于人工智能的系統在設計時假定與它們互動的其他實體是良性的。換句話說，互動的實體不會故意做出對抗性的行為來打敗或顛覆人工智能。然而，在現實世界中，隨著基于人工智能的系統變得更加普遍，敵對行為者不斷想出新的方法來迷惑基于人工智能的系統，使其失敗并以不正確、不安全甚至危險的方式運行。我們的論文描述了正在進行的應對這些挑戰的努力，作為 "五眼"（FVEY）技術合作計劃（TTCP）人工智能戰略挑戰（AISC）的一部分，在一個被稱為對立人工智能（OAI）的技術領域。

OAI的目標是更好地理解來自不同利益相關者的基于人工智能的系統在以噪聲和低質量數據為特征的環境中相互作用時出現的問題，這些利益相關者的心態和目標是不一致的，可能是相反的。OAI支柱的一個主要方向是將OAI問題建模為一個防御者與攻擊者的游戲，并使用強化學習技術開發和分析不同的游戲策略。為了實現這一目標，我們正在使用一個名為Aquaticus奪旗（CTF）的多人游戲。游戲編程界面是用Python和OpenAI Gym編寫的，以便與強化學習算法輕松靈活地整合，通過分析可能的攻擊和防御策略空間，智能地學習游戲和贏得比賽。在本文中，我們描述了與開發有效的基于人工智能的技術有關的問題和挑戰，這些技術可以使玩家在OAI場景中獲得決定性的優勢，以及我們在組織首屆OAI Aquaticus CTF比賽中的經驗。最后，我們討論了從比賽中獲得的一些經驗，并確定了未來的方向，這些方向將使人工智能研究普遍化，并使其更適于過渡到戰場上的對立場景中的有效決策。

圖1. MOOS-IvP模擬器內的Aquaticus奪旗游戲截圖（左），以及MOOS-IvP模擬器界面疊加在真實海洋環境中的Aquaticus CTF游戲；每隊有4名玩家（右）

摘要

人工智能領域的進展繼續擴大這組技術的潛在軍事應用范圍。本文探討了信任在人機聯合作戰中的關鍵作用，以及依靠人工智能來補充人類認知的潛在影響。如果依靠人工智能來準確處理傳感器數據，操作自主系統和平臺，或通過擬議的作戰概念（如以決策為中心的戰爭）提供有利的決策支持，設想機器智能的中央指揮和控制作用，那么信任機器智能將是未來作戰中的一個關鍵組成部分。鑒于這些技術和理論的發展，信任的概念對于機器智能在戰術和作戰層面的軍事行動中的使用變得高度相關，正確校準的信任水平是安全和有效行動的基礎。在簡要回顧了機器智能的最新進展和對信任概念的探索之后，本文概述了人工智能在戰場上的當前和潛在應用，以及由不充分或不合理的高信任度帶來的挑戰。

引言

縱觀歷史，技術已經擴大了武裝沖突的領域，戰術交戰的節奏，戰場的地理范圍，以及指揮官與部隊溝通的手段。技術創新--包括軍事和民用--改變了軍隊的作戰方式以及國家計劃和進行這些沖突的方式。在21世紀，迄今為止，很少有進步能像統稱為人工智能（AI）的一組技術那樣獲得如此多的關注。人工智能正準備迎來一個新的時代，在這個時代，機器智能和自主性正在為軍事行動的規劃和執行產生明顯的新概念。算法戰爭可能會帶來一些獨特的東西：增強甚至取代人類決策過程的系統，其速度可能超過人類規劃者的認知能力。
新興技術的整合提出了任何數量的基本組織和倫理問題，值得關注。本文將采用定性的社會科學方法，重點討論人類-自治團隊（HAT）的一個重要方面：鼓勵對機器智能的適當信任程度。有大量的學術文獻關注自動化或機器人技術中的信任問題，但有關具體軍事應用的工作較少。當人工智能在聯合作戰中被實際部署時，在信任方面有哪些挑戰和機會？在簡要回顧人工智能和概述機器智能在戰場上的可能應用之后，本文在分析鼓勵適當信任水平的陷阱和潛在解決方案之前，探討了信任和信任校準的概念。

人工智能的進展

幾十年來，人類一直對賦予機器某種形式的人工智能的可能性著迷，Nils Nilsson將其定義為 "致力于使機器智能化的活動，而智能是使一個實體在其環境中適當運作并具有預見性的品質"。在數字時代的早期，出現了兩種廣泛的人工智能方法。自上而下的專家系統方法使用復雜的預編程規則和邏輯推理來分析一個特定的數據集。對于具有可預測規則的明確定義的環境--諸如分析實驗室結果或下棋等應用--專家系統或 "符號 "人工智能（基于符號邏輯）的性能主要取決于處理速度和算法的質量。另一大類使用自下而上的機器學習方法，模擬人類通過檢測數據中的模式進行學習的方式。神經網絡是一種以人腦為模型的機器學習形式，能夠通過使用多個（因此是 "深"）人工神經元層來識別復雜的模式，是被稱為 "深度學習 "的技術的基礎。通過其在數據集中尋找關系的能力，這種技術也被稱為 "連接主義"。
自上而下、基于規則的符號系統和自下而上的機器學習連接主義技術之間的差異是很大的，特別是關于它們的潛在應用范圍和靈活性。深度學習方法的顯著特點是能夠將學習與它所訓練的數據集分開，因此可以應用于其他問題。基于規則的算法可以在狹義的任務中表現得非常好，而深度學習方法能夠迅速找到模式，并在 "蠻力 "專家系統計算方法無效的情況下有效地自學應用。最近的一些人工智能進展顯示了模仿創造力的能力，產生了有效的解決問題的方法，這些方法對人類來說可能是反直覺的。
然而，總的來說，人工智能仍然是狹窄的或 "脆弱的"，即它們在特定的應用中功能良好，但在用于其他應用時仍然不靈活。與人類的認知相比，鑒于機器的計算速度遠遠超過人腦，機器智能在將邏輯規則應用于數據集時要優越得多，但在嘗試歸納推理時，它必須對數據集或環境進行一般性的觀察，這就顯得不足。大多數機器學習仍然需要大量的訓練數據集，盡管新的方法（包括生成對抗網絡（GAN）和 "小于一次 "或LO-shot學習）正在出現，需要非常小的數據集。圖像識別算法很容易被混淆，不能像人類那樣立即或直觀地理解情景背景。這種脆性也延伸到了其他問題，比如游戲。雖然人工智能在視頻游戲中經常表現出超人的能力，但他們往往不能將這種專業知識轉移到具有類似規則或玩法的新游戲中。
 雖然人工智能技術繼續在變得更加適應方面取得重大進展，但任何接近人類的人工通用智能仍然難以實現。評估人工智能的近期前景因該技術的漸進式進展而變得更加復雜。圍繞著人工智能的炒作--在很大程度上被深度學習方法的成功所推動--既導致了對該技術未來的不切實際的期望，也導致了對其非常大的進展的正常化。正如一份報告所指出的，"人工智能將一項新技術帶入普通人的視野，人們對這項技術習以為常，它不再被認為是人工智能，而出現了更新的技術"。盡管象征性的人工智能和各種形式的機器學習構成了該領域最近的大部分進展，也許除了融合這兩種方法的嘗試之外，未來仍然不確定。一些人猜測，機器學習技術帶來的進展可能會趨于平穩，而另一些人則保持樂觀。相關的技術進步，如短期內的計算機芯片設計和長期內的量子計算，可能會影響進一步進展的速度。