近日，美國智庫蘭德發布《用博弈論和人工智能洞悉太空競爭和沖突動態》，講述了通過博弈論和人工智能方法開發對太空競爭和沖突動態進行評估的模型過程。

報告指出

大國競爭經常在太空上演。隨著太空日益軍事化，了解這些國家在太空安全方面的投資以及投資的用途變得具有重要戰略意義。2014年，蘭德公司開始開發一種博弈論模型，以評估美國和競爭對手太空投資所產生的戰略影響。在此后的項目中，蘭德公司的研究人員在傳統博弈論的基礎上，對這些投資如何發揮作用進行了評估。雖然以前使用這一模型探索了投資對阻止地面戰爭升級到太空的影響，但在這里側重于評估太空競爭的動態。他們盡可能描述戰略互動模式；它們產生的條件；以及投資會如何塑造這些條件。但是，多數情況下，還沒有發現這些條件與由此產生的動態和戰略互動模式間的相關性。

為了對太空競爭進行深入評估，研究人員使用復雜的人工智能(AI)方法開發了一個更為復雜的模型。雖然發現這種復雜性增加了評估投資產生的可能情況，但也妨礙了他們隔離不同戰略互動模式條件的能力。這份報告不僅會對太空政策決策者提供參考，也會有助于使用人工智能模型進行探索性研究的人員。

研究問題

• 假設太空領域意識(SDA)提高了一個國家防御動態攻擊的能力，那么這些提高的防御能力能阻止敵人攻擊嗎？它們會改變沖突的結果嗎？

• 對對手進攻能力的誤解是穩定還是不穩定？這些誤解會改變沖突的結果嗎？

• 當太空沖突發生時，各國是否會采取不同的攻擊策略，類似于在國際象棋比賽或其他戰略競賽中觀察到的策略？

研究發現

• 提高對防御能力只是改變對手的戰術，而并非其戰略。如果攻擊太空資產實對手長期戰略意圖，降低他們首選攻擊對象的成功概率僅僅意味著他們將轉向下一個攻擊目標。

• 當對手認為處于不利地位，或處于不利地位的對手被認為是對手時，錯誤認知就一直會延續。

• 決定是否披露或隱藏攻擊能力的投資或實際程度并不容易，特別是考慮到并非所有潛在的空間對手都是同行競爭者。

在競爭中有三種戰略互動模式，在這些模式中，威懾失去作用，但沒有達到全面失效程度。

• 在作戰早期形成階段，攻擊發生在地面沖突之前兩年或更久。

• 在武器消耗戰中，雙方都將攻擊保留到地面戰爭開始之前或同時，雙方的攻擊主要集中在削弱對手的進攻能力。

• 在橫向升級游戲中，攻擊是在地面沖突開始后很久進行的，并且集中于在對手從太空投射力量的能力上制造可利用的缺陷。

研究建議

• 在博弈論模型中更好地理解因果關系，有助于描述構建沖突中起作用的力量。使用類似的博弈論方法可以進行有針對性的檢查，以闡明其中的因果關系。

• 對太空中的戰略互動進行更針對性研究，可以幫助確定有利戰術，即使對手長期戰略保持不變。

• 其他工作可以利用類似但更簡單的游戲模型，以及蘭德和其他人在戰略信息方面的現有工作，來確定感知的不確定性如何影響沖突結果和戰略互動模式。

報告目錄

第一章 介紹

第二章 方法學

第三章 防御性投資的戰略價值和進攻性投資的考慮因素

第四章 表征戰略互動模式

第五章 總結和對未來工作的建議

附錄A 項目階段概述

附錄B 游戲結構和方法

這是一個顛覆性技術快速變革的時代，特別是在人工智能（AI）領域。雖然這項技術是由商業部門為商業開發的，但人工智能在軍事應用方面的明顯潛力，現在正促使世界各地的武裝部隊對人工智能防御雛形系統進行試驗，以確定這些系統如何能夠最好地用于作戰與和平時期的任務。

澳大利亞也不例外，在2020年國防戰略更新中分配了資金，開始將人工智能能力引入國防。這將涉及開發解決戰術級和戰略級軍事問題的人工智能應用程序，建立一個熟練的人工智能勞動力，并與澳大利亞合作伙伴和盟友合作，將倫理學納入人工智能應用程序，并進行人工智能實驗。今年在澳大利亞首都地區費爾伯恩設立的國防技術加速實驗室是這一計劃的具體行動體現。

彼得-雷頓（Peter Layton）的論文考慮了人工智能在未來海、陸、空作戰行動中的戰術和作戰層面上可能發揮的作用，為這一廣泛的活動做出了貢獻。這是一個很少被研究的領域，因為到目前為止，大部分的討論都集中在關鍵的技術問題上。這些審議表明，人工智能可能是未來戰爭中的一項重要技術，但仍有許多不確定因素。本文提供了一個起點，在此基礎上開始辯論，這將有助于解決其中一些不確定性。

本文認為，人工智能將滲透到大多數軍事機器中；然而，它的通用性意味著它很可能是在現有作戰層面結構中被使用。鑒于此，人工智能在中短期內的主要作戰用途是“尋找（find）和欺騙（fool）”。人工智能/機器學習尋找隱藏在高度混亂背景中的目標非常出色；在這個應用上，它比人類更好，而且速度更快。然而，人工智能可以通過各種手段被欺騙；其強大的尋找能力缺乏穩健性。這兩個關鍵特征在應用于當前海、陸、空作戰層面的思考時，可能會產生巨大的影響。

本文初步設計的作戰概念與沒有人工智能技術的作戰概念明顯不同。

所討論的概念旨在激發人們對人工智能戰場上人機協作作戰的思考。這樣的戰場在目前看來可能有些猜測，幾乎是科幻小說。即便如此，許多國家已經在規劃、研究和開發方面取得了很大進展。鑒于將軍事力量調整到新方向所需的漫長準備時間，這一旅程需要從現在開始。

人工智能（AI）技術突然變得對軍事力量很重要。美國國防部（US DoD）已將人工智能的投資從2016-17年約6億美元增加到2021-22年25億美元，橫跨600多個項目。中國已經通過了一項“下一代人工智能發展計劃”，旨在到2030年使中國成為人工智能領域的杰出國家，并使人民解放軍從“信息化戰爭”轉向“智能化戰爭”。更引人注目的是，俄羅斯總統普京宣布，“人工智能是未來......誰成為這個領域的領導者，誰就會成為世界的統治者”。這些高級別的倡議和聲明正在產生結果。

在美國，美國海軍（USN）的“海上獵人”號（USV）在沒有船員的情況下從加利福尼亞航行到夏威夷再返回，利用船上的傳感器、雷達和攝像機數據，通過人工智能進行導航。同時，在美國國防部高級研究計劃局（DARPA）的支持下，一架由人工智能驅動的F-16模擬戰斗機最近在多次模擬的近距離空戰中全面擊敗了由非常有經驗的人類飛行員控制的類似模擬。在一項研究陸戰的類似評估中，美國陸軍（US Army）已經確定，一支由人工智能驅動的部隊比一支非人工智能驅動的部隊擁有大約10倍的戰斗力。

中國目前正在應用人工智能，通過指揮和控制系統的自動化來提高其戰場決策的速度和準確性，制定預測性作戰計劃并解決情報、監視和偵察數據融合的挑戰。中國還開始試用人工智能USV，以備在南海使用，并開始試驗無人駕駛坦克，而一家中國私營公司公開展示了人工智能武裝的蜂群無人機。

俄羅斯落后于美國和中國，但現在正在實施一項國家人工智能戰略以迎頭趕上。在軍事領域，俄羅斯有幾項工作正在進行。一條主線是將人工智能應用于信息戰，在戰術上用于發動心理戰，在戰略上用于破壞對手國家的社會凝聚力。另一條線是通過開發無人駕駛地面車輛（UGVs）、遠程傳感器、戰術指揮和控制系統以及無人駕駛航空器（UAVs），使用人工智能來提高陸地作戰行動的有效性。另一個努力方向是國家防空網絡的指揮和控制系統的自動化。

初步跡象表明，人工智能可能是未來戰爭中一項非常重要的技術，但仍然存在不確定性。雖然人工智能在民用領域，特別是在消費類產品中，被廣泛使用，但在軍事環境中才剛剛接近實際部署。此外，它仍然沒有在真正的戰斗行動的惡劣試驗場上得到驗證。即便如此，人工智能已經成為軍事力量考慮其未來時不可忽視的技術。

重要的是，在可預見的未來，可用的人工智能技術是狹義的，而不是通用的。狹義人工智能等于或超過了人類在特定領域內特定任務的智能；其表現取決于應用環境。相比之下，通用人工智能等于人類在任何領域任何任務中的全部表現。何時能實現通用人工智能仍然值得商榷，但似乎還有幾十年的時間。近中期的全球軍事興趣在于如何在現代戰場上使用狹義的人工智能技術。

不足為奇的是，人工智能的定義往往與人類智能相提并論。例如，2018年美國國防部人工智能戰略將人工智能定義為“機器執行通常需要人類智能的任務......”。這種理解將技術擬人化，并無意中將對人工智能應用的思考限制在那些可以由人類執行的任務上。

在某些應用中，人工智能可能比人類做得更多或更少。人工智能和人類能力的維恩圖在某些領域可能會重疊，但認為它們重合是有點虛偽的。在提供解決問題的見解上，人工智能可能是智能的，但它是人工的，因此，它的思維方式是人類所沒有的。

因此，本文在考慮人工智能時，更多的是考慮這種技術能夠執行的廣泛功能，而不是考慮它與人類能力的關系。2019年澳大利亞國防創新委員會采取了這種方法，將人工智能定義為“用于執行以目標為導向的任務的各種信息處理技術，以及追求該任務的推理手段”。

初一看，這個定義似乎并不精確，沒有包括人工智能可能為軍事或民用目的實際執行任務。但這種模糊性是當代人工智能應用的一個關鍵屬性。人工智能可以以多種方式應用，可以被認為是一種普遍存在于社會中的通用技術。通用技術的一個早期例子是電力，現在它被廣泛使用，以至于它的持續存在和使用，就所有的意圖和目的而言，都是簡單的假設。電能使惰性機器活躍起來，人工智能也將以自己的方式，通過推理為它們提供完成任務的能力。人工智能似乎將注入許多軍事機器，因此未來的戰場將不可避免地以某種方式由人工智能支持。

為了取得對對手的作戰優勢，軍隊不斷尋求更大的戰斗力。傳統上，技術是以一種綜合的方式在戰場上使用的，它能最好地利用人類和機器的長處，同時盡量減少兩者弱點的影響。人工智能似乎也可能是類似的。可以預計，人工智能在與人類謹慎地合作時，而不是在某種獨立的模式下，會變得最有效。

這種考慮強調了新技術本身并不會突然間帶來戰場優勢，而是在于人類如何運用它。對早期技術創新的歷史分析指出，擁有指導如何使用這些新技術的合理概念是軍隊成功將其投入使用的關鍵。歷史學家威廉姆森-默里和艾倫-米萊指出：

• 證據表明，首先，制定未來愿景的重要性。軍事機構不僅需要進行最初的智能投資，以發展對未來戰爭的設想，而且必須繼續對這種設想進行深入思考，以確定這些戰爭可能與以前的沖突有什么不同......在這方面任何對未來戰爭的設想幾乎肯定是模糊和不完整的，不是詳細和精確的，更不是任何科學意義上的預測。然而，愿景并不足以產生成功的創新。一個人對未來沖突的看法也必須是平衡的，并與行動的實際情況有很好的聯系。

在戰術層面，與戰爭現實的聯系是最緊密的。戰略規定了目標、總體方針和使用的力量，但在與聰明和適應性強的對手戰斗中處理這些力量的卻是戰術層面。雖然戰斗的成功可能不會導致戰略的成功，正如美國在越南的戰爭所說明的那樣，反之亦然。一個好的戰略在面對持續的戰術失敗時不可能成功。克勞塞維茨寫道：一切都取決于戰術結果......這就是為什么我們認為強調所有的戰略規劃都只依賴于戰術上的成功是有用的......這在任何情況下都是決策的實際基本依據。戰術通常被認為涉及友軍相互之間以及與敵人之間的分布和機動，以及在戰場上使用這些部隊。

本文旨在為在未來的人工智能戰場上使用人機團隊制定作戰概念。這樣的戰場，特別是當擴大到陸戰以外的空戰和海戰時，有一個混合的線性和深層的方面，具有消耗和機動的概念。設計這些作戰概念將為潛在的狹義人工智能系統如何在戰爭的戰術和作戰層面上使用提供一個廣闊的視野。

首先，本文討論了組成人工智能技術包的各種技術要素。這些要素包括先進的計算機處理和大數據，以及與云計算和物聯網（IoT）有關的具體方面。

第二章研究了利用人工智能發動戰爭的問題，并為防御和進攻制定了通用的作戰概念。這些概念位于作戰和戰術層面之間的模糊界面，涉及友軍相對于對手的分布和機動，以及友軍在戰場上的運用。

第三章、第四章和第五章分別將人工智能防御和進攻的兩個通用概念應用于海洋、陸地和空中領域。每個領域的戰斗在分配和操縱友軍以及與敵人交戰方面都有很大的不同，因此有必要提出單獨的人工智能作戰概念。沒有一個單一的概念能夠充分涵蓋所有三個領域，除非在很高的抽象水平上，但理解其含義可能會變得困難。提出這種具有前瞻性的概念似乎接近于投機性的小說。為了避免這種情況，每個概念都特意以當代作戰思維為基礎，并討論了當前和新興的人工智能支持的海、陸、空平臺和系統，以說明所提出的想法。

設計這些作戰概念的目的是激發思考，并啟動關于未來和如何備戰的辯論。本文提出的作戰概念旨在成為辯論其他人工智能戰場概念的實用性、可能性和有用性的基礎。只有通過對建議進行批判性分析，并不斷重構它們以進一步分析和演化，才能朝著最佳作戰概念取得進展。

本文所討論的概念在性質和范圍上都是有意限制的。就性質而言，海、陸、空的概念是：為了保持每個概念的重點，它們不是聯合或合并的。重要的是，這種狹隘性意味著一些領域并沒有包括在內，如俄羅斯在影響力戰爭中使用人工智能或中國在社會管理和內部防御中使用人工智能。出于類似的原因，每個概念都有一個狹窄的范圍，專注于戰爭，只有限地關注后勤，并避免關鍵領域，如教育、培訓、行政和指揮與控制。值得注意的是，除了與傳統的陸、海、空領域的戰術交戰的關系外，沒有討論網絡和空間這些新領域。

本文將人工智能這種新技術與戰爭的作戰方式和戰術使用選擇聯系起來。有了這樣一個重點，本文就與許多武裝部隊制定的眾多人工智能戰略和計劃不同。一般來說，這些戰略和計劃都是向內看的，目的是闡述人工智能作為一種技術將如何被研究、獲得并引入到他們的具體服務中。本文旨在補充這些人工智能技術戰略和計劃，將它們與更廣泛的作戰業務聯系起來，發揮作用。

斯考克羅夫特戰略與安全中心致力于制定可持續的、無黨派的戰略，以應對美國及其盟友和伙伴面臨的最重要的安全挑戰。該中心支持美國在與盟國、伙伴的合作中發揮領導作用，以及對培養下一代領導人提供指導。

執行摘要

在過去的幾年里，世界各地的軍隊對發展人工智能（AI）的興趣和投資有所增加，以支持一系列多樣化的國防和國家安全目標。然而，對于什么是人工智能，它如何影響美國和中國之間的戰略競爭，以及如何為這個部署軍事人工智能的新時代優化國防工業基礎，仍然缺乏普遍的理解。現在已經到了在人工智能方面見仁見智的時候了，在政策界和技術界之間建立對現代人工智能的共同理解，并在國防部（DoD）和其工業伙伴之間統一觀點和優先事項。因此，本文討論了以下核心問題。

（1）什么是人工智能，為什么國家安全政策制定者應該關心？

人工智能的能力有可能為美國國家安全和國防帶來改變游戲規則的優勢，包括

• 大大加快和改善決策。
• 加強軍事準備和作戰能力。
• 提高人類的認知和身體能力。
• 設計、制造和維持軍事系統的新方法。
• 具有能打破微妙的軍事平衡的新能力。
• 創造和檢測戰略網絡攻擊、虛假信息運動和影響作戰的能力。

對人工智能作為威懾和贏得未來戰斗所必需的關鍵能力，在美國防部內部得到了重視，美國防部在過去五年里對人工智能進行了顯著的投資。但是，五角大樓以外的政策制定者，以及公眾和正在開發人工智能技術的公司，都需要更好地了解當今人工智能的能力和局限性，并清楚地認識到人工智能對國家安全的積極影響和潛在的破壞性影響。

（2）為什么人工智能對戰略競爭至關重要？

五角大樓對人工智能的興趣也必須從與中國--以及在較小程度上與俄羅斯--的戰略競爭加劇的角度來看待，人們越來越理解在人工智能和相關新興技術方面的落后可能會損害美國軍隊自冷戰結束以來所保持的戰略、技術和行動優勢。一些國防領導人甚至認為，美國已經在軍事技術競爭中輸給了中國。

雖然本文不贊同這種宿命論的觀點，但本文認為軍事人工智能競爭的賭注很大，而且時間很短。

（3）美國防部采用人工智能的障礙是什么？

五角大樓臭名昭著的官僚主義、陳舊的采購和合同制度以及規避風險的組織文化，繼續抑制著美國防部引進外部創新和更快地走向廣泛的人工智能整合和采用的能力。解決這種系統性問題是一個很高的要求。但是，為促進美國防部與商業技術部門和創新初創企業的接觸，已經在進行重要的變革，而且似乎有一種共同的緊迫感，即鞏固這些公私伙伴關系，以確保美國持續的技術和軍事優勢。然而，在統一美國防部及其行業伙伴對人工智能發展最具影響力領域的看法，以及闡明和實施共同的技術標準和測試機制以實現可信賴和負責任的人工智能方面，仍有許多工作要做。

主要收獲和建議

國防部必須迅速行動起來，從對人工智能重要性的廣泛認可過渡到創建路徑、流程、實踐和原則，以加速采用人工智能技術所帶來的能力。如果沒有有意的、協調的和立即的行動，美國有可能在利用主導未來動能和非動能戰場的制勝技術方面落后于競爭對手。本報告為美國防部確定了三個行動方案，這些方案可以幫助確保美國軍隊保持其在人工智能領域的全球領先地位，促進更迅速地采用人工智能所需的內部變革，并利用充滿活力和多樣化的美國創新生態系統，包括

• 優先考慮安全、可靠、可信和負責任的人工智能開發和部署。
• 調整人工智能發展的關鍵優先事項，加強美國防部和行業合作伙伴之間的協調，以幫助縮小人工智能能力的差距；以及
• 促進領先的國防技術公司和非傳統供應商之間的協調，以加快美國防部人工智能的采用。

本報告是在美國防部采用人工智能努力過程中和全球地緣政治的未來軌跡方面既合適又充滿不確定性的時候發表的。正在進行的烏克蘭沖突使限制獨裁者控制領土、人口、標準和言論的重要性變得非常明顯，而致力于維護長期國際行為規范的聯盟可以在這一努力中發揮作用。因此，作者敦促美國防部在政府層面，并在可能的情況下在工業層面與美國的盟友和可信賴的伙伴進行接觸和整合，以更好地實施本文的三項主要建議。

1 簡介

人工智能為國防政策制定者提供了一個重要的機會。人工智能處理和融合信息的能力，以及將數據提煉為增強決策的能力，可以在一個混亂的、有爭議的環境中撥開 "戰爭的迷霧"，在這個環境中，速度是王道。人工智能還可以釋放出新型可損耗和一次性無人系統的可能性，從而增強威懾力。例如，它可以幫助保障美國軍人的生命，為指導沖突地區自主補給卡車的導航軟件提供動力。雖然人類仍然負責對目標做出最終決定，但人工智能算法在幫助情報專業人員識別和追蹤惡意行為者方面正日益發揮作用，目的是 "縮短殺戮鏈，加快決策速度"。

由于美國所處的更廣泛的地緣戰略背景，特別是與中國的戰略競爭，人工智能的發展和整合也勢在必行。中國人民解放軍（PLA）在人工智能方面的預算似乎與美國軍隊相當，而且解放軍正在為同樣廣泛的應用和能力開發人工智能技術，包括訓練和模擬、蜂群自主系統和信息操作，以及其他許多方面，所有這些都可能取代美國的軍事技術優勢。

正如美國國防部長勞埃德-奧斯汀在2021年7月指出的那樣，"中國的領導人已經明確表示，他們打算在2030年之前在人工智能方面成為全球主導。北京已經談及將人工智能用于一系列任務，從監視到網絡攻擊到自主武器"。美國不能落后于中國或其他競爭對手。

為了加快人工智能的采用，五角大樓必須面對它的弊端：一個孤立的官僚機構，它阻礙了有效的數據管理努力，并阻礙了大規模利用美國防部數據所需的技術基礎設施；陳舊的采購和合同流程，抑制了國防部引進外部創新和將成功的人工智能技術原型過渡到生產和部署；以及一種規避風險的文化，與已知的促進創新的開放、實驗和容忍失敗的類型不一致。

目前正在進行一些努力來解決其中的一些問題。直接向美國防部副部長報告的首席數據和人工智能官（CDAO）角色最近被宣布，以合并首席數據官辦公室、聯合人工智能中心（JAIC）和國防數字服務（DDS）。這一重組將美國防部的數據和人工智能工作置于一個屋檐下，以消除重疊的權力，原來的這種權力重疊性使得人工智能項目的規劃和執行變得困難。擴大使用替代性收購方法，像國防創新單位（DIU）和空軍的AFWERX正在彌合與商業技術部門的差距，特別是初創企業和非傳統供應商。盡管如此，一些技術領導人認為這些努力還不夠，警告說 "時間不多了"。

隨著美國國防部轉向大規模采用人工智能，本報告試圖提供有關現代人工智能未解決問題的見解，總結中國、俄羅斯在軍事人工智能發展方面的關鍵進展，并強調整個美國防部一些最引人注目的人工智能使用案例。報告還簡要評估了美國防部與其行業伙伴之間的不協調，這些不協調繼續阻礙五角大樓獲得美國軍隊所需的改變游戲規則的技術，以阻止對手的侵略并主導未來的戰場。

然而，競爭的緊迫性決不能掩蓋對指導美國軍隊進入人工智能時代的道德準則。因此，報告重申，有必要將美國防部的人工智能道德準則有效地轉化為評估可信度的共同技術標準和評估指標，并加強與國防部的行業合作伙伴--特別是初創企業和非傳統供應商在這些關鍵問題上的合作和協調。

在本報告的最后，為政策制定者和整個國家安全生態系統的其他人工智能利益相關者提出了一些考慮。具體而言，敦促美國防部優先考慮安全、可靠、可信和負責任的人工智能開發和部署，調整國防部和行業之間的人工智能發展的關鍵優先事項，以幫助縮小美國防部的人工智能能力差距，并促進領先的國防技術公司和非傳統供應商之間的協調，以加快國防部的人工智能采用進程。

2 人工智能創新和應用中的軍事競爭

推動美國防部人工智能開發和采用工作的緊迫性在很大程度上源于確保美國及其盟國在軍事技術競爭中超過中國，這種競爭已經主導了兩國之間的關系。俄羅斯的技術能力遠沒有那么發達，但其侵略行為破壞了全球安全，并威脅到美國和北約的利益。

中國

中國已將對人工智能的投資優先用于國防和國家安全，作為其努力成為 "世界級軍隊"的一部分，并在未來的 "智能化"戰爭中獲得優勢--人工智能（與其他新興技術一起）通過 "網絡化、智能化和自主系統和設備 "更完全地融入軍事系統和行動。

雖然中國人工智能相關活動的全部范圍并不廣為人知，但美國安全與新興技術中心（CSET）在2021年10月對343份與人工智能相關的中國軍事合同的審查估計，解放軍 "每年在人工智能相關的系統和設備上花費超過16億美元"。美國國家人工智能安全委員會（NSCAI）的最終報告評估說，"中國的計劃、資源和進展應該引起所有美國人的關注。它在人工智能的許多應用領域處于全球同等水平，而在一些應用領域是人工智能的領導者"。

CSET的審查和其他開源評估顯示，中國的人工智能發展的重點領域，就像美國的一樣廣泛，包括：

• 智能和自動駕駛汽車，特別關注蜂群技術。
• 情報、監視和偵查（ISR）。
• 預測性維護和后勤。
• 信息、網絡和電子戰。
• 模擬和訓練（包括兵棋推演）。
• 指揮和控制（C2）；以及
• 自動目標識別。

這些領域中的每一個進展都對美國在與中國的軍事技術競爭中保持同步的能力構成了挑戰。然而，值得研究的是，中國在兩個領域的進步能力可能對軍事平衡產生特別有力的影響。

（1）整合

首先，人工智能可以通過人為地加強軍事整合和跨域作戰，幫助解放軍彌補作戰準備方面的差距。許多觀察家指出，解放軍缺乏沖突中的作戰經驗是一個關鍵的弱點。盡管從技術角度來看，中國不斷推進的軍事現代化令人印象深刻，但在過去二十年里，解放軍的人員都沒有像美國軍隊那樣在高端沖突中接受過火力考驗。解放軍繼續努力從組織和理論的角度提高其"聯合性"，這也是剛剛起步，沒有經過測試。

使用人工智能來提高模擬和兵棋推演的質量、保真度和復雜性，是解放軍糾正這一關切領域的一種方式。新美國安全中心2019年的一份報告指出，"對中國軍事戰略家來說，從AlphaGo的勝利中學到的教訓之一是，人工智能可以在一場可以比作兵棋推演的游戲中創造出優于人類玩家的戰術和策略。"這可以更艱巨地考驗解放軍的決策者，改善指揮決策。事實上，CSET報告發現，在所調查的343份合同中，有百分之六是在模擬和訓練中使用人工智能，包括使用人工智能系統對臺灣突發事件進行戰爭演練。

圖：在美國國防部高級研究計劃局（DAPRA）的AlphaDogfight試驗中，一名作戰的F-16飛行員在虛擬現實模擬器中與Heron系統公司開發的冠軍F-16人工智能代理進行飛行。Heron人工智能代理在連續五場斗狗比賽中擊敗了人類飛行員，結束了試驗。資料來源：DARPA, //www.darpa.mil/news-events/2020-08-26

注重人工智能整合以減少經驗中的感知漏洞也適用于作戰和戰術訓練。2021年7月，中國出版物《環球時報》報道說，解放軍空軍（PLAAF）已經開始在飛行員的空戰訓練中部署人工智能作為模擬對手，以 "磨練他們的決策和戰斗技能，對抗快速計算的計算機"。

除了虛擬模擬，中國還旨在利用人工智能來支持飛行員在真實世界飛機上的訓練。在2020年11月播出的中國中央電視臺（CCTV）節目中，中國L-15教練機的總設計師張弘指出，訓練飛機上的人工智能可以 "識別每個飛行員在飛行中的不同習慣。通過管理它們，我們將讓飛行員更安全地成長，在未來獲得更多的戰斗能力"。

值得注意的是，解放軍空軍2021年7月的人工智能與人類的斗狗類似于美國國防部高級研究計劃局（DARPA）2020年9月的AlphaDogFight挑戰賽，在一系列五次模擬斗狗中，一個人工智能代理擊敗了人類飛行員。 同樣，美國在2021年9月宣布與訓練和模擬公司Red 6簽訂合同，將該公司的機載戰術增強現實系統（ATARS）--該系統允許飛行員駕駛真實世界的飛機，使用增強現實耳機與人工智能生成的虛擬飛機進行訓練--整合到T-38 "塔隆"訓練器中，并計劃最終在第四代飛機上安裝該系統。由于中國軍隊正在利用人工智能來提高戰備水平，美國防部不能落后。

（2）自主性

中國人工智能發展的第二個重點領域是自主系統，特別是蜂群技術，其中幾個系統將獨立運行或相互配合，以混淆和壓倒對手的防衛系統。中國對發展蜂群技術的興趣和能力已經得到了很好的證明，包括2017年6月創紀錄地發射了118架小型無人機組成的互聯蜂群。

據報道，2020年9月，中國電子信息研究院（CAEIT）從一輛改裝的東風猛士輕型戰術車上發射了200枚固定翼CH901徘徊彈藥群。2022年2月在阿布扎比舉行的2022年無人駕駛展的調查顯示，不僅中國的參展陣容強大--中國航空技術進出口總公司（CATIC）和中國北方工業公司（NORINCO）都有大型展館，而且還將重點放在 "協作"行動和智能蜂群。

圖：2月在阿布扎比舉行的UMEX 2022展會上展示的協作式蜂群無人機的一個例子。

對蜂群的興趣并不限于無人駕駛飛行器（UAVs）。據《環球時報》報道，中國也在發展部署自主無機組人員水面飛行器（USVs）群的能力，以"攔截、圍攻和驅逐入侵目標"。 2021年11月，中國公司云洲科技--它在2018年進行了一個由56個USV組成的蜂群的演示--發布了一段視頻，顯示六個USV進行了 "合作對抗"，作為將一艘有船員的船只從中國水域移走的一部分。不難想象，這種合作對抗可以如何針對美國或盟國的海軍船只，甚至商業船只進行部署，以發展或維持海上控制。這種能力在灰色地帶的突發事件中尤為強大，在這種情況下，升級的擔憂可能會限制反應的選擇。

俄羅斯

在人工智能的投資和能力方面，俄羅斯落后于美國和中國。因烏克蘭戰爭而實施的制裁也可能給俄羅斯的科技部門帶來巨大損失。盡管如此，美國國家決策者不應低估俄羅斯以不對稱的方式使用人工智能技術來破壞美國和北約利益的潛力。俄羅斯國防部有許多自主性和人工智能相關的項目，處于不同的開發和實驗階段，涉及軍事機器人、無人系統、蜂群技術、預警和防空系統、ISR、C2、后勤、電子戰和信息操作。

俄羅斯軍事戰略家認為，在未來的戰場上，更大的自主權和人工智能具有巨大的潛力，可以加快信息處理，增強決策，提高態勢感知，并保障俄羅斯軍事人員的生命安全。自主和人工智能系統的發展和使用也在俄羅斯軍事理論的更廣泛背景下進行討論。其理論重點是利用這些技術來擾亂和破壞對手的指揮和控制系統以及通信能力，并利用非軍事手段在戰爭初期建立信息優勢，從俄羅斯的角度來看，這包括與美國和北約等對手的非軍事沖突時期。

俄羅斯人工智能的發展軌跡是不確定的。但是，由于持續的制裁，俄羅斯很可能會在微電子方面越來越依賴中國，并在與美國的技術競爭中進一步落后。

3 美國在人工智能方面的軍事進展概述

五角大樓對人工智能的興趣和緊迫性既是由于技術發展的速度加快，也是由于它所能帶來的變革性能力越來越強。事實上，人工智能正準備從根本上改變軍隊思考、準備、執行和維持行動的方式。根據大西洋理事會以前的報告大綱，"五次革命 "框架對人工智能在五個廣泛的能力領域的潛在影響進行了分類，下面的圖3說明了人工智能可以通過不同的方式增強人類的認知和身體能力，融合網絡和系統以獲得最佳效率和性能，并在信息空間中迎來一個網絡沖突和混亂的新時代，以及其他影響。

圖3：跨越未來軍事能力發展的五個廣泛目標的人工智能優先發展項目概述。

• 邁向完美的態勢感知：感知、處理和認知

• 即將到來的設計時代：制造、供應鏈和物流

• 超能力平臺和人員：人機性能增強

• 連接性、致命性和靈活性：通信、導航、目標定位和打擊

• 監控、操縱和武器化：網絡和信息作戰

美國防部目前有六百多項與人工智能相關的工作正在進行中，其愿景是將人工智能融入國防部任務的每一個要素--從作戰行動到支持和維持功能，再到支撐龐大的國防部企業的商業運作和流程。美國政府問責局（GAO）2022年2月的一份報告發現，國防部正在追求人工智能的作戰能力，主要集中在"（1）通過情報和監視分析識別目標，（2）向戰場上的作戰人員提供建議（如在哪里移動部隊或哪種武器最適合應對威脅），以及（3）增加無人駕駛系統的自主性。 "國防部的大多數人工智能能力，特別是與作戰有關的努力，仍處于開發階段，尚未與具體的系統接軌或整合。而且，盡管在實驗中取得了明顯的進展，并在作戰行動中部署人工智能能力方面取得了一些經驗，但在廣泛采用方面仍然存在著重大挑戰。

2021年9月，空軍第一任首席軟件官尼古拉-沙伊蘭辭職，以抗議官僚主義和文化挑戰，這些挑戰減緩了技術的采用，阻礙了美國防部以足夠快的速度與中國有效競爭。在沙伊蘭看來，20年后，美國及其盟友 "將沒有機會在一個中國擁有巨大人口優勢的世界中競爭。"后來，他補充說，中國基本上已經贏了，他說，"現在，這已經是一筆交易了。"

沙伊蘭關于美國與中國進行無用競爭的評估肯定不是整個美國防部都認同的，但它反映了許多人認為在該部門規避風險和深思熟慮的文化中缺乏緊迫感。

JAIC的負責人Michael Groen中將同意，"在國防部內部，必須發生文化變革。"然而，他也吹捧了美國的創新能力，并強調建立了一個人工智能加速器，并最終確定了一個聯合共同基金會（JCF），用于人工智能的開發、測試和在國防部各實體之間共享人工智能工具。"支持云的JCF是向前邁出的重要一步，將允許基于共同標準和架構的人工智能開發。這應有助于鼓勵各軍種和國防部各部門之間的共享，并且根據JAIC的說法，確保 "國防部一個人工智能倡議的進展將在整個國防部企業中形成勢頭。"

雖然取得的進展值得贊揚，但仍然存在障礙，這些障礙延緩了人工智能能力的采用，而這種能力對于在不久的將來遏制威脅，以及應對中國在這十年及以后的競爭挑戰至關重要。

下面的三個案例研究提供了美國防部人工智能工作中出現的技術、官僚主義和采用方面的進步的例子。這些案例還強調了阻礙美國在與中國以及在較小程度上與俄羅斯的軍事技術競爭加劇的情況下，充分運用其國家創新生態系統的能力的持久性問題。

圖4：聯合人工智能中心（JAIC）的人工智能采用階段。

用例1：JADC2的不可逆轉勢頭、遠大目標和集成挑戰

五角大樓最重要的現代化優先事項之一是聯合全域指揮與控制（JADC2）計劃，該計劃被描述為 "將所有軍種的傳感器連接到一個單一網絡的概念。"根據美國國會研究服務部的說法，"JADC2打算通過從眾多傳感器收集數據，使用人工智能算法處理數據以識別目標，然后推薦最佳武器（包括動能和非動能武器）來對付目標，使指揮官能夠做出更好的決策。 "如果成功的話，JADC2有可能消除各軍種C2網絡之間的孤島，這些孤島以前減緩了整個部隊的相關信息傳輸。因此，產生更全面的態勢感知，指揮官可以據此做出更好和更快的決定。

2021年12月，有報道稱JADC2跨職能小組（CTF）將成立一個 "AI for C2 "工作組，該工作組將研究如何利用負責任的AI來加強和加速指揮和控制，這加強了負責任的AI對該項目的核心作用。

2022年3月，美國防部發布了其JADC2實施計劃的非保密版本，用參謀長聯席會議主席馬克-米利將軍的話說，此舉代表了實施JADC2 "不可逆轉的勢頭"。

然而，觀察家們強調，在按照保持（或恢復）感知、處理和認知方面的優勢所需的緊迫時間表實施JADC2方面，有幾個持續的挑戰。特別是相對于中國而言。

圖5. JADC2的邏輯圖反映了與國防部JADC2實施計劃相關的復雜性和雄心。資料來源：美國國防部。

數據安全和網絡安全、數據管理和共享問題、與盟友的互操作性以及與軍方網絡整合相關的問題，都被認為是認識到JADC2方法的宏偉前景所面臨的挑戰。一些人還強調，這種包羅萬象的雄心也是一種挑戰。哈德遜研究所的布萊恩-克拉克和丹-帕特認為，"當今威脅的緊迫性和新技術帶來的機遇要求五角大樓領導人將JADC2的重點從美國軍事部門的需求轉向作戰人員的需求。

可以肯定的是，在人工智能開發和整合項目中，不一定要避免宏偉的野心。然而，采用的途徑將需要在難以實現的、官僚主義的、耗時的和昂貴的目標與開發能夠在美國部隊面臨的更直接的威脅時限內提供能力和優勢的系統之間取得平衡。

用例2：脆弱的人工智能和將人工智能納入目標的道德和安全挑戰

2021年9月，空軍部長弗蘭克-肯德爾宣布，空軍已經 "首次將人工智能算法部署到實際作戰的殺傷鏈中，這表明部署人工智能的時代確實已經到來。"根據肯德爾的說法，將人工智能納入目標定位過程的目的是 "大大減少人工識別目標的人力密集型任務--縮短殺傷鏈并加快決策速度。" 成功使用人工智能支持目標定位是人工智能發展的一個里程碑，盡管在更全面地采用人工智能的作用方面仍然存在道德、安全和技術挑戰。

例如，2021年美國防部的一項測試強調了人工智能的脆弱性問題。根據Defense One的報道，測試中使用的人工智能目標定位在人工智能不得不從不同角度破譯數據的環境中只有大約25%的時間是準確的，盡管它認為它有90%的時間是準確的，這表明缺乏 "適應一套狹窄的假設之外條件"的能力。"這些結果說明了今天的人工智能技術在安全關鍵環境中的局限性，并加強了在一系列條件下對人工智能進行積極和廣泛的現實世界和數字世界測試和評估的必要性。

人工智能目標定位的道德和安全也可能構成對進一步采用的挑戰，特別是隨著對人工智能算法的信心增加。空軍的行動涉及自動目標識別的輔助作用，協助 "情報專家"--即人類決策者。當然，國防部有一個嚴格的目標定位程序，人工智能的目標定位算法將是其中的一部分，再往前想，自主系統將必須通過這一程序。然而，即使它們是這一程序的一部分，并被設計用來支持人類的決定，高錯誤率加上對人工智能輸出的高度信任，有可能導致不理想或嚴重的結果。

用例3：人工智能在信息領域應用的局限性

與中國和俄羅斯日益激烈的競爭正在信息和網絡領域上演，對美國安全以及美國經濟、社會和政體具有真實、持久和破壞性的影響。

對于網絡和信息行動來說，人工智能技術和技能是未來進攻和防御行動的核心，突出了人工智能在信息領域的危險性和前景。

人們對智能機器人、合成媒體的威脅越來越關注，例如描述沒有發生過的事件或聲明的逼真視頻或音頻制品，以及能夠創造出令人信服的散文和文本的大型語言模型。雖然虛假信息是一個需要社會和整個政府應對的挑戰，但國防部無疑將在管理和應對這一威脅方面發揮關鍵作用--由于其在美國政治和社會中的突出地位，其職能作用的性質，以及其持續活動的影響。

人工智能在五角大樓和其他美國政府檢測機器人和合成媒體的努力中處于領先地位。例如，DARPA的MediaForensics（MediFor）項目正在使用人工智能算法來 "自動量化圖像或視頻的完整性"。

然而，鑒于合成媒體通過社交媒體的傳播速度，人們對這種檢測的速度表示擔憂。正如聯合參謀部首席信息官丹尼斯-克拉爾中將所觀察到的，"機器和人工智能贏得其中一些信息運動的速度改變了我們的游戲......數字化轉型、預測分析、ML、人工智能，它們正在改變游戲......如果我們不匹配這種速度，我們將使其達到正確的答案，而這種正確的答案將完全不相關。"

4 加快美國防部AI的應用

正如上面的討論所示，美國防部在成功部署人工智能信息管理和決策支持工具的基礎上，有一系列廣泛的人工智能相關舉措，處于不同的發展和實驗階段。隨著重點轉向整合和擴展，加快這些采用工作對于保持美國在與中國的戰略競爭中的優勢以及有效遏制俄羅斯至關重要。

在這一節中，本文強調了美國防部與其工業伙伴之間關系的一些不協調，這些不協調可能會導致失去創新和有影響力的人工智能項目的機會，擴大使用替代采購方法的積極影響，以及日益緊迫的調整過程和時間表，以確保美國軍隊能夠獲得未來戰爭的高水準技術能力。此外，本節還討論了國防部實施道德人工智能原則的方法，以及與可信和負責任系統的標準和測試有關的問題。

4.1 美國防部和工業界的伙伴關系：統一觀點、流程和時間安排

盡管國防部已經發布了一些高級別文件，概述了人工智能發展和部署的優先領域，但市場滿足，甚至理解這些需求的能力還遠遠不夠。最近，IBM對來自全球國防組織的250名技術領導人進行了調查，揭示了國防技術領導人和國防部如何看待人工智能對組織和任務的價值的一些重要差異。例如，只有約三分之一的受訪技術領導人表示，他們認為人工智能對軍事后勤、醫療和健康服務以及信息操作和深層假想有重大的潛在價值。當被問及人工智能支持的解決方案對商業和其他非戰斗應用的潛在價值時，不到三分之一的人提到了維護、采購和人力資源。

這些觀點與國防部在人工智能方面的目標有些不一致。例如，包括設備維護和采購在內的軍事后勤和維持職能是國防部實施人工智能的首要任務之一。Leidos與退伍軍人事務部的合作也說明了人工智能在醫療和健康服務方面的潛力。最后，隨著人工智能在虛假信息運動中的使用已經開始，正如上一節的討論所強調的那樣，迫切需要開發技術措施和人工智能支持的工具，以檢測和反擊人工智能驅動的信息行動。

國防部及其行業伙伴基于各自的問題集和任務，有不同的優先事項和激勵措施。但是，對人工智能發展的有價值和關鍵領域的不同觀點可能會導致失去有影響力的人工智能項目的機會。也就是說，即使五角大樓和它的工業伙伴在人工智能方面意見一致，有效的合作也常常被一個笨拙的官僚機構所阻撓，這個機構常常被傳統的流程、結構和文化束縛。

國防部的預算規劃、采購、收購和簽約流程，總的來說，不是為購買軟件而設計的。這些 這些體制上的障礙，再加上復雜而冗長的軟件開發和合規條例，對小型初創企業和非傳統供應商來說尤其困難，因為他們缺乏資源、人員和事先的知識，無法像國防部的主要部門那樣駕馭這個系統。

國防部清楚地意識到這些挑戰。自2015年以來，國防部長辦公室和各軍種已經建立了幾個實體，如DIU、AFWERX、NavalX和陸軍應用實驗室，與商業技術部門，特別是初創企業和非傳統供應商對接，目的是加速提供同類最佳的技術解決方案。同時，國防部還采取了其他值得注意的措施，以促進使用替代性的采購和合同，這為構建和執行協議提供了比傳統采購更大的靈活性。這些包括 "其他交易授權、中間層采購、快速原型設計和快速投入使用以及軟件采購的專門途徑"。

DIU一直處于使用其中一些替代性采購途徑的前沿，從商業技術部門采購人工智能解決方案。空軍的AFWERX還與空軍研究實驗室和國家安全創新網絡合作，創新地利用小企業創新研究（SBIR）和小企業技術轉讓（STTR）資金，以 "提高項目的效率、有效性和過渡率"。例如，在2021年6月，美國空軍SBIR/STTR人工智能投標日向關于 "可信人工智能，這表明系統是安全、可靠、強大、有能力和有效的 "主題的提案提供了超過1800萬美元。

這些都是朝著正確的方向邁出的步伐，而且確實變得更容易獲得國防部的研究、開發和原型制作資金。然而，及時獲得生產資金仍然是一個重大挑戰。這個 "死亡之谷 "的問題--研究和開發階段與一個既定的、有資金記錄的項目之間的差距--對于非傳統的國防公司尤其嚴重，因為風險資本對初創企業的資助周期與將一個項目納入國防部預算所需的時間之間存在差異。

五角大樓明白，彌合 "死亡之谷 "對于推進和擴大創新至關重要，并在最近啟動了快速國防實驗儲備，以處理這些問題。然而，使預算規劃、采購和簽約流程與私人資本的步伐相一致所需的系統性變化，需要國會采取行動，并可能需要數年時間來實施。在實施這些改革方面的延誤正在損害國防部獲得尖端技術的能力，而這些技術在未來的戰場上可能是至關重要的。

4.2 建立可信賴和負責任的人工智能系統

確保美國軍隊能夠使用安全可信的人工智能和自主系統，并按照國際人道主義法律使用這些系統，將有助于美國保持其競爭優勢，以對抗俄羅斯等對人工智能的道德使用承諾較少的專制國家。強調值得信賴的人工智能也是至關重要的，因為國防部的大多數人工智能項目都需要人機合作和協作的元素，它們的成功實施在很大程度上取決于操作者對系統的足夠信任和使用。最后，國防部和行業伙伴之間就可信和負責任的人工智能的共享標準和測試要求進行更密切的協調，對于推進國防部人工智能的采用至關重要。

除了國防部現有的武器審查和目標程序，包括自主武器系統的協議，該部門還在尋求解決倫理、法律和政策的模糊性，以及人工智能更具體的風險。2020年2月，五角大樓通過了五項道德原則來指導人工智能的發展和使用，呼吁人工智能是負責任的、公平的、可追溯的、可靠的和可治理的。為了將這些原則付諸實踐，國防部副部長凱瑟琳-希克斯發布了一份備忘錄，指示采取一種 "整體的、綜合的和有原則的方法 "來整合負責任的人工智能（RAI），包括六個原則：管理、作戰人員的信任、產品和采購生命周期、需求驗證、負責任的人工智能生態系統和人工智能勞動力。

同時，2021年11月，DIU發布了其負責任的人工智能指導方針，響應了備忘錄中對 "工具、政策、流程、系統和指導 "的呼吁，將道德的人工智能原則納入該部門的采購政策。這些指導方針是在國防部人工智能項目中操作和實施道德的具體步驟，建立在DIU在預測健康、水下自主、預測性維護和供應鏈分析等領域的人工智能解決方案的經驗上。它們的目的是可操作的、自適應的和有用的，同時確保人工智能供應商、國防部利益相關者和DIU項目經理在人工智能系統生命周期的規劃、開發和部署階段考慮到公平、問責和透明度。

國防部人工智能項目的成功將在很大程度上取決于確保人類發展并保持對其智能機器隊友的適當信任。因此，國防部對可信人工智能的強調越來越多地體現在其一些旗艦人工智能項目中。例如，2020年8月，DARPA的空戰進化（ACE）項目吸引了大量的關注，因為一個人工智能系統在模擬的空中斗犬比賽中擊敗了空軍的一名頂級F-16戰斗機飛行員。 ACE的一個關鍵問題是 "如何讓飛行員足夠信任人工智能并使用它"，而不是讓人類與機器對決。ACE選擇了斗狗場景，很大程度上是因為這種類型的空對空戰斗包含了許多成為戰斗機飛行員群體中值得信賴的伙伴所必需的基本飛行動作。讓人工智能掌握作為更復雜任務基礎的基本飛行動作，如壓制敵方防空系統或護送友軍飛機。根據ACE項目經理的說法，AlphaDogfight試驗是 "關于增加對人工智能的信任"。

人工智能的發展速度很快，因此很難設計和實施一個足夠靈活的監管結構，以保持相關性，同時又不至于限制性太強而扼殺創新。與國防部合作的公司正在尋求符合國防部人工智能道德原則的人工智能系統的開發、部署、使用和維護的指導方針。這些行業伙伴中的許多人已經采用了他們自己的可信和負責任的人工智能解決方案的框架，強調了安全、安保、穩健、彈性、問責制、透明度、可追溯性、可審計性、可解釋性、公平性和其他相關質量等屬性。

圖：2021年10月19日，在亞利桑那州尤馬試驗場，一名美國陸軍士兵使用戰術機器人控制器來控制遠征模塊化自主車輛，作為準備 "聚合項目 "的練習活動。在 "聚合項目21 "期間，士兵們試驗了使用這種車輛進行半自主偵察和再補給。無論是在戰場上還是在戰場之外，對自主和半自主車輛等人工智能能力的信任對于成功至關重要。

目前，對于什么是道德或值得信賴的人工智能系統，沒有共同的技術標準，這可能會使非傳統的人工智能供應商難以設定預期，并在官僚機構中穿梭。國防部不直接負責制定標準。相反，2021年國防授權法案（NDAA）擴大了國家標準與技術研究所（NIST）的任務，"包括推進人工智能的合作框架、標準、指導方針，支持開發人工智能系統的風險緩解框架，并支持開發技術標準和指導方針，以促進值得信賴的人工智能系統"。2021年7月，NIST在制定其人工智能風險管理框架時，向利益相關者發出了信息請求，旨在幫助組織 "將可信性考慮納入人工智能產品、服務和系統的設計、開發、使用和評估"。

對這一挑戰沒有簡單的解決方案。但是，讓政府、行業、學術界和民間社會的利益相關者參與進來的合作過程可以幫助防止人工智能的發展走上社交媒體的道路，在社交媒體上，公共政策未能預測到虛假信息和其他惡意活動在這些平臺上造成的風險和損失，而且反應緩慢。

與標準相關的是與測試、評估、驗證和確認（TEVV）相關的挑戰。測試和驗證過程是為了 "幫助決策者和操作者了解和管理開發、生產、操作和維持人工智能系統的風險"，對于建立對人工智能的信任至關重要。國防部目前的TEVV協議和基礎設施主要是針對主要的國防采購項目，如船舶、飛機或坦克；它是線性的、順序的，而且一旦項目過渡到生產和部署，最終是有限的。然而，對于人工智能系統，"開發從未真正完成，所以測試也是如此。"因此，像人工智能這樣的適應性強、不斷學習的新興技術需要一個更加敏捷和迭代的開發和測試方法，正如NSCAI建議的那樣，"將測試作為需求規范、開發、部署、培訓和維護的持續部分，包括運行時監測操作行為。"

建立在開發、安全和運營（DevSecOps）的商業最佳實踐基礎上的綜合和自動化的開發和測試方法，更適合于人工智能/ML系統。雖然JAIC的聯合基金有可能實現真正的人工智能DevSecOps方法，但在整個國防部擴大這種努力是一個重大挑戰，因為它需要對當前的測試基礎設施進行重大改變，以及更多的資源，如帶寬、計算支持和技術人員。也就是說，如果不開發更適合人工智能的新測試方法，不調整當前的測試基礎設施以支持迭代測試，將阻礙大規模整合和采用可信和負責任的人工智能的努力。

上述關于標準和TEVV的討論概括了現代人工智能系統對現有國防部框架和流程的獨特挑戰，以及商業技術公司和國防部對人工智能開發、部署、使用和維護的不同方法。為了加速人工智能的采用，國防部及其行業伙伴需要在具體的、現實的、與操作相關的標準和性能要求、測試過程和評估指標上更好地保持一致，并納入道德的人工智能原則。一個以可信和負責任的人工智能為導向的國防技術生態系統可以促進最佳做法的相互交流，并降低非傳統供應商和初創公司所面臨的官僚主義和程序性障礙。

5 主要收獲和建議

充分發揮人工智能推動成本和時間效率的能力，支持人類決策者，并實現自主性，將需要更多的技術進步或開發新的作戰概念。下面，我們概述了優先努力的三個關鍵領域，以更成功地將人工智能納入整個國防部事業，并確保美國能夠阻止威脅，并保持對其競爭對手和潛在對手的戰略、戰役和戰術優勢。

5.1 優先考慮安全、可靠、受信任和負責任的人工智能開發和部署

與中國日益激烈的戰略競爭，精湛的技術和強有力作戰能力，以及與私營部門快速的技術開發和整合速度的比較，都給國防部帶來了壓力，使其更快地走向人工智能系統的實戰。在人工智能發展中鼓勵更大的風險容忍度，以便在大規模采用人工智能方面取得進展，這有很多好處。但是，僅僅為了 "超越 "中國而匆忙部署容易受到一系列對手攻擊的人工智能系統，并且很可能在作戰環境中失敗，這將被證明是適得其反。

指導美國軍隊的道德準則反映了對遵守戰爭法則的基本承諾，而此時，一些獨裁國家對人權和人道主義原則很不重視。同時，國防部對新能力的測試和保證采取了嚴格的方法，旨在確保新武器的使用是負責任的和適當的，并盡量減少事故、誤用和濫用系統和能力的風險，因為這可能會產生危險，甚至是災難性的影響。美國與許多盟友和伙伴共享的這些價值觀和原則，在與專制國家競爭時是一種戰略資產，因為它們正在部署人工智能軍事系統。為了鞏固國防部在這個領域的優勢，我們建議采取以下步驟。

• 美國防部應將DIU的“負責任的人工智能指南”納入相關的提案請求、招標和其他材料中，要求承包商展示他們的人工智能產品和解決方案是如何實施國防部的人工智能道德原則。這將設定一套共同和明確的期望，幫助非傳統的人工智能供應商和初創公司在五角大樓的提案過程中游刃有余。最近有國防部為項目制定收購類別的先例，要求工業界調整其開發過程，以滿足不斷變化的國防部標準。例如，在2020年9月，美國空軍為所有采購工作制定了e系列采購指定，要求供應商使用數字工程實踐--而不是原型--作為他們激勵行業接受數字工程的一部分。

• 美國防部的行業合作伙伴，特別是非傳統的人工智能供應商，應積極與NIST合作，因為該機構繼續努力制定標準和指導方針，以促進可信賴的人工智能系統，以確保他們的觀點為后續框架提供信息。

• 本文提到的有效采用人工智能的挑戰包括人工智能的脆弱性和對手旨在破壞人工智能算法的網絡攻擊可能性。克服這些挑戰將需要國防部繼續致力于提高國防部人工智能系統測試和評估的速度、種類和能力，以確保這些系統在更廣泛的不同環境下發揮預期功能。其中一些測試需要在真實世界的環境中進行，但基于模型的模擬的進步可以使人工智能系統的性能在數字/虛擬世界中得到越來越多的驗證，減少與這種測試相關的成本和時間。

圖：人工智能可以極大地重塑未來的戰場。為了實現這一愿景，美國防部必須采取關鍵步驟，有效利用人工智能。資料來源：美國陸軍。

• 此外，美國防部還應該利用國防部研究與工程副部長（USDR&E）的測試實踐和優先事項，以確保計劃和部署的人工智能系統能夠抵御對手的攻擊，包括數據污染和算法損壞。

• 美國防部應利用盟友和外國合作伙伴來開發、部署和采用可信的人工智能。這種性質的參與對于協調人工智能發展和使用的共同規范至關重要，這些規范遏制并對抗中國和俄羅斯的獨裁技術模式。擴大現有合作模式和建立新的伙伴關系的途徑可以包括以下內容：

i. 加強對道德、安全和負責任的人工智能的重視，將其作為全日空防務伙伴關系的一部分，通過評估成員方法的共同點和差異，確定未來聯合項目和合作的具體機會。

ii. 與 "五眼"、北約和AUKUS伙伴交叉分享和實施聯合道德項目。除了支持互操作性，這將增加視角和經驗的多樣性，并有助于確保人工智能發展工作限制各種形式的偏見。正如本項目所采訪的一位前將軍所指出的，"多樣性是我們確保可靠性的方式。它是必不可少的。"

iii. 擴大與不同能力和地域的盟友和合作伙伴的聯系，包括印度、南非、越南，以探索雙邊和多邊研發工作和技術共享計劃的機會，解決可信和負責任的人工智能的技術屬性。

5.2 調整人工智能發展的關鍵優先事項，加強國防部和工業伙伴之間的協調，以幫助縮小國防部人工智能能力的差距

如果不與廣泛的技術公司建立密切的伙伴關系，國防部將無法實現其在人工智能方面的雄心壯志，并與中國通過軍民融合采購技術創新的模式進行有效競爭。這包括與五角大樓有長期聯系的國防工業領導人，處于全球創新前沿的技術巨頭，尋求擴大其政府投資組合的商業技術參與者，以及處于人工智能發展前沿的初創企業。但是，國防部的預算規劃、采購、收購、簽約和合規流程可能需要從根本上進行重組，以有效地與這個充滿活力和多樣化的技術生態系統的整體接觸。

系統性變革是一個緩慢而艱巨的過程。但是，拖延這一過渡有可能使美國軍隊在利用人工智能承諾提供的優勢方面落后，從作戰速度到決策主導權。同時，以下行動可以幫助改善與行業伙伴的協調，以加快國防部采用人工智能的努力。

• 國防部應評估其溝通和外聯戰略，以澄清和精簡圍繞該部門在人工智能方面的優先事項的信息。

• 國防部應與技術公司合作，重新審查他們對某些類別的人工智能解決方案的潛在價值的評估，包括但不限于后勤、醫療和健康服務以及信息操作。

• 國防部應實施NSCAI的建議，加快對采購專業人員的培訓，使其了解采購和簽約的全部可用選擇，并激勵他們使用人工智能和數字技術。" 此外，這種采購人員培訓舉措應確保采購專業人員充分了解國防部的人工智能倫理原則以及可信和負責任的人工智能的技術層面。國防部的道德準則可以作為這種培訓的基礎。

5.3 促進領先的國防技術公司和非傳統供應商之間的協調，以加快美國防部人工智能的采用

在中短期內，美國防部將不會建立全新的人工智能系統，而是將人工智能整合到一系列現有的軟件和硬件系統中--從網絡防御架構到戰斗機到C2。因此，實施人工智能的進展也將取決于簡化國防部一直在爭取的創新和尖端技術的初創公司和非傳統人工智能供應商與負責將新能力整合到傳統系統的國防部門之間的合作。

NSCAI建議確定 "國防部門與非傳統公司合作的新機會，以便在現有平臺上更快地采用人工智能能力。"我們贊同這一建議：改進國防部門與非傳統公司之間的協調可以幫助確保人工智能解決方案是強大的，有彈性的，與作戰相關的，以及引導有前途的原型穿過 "死亡之谷"。

毫無疑問，從概念到實踐可能是很棘手的。本文的研究顯示，在將創新的新技術從實驗室轉移到記錄項目中采用的主要挑戰在哪里，人們的觀點存在著很大的分歧。初創企業傾向于認為系統集成商抗拒參與，而初創企業可能被認為缺乏對收購過程的理解，以及開發的技術難以整合到記錄項目中，或難以擴大規模。

彌補這一差距將需要政府采取新的方法來解決非傳統供應商對知識產權的擔憂。大多數人不愿意放棄敏感技術的所有權，這些技術主要是賣給國防市場以外的客戶。這也將涉及到國防部幫助小企業通過加快網絡認證和運營授權（ATO）過程等步驟來瀏覽聯邦采購流程，以及幫助有興趣的公司為國防部的不同組成部分開發使用案例。這種積極的促進作用將幫助那些通過研究和開發撥款與國防部合作的非傳統供應商更有準備地與系統集成商達成合作。

最重要的是，優化大型系統集成商和小型創新者的利益，將需要國防部在連接小型公司和那些正在運行的項目方面發揮更積極的對話者作用。目前，國防部在要求公司合作方面存在一些可以理解的猶豫，主要是擔心觸犯聯邦采購條例（FAR）。但是，正如本項目采訪的一位行業專家所認為的，國防部可以更積極地了解《聯邦采購條例》所允許的內容，并幫助公司建立聯系，特別是為了滿足特定的采購優先權或計劃。

6 結論

在過去的幾年里，對人工智能的興趣和投資已經獲得了動力。這在國家安全和國防界尤其如此，因為戰略家、政策制定者和行政人員在不斷上升的地緣戰略競爭中尋求決定性的優勢，并為以復雜性、不確定性和最重要的速度為特征的未來操作環境做準備。人工智能現在是美國和中國之間軍事技術競爭的中心，這兩個國家以及世界上其他國家的軍隊都已經在部署人工智能系統，目的是為了主導未來的戰場。

美國不能冒落后于中國的風險--在人工智能的創新方面，在人工智能的采用方面，在人工智能全面融入國防事業方面，都不能。迫切需要解決一系列技術和官僚程序以及文化問題，迄今為止，這些問題已經抑制了國防部采用人工智能的步伐。具體來說，國防部應優先考慮以下問題。

• 建立對人工智能的信任：國防部的人工智能努力主要集中在增強人類理解、決策和效能的技術上，而不是取代人類。因此，在人類和他們的智能機器隊友之間建立信任和信心是成功開發和部署軍事人工智能的一個關鍵方面。

• 制定和實施可信和負責任的人工智能標準：目前，對于什么是可信和負責任的人工智能，還沒有共同的標準或系統性能要求。因此，五角大樓及其行業伙伴必須與NIST等機構合作，制定和實施與作戰相關的標準、測試流程和評估指標，其中包括道德的、可信賴的和負責任的人工智能原則。這將有助于將成功的人工智能研究原型推進到可投入生產的解決方案中。

• 促進美國創新生態系統和國防工業基地的優化。將尖端的人工智能技術引入國防部還需要五角大樓減少國防部采購過程中經常出現的官僚主義挑戰，特別是對于那些在傳統國防工業基地之外的創新公司。開發新的手段來支持和激勵這些公司的參與，并促進領先的國防技術公司與初創公司和非傳統供應商之間的行業內伙伴關系將是至關重要的。

• 吸引盟友和合作伙伴。正如本文開頭所述，烏克蘭戰爭加強了盟友和合作伙伴在執行地緣政治規范和標準方面的重要性。未來人工智能的發展和采用也可能是如此。國防部不僅將受益于工業界和國家安全界的合作，還將受益于與盟友和外國伙伴的合作，以確保建立和頒布規范和標準，從而實現可信、負責和可互操作的人工智能開發和部署。

關于本報告

本報告是在對人工智能的國家安全和國防影響進行為期八個月的研究項目的最終成果。

關于作者

瑪格麗特-科納耶夫（Margarita Konaev）是大西洋理事會斯考克羅夫特戰略與安全中心前沿防御業務的非常駐高級研究員。此外，她還擔任喬治敦安全與新興技術中心（CSET）的分析副主任和研究員，對人工智能的軍事應用和俄羅斯軍事創新感興趣。她也是新美國安全中心的兼職高級研究員。在此之前，她是西點軍校現代戰爭研究所的非駐地研究員，弗萊徹法律和外交學院的博士后研究員，以及賓夕法尼亞大學佩里世界之家的博士后研究員。在加入CSET之前，她曾在Gartner公司的營銷和溝通部門擔任高級負責人。

科納耶夫博士對國際安全、武裝沖突、非國家行為者和中東、俄羅斯和歐亞大陸的城市戰爭的研究已經在《戰略研究雜志》、《全球安全研究雜志》、《沖突管理與和平科學》、法國國際關系研究所、《原子科學家公報》、《法律戰》、《巖石上的戰爭》、現代戰爭研究所、外交政策研究所以及其他一系列機構和組織發表。她擁有圣母大學的政治學博士學位，喬治敦大學的沖突解決碩士學位，以及布蘭代斯大學的學士學位。

泰特-努爾金（Tate Nurkin）是OTH情報集團的創始人，也是大西洋理事會斯考克羅夫特戰略與安全中心的高級研究員。

在2018年3月建立OTH情報集團之前，努爾金在IHS Markit的簡氏公司工作了12年，擔任各種職務，包括管理簡氏國防、風險和安全咨詢業務。從2013年到他離開，他擔任戰略評估和未來研究（SAFS）中心的創始執行主任，該中心提供有關地緣政治、未來軍事能力和全球國防工業的全球競爭的思想領導和定制分析。

實質上，努爾金的研究和分析特別關注中美競爭、國防技術、未來軍事能力和全球國防工業及其市場問題。他還擅長設計和提供替代性未來分析活動，如情景規劃、紅色團隊和兵棋推演。

他曾在聯合管理服務公司、SAIC的戰略評估中心以及博思艾倫公司的建模、模擬、兵棋推演和分析團隊工作。2014-2018年，他在世界經濟論壇的核安全全球議程委員會和國際安全未來委員會連續任職兩年，該委員會的成立是為了診斷和評估第四次工業革命的安全和防御影響。

努爾金擁有佐治亞理工學院薩姆-納恩國際事務學院的國際事務科學碩士學位，以及杜克大學的歷史和政治學學士學位。

近年來，人工智能(AI)在醫學和醫療領域的應用因其巨大的潛力而備受贊譽，但也一直處于激烈爭議的中心。這項研究概述了人工智能如何有益于未來的醫療保健，特別是提高臨床醫生的效率，改善醫療診斷和治療，以及優化人力和技術資源的配置。該報告確定并澄清了人工智能在醫療保健領域造成的主要臨床、社會和倫理風險，更具體地說: 潛在錯誤和患者傷害;存在偏見和衛生不平等加劇的風險;缺乏透明度和信任;易受黑客攻擊和數據隱私泄露的影響。該研究提出了緩解措施和政策選項，以最大限度地降低這些風險，并使醫療人工智能的利益最大化，包括通過人工智能生產生命周期的多方參與，提高透明度和可追溯性，對人工智能工具進行深入的臨床驗證，以及對臨床醫生和公民進行人工智能培訓和教育。

目標

近年來，人們對人工智能(AI)在醫學和醫療保健領域的應用的興趣和關注迅速增長，成為跨學科科學研究、政治辯論和社會行動主義的中心。本報告的目標是解釋人工智能可以在醫療和保健領域做出貢獻的領域，查明在這個高風險和快速變化的領域中應用人工智能的最重大風險，并提出應對這些風險的政策選項，以優化生物醫學人工智能的使用。這不僅能確保接受人工智能醫療的患者的安全和尊重，還能幫助參與實施人工智能醫療的臨床醫生和開發人員。

方法

本研究采用跨學科方法，基于對現有科學論文、白皮書、近期指南和法規、治理建議、人工智能研究和在線出版物的全面(但非系統性)文獻綜述和分析。本報告涉及的多學科資源包括計算機科學、生物醫學研究、社會科學、生物醫學倫理、法律、工業和政府報告等領域的著作。本報告探討了廣泛的技術障礙和解決方案、臨床研究和結果，以及政府建議和共識指南。

人工智能在醫學和醫療保健中的具體應用

這項研究首先概述了人工智能在醫學領域解決緊迫問題的潛力，特別是人口老齡化和慢性疾病的增加、衛生人員缺乏、衛生系統效率低下、缺乏可持續性和衛生不平等。報告還詳細介紹了生物醫學AI可能做出最重要貢獻的不同領域: 1) 臨床實踐，2)生物醫學研究，3)公共衛生，4)衛生管理。在臨床實踐領域，該報告進一步詳細介紹了具體貢獻-實現和潛在的-特定醫療領域，如放射學，心臟病學，數字病理學，急救醫學，外科手術，醫療風險和疾病預測，適應性干預家庭護理和心理健康。在生物醫學研究方面，該報告詳細介紹了人工智能對臨床研究、藥物發現、臨床試驗和個性化醫療的潛在貢獻。最后，報告介紹了人工智能在公共衛生一級以及對全球衛生的潛在貢獻。

人工智能（AI）正迅速融入軍事指揮與控制（C2）系統，成為許多國防部隊的戰略重點。人工智能的成功實施有希望預示著通過自動化實現C2靈活性的重大飛躍。然而，需要對人工智能在可預見的未來所能實現的目標設定現實的期望。本文認為，人工智能可能會導致脆弱性陷阱，即把C2功能委托給人工智能會增加C2的脆弱性，導致災難性的戰略失敗。這就要求在C2中建立一個新的人工智能框架以避免這種陷阱。我們將論證，"抗脆弱性 "和敏捷性應該構成人工智能C2系統的核心設計原則。這種雙重性被稱為敏捷、抗脆弱、人工智能驅動的指揮和控制（A3IC2）。一個A3IC2系統通過C2決策周期中的反饋過度補償，不斷提高其在面對沖擊和意外時的表現能力。一個A3IC2系統不僅能夠在復雜的作戰環境中生存，還能茁壯成長，從戰爭中不可避免的沖擊和波動中獲益。

I 引言

許多人認為，將人工智能（AI）納入軍事指揮和控制（C2）是建立軍事力量競爭優勢的一個關鍵因素[1],[2],[3]。人們對人工智能在戰場上能夠實現的目標抱有很高的期望，有些人宣稱它是下一場"軍事事務革命"[4]。人工智能有望在C2中實現復雜功能自動化，從而導致"戰場奇點"的概念，即決策周期自動化帶來的行動速度的增加導致人類的認知無法跟上機器做出決定的速度[3]。在這種對未來戰場的展望中，人被認為是C2系統中的一個薄弱環節[5]。

本文認為，人工智能的整合可能會對尋求機器速度決策的C2系統性能產生意想不到的后果；從戰略上講，一個已經達到 "戰場奇點"的系統在根本上是脆弱的。人工智能的快速發展及其對C2系統明顯的革命性/顛覆性影響在很大程度上是由對戰爭期間對對手的 "響應"程度的關注所引導的，而不是對這種技術可能對C2系統性能的整體影響。文獻中提出了兩個假設：第一，假設人工智能將通過優化系統的各個部分來進一步實現提高敏捷性的目標；第二，由于復雜的人工智能能夠在戰時做出決定，甚至在戰略層面做出決定，未來人工智能支持的C2系統將在盡可能少的人力投入下得到改善[6],[7]。這兩個假設都是錯誤的，因為人工智能帶來了獨特的特性，可能會增加C2系統的脆弱性。

傳統上，C2系統被認為受益于一種戰略，該戰略側重于在復雜的競爭環境中最大限度地提高敏捷性[8],[9],[10],[11]。David Alberts用 "敏捷C2"的概念體現了這一戰略，該概念指出，為了使C2系統有效，它必須能夠在復雜的環境中成功應對、利用和實現變化。C2的有效性是通過系統要素的相互作用來實現的，如適應性、響應性、靈活性、多功能性、創新性和復原力[8]。然而，對"敏捷C2"模式的接受使大多數軍事C2理論和文獻將人工智能技術作為提高C2決策單獨響應性的手段[1],[2],[7],[3],[5]，而對C2系統需要響應性以滿足戰略利益這一單純的事實則關注較少。問題的核心就在這里，提高響應能力的人工智能是否能夠做到這一點，同時了解決策對跨多個領域的戰略和大戰略目標的影響。我們認為，盡管人工智能很先進，但由于人工智能系統容易受到具有戰略后果的黑天鵝事件的影響，在作戰環境中的預測從根本上來說是脆弱的[4]。人工智能的優化特性，加上人類責任的減少，可能成為阻礙C2敏捷性的 "脆弱 "方法。

為了否定上述可能導致人工智能C2系統脆弱性的一些問題，需要一個新的設計原則，以增強系統從波動中自我改善的能力，即所謂的 "抗脆弱性"[12],[13]。適當設計的人工智能可以通過在系統級存儲器中積累適當的遭遇和學習經驗來實現抗脆弱系統的發展，但它也可能鼓勵C2決策周期的過度優化。這可能會導致系統無法識別和解釋突發事件，但仍然快速推薦決策，導致負面風險的升級。因此，人工智能的整合支持了一種新模式的發展，擴展了敏捷C2的概念，并包含了抗脆弱性。這將被稱為 "敏捷、抗脆弱、人工智能驅動的指揮與控制"（A3IC2），它是敏捷C2、抗脆弱理論和人工智能用于C2的綜合體，建立在Boyd、Brehmer和Alberts[14],[8]所開發的模型之上。

為了探討A3IC2，本文的結構如下。第二節介紹了文獻回顧，將A3IC2概念與之前的其他概念區分開來。然后在第三節中介紹了人工智能導致脆弱性，接著在第四節中論證了抗脆弱性將使人工智能在C2系統中得到有效利用的原因。第五節討論了擬議的A3IC2功能模型，然后在第六節得出結論。

II 文獻回顧

A. 指揮與控制

就本文而言，軍事C2的定義是負責適當分配部隊以實現軍事目標的戰區級職能。軍事學說將其廣泛定義為 "對所分配的部隊行使權力和進行合法指揮的過程和手段"[1],[2],[15]。這有別于其他被描述為戰術層面的C2系統，如單個車輛或小單位的C2。

軍事C2與戰略決策是密不可分的。它包括一個等級組織，指揮官的意圖來自他們所保衛的國家戰略目標，為下屬的決策和行動提供方向[14]。C2的最高優先事項之一是保持對環境的態勢感知，并以軍事行動做出適當的響應（或不響應），以實現戰略目標。C2不僅要有效地進行作戰，而且還必須知道何時從非作戰行動（OOTW）過渡到作戰[16]，反之亦然。因此，軍事C2的適當抽象（或模型）需要承認沖突的全部范圍；從作戰到非作戰行動[15]。它必須考慮到C2系統所處的 "作戰環境 "的動態復雜性；從戰術到戰略層面以及它在大戰略層面產生的影響。簡而言之，有效的C2不僅僅是能夠贏得戰斗，它還必須知道什么時候挑起戰斗是一種相稱的響應[2],[15],[16]。此外，它需要了解其行動對大戰略層面的影響；也就是整個政府的目標。

C2，作為一個系統，在一個非線性和復雜的環境中運作。它被歸類為 "社會技術"系統，是技術和 "社會 "或人類元素的混合體，它們相互作用，并與更廣泛的復雜環境相互作用[17]。一個C2系統表現出動態的、突發的行為，有許多意外的或不可預知的后果。這不僅是因為這些系統依靠人類來理解復雜的環境并制定解決問題的計劃，而且因為它也是一個技術系統，態勢感知依賴于數字系統和傳感器來傳遞信息，而這些信息可能無法準確地代表作戰環境[9],[17],[10],[4]。C2系統必須完成的任務或目標完全取決于未預料到的現實世界的事件，如戰爭、環境災難和其他雜項OTW。這發生在多個領域（物理的和非物理的），并且都是在分歧的作用下。從系統思維的角度來看，C2作戰環境是真正 "超復雜"的[18],[16]。

因此，軍事C2有一個非常困難的任務，即它必須在一個復雜的環境中做出具有重要意義的決策，并保證有幾乎不可能預測或逆轉的二階和三階戰略效應[19],[4]。長期以來，軍事戰略家們一直理解這一點，并在傳統上通過心理模型或啟發式方法來管理，以指導如何理解和應對戰爭的復雜性。這些心智模式現在被固化在戰略研究學科和現代軍事理論中[4]。C2是在戰爭中取得戰略成功的一個重要手段，它被定義為 "確定一種方法，使敵人的組織因無助或混亂而崩潰"[16]。與指導這一結果相關的心智模式（必然）是高度抽象的，反映了對復雜性的理解；戰略與其說是一門科學，不如說是一種藝術。Clausewitz和他的 "分歧"概念，描述了在這種復雜性中操作的困難，它習慣于破壞所有精心策劃的計劃，導致了 "戰爭中一切都很簡單，但最簡單的事情卻很困難 "的看法[20]。自Clausewitz以來，由于信息理論、人工智能、系統思維和控制論方面的重大進展，戰略的啟發式方法已經取得了進展。關于戰爭的心智模式繼續從技術中發展，但戰爭的核心性質卻沒有發展。它在政治中的基礎要求它是一種與人的因素密不可分的活動[4],[15]。將這些心智模式轉化為指導人工智能的具體指標，是一項非同尋常的、可能不可行的任務。這些心智模型的工作原理是對背景、指揮官的意圖以及一個決定可能產生的大戰略后果的整體理解。

科學、技術和信息理論對戰略和C2概念產生了重大影響[21]。John Boyd上校，作為控制論和戰略的學者，在這兩個學科的基礎上，創造了戰略研究領域中最有影響力的功能模型之一--觀察（Observe）-調整（Orient）-決定（Decide）-行動（Act）（OODA）環。OODA環路是一個詳細描述 "贏與輸 "理論的模型，大致描述了一個人如何管理競爭環境和生存[21]。對于一個有效和可生存的C2，Boyd認為，一個系統必須能夠比敵人更快地適應其環境。調整（Orient）的步驟代表了在觀察、分析和心理模型的基礎上做出 "正確的決定"，但如果雙方對手的其他條件相同，誰能更快地循環到每個步驟，誰就能獲勝[21]。因此，推動沖突的速度超過對手反應速度的C2系統，將造成'致命的不穩定'，從而取得勝利[4]。正是從OODA循環理論的發展中，系統思維C2文獻繼續研究什么是一個卓越的C2系統；這是一個結合了系統思維方法和戰略研究的多學科領域[14],[19],[21]。文獻中有一個廣泛的共識，即戰爭的復雜性要求C2系統必須是動態的或敏捷的，允許人們既取得勝利又避免系統失敗[8],[10],[11],[9],[21],[4]。

然而，盡管OODA環路作為一種輸贏理論是合理的，但它并不是在C2系統中實施敏捷性的充分模型，因為它忽略了特定的功能，如 "指揮概念、規劃、放行準則或系統延遲"，導致模型過度強調速度為目的[14],[9],[19]。為了將OODA環作為C2的一個更好的模型，Brehmer開發了動態OODA環（DOODA環）。Brehmer認為，需要具體的細節，如整個決策過程中的延遲，以使該模型在C2背景下具有足夠的描述性[14]。因此，在圖1中看到的DOODA循環允許指揮官和工作人員實際了解C2過程的每個功能。它通過明確每個C2功能，說明了為了提高敏捷性和決策性需要實現什么[14]。出于這個原因，DOODA循環模型將被用作本文后面的A3IC2功能模型的基礎。

從上面的討論中，有一個概念是明確的：C2及其性能的測量與系統運行的戰略背景是不可分割的。C2系統內的動態變化不是在真空中發生的；C2系統的最終結果是控制的影響，或在指揮軍事力量的超復雜環境中做出有效決定的能力，以便生存和獲勝。如果一個高度復雜、高效、響應迅速的人工智能C2系統無法追蹤作戰環境的復雜性、產生的影響以及它們在大戰略層面的后果，那么C2系統將無法在高強度戰爭的動蕩下生存。

圖1. 動態OODA環[14]

B. C2系統定義

在文獻中，對C2系統類型的描述是有問題的，導致與敏捷性、適應性、穩健性和復原力的定義有很大的重疊，這取決于情況或背景[11],[22],[8]。然而，有兩個廣泛的基本生存方法被描述，所有C2系統類型至少有一個方面是相同的：

1）保持形式的力量（在不改變的情況下，在波動中生存的能力）。

2）改變形式以保持力量（通過改變在波動中能生存的能力）。

這兩種生存方法都可以根據情況而有效；因此，一個有用的C2功能模型必須包括這兩種方法。C2文獻大致了解這一點，并試圖在功能模型中結合各種定義來調和兩種方法[11]。"敏捷C2"的概念將彈性和穩健性納入其定義中，背離了人們對敏捷性的通常理解，即僅僅意味著改變形式的 "迅速"。Alberts將敏捷C2定義為 "成功影響、應對或利用環境變化的能力"[8]。這一定義有實現這一目的所需的六個方面[8],[23]：響應性、靈活性、適應性、多變性/穩健性、創新性和復原力/彈性。

所有這些要素的融合有望最大限度地減少與不利影響相關的事件的概率，并最大限度地增加提供機會的事件的概率。如果事件真的發生，這些要素也會努力使成本最小化或收益最大化[8]。需要強調的是，單一目標的優化并不等同于敏捷性；相反，它反映了響應能力高于靈活性和彈性的不平衡。當一個系統的優化依賴于單一目標時，它不一定是高效的，即使這個單一目標是預先確定的不同目標的加權和。然而，我們承認，優化是一個數學概念，可以被調整以實現任何目標。如果目的是平衡響應性、速度、靈活性和彈性，多目標優化是優化理論的一個分支，可以用數學方法處理這個問題，同時優化相互沖突的目標。

敏捷C2的目標是將不利影響最小化，將機會最大化，這與Nassim Taleb的 "凸"系統的想法相似；對波動的有益響應，也就是所謂的抗脆弱性[12]。敏捷性和抗脆弱性有很多相似之處。敏捷性和抗脆弱性都有一個共同的風險觀，即既要減少黑天鵝事件（災難性的、低概率的事件）的負面影響，又要避免在組織內低估其可能性的自滿情緒[8],[12]。其他的相似之處還體現在所列舉的組織如果要成為一個抗脆弱組織應該避免的特性，比如限制使用單目標優化、專業化、預測、標準化和微觀管理[24],[12],[8]。

與敏捷C2一樣，抗脆弱組織關注的是將行動自由（靈活性）最大化的策略和結構。它不鼓勵優化、缺乏多樣性、不容忍風險，關鍵是不切實際的簡化現實模型[8], [24]。然而，抗脆弱性和敏捷C2之間的關鍵區別是 "為了學習和過度補償的目的，有目的地在系統中實施誘導性的小壓力 "或 "非單調性" [25],[26],[12]。這是抗脆弱系統和敏捷或彈性系統之間的關鍵變量。抗脆弱系統積極尋求在其自身系統內注入波動性，以暴露脆弱性。這兩個概念之間的差異是互補的，它將被論證，當兩者結合起來時，可以為人工智能C2系統產生一個強大的功能模型。

C. 抗脆弱性與C2

抗脆弱性是一種系統特性或特征，它不僅能使系統對突如其來的沖擊和壓力具有魯棒性和彈性，而且還能從這些壓力中學習，在下次遇到這些壓力時改進自己[12],[27]。抗脆弱性是脆弱性的反面，因為穩健性和彈性的定義都不'意味著從沖擊中獲得力量'[16],[12]。Taleb指出，抗脆弱性系統'有一種機制，它通過利用而不是遭受隨機事件、不可預測的沖擊、壓力和波動來不斷自我再生'[12]。由此可見，"如果沒有反饋和記憶的機制，抗脆弱性是不可能的"[27]。因此，為了使一個系統走向抗脆弱的系統動力學，它必須能夠從對其系統的沖擊中學習（反饋），并從這種記憶中改善其運作（定向）。必須強調的是，這種反饋可以是內部的，并且是自我產生的，使用內部設計的性能和效果的衡量標準，同時使用內部模擬的外部環境進行情景的角色扮演。作為一個概念，抗脆弱性有以下五個維度[12],[28],[25]：

1. 從沖擊和傷害中學習的能力：系統有能力從它收到的反饋中儲存其記憶和經驗。

2）利用過度補償進行系統改進：一旦收到反饋，系統就會自我改進，涵蓋未來管理類似沖擊的要求。

3. 冗余：由于過度補償沖擊的結果，系統將開發多層次的冗余機制。

4）凸性和選擇性（"杠鈴戰略"）：該系統將以一種使潛在收益最大化但使潛在損失最小化的方式構建自己。換句話說，該系統將是穩健的，但準備運用收益函數。

5）小規模的實驗：承擔風險，以便在犧牲小故障的情況下獲得顯著的性能收益。對系統誘導小的壓力源，以確保非單調性。

將敏捷系統與抗脆弱系統區分開來的三個特征是：注重過度補償，有目的的誘發系統壓力，以及來自波動的記憶/反饋。抗脆弱的系統會改進自己，不僅能夠補償未來類似的壓力，而且能夠補償比所經歷的更嚴酷的沖擊[12]。因此，波動性是非常可取的，因為它允許系統收集信息，并通過從盡可能廣泛的輸入中學習來保護自己的未來。這就產生了對系統進行過度補償適應所需的數據，以管理沖擊。事實上，一個抗脆弱的系統將有目的地嘗試 "風險管理的實驗"，以創造過度補償所需的波動性。Taleb明確指出，這包括來自黑天鵝的風險；那些具有高度不可能性和極端影響的事件[25],[28],[8]。黑天鵝對于抗脆弱系統來說具有很高的價值，因為它可以獲得加強系統的稀有信息，只要它們最初是可以生存的[12]，因此，復原力和穩健性很重要。抗脆弱系統的設計是為了盡可能地抵御作為本體論現實的混沌，在復雜環境中無法消除或預測[28],[12]。

Alberts[8]討論了敏捷性的概念模型，"環境空間"代表系統的性能水平，取決于各種外部和內部變化。從敏捷C2的角度來看，一個抗脆弱的系統會探索環境空間，以便從盡可能多的生成環境中了解盡可能多的 "可接受的性能區域"。波動性和反饋允許這種探索。有效地使用反饋/記憶，并通過波動性實驗，以便過度補償，從而使敏捷C2系統通過探索越來越多地了解其 "自我模型"，通過更多的 "實體可以識別和成功應對的各種情況 "來提高其敏捷性[8] 。此外，該系統對環境、可預期沖擊的背景以及形成環境壓力源的環境約束有了更好的理解。經驗教訓可以采取幾種形式，如經過驗證的作業環境模型、代表環境的人工智能數學函數，以及其他人類/機器產生的數據存儲。這些信息將隨著每次沖擊產生的新信息而更新，使C2系統能夠隨著時間的推移而提高效力。

現在，我們應該清楚，抗脆弱系統并不排除敏捷性作為系統內的一個有利特征；抗脆弱是一個額外的特征--而不是一個替代品[12],[29]。在Taleb對抗脆弱的定義中，Taleb將敏捷性與脆弱性、復原力和抗脆弱從同一范圍中分割出來。為了使A3IC2結構清晰，我們將繼續這樣做。在圖2中看到的是敏捷性和抗脆弱性的覆蓋范圍。兩者的定義分為 "從波動中生存的系統 "和 "系統為生存而進行改進的能力"。這很好地概括了上述系統動力學文獻中的定義[26]。例如，如果沒有系統恢復或適應的能力，就不可能有彈性，也不可能在受到沖擊后恢復到正常水平的性能。不變性也是脆弱的，因為所有系統的功能都來自于無常性；沒有變化，系統最終會失敗[30]。敏捷性是抗脆弱性的助推器，因為對反饋的有效過度補償需要一個敏捷的組織；反之亦然，敏捷的C2需要過度補償來主動創新，并從操作環境的變化中建立復原力。

圖2. 敏捷和抗脆弱范圍[8],[12]。

與彈性和穩健的系統相比，敏捷性與抗脆弱性相結合的好處是對沖擊的響應要好得多[22]。Taleb指出，脆弱性在數學上被定義為 "對有害壓力的加速敏感性：這種反應被繪制成一條凹形曲線，在數學上最終導致隨機事件帶來的傷害多于收益"。一個脆弱的系統將在極端的波動下崩潰，因為它沒有否定凹形響應的屬性。由此可見，抗脆弱性的動力學產生了 "凸型響應，導致更多的利益而不是傷害"[12]。因此，一個有彈性或堅固的系統處于脆弱和抗脆弱之間的中間位置。一個穩健的或有彈性的系統既不會從波動中得到什么，也不會失去什么。抗脆弱性有一些元素，使它不僅能在沖擊后恢復正常功能，而且能從壓力源中學習，以便進行過度補償。因此，要獲得一個抗脆弱和敏捷的C2系統，需要具備表1中所列的以下要素。

從表一中可以看出，這種組合能夠發揮兩種方法的優勢。最下面的三行是抗脆弱性要素，前三行是敏捷C2要素，而中間一行是兩者的必需要素。尋求創新的解決方案以消除脆弱性和提高敏捷性是兩者都需要的過度補償。記憶/反饋、可選擇性和對創新能力的補充，是將敏捷C2與A3IC2分開的新元素。一個C2系統如何實際發展這些元素，需要人工智能、混沌工程和具體組織戰略的交集；這是下一節的主題。

表1. A3ic2系統的要素[8],[12],[26],[22] 。

III. 人工智能和抗脆弱的C2系統工程

在C2系統中實施抗脆弱性需要利用和積累有關系統性能的反饋；最容易實現的是將數據收集作為在系統中保留記憶和學習的永久方法。這允許創建抗脆弱的反饋回路，使其能夠使用過度補償[26],[22]。Jones [31] 將抗脆弱機器描述為一種能夠適應意外環境的機器，因為它的腳本隨著時間的推移在決策、采取行動和觀察結果的過程中變得更加復雜。這種機器必須從它的環境中學習，并適應那些 "在設計時沒有預想過的 "變化[31]。換句話說，要做到真正的抗脆弱，系統所面臨的情景必須是新的，但也要熟悉到可以從以前的經驗中概括或抽象出來，創造出新的知識。機器通過與環境或感知數據的互動，從其經驗中更新其內部狀態的這一過程被稱為 "機器學習"（ML），是人工智能的一個分支。因此，這項技術是在系統內實現抗脆弱動態的基礎[31]。

文獻中對人工智能的定義還沒有達成共識，但為了本文的目的，人工智能被定義為 "為計算機提供認知技能和能力的算法，用于感知和決策"[32]。建立人工智能系統的方法各不相同。傳統的方法是通過 "專家系統 "或 "手工制作的知識"，即通過人工編碼并咨詢專家來創建算法[33],[34]。然而，由于模型是手工更新的，這些系統對于不斷變化的環境來說通常是非常脆弱的。ML提供了一種更新系統知識的替代方法，可以從系統直接接收的數據中獲得，也可以通過與環境的互動獲得。先進的ML模型，如深度學習，依賴于大型數據集和專門的算法來學習結構化（表格）和非結構化（圖片、文件）數據中的特定模式；允許創建一個系統的復雜數學表示/模型。這種模型可用于對新數據進行預測，或在以前未見過的情況下采取行動。由于從環境本身的觀察中收集到的數據集的多維模式，人工智能模型在面對復雜的環境時可以表現得更加準確[33]。人工智能有望減少人類決策的許多限制，如注意力集中、有限的記憶、回憶和信息處理[35]。

ML方法試圖在功能上接近空間內的高維拓撲結構[4]。數據源系統通過傳感器提供拓撲結構，而ML算法試圖通過訓練學習這個拓撲結構，然后驗證其性能（即準確性）。當一個新的數據點被提交給受過訓練的人工智能時，它就會被放在這個相同的配置空間中，根據算法形成的近似值，它將對新的數據點進行預測。作為一個例子，圖3是一個ML分類算法的低維結果。它有四個標簽，代表對敵人當前行為的預測，每個標簽都是由人工智能設計師根據以前對數據的理解而指定的。當收到一個新的數據點并在這個狀態空間內進行評估時，該數據點可能被分配到最接近的群組。如果與數據點的歐幾里得距離最接近紅色集群，那么人工智能就會輸出一個 "可能的攻擊 "作為預測，可能會有一個從與紅點的距離與其他集群的距離相比得出的可能性。

圖3. 高度簡化的狀態空間與由ML聚類算法形成的拓撲結構

因此，人工智能是敏捷C2系統的一個有利工具，從根本上可以還原為形成這些適應性的復雜數學函數來模擬一個動態和變化環境的效用。有人認為，這些模型將為大多數C2任務提供比人類更高的精確度，并且盡管超復雜，也能提供快速和值得信賴的自動化[5],[1],[2]。通過精確和適應性的數學函數來取代OODA環路中的每個階段，可以實現卓越的感知和學習，并延伸到快速和卓越的決策[3],[36],[4],[7],[6]。下面將討論這樣做所帶來的風險。

A.脆弱性風險

人工智能伴隨著新形式的風險，需要加以管理。對C2系統影響最大的現象是戰爭的爆發。如果錯過了常規國家間沖突的爆發（一個非常罕見的事件），可能會導致災難性的突然襲擊。事實上，對手將積極尋求一種策略，對C2系統產生盡可能大的沖擊[16]。在這種情況下產生的問題是，通過人工智能算法實現C2決策自動化的好處是否值得承擔災難性失敗的風險？如果準備在人工智能預測有99%的信心，而1%的機會可能導致不可逆轉的戰略后果的情況下，自動做出提供致命武力（或不提供）的決定，那么C2的性能是否得到全面改善？對于C2來說，戰略決策失誤的后果可能是如此的極端，以至于會導致其自身的毀滅，這就需要一個抗脆弱的戰略，作為對抗黑天鵝事件的必要條件。

99%置信度的人工智能預測之所以會導致失敗，是因為在面對動態復雜系統時，人工智能會受到所謂的 "柏拉圖式折疊 "的困擾。柏拉圖式折疊描述了這樣一種情況：復雜環境的模型 "拓撲結構 "或 "狀態空間 "由于 "為了隱藏復雜性 "而省略細節，本質上是錯誤的，或者說是脆弱的[12],[29],[34],[4]。當復雜性被不明智地隱藏時，人工智能所操作的抽象水平比它應該操作的適當抽象水平更簡單。其結果是人工智能狀態空間中沒有體現的突發現象，或者無法區分需要不同決策的不同環境。這些變量可能是隱藏的強化反饋回路，可能導致黑天鵝現象，往往會產生災難性的影響[12],[13],[22],[37],[4]。這給C2操作環境中的自動決策帶來了風險。更糟糕的是，即使人工智能模型正在從環境中學習，如果它不能 "跟上 "拓撲結構的變化，隨著時間的推移發展出更多的隱藏變量，它也會變得很脆弱[29],[38]。忽視或低估這種不確定性影響的模型，作為他們試圖模仿的復雜環境的本體事實，將產生越來越多的脆弱程度，與模型失敗的后果一致[12],[28],[4]。

快速更新一個模型，以防止與人工智能對 "開放 "和復雜系統的理解有關的 "漂移"。Florio[38]認為，通過定期的訓練更新和足夠的獨特數據進行訓練，一個非常復雜的模型/函數可以隨著時間的推移保持對非線性系統的接近。這種方法通常被稱為 "ML管道 "或ML開發過程[33]，是一種循環技術，其中一個ML模型正在運行并預測環境，而另一個正在被訓練。環境的變化只會導致新的數據供算法自我更新，改善C2系統的模型庫，以便在其活動適應環境時加以利用。模型的更新和替換速度將對模型準確反映復雜環境的保真度產生相應的影響[38]。

然而，模型快速更新并不能解決決策型人工智能的柏拉圖式折疊問題。一個ML模型可以快速更新一個持續不準確的模型，并且完全沒有意識到數據的退化[4]。人工智能可以迅速形成一個C2系統，對它所訓練的事件具有優化和卓越的決策，其代價是對尚未發生或被系統感知的事件具有脆弱性[4]。然而，如上所述，C2系統認為其最優先的正是這些尚未發生的罕見事件。

人工智能支持的C2的系統故障點是，由于作戰環境的拓撲結構和表征拓撲結構之間的不匹配，人工智能模型做出的快速決定有助于控制的崩潰，導致無助或混亂[4],[16]。作為一個例子，Wallace[4]討論了最近股票市場的 "閃電崩盤"（黑天鵝），認為它類似于C2系統中脆弱的人工智能應該產生的結果。這些崩潰的發生是由于自動化交易算法過于迅速而無法進行人工干預，其根本原因非常復雜，至今仍不為人知。對于C2來說，相當于兩個具有高度自主的人工智能決策的對立軍隊，導致了高強度戰爭的閃電式崩潰；所有這些都來自于以毫秒為單位的穩定性喪失[4]。

B.C2SIM和AI

針對人工智能遺漏罕見與災難性事件的風險，提議的解決方案是通過使用合成（人工構建）數據。合成數據是唯一現實的方法，使ML算法能夠從C2系統高度關注的現象數據中進行訓練，例如C2系統被設計為有效決策的未來常規高強度戰爭[39],[7],[5]。未來的戰爭沒有數據，而過去的戰爭是否有用也是可以爭論的。合成數據的生成過程分為三類[40]。

1）人工開發，通過手工建立的數據集進行策劃。

2）自動調整真實輸入，產生類似的輸入，幫助算法學習更廣泛的規則。

3）通過建模和模擬（M&S）以及仿真自動進行。

使用哪種程序完全取決于人工智能的目的和它試圖進行預測的環境稀缺性。如果人工智能要取代指揮官的決策能力，那么極有可能需要將人工創建的來自情報的數據與戰場模擬模型相結合，來訓練一個人工智能系統。這種方法將C2SIM和人工智能等概念整合在一起，可能使用強化學習算法[5],[41]。

然而，這種方法仍然存在風險。創建一個高度詳細的操作環境模型不僅很難驗證，而且很可能產生欺騙性的結果，因為人工智能將缺乏在不確定性下做出有效決策所需的保真度[37],[5],[41]。

然而，這種方法仍然存在風險。創建一個高度詳細的作戰環境模型不僅很難驗證，而且很可能產生欺騙性的結果，因為人工智能將缺乏在不確定性下做出有效決策所需的保真度[37],[5],[41]。Davis[37]將此描述為 "場景空間 "的減少，意味著人工智能被訓練的選項或靈活性變得狹窄。一個在C2系統中為指揮官制定行動方案的人工智能系統，如果針對特定場景進行了優化，那么作為一個反應式系統，它在高度特定的場景空間中只會有可靠的表現。對模型內變量之間的因果關系或非因果關系的假設，將不可避免地導致脆弱性[37]。

另一方面，一個高度抽象的模型，為一個"戰略層面"的推薦系統而忽略了作戰環境的大部分細節，有其自身的問題。合成數據的使用將與創造它的軍事文化密不可分。對敵人以及他們將如何進行下一場戰爭的假設，將被固化在人工智能所訓練的數據中[4]。如果敵人決定 "改變游戲規則"，在戰略層面采取人工智能從未接受過的不對稱行動，任何新的敵人戰略或戰術都不會在發生之初就被準確預測[41]。相反，它們會被預測為完全不同的東西。在戰略層面上，比如戰區，與預測敵人行為相關的變量會有很長的統計 "尾巴"，而在人工智能模型中卻沒有體現[4]。這可能會產生嚴重的戰略后果，導致系統不適合戰爭的 "深度不確定性 "或波動性[37],[41]。Zhang[41]指出，將人工智能'用于涉及戰略決策的應用，比如那些模擬甚至沒有物理學作為依托的應用，現實世界和模擬之間的對應關系可能非常小，以至于經過訓練的算法實際上是無用的'。由此可見，人工智能要想保持有用，就必須從對應于C2函數的數據中進行訓練，而C2函數是充分人為復雜的，而不是天生自然復雜的。顯然，為了使人工智能的使用不成為脆弱的風險，需要在對人工智能的信任、預測失敗的風險以及特定人工智能給C2功能帶來的響應能力的好處之間取得平衡。

圖4. 人工智能集成和增長的限制

與人工智能支持的C2系統相關的脆弱性風險，反映了上文圖4中顯示的增長限制的原型。決策性能通過復雜功能的自動化得到改善，從而提高了C2的響應能力。然而，人工智能整合到更復雜的功能（如決策），導致更多的風險被轉移到人工智能模型的準確性和與操作環境相比的差異。這可能會導致低概率但高后果的災難性事件的預測失敗。人工智能取代的需求和判斷來理解復雜環境的功能越多，系統就會變得越脆弱。黑天鵝事件在數學上是不可預測的，對系統也是有影響的。因此，C2系統暴露在重大沖擊下的風險越大，它就越有可能最終遭受災難性的失敗[12],[13],[42],[22]。

IV. 從AI的脆弱性到抗脆弱性

將人工智能整合到敏捷C2系統而不增加脆弱性的方法將需要仔細考慮上文表一中討論的抗脆弱性要素。具體來說，C2系統將需要確保對來自作戰環境的沖擊作出凸形響應。這可以通過兩種方法實現：

1）將人工智能的功能分配到C2系統中，使災難性故障的風險最小化，但使系統的收益最大化。

2）使用實驗來發現系統的脆弱性，產生創新和混沌；這使得過度補償和人工智能模型的不一致。

A. 功能分配

一個AI使能系統需要在其作為敏捷性工具與其存在的脆弱性風險（如果AI不能在復雜環境的極端波動下執行）之間取得平衡。人工智能并不適合所有的決策任務[43],[32],[36]。一個抗脆弱系統將需要特定的邊界，將在戰略/作戰層面上將具有黑天鵝高風險的C2決策功能與其他可以自動化的低風險復雜C2功能分開。明確說明人工智能在C2系統中負責哪些任務，對于避免脆弱性和整體上有利于系統至關重要。

由于C2系統是社會技術性的，那些為C2功能分配使用人工智能的人需要確保對人的替換不會對系統的性能產生風險。Abbass[32]，討論了在這樣的系統中分配人工智能的幾種方法。一種 "靜態分配"，即在C2系統中賦予人工智能的功能并不改變，可能不適合動態環境。具體的C2功能的需求將根據情況發生變化，特別是考慮到戰爭中對響應能力的需求，這可能需要快速變換功能分配[36]。例如，針對來襲的大規模超音速導彈防御場景將更傾向于速度而不是戰略環境。在這種情況下，什么都不做的后果是如此之大，以至于錯誤的風險可能值得AI完全控制。另一方面，批準超音速攻擊的決定將需要比速度更多的決策背景。因此，一種適應性的方法，或自動分配邏輯（AAL）是必要的[32]。

在戰略決策層面，關鍵事件邏輯最適合于評估脆弱性與自動化的好處。根據對響應能力的需求重要性，以及失敗的后果有多高或多低，C2功能將需要有人類或AI控制的適應性邏輯。圖5展示了一個與C2任務大類相關的潛在后果的例子，從感知到戰區級決策。

圖5. AI使能C2的脆弱性范圍

對于專注于感知型人工智能的系統來說，風險較低，因為來自人類決策者的數據適用于額外的背景[36]。感知型人工智能很可能需要多個專門的算法模塊來解析特定類別的數據，如視頻資料、圖片、文件和其他[33]。因此，這也是一個魯棒的算法系統，如果其中一個算法模塊不能感知關鍵信息，那么這個算法系統其他算法模塊也能捕捉到此信息。當然，風險仍然存在，這將需要通過理解決策中的 "風險轉移 "已經傳遞給人工智能系統的輸入和感知能力來進行評估[32]。

然而，如上所述，人工智能決策與戰爭期間高失敗風險相關聯。失敗的影響將取決于人工智能是支持戰術層面、戰役層面還是戰略層面；與戰略層面的單一失敗相比，戰術層面的單一失敗后果較小；不過，人們必須考慮到從戰術層面到戰略層面可能產生連帶效應。對于抗脆弱系統，Taleb[12]指出，人們應該避免依賴具有高度后果性輸出的系統，因為許多較小的、后果性較小的系統是不太脆弱的。當然，即使戰略層面的人工智能決策者的風險是通過人在環結構來管理的，由于建議依靠人工智能感知器，以及預測對人類決策者的額外影響，風險仍然存在。例如，如果C2系統使用受信任的非人類智能合作者（NIC）來推薦戰略層面的決策，可能會導致軍事指揮官在獲得99%的人工智能預測的情況下增加風險。這是因為NIC會表現得像一個預測者，有證據表明，這可能會增加決策者的風險承擔[12],[44],[45],[16]。

一旦確定了失敗的后果，就需要為每個場景分配適應性人工智能。這是一個 "指揮概念 "的C2功能；在為特定場景分配適應性人工智能功能時，需要考慮指揮官的意圖和國家的戰略目標。這些場景可以通過傳統的兵棋推演方法進行開發和測試，但也可以從創新和混沌生成的抗脆弱性過程中產生。適應性人工智能將需要持續測試脆弱性，以防止凹形響應；這是下一節的主題。

B. 創新和混沌的產生

為了將人工智能作為一種敏捷和抗脆弱的工具，反饋/記憶、小規模實驗和過度補償等元素需要在一個人工智能支持的C2系統結構中結合起來。這可以通過有目的地在系統中注入波動性來實現，并延伸到支持特定C2流程的人工智能功能。通過使用波動性，人工智能系統將發展出一個更廣泛/抽象的決策空間，增加其對更多種類沖擊的通用性。

對于合成數據的生成，可以將一致程度的波動和混沌應用于人工智能所訓練的數據。例如，可以在人工智能系統上測試極端情況，而不僅僅是預期的極端情況。C2組織內的 "混沌小組 "可以嘗試使用極端或極不可能的情況，來暴露人工智能模型的預測失敗。通過暴露失敗，人工智能開發團隊可以確定失敗發生的原因，探索人工智能采取什么行動會更好，然后嘗試重新訓練模型以增加其變異性，以處理未來類似的極端情況。因此，這個過程通過與外界復雜環境相比對自身的理解，加強了系統的能力[12]。這有可能也是由人工智能場景生成器實現的，主要目的是對開發導致人工智能C2系統失敗的場景進行獎勵。無論具體的方法是什么，目的是讓系統的壓力和失敗允許C2系統內的創新能力和發現發生，從而導致過度補償。

這些沖擊不僅僅是對人工智能本身的要求，也是對C2系統整體的要求。應該尋求一種分層的方法，作為一種穩健性的形式[12]。這樣做的一種方法可以在計算紅隊和混沌工程實踐中找到。計算紅隊[46]提供了人工智能所需的計算構件，以設計壓力源來挑戰自己和它所處的環境，并發展新的模型和戰術。類似地，混沌工程通過對計算機網絡或系統中的特定元素注入壓力或故意失敗的實驗來防止組織內部的脆弱性[30]。混沌工程的目的是確保C2 IT系統的所有功能的 "可用性"，盡管環境中存在波動。對抗脆弱C2的用處是顯而易見的，因為其混沌工程實驗允許產生作戰環境效應，如網絡攻擊，作為極端波動的輸入。C2信息技術和通信網絡被視為一個單一的復雜系統，通過觀察其在真實世界的輸入或誘發故障后的行為，可以更好地理解它[30]。

將混沌工程、計算紅隊和人工智能結合起來，可以實現復雜的故障狀態生成，以實現抗脆弱性，但C2系統要有能力從自我造成的壓力中學習，以實現過度補償，需要組織文化上的巨大變化。在圖6中看到的是A3IC2系統的系統。在C2組織內建立這樣一個系統，需要改變組織的心智模式、組織規劃、C2結構，以及改變對人類操作人員的培訓方式，以支持抗脆弱的C2系統。A3IC2應該只關注C2操作的系統；作為一個抗脆弱系統成功進行C2的過程。對于一個C2組織來說，作為一個社會技術系統，它需要采取一種整體的方法，結構、系統、流程和文化都具有抗脆弱的特性，以便在壓力和沖擊下生存[25]。

圖6. 抗脆弱C2作為一個體系系統

V. 敏捷抗脆弱的指揮和控制（A3IC2）

通過將抗脆弱性概念與Boyd、Brehmer和Alberts[14]、[21]、[8]開發的功能C2模型相結合，可以開發出一個通過抗脆弱性動態提高C2系統有效性的新框架。這在下面的圖7中可以看到，說明了圖1中傳統C2運行周期與A3IC2結構之間的區別。

圖7描述了由Brehmer創建的相同的DOODA環路，并增加了對所實施的模型的積累的反饋。模型的建立作為系統的方法，在操作過程中從與復雜環境的互動中學習。從所做的決定、計劃、感覺活動和軍事行動的結果中得到的反饋的綜合，都為AI模型/功能提供了背景。開發的模型取決于具體的C2系統。對于一個空中機動/后勤C2單位來說，模型將反映諸如優先權、飛機選擇、選擇的路線和貨物驗證細節等決定。對于一個人工智能C2推薦系統的COA開發，反饋將代表變量，如敵人的位置，藍色的位置，單位的數量，以及許多其他。這些模型是在日常行動中通過與C2決策支持系統的互動和/或通過C2SIM建立的。

圖7. 抗脆弱的動態OODA循環

如上所述，"混沌生成 "功能是迫使系統從反饋中學到的東西進行過度補償的方法。它同時適用于社會技術系統中的人和機器。混沌生成是C2 "紅隊"，它有目的地給系統施加壓力，以加強決策周期，提高敏捷性，減少脆弱性。對于人工智能支持的C2系統，混沌生成器包括基于先前經驗的合成數據生成過程，但對其進行修改以加強系統。因此，人工智能將在具有超出先前經驗的更多極端變量的任務中得到訓練和改進；導致過度補償。這些模型在性質上可能是極端的，并應盡可能多地覆蓋可能性空間。如果環境發生重大變化，或出現黑天鵝，可能性空間只會增加，允許系統改進并產生進一步的模型。C2系統的波動性越大，產生的模型就越多，以進行補償。

以前的討論假定，模型和數據需要提前建立，并預期未來結果。最近的趨勢是引入了形成、重新塑造和校準的模型。影子機器的概念[46]有一個專門的控制邏輯，隨著背景的展開學習模型。然而，這些概念假設來自實際環境的實時數據輸入，以持續測量偏差并進行相應的調整。這種方法仍然存在挑戰。關于自我的數據可能比關于敵人的數據多出幾個數量級。這種可供人工智能即時學習模型的數據不平衡，在人工智能界有其自身的挑戰。

VI. 結論

將人工智能整合到C2中，只有通過對其效果的整體理解來實施，才能提高系統的性能。如果一個由人工智能支持的C2功能有可能導致它所保衛的國家戰略目標無法實現，那么就需要認真考慮該人工智能的功效問題。當C2功能被分配給人工智能以避免脆弱性時，那么反饋和過度補償的使用有可能促進對系統波動的凸形響應。使用有目的的混沌生成將有助于C2系統能夠了解其自身的弱點，以便改進。使用A3IC2作為人工智能支持的C2戰略，可以確保人工智能仍然是建立一個抗脆弱系統的工具。最大限度地減少災難性失敗的可能性，同時最大限度地利用系統的好處，這將有助于在極端動蕩的戰爭中生存和制勝。

雖然本文的重點是人工智能所面臨的風險，但當新形勢展開時，人類指揮官仍將面臨類似的問題，特別是當軍事歷史的教訓可能阻礙他們對這些新形勢的思考能力時。如果敵人依靠人工智能產生接近光速的效果，未來的沖突場景將更具挑戰性。這就需要人類-人工智能的人機協作，利用各自的優勢，過度補償各自的弱點，以相關的速度產生效果。

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。

摘要

有效的項目管理有賴于對風險的細致和精確的量化。根據Kaplan和Garrick(1981)的說法，風險是概率和影響。然而，影響往往是多維的，包括進度維度、安全維度、財務維度或技術維度等。本文打算介紹利用統計科學將多個風險維度合并為一個數值。在美國國家航空航天局（NASA）的許多項目中都使用了一種叫做MRISK的多維風險工具來評估和確定風險和緩解措施的優先次序。此外，本文將總結北約盟軍司令部轉型（ACT）目前的風險管理準則，并將告知北約ACT在風險評估和管理方面可以從統計科學中獲益的潛在方式。

MRISK工具是由博思艾倫咨詢公司在NASA蘭利研究中心開發的。我曾作為MRISK的開發者，通過這篇論文，我旨在提高對定量風險評估的認識，并介紹其在北約ACT的潛在應用。博思艾倫咨詢公司撰寫的MRISK原始論文是美國國家航空航天局的專利，并存放在美國國家航空航天局科學和技術信息（STI）庫中。本文所表達的觀點僅代表我個人，不代表我以前或現在的雇主的觀點或意見。

引言

所有的項目，無論其組織、復雜性、時間框架或目標如何，都會有風險。項目管理協會將風險定義為 "一個不確定的事件或條件，如果它發生，會對一個或多個目標產生積極或消極影響"。一個積極的風險被認為是一個機會，而一個消極的風險被認為是一個威脅。大多數情況下，風險管理意味著威脅管理。鑒于，不可能避免項目威脅，有效的項目管理必須包括成功管理它的方法。特別是考慮到減輕風險的缺陷最終會給聯盟帶來大量的資金，以及戰爭能力發展和進展的潛在滯后，它被證明是項目管理的一個重要組成部分。

風險管理包括風險識別、風險評估和風險應對。風險評估階段的目標是定性和/或定量地評估風險的概率和影響。傳統上，風險評估是定性進行的，這意味著它依賴于對單個風險的概率和影響的判斷。判斷可以基于過去的經驗、可比較的項目、或項目主題領域的專業知識。以這種方式進行的風險評估可以由一個人完成，也可以在一個有不同利益相關者和專家的團隊環境中完成。然而，僅僅是定性的風險評估并不總是充分的。

如果風險評估的主要目的是對風險進行優先排序，以確定哪些風險需要進一步研究和應對，那么定性評估就可能是足夠的。相反，如果風險評估需要高度的精確性和更多的結論性評價，那么定量評估與定性評估一起進行將對項目有益。

澳大利亞皇家海軍 (RAN) 最近推出了一項開發和使用機器人、自主系統和人工智能 (RAS-AI) 的戰略，該戰略將通過一項運動計劃來實施。蘭德澳大利亞研究團隊正在通過建立證據基礎來支持 RAN 的這項工作，以幫助識別和塑造基礎活動。本報告概述了近期和長期（到 2040 年）海上 RAS-AI 技術的現狀和軌跡，并對近期、中期和長期可能執行的任務進行了高級審查根據相關的技術和非技術推動因素。

本報告并沒有研究人工智能在海上行動中更廣泛的整合，而是關注支撐無人平臺的任務和技術的進步，包括無人空中、水面和水下航行器。除了概述近期和長期 RAS-AI 任務的關鍵技術推動因素外，該報告還指出了在 RAS-AI 能力發展中應考慮的三個關鍵原則：（1）關注多種技術（新系統和“遺留”系統），而不是單一的技術解決方案； (2) 考慮國防和商業 RAS-AI 系統的互補性進展； (3) 監測非技術因素，例如不斷發展的監管、法律、政策和道德框架，這些框架可能會顯著影響未來的技術采用路徑。

研究問題

• RAS-AI 技術和任務在海洋領域的前景如何？
• 到 2040 年，海上領域的 RAS-AI 技術和任務的可能軌跡是什么？
• 哪些可能的技術推動因素會塑造未來海上區域的 RAS-AI 任務？

主要發現

• 快速發展的技術環境使 RAS-AI 任務在海洋領域得以擴展
  • 無人駕駛飛行器 (UAV) 任務的跨度有所增長，特別是因為無人機的覆蓋范圍、適應性和生存能力不斷增加（盡管仍然相對有限）。
  • 由于通信、有效載荷和模塊化的進步，越來越多地使用無人水面航行器（USV）來支持海軍任務已經成為可能，盡管限制包括依賴載人平臺的遠程控制以及與其他車輛的有限集成。
  • 無人水下航行器 (UUV) 任務已經擴大，因為其在更深的深度、更遠的距離以及先進的傳感器和有效載荷下運行的能力越來越強。然而，水下通信、網絡和深水導航的有限耐力和未解決的障礙仍然對 UUV 任務施加了限制。
• 在所有平臺上，海上 RAS-AI 任務可能會在短期內擴大，這得益于幾個關鍵技術領域的進步
  • 在自治、集群、互操作性、安全通信和信息交換、生存能力、推進和能源管理以及先進傳感和多任務平臺開發等領域取得了進展。
• 從長遠來看，技術和非技術障礙可能會限制某些 RAS-AI 任務
  • 長期 RAS-AI 任務可能包括在有爭議的環境中部署以及在進攻性自主和動力應用中的部署，盡管后者可能會受到道德、法律和監管障礙的嚴重限制。
  • 長期任務和技術前景的特點是存在很大的不確定性，可能需要通過后續研究探索更多種類的具有潛在破壞性的未來 RAS-AI 任務、技術和戰術。

背景

隨著人類行為和交互繼續受到越來越普遍的技術的影響，必須不斷調整自己的能力來處理和防止惡意行為者利用不斷變化的技術環境。如果我們要釋放數字經濟的真正潛力，就必須在社會和經濟的所有領域優先考慮網絡安全。網絡安全不是一項單獨的技術，而是一套跨越第四次工業革命的技術、人員和流程的基礎系統。

在 COVID-19 大流行期間加速轉向遠程工作，再加上最近備受矚目的網絡攻擊，導致組織和國家的關鍵決策者將網絡安全放在首位。盡管人們越來越意識到網絡風險，但決策者和網絡專家在優先考慮網絡安全、將網絡風險納入業務戰略以及將網絡領導者納入業務流程方面往往意見不一。仍然需要做很多工作才能就如何加強網絡彈性達成共識。

建立網絡彈性是世界經濟論壇網絡安全中心的核心焦點。我們彌合網絡安全專家和最高級別決策者之間的差距，以加強網絡安全作為關鍵戰略優先事項的重要性。

2021 年，該中心聘請了 120 多名全球網絡領導者，就新興網絡威脅提出高層次見解。掌握網絡安全狀況的全球脈搏對于明確識別新出現的風險并制定可行的解決方案來解決這些風險至關重要。本報告的目的是深入分析安全領導者正在應對的挑戰、他們為領先于網絡犯罪分子而采取的方法以及他們在更廣泛的生態系統中正在實施的措施以增強其組織內部。

網絡空間超越國界。因此，我們需要動員全球應對以應對系統性網絡安全挑戰。我們希望本報告中的見解將有助于促進建立網絡彈性生態系統的協作方法。

前言

全球網絡安全展望將是一份年度報告，重點介紹隨著開始從網絡防御姿態轉向更強的網絡彈性地位的趨勢和進展。隨著我們的網絡生態系統的擴展和整合，確保所有相關組織能夠快速預測、恢復和適應網絡事件變得越來越重要。以安全為中心的領導者必須能夠有效、清晰地向業務領導者傳達他們的風險和緩解策略。

我們在世界經濟論壇網絡安全領導力社區和埃森哲網絡安全論壇對來自 20 個國家的 120 位全球網絡領導者進行了調查，以從全球角度了解如何看待和實施網絡彈性，以及他們如何更好地保護我們的生態系統。要建立一個有足夠彈性的生態系統，能夠在當今環境中承受而不是動搖，需要一種統一的方法。

正如我們的調查和研討會所確定的，領導支持對于在組織內采用網絡彈性至關重要。同樣重要的是，確保網絡安全和業務領導者之間沒有溝通障礙或協調差距。鑒于在機器學習和自動化進步的推動下，技術不斷變化和快速發展，再加上網絡犯罪分子可獲得的能力越來越強且負擔得起的黑客資源，領導者必須在其網絡彈性計劃中團結一致并保持同步。

通過與世界經濟論壇網絡安全中心合作，我們的目標是提供見解和解決方案，以建立更強大的生態系統，使組織可以從中受益、學習并充滿信心地進入這個高度互聯和數字化的未來。

總結

在撰寫本文時，數字趨勢及其因 COVID-19 大流行而呈指數級增長，已將全球人口推向數字化和互聯互通的新軌道。我們數字化帶來的最嚴重和最令人不安的新后果之一是網絡事件的發生越來越頻繁、代價高昂且具有破壞性，有時甚至會導致關鍵服務和基礎設施癱瘓。這種趨勢沒有放緩的跡象，特別是隨著復雜的工具和方法以相對較低（或在某些情況下沒有）成本更廣泛地提供給威脅參與者。

數字化程度不斷提高的跡象無處不在。國際電信聯盟最近報告稱，由于遠程辦公、遠程學習、遠程娛樂和遠程醫療的直接結果，各大洲的固定寬帶接入顯著增加。大多數技術先進的國家優先考慮擴展數字消費工具，促進數字創業和投資在大學、企業和數字當局的創新方面，而新興經濟體優先考慮增加移動互聯網接入、培訓數字人才以及對研發和數字企業進行投資。這就引出了一個問題：如果小國和實力較弱的國家無法保護其數字連接的基礎設施，它們將如何保護自己和自然資源？網絡安全貧困線問題在不斷增長的連接性浪潮中變得更加緊迫。

考慮到這些持續存在的網絡挑戰，世界經濟論壇網絡安全中心聘請了網絡安全領導社區，該社區由代表 20 個國家的私營和公共部門的 120 名網絡領導者組成。網絡安全中心的工作重點是通過網絡展望調查和網絡展望系列（見附錄）收集數據并對其進行分析，以了解網絡領導者的看法，以及網絡安全和網絡彈性的軌跡。

分析結果揭示了有關網絡狀態的寶貴見解以及對當前網絡彈性路徑的看法。

主要結論包括:

• 1.雖然許多因素推動網絡安全政策向前發展，但我們通過調查發現，81% 的受訪者認為數字化轉型是提高網絡彈性的主要驅動力。由于 COVID-19 大流行和我們工作習慣的轉變，數字化步伐加快，正在推動網絡彈性向前發展。多達 87% 的高管正計劃通過加強有關如何參與和管理第三方的彈性政策、流程和標準來提高其組織的網絡彈性。

• 2.我們的研究揭示了以安全為中心的高管（首席信息安全官）和業務高管（首席執行官）之間的三個主要和關鍵的認知差距。差距在三個方面最為明顯：

  • 2.1 在業務決策中優先考慮網絡；雖然 92% 的受訪企業高管同意將網絡彈性整合到企業風險管理戰略中，但只有 55% 的受訪企業高管同意這一說法。

  • 2.2 獲得領導層對網絡安全的支持； 84% 的受訪者表示，在領導層的支持和指導下，網絡彈性在其組織中被視為業務優先事項，但少得多的比例 (68%) 將網絡彈性視為其整體風險管理的主要部分。由于這種錯位，許多安全領導者仍然表示在業務決策中沒有征求他們的意見，這導致了不太安全的決策和安全問題。由于不協調的安全優先級和政策直接導致領導者之間的這種差距可能使公司容易受到攻擊。

  • 2.3 招聘和留住網絡安全人才；我們的調查發現，由于團隊中缺乏技能，59% 的受訪者認為應對網絡安全事件具有挑戰性。雖然大多數受訪者將人才招聘和留住視為最具挑戰性的方面，但與以安全為中心的高管相比，業務主管似乎不太清楚這些差距，后者認為他們有足夠的人員應對攻擊的能力是他們的主要弱點之一。

• 3.勒索軟件的威脅持續增長。多達 80% 的網絡領導者強調，勒索軟件是對公共安全的危險且不斷演變的威脅。該調查證實，勒索軟件攻擊是網絡領導者最關心的問題，50% 的受訪者表示，勒索軟件是他們在網絡威脅方面最擔心的問題之一。勒索軟件攻擊的頻率和復雜程度都在增加，而這種永遠存在的威脅讓網絡領導者夜不能寐。勒索軟件攻擊緊隨其后，社會工程攻擊是網絡領導者關注的第二大問題；此列表中的第三位是惡意內部活動。惡意內部人員被定義為組織的現任或前任員工、承包商或受信任的業務合作伙伴，他們以對組織產生負面影響的方式濫用其對關鍵資產的授權訪問。

• 4.中小企業 (SME) 被視為對供應鏈、合作伙伴網絡和生態系統的主要威脅。在我們的研究中，88% 的受訪者表示他們擔心中小企業在其生態系統中的網絡彈性。

• 5.網絡領導者表示需要明確和富有成效的法規，以允許和鼓勵信息共享和協作。伙伴關系的價值已得到證實；超過 90% 的受訪者表示從外部信息共享小組和/或合作伙伴那里獲得了可行的見解。

本報告使用近年來的回顧性分析來分享網絡領導者的知識和擔憂，其目標是：幫助決策者為下一代網絡攻擊做好準備。

圖：2022年全球網絡安全展望:要點

【報告概要】

認識到地面自主系統需要在未知的任務中運行，北約正在對地面車輛自主移動建模和仿真進行投資，以改進和準備未來運作。來自世界各地的北約工程師和科學家正在努力而有目的地塑造未來的作戰能力，并作為地面部隊保持準備和彈性。隨著北約展望未來，地面車輛界有機會幫助塑造陸軍在實現國家和國際安全目標方面的獨特作用。隨著情報、監視、目標獲取和偵察能力的快速發展，確保自主機動性和操作變得更加重要。北約的未來部隊必須能夠并準備好在極端條件下執行各種任務，因此它必須準備好運用地面力量/地面部隊，以在整個軍事行動中實現戰略成果。

地面自主系統是許多北約國家未來軍事戰略的關鍵部分，商業公司正在競相開發自主系統以率先進入市場。在這場部署這些系統的競賽中，仍然缺乏對這些系統的能力和可靠性的了解。自主地面系統的一項關鍵性能衡量指標是其在道路上和越野時的機動性。自主武器系統的開發和部署通常指向幾個軍事優勢，例如作為力量倍增器，更重要的是，可能需要更少的作戰人員來完成特定任務。與商業自治系統不同，軍隊必須在可能不存在道路的未知和非結構化環境中運作，但物資必須到達前線。在戰場上，機動性是生存能力的關鍵，指揮官知道在什么地形上部署哪種車輛至關重要。指揮官需要有能力評估自己和敵方部隊在作戰區域的車輛機動性，這將增加對任務規劃的信心，并降低因車輛受損而導致任務失敗的風險。

北約國家聯合探索評估地面自主系統性能和可靠性的方法，制定一項戰略，以制定一個總體框架，以開發、整合和維持先進的載人和地面自主系統能力當前和未來的力量。該活動利用了 AVT-ET-148、AVT-248 和 AVT-CDT-308 在下一代北約參考移動模型 (NG-NRMM) 上的結果，并共同證明了自動駕駛汽車具有專門的建模和仿真要求關于流動性。隨后，開發了任務領域，并組建了團隊以開展以下工作：

• 自主軍事系統 M&S 的挑戰和特殊要求；

• 與自主軍事系統相關的定義；

• 當前可用于評估自主系統移動性的軟件；

• 評估移動性與數據通信的相互依賴性的方法；

• 以NG-NRMM AVT-248 結果為基礎，確定評估自主系統越野機動性的方法。

這項工作提供了一份文件，簡要概述了現有能力、計劃的未來活動以及后續研究任務組 (RTG) 的戰略方向。這份總結報告將詳細介紹這些成就，并為自主導航框架的開發和實施提供建議。