人工智能（AI）有可能影響所有領域和大規模的軍事行動。本章探討了人工智能系統如何影響準備和開展軍事行動的主要工具，以及如何受其影響。本章分析和討論了人工智能在戰略、條令、規劃、交戰規則和命令方面的多層次影響。采取了一個廣泛的分析角度，能夠根據新的政策和技術發展，以及對政治、軍事、法律和道德觀點的考慮，對這個問題進行總體審查。因此，本章確定了機遇、挑戰和開放性問題，并提出了總體性的意見。提供了洞察力和途徑，以推進對人工智能在軍事行動中的適當整合、管理和使用的進一步思考、研究和決策。

引言

人工智能（AI）的軍事應用有可能影響所有領域和大規模的軍事行動的準備和進行。人工智能系統可以越來越多地支持和取代人類完成軍事任務，因為它們變得更快、更準確，并能夠處理更多的信息和更高的復雜程度。這可能促進軍事行動速度的提高和更好的軍事決策，最終為擁有高性能人工智能的武裝部隊提供顯著優勢。人工智能的軍事用途甚至可能導致軍事事務的另一場革命，盡管這種發展將取決于其他因素而不僅僅是技術。

人工智能可以被用于各種軍事目的。在多維戰場上，人工智能技術可以被用作傳感器、規劃者和戰斗機，或兩者的結合。更具體地說，人工智能的軍事應用可以從支持情報、監視和偵察（ISR）的系統到自主導航和目標識別系統。這可能導致軍事人員和人工智能系統之間不同形式的互動，以及將軍事任務委托給人工智能系統的不同層次。例如，人工智能系統可以在決策過程中協助指揮官和士兵，無人駕駛的人工智能系統可以與有人駕駛的系統一起協作，人工智能系統可以在最少的人類監督下自主運行。 雖然目前只存在狹義和特定任務的人工智能，但正在大力發展人工通用智能（AGI）--具有類似于人類思維的廣泛領域推理能力的系統。 這與人工智能系統的自主性不斷增強的趨勢是一致的。

鑒于人工智能的特殊性和未來的應用，出現了一個問題，即人工智能的引入將如何影響軍事行動。本章通過評估人工智能如何影響準備和進行軍事行動的主要工具并受其影響來探討這一問題。具體而言，本章分析和討論了人工智能在戰略（第1分章）、條令（第2分章）、規劃（第3分章）、交戰規則（第4分章）和命令（第5分章）方面的多層次影響。以下各章將對每個工具進行一般性解釋，然后討論這些工具與人工智能的具體相互關系。

本章采取了一個廣泛的分析角度，包括了部隊整合和指揮與控制（C2）等軍事概念的各個方面，但并不限于此。 這使得在新政策和技術發展的基礎上，以及在考慮政治、軍事、法律和倫理角度的情況下，能夠對這個問題進行更全面的審查。因此，本章確定了機遇、挑戰和開放性問題，并提出了總體性的意見。本章最后發現了人工智能與準備和進行軍事行動的主要工具之間的動態相互關系，并將人類操作員和人工智能之間的互動定位為核心基本問題。

由于軍事人工智能是最近才出現的，因此對納入人工智能的未來軍事行動的任何分析只能是暫時性的，并基于這樣一個前提，即目前對具有高度自主性的人工智能，進行操作化的挑戰將被克服。然而，鑒于技術的快速發展，本章為推動進一步的思考、研究和政策制定提供了見解和途徑，以便在軍事行動中適當整合、管理和使用AI。

1. 戰略與人工智能

軍事行動為國家的政治和戰略目標服務。在戰爭的三個層面（戰略、戰役和戰術）中，軍事戰略是最高的。它可以被描述為 "戰爭的安排 "或 "戰爭的方向"。它為軍事行動提供依據，處于政治和軍事領域的交界處。 從本質上講，軍事戰略是一項計劃，它將最終目標與實現這一目標的手段聯系起來。更具體地說，軍事戰略可以被定義為 "使用武裝力量來實現軍事目標，進而實現戰爭的政治目的 "或 "在戰爭中達到預期結果的概念和實際考慮的表現，涉及對特定敵人的組織、運動和戰術、戰役和戰略使用或承諾的力量。國家安全和國防戰略可以為軍事戰略建立總體框架，而且經常可以在白皮書中找到。

各國還沒有公開通報他們如何使用或打算使用人工智能來制定軍事戰略。因此，在現階段，分析人工智能對軍事戰略的影響以及反之亦然，必須依靠國防白皮書和各國的人工智能戰略。一般來說，雖然在過去幾年中，大約有50個國家發布了關于人工智能在多個部門（特別是民用和工業部門）的使用、發展和融資的官方人工智能戰略，但這些文件一般不關注或幾乎不提及國防應用。然而，主要軍事強國最近通過了與軍事人工智能有關的國家戰略或類似文件，表明各國已經意識到軍事人工智能的戰略重要性，并指導他們努力開發、采購和將人工智能系統納入其武裝部隊。

美國國防部（DOD）在2018年發布了一項人工智能戰略，該戰略強調了優先發展的領域，確定了應如何與民間社會組織建立發展伙伴關系，并制定了一項關于人工智能機器倫理的政策生成計劃。美國人工智能國家安全委員會在2021年發布了一份報告，提出了與人工智能有關的國家防御戰略。 目標是到2025年達到人工智能準備，這意味著 "組織改革，設計創新的作戰概念，建立人工智能和數字準備的性能目標，并定義一個聯合作戰網絡架構"，以及贏得"技術競爭"。

俄羅斯到目前為止還沒有公布關于軍事人工智能的政策，但正在積極資助私營和公共部門的研究。2018年，俄羅斯舉行了一次會議，提出了十項政策建議（AI: Problems and Solutions 2018），這些建議構成了其人工智能戰略的非官方基礎。

歐洲國家在人工智能戰略方面處于類似的階段。在英國2021年國防白皮書通過后，英國國防部（MOD）在2022年通過了《國防人工智能戰略》。 該戰略規定了國防部采用和利用人工智能的速度和規模，與工業界建立更強大的伙伴關系，并開展國際合作，以塑造全球人工智能的發展。 法國沒有采取這樣的戰略，但其《國防人工智能報告》強調了將人工智能納入其武裝部隊的戰略優勢，如分析和決策的速度，優化作戰流程和后勤，以及加強對士兵的保護，并將機器學習歸類為研究和開發（R&D）的主要領域。

雖然更多的國家發表了關于人工智能的分析和政策，但卻沒有對未來的軍事戰略提出見解，北約在2021年通過了其人工智能戰略。該戰略是整個聯盟的人工智能準備和運作的基礎，隨后是北約的自主實施計劃，包括在2022年創建數據和人工智能審查委員會。 歐盟至今沒有采取類似的戰略，只限于在2020年的《人工智能、機器人和相關技術的倫理問題框架》中鼓勵與軍事有關的人工智能領域的研究。

由于各國關于人工智能或與人工智能相關的國防戰略并沒有明確說明人工智能將如何影響軍事戰略，因此可以根據未來可能使用人工智能進行戰略決策的跡象來確定各自的期望。人工智能在戰爭戰略層面的應用實例是對核指揮、控制、通信和情報（C3I）架構的貢獻；導彈和防空系統的目標獲取、跟蹤、制導系統和識別；網絡能力；以及核和非核導彈運載系統。

對于軍事戰略來說，最重要的是，人工智能的應用可以幫助決策者監測戰場并制定方案。事實上，可以開發人工智能來預測其他國家的行為和反應，或生成正在進行的沖突的進展模擬，包括兵棋推演模型。人工智能還可以用來評估威脅，提供風險分析，并提出行動方案，最終指導決策者采取最佳對策。 此外，人工智能可以支持武裝部隊的方式和手段與既定的政治和戰略目標相一致，這是軍事戰略的一個主要功能。這種發展的一個后果是軍事進程的速度和質量都會提高。雖然這將為那些擁有高性能人工智能的國家提供巨大的優勢，但這也可能迫使武裝部隊越來越多地將軍事行動的協調工作交給人工智能系統。

將人工智能用于軍事戰略也可能導致挑戰，包括預測性人工智能需要無偏見和大量的數據。可靠的人工智能系統將需要用龐大的數據集進行訓練。 此外，專家們警告說，人工智能可能會加劇威脅，改變其性質和特點，并引入新的安全威脅。 一項關于將人工智能納入核C2系統的桌面演習表明，這種系統 "容易受到惡意操縱，從而嚴重降低戰略穩定性"。這種脆弱性主要來自于第三方使用技術欺騙、破壞或損害C2系統所帶來的風險，這表明系統安全對AI用于軍事戰略的重要性。

另一個重要的挑戰是，人工智能可能會加快戰爭的速度，以至于人類將不再能夠跟隨上述速度的發展，最終導致人類失去控制。 這種現象被稱為 "戰場奇點 "或 "超戰爭"，可能導致戰略錯誤和事故，包括非自愿的沖突升級。即使這種風險能夠得到緩解，對人工智能的更多依賴也會減少軍事戰略中人的因素，特別是心理學和人的判斷。觀察家們認為，這可能會導致 "人工智能如何解決人類提出的問題，以及人類如果擁有人工智能的速度、精度和腦力會如何解決這個問題 "之間的差距。 然而，專家們也提出，戰略的制定需要對價值的理解，成本的平衡，以及對戰爭所處的復雜社會系統的理解，從而大大限制了人工智能在軍事戰略上的應用。還有一種可能是，當敵人擁有人工智能系統提供的高水平的理性預測能力時，決定性的因素將不是人工智能系統的能力，而是人類的判斷，特別是關于關鍵和困難的選擇。然而，這假定了某種程度的有意義的人類參與。

總之，主要的軍事大國正在投資開發、獲取和操作其武裝部隊的人工智能，因為人工智能有可預見的戰略優勢。然而，各國的戰略并沒有表明人工智能將如何被用于軍事戰略。然而，根據目前的技術發展，可以預計，人工智能將加強軍事戰略的制定和戰略決策，特別是人工智能能夠處理更多的數據，并以比人類和簡單計算更高的精度和速度來理解復雜性。一個可能的結果是軍事行動的加速，這可能會增加武裝部隊整合人工智能的壓力，使人類的判斷力邊緣化。因此，擁有和使用人工智能本身就成為一種戰略資產和目標。同時，國家對軍事人工智能的投資可能成為一種戰略責任，因為它可能增加破壞穩定的軍備競賽、誤解和誤判的風險。未來的軍事戰略需要考慮到這種風險。

總之，主要的軍事大國正在投資開發、獲取和使用人工智能，因為人工智能有可預見的戰略優勢。然而，各國的戰略并沒有表明人工智能將如何被用于軍事戰略。然而，根據目前的技術發展，可以預計，人工智能將加強軍事戰略的制定和戰略決策，特別是人工智能能夠處理更多的數據，并以比人類和簡單計算更高的精度和速度來理解復雜性。一個可能的結果是軍事行動的加速，這可能會增加武裝部隊整合人工智能的壓力，使人類的判斷力邊緣化。因此，擁有和使用人工智能本身就成為一種戰略資產和目標。同時，國家對軍事人工智能的投資可能成為一種戰略責任，因為它可能增加破壞穩定的軍備競賽、誤解和誤判的風險。未來的軍事戰略需要考慮到這種風險。

2. 條令與人工智能

軍事條令進一步指導軍事行動的準備和執行。軍事條令可以被定義為 "從制度化的角度來看，執行軍事任務和職能普遍接受的方法"。因此，它代表了'在戰爭和軍事行動中什么是有效的制度化信念'。條令一般包含三個關鍵要素，即理論（什么是有效的，什么會導致勝利）、權威（條令必須被認真對待）和文化（組織及其成員是誰）。 因此，條令回答了 "軍隊認為自己是什么（'我們是誰'），它的任務是什么（'我們做什么'），如何執行任務（'我們怎么做'），以及歷史上如何執行任務（'我們過去怎么做'）"等問題。 《美國陸軍條令入門》將條令描述為由基本原則、戰術、技術、程序以及術語和符號組成。

鑒于條令的目的和功能，人工智能在發展軍事條令方面的作用可能有限。它可能會繼續由人類創建和修訂。人工智能的具體作用可能僅限于監測武裝部隊的進程與他們的條令是否一致，以確定過去的工作，并支持對條令的質量和影響進行評估。為了有效地告知負責定義條令的軍事人員，這可能需要透明和可解釋的人工智能方法，否則軍事人員將無法理解并做出適當的決定。

然而，條令在設定人工智能的使用和人類互動的基本原則、價值和參數方面具有重要作用。值得注意的是，軍事條令是界定武裝部隊如何感知、理解和重視人工智能的適當手段。由于人工智能的高度自主性，武裝部隊可能需要明確人工智能是否被視為一種技術工具，或者說是一種代理手段。在這個意義上，條令可以定義武裝部隊是否將人工智能視為簡單的數學、技術系統，或者說是具有認知能力的工具。條令可以定義人類在組織中的價值、地位和作用，以及使用人工智能的過程。由于軍事行動和戰爭是人類為達到目而發起的行動，條令可以明確這意味著什么。在這種情況下，條令也可以定義人類與人工智能系統互動的價值和原則，包括人工智能需要為人類服務而不是相反。

同樣，條令也是定義人工智能系統的開發、獲取和使用的道德標準工具。由于軍事條令是根據國際法起草的，并且通常呼吁武裝部隊成員尊重國際法，因此條令也可以定義人工智能系統和運營商遵守國際法的方式。條令是對人工智能和人機協作施加限制的重要工具，適用于各軍種和武裝部隊的所有成員。這可能意味著對人工智能系統進行有意義的人類控制的一般要求，或禁止將某些功能授權給人工智能系統。

更具體地說，條令可以為人工智能融入組織流程設定原則和參數。例如，從事數據整合、優先排序的人工智能系統可能需要修訂軍事條令和武裝部隊使用和收集信息的準則。雖然僅限于觀測的任務系統需要有限的條令調整，但有更多 "積極 "任務的系統可能需要更具體的指導方針，如保障措施、自主程度、與操作者的溝通以及與人類部隊的互動。此外，有人認為，戰術應用主要是基于規則的決策，而戰役和戰略決策往往是基于價值的。每個級別的首選決策過程類型以及這種過程是否應該標準化，可以在條令層面上確定。

迄今為止，各國還沒有公布專門針對人工智能系統的軍事條令。英國國防部關于無人駕駛飛機系統的聯合條令是目前唯一公開的涉及軍事系統自主性的軍事條令。 然而，未來關于人工智能或與人工智能相關的軍事條令可能會根據人工智能的道德使用政策來制定。 事實上，這種政策定義了相關的價值觀、原則和使用軍事人工智能的形式，并為其提供指導，其目的與軍事條令類似。一些國家和組織最近通過了這種關于軍事人工智能道德使用的政策，包括北約。

美國國防部為人工智能的發展和使用采用了五項道德原則。系統需要負責任、公平、可追蹤、可靠和可治理。這些原則規定，美國防部人員負責人工智能系統的 "開發、部署和使用"，因此必須表現出良好的（人類）判斷能力。此外，美國防部明確確定，必須努力將人工智能運作的數據偏見降到最低。 此外，美國國防部2012年3000.09指令確定了美國對致命性自主武器系統（LAWS）的立場。它定義了致命性自主武器系統，確定了三類智能武器系統（自主、半自主和人類監督的自主系統），并為其行動設定了一般界限，以及有關人類操作員的作用和法律審查的標準。

同樣，歐盟議會也通過了一份題為《人工智能：國際法的解釋和應用問題》（人工智能的民事和軍事使用準則），其中特別討論了人工智能的軍事應用。 該報告包含了關于歐盟成員國開發和使用軍事人工智能應用的強制性準則以及一般性結論。首先，報告解釋說，人工智能不能取代人類決策或人類責任。 第二，為了合法，致命性自主武器系統必須受到有意義的人類控制，要求人類必須能夠干預或阻止所有人工智能系統的行動，以遵守國際人道主義法（IHL）。第三，人工智能技術及其使用必須始終遵守國際人道主義法、國際刑事法院羅馬規約、歐盟條約、歐盟委員會關于人工智能的白皮書，以及包括透明度、預防、區分、非歧視、問責制和可預測性等原則。

2021年4月，法國道德委員會公布了一份關于將致命性自主武器和半自動武器納入武裝部隊的意見。盡管其內容尚未得到國防部長的批準，但它代表了未來潛在的軍事條令。該文件重申了人類對自主武器的致命行動保持一定程度控制的重要性，并聲稱法國不會開發也不會使用完全自主的武器。同樣，澳大利亞發表了一份題為《國防中的道德人工智能方法》的報告，其中討論了與軍事人工智能應用有關的道德和法律考慮，但并不代表官方立場。

總之，除了評估和修訂之外，人工智能不太可能對創建軍事條令有實質性的作用，因為條令的作用是定義和規范軍事組織問題以及與信仰、價值觀和身份密切相關軍事行動的各個方面。然而，正是由于這種功能，條令在確定武裝部隊與人工智能的基本關系方面具有重要作用。特別是，條令適合于籠統地規定人工智能將（不）用于哪些任務，人工智能將（不）如何使用，以及組織及其成員如何看待和重視人工智能。最重要的是，鑒于人工智能的特點，條令可以確定人類如何并應該與人工智能互動，以及何種組織文化應該指導這種關系。因此，條令可以為進一步的軍事指令和程序設定規范性框架。各國的道德準則可以作為軍事條令的基礎并被納入其中。

3.規劃和人工智能

根據各自的軍事條令制定的作戰和行動計劃，是根據現有手段實現軍事目標的概念和指示。規劃反映了指揮官的意圖，通常包括不同的行動方案（COA）。存在各種軍事計劃和決策模式，但北約的綜合作戰計劃指令（COPD）對西方各種模式進行了很好的概述和綜合。 例如，加拿大武裝部隊遵循六個步驟，即啟動、定位、概念開發、決策計劃制定和計劃審查。一般來說，規劃包括 "規劃和安排完成特定COA所需的詳細任務；將任務分配給不同的部隊；分配合適的地點和路線；刺激友軍和敵軍的戰斗損失（減員）；以及重新預測敵方的行動或反應。

雖然規劃需要考慮到人工智能系統在軍事行動中的使用，但人工智能最有可能被用于規劃本身。用于軍事規劃或與之相關的人工智能應用是ISR系統、規劃工具、地圖生成機器人，以及威脅評估和威脅預測工具。 與規劃有關的進一步人工智能應用可能包括大數據驅動的建模和兵棋推演。例如，美國陸軍為其軍事決策過程（MDMP）開發了一個程序，該程序采用 "高層次的COA"（即目標、行動和順序的草案），并根據這個總體草案構建一個詳細的COA，然后測試其可行性。這表明，人工智能可以發揮各種功能，從COA提議到解構和測試。

人工智能應用可能會對計劃產生強烈影響。規劃軍事行動是一個緩慢而繁重的過程，它依賴于對 "結果、損耗、物資消耗和敵人反應 "的估計。它涉及到對特定情況的理解、時空分析和后勤問題。然而，有限時間和勞動力限制了可以探索的選項數量。此外，預測可以說是"作戰指揮官最棘手的任務之一"。只要能提供足夠數量和質量的數據，人工智能在預測的質量和速度上都可能會有出色的表現。數據分析能夠進一步處理比人類計算更多的信息，最終減少"戰爭迷霧"。由于人工智能程序可以將行動分解為具體的任務，然后相應地分配資源，預測敵人的行動，并估計風險，因此人工智能的使用將提高決策的總體速度和準確性。增加可考慮的COA數量將進一步使規劃過程得到質量上的改善。

然而，使用人工智能進行規劃也有潛在的弊端。由人工智能驅動的更快規劃所帶來的戰爭速度提高，可以說會減少決策者的（再）行動時間，這可能會損害決策的質量。還有人質疑，人工智能驅動的規劃是否會"導致過度關注指揮分析方面，通過書本和數字削弱了軍事指揮決策的直覺、適應性和藝術性"。指揮官和其他軍事人員也可能變得過渡依賴技術，使他們變得脆弱。剩下的一個挑戰是產生足夠的相關數據，讓人工智能規劃系統正常工作并產生有意義的結果。

人工智能系統將執行規劃任務以及協助軍事人員，但它們可能不會根據這些計劃做出適當決策。事實上，有人認為，人工智能系統難以完成與指揮有關的任務，如設定目標、優先事項、規則和約束。因此，人類的判斷對于這些任務仍然是必要的。人工智能寧愿執行控制任務，并最終彌補軍事人員的認知偏差。然而，隨著新版本的C2（部分）納入人工智能，觀察家們質疑是否清楚誰將擁有跨領域的決策權，人類在這種架構中會和應該發揮什么作用，以及技術是否準備好進行大規模開發。

當強大的人工智能系統被用于軍事規劃時，規劃和決策之間的區別可能會變得模糊不清。與人類因軍事行動的高速發展而無法正確跟蹤事件進程的風險類似，將規劃任務更多地委托給人工智能可能意味著指揮官和規劃者不再能夠理解或追溯系統如何得出結論。同樣，指揮官可能會因審查眾多擬議計劃或COA的任務而被壓垮。人工智能生成的方案也可能意味著更高的復雜程度。因此，人工智能可以被用來消化信息，只向指揮官提供最相關的內容。然而，這可能會導致對人工智能的進一步過度依賴。因此，強大的人工智能系統，或系統簇（SOS），將需要一定程度的可預測性和透明度。

總之，與人工智能的其他軍事應用相比，至少在中短期內，人工智能可能會對規劃產生最重大的影響。由于規劃是極度時間和資源密集型的，人工智能系統可以導致速度、精度和質量的提高。這可能會對軍事行動和戰爭產生重大影響，因為有人認為，軍事競賽的贏家是那些在觀察、定位、決策和行動（OODA環）中工作最快的人。一個進一步的影響是，規劃的自動化導致了軍事決策的（進一步）合理化，包括人員傷亡的合理化。另一個后果是對人力的需求減少。然而，規劃方面的人力需求減少并不意味著基于軍事規劃決策的人力判斷需求減少，特別是在價值觀和直覺仍然是規劃的核心內容情況下。

4. 交戰規則與人工智能

交戰規則(ROE)用于描述軍事力量部署的情況和限制。交戰規則可采取多種形式，包括執行命令、部署命令、作戰計劃和長期指令。無論其形式如何，它們都對 "使用武力、部隊的位置和態勢以及使用某些特定能力 "等進行授權或限制。交戰規則有共同的要素，如其功能和在作戰計劃中的地位，以及其他基本組成部分。交戰規則通常是 "軍事和政治政策要求的組合，必須受到現有的國際和國內法律參數約束"。因此，其要素和組成部分反映了軍事行動、法律和政治要素。通用的交戰規則和模板文件，如北約的MC362/1和Sanremo交戰規則手冊，可以作為交戰規則起草者的基礎或靈感，而這些起草者通常是軍事法律顧問。雖然交戰規則一般不會分發給所有低級軍官，但士兵們經常會收到含有簡化的、基本版本的交戰規則記憶卡。

交戰規則是與軍事力量部署和武力使用有關的更大監管框架的一部分。因此，它們與其他類型的軍事指令相互作用，特別是目標選擇和戰術指令。目標定位指令提供了關于目標定位的具體指示，包括對目標的限制和盡量減少附帶損害。戰術指令是 "針對整個部隊或特定類型的單位或武器系統的命令，規定在整個行動中執行特定類型的任務或在行動中限制使用特定的武器系統。雖然交戰規則不是必不可少的，但它們可以為部隊及其成員提供更具體和細微的指示。

交戰規則是確定如何使用人工智能以及在哪些條件下可以在特定情況下應用的適當工具。交戰規則——或相關的行為規則——可以為人工智能的各種軍事應用設定參數，從而將特定的政治、軍事、法律和道德考慮以及來自更高組織或規范梯隊的限制，如條令或國際法律義務，轉化為具體指令。因此，ROE可以代表一個行動框架，被編入AI系統。例如，ROE可以確定一個地理區域或某個潛在任務的清單，系統被授權采取行動。在這些限制之外，他們將不會對處理過的信息采取行動。時間或其他限制，如預先設定的允許（不）與特定目標交戰，也可以由ROE定義。同樣，ROE可以預見一個系統需要標記的意外事件或問題。在這種情況下，有些人提出，人工智能可能會根據環境或其編程的任務來選擇應用哪種ROE。

ROE也可以定義人類和人工智能系統在特定任務中的互動。特別是，ROE可以確定指揮官或操作員在部署期間需要如何監測和控制該系統。由于對人類控制的需求可能會根據歸屬于人工智能系統的具體任務以及各自的背景和行動而有所不同，人工智能的ROE可以定義某些類型的行動或階段的自主性水平。ROE可以進一步處理或參考其他來源，如手冊和指令，關于如何實施各種形式的人類控制，如直接、共享或監督控制。重要的是，ROE可以限制指揮官或操作人員的權力，這可能迫使他們在指揮系統中參考上級。這可能是軍事行動中關于人機協作的ROE的一個重要作用，特別是在面對未曾預料到的情況或問題時，系統或其使用沒有事先得到授權。

當人工智能被用于傷害人和物或與之有關時，如在定位目標的情況下，ROE尤其相關。特別是當考慮到人工智能不能將道德或背景評估納入其決策過程時，在做出使用致命武力的決策時，人類的控制和判斷應該是有意義的。如上所述，大多數公開的政策在原則上確立了這種監督，但很少明確其確切含義。交戰規則和指令可以填補這一空白。為此，可以為人工智能系統的操作者制定與目標定位有關的行為準則，或為此類系統制定ROE模式。

事實上，雖然到今天為止還沒有能夠在沒有人類授權的情況下攻擊人類目標的自主武器，但在目標定位方面，更加自主的系統將是一個大的趨勢。與目標定位有關的現有軍事應用是目標識別軟件，如可以檢測衣服下爆炸物的Super aEgis II，以及用于目標交戰的系統。美國人工智能制導的遠程反艦導彈（LRASM）被宣傳為能夠自主地選擇和攻擊目標，甚至在GPS和通信受阻的環境中，如深水和潛在的外太空。另一個值得注意的事態發展是，據報道，2020年3月在利比亞部署了一架土耳其Kargu-2無人機，據稱該無人機在沒有人類操作員授權的情況下跟蹤和攻擊人類目標。它的使用可能代表了一個重要的先例，即在人類控制非常有限的情況下使用人工智能系統進行目標定位。

由于需要對ROE進行管理，人工智能可以協助主管當局協調、實施并最終確定ROE。軍事、政治、法律和道德目標和參數需要由軍事人員提供--至少在初始階段。正如北約的MC362/1號文件和《圣雷莫ROE手冊》所說明的那樣，ROE的后續管理是一個系統的、反復的過程，包括將具體的權力賦予不同級別的指揮部，以及監測ROE的實施和遵守情況。隨著時間的推移，人工智能系統可能會學會緩解ROE內部和之間的摩擦，以及為其適應性提升效率。例如，盡管國際法的實質內容可能本質上需要基于價值的判斷，而這種判斷不應委托給人工智能系統，但界定哪些規則需要在哪些情況下適用并不是一個過于復雜的理性過程。為了避免改變現有法律框架的實質內容，這種功能要求任何用于管理ROE的AI應用不能侵犯歸屬的權力。

總之，ROE可以成為一個有用的工具，以具體和實用的方式指導軍事AI的使用。因此，它可以補充和執行上級的政策、法規和準則，從而使軍事、政治、法律和道德目標和原則轉化為具體行動。ROE的指導對于人機協作，以及定義和具體化與人工智能系統有關的人類控制和判斷，在目標定位方面尤其重要。人工智能的應用可以進一步提高ROE管理的質量和效率。雖然這可能有助于協助軍事人員，類似于人工智能應用于軍事規劃，但軍事人員需要對ROE的實質進行有效監督，即誰或什么系統在什么情況下可以使用武力。然而，如果人工智能能夠實現更廣泛的、更細微的、更快速的交替性ROE，確保這種監督可能會變得具有挑戰性。

5. 作戰命令與人工智能

規劃和實施軍事行動的最具體的工具是命令。例如，北約和美國陸軍將命令定義為 "以書面、口頭或信號的方式傳達上級對下級的指示"。雖然有不同類型的命令，但它們一般都很簡短和具體。命令可以是口頭的，也可以是圖形的，還可以是疊加的。它們必須遵守法律以及上級的軍事文件和文書。另一個經常使用的術語是指令，它被定義為 "指揮官下達的命令，即指揮官為實現某一特定行動而表達的意愿。

從軍事參謀人員到人工智能系統的指令將采取系統初始開發的形式，有關任務目標和限制的參數編程，以及操作人員在操作期間的輸入。人類和人工智能系統之間的這些互動形式可能會履行傳統上歸屬于命令的功能。雖然人工智能系統的開發和操作，特別是機器學習，有其特殊的挑戰，但測試表明，機器并不存在不服從命令的內在風險。由于在操作過程中人的輸入等于人對系統的控制，如果一個系統能夠根據適當的學習自主地調整其行為，這一點就特別重要，現在正在開發防止系統在沒有人類輸入下采取行動的保障措施。例如，美國國防部3000.09指令規定，致命性武器系統的編程方式必須防止其在未經人類事先批準的情況下選擇和攻擊目標，特別是在失去通信的情況下。

人工智能和操作人員之間具體的互動形式仍在繼續開發。美國陸軍實驗室設計了一種軟件，使機器人能夠理解口頭指示，執行任務，并進行匯報。會說話的人工智能現在也被開發出來，以實現操作員和系統之間的口頭對話。這種互動使系統能夠要求其操作者進行澄清，并在任務完成后提供更新，以便士兵在工作中獲得最新的信息。諸如此類的應用可能使軍事人員更容易與人工智能合作，并減少操作員對人工智能控制的學習曲線。然而，人工智能應用也可以支持指揮官下達命令和指令的任務。人工智能尤其可以用來提高通信系統的穩健性和容錯性，這顯然可以使命令的傳輸更加安全。

雖然人工智能系統可能不會被委托正式發布命令，但是類似的動態可能會出現。對于人工智能系統之間的互動，命令是沒有必要的，因為系統只是作為數字應用網絡的一部分交換信息。關于對軍事人員的命令，武裝部隊似乎不可能接受人工智能系統向其成員發出指令。然而，由于人工智能系統可能會以越來越高的速度和復雜性提出行動建議，作為人類決策的輸入，軍事人員可能不會質疑這些建議，沒有時間批判性地評估它們，或者根本無法理解系統如何得出結論。如果他們還是以這些建議為基礎采取行動，這種對系統輸入的過度依賴可能意味著系統事實上向人類發布命令。還有可能的是，通過信息技術接收指令的較低層次的操作員和士兵可能無法知道某個命令是由人類還是人工智能系統創造的。為了排除這種結果，軍事條令和指令需要建立與命令有關程序的透明度。

總之，在軍事行動中，正式的命令很可能與控制人工智能無關。然而，命令和指令的傳統概念可以幫助分析、分類和發展人工智能系統和人類操作員之間的未來互動。在這種情況下，卡爾-馮-克勞塞維茨提出的管理方法和任務型戰術（Auftragstaktik）之間的傳統區別表明，人類對人工智能系統的投入，即人工智能系統的開發、編程和操作控制，可以根據對執行任務細節的程度來進行分類。鑒于人工智能的特質，我們有理由認為，當人工智能系統被賦予高水平的自主權，類似于任務型戰術時，將對武裝部隊最有價值。同時，人類在行動中的投入將是非常精確的，起到管理作用。然而，最重要的是，這又回到了上文討論的可以授予 AI 系統多少自主權的根本問題。

結論

人工智能有可能影響所有領域和大規模的軍事行動。轉變的程度主要取決于未來的技術發展。然而，這也取決于武裝部隊將賦予人工智能的作用和功能。從這兩個因素中可以看出，人工智能與準備和開展軍事行動的主要工具之間存在著動態的相互關系。一方面，人工智能的引入將影響到這些工具以及軍事行動的準備和實施。另一方面，這些工具在監管和使用人工智能方面發揮著重要作用。這種相互關系是動態的，因為它很可能隨著技術的發展、部隊對人工智能系統的經驗、組織文化和社會價值觀的變化而變化。

上述內容討論了人工智能與準備和執行軍事行動的主要工具之間的相互關系，而其中核心潛在的問題是人類操作員與人工智能系統之間的相互作用。在戰略方面，國家的官方文件證明，獲得和運用人工智能具有戰略意義。人工智能將可能支持軍事戰略，特別是預測和規劃。戰略中的人為因素可能仍然至關重要，因為戰略依賴于本能和價值觀，但軍事人員有可能過度依賴人工智能。對于軍事條令，人工智能的作用可能僅限于評估和協助修訂條令。條令在決定武裝部隊的目的、價值觀和組織文化方面的功能表明，它將在確定武裝部隊如何看待人工智能系統并與之互動方面發揮重要作用。

人工智能將極大地幫助軍事規劃，特別是基于人工智能高速和精確地處理復雜和大量數據的能力。因此，即使人工智能系統不會被委托做出決策，軍事規劃人員和指揮官也有可能過度依賴他們的分析和建議，尤其是在時間壓力下。因此，人工智能支持決策和人工智能作出適當決策之間的界限可能會變得模糊不清。關于ROE，盡管人工智能可以支持ROE的管理，但后者主要是一個適當的工具，以具體的方式為具體的任務劃定人工智能的使用。這尤其適用于人機合作和人對人工智能應用的控制。在軍事命令方面，人工智能系統可能會大大協助指揮和控制，但不會被委托發布命令。然而，在實踐中，可能很難區分由算法發布的命令和由指揮官發布的命令。這可能會導致人工智能支持和人工智能決策之間的混淆，類似于規劃的情況。

因此，如果人類操作員和人工智能系統之間的交互，是人工智能與準備和執行軍事行動的主要工具之間動態相互關系的核心潛在問題，那么無論是技術發展還是工具適應性都需要特別注意適當的人類與人工智能的交互。可以預計，技術進步將主要塑造未來的人機協作模式。軍隊結構、標準和流程可能會跟隨技術發展而相應調整。然而，關鍵是要積極主動地界定基本原則、價值觀和標準，而不是簡單地適應技術發展，成為路徑依賴或面臨意想不到后果。

畢竟，關注適當的人與人工智能互動不僅是道德和法律的必要條件，也是通過引入人工智能有效提高軍事行動的必要條件。因此，對人工智能和軍事行動的進一步思考和研究，以及對人工智能和戰略、條令、規劃、ROE和命令的進一步思考和研究，應該側重于人機互動，因為這仍然是人工智能戰爭最緊迫的挑戰。這可能有助于在人工智能影響工具和這些工具管理軍事人工智能之間找到并確定一個適當的平衡。

人工智能是空中力量的一個強大推動力，但它的潛力還沒有被完全釋放與實現。只要承認其局限性并進行適當的管理，人工智能就有可能極大地改善空軍在不同戰爭層次上的規劃和決策過程。有助于簡化人工智能的使用并允許盡可能精確地利用最多數據的新投入將提高采用人工智能的潛力。從長遠來看，人工智能在聯合層面可能被證明是最有用的，因為它可以從每個部隊組成部分可以提供的大量數據和信息共享中受益。然而，在戰爭中擴大使用人工智能存在著復雜的挑戰和風險。為了建立一個未來的方向，需要考慮到人工智能在技術和人類用戶層面上的基本限制。

引言

當下人工智能（AI）的驚人發展并不總是能引起軍事飛行員群體的興趣。然而，最近人工智能與有經驗的戰斗機飛行員的空戰模擬引起了廣泛的關注（Ernest等人，2016）。在這些模擬中，人類飛行員被他們的人工智能對手擊潰。飛行員和許多其他行業一樣，最終會因為人工智能的進步而消失，這一觀點因此得到了越來越多的關注（Pashakhanloun，2019）。盡管人工智能加速發展，然而迄今為止，人類飛行員在空戰和領導空中力量投射方面的作用沒有什么變化。人類飛行員并沒有被取代，而是逐漸被允許在駕駛艙內積累人工智能的好處，就像駐扎在總部和空中作戰中心的空軍軍官一樣。

只要承認其局限性并加以適當管理，人工智能就有可能大大改善空軍的信息力量和損耗能力，以支持不同級別戰爭的規劃和決策過程。在評估人工智能在空中力量使用戰略的多個層面時，空軍領導人必須在關鍵的兩難問題上找到明確的方向。可以為人工智能開發哪些戰術、作戰或戰略應用？與其他戰爭相比，人工智能的使用是否更適合于特定級別的戰爭？我們如何將人工智能融入我們的戰爭方式？本文將在考慮人工智能的未來發展方向之前，探討與人工智能在經典戰爭層面的使用有關的一些基本挑戰，最后，討論擺在面前的關鍵相關限制和危險。

戰術層面的AI

從一個作者到另一個作者，對人工智能（AI）的定義有很大的不同。法蘭西共和國官方雜志》將人工智能定義為 "一個理論和實踐的跨學科領域，旨在了解認知和思維的機制，以及通過硬件和軟件設備對其進行模仿，以協助或取代人類活動"（2018）。基于這一定義，我們可以將人工智能理解為一種計算技術，它通過利用不斷擴大的可用數據量、不斷增長的計算能力以及軟件設計的進展來解決問題。人工智能的應用是多方面的，幾乎影響到所有領域。人工智能可以簡化行政任務。它可以提高機群維護的性能。它可以優化導彈的制導系統。

然而，正如邁克爾-C-霍洛維茨（Michael C. Horowitz）所指出的，人工智能不是一種武器（霍洛維茨，2018）。它是一個推動者，更類似于電力或內燃機等發明，而不是作戰坦克或戰斗機。現在，越來越多的軍事參與者正在將人工智能引入軍事行動，主要集中在戰術活動上。以色列是這一領域的先驅之一，最近在聯合行動中利用了三種人工智能的能力--《煉金術士》、《福音》和《智慧的深度》（Antebi，2022）。《煉金術士》利用戰術和行動數據，通過手持平板電腦提醒部隊可能的攻擊。《福音》為威脅識別提供建議，操作者必須驗證并決定適當的反應（Ahronheim, 2021）。據報道，這一應用節省了使用現有方法實現相同結果所需的一年的努力。最后，《智慧深度》能夠生成有史以來最全面的地下隧道地圖。

戰役與戰略層面的AI

人工智能在改變戰術層面的戰斗空間方面已經顯示出成果，但在更高的戰爭層面也有潛在的優勢。然而，由于戰略、作戰和戰術層面的戰爭需要不同類型的考慮和推理，人工智能的潛在應用和可獲得的結果也相應地有所不同。

根據克勞塞維茨的說法，戰略必須削弱并最終打破對手的意志。然而，衡量或量化戰略的這一目標并不容易實現。雖然軍事行動對對手造成的損害可以削弱他們的決心，但對于意識形態、政治或心理驅動的對手來說，這并不總是真的。戰爭不能簡化為一系列簡單的邏輯行動和可預測的結果，作為一種人類活動，創造力、驚喜、欺騙和心理因素都會發揮作用（Payne, 2021）。

人工智能無法探究戰爭的心理因素，也無法理解為什么戰場上的失敗并不一定意味著放棄戰斗意志。就像用于體育的軟件不能畫畫、走路，更不能預測比賽中發生的事情一樣，人工智能不能解決涉及人類的復雜互動所帶來的問題。人工智能將無法預測軍事行動中經常遇到的人類創造力和意外或欺騙因素，更不用說為其提供解決方案。人工智能的這些局限性的解釋是，能夠與人類的認知能力相匹配甚至超越的強人工智能目前并不存在。

• 人工智能將無法預測軍事行動中經常遇到的人類創造力和意外或欺騙因素，更不用說為它們提供解決方案了。

人工智能將越來越多地參與到從規劃階段到執行空戰的行動中，但空軍反而需要依賴狹義的人工智能。狹義人工智能僅限于特定的任務和角色，它能以超過人類能力的水平完成這些任務和角色。表8.1比較了窄人工智能和強人工智能中的屬性，后者仍處于發展的早期階段。雖然狹義的人工智能可以支持戰術活動，但它主要被證明不足以將這些聚集成行動層面上的決定性優勢。這樣的觀察在各種嘗試中都有記錄，例如美國海軍為海軍指揮官開發作戰層面的人工智能系統的努力（Aycock和Gleney，2021）。

表 8.1：狹義 AI 和強 AI 的屬性比較

如何最好地利用新興技術還有待觀察，因為僅僅擁有技術是不夠的。在第二次世界大戰中，盟國擁有的坦克相對多于德軍，但由于德國軍事理論的力量，他們的軍隊遭受了關鍵的失敗。人工智能已經成為美國和中國之間競爭技術優勢的核心問題，讓人想起冷戰時期的動態。然而，無論系統的技術有多先進，軍隊使用人工智能的結果將取決于它與之結合的理論和概念。人工智能解決方案必須根據軍事環境的具體限制和特點進行調整。因此，必須通過同時發展和整合理論和作戰概念來全面發展人工智能的能力。

同時，人工智能可以以更有限的方式加以利用，以深入研究特定設備的工作原理或關注對手系統的漏洞--這是約翰-A-沃頓（1995年）著名的 "重心 "概念之一。人工智能也開始被用于影響和心理行動（PSYOPS），這已經成為軍事活動的一個重要組成部分。在現代沖突中，各方都可以歪曲、操縱和傳播錯誤信息。人工智能在這種情況下有很多用途，并能以各種方式支持進攻性和防御性的PSYOPS。按照同樣的思路，人工智能將在信息戰中發揮更大的作用，在信息戰中，信息系統代表了所有各方的關鍵重心。

也許人工智能在作戰層面上最重要的用途在于其優化情報和提供預測分析的能力，使空軍能夠更好地預測威脅和環境的變化。特定的人、特定的關鍵詞和其他模式的存在可以提前提供有關對手意圖和未來計劃的信號。考慮到盡可能多的現成信息，如視頻、文本和圖像，這些信息可能沒有被有效融合和利用，人工智能可以產生強大的結果。通過主動情景規劃的收集和監測（COMPASS）計劃是一項雄心勃勃的努力，旨在通過結合幾個學科，如博弈論、建模和模擬，實現這一目標（Tucker，2018）。

同樣，人工智能可以通過支持對不同建議和行動方案（CoA）的評估和測試，在高層規劃中發揮寶貴的作用。通過對敵對勢力、他們的理論、能力、后勤以及可能的領導人的指揮風格進行建模，人工智能可以幫助指揮官和作戰計劃人員衡量哪些行動方案可能會產生最理想的結果。更進一步說，通過改變建模參數，人工智能可以豐富對假設的思考，突出文化偏見或新的見解。人工智能的應用可能有助于引起人們對被忽視的考慮，甚至有助于開發新的思考挑戰的方法。如圖8.1所示，人工智能在制定行動方案的不同階段有明顯的潛力，可以做出有價值的投入。

圖 8.1：制定行動方案的抽象流程圖

人工智能的未來發展方向

使用人工智能的行動結果和經驗表明，這項技術可以通過加強情報、部隊保護和協助決策來支持戰術活動的重要方式。本文所涉及的簡要意見為我們提供了對人工智能未來潛力的一瞥。越來越多地將人工智能引入國防，推動了始于20世紀末的軍事事務革命（RMA）。與20世紀90年代一樣，其基本目標仍然是整合新的智能技術，通過揭開 "戰爭迷霧 "來主導戰斗空間。

戰斗空間傳感器的增加加強了信息的收集，這些信息必須被處理、合并，并分配給部隊成員，以建立多重殺傷鏈。隨著仍處于早期階段的 "馬賽克戰爭 "概念的實現，這一趨勢將變得更加明顯（Clark和Schramm，2020）。人工智能與多領域作戰（MDO）結構高度相關，它將聯合能力匯集在一起，使早期發現對手的弱點并協調針對這些弱點的同步效應成為可能。人工智能使其有可能通過預測或識別甚至是暫時的弱點，例如，對手的雷達故障，并觸發快速行動和效果以利用時間敏感的目標。

作為一個系統的設計，人工智能的潛力被放大了。在思考空中力量的未來時，這方面出現了兩個有希望的方向：無人機群和忠誠的僚機。在無人機群中，微小的自主系統將像蟻穴一樣運作，其中每個單獨的元素不一定是高度專業化的，但結合成一個系統，提供了一種類似于集體的智能。由于一個元素抵消了其他元素的技術限制，在同步工作中，這些蜂群可以執行復雜的功能，如探測、欺騙和打擊。無人機群被視為未來飽和敵方防空系統的基本手段（Hamilton和Ochmanek，2020）。

另一方面，忠誠的僚機概念則更加雄心勃勃。目前正在開發的第六代飛機被設想為與自主無人機一起運行，協同執行任務。這些僚機將為它們的載人同行提高態勢感知和生存能力，并協助飛行員更快地做出更好的決定。忠誠的僚機將可以適應反映特定任務目標的角色--例如具有電子戰或打擊功能。在過去一個世紀里，領先的空軍利用質量擊敗對手的方法基礎上，忠誠的僚機將重新定義人機合作的動態，并導致未來空軍結構的根本變化。

人工智能相關的限制和危險

如果不強調等待用戶的限制和危險，對軍隊使用人工智能的任何概述都是不完整的。人工智能不是一個神奇的推動者。像任何新興技術或新技術一樣，人工智能將需要發展和測試--反映出未來需要大量投資。人工智能在軍事行動中的應用不是一個簡單的運行軟件的問題。人工智能需要各種投資流，以開發所需的系統、有利的基礎設施，當然還有人的因素，這將使其得到最有效的使用，并保護其免受復雜對手的攻擊。

• 人工智能需要各種投資流，以開發所需的系統、有利的基礎設施，當然還有人的因素，這將使其得到最有效的使用，并保護其不受復雜對手的攻擊。

必須創建新的數字架構、硬件和支持性基礎設施，以利用使人工智能成為可能的 "大數據"。將需要開發戰斗云來存儲數據，并且有必要確定數據和數據系統的性質和要求，以及適當的政策和治理框架。戰斗云和服務器的定位帶來了自己的挑戰--它們必須靠近用戶，但它們應該在空中還是在地面？無論答案是什么，它必須保證總部、指揮部和邊緣作戰人員之間的連接。

在當代軍事沖突中，各方都明白對連接和通信流的關鍵依賴。例如，在烏克蘭沖突期間，俄羅斯軍方瞄準了屬于商業電信服務提供商Viasat的服務器和數據交換節點，以阻止烏克蘭部隊的通信（Burgess, 2022）。事實上，人工智能有各種隱患，了解并能針對這些固有的局限性和脆弱性的對手可以利用這些隱患來損害其用戶的利益。例如，深度學習技術取決于所提供信息的質量和種類，以獲得準確的結果。

這就是為什么文化和無意識的偏見，限制了信息量，會導致操作員在與人工智能合作時做出錯誤的判斷。在人工智能所依賴的人機關系中，信任問題也會出現。如果人工智能比飛行員或受支持的指揮官更有創造力，并提供不尋常的方法來實現任務目標，這可能會引起懷疑和混亂，這在高速戰斗中是不可接受的。如果以同樣的方式產生的行動方案被推薦給盟友或聯盟伙伴，缺乏合理的推理會放大負面的后果。

另一方面，人類自然傾向于相信，當提供一個似乎連貫的結果時，機器是優越的。然而，過度自動化的風險會導致失常。在決策者處于高壓狀態下（例如等級或時間），通過依賴人工智能來指定目標，可能會造成錯誤，導致災難性的后果。

就像任何技術一樣，利用眾所周知的盾牌和劍的辯證關系，人工智能將不可避免地引發反戰略，并可能比預期更快地產生威脅。例如，北約空軍已經開發了自主無人機的進攻能力，卻沒有充分考慮到防御對手使用的類似系統。競爭對手在顛覆性技術時代發揮其能力的威脅有時被忽視，空軍需要告誡不要在人工智能方面重復類似的錯誤。這一點尤其重要，因為很多人工智能是利用商業上可獲得的或開放的軟件開發的，這使得對手有各種途徑來應對反戰略。

結論

人工智能是空中力量的一個強大的助推器，但它的潛力還沒有實現。有助于簡化人工智能的使用并允許盡可能精確地利用最多數據的新投入將提高其在不同級別戰爭中的應用潛力。從長遠來看，人工智能可能被證明在聯合層面上是最有用的，在那里它可以從每個部隊組成部分提供的大量數據和信息共享中受益。空軍領導人將需要決定可以給機器多大的自主權，以便在不影響戰略的情況下利用其品質。

• 人工智能可能被證明在聯合層面上最有用，它可以從每個部隊組成部分提供的大量數據和信息共享中受益。

空軍中通過壓縮時間周期來加快行動節奏和進程的爭奪，決不能成為目的本身。戰爭的目的最終是為了實現政治效果，而不是在最短的時間內開展行動。就目前而言，人工智能在軍事行動中的使用仍然不可能在三個經典的戰爭層面上持續進行。也不可能將人工智能置于軍事決策過程或戰斗空間行動的中心。為了改變這種情況，需要在技術和概念上取得重大進展，以及思維方式的轉變。當這種情況發生時，關于飛行員將消失的預測很可能很快就會實現。

人工智能（AI）在國防領域的使用帶來了重大的倫理問題和風險。隨著人工智能系統的開發和部署，澳國防部將需要解決這些問題，以維護澳大利亞國防軍的聲譽，維護澳大利亞的國內和國際法律義務，并支持國際人工智能制度的發展。

這份報告《案例研究：國防中的倫理人工智能方法應用于戰術指揮和控制系統》是總理與內閣部（PM&C）、澳國防部和澳大利亞國立大學（ANU）3A研究所之間的科技（S&T）合作的產物。它使用《國防中的倫理人工智能方法》[1]來探討設想中的人工智能戰術指揮和控制（C2）系統的倫理風險，該系統整合了各種自主功能，以協助單個人類操作員同時管理多個無人駕駛車輛。

使用 "國防中的倫理人工智能方法 "對這一設想的C2系統進行分析，為三個利益相關者群體提供了關鍵的發現：澳國防部；人工智能技術開發者，以及那些尋求使用或迭代 "國防中的倫理人工智能方法 "的人。

對于澳國防部，該報告確定了關鍵的政策差距，并建議在以下方面采取行動。

• 對人工智能所做的決定和使用人工智能所做的決定制定一個問責框架

• 對操作員、指揮和系統開發人員的教育和培訓

• 管理支撐許多人工智能應用的數據，包括其收集、轉換、存儲和使用。

如果不采取行動，這些差距使澳國防部容易受到重大的聲譽和業務損害。

對人工智能技術開發者的其他關鍵發現涉及到有效性、整合、授權途徑、信心和復原力等主題。總的來說，這些發現鼓勵開發者考慮最有效的系統或算法（例如，在速度或準確性方面），是否一定是為決策者提供幫助的最佳選擇。在某些情況下，與規范性決策更一致的效率較低的算法可能更合適。此外，顯然需要研究哪些信息是做出好的判斷所必需的（特別是在問題復雜、背景重要的情況下）；以及應該如何快速傳達這些信息。通過考慮作為分析的一部分而開發的七種假設的道德風險情景，可以進一步探討這些關鍵的發現。

對于那些尋求應用或迭代《國防倫理人工智能方法》的人來說，報告建議開發更多的工具，以幫助從業者確定對其特定需求具有最大相關性和效用的領域；以及一套全面的定義，以幫助應用該方法。

在過去的幾年里，人工智能（AI）的采用非常迅速，其使用也很廣泛。公共和私人部門的組織正在將人工智能用于廣泛的應用。在國防部門，對人工智能對國家安全的潛在影響的認識正在通過對后勤、半自動和自主武器、ISR（情報、監視和偵察）、指揮和控制以及網絡和信息行動的大量投資得到加強。畢竟，人工智能將戰爭的性質從信息化的方式轉變為智能化的戰爭方式。像美國和中國這樣的國家已經在其現有的防御框架中實施了一些形式的智能化戰爭。印度現在正以其新興和顛覆性的技術進步，向強大的軍民融合過渡。這篇背景文章探討了可能通過人工智能及其應用進行的智能化戰爭的所有方面，以及人工智能為國防帶來的挑戰和機遇。

印度的人工智能實施及其路線圖

印度的人工智能在軍事領域的實施處于起步階段；然而，其商業化的建立正以其在醫療保健、農業、教育、智能城市和基礎設施以及智能移動和交通等各個領域的不同應用而發展壯大。NITI Aayog在2018年發布了關于人工智能的國家戰略，主要關注這些領域。2021年，它進一步提出了一份關于負責任的人工智能第一部分和第二部分的報告，其中討論了印度人工智能的發展、采用和人工智能生態系統的培育。它的重點是促進研究、勞動力的技能培訓和再培訓，促進采用人工智能解決方案和發展準則。該報告還提出了對負責任的人工智能管理的問責制、安全、隱私和數據安全的關注。Niti Aayog的人工智能卓越研究中心（COREs）將作為國際轉型人工智能中心（ICTAIs）的技術供給者，旨在為社會領域創造基于人工智能的應用。

• 印度在國防方面的人工智能研究由國防研究與發展組織（DRDO）領導，由人工智能和機器人中心（CAIR）負責。它的主要重點領域是人工神經網絡、深度學習、計算機視覺和態勢感知，包括以網絡為中心的行動和在龐大的戰場數據知識庫上運作的AIenabled系統。2019年，印國防部成立了一個高級別的國防人工智能委員會（DAIC），負責為國防中的人工智能應用提供戰略方向。其職能是在政府和行業之間建立伙伴關系，以部署這種基于人工智能的創新。一個由政府、軍方、學術界、工業界專業人士和初創企業代表組成的多利益攸關方工作隊，從國家安全的角度和全球范圍內研究人工智能的戰略影響。該報告闡述了印度在國防需求方面的人工智能發展，并就航空、海軍、陸地、網絡、核戰爭和生物戰等領域的國防人工智能能力提出了建議。鑒于這些發展，DAIC和國防人工智能項目局（DAIPA）獲得了1000億盧比的年度預算，專門用于人工智能支持的項目。它將包括開發一個數據管理框架，擴大數據中心的現有能力，建立一個便利的測試床網絡，并在所有國防培訓中心組織人工智能培訓課程。此外，它將與政府機構和行業合作準備政策，對社會和技術的濫用形成威懾。國防部的人工智能路線圖包括國防公共部門企業（PSU）承擔61個國防專用項目。國家任務組已經確定了12個人工智能領域，包括在印度軍隊中采用人工智能進行C4ISR。印度軍方已經與工業界和新技術創業公司合作開展了人工智能項目。

印度的人工智能能力

印度正在帶頭進行人工智能開發和采購，以加強其軍事基礎設施。印度人工智能軍事能力的一些例子包括用于ISR行動的人工智能機器人RoboSen，用于后勤支持的小型化便攜式行走機器人，具有認知能力的機器人，用于維護和維修部件，像黑黃蜂這樣的微型無人機，智能輪椅，以及CAIR的網絡流量分析（NETRA）系統，用于實時監控互聯網流量。印度的無人機能力包括Botlab Dynamics公司的蜂群無人機，HAL和NRT公司的空中發射靈活資產蜂群（ALFA-S），蜂群無人機，DRDO的Rustom 1。 印度海軍還計劃在關鍵任務領域整合基于人工智能的技術，并將INS Valsura作為大數據領域的卓越中心和關于人工智能和大數據分析的最先進實驗室。最近，2022年7月10日，在UDAAN（數字化、自動化、人工智能和應用網絡單位）的支持下，IAF在新德里的空軍站啟動了人工智能（AI）卓越中心。該中心配備了大數據和人工智能平臺，用于處理分析的所有方面，包括機器學習、NLP、神經網絡和深度學習。IIT-Hyderabad已經建立了一個關于自主導航和數據采集系統（TiHAN）的技術創新中心。DRDO的移動自主機器人系統（MARS）UGV和基于Arjun MK 1A戰斗坦克的UGV是正在籌備中的無人駕駛地面車輛，它們將配備120毫米火炮和本土地理信息系統（INDIGIS）。 印度國防部最近在GenNext人工智能解決方案的活動中展示了在過去三年中采取的人工智能舉措。為了促進國防部門的增長和發展，展示了iDEX初創企業技術，今年開始了第六屆國防初創企業挑戰。

本出版物是 "北約決策：大數據時代的承諾和危險"會議的成果，由北約盟軍指揮部轉型（ACT）、博洛尼亞大學和羅馬的國際事務研究所（IAI）組織。該會議于2020年11月17日在線舉行，是三個機構之間長期合作的一部分，它代表了ACT學術會議系列的第七次迭代。

執行總結

數字革命大大改變了我們生活的世界，提供了巨大的機會，但也使社會更加脆弱。技術使外部干擾更便宜、更快速、更全面：公民有可能成為信息戰的直接目標，一個社會的所有成員都可能以這種或那種方式成為沖突的一部分。從先進的武器裝備到指揮和控制，大多數與安全有關的領域都在經歷著深刻的變革，因為數據的可用性和傳輸量成倍增加。在這一背景下，本出版物探討了展望聯盟發展的三個相互關聯的方面：大數據和北約的組織挑戰；對盟國決策的混合威脅；人工智能在國防領域的采用和北約的作用。

大數據和北約的組織挑戰。將決策建立在比以前更多的信息基礎上，可能會導致復雜組織決策過程的真正革命，特別是因為這些信息將涉及現實的不同層面，而且會不斷地更新。除了巨大的信息量，大數據的另一個決定性因素是數據產生和處理的高速性。此外，這些數據通常會從不同的來源獲得，其可信度必須被仔細評估。最后，任何數據在決策過程的不同階段都可能具有不同的價值。所有這些特征都對那些旨在利用大數據減少其作戰中的不確定性的組織提出了具體要求。例如，巨大的數據量迫使人們獲得新的數據存儲技術，而高速度要求新的處理工具，可變的可信度和價值迫使組織制定新的分析方法。因此，任何尋求利用大數據的行為者都應該有明確的目標和定義明確的戰略，以劃定和實施其具體目標。

大數據的一個關鍵問題是為決策者提供與他們的目的真正相關的數據，而不僅僅是有趣。首席數據官和與數據相關的高級領導職位將在信息分析和實際決策過程中獲得至關重要的地位，但這些職位需要特殊的人才和工具組合，而這些人才和工具目前在許多大型組織中是稀缺的，尤其是在公共部門，在軍事部門更是如此。

另一個關鍵問題是，在工作中引入大數據分析的組織的決策過程中，正在出現集中化和分散化之間的矛盾。矛盾的是，雖然大數據應該促進廣泛的責任和戰術意識，但目前先進的數字化似乎與大型組織中明顯的向心力有關。這種向心力導致了低層人員的非責任化和選擇實踐的逐漸喪失。因此，在聯盟的決策中整合大數據是明智之舉，有利于分散所有權，并根據組織中不同部門的特點，為其設計不同的工具。此外，建立精心設計的、可靠的評估程序，以衡量組織創新和新決策過程執行的有效性，也會有所幫助。特別是，確定最初的失敗是特別重要的，以便從中吸取教訓，避免結構性問題。

對盟國決策的混合威脅。混合威脅是一個廣泛的類別，包括各種行為者、行動和目標。就行為者而言，由于其實際能力、意圖和最近的記錄，俄羅斯等大國可以被確定為最主要的威脅。

關于行動，信息在幾個方面是關鍵。它指的是大數據和人工智能，因為后者需要使用算法來學習前者，以期利用目標的漏洞。數字連接是用于在信息領域實施混合威脅的基本基礎設施。西方社會依賴虛擬世界的平臺，這些平臺可以成為潛在攻擊者的目標。由于全球網絡藐視邊界并限制國家管轄權，它們更難防御，并允許潛在的攻擊者在檢測和歸因的門檻下采取行動。混合威脅還得益于信息的空前速度和范圍。這在原則上并不新鮮，但它已經達到了改變游戲規則的水平。一方面，對北約及其成員國來說，管理這種大規模的信息流實在是令人望而卻步；另一方面，高速流通轉化為更快的行動節奏。

混合威脅可能針對各種目標，但特別令人擔憂的是可能導致社會分化、精英分歧和對外國行為體的偏見的進攻性行動。這些行動有可能影響不同層面的決策，甚至破壞民主國家的機構。因此，這些混合型威脅可能會破壞盟國的決策過程，反過來也會破壞北約的決策過程。決策者在制定應對混合威脅的措施時，尤其面臨著三個主要問題：

1）如何以非升級性的方式進行回應？由于混合型攻擊利用灰色地帶來制造模糊性，包括通過操縱檢測門檻和給予合理的推諉，決策者面臨著過度反應的風險。

2）如何民主應對？潛在的攻擊者可能會嚴重損害民主制度的決策過程，例如對遵守國內法和國際法施加壓力。

3）如何獲得公眾支持？由于混合型威脅通常被掩蓋或難以歸因，政策制定者還必須說服公眾輿論，使其相信威脅的存在。

人工智能在國防領域的應用和北約的作用。在討論人工智能對盟國軍隊和聯盟意味著什么時，應該解決一個基本問題：人工智能是一場技術革命還是技術演進的實例？不同的證據可以支持這兩種解釋。從政治角度來看，盟國可能很難迅速適應一場快速的技術革命。北約的方法，由于其程序的特點是共識，將不得不更加進化、細化和細微。無論如何，在未來不太可能看到人工智能為北大西洋理事會（NAC）或核規劃小組（NPG）做決定。這其中有心理、文化、組織、政治以及技術方面的原因。通往人工智能的旅程可能是相當麻煩的。例如，敏捷軟件開發能夠開發出優秀的軟件，但同時也需要不同的程序、組織結構和流程，涉及到組織的身份、使命和文化。

另一個熱點問題是關于人工智能的公私伙伴關系。這是美國和中國之間人工智能競賽的關鍵--可能會導致盟國相對于中國的劣勢--以及北約與從事人工智能和大數據的主要民用公司之間的關系。在盟國采用人工智能技術方面，還有一個根本性的需要，即確保在分散的情況下的互操作性。北約在歷史上一直是標準化進程中的一個重要角色，在這種情況下也可以這樣做。在這種情況下，可能需要一些創造性：例如，北約是否應該像提供空域管理或地面監視一樣提供云計算服務，即賦能者？聯盟是否可以像綜合防空和導彈防御那樣，設想對國家擁有的人工智能資產進行整合？這些都是重要的問題，然而，這些問題突出了一個事實，即國防是一個主權問題，大多數決定是由國家政府作出的，而不是由北約本身作出的。

聯盟可以在人工智能領域發揮突出作用。例如，北約可以建立一個人工智能冠軍，幫助盟國理解、采用和整合人工智能。這種冠軍可以從小型項目開始，旨在驗證解決方案的有效性，然后它可以幫助盟國進行培訓。這方面的一個關鍵、相關問題是教育和培訓。同樣，戰爭游戲、模擬和實驗的重要性也會增加，北約在這方面可以發揮作用，因為它是召集盟國軍事和政治機構的獨特途徑。

人工智能（AI）是一項具有廣泛用途的新興技術。《美國防戰略》強調了人工智能對軍事行動的重要性，以使美國保持對其近似競爭對手的優勢。為了充分實現這一優勢，不僅要在戰術層面，而且要在戰爭的作戰層面整合人工智能。人工智能可以最有效地融入作戰計劃的復雜任務，方法是將其細分為其組成部分的作戰功能，這些功能可以由狹義的人工智能來處理。這種組織方式將問題減少到可以由人工智能解析的規模，并保持人類對機器支持的決策的監督。

引言

人工智能是一套新興的、變革性的工具，有可能幫助軍事決策者。美國國家戰略將人工智能（AI）納入戰爭。《2020年國防授權法》11次提到了人工智能。國防戰略強調了利用人工智能和機器學習方面的商業突破的重要性。人工智能的軍事用途是保留國家安全的一個引人注目的方式。創造工具來支持戰術行動，如摧毀敵軍和從一個點導航到另一個點，具有顯著和可見的效果，使他們在資源有限的環境中在政治上可以接受。它們在訓練和測試方面的可重復性，使它們在采購過程中成為人工智能系統的快速贏家。然而，戰術行動的范圍和時間是有限的。僅在戰術層面上整合人工智能，忽視了在作戰層面上發生的決定性影響。

作戰，也就是實踐者將戰術行動轉化為戰略效果的層面，取決于領導者做出正確決策的能力。聯合部隊海事部分指揮官（JFMCC）的艱巨任務是制定計劃，將戰區戰略和聯合部隊指揮官（JFC）的目標結合起來，通過決定性的海軍交戰來塑造環境。在人工智能的快速認知能力的幫助下，JFMCC將能夠制定并更徹底地分析行動方案（COA）。這些品質對于未來的沖突是必要的。

人工智能必須在戰爭的各個層面進行整體集成，以充分實現其優勢。除了局部的、短期的戰斗，它還需要應用于主要的行動和戰役，涉及整個戰區的數月或數年。在戰爭的戰役（作戰）層面上的實施，放大了為實現戰略目標而進行的有序交戰和同步行動之間的協同作用。除了技術發展之外，行動上的整合將刺激政策和理論的建立，以使作戰人員有意愿使用人工智能。隨著使用人工智能的經驗的增加，其采用率也會增加。為協助海軍作戰計劃而實施的特定人工智能技術可能與那些用于計算射擊方案或在被拒絕的淺灘水域規劃路線的技術不同。然而，在作戰層面的接受度將推動戰術上的使用。

在JFMCC層面，人工智能系統網絡將為決策者提供決定性的優勢，將專注于作戰功能的獨立的人工狹義智能（ANI）單位統一起來將實現最顯著的好處。首先，人工智能解決方案比它們的通用人工智能（AGI）同行更適合于軍事問題的解決。其次，戰爭的性質促使有必要在作戰層面上整合人工智能。最后，雖然有許多方法可以整合，但沿著功能線這樣做會帶來最顯著的好處。不僅在技術意義上吸收人工智能，而且描述其在政策、理論和培訓中的使用，將使海軍能夠充分使用它，并在與我們的戰略競爭對手的競爭中獲得優勢。

如何在海戰領域整合人工智能？

目前人工智能在海上行動中的最佳應用是將復雜的海上行動問題分解成子問題，由人工智能來解決，并組合成COA建議。解決小問題的人工智能需要更少的訓練數據，有更直接的邏輯，并且可以連鎖起來解決更重要的問題。麻省理工學院人工智能實驗室前主任羅德尼-布魯克斯（Rodney Brooks）認為，創建動態環境的符號表示是困難的或不可能的。然而，特定任務的智能體可以利用足夠的傳感器數據智能地行動，更重要的是，可以連貫地互動。通過將簡單的活動連鎖起來，失敗的風險很低，更復雜的問題就可以得到解決。多個簡單的行動可以在低認知層平行運行，并將其輸出結合起來，為更高層次的復雜活動提供支持。這種結構的優點是允許軍事工程師開發和訓練人工智能，以首先解決可操作的問題。對人工智能開發者來說更具挑戰性的功能可以保留只由人類決定的方法，直到他們產生解決這些問題的專業知識。與其等待一個完整的系統，部分系統將提供一個臨時的邊際優勢。

鑒于人工智能可以通過將問題分解成更小的決策來最好地解決問題，問題仍然是如何劃分這些問題。重述作戰任務的一個模式是將它們分成作戰功能：指揮和控制（C2）、通信、情報、火力、運動和機動、保護和維持。這些作戰功能為開展有效行動提供了基礎。它們為一個行動提供了采用手段實現其目的的方法。因此，與決定如何實施這些功能以實現目標的決策者一起使用人工智能是很自然的。

如同應用于海上作戰戰爭，最低層的決策支持系統將由感知環境的活動組成：探測艦艇、飛機和潛艇；燃料水平；天氣；以及其他客觀的戰斗空間數據。通過將外部輸入限制在特定的、低層次的任務上，該系統將最大限度地減少對抗性例子或旨在消極操縱自動系統的數據的風險。中間層將把下層的輸出與作戰目標和因素結合起來，如時間、空間和力量的限制，以提供解決問題的方法和作戰功能。由于上層的對抗性數據注入的威脅較小，這些系統可以使用深度學習。深度學習是機器學習的一個子集，它不像其他形式那樣需要高度格式化的數據，但計算成本會更高，而且容易受到欺騙。深度學習將增加這一層的人類互動，并暴露出更復雜的關系。最高層將把C2流程應用于其他六個業務功能，以產生業務建議。中間層的每個功能人工智能將向其他功能人工智能和最高C2層提供建議。中間層的人工智能對復雜的數據和相鄰單位及C2功能的建議進行理解。

如果將中間層人工智能納入規劃和指導、收集、處理、分析和傳播的情報周期，將促進收集資產的更好分配。判斷對有限的收集資產的請求以滿足行動和戰術信息需求是JFMCC關注的一個問題。在收集計劃期間，人工智能可以使用已知的對手軌跡、地點、個人和組織來定義和優先考慮指定的利益區域（NAI）。在執行過程中，人工智能可以根據優先級驅動收集路線，就像企業用它來規劃送貨路線以減少勞動力、燃料和維護成本一樣。采集計劃者可以通過增加對手監視點的位置和范圍來減少反偵查的風險。在C2層面，指揮官和情報官員可以利用收集成果來證明更多的JFMCC收集資產和COA的修改。這種方法適用于其他功能。

人工智能可以在部隊部署不斷變化和對手存在不確定的環境中改善維持能力。相互沖突的要求使如何使用有限的后勤資產來滿足作戰人員的需求的決策變得復雜。后勤單位較低的生存能力促使人們決定是將它們帶入被對手防御系統拒絕的區域，還是將戰斗飛船引離目標。人工智能可以利用軍事和民用運輸的可用性、預先部署的庫存和供應商的響應能力來制定船舶和飛機需求的解決方案。企業利用人工智能準確預測需求，并分辨出影響運輸和倉儲的采購模式。維持型人工智能可以使用這個過程的一個變種，來計劃在高級后勤支持站點（ALSS）或前方后勤站點（FLS）的材料堆放。它可以決定如何以及何時使用穿梭船和站立船來運送到攻擊組。機器學習將使用燃料、食品和武器庫存、威脅環、戰備水平和維修時間來訓練維持人工智能。維持型人工智能可以提供比人類單獨完成的更有效的量化解決方案，并將其反饋給其他功能區和C2高層。

C2層將對來自下層的決定進行仲裁，并提供一個統一的建議。就像一個軍事組織的指揮官一樣，它將把其副手AI的建議合并起來。人工智能過程的早期階段使用傳感器數據和其他客觀信息來確定指揮官的方向；決定行動方案需要建立對戰斗空間的理解，這是一種更高層次的欣賞。戰斗空間的可變性和模糊性將使這一層的人工智能元素最難開發。最終，該系統將作為一個可信的智能體，壓縮指揮官負責的信息量。壓縮的信息減輕了時間有限的決策者工作時的疑慮負擔，使她能夠向下屬單位發出更及時的命令。

圖1說明了基于這些原則的系統的擬議架構。以對手預測為例，許多單一用途的ANI將在最低層結合原始傳感器和單位報告數據。它將評估敵方單位的最可能位置。公司分析評論、社交媒體和論壇發帖的情緒，以確定產品的滿意度。同樣地，這個系統將通過公開的言論和秘密的報告來確定對手的意圖。它將評估當前和歷史天氣模式，以評估氣候對敵人行動的影響。這三個輸入和其他信息將被功能情報ANI用來形成對敵方COA的評估。同樣，火力節點將使用敵人的組成、JFC的優先級和預測的彈藥可用性來產生目標指導。中間層節點將橫向傳遞他們的評估，以完善鄰近的建議，如部隊保護水平。獨立的功能建議也將直接反饋給C2層，以創建整體行動方案。

圖1. 海上人工智能系統的擬議架構

建議

首先，利用聯合人工智能資源的優勢，針對海軍的具體問題修改標準組件。擅長開發軍事人工智能系統的工程師的稀缺性將限制新系統的開發。美國防部的人工智能戰略具體規定了建立通用的工具、框架和標準，以便進行分散的開發和實驗。使用這些現成的組件，為人工智能決策網的所有子系統創建低級別的系統和標準接口。將海軍的資源集中于采購和實施用于海事具體決策的中層和高層系統。避免技術上令人著迷但無效的解決方案，并通過將職能領域的專家與設計團隊相結合來保持解決海事問題的目標。

第二，創建并維護可通過機器學習攝入的作戰數據數據庫，以訓練海軍人工智能。實施能夠在海上作戰中心（MOC）讀取和集中匯總基本作戰數據報告的技術和工藝，如燃料狀態、導彈裝載量。開發記錄和定性評分作戰決策結果的方法，如對手態勢的變化、傷亡修復率和公眾對行動的反應。將輸入與作戰決策和結果聯系起來的數據庫將加速開發符合現實世界標準的系統。

第三，將人工智能的使用納入政策和條令。條令應該編纂人工智能可以被整合到戰爭戰役層面決策中的領域。明確地說，關于情報、行動、火力、后勤、規劃和通信的海軍作戰出版物應說明人工智能在決策過程中產生優勢的地方和方式。描述海上聯合行動的聯合出版物應明確說明如何將JFC的要求解析為JFMCC的AI系統。如果國防部和海軍的政策對指揮官因整合人工智能的決策建議而產生的責任量進行了定性，那么他們在使用人工智能時就可以采取經過計算的風險。讓指揮官和作戰人員掌握使用人工智能的戰術、技術和程序將加速其在艦隊中的應用。

前言

美國陸軍未來與概念中心 未來戰爭部主任 克里斯-羅杰斯上校

歷史上的戰爭包含了大量改變戰爭性質的工具和技術的例子。自最初研究多域作戰（MDO）以來，美國陸軍發現人工智能是一種新興技術，有可能改變戰爭的特點，也許也會改變戰爭的性質。使用人工智能（AI）解決方案來緩解軍事問題是過去兩年未來戰爭研究、檢查和學習的一個反復出現的主題。作為2019年未來研究計劃的一部分，我們與陸軍、聯合、多國、學術和科技組織合作，探索和了解人工智能對多軍種的影響，并為未來的研究和發展制定一個操作框架。

多域作戰的人工智能運作最終報告提供了采用人工智能的組織框架，以幫助陸軍和聯合部隊更好地定義所需的能力以及相關的數據和網絡架構，以實現多域能力部隊。描述聯合部隊如何采用人工智能解決方案，為了解人工智能在時間和空間上對多域作戰的影響提供了一個操作說明。本報告確定并解決了與人工智能相關的好處、機會和挑戰，為進一步分析提供了基礎。諸如人工智能等新興技術使陸軍不僅可以改進當前的戰術、技術和程序，而且可以創造新的運用和融合能力的方法。

該報告支持美國陸軍人工智能任務組，該組織負責制定陸軍的人工智能戰略和政策。本文通過描述部隊如何在整個MDO框架內采用人工智能解決方案和相關技術，啟動了陸軍的人工智能運用工作。這份報告使概念發展團體能夠修改陸軍功能概念和戰場發展計劃。它為能力發展團體提供了作戰視角和部隊在確定所需能力時必須考慮的技術影響。此外，該報告還為作戰概念文件或基于能力的評估提供了開發情景或小插曲的基礎。該文件為科學和技術界提供了行動背景，以便為人工智能研究、開發、建模和模擬提供信息和指導。最后，它支持制定一個在未來使用人工智能的全面愿景，以告知陸軍現代化的努力，這將創造有能力的MDO部隊，準備好與任何對手作戰并取得勝利。

執行摘要

人工智能（AI）是未來聯合部隊實現多域作戰（MDO）全部潛力的基礎。人工智能系統提供了跨越領域、電磁頻譜和信息環境戰勝對手的能力。在競爭中使用這些系統使聯合部隊能夠近乎實時地了解作戰環境，從而更好地運用能力來擊敗旨在破壞區域穩定的威脅行動，阻止暴力升級，并將被拒絕的空間變成有爭議的空間。在從競爭到武裝沖突的過渡中，人工智能的機動、火力以及情報、監視和偵察能力為聯合部隊提供了拒絕敵人奪取優勢地位的能力。改進的維持能力與攻擊敵人的反介入/空中拒止網絡的能力相結合，為美國部隊提供了奪取作戰、戰略和戰術優勢位置的能力。通過由人工智能支持的多領域聯合行動圖（MDCOP）增加了解，使美國部隊有能力協調多領域的效果以創造優勢窗口。

制定人工智能的作戰概念使陸軍能夠更好地理解這些技術對戰爭的性質和特征的潛在影響。描述陸軍如何在未來的作戰環境中使用人工智能，有助于說明其對戰爭的暴力、互動和基本的政治性質的影響，以及戰爭不斷演變的特點。本文提供了一些小插曲（附錄A），說明了人工智能的組織運用，為美國陸軍RAS總體概念、作戰和組織概念、基于編隊的作戰概念以及系統或單個系統的運用概念的潛在發展提供信息。

人工智能的運作影響到未來部隊將如何運作，如何針對對手開展行動，以及指揮官如何利用軍事藝術和科學，運用部隊能力來實現預期效果和目標。在2019年未來研究計劃（FSP19）期間，人工智能工作線（LoE）確定了與實施人工智能支持的多領域解決方案有關的以下問題：

• 數據管理--AI/ML應用程序依賴于對策劃的數據的訪問，以便發揮作用。陸軍必須培養一種以數據為中心的文化，以標準化的格式和協議有效地生成、存儲和訪問數據。人才管理的努力必須側重于發展、培訓和保留一支精通數據的員工隊伍。這可以通過以下方式實現：

  • 在整個部門培養一種以數據為中心的文化

  • 投資于整個員工隊伍的數據科學培訓

  • 簡化數據訪問

  • 設計和實施協議，以確保數據的可發現、可訪問、可共享和可互操作性

• 功能分解--狹義的人工智能本質上是有限的，構建算法的數據科學家需要精確的問題定義，準確確定聯合部隊的要求。

• 可解釋人工智能--人工智能支持的系統需要有能力解釋決策/建議和所采取的行動背后的邏輯。這種解釋 "為什么"的能力是人類對人工智能智能體的信任基礎。

• 邊緣計算/人工智能--未來的作戰環境與有爭議的電磁頻譜預期要求有能力向前處理極其龐大的數據集，以及能夠自主行動的人工智能平臺。

• 利用商業部門--美國防部實驗室繼續在人工智能/ML發展方面取得重大進展，特別是與聯邦資助的研究和發展中心合作。商業部門繼續探索和擴大可能適用于軍事應用的工作。

作為FSP19的一部分，人工智能LoE開發了五個小插曲和一個概念草圖（見附錄A），以協助人工智能和機器學習的運作。這些小插曲說明了聯合部隊如何利用人工智能/ML來解決多領域行動所需的關鍵能力。MDCOP概念將依靠幾個有限內存的人工智能來建立和維護描繪整個戰場的藍、紅、綠活動。一個反應式機器人工智能將為特定的指揮官和總部定制MDCOP。合作傳感、維持、攻擊和瞄準的小插曲依靠反應式機器人工智能來優化傳感器覆蓋、維持吞吐量、攻擊順序和射手選擇。

未來部隊需要人工智能來充分實現多領域作戰的潛力。人工智能支持的系統使未來部隊能夠進行信息收集和分析，以便在時間有限和信息競爭的環境中增加對形勢的了解。這種能力使快速、知情和合理的決策成為可能。人工智能的決策支持代理將減輕作戰人員的認知工作量并提高整體效率。由人工智能支持的無人系統將探測、識別和穿透高風險區域，以提高開展行動和保護部隊、人口和資源的能力。人工智能使MDO在與近似對手的沖突規模下實現了作戰速度的要求。

2022年6月15日，英國國防部在倫敦科技周人工智能峰會上發布了《國防人工智能戰略》，旨在“雄心勃勃、安全和負責任地”使用人工智能的戰略和相關政策。本戰略支持創建新的國防人工智能中心（DAIC），以提供前沿技術樞紐，支撐英軍使用和創新相關技術。本戰略概述了以下內容：一是在國防中使用人工智能的新倫理原則；二是人工智能在國防部加強安全和現代化的地位和應用；三是考慮通過人工智能研究、開發和實驗，通過新概念和尖端技術徹底改變武裝技術能力，并有效、高效、可信地向戰場交付最新裝備。該戰略將將成為英國人工智能戰略的關鍵要素，并加強國防在政府層面通過科學和技術獲取戰略優勢的核心地位。

圖 英國國防部發布《國防人工智能戰略》

（本文根據原文編譯整理，僅供交流參考，觀點不代表本機構立場。）

英國國防部人工智能戰略的愿景是：以英國規模為標準，成為世界上最有效、最高效、最可信和最具影響的國防組織：

有效——提供戰場制勝能力和支持，以及英國與盟友關于人工智能生態系統合作的能力；

高效——通過創新使用技術交付能力，進行作戰并實現生產力效應；

可信——基于人工智能系統的安全性和可靠性受到公眾、盟友和人民的信任，根據英國核心價值觀合法合規地使用人工智能；

影響——積極參與合作和引領人工智能技術的全球發展和管理趨勢；

二**、背景和必要性******

英國國防部《綜合評估（2021）》強調指出，國家在人工智能領域的卓越表現是確保英國在2030年前成為“科技超級大國”的核心。英國國防部《國家人工智能戰略（2021年）》指出，人工智能在改寫整個行業的規則、推動經濟大幅增長和改變生活的所有領域方面具有巨大潛力。英國國防部《綜合作戰概念 （2020年） 》描述了無處不在的信息和快速的技術變革如何改變了戰爭的性質。在軍事作戰的各個領域，沖突正變得愈發復雜。新技術產生大量數據，解鎖新的威脅和漏洞，并通過如蜂群無人機、高速武器和先進網絡攻擊等下一代先進能力擴大潛在攻擊的規模。

人工智能技術以及其影響可能會極大地縮短決策時間，使人類理解負擔加重，而且這些在現代戰場中需要快速做出反應。正如《國防司令部文件（2021）》所指出的，“未來沖突的勝負可能取決于所采用人工智能解決方案的速度和效率”。因此信息作戰變得越來越重要。簡而言之，當代國防正在發生一場根本性的劇變，與人工智能相關的戰略競爭正在加劇，因此必須迅速、主動和全面應對。

本戰略闡述了英國將如何應對這一重大戰略挑戰，其應該引起英國國防部的重視，并參與部隊發展和國防轉型，英國國防部需要明確其機構與人工智能相關的要素并采取相應行動，以在后續執行和交付方面發揮關鍵作用。

三、發展途徑

**一是英國國防部需要轉變為“人工智能就緒”的組織。**具體措施是：1）推動文化、技能和政策變革，培訓領導人，提高人員技能，并加強國防人工智能和自主部門的組織能力；2）創建國防人工智能技能框架和新的人工智能職業發展和晉升路徑；3）將數據視為關鍵戰略資產進行管理和應用，建設新的數字主干網絡和國防人工智能中心。

**二是在速度和規模上采用和利用人工智能，以獲得防御優勢。**具體措施是：1）將人工智能視為能力戰略和部隊發展過程中戰略優勢的關鍵來源；2）短期路線采用成熟的數據科學、機器學習和先進的計算統計技術提升效果和生產力，長期路線進行尖端人工智能技術研發；3）采用多學科多技術將人類認知、創造力和責任與機器速度分析能力相結合以評估人工智能系統的脆弱性和威脅；4）與盟友和伙伴密切合作開發創新能力解決方案以應對共同的挑戰。

**三是推動和支持英國國防和安全人工智能生態系統。**具體措施是：1）通過英國工業和學術人工智能的雄厚基礎以及政府的支持建立信心并明確要求；2）視人工智能生態系統為戰略資產，消除行業壁壘，建立更具活力和一體化的伙伴關系；3）促進行業聯系建立新的國防和國家安全人工智能網絡，促進人才交流和共創，鼓勵業界投資國防相關的人工智能研發，并簡化國防數據和資產的獲取。4）促進中小企業，使監管方法現代化，支持業務增長并最大限度地利用國防人工智能相關知識產權促進相關技術商業化。

**四是塑造全球人工智能發展，以促進安全、穩定和民主價值觀。**具體措施是：1）按照英國的目標和價值觀塑造人工智能的發展，促進倫理方法，并影響符合民主價值觀的全球規范和標準；2）促進安全與穩定，確保英國的技術進步得到適當保護，同時探索建立信心和將軍事人工智能使用風險降至最低的機制；3）考慮可能出現的極端甚至事關生存的風險，并積極與盟友和合作伙伴接觸，制定未來的安全政策，尋求建立對話，以降低戰略錯誤、誤解和誤判的風險。

四、優先效果

通過采用人工智能技術實現本戰略目標，使英國武裝部隊實現現代化，并迅速從工業時代的聯合部隊過渡到敏捷信息時代的綜合部隊，國防部將受益于效率和生產率的提高，其期望的優先效果如下：

決策優勢：通過更充足、更分散的決策制定和基于威脅的機器快速響應，提高作戰節奏和靈活性。

效能：通過智能自主提高靈活性、效能和可用性。

解鎖新能力：通過開發新的作戰方式確保作戰優勢，增強軍事效果，保護人民免受傷害。

武裝部隊：減輕部隊負擔，并將人類決策集中在基于獨創性、背景思維和判斷力的高價值職能上。

五、戰略綜述總結****

**六、**結束語

人工智能必須成為未來必不可少的技術，其也促使著英國國防部改變對現代技術的看法，調整其技術方向和戰略需求，全面擁抱世界領先的人工智能解決方案和能力，推進其國防業務中觀念、文化、規劃和交付方面的持久變化，并將其作為國防戰略融入國防領域，以確保英國軍隊成為敏捷信息時代的綜合部隊。

編譯：船の心

END

世界軍事電子領域2021年度十大進展

軍事電子領域

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。