由于沒有足夠快地開發和部署人工智能（AI），美國在常規戰斗中面臨被超越的風險。對手，特別是中國，正在擁抱人工智能，并試圖利用所認為的美國弱點。中國計劃到2030年成為人工智能的世界領導者，并繼續在其民用和軍用部門大量投資于人工智能能力。使用致命性自主武器（LAWS）是不可避免的，并正在所有領域發展這種能力。人工智能是一種力量倍增器，但美國對在戰斗中使用致命性自主武器感到不安。中國和美國對未來的人工智能應用有著截然不同的戰略。為了使美國軍隊既能最大限度地發揮人工智能的全部潛力，又能維護國際法治，在未來的大規模沖突中，人-智能體（H-A）編隊合作是必不可少的。

為什么需要人類-智能體編隊?

雖然人工智能是一種力量倍增器，但美國的政策制定者和軍事指揮官目前對在未來的戰斗中使用致命性自主武器系統感到憂慮。如果一個或多個對手對美國或其盟國部署致命性自主武器系統，這一政策可能會引起爭論。解決這個問題的一個潛在辦法是將人工智能與人類對應方組合起來。人-智能體（H-A）團隊是一個網絡，其中智能系統（智能體）和人在一個小組內有效合作，通過加強彼此的強項和預測彼此的弱點來創造協同效應。團隊合作的特點和屬性因模型而異，但貫穿始終的一個概念是相互依賴的重要性。H-A團隊合作取決于人與人工智能系統之間的這種相互依存關系，才能取得成功。

DeepMind之前提到的AlphaGo是一個完美的例子，說明如何有效地將人工智能與人類同行配對。2017年，也就是AlphaGo第二次擊敗圍棋世界冠軍的那一年，兩名人類專業人士與人工智能系統結成了伙伴。在 "配對圍棋 "中，人類和AlphaGo交替下棋，每個人都必須學習和適應他們的隊友正在下的棋。這種耦合使人類能夠從他們的人工智能對手那里學習，成為更好的棋手。與AlphaGo配對的中國圍棋大師連笑解釋說："AlphaGo非常自信，他也給了我信心。他幫助我相信我應該掌好舵"。雖然人類在AlphaGo手中的失敗讓一些人感到失望，但這實際上是一種變相的祝福。H-A組隊有可能增強，甚至可能改善人類目前的能力。

本文將試圖回答美軍將如何利用人工智能和H-A團隊合作，為未來10到20年的大規模戰斗做準備。為了使美國軍隊既能最大限度地發揮人工智能的潛力，又能維護國際法治，H-A團隊合作在未來的沖突中是必不可少的。通過理論、歷史、條令、已完成的研究項目和潛在的未來情景，這項研究將有助于回答人工智能在美國軍事行動中的未來是什么樣子。證據將集中在利用自主武器系統（AWS）和人工智能的積極和消極方面。

本文還將探討H-A組隊的能力，以及當兩者結合在一起時，性能是否會提高。研究結果將解決 "終結者難題 "的可能性，特別是在自主機器提供明顯優勢的情況下是否使用它們。雖然這個話題相對較新，但有許多關于人工智能研究和在美國軍隊中使用的書籍、期刊文章和新聞報道。研究將擴展這一主題，并提出在未來戰場上人工智能和人類合作的方式。人工智能有可能引領下一次軍事事務的革命（RMA）；然而，除非人工智能成為人類有效團隊的一部分，否則美國無法在大規模戰斗中充分發揮其潛力。

提綱

▼ 戰略視角：回歸點對點競爭

▼ 美國國防部回應：第三次抵消戰略

▼ 利用大數據、人工智能和機器學習

▼ 消除公眾對“殺手機器人”的擔憂

▼ 無人系統：一個美國國防部用例

▼ 更通用的用例：更好的決策制定

▼ 確保我們的戰士能夠超越我們的對手

許多軍事人工智能的研究和開發資金是針對短期內可以實現的戰術級系統的改進。在這里，人工智能（AI）的潛在好處往往受到感官輸入質量和機器解釋能力的限制。然而，為了充分理解人工智能在戰爭中的影響，有必要設想它在未來戰場上的應用，傳感器和輸入被優化為機器解釋。我們還必須嘗試理解人工智能在質量上和數量上與我們的有什么不同。本文介紹了綜合作戰規劃過程中自動化和機器自主決策的潛力。它認為，人工智能最重要的潛力可能是在戰役和戰略層面，而不是戰術層面。然后探討了更多機器參與高級軍事決策的影響，強調了其潛力和一些風險。人工智能在這些情況下的應用發展應該被描述為一場我們輸不起的軍備競賽，但我們必須以最大的謹慎來進行。

1 引言

目前，人工智能（AI）的民用發展大大超過了其在軍事方面的應用。盡管知道網絡將是一個重要的未來領域，但國防部門還沒有習慣于數字-物理混合世界，因此，國防部門與新的社會技術的顛覆性變化相對隔絕。在軍事上運用人工智能的努力往往集中在戰術應用上。然而，人工智能在這些領域的好處受到輸入傳感器的限制，它們被用來復制人類的行為，并在需要與物理環境互動的角色中使用。在作戰和戰略層面上，軍事總部的特點是信息的流入和流出。如今，這些產品無一例外都是完全數字化的。考慮到作戰計劃的過程，可以看出，即使在目前的技術水平下，其中有很大一部分可以可行地實現自動化。這種自動化的大部分并不構成可能被理解的最純粹意義上的人工智能，即 "擁有足夠的通用智能來全面替代人類的機器智力"。然而，軟件可以在特定任務中勝過人類的事實，再加上高級軍事決策過程被細分為此類特定任務的事實，使其成為比較人類和機器決策的優點、限制和能力的有用工具。這樣做，人類的能力似乎有可能被輕易取代。因此，追求軍事決策自動化的動機肯定是存在的。本文討論了部分自動化軍事決策的潛力和實用性，并想象了為這些目的無限制地發展人工智能可能帶來的一些風險和影響。

融合項目（PC）是一項美國陸軍學習活動，旨在整合和推進他們對聯合部隊（陸軍、海軍、空軍和海軍陸戰隊）的貢獻。根據研究和分析中心（TRAC）-蒙特雷的說法，"PC確保陸軍作為聯合戰斗的一部分，能夠快速和持續地整合或'融合'所有領域的效果--空中、陸地、海上、太空和網絡空間，以便在競爭和沖突中戰勝對手"（研究和分析中心[TRAC]2020）。目標是評估在PC21上展示的新的創新系統（SoS）技術是否滿足為聯合部隊提供必要的速度、范圍和融合所需的作戰能力，以產生未來的決策主導權和大國競爭的超能力。然而，鑒于PC期間各種現代技術的注入，TRAC-蒙特雷目前缺乏一種方法來衡量作戰效果以及作為軍隊和聯合部隊的融合是否正在實現。因此，本項目的重點是制定一個概念性的評估框架，以確定在PC21演習中測試的多域作戰（MDO）任務中SoS的作戰有效性。這個框架將集中在那些被證明可以減少傳感器到射手（S2S）時間的技術的行動有效性，以便在聯合MDO任務中消滅一個固定的目標。

該小組確定，對某一特定能力的功能分解，結合用于開發MOE的Langford綜合框架的修改版，將產生描述該特定能力的行動有效性的良好措施。為了將衡量標準轉化為價值分數，團隊使用了構建價值尺度的理想范圍方法，該方法為每個衡量標準建立了一個從最好到最壞的情況，使其具有適應任何能力的靈活性。帕內爾的搖擺加權法被用來量化利益相關者對每個蘭福衍生的MOE的重要性，以確定能力的每個MOE的加權價值分數（WVS）。WVS相加得出總分，這就提供了對運營有效性的最終評估。然后，該團隊產生了一個行動有效性量表，向利益相關者說明他們的能力在這個量表中的得分情況。

該項目最后針對概念評估框架應用了PC21用例，以衡量其在生成與用例中的能力最相關的MOE以及單一行動有效性分數方面的穩健性。該模型的最終驗證將在目前計劃于2021年10月開始的PC21期間進行。

總之，該團隊使用系統工程流程建立了一個概念性評估框架系統，該系統將使TRAC-Monterey有能力評估PC21期間展示的新的創新SoS技術的作戰能力。該團隊開發了一個利益相關者分析，一個由利益相關者衍生的目標層次，一個功能分解，以及一個創建良好措施的過程，將這些措施轉化為價值分數，量化措施的重要性，并將產生的價值匯總為一個單一的、行動有效性分數。該框架將為利益相關者提供信息，使他們能夠就進一步的技術開發做出明智的決定。TRAC-Monterey還可以將本研究中制定的衡量標準作為指南，在整個PC21和未來的PC活動中收集相關信息。

建議 TRAC 在 PC21 期間對照 S2S 用例 1-1 驗證概念性評估框架。還應采用其他用例來測試框架的靈活性和可用性。還建議進一步研究行動效率的認知方面，以及如何利用這些信息來擴大本評估框架的范圍。TRAC和JMC向團隊表示，PC的努力將有助于改寫聯合行動的理論。

多年來，加拿大國防研究與發展部（DRDC）一直通過一系列的研討會與軍事人員接觸，評估新興技術對概念、能力和投資的可能影響。本文概述了影響評估框架，該框架已被設計并用于調查一些新興技術的影響。該框架包括定量和定性的措施，以及支持任務所需能力要素的正式清單。該框架的應用通過幾個新興技術領域對加拿大陸軍能力要素的評估結果來說明。被評估的新興技術領域包括量子技術、超材料、人工智能、印刷電子學、人體性能增強、合成生物學、增材制造和其他許多領域。結果提供了關于哪些軍事能力領域和作戰功能將受到所審查技術的最大影響的見解。這種方法為部隊開發人員提供了額外的證據，并支持對能力發展計劃和技術路線圖的審查。

1.0 引言

對技術、戰爭、政治和經濟之間關系的研究已經多次提出，未來必須在高度不確定的情況下做出決定。偏見塑造了國家和文化對如何預測未來的偏好。正如W.Chin所指出的，未來戰爭方面的文獻往往過度依賴明顯具有決定性軍事技術的簡單化概述[1]。

國防和安全的作戰環境不斷被競爭和沖突所塑造。雖然軍隊在評估未來作戰環境（FOE）的基礎上發展未來部隊，但它也需要評估趨勢和發展對能力的可能影響[2]。盡管大多數官方的FOE出版物包括對軍事力量的關鍵推論和高層影響，但仍然很少有既定的框架來評估新興技術在能力和概念發展方面的可能影響。

2017年，加拿大陸軍委員會批準將近距離接觸[3]作為未來軍隊（AoT）的頂點作戰概念。AoT是一個不斷發展的概念模型，說明加拿大軍隊在未來15年內應該如何配置、裝備和訓練。理想的AoT將被要求更加連接、敏捷、靈活、整合和強大。正如 "親密接觸"所指示的那樣，需要對政治、環境和技術變化進行持續的地平線掃描和觀察，以便對破壞性變化提供更好的預警[5]。作為風險管理戰略的一部分，部隊組建者需要了解技術發展以評估和利用潛在的機會。他們還需要預測和減輕他們在FOE中可能面臨的潛在風險、威脅和作戰挑戰。技術前瞻性和組織敏捷性是機構復原力的關鍵推動因素。技術優勢當然是任務成功的助推器，但創新文化和靈活的系統將是未來陸軍在作戰中成功的游戲規則。

1.1 新興技術在基于能力的規劃中的作用

一些軍隊已經采用了著名的基于能力的規劃（CBP）框架，該框架最初由Paul K. Davis[4]開發，用于支持能力和系統的長期戰略計劃。在加拿大，CBP于2005年被加拿大武裝部隊（CAF）采用。CBP是一種系統的部隊發展方法，旨在為最合適的部隊結構選擇提供建議，以滿足政府的優先事項。CBP過程評估了通過情景分析得出的能力目標。然后，通過對當前和計劃中的能力進行分析，確定并驗證能力的不足和過剩。它支持首選部隊結構的發展。CBP是一個使用場景的過程，這些場景松散地位于FOE中，以評估現有能力在多大程度上可以保持運作，并在不同場景下對任務的成功做出貢獻。CBP過程的主要結果是識別和記錄可能威脅到任務成功的能力差距和缺陷。CBP是關于評估現有軍事能力的準備程度、生存能力和維持能力。

傳統上，新興技術的趨勢是作為FOE的一部分來考慮的，從FOE中推導出一些情景來 "測試 "現有的軍事能力。評估新興技術的綜合方法需要考慮三種不同的應用背景。

• 機會：新興技術能否被塑造來解決差距和不足，提供新的能力或新的手段來實現效果？

• 風險：新興技術能否代表新的威脅，需要出口控制或技術保護計劃，加速我們自己技術的淘汰，或降低我們的能力？

• 環境：新興技術將如何塑造作戰環境？鑒于全球都能獲得新技術，我們在未來的物理和數字環境中會面臨什么？

CBP是在未來部隊結構的設計中創造機會和減少風險的藝術。

2.0 評估新興技術的方法

文獻中描述了在國防背景下評估新興技術的幾種方法。

2.1 北約DTAG方法

顛覆性技術評估游戲（DTAG）是一種方法，最初由北約SAS-062和SAS-082任務組開發[6-8]。DTAG最適合于探索新興技術在軍事場景中的使用如何可能改變行動方案和結果。DTAG使用系統理念（IoS）卡，將幾種技術整合到一個新概念中。DTAG會議通過在軍事背景下進行基于場景的桌面兵棋推演演習，探索IoS的潛在好處。

從能力發展的角度來看，文獻中沒有證據表明，擬議的IoS卡得到了現有技術路線圖或技術趨勢分析的支持，這將有助于能力開發者估計一個新的 "系統 "在可預見的未來何時可以現實地出現和部署。DTAG會議的結果產生了新的技術應用概念，但它們缺乏技術趨勢分析和路線圖的支持，使能力開發者獲得的可操作信息有限。

2.2 TOWS分析（澳大利亞）

澳大利亞陸軍采用了由國防科技集團（DST）的科學家開發的威脅、機會、弱點和優勢（TOWS）方法來評估新興技術對陸軍通用功能的可能影響。TOWS技術的描述見[9, 10]。TOWS技術將外部威脅和機會與一個組織的內部弱點和優勢進行比較。結果被用來定義一套行動，以保護組織免受威脅，并使其能夠利用機會。TOWS是專門為推斷行動和戰略而設計的。

表1：技術領域對軍隊一般職能的影響[10］

3.0 評估新興技術的綜合方法

加拿大國防研究與發展部（DRDC）用于識別和評估新興技術的一些工具和技術已經在2015年的北約IST系列講座中進行了描述[11, 12]。目前，DRDC的計劃將這些工具和技術整合到科技（S&T）展望和風險評估的綜合方法中。圖1說明了從前景掃描活動到提供戰略建議的主要組成部分和邏輯流程。新興技術影響評估研討會每年進行一次，以評估新興技術對國防和安全能力、利益相關者和政策制定者的影響。

圖1：DRDC的科技（S&T）展望和風險評估計劃。

3.1 科技展望與風險評估

DRDC的科技展望和風險評估計劃的所有活動都是按照四步程序進行的，首先是進行前景掃描活動，以確定新出現的利益趨勢，然后收集和分析信息，以發展關于這些利益趨勢的技術情報。然后評估新出現的技術趨勢對國防、安全、政策和立法的可能影響。評估的結果被用來為計劃、能力和伙伴關系方面的決策提供信息。

3.2 加拿大軍隊的作戰功能和能力

在所有的未來情況下，任務的成功和有效性依賴于執行任務所需能力的可用性、準備性、穩健性和彈性。新興技術的潛在影響需要在所有作戰功能中進行評估，以確定哪些能力可能從中受益，哪些可能面臨風險。加拿大陸軍使用五個核心作戰功能：指揮、感知、行動、防護和維持

• 指揮 - 建立共同的意圖和管理指揮的必要結構和程序。作為一項作戰功能，指揮部是其他四項作戰功能的紐帶。指揮部是將所有作戰功能整合到一個全面的戰略、作戰或戰術層面的概念的作戰功能。

  • 指揮部的運作功能由一些關鍵能力支持，包括：

    表1：支持指揮職能的能力。

• 感知 - 一個單一的綜合實體，收集、整理、分析和顯示各級數據、信息和知識。戰術、行動和戰略資產被整合為一個單一的連續體。感知是為指揮官提供知識的操作功能。感知功能包含了所有收集和處理數據的能力。

  • “感知” 的操作功能由一些關鍵能力支持，包括：

    表2：支持感知功能的能力。

• 行動 - 使用一種能力來影響整個沖突范圍內物質和道德領域的事件。行動反映了對各種來源的能力的整合--戰術、行動或戰略。行動是整合了機動、火力和信息戰的作戰功能，以達到預期效果。它是聯合火力和影響活動的結合，通過機動和對作戰環境的管理而同步和協調。

  • 該法案的運作功能由一些關鍵的能力支持，包括：

    表3：支持行動功能的能力。

• 防護 - 為促進任務成功而采取的部隊保護措施，通過管理風險和盡量減少人員、信息、物資、設施和活動在所有威脅下的脆弱性，維護行動自由和行動效率。防護是保護部隊、其能力和行動自由的業務職能。防護功能可以保護部隊免受常規和不對稱的威脅，適用于國內、大陸和國際行動。

  • 防護作戰功能由一些關鍵能力支持，包括：

    表4：支持盾牌功能的能力。

• 維持--產生、部署、使用和重新部署一支部隊所需的所有功能的組合。"維持"是支持行動的再生和維持能力的操作功能。

  • "維持"行動功能由一些關鍵能力支持，包括：

    表5：支持維持功能的能力。

除了作戰功能外，還考慮了部隊生成能力。一些新興技術可能會影響到部隊生成的各個方面。例如，增強現實和虛擬現實技術正被越來越多地用于加速訓練。它們還為平臺的現場維護和修理提供了新的手段。在CA的背景下，部隊組建得到了一些關鍵能力的支持，包括：

表6：支持部隊組建的能力。

3.3 研討會方法

通常情況下，新興技術影響評估研討會以一個或多個主題專家（SME）的展望簡報開始。中小企業有責任介紹該技術領域并描述其潛在的應用。他們還提供有關被審查的新興技術領域的新興趨勢和主要領導人的有用信息，以及對該技術目前的成熟度、限制、局限性和科學界面臨的挑戰的概述。

圖2：研討會過程。

根據中小企業提供的信息和個人的專業知識，研討會參與者被要求使用簡單的李克特量表評估新興技術領域對陸軍能力的潛在影響，從0（無影響）到7（非常大的影響）。評級過程確保參與者考慮到每個作戰功能的所有能力領域的影響。通常情況下，在考慮一項新興技術的潛在影響時，參與者已經想到了一個具體的能力領域。使用一個系統的能力評級過程，可以確保"不太明顯"的影響領域也在研討會上得到考慮和討論。

圖3：評級過程和尺度。

在研討會上，"影響"的定義是：解決現有的差距和缺陷；解決持久的問題（如士兵的負擔）；改善現有的能力；引入新的概念和能力；破壞或否定現有的能力；使任務面臨風險（多種風險類別）。

在第一輪個人評估后，將結果提交給研討會參與者，以激發小組討論和辯論。小組討論提供了機會，以交流對新興技術的看法，要求中小企業提供額外的技術細節和清晰度，挑戰假設，并試圖填補 "高不確定性所固有的知識空白"。小組討論后，再進行第二輪評估。這種方法有助于衡量和減輕 "群體思維"的影響。

3.4 數據分析

在研討會上收集的數據用兩種不同的方法進行分析。第一種是依靠DRDC的科學家在2006年開發的統計工具來進行多標準分析和排名共識（MARCUS）。MARCUS[14, 15]是一個產生共識結果的有用工具。MARCUS的特點之一是它能正確處理排名中的并列關系，能容忍不完整的排名，并在必要時允許單個排名在確定共識排名時具有不同的權重。

下面的例子顯示了小組討論前后評估的微小差異。在這個特殊的案例中，在小組討論之前，評估認為情報系統（5）將受到人工智能（AI）發展的最大影響。在小組討論后，與會者評估說，規劃和決策支持系統（2）將受到最大影響。

圖4：小組討論前后，MARCUS對人工智能應用在20種軍隊能力上的排名

用于分析數據的第二種定量方法是對所有參與者對每個能力領域的評分應用一個簡單的平均函數，如圖5所示。此外，在研討會期間還收集了參與者的定性評估，以便為個人評級提供額外的理由和背景。結果被用來確定哪些能力領域和作戰功能將受到所考慮的新興技術的最大影響（技術觀點），并確定哪些新興技術將有助于塑造整個作戰功能的未來能力（操作功能觀點）。自2014年以來，CA一直在舉辦一系列的研討會，以評估幾個新興技術領域的潛在影響。

3.5 結果概述

如圖5所示，累積結果表明，支持指揮功能的能力將受到人工智能（AI）應用、人類性能優化和修改（HPO、HPM）發展以及量子科學（QS）應用的顯著影響。量子技術有望提供下一代的加密能力，可以提高指揮和控制（C2）網絡的安全性。

圖5：新興技術領域對CA運行功能的影響程度

結果還表明，在未來15年以上的時間里，支持理智功能的能力將受到幾種新興技術的顯著影響。人工智能（AI）的快速發展，以及量子科學（QS）、超材料（MM）和印刷電子（PE）的發展，將有助于塑造未來的感知能力。

對于支持行為功能的能力，結果表明它們將受到人工智能、文化行為模型（CBM）以及培訓、教育和演習5（TEE）新模式的影響。機動能力將大大受益于人工智能的發展，特別是在機器人、自主車輛和蜂群的應用領域，但也可以通過人工智能的增強現實技術為下崗士兵服務。量子傳感器的發展將提供更精確的定位、導航和定時（PNT）系統，以提高在GPS缺失環境下的機動能力。

支持防護功能的能力也將受到幾個技術領域的重大影響。材料科學和個人防護設備（PPE）設計的發展顯然將塑造未來的防火能力。化學和生物檢測和保護（CB DP）的進步將有助于增強或新的CBRN防御能力，同時合成生物學（SB）和人體性能優化（HPO）的發展也將有助于增強或新的CBRN防御能力。量子科學（QS）預計將提供新的傳感器，以實現對爆炸性危險的遠距離探測和規避。

在支持 "維持"功能的所有能力領域中，衛生服務系統是未來15年內變化最大的領域。合成生物學（SB）、人體性能優化（HPO）和改造（HPM）的發展，以及個人防護裝備、化學和生物檢測和保護（CB DP）的發展，培訓、教育和鍛煉的新模式，以及來自印刷電子（PE）的可穿戴和植入式傳感器，預計將對未來的衛生服務系統產生重大影響，前提是有適當的政策和立法。

3.6 結果

年度新興技術影響評估研討會是支持能力發展和實施國防創新計劃的關鍵。它們匯集了科學家、學者、工程師、政策制定者、項目管理人員、法律顧問和軍事人員的專業知識。自2014年成立以來，新興技術影響評估研討會為國防能力、科技合作計劃和伙伴關系的戰略投資決策提供了信息。例子包括。

• 采用部門的量子科技戰略。

• 加拿大軍隊人工智能概念文件和技術路線圖。

• 提交給國防部（DND）"創新促進國防卓越和安全"（IDEaS）計劃的新的創新挑戰。

• 在新興技術領域的新FVEY活動，如超高分子量聚乙烯（UHMWPE）。

• 幾個國防和安全政策問題簡報。

• 對敏感技術和出口控制的系統性審查6。

4.0 結論

任務的成功和有效性取決于用于實現效果的能力的可用性、準備性、穩健性和復原力。長期的戰略能力發展計劃需要識別和評估新興技術對所有作戰功能的潛在影響，以了解哪些能力可能受益于這些技術，哪些可能面臨風險。為了支持這種評估，我們設計了一個框架，其中包括定量和定性的措施以及支持任務所需的能力要素的正式清單。通過對加拿大陸軍能力要素的幾個新興技術領域的評估結果，說明了該框架的應用。自2014年第一次迭代影響評估研討會以來，累積的結果提供了寶貴的見解，即在未來15年內，哪些軍事能力領域和作戰功能將受到審查技術的最大影響。

附錄A

表A-1: CA評估的新興技術領域

5.0 參考文獻

[1] Chin, Warren, “Technology, war and the state: past, present and future” International Affairs 95: 4, 2019

[2] Sullivan et al. Mad Scientist: Disruption and the Future Operational Environment Final Conference Report 25 July 2019

[3] Kaduck Anthony (LCol), Ron Bell (LCol), Peter Gizewski, Close Engagement. Land Power in an Age of Uncertainty, Kingston, 2017.

[4] Davis, Paul K., Analytic Architecture for Capabilities-Based Planning, Mission-System Analysis, and Transformation. RAND MR-1513

[5] Chapman B. and Gisewski P., Army 2040 Seminar. A Methodology to Address Capability Development in an Uncertain Future. 30th International Symposium on Military Operational Research (ISMOR), 2013

[6] NATO-SAS-082, Disruptive Technology Assessment Game. Evolution and Validation, RTO Technical Report TR-SAS-082, 2012.

[7] H. And?s, B. Damsgaard, G. Kindvall, E. R?nnberg, S. O. Solheim and M. Suojanen, Emerging Technology Concepts and Defence Planning in the Nordic Countries, FFI-NOTAT Eksternnotat 16/00336, 2016.

[8] G. Kindvall, A. Lindberg, C. Trané and J. Westman, Exploring Future Technology Development, FOI- R- -4196--SE, 2017.

[9] Pincombe B. and Dexter P., The Possible Effects of Potential Key Technological Developments on the Force Structure of the Australian Army in 2040. DSTO-GD-0862. 2014

[10] Dexter P. and Krysiak, K. “Assessing the impact of emerging technologies on the Australian Army”. 20th International Congress on Modelling and Simulation, Adelaide, Australia, 1–6 December 2013

[11] Auger, A. Emerging and Disruptive Technologies Impact Assessment. NATO IST 135 Lecture Series. STO-EN-IST-135. 2015

[12] Auger, A. Identification of Emerging Scientific and Technical Trends Using Scientometric Analysis. NATO IST 135 Lecture Series. STO-EN-IST-135. 2015

[13] Holland-Smith, D.J. On the Risk from High-Impact, High-Uncertainty Technologies. NATO IST 135 Lecture Series. STO-EN-IST-135. 2015

[14] Emond, E. J., Developments in the Analysis of Rankings in Operational Research. DRDC CORA TR 2006-37; Defence R&D Canada, December 2006

[15] Tania Yazbeck and E. J. Emond. Multi-Criteria Analysis and Ranking Consensus Unified Solution (MARCUS) -User Guide DOR(CORP) Research Note RN 2004/13. 2004

[16] Auger, A. Emerging and Disruptive Technologies Impact Assessment Workshop. Results from 2015, DRDC-RDDC-2016-L328, Ottawa, Oct 2016.

[17] Auger, A. Impact of Selected Emerging Technologies on Canadian Army Capabilities. Results from Emerging and Disruptive Technologies Workshop, Dec. 2017 DRDC-RDDC-2018-R152. May 2018

[18] Gunashekar S., et al. Oversight of science and technology. Learning from past and present efforts around the world. RAND Europe report, 2019. RR-2921

戰爭的特點正在發生根本性的變化，這些變化對空中力量的影響尤其深遠。多域整合為空中力量和越來越多的空間力量在未來幾年內的一系列轉變做好了準備，這些轉變不僅與技術有關，而且與空軍組織和進行規劃和行動的戰略和作戰概念有關。

迫在眉睫的、不可避免的多域作戰似乎是空中力量的一個明顯的邏輯演變，它可能會引發這樣的問題：為什么我們沒有更早地沿著這些思路思考和發展作戰概念？畢竟，對優化、作戰協同和武力經濟的尋求在空中力量中是持久的。可以說，多年來，空軍及其相關部門事實上已經嘗試以某種方式或形式在多域背景下運作。然而，在整個部隊甚至整個戰區范圍內，為多域作戰（MDO）提出的早期作戰概念（CONCOPS），在多域作戰空間產生作戰協同和效果的努力是前所未有的。

諸如聯合全域指揮與控制（JADC2）這樣的結構闡述了一個作戰云賦能的未來戰爭，其中任務指揮和戰斗空間管理被有效地隱含在整個戰斗部隊中，觀察-定向-決定-行動（OODA）環路被加速到邊緣計算的速度。傳感器和通信網絡決定了空軍承擔幾乎所有傳統任務的功能能力。數據和數據流將變得比空軍傳統上對機動自由的依賴更加重要，并且有效地成為其戰略推動者。空軍力量將越來越多地與網絡而非平臺、數據而非武器系統有關。

任務的成功和失敗一直是由指揮官和作戰人員可用的態勢感知水平決定的。在新興的作戰模式中，空軍以近乎實時的速度收集、處理和利用數據的能力有效地使數據成為最大的工具和最令人垂涎的武器。收集、處理、匯總、分析、融合和傳播大量的數據、信息和知識將需要像未來有爭議的戰場上的事件速度一樣快。目前正在進行的戰爭數字化將導致在未來幾年內將 "大數據"廣泛用于作戰過程。空間領域將在實現全球范圍內連續的、有保障的和安全的通信方面發揮顯著的作用，除了更傳統的遠程監視用途外，它還被用作這種通信的運輸層。

對信息主導地位的追求將以新的和不確定的方式在物理、電磁和虛擬世界中擴展競爭的連續性。隨著空軍對帶有嵌入式人工智能（AI）工具和應用的作戰云的使用，新的風險、脆弱性和故障點將被引入。本出版物收集了來自世界各地領先的思想家的文章和見解，對多域整合和空中力量的信息優勢框架和概念的一些最相關問題提供了深入的觀點。這里的觀點和討論反映了當前對各種戰略、指揮和作戰層面的思考，讀者會發現這些思考對他們更廣泛的理解很有幫助。

這里介紹的專家展望本身既不樂觀也不悲觀，正如我們所期望的那樣，所確認的是各種新技術促成的 "飛躍"機會正在地平線上形成，但其有效利用帶來了復雜和破壞性的新挑戰。在強調其中一些關鍵的挑戰和更好地理解這些挑戰的必要性的同時，正如通常的情況一樣，沒有快速的解決辦法或現成的解決方案。然而，有令人信服的理由認為，今天所預見的眾多挑戰似乎在理論上和技術上是可以克服的，有些甚至在未來幾年內就可以克服。在未來存在的許多不確定因素中，可以肯定的是，空中力量將被徹底重新定義。

摘要

拒絕和欺騙（D&D）技術利用錯誤信息和對手的認知偏差，長期以來一直是混合作戰的一部分。這種戰術給傳統上由人類分析員制作的情報、監視和偵察（ISR）產品帶來了不確定性和懷疑。在一個由人工智能（AI）擴散主導的未來戰斗空間中，算法生成的ISR產品數量可能會增加。因此，D&D戰術將越來越多地被顛覆人類而非機器推理的需要所驅動。對抗性機器學習（AML）的發展，即對欺騙性人工智能的研究，對未來混合作戰空間中的實踐狀態有重大影響。**本文回顧了對抗性機器學習技術之間的關鍵區別，以及它們對敵方對作戰人工智能的了解和訪問做出的假設。然后，我們總結了我們團隊最近與混合作戰有關的幾個對抗機器學習研究方向：對成像系統的物理對抗性攻擊，數據中毒攻擊，以及AML與設計強大的人工智能系統的相關性。

引言

混合戰爭指的是使用顛覆性的、非軍事的手段來推進民族國家的利益，特別是俄羅斯近年來采用的技術，在不訴諸公開的、常規的軍事行動的情況下占領領土并影響各國的政治和政策[1]。所采用的混合戰術包括網絡攻擊、動員智能體團體采取行動、施加經濟影響以及其他秘密措施。由于混合作戰存在于常規軍事沖突和平民生活之間的 "灰色地帶"，因此戰術上采用了拒絕和欺騙（D&D），通過利用民眾或敵對勢力的認知偏差來迷惑、威懾或影響理想的行為。D&D戰術在常規戰場上的歷史使用是有據可查的[3]。有效的D&D技術通過對依賴人類專家分析的軍事情報、監視和偵察（ISR）產品產生懷疑而獲得成功。在混合軍事行動中，情況不一定如此，在混合軍事行動中，D&D也可能試圖影響平民的看法。此外，隨著人工智能（AI）成為國家軍事投資戰略的重點（如[4]和[5]），以及商業信息技術部門越來越多地采用人工智能[6]，人工智能在未來的 "灰色地帶 "可能會無處不在。因此，我們必須考慮在未來由人工智能的使用主導的混合戰斗空間中可能存在的D&D威脅。

當前的人工智能能力是由機器學習的進步所帶來的，特別是在深度學習這個子領域，在過去的10年里。機器學習（ML）涉及將系統的輸入映射到預測結果的問題，例如，將車輛的圖像映射到一個類別的標簽。通常情況下，這是在大型數據集中通過統計模式識別實現的。深度學習具體涉及到多層神經網絡的使用，它是具有數百萬自由參數的高度非線性回歸模型，作為模式識別的統計模型。雖然深度網絡在各種任務上的表現優于人類（最著名的是圖像分類[7]），但在諸如[8]和[9]等作品中觀察到它們容易被愚弄之后，對抗性機器學習（AML）領域作為一個活躍的研究領域出現了。許多作者指出，ML算法所犯的錯誤可能會在民用領域產生嚴重后果[10]-[15]。我們也認為必須提出類似的擔憂，即軍事人工智能系統在常規戰場和混合戰斗空間中的脆弱性。

本文的其余部分組織如下：第2.0節將提供關于對抗性機器學習的進一步背景介紹，以及我們認為目前在解決其與混合軍事行動的相關性方面存在的差距。在第3.0節中，我們描述了約翰霍普金斯大學應用物理實驗室（JHU/APL）目前正在進行的三項研究工作，以解決這些知識差距。最后，我們在第4.0節中做了總結性發言，并總結了我們到目前為止的發現。

圖 6. AI 開發周期（圓形流程圖）和采用機器學習的典型算法步驟（橙色大框）。

摘要

現代戰爭的特點是復雜性越來越高，敵手聰明且技術優良。為了解決現代戰爭的一些復雜性，基于機器學習(ML)的技術最近為戰場上的自動化任務提供了合適的手段。然而，配備了ML技術的聰明敵人不僅在戰場上參與公平競爭，而且還利用欺騙和隱蔽攻擊等策略，制造惡意方法來破壞ML算法，獲得不公平的優勢。為了應對這些威脅，自動化戰場系統上使用的ML技術必須能夠強大地抵御敵方的攻擊。

我們在一種稱為“示范學習”(LfD)的強化學習算法的背景下，分析了競爭場景中的對抗學習問題。在LfD中，學習智能體觀察由專家完成的操作演示，以學習快速有效地執行任務。LfD已成功應用于軍事行動，如使用機器人團隊進行自主搜索和偵察，或自主抓取拆除簡易爆炸裝置。然而，惡意的敵人可以通過植入敵對的專家來利用LfD，這些專家要么給出不正確的演示，要么修改合法的演示，從而使學習智能體在任務中失敗。為了解決這個問題，我們首先分析了在LfD框架內對抗專家可以使用的不同的演示修改策略，根據對手的修改成本和修改學習代理對任務性能的影響。然后，我們提出了一個新的概念，利用對手和學習智能體之間的博弈，學習智能體可以使用LfD從潛在的對手專家演示中戰略性地學習，而不顯著降低其任務性能。在AI-Gym環境中，我們對提出的魯棒學習技術進行了評估，該技術通過對雅達利類游戲“LunarLander”中的專家演示進行對抗性修改。

圖1所示。(左)使用LfD學習自動駕駛設置時敵對軌跡對策略的影響。(右)在我們提出的方法中，干凈(綠色)和對抗(紅色)軌跡首先是等分的。然后，在使用選項(金虛線)接受或拒絕軌跡部分后，對每個分區學習策略，或對未分區的軌跡使用傳統的強化學習(藍虛線)。

對抗性專家演示框架

我們考慮這樣一個場景，學習智能體必須通過從專家給出的任務演示(LfD)中進行強化學習來在環境中執行任務。一些專家可能是敵對的，并修改軌跡演示的意圖，使學習智能體不能正確執行任務，而遵循修改的演示。在本文的其余部分中，為了便于閱讀，我們將對抗性專家稱為專家。LfD框架采用馬爾可夫決策過程(MDP)[12]進行形式化。LfD算法的輸出是一個策略，該策略為執行任務提供狀態到動作映射。RL通過一個叫做訓練的過程學習策略，在這個過程中，它探索環境，觀察在探索過程中收到的狀態-行為-獎勵配對，最后選擇一系列導致更高期望獎勵的狀態-行為-獎勵配對作為它的策略。

專家們的演示以被稱為軌跡的狀態-行動-獎勵元組序列的形式給出。專家軌跡可能是良性的，也可能是敵對的。良性和敵對的專家軌跡分別展示了完成任務的正確和不正確的方式，并幫助或阻礙了學習智能體學習執行任務。專家演示被整合到智能體的學習中，使用名為DAGGER[1]的LfD算法執行任務。DAGGER使用來自專家演示軌跡的監督學習來學習策略，但添加了一個權重參數β，該參數表示學習主體在將軌跡納入其學習策略時的權重或信任度。

算法1。學習器用來接受或拒絕軌跡演示的算法。

算法2。由專家用來修改干凈軌跡的算法。

機器學習的巨大成功導致了AI應用的新浪潮(例如，交通、安全、醫療、金融、國防)，這些應用提供了巨大的好處，但無法向人類用戶解釋它們的決定和行動。DARPA的可解釋人工智能(XAI)項目致力于創建人工智能系統，其學習的模型和決策可以被最終用戶理解并適當信任。實現這一目標需要學習更多可解釋的模型、設計有效的解釋界面和理解有效解釋的心理要求的方法。XAI開發團隊正在通過創建ML技術和開發原理、策略和人機交互技術來解決前兩個挑戰，以生成有效的解釋。XAI的另一個團隊正在通過總結、擴展和應用心理解釋理論來解決第三個挑戰，以幫助XAI評估人員定義一個合適的評估框架，開發團隊將使用這個框架來測試他們的系統。XAI團隊于2018年5月完成了第一個為期4年的項目。在一系列正在進行的評估中，開發人員團隊正在評估他們的XAM系統的解釋在多大程度上改善了用戶理解、用戶信任和用戶任務性能。