人工智能正在改變戰爭。英國防部如何準備應對未來的變化？

對于人工智能的軍事用途所帶來的接受挑戰，傳統的反應是堅持要求人類保持 "有意義的人類控制"，作為一種產生信心和信任的方式。考慮到人工智能和相關基礎技術的普遍性和快速發展，這不再是一個適當的回應。人工智能將在整個軍事行動范圍內廣泛的指揮和控制（C2）活動中發揮重要的、日益增長的作用。雖然在公眾心目中，人工智能的威脅沒有 "殺手機器人 "那么直接，但在軍事決策中使用人工智能會帶來關鍵的挑戰，同時也有巨大的優勢。加強人類對技術本身的監督并不能防止無意的（更不用說有意的）濫用。

本文以各級（作戰操作員、指揮官、政治領導人和公眾）的信任對有效采用人工智能進行軍事決策至關重要這一前提為基礎，探討了關鍵的相關問題。對人工智能的信任究竟意味著什么？如何建立和維持它以支持軍事決策？人類操作員和人工智能體之間的共生關系對未來的指揮需要作出哪些改變？

當人類對人工智能的行為持有某些期望，而不考慮人工智能體的意圖或道德時，可以說存在對人工智能的信任。然而，與此同時，信任不僅僅是技術性能和可靠性的一個功能--它不能僅僅通過解決數據完整性和可解釋性問題來保證，盡管它們很重要。軍事人工智能中的信任建設還必須解決軍事組織和指揮結構、文化和領導力方面的必要變化。實現總體上適當的信任水平需要一個整體的方法。除了信任人工智能的使用目的之外，軍事指揮官和操作人員還需要充分信任--并且在如何信任--支撐任何特定人工智能模型的輸入、過程和輸出方面得到充分的培訓和具有豐富經驗。然而，最困難的，也可以說是最關鍵的層面是組織生態系統層面的信任。如果不改變軍事決策的體制因素，未來人工智能在C2中的使用將仍然是次優的，被限制在一個模擬框架內。有效引進任何新技術，更不用說像人工智能這樣的變革性技術，需要從根本上重新思考人類活動的組織方式。

優先考慮人和制度層面并不意味著對技術進行更多的控制；相反，它需要在不斷發展的人機認知系統中重新思考人的作用和貢獻。未來的指揮官將需要能夠在一個真正的 "整體部隊"中領導不同的團隊，整合來自軍事、政府和民事領域的貢獻。他們必須對他們的人工隊友有足夠的了解，以便能夠與他們合作并挑戰他們。這更類似于海鷗的雜音，而不是個別 "翠鳥"領導人的天才。為了發展新的指揮和領導概念，英國防部必須重新思考其方法，不僅是培訓和職業管理，還有決策結構和程序，包括未來總部的規模、位置和組成。

人工智能已經在改變戰爭，挑戰人類長期的習慣。通過在訓練和演習中接受更多的實驗，以及探索C2的替代模式，國防部可以更好地準備迎接未來不可避免的變化。

前言

人工智能正在改變人類的思維和決策方式。未來，它將越來越多地影響人類如何確定各種認知過程的優先次序，調整他們的學習、行為和訓練，并更廣泛地改造他們的機構。這些變化在整個軍隊中仍不完全明顯。盡管有新的技術和戰爭迅速發展的特點，今天的武裝部隊在組織結構上與后拿破侖時代歐洲的職業軍隊并沒有很大的區別。太多的人仍然參與到軍事任務中，而這些任務技術可以做得更好更快，并且對于重新思考人類對人機團隊的認知貢獻也沒有給予足夠的重視，而這正是解決未來指揮和控制（C2）問題所需要的。

本文以QinetiQ公司早先的一份報告為基礎，該報告將信任視為軍事能力的基本組成部分和2020年代軍事適應性的基本要求。本文探討了在軍事決策中越來越多地使用人工智能的最新趨勢和想法。本文并不直接關注這一趨勢的倫理（或法律）問題，盡管這些問題很重要。相反，本文強調了信任作為人工智能時代軍事指揮的一個因素的重要性和意義。

人工智能對軍事決策和C2的潛在深遠影響很少引起專家團體以外的關注。大多數公眾關注的是技術的優勢和風險，而不是人類認知和制度構建的潛力和限制。20多年前，著名的社會生物學家E-O-威爾遜抓住了人類當前的挑戰。威爾遜說，真正的問題是，"我們有舊石器時代的情感；中世紀的制度；和神一樣的技術。"在過去的幾十年里，技術的發展速度遠遠超過了人類適應它的能力。強調人工智能的技術屬性，而忽略其日益增長使用中的人類和制度層面，只會使挑戰更加復雜。

在許多領域，人工智能的軍事經驗仍然有限，需要做更多的工作來了解人工智能在人類決策中作用日益增長的影響。本文旨在引發一場更廣泛的辯論，討論英國國防企業內部所需的文化和組織變革，包括指揮部和指揮官的作用，以確保人工智能在未來軍事決策中的最佳使用。

本文的見解來自與人工智能、人類認知、軍事決策和信任理論有關的更廣泛的文獻。這項研究在2021年9月至2022年2月期間進行，大大受益于與來自國防、學術界和工業界的廣泛專家和用戶的訪談。

前兩章提供了本文的理論背景。第一章探討了人工智能和信任的概念，第二章則分析了人類機構的作用以及人工智能對人類做出選擇和決定的認知能力的影響。第三章結合信任、人工智能和人類機構的概念，提出了一個在人工智能支持的軍事決策中發展信任的五維框架。第四章擴大了對C2的分析范圍，特別關注人工智能對傳統上支撐武裝部隊行使權力和指導的人和體制結構的影響。最后一章提出了對未來指揮、領導和 "全軍 "團隊的進一步研究領域。

1. 人工智能和信任

對于人工智能或與人工智能有關的信任，并沒有標準的定義。這兩個概念都有不同的解釋，有時也會有激烈的爭論。本章沒有試圖綜合所有關于這兩個術語的文獻，而是建立了一個基準定義，為隨后討論關于人工智能應用于軍事C2的信任作用提供框架。

1.1 人工智能的性質和類型

人工智能的概念起源于1950年著名的圖靈測試，該測試發生在這個詞被創造出來的幾年前。通過關注它做什么而不是它是什么，更容易將人工智能概念化。人工智能 "試圖讓計算機做人類思想能做的各種事情"。在最基本的方面，它可以被理解為追求特定任務的虛擬信息處理能力。正如 "智能"（或 "思想"）有許多層面和不同的用途，人工智能也是如此。因此，人工智能從廣泛的學科中汲取不同的想法和技術，不僅包括數學和計算機工程，還包括哲學、經濟學、神經科學、心理學和語言學。

廣義上講，有三種不同層次的人工智能：人工狹義智能，通常被稱為 "狹義人工智能"；人工通用智能，有時被稱為人類水平的人工智能；或者更強大的人工超級智能，超過人類的智能水平。在這一點上，有些人認為會出現一個奇點，在這個奇點中，人工智能要么變得有自我意識，要么達到持續改進的能力，使它的發展超出人類控制。后兩種水平被認為仍有一段距離，盡管距離有多遠還存在爭議。不過，就目前而言，狹義人工智能更先進應用的出現，如先進的機器人技術，加上計算能力的爆炸，才是目前關于人工智能的軍事用途辯論的主要動力。本文重點討論狹義人工智能的應用。

圖 1：AI 類型的簡化分類

在狹義的人工智能中，還有更多的類別，盡管這些技術并不完全是離散的，而且經常被結合使用。最常見的區別是符號人工智能和亞符號或非符號人工智能，前者通常被描述為基于邏輯，后者基于自適應或學習。符號人工智能依賴于順序指令和自上而下的控制，使其特別適合于確定的問題和基于規則的過程。非符號人工智能，其中神經網絡是一種常見的方法，涉及并行、自下而上的處理和近似推理；這與動態條件和數據不完整的情況最相關。符號人工智能提供了精確性和可解釋性，而涉及神經網絡的非符號人工智能則不那么脆弱（網絡中缺少一個節點并不會導致整個網絡無法運行），并且能夠在沒有明確規則或一致證據的情況下識別模式。

有三種常見的機器學習類型，根據有助于智能體學習過程的反饋類型進行區分：監督學習；無監督學習；以及強化學習。在監督學習中，系統被訓練來產生假設或采取具體行動，以追求基于特定輸入的目標值或輸出（被稱為標簽）（例如，圖像識別）。無監督學習沒有設定規格或標簽，也沒有明確的反饋；相反，系統通過尋找數據中的模式進行學習（例如，DNA序列聚類）。強化學習依賴于一個反饋回路，通過試錯或獎懲機制穩定地強化系統的學習行為（例如，先進的機器人技術或無人駕駛汽車）。與監督學習不同，強化學習中使用的輸入數據不是預先定義的，這允許更廣泛的探索，但與無監督學習不同，它有一個預期的應用或總體目標（與總體獎勵最大化相關）。

所有三種類型的機器學習，無論監督或自律的程度如何，都提出了重要的信任和值得信賴的問題。所需的信任程度和性質因使用人工智能的目的不同而不同。

1.2 概念：信任（Trust）

信任描述了兩個或多個智能體之間的互動。信任的傳統定義是假設信任者對受托人的能力和善意（或動機）存在合理的信念。對許多人來說，道德誠信（或意圖）的問題是信任與其他概念（如信心）的區別。另一些人認為，信任的范圍和所指比信心更廣，后者被視為與具體事件相關的獨立判斷。大多數信任的定義趨于統一的是一種脆弱的感覺。沒有背叛的可能性，沒有風險的存在，就不可能有信任。

正是因為經典的信任概念中隱含著假定的道德因素，一些人質疑使用該術語來描述人類與人工智能體的關系。他們認為，在目前狹義人工智能的水平上，我們不能將意向性或道德機構歸于人工智能系統，因此使用 "信任 "一詞是不恰當的。另一些人采取了不那么純粹的觀點，并以反映日常使用的方式應用該術語，意味著對系統的可靠性有信心。

信任作為一個術語在計算機科學中被廣泛使用。更重要的是，信任仍然是公眾和用戶接受人工智能的一個基本方面。今天，關于人工智能的國家政策、法規和專家建議經常強調 "值得信賴的人工智能 "的必要性。例如，DARPA的空戰進化計劃正在探索方法，以模擬和客觀地衡量飛行員在斗狗時對人工智能的信任。認識到這些尚未解決的定義問題，作者選擇了略微調整 "信任 "一詞，使之與通常的做法一致。

作者調整后的信任概念需要對人工智能的表現有一定的預期，而不需要假設人工智能方面的特定動機。因此，對人工智能體行為的積極預期可能是信任存在的充分條件，而不考慮意圖。

在目前大多數關于人工智能的討論中，重點往往是人作為信任者，系統作為受托人，盡管任何認知智能體，包括自主機器人和智能機器，原則上也可以履行信任者的角色。這樣理解的話，信任就成了 "系統成員之間互動的促進者，無論這些成員是人類智能體、人工智能體還是兩者的組合（混合系統）"。事實上，在人工智能更成熟的應用案例中，受托人最有可能同時包括人工智能支持的系統（人工智能體）和該系統的提供者（人類智能體）。在目前的人工智能水平上，信任似乎是一種單向的關系，涉及人類 "信任 "人工智能的程度，而不是真正的雙向信任，即人工智能對人類表現的看法。

各種因素決定了（人類）對技術的信任，包括但不限于信任者的能力水平和信任傾向，以及整體環境或背景（包括更廣泛的文化和機構動態）。除了這些針對人類和環境的考慮，決定一個人或組織對人工智能的信任程度的是技術的性能、過程（它如何產生特定的輸出），以及重要的是目的。所有這三者都決定了人工智能系統的設計和部署。

除了技術的穩健性和安全性，隱私、公平、透明度和問責制是一些最常被提出的影響公眾對人工智能信任的問題。然而，主要是由于設計適當的算法、理解復雜軟件系統的內部結構以及為基于算法的決策賦予責任等方面的困難，所以在值得信賴的人工智能的關鍵屬性列表中總是會加入進一步的考慮：這被交替稱為人類機構、監督或有意義的控制。在某些情況下，保持人類對技術使用的監督可能是唯一的保護措施，以防止無意中出現有偏見的、不可捉摸的和/或監管不力的人工智能系統的風險。

1.3 概念：控制（Control）

控制通常被看作是信任的反面。當對智能體執行任務的能力有信任時，就不需要監督。然而，即使在人工智能更適合做決定的情況下，人類也會經常傾向于干預。信任不足可能和過度信任一樣有風險或適得其反。事實上，正如絕對的控制是罕見的，絕對的信任也是如此。在開發和使用人工智能的過程中，有必要在適當的信任水平和適當的控制水平之間取得謹慎的平衡。這是 "校準的信任 "或可適應/適應性自主性等概念的核心。信任是根據人工智能的能力來校準的，對人工智能能做什么或不能做什么的期望將影響信任的水平。同樣，在可適應的自主性的情況下，用戶定制自主性水平的能力可以支持更大的信任水平。這在國家安全決策中尤為關鍵，因為信任或不信任人工智能的影響可能是最大的。

對技術在人類事務中的作用的擔憂并不新鮮。許多人認為關于人工智能的辯論與之前關于技術的爭論沒有什么不同。根據這一論點，人工智能構成了一種進化，而不是對過去活動的徹底背離，即使人類有時可能在背離以前的自動化水平的情況下被從決策圈中移除。雖然信任仍然是一個挑戰，特別是在機構和社會層面，但穩步應用最初仍然有限的人工智能來支持軍事活動，隨著時間的推移，可以培養出熟悉和越來越多的信心。

其他人，通常是政府以外的人，質疑這種漸進式的方法。他們認為人工智能的崛起是一種范式的轉變，與以前的任何技術都有質的不同。以前的技術都沒有將人工智能的雙重用途特性、傳播的便利性和實質性的破壞潛力結合起來。在過去，最具破壞性的技術都在政府的控制之下，或者在軍事領域之外幾乎沒有應用。此外，雖然以前政府主導了大部分新技術的開發，但這種趨勢幾乎完全逆轉；現在大部分投資和創新來自于工業。鑒于軍事和民用界限的模糊，以及我們的對手和競爭者對人工智能的投資，認為我們可以控制人工智能發展和使用的速度和程度是不明智的。在反思算法技術的進步時，一些人甚至進一步聲稱技術和人類之間的角色發生了逆轉，人們正在成為 "人類的人工制品"和"（技術系統的）智能體"。

如果我們接受對人工智能系統在未來如何操作（和運行）進行完全控制的限制，關鍵問題是我們如何在算法超過目前的性能水平后長期確保適當的交互和人類判斷。反應時間是軍事競賽中的一個關鍵優勢；加快OODA（觀察--方向--決定--行動）循環的各個方面，通常會給那些先到者帶來領先優勢。而這樣做只要一方開始使用人工智能來加快他們的決策和反應時間，另一方就會受到壓力。

2. 人工智能和人類機構

2020年12月，美國空軍首次使用人工智能副駕駛飛行了一架軍用飛機。這種被稱為ARTUμ的算法完全控制了傳感器的使用和戰術導航，而其人類隊友則駕駛著U2間諜飛機。這是首次出現人工智能控制軍事系統的情況。用美國空軍前首席采購官員威爾-羅珀的話說，ARTUμ "是任務指揮官，是人機團隊的最終決定者"。

甚至在ARTUμ演示之前，美國國防部已經開始了其全域聯合指揮控制（JADC2）計劃的工作。JADC2旨在打造連接五個軍種的傳感器，承諾對作戰環境進行快速分析，以便在幾小時或幾分鐘內做出決策。在未來的JADC2中，人工智能將允許快速處理數據，為目標識別提供信息，并推薦最佳的交戰武器（無論是動能還是非動能）。美國空軍的先進作戰管理系統、美國陸軍的 "聚合項目"（被稱為 "學習運動"）和美國海軍的 "超配項目 "都在嘗試使用人工智能與自主性相結合的方式來支持JADC2。

其他國家，包括英國通過英國陸軍的 "Theia計劃"等項目，以及北約也已經開始嘗試使用人工智能來支持C2和決策。然而，這種試驗的規模和范圍仍然有限。與數據挖掘和語言翻譯等領域不同，人工智能在軍事決策中的應用仍處于起步階段。

美國國防部高級研究計劃局目前開展的工作提供了對未來的一瞥。作為其 "AI Next "項目的一部分，該機構的第三波人工智能投資尋求 "將計算機從工具轉變為解決問題的伙伴"，并 "使人工智能系統能夠解釋其行動，并獲得常識性知識并進行推理"。

2.1 人工智能的民事與軍事用途

人工智能已經塑造或推動了我們的許多日常決策。在某些情況下，它已經改變了整個行業。在高度交易性的活動中尤其如此，如保險或零售部門。人類已經將關鍵活動的責任交給了人工智能，讓算法在沒有人類干預的情況下做出決定。今天，人工智能塑造了谷歌和Facebook等網絡平臺提供的內容，也決定了哪些內容被刪除或屏蔽。保留了人類因素的人工智能決策支持系統也在激增，被用于從醫療診斷到改善制造工藝的各個方面。

很少有地方像金融業那樣，人工智能從根本上改變了人與機器的關系。人工智能現在負責絕大多數的高頻交易。在幾毫秒內做出的數千項微觀決定有能力改變整個財富，有時會帶來毀滅性的后果，2010年的 "閃電風暴 "證明了這一點。人類的決定對于金融市場的效率不再是必要的，事實上，甚至可能會起到反作用。無形的算法似乎已經超越了無形的手。

至于社會的其他部分，人工智能的潛在軍事用途涵蓋了廣泛的應用范圍。這些可以有效地分為企業、任務支持和業務人工智能應用。人工智能的軍事應用，特別是與任務支持和作戰用途有關的應用，在一些基本方面與日常的民用活動不同。在平民生活中，人工智能有機會利用大量容易獲得的數據，不斷針對現實生活中的例子進行訓練和學習。對于軍隊來說，與對手的接觸是零星的，來自真實行動的教訓或 "數據 "在數量和頻率上都相對較低。除了軍事對抗的偶發性質，國家安全決策通常依賴于一套復雜得多的條件，涉及多個參數和利益相關者（更不用說對手的意圖），而今天的算法沒有能力再現這些條件。最后，也是最重要的一點，在國防和國家安全問題上，面臨風險的不僅僅是財富，還有生命。數學邏輯不足以為決策提供依據；在使用武力時，道德和倫理考慮比任何其他人類活動都要突出。當人類生命的完整性受到質疑時，我們為技術設定的標準將永遠高于我們為容易出錯的人類設定的標準。

除了美國、英國和北約等國的現行政策外，人們普遍認為人類將在決策中保留一個關鍵角色。美國國防部的人工智能戰略指示以 "以人為本的方式 "使用人工智能，有可能 "將人類的注意力轉移到更高層次的推理和判斷"。納入人工智能的武器系統設計應 "允許指揮官和操作人員對武力的使用進行適當的人類判斷"，并確保 "清晰的人機交互"。提到人類總是 "在循環中 "和 "完全負責選項的開發、解決方案的選擇和執行"--這是以前對我們日益自動化的未來的評估中的常見說法--已經被一種更細微的觀點所取代。

所謂的有監督的自主系統是指人類坐在 "循環 "上。雖然人類在理論上保持監督，但一些批評者認為，在實踐中，他們可能無法真正控制自動決策，因為他們可能不熟悉為他們提供決策信息的環境和人工智能程序。在這些情況下，人類的干預能力，除了停止機器之外，被降到最低，沒有達到"有意義的人類控制 "的想法。只有在完全自主系統的情況下，人類的干預才會被完全消除。然而，最終，試圖定義自主性水平的做法可能會產生誤導，因為它們假定人類和機器之間的認知活動是簡單分離的。2012年美國國防科學委員會的一份報告描述了如何:

• 沒有完全自主的系統，就像沒有完全自主的士兵、水手、空軍或海軍陸戰隊一樣。也許對指揮官來說最重要的信息是，所有的系統在某種程度上都由人類監督，而最好的能力來自于人類和機器的協調和合作。

兩個領域的發展揭示了各國政府在國防和國家安全的關鍵決策中信任先進的自動化方面已經走了多遠。一個是導彈防御，另一個是網絡防御。兩者的有效性都取決于反應速度，這通常超過了最有經驗的人類操作員的能力。

大多數防御性武器系統，從短程點防御到反彈道導彈系統，都采用先進的自動化操作，使其能夠在沒有人類干預的情況下探測和摧毀來襲導彈。算法實際上是在發號施令。在這種系統中，人類被稱為 "循環"，在事先經過嚴格的人類測試后，在有限的設計空間內運作，因此其控制范圍受到限制。雖然錯誤永遠不可能被完全消除，但在大多數情況下，不做出反應或反應遲緩的風險可能超過偶爾發生事故的風險。雖然事故促使人們對這些自主系統的操作進行審查，并可能導致引入一些進一步的人為檢查，但這種干預也帶來了進一步的復雜性。對越來越快的導彈，特別是高超音速導彈的防御將繼續推動人工智能在導彈防御中的應用。

網絡戰是人工智能相對于人類具有明顯優勢的另一個領域，而這往往需要人類保持置身事外。人類操作員缺乏算法快速檢測和應對網絡事件以及不斷調整系統防御的能力。所謂的認知電子戰（EW）系統應用人工智能技術來自動檢測對EW系統的威脅，而不是依賴人類操作員。

2.2 人類和人工的局限性

將決策過程中高度耗時、勞動密集型和需要低層次人類推理的部分自動化，有巨大的好處。軍事評估過程是軍事決策過程的一個關鍵部分，一直是參謀學院教授的標準作戰計劃過程。這種方法的一部分涉及收集和處理信息，為一個或多個行動方案提供信息。由于信息時代的決策需要更大的速度和敏捷性，達成決策的過程將需要加速。人工智能已經證明了它在基于明確定義的規則、輸入和假設快速執行理性過程中的效用。只要人類負責設定假設并定義產生替代方案和概率評估的輸入，人工智能就能增強整個決策過程。

可以理解的是，政府內部和外部都不愿意讓人工智能發揮超出決策支持和適當決策的作用。"指揮和控制"的概念在軍隊的心理和結構中根深蒂固，許多人無法接受一個在某種程度上不涉及人類控制軍事行動或指揮任務的未來。人被要求帶著他們對問題的創造性見解，像現代的亞歷山大一樣解開這個死結。沒有什么比對 "翠鳥時刻 "的信念更能體現這種對直覺型指揮官形象的依戀。這種技能，即指揮官藝術的精髓，只限于那些在最苛刻的情況下能夠憑直覺做出決定的少數人。人工智能提供并非基于人類邏輯或經驗的獨特見解的能力，對這種思維提出了深刻的挑戰，并可能在未來改變指揮官的形象。

許多人將人工智能稱為決策支持而不是決策工具，其推論是人類最終仍然是所有決策的仲裁者。這樣的區別造成了一種令人放心的錯覺，即人工智能只是協助實現一種效果。人類根據一套算法挖掘、篩選和解釋的數據做出的致命行動決定，是否比由智能機器完全執行的決定需要更多的人類機構？對 "行動 "的癡迷--更不用說致命行動--作為更廣泛的 "殺傷鏈 "的最后元素，掩蓋了人工智能在整個行動范圍內的一系列C2活動中日益增長的影響。

許多專家對人類是否有能力控制由人工智能促成或驅動的決策持懷疑態度。這種懷疑往往圍繞著所謂的黑盒問題：高級人工智能，如深度學習，在本質上是無法被人類理解的。這不僅僅是由于它的工作速度，也是由于算法網絡相互作用的方式，以及它們所操作的數據的規模和復雜性。我們不能簡單地詢問系統以了解其思維過程。我們可能知道一個模型的輸入和輸出，但卻無法理解這中間發生的事情。一個相關的、更微妙的論點是，算法對人類的認知攝入施加了 "權力"。人工智能可以決定人類處理哪些信息，而不向他們透露哪些信息被遺漏或拒絕。它還挑戰了這樣一個概念，即如果人類的行動受到數據呈現的內容和方式的制約，他們可以行使 "有意義的 "控制。這與人工智能的好處之一正好相反，即它能夠減少人類的認知負荷，使人類能夠集中精力思考和作出最高價值的活動。

對黑盒挑戰的典型解決方案是開發可解釋的人工智能（XAI）。盡管能夠自我解釋的人工智能可能有助于理解，但它并不必然會導致信任。XAI并不等同于可解釋的AI；解釋不是一個決定，而是一個關于決定的敘事。因此，即使是一個令人信服的解釋也不一定是真的。對于許多潛在的用例，我們還遠遠沒有能力開發出足夠的可解釋（Explainability）的人工智能，更不用說可因果解釋（Interpretability）的了。對更先進的人工智能系統進行嚴格的測試可能會證明它們的部署是足夠的，即使是在沒有人類能力遵循其推理過程的情況下。不過，從根本上說，我們對測試的傳統方法需要重新思考。沒有充分的測試和評估，對不可解釋/可解釋的人工智能的信任將是 "盲目的信任"。對于美國前國防部副部長鮑勃-沃克的問題，我們仍然缺乏一個令人滿意的答案：你如何對學習系統進行測試和評估？

當存在不確定性或缺乏知識時，人類會應用啟發式方法來近似解決復雜問題。啟發式方法是驅動直覺思維的因素；它依賴于經驗法則，通常是通過經驗和實驗來了解。因此，它可能存在偏見和盲點，但它也可以作為一種非常強大和有效的快速認知形式。機器缺乏類似人類的直覺，但它們確實依靠啟發式方法來解決問題。與人類推理的關鍵區別在于，機器不需要記憶或 "個人 "經驗就能進行 "直覺 "或推理。它們利用巨大的數據庫和卓越的概率能力為決策提供信息。強大的模擬與先進的計算能力相結合，提供了一個測試和 "訓練 "算法的機會，其重復程度是人類無法想象的。在宣布任務準備就緒之前，ARTUμ在短短一個多月內經歷了超過一百萬次的訓練模擬。

即使在XAI領域取得了重大進展，仍然會有謹慎的理由，特別是在需要復雜決策的情況下。人工智能通常不善于看到 "全局"，也不善于根據相關的內容做出決定。像人類一樣，它也會把相關性或偶然事件誤認為因果關系。人類和機器在處理復雜問題時都會遇到 "正常的意外"。創造力是人類通常具有的特質，但一些先進的人工智能可以產生人類無法企及的驚人結果。簡而言之，許多通常被認為是人類特有的屬性，如創造力和直覺，也可以說適用于人工智能系統--盡管方式不同，速度超過人類能力。

目前機器所缺乏的是人類思維的靈活性和關聯感（"框架 "的能力）。人類可以橫向思考，通過實用主義得出合理的結果（這一過程被稱為歸納推理），并反思自己的思維過程（這一能力被稱為元認知）。這些心理過程可以產生驚人的適應和創新的壯舉。

人工智能的出現意味著未來的軍事決策將幾乎肯定需要更強大的人機共生關系，就像在已經接受該技術的商業組織中看到的那樣。目前的討論大多是假設人類繼續控制，或尋求將人類的屬性應用于未來的機器。一些人提倡一種新的 "決策演習"概念，將 "人的指揮和機器的控制"結合起來。但更有可能的是，指揮和控制的責任將越來越多地由人類和人工智能系統分擔，其方式可能是目前難以設想的。人類與人工智能的合作提供了利用各自優勢和減少不足的最佳方式，特別是在戰爭方面（目前戰爭的性質仍然沒有改變）有四個連續性：政治層面；人類層面；不確定性的存在；以及戰爭是一場意志的較量。

3. 信任的維度

信任是動態的；它隨時間而變化。它的最初形成是至關重要的，但它的持續發展也是如此。信任是隨著熟悉程度的提高而自然產生的，因此，假設經驗是積極的，即使是在對技術不完全了解的情況下，技術的使用也會擴大信任的范圍。反過來也是如此，不好的經驗會促進不信任。移動電話技術復雜性對大多數用戶來說是未知的，但人們的積極經驗給了他們使用的信心。這種信心導致了與手機使用所形成的決定相適應的信任感。然而，手機一般不會決定生死大事，盡管它們會將盲目聽從指示的不謹慎的司機置于危險之中。在軍事背景下，賭注更大，用戶和策略制定者非常清楚他們的決定的潛在后果--信任門檻很高。

軍隊作為應急組織，不需要定期交付其主要產出，這影響了可以獲得最直接相關經驗的速度。與金融服務業不同的是，在金融服務業中，交易為人工智能決策提供了頻繁的驗證，而國防部門的時間線往往更長，結果在一個單一的因果鏈中也沒有明確的聯系。做出決定和觀察其影響之間的時間間隔更長，并受制于多種干預變量。雖然模擬演習創造了獲得經驗的機會，但它們只是現實的近似值。

3.1 信任點（Trust Points）

建立和維持信任涉及五個主要的 "Trust Points"--在這些點上，擁有適當水平的信任問題是至關重要的。這些點是：

• 部署信任：使用人工智能的目的
• 數據信任：正在使用的數據輸入
• 過程信任：數據如何被處理
• 輸出信任：由人工智能產生的輸出
• 組織系統的信任：優化使用人工智能的整體生態系統

總的來說，這些Trust Points定義了一個整體的信任水平，并且是乘法的：如果對其中一個的信任是 "零"，那么整體就是 "零"。只要整體信任是正向的，每個人的信任水平都可以變化--在不同的時間。

部署信任

對在特定情況下使用人工智能的決定的信任是至關重要的。對于人工智能的軍事使用（以及許多民用應用），這在三個層面上運作：社會；組織；和個人。第一個層面考慮的是整個社會是否愿意允許人工智能的使用，這將決定策略制定者如何看待它的使用。組織本身也必須愿意認可這一點。最后，個人必須愿意在這個角色中與人工智能合作。所有這三個層次都需要接受使用人工智能的必要性或其可取性的必然性。可取性可能反映了人工智能在以超過人類操作員的速度或數量（或兩者）處理數據方面的優勢，或在承擔枯燥或危險的工作方面的優勢。而軍方可能會認為，人工智能既實用又要避免將優勢讓給對手，但社會似乎更傾向于將致命的使用視為一個倫理問題，在這個問題上，人類生命的神圣性要求道德行為者決定奪取人的生命。

社會對人工智能使用的接受程度在很大程度上取決于其經驗、有效的溝通和教育，這將有助于為人工智能的使用選擇提供依據。在許多情況下，社會的某些部分可能會比軍方更多地接觸、熟悉和信任人工智能，但致命自主權可能仍然存在問題。雖然沒有致命自主權那么直接的威脅，但在決策中使用人工智能會帶來自己的挑戰，其中最重要的是在一個算法越來越強大、人機協作越來越緊密的世界里，"有意義的人類控制 "究竟意味著什么。

在組織層面，存在關于如何部署作戰和任務支持人工智能的重要問題：是以集中的方式在更高的戰略層面運作，還是以更分散的方式在戰術層面運作。在后一種情況下，人工智能將進一步滲透到組織中，變得更加分散，并用于反應時間可能限制人類干預或驗證人工智能的范圍。組織需要明確決定是否使用人工智能的原則，以及管理其使用的方法（見下文 "過程信任"）。關于使用人工智能的決定必須考慮如果系統失敗會發生什么。美國國家航空航天局（NASA）由于擔心系統故障的后果而沒有充分利用其早期火星車的自主能力，對火星車進行微觀管理，并通過大型人類工程師團隊減輕風險。外部組織，如商業技術供應商，的想法也很重要。例如，谷歌的員工迫使該公司在2018年退出一份軍事合同，因為他們擔心軍方對面部識別技術的使用。

個人對人工智能的熟悉程度也將是重要的。目前，從事軍事人工智能工作的人是其使用的倡導者，但隨著接觸人工智能的人群的增加，這種情況將發生變化。與前幾代人相比，接觸技術較多的年輕軍人可能更容易接受人工智能在軍事決策中的應用，但在基礎等級的聯邦結構中，人才幾乎完全來自內部，對其使用的阻力可能來自那些有權力的人；這可能造成機構接受問題。然而，在 "代際特征 "方面，存在著過度簡化的危險。雖然年輕人是在較新的技術中長大的，而且可能更信任它，但技術是可以學習的。代際假設不能成為不使用現代技術的借口。

部署信任是復雜的，因為大多數西方國家的大規模防務活動都是以聯盟行動為前提的，而不是每個盟友或伙伴都對什么是可接受的人工智能的軍事用途有共同的看法。國防部和政府需要更好地傳達他們在使用人工智能方面的方法、用途和保障措施，包括向盟友傳達，而不向對手透露太多信息，因為他們可以制定戰略來抵消（或更糟）人工智能功能的優勢。北約將通過其公共宣傳活動、與成員國在政治層面的聯系以及在不同技術發展階段的軍隊中建立規范，在這方面發揮關鍵作用。

數據信任

這涉及到對人工智能做出判斷的數據的信任程度，這些數據為人類決策提供了依據。雖然測試硬件和軟件相對容易，但測試數據，甚至是準備讓人工智能接受訓練的數據，則更加困難。數據對于人工智能的有效學習至關重要。一些數據將被控制，駐留在現有的國防系統內，或從可靠的外部來源進行驗證，盡管國防部在數據的分類（不一致或不準確）、存儲、訪問和共享方面存在困難，特別是在較高的分類級別。不受控制的數據，如開放源碼數據，是在沒有人類知識或理解的情況下通過聚合產生的，這更具挑戰性。此外，狡猾的對手會試圖注入虛假數據，以破壞決策過程，或用不相關或不準確的數據淹沒決策過程。

武裝部隊需要定義、構建、清理和分析數據的能力，以及開發和維護底層基礎設施（如連接、安全和存儲容量）的能力。這是一個多學科的團隊工作，需要能夠在數據科學生命周期的所有階段工作的 "全棧 "數據科學家。現代戰場將需要更加多樣化的技能，包括心理學家、律師和通信專家。鑒于商業世界對這些技能的需求，吸引和保留這些專家的數量將是困難的。這將需要更靈活的人力資源做法和/或對整個部隊更復雜的理解和使用，包括允許非軍事人員在軍事總部擔任有影響力的職位。

過程信任

過程信任指的是人工智能系統如何運作，包括數據如何處理（匯總、分析和解釋）。目前英國國防部的（狹義的）人工智能決策支持系統吸引了高信任度，因為算法相對簡單且可預測。它們也僅限于參與開發的一小群用戶，或者認識那些開發了人工智能系統的用戶，并且了解該技術。該技術受益于一種源自人們對人類的信任的過渡性信任。雖然不是人工智能，但法國陸軍引進的包裝降落傘的機器導致了降落傘團的信心喪失。堅持要求機器的主管用機器隨機選擇的降落傘打包跳傘，有助于恢復用戶的信心。讓開發人員更接近指揮系統的用戶會有所幫助。法國的采購程序允許某些單位直接與人工智能供應商接觸，以建立對開發商的了解和關系。開發商成為一個關鍵的信任點，如果不是軍隊，他們必須了解和熟悉軍隊的情況。這可能需要加大投資，讓商業伙伴了解軍隊的工作方式，并確保軍事人員了解其文職同事。

要求高水平的可解釋性和透明度并不是一個永久的解決方案，目前限制了英國防部對更強大的、非符號形式的人工智能的訪問。隨著機器學習使技術超越其最初編程的參數，將需要不同的方式來確保對可能看起來是黑盒的信任。隨著這種人工智能系統的使用激增，因了解設計者而產生的過渡性信任將減少，在這個過程中克服最初的信任不足或過度信任將更加困難。應避免過度依賴過程信任，并加強其他信任點，以開發適應能力越來越強的人工智能。

過程信任必須超越技術本身。它需要信任那些為技術提供能量、與技術一起工作并接受技術產出的人類過程。因此，必須同樣重視那些共同構成整體過程的其他活動。這包括培訓和人員的過程，以及如何組建團隊。

輸出信任

對人工智能產出的信任對決策者根據他們收到的信息采取行動至關重要。即使是人類提供的情報，如果原始信息指向不同的方向，指揮官要求新的情報來支持他們的先入之見（一種 "基于決策的證據制作"）也不是沒有。而隨著數據的激增，不同的解釋將成為可能，合法的或符合先入為主的解釋。因此，出現了這樣的問題，即人工智能或事實上的人類分析能夠現實地提供什么答案，以及如何驗證輸出。在友軍的部署和對手的物理位置方面，人工智能有可能提供更快的態勢感知。然而，盡管可以從現有的數據中得出更好的推論，但對手的實際意圖是無法可靠地確定的。可預測性通常被視為信任的關鍵因素，但在不穩定的環境中，能夠適應不穩定環境的人工智能輸出會被解釋為不可預測。為了克服這個問題，Bonnie M Muir認為，人類操作員必須具備估計技術可預測性的能力。這種可預測性也會影響整個部署和過程信任點，但在輸出信任方面最為敏感，以反映軍事行動等流動性和不可預測的環境。在這些情況下，數據還必須反映軍事決策者所面臨的大多數情況的離散性和特定對手的獨特文化方式，這加劇了建立大量訓練數據的難度。即使在情況類似于過去的事件時，由于缺乏可比的歷史數據來說明廣泛的變量，使得概率推理變得困難。

用Patricia L McDermott和Ronna N ten Brink的話說，輸出的校準是至關重要的。這可以通過更多地使用企業人工智能和模擬來實現，它擴大了信任的邊界，可以幫助開發輸出信任。如果經驗是積極的，與技術互動并看到它的輸出將產生信任。在作戰環境中，當描述可以知道和檢查的東西時，驗證將是最容易的（例如，關于自己部隊的數據和潛在的對手部隊的布局）。要接近了解對手的意圖是比較困難的，因此需要更高水平的輸出信任。這將包括提高描述的準確性和對從大數據處理中得出的推論進行更多的測試。分享演習和行動的正面敘事，對于實現過渡性信任和緩解從相對不頻繁的行動中積累成功證據的緩慢速度至關重要。

組織系統的信任

生態系統的信任涉及調整更廣泛的組織系統以最大化人工智能的價值所需的信任。C2系統作為一個整體必須被配置為利用人工智能輔助決策的好處，并有適當的檢查和平衡，以在可接受的風險水平內運作。當人工智能的弱點或失敗是在主管的專業知識之外的領域，需要在組織的不同部分進行校準時，這一點尤其重要。如果不在生態系統和組織層面上進行變革，組織將只是將其人類系統數字化。

需要生態系統的信任，以確保結構--包括軍事總部的組織、指揮官的角色以及集中式與更分散或分布式的決策權的平衡--準備好利用人工智能的機會。如果沒有準備好，采用人工智能的漸進式方法往往會鼓勵對結構和整體生態系統的變化采取被動或消極的方法。相比之下，實現人工智能變革力量的專門戰略將迫使人們盡早重新思考支持這種戰略所需的組織。這需要重新思考傳統的軍事結構，但對于走多遠并沒有共識。一些人設想總部變得更扁平，并將非軍事人員納入高級職位，在決策過程中擁有權力。對另一些人來說，生態系統的變化更為深刻；它要求完全取消目前被視為工業時代遺留的工作人員組織系統。這樣做，他們打算消除扼殺理解的信息邊界，并挑戰決策金字塔尖上的獨當一面指揮官的想法。這種轉變需要整個組織生態系統的信任。對于像軍隊這樣的保守組織來說，這將是困難的，在指揮部的激進替代方案被接受之前，需要得到保證。實驗、戰爭游戲和模擬環境提供了低風險的選擇，以測試為特定類型的任務（例如，戰爭、和平行動和能力建設）配置的不同總部結構。

3.2 多少信任是足夠的？

信任是根本，但為技術設定一個不可能高的標準也有風險。幾千年來，指揮官和決策者們一直信任易變的人類。當人工智能開始觀察到輸入數據分布的變化時，技術可以通過自我監測的方式提供幫助，提醒人類 "操作員"，或以以前未曾見過的方式進行操作，這樣錯誤輸出的風險會更大。風險容忍度，無論是關于人類還是機器演員，最終都是信任的表達。國防組織需要對自己是否是快速采用者或快速或緩慢的追隨者持誠實態度：商業世界的人工智能發展速度使大多數武裝部隊極不可能成為人工智能決策的 "第一用戶"。漸進派和未來派都是人工智能的支持者，他們之間的差異主要是風險問題，以及針對不同信任點的可實現的信任水平。

通過熟悉產生信任是至關重要的，這可能涉及到將軍事人員嵌入到使用復雜人工智能的商業組織中，或將平民帶入國防。這種變化需要在足夠高的級別上進行，以促進生態系統的信任。模擬、實驗和演習是重要的工具，而且必須足夠廣泛，以便不局限于一小群狂熱者。英國電信公司用人工智能決策支持工具取代英國的電話網絡的項目，當服務時間最長、知識最豐富的工程師與人工智能和數據專家合作時，效果最好，他們可能會對人工智能產生懷疑。將企業人工智能引入改革業務流程，如財務和人力資源，是將熟悉程度擴大到目前直接參與人工智能開發和使用的少數干部之外的另一種方式。

一旦熟悉的東西，信任是人類的天性，但信任的習慣會帶來自身的風險。眾所周知，人類不善于設定正確的目標，當遇到 "專家意見"（無論是人為的還是其他的）時，他們更容易同意而不是懷疑。必須避免 "信任和忘記 "的動態。一個考慮因素是為人工智能系統制定一個 "持續可信性 "的概念，類似于航空平臺的持續適航性，以確保它們仍然適合使用。因此，建立對人工智能的信任（并避免過度信任）的努力必須解決所有的信任點，并包括整個人類-機器團隊，其中人類操作員是其數字對應方的有效合作者和建設性批評者。

4. 對指揮部和指揮員的影響

人工智能對決策的知情、制定和實施方式的影響將是深遠的。通過以超越目前人類進程的速度處理大量的數據，人工智能可以提高對作戰環境的理解，并減少決策者的認知負擔。這不僅僅是今天工作方式的演變。僅僅加快當前C2系統的速度是不切實際的。一輛設計為以70英里/小時速度行駛的汽車是為以該速度運行而配置的。將發動機調整到每小時100英里的速度也許是可能的，但會給車輛系統和駕駛員帶來無法承受的壓力。由人工智能驅動的決策所代表的不連續性需要一種新的方法。正如多國能力發展運動（MCDC）所述。

無論我們未來的C2模型、系統和行為是什么樣子，它們都不能是線性的、確定的和靜態的。它們必須是靈活的、自主的、自適應的和自我調節的，并且至少與它們形成和運行的環境一樣具有偶然性和突發性。

軍隊必須為明天的C2進行重組，并以不同的方式培養他們的指揮官和工作人員。如果沒有這些變化，"生態系統信任"可能被證明是不可能實現的。

4.1 指揮和控制

C2包含兩個不同的元素：指揮，通常與創造力、靈活性和領導力相關；以及控制，與規則、可預測性和標準化相關。人工智能將首先影響控制功能，目前，指揮仍主要是人類的活動。人工智能的數據處理能力將消除控制的大量負擔，例如，為指揮官提供對其部隊的更好理解（如部署、狀態、設備和供應水平），目前這需要消耗大量的注意力和時間。它還將改變向指揮官提供信息的方式。目前，這些數據大部分是在 "拉取"的基礎上提供的--根據總部的報告程序要求或零星地收集。然而，人工智能可以持續監測局勢，并通過強調相關變化的活文件將信息推送給指揮官--類似于24小時的新聞編輯部。然而，通過進一步進入控制領域，人工智能將不可避免地影響指揮權的行使，并形成指揮決策；這對上述指揮和控制之間過于整齊的區分提出了挑戰。在未來的C2系統中，可以想象人工智能可以限制指揮權的行使，就像防抱死制動系統、牽引力控制和電子穩定性允許人類駕駛員指揮車輛，直到失去控制，此時系統會接管，直到情況穩定下來。

人工智能給人類指揮帶來了一個悖論。它同時使更多的知識被集中掌握，使總部能夠看到并與 "前線 "發生的事情互動，并將知識擴散到整個指揮系統，使較低級別的編隊能夠獲得以前只有高級指揮官才有的信息。將更多的權力下放給地方指揮官可以提高反應能力，這在事件發展不可預測、需要快速反應的情況下非常重要。西方武裝部隊傾向于采用（或多或少）任務指揮的概念，即指揮官的意圖描述了預期的效果，并允許下級指揮官根據他們面臨的情況自由執行。軍隊的學習和發展系統以及演習嵌入了這種方法--指揮官將需要相信人工智能能夠在其操作中實施這一意圖。鑒于數據和獎勵功能的戰略復雜性和模糊性，人工智能在戰術和作戰層面的使用可能比在戰略層面的指揮更有效，盡管這些層面并不離散，在現實中也不容易被分割開來。人工智能和更大的網絡連接將提供一個結構、流程和技術網絡，連接多個小型、分散的前方總部和分布式（和加固的）后方功能，即使在更透明的戰斗空間，也更難發現和反擊。如果敵人以C2系統為目標，這將增強復原力。

在每個層面上處理更大數據量的能力必須被仔細引導。人們應該能夠獲得與他們的地位和相對能力有關的信息，以影響他們在環境中發展。W-羅斯-阿什比將此描述為 "必要的多樣性 "問題：一個可行的（生態）系統是一個能夠處理其環境變化的系統。行為者應該在適合其任務的抽象水平上運作。一個旅部不能處理也不需要關于單個士兵的詳細信息；它需要對其下屬單位的身體和道德狀況有一個良好的總體了解。在更多的戰術層面上，NCO指揮官應該對他們團隊中的個人狀態保持警惕。戰略和作戰指揮官可能需要放松控制，讓戰術指揮官在更接近戰斗的地方利用新出現的機會。雖然任務指揮已經允許這樣做，但隨著高級別的指揮官獲得關于戰術層面發生的信息的空前機會，"控制"的誘惑會更大。

人工智能也需要使用抽象、近似和校準的杠桿，以避免將總部淹沒在數據洪流中。這需要在使用這些抽象和近似時的 "過程信任"。總部也可能需要使用不同的人工智能系統，其能力更適合或不適合不同時間范圍內的不同場景。決策也可能包括確定在特定情況下信任哪種人工智能模型（部署和過程信任）的因素。

人機聯合系統的自動化將提高人類的表現，在某些情況下，改變任務本身的性質。無論在什么層面上部署，人工智能不僅會影響人類執行任務的方式，也會影響人類執行的任務。目前的方法通常從研究哪些人類過程可以自動化開始，即人類工作的數字化。有可能從使用人工智能的假設開始，只有在人類是必要（出于法律、政策或道德原因）或可取（更適合這項任務）時才將人類放入系統中--決定什么不應該，而不是什么可以被數字化。這種方法挑戰了目前關于總部的規模、組織、人員配置和運作的概念。

4.2 對未來總體結構的影響

聯合概念說明（JCN）2/17指出，C2有可能在不同的戰爭層次（戰略、作戰和戰術）上發生變化，并對作戰環境的變化特征做出反應，因為作戰環境不再僅僅是物理環境。戰爭與和平的模糊性--強調了在 "行動 "和 "作戰 "之間的連續過程中有效的必要性--以及英國向能夠持續參與的部隊結構的轉變，將需要超越戰斗所需的方法。然而，可能沒有單一的總部原型；因此，為戰斗而配置的總部將與處理上游參與和能力建設的總部不同。雖然現在確定人工智能對軍事總部的影響還為時過早，但商業組織已經發現，與傳統的垂直層次結構相比，具有更多橫向信息共享的扁平結構更適合利用人工智能的優勢，因為在垂直層次結構中，每一層都要保證和授權數據才會被發布。因此，軍事總部--無論其具體形式如何--很可能會比現在更小、更扁平，能夠更快地沿著水平線工作。

探索替代的總部概念可以通過更多地使用實驗和模擬來實現。這應該對經典的J1-9參謀部提出挑戰，或許可以用新的分組來反映人工智能取代人類密集型數據處理和共享任務的能力。在J3/5區域尤其如此，這是計劃和行動之間的界限；由更快的決策帶來的更快節奏的沖突使這種界限變得過時。組織總部的替代方法可能包括那些注重結果的方法。JCN 2/17中描述的英國常設聯合部隊總部（SJFHQ）的結構是圍繞著四個職能來組織的：理解；設計；操作；和啟用。SJFHQ后來又恢復了傳統的J1-9人員分支。然而，"聯合保護者2021 "演習是一項復雜的亞門檻行動，其中使用了人工智能決策支持工具，揭示了J1-9架構的弱點。總部開始演習時是為高強度戰爭而配置的，但隨后調整為更適合與其他機構合作的配置。SJFHQ內部正在開展工作，應用2021年聯合保護者的經驗教訓，并確定這對總部結構意味著什么。然而，不太可能有一個完美的總部模式適用于所有行動類型。需要進一步的實驗，不限于SJFHQ。很能說明問題的是，自JCN 2/17發布以來的四年多時間里，在實施其中的一些建議方面幾乎沒有取得進展。即使英國國防部采用技術的速度相對緩慢，但這也超過了國防部探索改變結構的能力，超越了小規模的愛好者群體。"生態系統信任"是至關重要的，需要有機會在模擬或真實的環境中對各種任務類型的替代方法進行測試，并讓更多的人參與進來，這對有效采用新技術、結構和過程至關重要。

現有的程序需要改變以連接和優化新的結構。這可能需要改變構成武裝部隊規劃過程基礎的軍事評估。雖然它是一個復雜的、符合邏輯的規劃工具，但它是相當線性的、確定性的，并且嚴重依賴于指揮官，特別是在 "指揮官領導 "的英國方法中。在其他國家，參謀部在推動解決方案方面發揮了更大的作用，這可能更適合于人工智能的方法。人工智能為更多的迭代和協作過程提供了機會，它能更好地響應軍事和民防資源中心的要求，轉向更敏捷的模式。新的方法應該給指揮官帶來更少的壓力，要求提供信息（指揮官的關鍵信息要求）。人工智能還可以構建、分析和比較作戰行動方案，允許在做出大規模投入部隊的選擇之前對情景進行建模、測試和完善。

英國常設聯合總部（PJHQ）的情報評估過程自動化的思想實驗發現了取代大量工作人員的機會，加快了總部的戰斗節奏，并允許使用自動總結和自然語言處理來橫向共享信息。在一次作戰部署中測試了這一點，英國第20裝甲步兵旅戰斗隊將部分計劃過程縮短了10倍。然而，當人類仍在環路中時，決策環路的速度可能是有限的。在某些時候，人類決策者將無法跟上，成為決策監控者。如果仍然需要人類來做人工智能自己不能做的決定，這將是一個問題，而這可能是最困難的決定。

盡管有明顯的優勢，但總部不太可能在技術允許的范圍內減少。目前的總部通過規模和保證程序的冗余來補償人類的脆弱性，這對于減輕人工智能團隊成員的脆弱性可能仍然是正確的。此外，隨著戰斗節奏演變成連續的24小時規劃周期，節奏的加快可能會推動某些領域的需求上升。這些壓力可能并不局限于總部本身；它可能會推動前線單位的活動增加，他們必須處理數據并對所發出的指令作出反應。人類行為者仍然需要時間來休息，即使技術不需要。此外，與商業組織不同，軍隊需要冗余，以應對競爭對手蓄意破壞或擾亂他們的決策機構，并需要確保固定基礎設施的安全，以建立他們的網絡。簡而言之，對彈性和流動性的需求影響了軍事C2系統的穩健性和效率。因此，軍隊將需要保留不完全依賴人工智能進行有效操作的結構，并確保在人工智能失敗或故意削弱對人工智能信任的情況下，有恢復性程序可用。

4.3 培養指揮官

傳統上，指揮官是垂直決策結構的頂點，是所有信息的匯集點。雖然不是所有的軍事文化都強調個人的天才，正如 "翠鳥時刻"的概念所體現的那樣，但指揮官獲得信息的特權被總部的低層人員所拒絕。人工智能使信息民主化的潛力將改變這種情況；指揮可能會成為一種更加合議和反復的活動，不僅涉及那些穿制服的人，而且包括情報機構和具有數據科學多方面專業知識的承包商在內的更加折衷的組合--一種 "全部隊"的貢獻。面對一個復雜和適應性強的戰斗空間，另一種鳥也許為未來的指揮提供了一個更好的比喻：椋鳥。它們集體的、高度適應性的雜音為英國的發展、概念和理論中心的C2概念提供了一個更好的形象，即 "為設計和執行聯合行動而配置的動態和適應性的社會技術系統"。

指揮官必須繼續能夠處理動態環境；"沒有計劃能在與敵人的接觸中幸存下來 "這句話仍然是正確的。鑒于技術能夠提高速度（減少反應時間）和復雜性（通過更透明的戰斗空間），處理復雜、快速演變的問題將尤為重要。軍事組織正在試驗人工智能將如何改變C2，包括北約卓越指揮與控制中心、美國JADC2和英國軍隊的數字準備實驗。早期的跡象表明，指揮官將不得不更多地關注問題的框架，并確保在更小、更扁平的結構中的更多不同團隊之間的理解和目標的統一。這表明需要一個不同類型的指揮官和不同類型的工作人員；他們能夠整合由不同學科的成員組成的不同團隊的工作，而且往往是來自軍隊以外的成員。

確保指揮官能夠正確地設定問題的框架是至關重要的。人工智能非常善于在框架內操作，但目前至少在 "閱讀字里行間 "或從定義不明確的數據集中推斷方面很差--這種脆弱性仍然依賴于有人類來設定框架。在確定了問題的框架后，指揮官必須能夠判斷產出在該框架內是否合理。這需要能夠看到大局的人，武裝部隊需要通過在總部的參謀經驗來培養未來的指揮官，使他們熟悉環境和流程，從而能夠在越來越高的級別上進行指揮。模擬可以促進對總部的接觸，同樣可以確保較小的總部仍然保留人們獲得經驗的作用，通過這些經驗可以獲得必要的指揮技能。

雖然指揮官需要知道如何與技術互動，但他們必須繼續關注人工智能所要服務的作戰要求，并對其持適當的懷疑態度，以便他們成為這一過程中的知情者，而不是算法輸出的被動接受者。指揮官需要類似于工業界的 "π型領導人"，在軍事專業的同時具有數字和數據意識。他們不需要成為技術專家，但應該有足夠的知識來了解其局限性，能夠與團隊中的專家合作，并有足夠的滿意度來允許對數據、流程和產出的信任。

集體而言，總部團隊需要這些技能，各個團隊成員能夠相互交流和理解。這超出了情報分析員的范圍，包括來自武裝部隊內部和外部的廣泛的行動、技術和數據專家。它還包括對風險更復雜的理解和溝通能力。戰爭從根本上說是一個風險管理的問題，這需要以經驗的方式來理解和溝通風險。因此，了解概率和信心水平是一項關鍵的指揮技能，但諸如沖突中的一次性決定也需要長期的判斷。

軍事教育需要通過在職業生涯中更早地引入數據和技術意識來應對。此外，軍隊對不同能力的評價方式也需要改變。據傳聞，英國陸軍的職業管理流程往往將那些在計算能力上取得好成績的人引向采購等領域，而不是作戰，被選入參謀學院的專業人員往往在計算能力上處于較低的四分之一。這不僅僅是軍隊面臨的挑戰：有望成功競爭的國家需要國家教育系統認識到數據和技術素養技能的價值，并從小培養他們。作者并不主張將教育變成就業前培訓；雖然需要STEM技能（數量比現在多），但人文和社會科學仍然很重要，培養出的畢業生適應性強，能夠解決復雜的問題，并以影響力進行溝通。國家的成功取決于學術和其他形式的多樣性，培養人們在數字世界中茁壯成長，不僅需要技術能力，還需要（人文）特質，如創造力和情商。指揮官和工作人員在未來將需要這兩套技能，也許比今天更需要。

除了分析之外，直覺是信息處理中的一個補充部分。在指揮官需要行使的雙軌制決策方法中，它是人類認知的一個重要部分。有效的決策結合了直覺和分析的優勢。當數據和直覺一致時，決策者可以放心地采取行動。如果它們不一致，則需要在行動前進一步探索。1983年，俄羅斯中校Stanislav Petrov避免了潛在的核戰爭。他的導彈探測系統報告說美國發射了五枚洲際彈道導彈，但他沒有立即報告，而是決定等待，因為這個信息感覺不對。他的（下意識的）雙模式決策使他做出了正確的決定。人工智能更強的數據處理和分析能力可以增強決策過程中的分析要素，但它需要指揮官認識到直覺的價值和局限性。專業軍事教育需要反映出對數據和直覺這兩個組成部分的平衡方法。

4.4 管理整個部隊

未來的指揮官所指揮的團隊必然比今天更加多樣化，領導跨學科團隊為復雜問題帶來新的見解。人類有效構思和發展直覺的能力通過接觸不同的看世界的方式得到加強。這不僅僅是改善受保護特征方面的多樣性，盡管這很重要，還包括確保整個部隊團隊中教育、經驗和觀點的廣泛性。整個部隊的不同元素是這種多樣性的一部分。

越來越多的跨軍事領域的綜合活動要求整個部隊的各軍事部門有效合作。對于正規軍事人員，在 "聯合"方面已經取得了進展，但還需要做更多的工作。在軍事生涯的早期引入聯合訓練是實現這一目標的一種方式；這可能需要重新思考軍事人員何時接受專業軍事教育，目前在英國是在30歲左右。相比之下，澳大利亞國防軍為參加澳大利亞國防軍學院的人員提供了基本的聯合軍事課程，海軍、陸軍和空軍專家也接受了單一軍種培訓。這為未來的指揮官在軍事生涯早期的成長提供了一個跨學科的 "聯合 "模式。正規軍的進展需要擴展到后備軍的整合，因為未來可能會有更多的技術專家駐扎在這里。

事實證明，整合整個部隊的非軍事因素更為困難。Serco研究所的一份報告指出，"盡管在過去十年中，整個部隊的運作取得了進展，但在實現軍事和工業之間的無縫合作方面的努力卻停滯不前。雖然武裝部隊在將非軍事人員帶入其總部方面做得更好，但在場和被納入之間有很大區別。如2021年聯合保護者等演習，經常邀請國際合作伙伴和民間主題專家來幫助規劃過程，但他們往往在軍事規劃人員完成工作后才被邀請對計劃發表意見。許多總部的規劃周期缺乏靈活性，這意味著當規劃被提出來供審查時，可能已經來不及進行修改了。

這不僅僅是對軍隊的觀察；文職專家往往不熟悉軍事進程，等待被邀請做出貢獻，這削弱了他們的影響力。軍事人員沒有本能地理解他們的非軍事同事所能做出的全部貢獻，因此沒有將他們納入其中。人工智能將迫使人們從一開始就需要在規劃過程中建立整個部隊的多樣性，從而使計劃成為真正的合作。

有了人工智能的能力，技術將越來越多地成為整個部隊的一個成員。國際象棋大師加里-卡斯帕羅夫（Gary Kasparov）曾指出，好的技術和好的人類棋手的結合，往往比卓越的技術或更好的人類棋手單獨工作更成功。在某些情況下，人和機器可能在共享任務中緊密結合，以至于他們變得相互依賴，在這種情況下，任務交接的想法就變得不協調了。這在支持網絡感知的工作設計中已經很明顯了，在這種情況下，人類分析員與軟件智能體相結合，以近乎實時的方式理解、預測和回應正在發生的事件。

從這些人機一體的團隊中獲得最大利益，不僅僅是有效的任務分配。它涉及到找到支持和提高每個成員（人或機器）績效的方法，從而使集體產出大于單個部分的總和。正確的行為和創造包容性文化的能力對于從這樣的團隊中獲得最大收益至關重要。指揮官不應專注于試圖管理 "突發事件"--一個試圖描述簡單的事情如何在互動中導致復雜和不可預測的結果概念--或團隊成員的活動，而是需要在塑造團隊和培養團隊內部的關系方面投入更多。

雖然人工智能目前作為一種工具，但隨著技術的發展，它應該被視為團隊的真正成員，擁有影響人類隊友的權利和對他們的責任。然而，無論其最終地位如何，人工智能都可能改變團隊的動態和對人類團隊成員的期望。將人工智能引入一個團隊會改變團隊的動態，而它與人類團隊成員的不同會使團隊的形成更加困難。通過布魯斯-塔克曼（Bruce W Tuckman）的經典階段，即形成、沖刺、規范和執行，需要妥協和適應。人工智能目前不太能做到這一點，需要人類參與者有更大的靈活性，這使得建立人機團隊更加困難，也更難恢復已經失去的信任。

高級人工智能，如果可以說有動機或偏見的話，很可能是以邏輯和任務為導向的（用實力部署清單術語來說，就是綠色和紅色）。一個平衡的團隊將越來越需要能夠維持團隊關系的人類，無論是內部還是跨團隊。因此，人機團隊將是不同的，盡管他們可能與包括神經多樣性同事在內的純人類團隊有一些相似之處，因為對他們來說，感同身受或理解情感線索是困難的。與神經多樣性團隊一樣，人機團隊將受益于團隊成員的多樣性給整體帶來的價值，但也需要進行調整，以最大限度地提高團隊績效的機會。人工智能作為團隊成員的概念究竟會如何發展，目前還不清楚，但有人呼吁組織在更平等的基礎上考慮先進技術的需求。加強企業人工智能在業務支持活動中的使用，將為探索人機團隊如何最有效地合作提供機會，并有可能實現預期運行成本的降低，使人類在價值鏈上從事更有意義的工作。

4.5 職業管理

需要的新的領導風格、新的技能和對技術、數據和風險的進一步理解也需要新的職業管理方法。軍隊的職業管理系統（過于）頻繁地調動人員，但要形成具有必要信任度的有效團隊需要時間。軍隊可能會放慢關鍵人員的流動，甚至可能放慢團隊的流動，從而使總部高級團隊作為一個集體實體而不是個人來管理。然而，目前的人力資源實踐使軍隊或工業界不太可能愿意無限期地保留人們的職位以期待未來的需求。用拉斐爾-帕斯卡爾和西蒙-鮑耶的話說，這就產生了 "混合團隊"，即那些成員不固定的團隊，對他們來說，迅速建立團隊信任的能力至關重要。即使是常設總部也會受此影響，特別是當他們成為 "整體部隊 "時。對于'臨時團隊'，例如為特定任務而設立的臨時總部，這個問題就更加突出。需要有機制來加速信任的發展，經驗表明，這可以通過早期的行為實踐來實現，包括展示 "技術能力、信息公開、支持互惠和決策中被認為的誠信"。

放慢總部高級職位人員的流動速度將有所幫助，但這還不夠。在無法保證預先建立的團隊在需要時隨時準備好執行任務的情況下，需要有一種方法來減少組建新的部隊團隊的時間。模擬提供了一種方法，通過壓縮任務演練的時間來準備新組建的團隊，并為整個部隊的不同組成部分提供共同工作的經驗。軍隊在這方面做得很好；軍隊的社會化進程創造了強大的紐帶，包括派人到合作伙伴那里進行培訓、演習和任務。對于整個部隊的其他部分來說，這種對跨文化理解的投資是缺乏的。建立對對方的了解，從而建立信任，對文職部門來說同樣重要。軍隊可以做得更多，為其工作人員提供與商業部門合作的經驗，包括與技術專家、數據專家和編碼人員合作，而文職人員也需要更好地了解軍隊、其語言、流程和價值觀。武裝部隊可以通過提供交流任命和模塊化和/或縮短其課程來協助這一進程，使文職人員有可能參加。冠狀病毒大流行引入了新的工作方式，并加速了軍事訓練和教育的變化，這可以為信任提供基礎，在此基礎上可以出現新的團隊和總部類型。

簡而言之，人工智能輔助決策不僅僅是一個技術問題；它需要改變指揮結構、流程和人員技能，才能發揮其潛力，成為武裝部隊在所有任務中運作的一場革命。然而，至關重要的是，在適應不斷變化的戰爭特征時，武裝部隊不能忽視戰爭的持久性：指揮官必須保持領導者和戰士的身份，能夠激勵普通人在最困難的情況下做出非凡的事情，而不僅僅是善于管理戰斗的人。在軍事方面，人工智能是一種工具，可以最大限度地提高武裝部隊在激烈競爭環境中的獲勝機會。

5 結論

人工智能正迅速成為我們國家安全結構的一個核心部分。軍方和情報機構正在嘗試用算法來理解大量的數據，縮短處理時間，并加速和改善他們的決策。對人工智能越來越多的使用和熟悉可以促進對它的信任，但正如專家們的辯論所表明的那樣，要建立和維持對像人工智能這樣的變革性技術的信任，存在著嚴重挑戰。

本文重點討論了人工智能的作戰和任務支持應用，并探討了不斷發展的人與人工智能關系對未來軍事決策和指揮的重要性和影響。當軍事指揮官的角色從控制者轉變為團隊伙伴時，當我們不能再將輔助功能只賦予人工智能體時，那么我們就需要從根本上重新思考人類的角色和我們的機構結構。簡而言之，我們需要重新評估人機決策中信任的條件和意義。沒有這種信任，人工智能的有效采用將繼續比技術的發展更慢，而且重要的是，落后于我們一些對手采用人工智能的速度。

一個稍加修改的信任概念--一個不需要將意向性或道德性歸于人工智能體的概念--可以而且確實適用于AI。只要我們委托機器做可能對人類產生嚴重甚至致命后果的事情，我們就會讓自己變得脆弱。只要存在人工智能的表現達不到我們預期的風險，對它的任何使用基本上都是一種信任的行為。

除了最罕見的情況，對人工智能的信任永遠不會是完全的；在某些情況下，用戶可能有意識地同意較低的信任水平。這種信任需要考慮五個不同的元素，作者稱之為 "信任點"。我們不應該依賴任何一個單一的點來產生整體的信任。事實上，往往得到最多關注的領域--關于數據質量或人工智能輸出的可解釋性問題--從長遠來看，必然會提供不令人滿意的答案，并有可能對技術產生錯位的放心感。

最常被忽視的是在組織生態系統層面上對信任的需求。這需要重新思考武裝部隊的組織及其C2結構。如果說機器的作用越來越大曾經是官僚軍隊結構興起的關鍵驅動力，以集中管理手段，那么人工智能正在以根本的方式挑戰常備軍的這一特點。如果人工智能的使用不僅僅是模擬工作方式的數字化，國防部必須改變其在 "行動（operate）"和 "作戰（warfight）"方面的決策結構。它還需要與整體部隊的各個方面進行更密切的接觸和參與，包括其未被充分利用的后備部隊以及工業和更廣泛的政府。

領導力作為軍事職業的一個持久要素也需要重新考慮。人們傾向于將領導力視為軍事指揮的一種抽象或不可改變的品質。在人工智能時代，指揮任務或領導團隊既需要新的技能（如 "表達數字（speak digital）"的能力），也需要更多樣化的特質（例如，在數據和直覺發生沖突時，橫向思考的能力，構建問題的框架，并應用批判性的判斷）。與以往相比，人工智能更需要那些能夠理解復雜性、構建問題并根據情況提出正確問題的指揮官。這些 "故意的業余愛好者 "摒棄了早期狹隘的專業化，選擇了范圍和實驗思維；他們可以建立專家團隊，吸取專家的意見，使集體人才既廣泛又深入。這些全軍團隊將包括人類和機器，所有這些人都將根據他們在塑造和決策方面的專長作出貢獻。

在尋求回答信任如何影響軍事決策中不斷發展的人與人工智能關系時，本文提出了幾個需要進一步研究的關鍵問題：

• 我們如何建立必要的信任，在戰術、作戰和戰略層面上重新配置指揮部的組織，其規模、結構、位置和組成
• 我們如何調整軍事教育，使指揮官為人工智能時代做更好的準備
• 我們如何優化和改造所有領域的集體訓練，以改善涉及與人工智能體更多協作的指揮
• 我們如何運作 "全軍 "的概念，以更好地利用我們社會、工業和研究機構中的大量人才
• 我們如何定義人工智能和人類在人機團隊中的需求和目標

如果我們不從根本上改變如何獲取、培訓和培養領導崗位的人員，以及如何改革他們所處的機構和團隊，我們就有可能在人機關系的信任平衡上出錯，并將無法利用人工智能的全部變革潛力。

作者

克里斯蒂娜-巴利斯是QinetiQ公司的培訓和任務演練的全球活動總監。她在大西洋兩岸有20年的經驗，包括咨詢、工業和公共政策環境，特別關注國防、全球安全和跨大西洋關系。她曾是華盛頓特區戰略與國際研究中心歐洲項目的研究員，Serco公司負責戰略和企業發展的副總裁，以及巴黎Avascent公司的負責人和歐洲業務主管。她擁有華盛頓特區約翰霍普金斯大學高級國際研究學院和意大利博洛尼亞大學的國際關系碩士和博士學位，以及英國和德國的商業學位。

保羅-奧尼爾是RUSI的軍事科學部主任。他在戰略和人力資源方面有超過30年的經驗，他的研究興趣包括國家安全戰略和國防與安全的組織方面，特別是組織設計、人力資源、專業軍事教育和決策。他是CBE，英國特許人事與發展協會的會員，溫徹斯特大學的客座教授，英國后備部隊外部審查小組的成員。

2022年6月15日，英國國防部在倫敦科技周人工智能峰會上發布了《國防人工智能戰略》，旨在“雄心勃勃、安全和負責任地”使用人工智能的戰略和相關政策。本戰略支持創建新的國防人工智能中心（DAIC），以提供前沿技術樞紐，支撐英軍使用和創新相關技術。本戰略概述了以下內容：一是在國防中使用人工智能的新倫理原則；二是人工智能在國防部加強安全和現代化的地位和應用；三是考慮通過人工智能研究、開發和實驗，通過新概念和尖端技術徹底改變武裝技術能力，并有效、高效、可信地向戰場交付最新裝備。該戰略將將成為英國人工智能戰略的關鍵要素，并加強國防在政府層面通過科學和技術獲取戰略優勢的核心地位。

圖 英國國防部發布《國防人工智能戰略》

（本文根據原文編譯整理，僅供交流參考，觀點不代表本機構立場。）

英國國防部人工智能戰略的愿景是：以英國規模為標準，成為世界上最有效、最高效、最可信和最具影響的國防組織：

有效——提供戰場制勝能力和支持，以及英國與盟友關于人工智能生態系統合作的能力；

高效——通過創新使用技術交付能力，進行作戰并實現生產力效應；

可信——基于人工智能系統的安全性和可靠性受到公眾、盟友和人民的信任，根據英國核心價值觀合法合規地使用人工智能；

影響——積極參與合作和引領人工智能技術的全球發展和管理趨勢；

二**、背景和必要性******

英國國防部《綜合評估（2021）》強調指出，國家在人工智能領域的卓越表現是確保英國在2030年前成為“科技超級大國”的核心。英國國防部《國家人工智能戰略（2021年）》指出，人工智能在改寫整個行業的規則、推動經濟大幅增長和改變生活的所有領域方面具有巨大潛力。英國國防部《綜合作戰概念 （2020年） 》描述了無處不在的信息和快速的技術變革如何改變了戰爭的性質。在軍事作戰的各個領域，沖突正變得愈發復雜。新技術產生大量數據，解鎖新的威脅和漏洞，并通過如蜂群無人機、高速武器和先進網絡攻擊等下一代先進能力擴大潛在攻擊的規模。

人工智能技術以及其影響可能會極大地縮短決策時間，使人類理解負擔加重，而且這些在現代戰場中需要快速做出反應。正如《國防司令部文件（2021）》所指出的，“未來沖突的勝負可能取決于所采用人工智能解決方案的速度和效率”。因此信息作戰變得越來越重要。簡而言之，當代國防正在發生一場根本性的劇變，與人工智能相關的戰略競爭正在加劇，因此必須迅速、主動和全面應對。

本戰略闡述了英國將如何應對這一重大戰略挑戰，其應該引起英國國防部的重視，并參與部隊發展和國防轉型，英國國防部需要明確其機構與人工智能相關的要素并采取相應行動，以在后續執行和交付方面發揮關鍵作用。

三、發展途徑

**一是英國國防部需要轉變為“人工智能就緒”的組織。**具體措施是：1）推動文化、技能和政策變革，培訓領導人，提高人員技能，并加強國防人工智能和自主部門的組織能力；2）創建國防人工智能技能框架和新的人工智能職業發展和晉升路徑；3）將數據視為關鍵戰略資產進行管理和應用，建設新的數字主干網絡和國防人工智能中心。

**二是在速度和規模上采用和利用人工智能，以獲得防御優勢。**具體措施是：1）將人工智能視為能力戰略和部隊發展過程中戰略優勢的關鍵來源；2）短期路線采用成熟的數據科學、機器學習和先進的計算統計技術提升效果和生產力，長期路線進行尖端人工智能技術研發；3）采用多學科多技術將人類認知、創造力和責任與機器速度分析能力相結合以評估人工智能系統的脆弱性和威脅；4）與盟友和伙伴密切合作開發創新能力解決方案以應對共同的挑戰。

**三是推動和支持英國國防和安全人工智能生態系統。**具體措施是：1）通過英國工業和學術人工智能的雄厚基礎以及政府的支持建立信心并明確要求；2）視人工智能生態系統為戰略資產，消除行業壁壘，建立更具活力和一體化的伙伴關系；3）促進行業聯系建立新的國防和國家安全人工智能網絡，促進人才交流和共創，鼓勵業界投資國防相關的人工智能研發，并簡化國防數據和資產的獲取。4）促進中小企業，使監管方法現代化，支持業務增長并最大限度地利用國防人工智能相關知識產權促進相關技術商業化。

**四是塑造全球人工智能發展，以促進安全、穩定和民主價值觀。**具體措施是：1）按照英國的目標和價值觀塑造人工智能的發展，促進倫理方法，并影響符合民主價值觀的全球規范和標準；2）促進安全與穩定，確保英國的技術進步得到適當保護，同時探索建立信心和將軍事人工智能使用風險降至最低的機制；3）考慮可能出現的極端甚至事關生存的風險，并積極與盟友和合作伙伴接觸，制定未來的安全政策，尋求建立對話，以降低戰略錯誤、誤解和誤判的風險。

四、優先效果

通過采用人工智能技術實現本戰略目標，使英國武裝部隊實現現代化，并迅速從工業時代的聯合部隊過渡到敏捷信息時代的綜合部隊，國防部將受益于效率和生產率的提高，其期望的優先效果如下：

決策優勢：通過更充足、更分散的決策制定和基于威脅的機器快速響應，提高作戰節奏和靈活性。

效能：通過智能自主提高靈活性、效能和可用性。

解鎖新能力：通過開發新的作戰方式確保作戰優勢，增強軍事效果，保護人民免受傷害。

武裝部隊：減輕部隊負擔，并將人類決策集中在基于獨創性、背景思維和判斷力的高價值職能上。

五、戰略綜述總結****

**六、**結束語

人工智能必須成為未來必不可少的技術，其也促使著英國國防部改變對現代技術的看法，調整其技術方向和戰略需求，全面擁抱世界領先的人工智能解決方案和能力，推進其國防業務中觀念、文化、規劃和交付方面的持久變化，并將其作為國防戰略融入國防領域，以確保英國軍隊成為敏捷信息時代的綜合部隊。

編譯：船の心

END

世界軍事電子領域2021年度十大進展

軍事電子領域

信息戰與聯合部隊

今天，人們普遍認為，信息就是力量，雖然這個眾所周知的公理看起來很老套，但近年來，聯合部隊在信息戰（IW，information warfare）環境中經歷了快速變化。軍事資產被賦予聯合部隊或其組成部門，在網絡空間領域的新興工具和作戰云概念的支持下，越來越多連接在部隊范圍或部門間產生。在幾乎任何人都可以進入的信息環境中，實現主導地位目標，在一個跨越物理世界和虛擬世界的新興超級連接現實中面臨新的復雜挑戰。聯合部隊在進攻和防守方面都沒有單獨的責任或權力，這種二分法在新出現的作戰環境中尤為突出，在這種情況下，越來越多的行為者和參與者變得越來越明顯。因此，在聯合和分布式跨域作戰中，未來的網絡攻擊方法將需要從根本上改變和重新調整，以響應聯合部隊作戰空間性質和范圍的根本變化。

聯合部隊調整系統、網絡和作戰方法以在未來的競爭環境中實現優勢，需要對諸如 "信息環境 "和 "信息戰 "本身等分類法所推斷的內容進行重新概念化。即使在今天，我們也應該問自己，什么是IW，它與聯合部隊的傳統軍事行動和活動有何不同，以及它將如何影響全域指揮和控制結構？在為未來建立一支靈活而有彈性的戰斗部隊（包括網絡空間領域）的更廣泛努力中，網絡攻擊的定位是什么？這些都是令人困惑的問題，必須考慮 "權力"的重要因素是如何因信息革命而發生變化的。重新思考當今世界的大戰略是理解聯合部隊必須在理論、規劃和行動方面調整其未來方法的關鍵。越來越多的人以新的和新穎的方式測試和使用IW，聯合部隊使用IW的頻率和復雜性也越來越高，且這種情況只會加快。

信息是分散的力量

信息中蘊含著巨大的力量，雖然 "傳統 "的軍事方法強調并尋找 "新 "的IW效果，但這些可能并不反映聯合部隊的最佳解決方案，也不能提供必要的優勢，因為網絡空間與計劃和作戰周期的融合正在進行中。IW的范圍、性質和特點已經擴大，然而IW在戰術、技術和程序（TTPs）以及大戰略本身的層面上仍然是一個模糊不清、定義不明的概念。信息革命導致了新的組織和行為者的形成，以及商業甚至非國家行為者在聯合部隊 "虛擬 "作戰領域中的重要性日益增加。因此，越來越多的人需要把這些在信息環境和網絡空間范圍內活躍的、最終影響到聯合部隊如何成功執行任務的、日益增長的、不同的利益相關者和行為者集合起來。

變得更有活力和反應能力的目標將要求聯合部隊在其互動和影響或被影響的信息環境中，產生一個更 "真實 "的IW威脅和風險的戰略和行動畫面。安全模式從軍事主導的格局轉移到一個新的格局，這個格局更加分散，跨越了更大深度和廣度的利益相關者和合作伙伴，這說明了在戰略和作戰層面上，網絡攻擊具有不連貫性。要真正理解戰略和作戰環境中正在發生的變化，關鍵是要理解近年來國家權力結構中發生的巨大變化。具有諷刺意味的是，很少有一個正式的政府部門或機構或作戰單位只關注信息力量，負責控制和分配這種權力。然而現實情況是，信息力量被稀釋在一系列的機構和組織中。

隨著聯合部隊向跨領域綜合作戰能力的轉變，這些能力本質上是由信息領域促成的，而信息領域從本質上講是一個不透明的領域，模糊了物理世界和虛擬世界，因此越來越需要在與空戰或陸戰相同的水平上認識IW。

試圖現在聲稱或圍繞什么是信息力量的要素設定界限，對聯合部隊和類似的其他部隊來說，都將是徒勞的。這有令人信服的理由，即處理分類學和組織關系，以及無法為IW任務設定明確的界線和資金。針對越來越多的政府和軍事機構的任務，只會阻礙一個連貫的、綜合的國家信息主導戰略的發展，在這個戰略中，整個軍隊，特別是聯合部隊是多個組成部分中的一個。在過去，聯合部隊或其組成部分的作戰C2僅由 "他們 "各自的指揮部負責，他們有自己的通信系統，但現在情況不一定如此。例如，問一下，誰在戰略層面上控制著信息力量和信息資源？如果不是聯合部隊，那么聯合部隊怎么可能成為IW的關鍵C2機構？

為聯合部隊重新聚焦信息戰

如果反擊敵對勢力的行動是海陸空部隊的任務，那么影響 "他們 "行動的網絡攻擊的性質和范圍已經擴大，他們今天將如何處理這些任務？戰斗網絡的設計是可靠的、有彈性的和嚴格的，在某些情況下，它們是唯一的通信手段，但在多領域背景下，敵對勢力為了破壞、降低或延遲今天的行動，還可以在許多方面進行網絡攻擊，例如物流和供應鏈。隨著聯合部隊向綜合跨域作戰能力的轉變，這些能力本質上是由信息領域促成的，而信息領域的性質是不透明的，模糊了物理世界和虛擬世界，因此越來越需要在與空戰或陸戰相同的水平上認識IW。

這一點尤其正確，因為大多數聯合部隊的行動預計將發生在高度競爭和分布式的環境中，在這種環境中，IW將是競爭空間的一個固有特征。然而，隨著預算的限制，威脅的增加，以及更多的行為者出現在這些空間中，聯合部隊的指揮官發現他們處于一個關鍵的決策點。聯合部隊將需要產生新的方法、手段和目的來快速處理大量的信息，并與更多的合作伙伴、客戶和這些信息資源和數據庫的消費者一起這樣做。作為綜合布線的一部分，信息管理、連接和流動將成為核心任務要素，聯合部隊將需要向一個更加綜合和相互依存的現實轉變，以便將信息領域新的關鍵作戰要素和層次納入其規劃和作戰周期。

IW的范圍、性質和特點已經擴大，但在戰術、技術和程序（TTPs）以及大戰略本身的層面上，IW仍然是一個模糊不清、定義不明的概念。

在尋求信息主導權方面的外部相互作用和聯系

對于聯合部隊來說，解決其重點是否應該更多放在進攻性或防御性IW上的問題將是至關重要的。許多人同意，聯合部隊應該發展并保持進攻性和防御性IW能力的平衡，但前者有更多的限制。最終，聯合部隊將需要通過明確其未來的IW目標、能力和目的的范圍來解決這些問題，考慮長期的戰略需求，但要理解什么是對其在短期內有效執行作戰任務而絕對必要的戰術。

信息戰活動將越來越多地使用或依賴商業網絡，或以重要方式與商業網絡互動。這些網絡和工具將阻礙聯合部隊利用傳統的電子戰工具和網絡戰行動。作戰規劃者將需要在IW方面與全新的參與者、網絡、系統和其他因素進行斗爭。聯合部隊將不再在真空中規劃任務，而是越來越需要了解、意識到并與更多的機構和商業行為者進行行動協調。這將是一個非常復雜的挑戰，需要制定必要的合作框架，以允許聯合部隊與情報機構、第三方后勤供應商、聯盟伙伴的各種部隊元素等進行有效的協調和信息流動。

我們可以從很多方面來考慮影響IW未來方向的因素。首先，IW是否存在真正的作戰要素？如果有，誰擁有它，它的控制和影響范圍是什么？任何聯合部隊的IW戰略都不應該只是國家權力工具的一個子集，而應該與之完全融合，跨越所有領域，包括陸地、海洋、空中和太空。隨著聯合部隊學會更無縫地同步效果，對信息環境的支配將成為其整體成功的關鍵。IW將需要從規劃開始就嵌入到所有的活動中，而不是在最后才 "添加 "或孤立地規劃。聯合部隊將需要研究它打算產生什么效果，然后為此選擇適當的武器或行動。從理論上講，真正的跨領域的全方位瞄準應該提供一種可供選擇的動能效果，甚至是純粹的信息效果，作為備選方案。

這將如何影響聯合作戰環境中的C2，以及在認識到信息戰的發展現實、范圍和需求以及所需能力的情況下連接作戰力量的目標是至關重要的。要問的硬問題是："我們到底在什么方面不能控制？在IW方面，我們到底不能控制什么？在這里，我們需要考慮外國和國內團體網絡行動日益增長的作用和重要性，以及網絡攻擊實際上是一個轉型的概念而不是一個固定的概念。IW不能被孤立，需要分布在安全和情報架構的所有元素中，聯合部隊與之互動并共同運作。新的分類法再次證明了這種方法的必要性。例如，與其把活動稱為IW，為什么不把它們僅僅標為行動？將信息作為力量要素或武器使用并不新鮮，盡管它是聯合部隊指揮官武庫中相對較新的工具，但如果戰場準備得當，這也是一種需要使用的武器，就像其他工具一樣。

結論

信息時代不僅承諾在傳感器和射手、有人駕駛和無人駕駛車輛之間實現超級連接，而且在更廣泛的范圍內，包括后勤、情報和平民本身，因此，在向前發展的過程中，聯合部隊在IW環境的能力規劃方面應該遇到什么？聯合部隊在多領域或全領域作戰中實現信息優勢的目標，將需要在網絡武器中使用復雜的新方法和工具，來作為更廣泛的信息資源和信息力量生態系統的一部分。聯合部隊進行的網絡攻擊將需要與合作伙伴進行更密切的協調，例如，開展欺騙和網絡行動，甚至與假新聞和宣傳活動。

像勒索軟件這樣的威脅將在一端延伸到供應鏈伙伴，另一端延伸到有意識形態動機的非國家行為者。這種將信息環境分成越來越小的子群體的做法，為試圖在完全真空的情況下發展網絡武器創造了巨大的挑戰，對于聯合部隊和一個國家擁有的其他力量工具來說也是如此。事實證明，并且將在未來幾年內繼續強調，IW對于聯合部隊作戰和C2的有效性至關重要，尤其是在作戰云支持的環境中。未來軍事力量的部署和使用將要求聯合部隊的規劃者和作戰者更多地了解情況，更多地進行合作，更多地依賴信息環境中的合作伙伴，如果他們要超越傳統的 "內部 "方法并產生最佳的IW效果解決方案。

作者

埃德溫-"利"-阿米斯蒂德（Edwin “Leigh” Armistead）博士是一名美國退役海軍軍官，他撰寫了關于信息作戰（IO）的博士論文，并撰寫/編輯了關于這一重要主題的三本書。2006年，他參與建立了國際網絡戰爭與安全會議（ICCWS），//www.academic-conferences.org/conferences/iccws/ ，這個年度活動為該領域的學者、研究人員和從業人員提供了一個網絡平臺和論壇，以討論、探索和發展信息戰爭與安全的理論和實踐方面。他還是第9.10工作組（ICT在和平與戰爭中的應用）的副主席和《信息戰雜志》（JIW）的主編--這是美國唯一的雙盲、同行評審的信息戰（IW）學術雜志。

引言

在俄羅斯-烏克蘭軍事行動之后，北約盟國終于認識到有必要重新武裝，以威懾和抵御俄羅斯。德國政府宣布它將把國防開支增加一倍以上，其他國家也紛紛效仿。由于缺乏資金不再是主要制約因素，歐洲的北約盟國現在將重建其軍事力量。但在重建的同時，他們的軍隊必須應對今天的緊迫挑戰，為明天的沖突做好準備。保持--或達到--軍事技術優勢將有助于北約未來的作戰能力，并首先要求具備創新能力。不幸的是，由于各種原因，經過幾十年的預算削減，軍事創新不再是西方軍事組織的強項。北約即將出臺的戰略概念需要為全聯盟刺激軍事創新的努力提供指導并設定界限。本文概述了聯盟在這一努力中所面臨的挑戰，并為應對這些挑戰提出了具體建議。

新與舊

現在人們普遍承認，軍事技術和軍事戰略的發展正在重塑戰爭的特征，并重新分配地區的力量平衡--在大國之間（例如美國和中國）以及小國之間（例如阿塞拜疆和亞美尼亞）。這些發展影響了戰爭的所有層面。例子很多：深度學習的進展正在加速OODA（觀察、定向、決定、行動）循環，并改變指揮的動態；A2/AD（反介入區域封鎖）能力的擴散正在破壞空中優勢，并使競爭環境趨于平等；傳感器的無處不在正在刺激物理環境的全景化，迫使人們采取新的軍事行動方式；各種規模的無人系統的普遍存在正在使更多的行為者能夠從遠處進行攻擊。但是，在新事物誕生的同時，舊事物不會凋零，至少現在不會。事實證明，現有的武器系統遠遠沒有被淘汰。它們可以被用來威脅和施加巨大的破壞。作戰坦克具有軍事重量（weight），火箭和導彈具有破壞力和摧毀力。盡管有大量關于靈活性和敏捷性的討論，但大量裝備（mass）仍然很重要，且現代技術未能解除當代戰爭的迷霧。

轉型時期

因此，一個合理的斷言是，戰爭的特點可能正在發生變化，但預期的軍事事務革命（RMA）肯定還沒有實現。用軍事創新的話說，當軍事組織采用新技術、開發使用這些技術的作戰概念并調整其組織結構以提供支持時，就會發生RMA。這反過來又使 "武裝力量的戰斗潛力和軍事效力大幅提高--往往是一個數量級或更大"。 下一個RMA被描述為圍繞 "自主武器、多領域機器人集群、自組織防御系統、自動化武器、大數據分析以及機器和深度學習程序"。 預計它將轉化為超強的態勢感知和理解，并加速決策，以更高的速度實現更高的精度。預計它將以人機團隊為特色，人和機器無縫地一起運作；大量的一次性無人系統可以在類似蜂群的編隊中半自主地運作；以及數量較少的分布式人類單位利用戰斗云在戰場上尋找作戰方式，以越來越快的戰爭的形式呈現。

軍事戰略家和未來學家對下一個軍事事務革命（RMA）到來的確切時間跨度并不確定。雖然許多新興和顛覆性技術仍然相當不成熟，但邁克爾-奧漢隆預計，"與軍事創新有關的技術變革在未來20年可能比過去20年證明的速度更快、影響更大。" 在2021年的一項研究中，基于廣泛的文獻回顧和深入的專家訪談，我的研究小組也評估了在下一個區域軍事聯盟愿景中出現的關鍵技術，將對國際安全產生巨大影響（見表1）。

表1：敏感技術及其對國際安全的影響（來源：HCSS）

在未來一段時間內，計算機和機器人技術以及人工智能和大數據應用方面的快速變化預計將繼續進行，并對武器系統產生重大影響。正如O'Hanlon所寫的那樣："如機器人系統集群等在戰場上既可作為傳感器又可作為武器的時代，將可能會真正到來。此外，激光武器、可重復使用的火箭、高超音速導彈、軌道炮、無人潛水艇、生物病原體和納米材料可能會發展得非常快。總的來說，可能是也可能不是一場革命。但其潛力是不容忽視的"。

因此，未來的時期可以說是一個過渡時期。過渡時期充滿著不確定性，但那些頑固地堅持自己的老路的人很可能會面臨失敗。與此相反，那些成功駕馭過渡期的人必然會在下一次軍事沖突中勇往直前。

因此，真正的不確定性取決于軍事組織是否能夠通過發展概念和調整組織結構，富有成效地利用技術進步，使其在戰場上獲得競爭優勢。目前的技術進步速度與高水平的地緣政治競爭（以及隨之而來的高水平的威脅感）相結合，很可能會激勵沖突各方投入大量。

在認識到創新的必要性后，北約已經實施了一系列舉措來支持創新，特別是在新興和顛覆性技術領域，如人工智能、量子技術和生物技術。它在2021年2月宣布了一項戰略（"培養和保護：北約關于新興和顛覆性技術的一致性實施戰略"），并在2021年7月創建了DIANA（北大西洋防御創新加速器），以 "促進北約盟國之間的技術合作，促進互操作性，鼓勵開發和采用技術解決方案"。它還建立了價值10億歐元的北約創新基金，在2021年10月投資具有軍事用途的尖端兩用技術。至少在紙面上，北約似乎正在采取真正的措施，為明天的沖突做準備，但我們從軍事歷史中知道，新技術的發展是必要的，但遠遠不夠。畢竟，"要在軍事事務中帶來一場革命，通常需要兩樣東西：一個使之成為可能的客觀發展，以及一個能抓住這種發展的人，駕馭它，并指導它"。

因此，北約的新戰略概念應提供指導和方向，說明聯盟如何管理過渡，利用現有和新興技術提供的機會，并提高其作戰潛力。聯盟需要注意以下陷阱，并注意以下建議：

1. 優先考慮重要的事情，而不僅僅是緊急的事情

"我有兩種問題：緊急問題和重要問題。緊急的不重要，重要的永遠不緊急，"美國總統艾森豪威爾在1954年說了一句著名的話。

對組織來說，一個常見的謬誤是，盡管有良好的意圖，但任何眼前的危機都會吸走組織的大部分注意力和精力。竭盡全力去處理當前的危險，而明天的挑戰卻被有效地忽略了。

軍事組織意識到了這種偏見，并將其組織分層為處理當前、未來和長期未來規劃的不同單位。然而，幾十年來的預算削減已經大大削弱了這些面向未來的單位所能支配的資源。在一些中小國家（SMPs），這些部門甚至被完全取消，人力被重新分配來處理當前事務。在其他中小國家，這些單位在機構層次中的地位被削弱，不利于它們在官方決策中的地位。因此，至少可以說，他們對實際能力組合發展決策的投入是微弱的。有必要避免重蹈覆轍，造成今天的局面：當 "重要 "最終變成 "緊急 "時，完全沒有準備好應對俄烏沖突。這可以在未來被避免，通過重振未來規劃部門，提高他們在官方機構中的地位，以及關閉展望活動和能力發展活動之間的循環。

2. 在翻新與創新之間取得平衡

當然，經過幾十年的衰敗，迫切需要加強現有部隊的裝備和庫存。填補關鍵的能力差距，補充庫存，加強軍事準備，提高軍事流動性：每一項都是重建北約作戰能力的必要因素。

事實上，歐洲北約成員國仍未實施所有必要的轉型，以完全收獲在20世紀90年代承諾的完全信息化戰場的技術成果，并且在指揮、控制、通信、計算機、情報、監視和偵察（C4ISR）、"壓制敵方防空能力（SEAD）、巡航導彈、彈道導彈防御、隱形飛機和電子戰資產 "以及作戰總部的部署和指揮方面都依賴于美國。但是，完全專注于重建部隊將阻礙對未來戰爭預測中所設想的未來武裝力量的創新。此外，一個危險的事實是，重新武裝將加強現有的支持者的地位，他們將保護現有的資產并阻礙變革。

要在翻新與創新之間取得適當的平衡，并沒有什么神奇的公式，也很難給出一個具體的數字（還因為漸進式的調整有時也會導致轉型），但有必要創造一個擁抱變化和支持實驗的環境--下文將詳細介紹。這也將有助于分配所需的手段，例如，將整個國防開支的至少2%分配給研究和投資（R&I）。

3. 協同硬件、軟件和濕件

北約保持其軍事優勢的能力的一個真正風險在于過度關注硬件和平臺，而沒有充分考慮如何協同使用這些平臺來實現戰場上和戰場下的政治目標。正是硬件、軟件和濕件（即 "人的東西"）的結合使情況發生了變化。

軍事創新源于技術、作戰概念和組織調整這三者。將這三者割裂開來可能會產生尋找問題的解決方案（而不是相反），并且不太可能為北約提供它所需要的軍事技術優勢。現在是時候縮小富有想象力的實踐者和長期規劃者之間的差距了。

國防組織應該建立紅色小組，并責成他們進行零基礎規劃：他們應該從一張白紙開始，考慮如何將技術（包括新舊技術）和作戰概念結合起來，以便在未來的戰爭環境中獲勝。這可以為新能力的發展提供信息，并推動創新而非更新的進程。同時，其他小組可以負責確定如何將創新的作戰概念應用于現有能力，以實現競爭優勢。這應該在北約成員國和北約層面進行。北約，特別是盟軍指揮部轉型（ACT），可以成為最佳實踐的重要收集者和優秀成果的傳播者，并在該領域的現有倡議的基礎上進行。

4. 思考勝利和成功的理論

知識和思想在全球的思想市場上迅速傳播。這個全球思想市場不僅限于新聞和娛樂，而且還延伸到了戰爭領域。戰略家和國防規劃人員畢竟不是在真空中運作。

在思想的喧囂中，參與者爭先恐后，形式變得和內容一樣重要。技術被描述為新的和革命性的，并被斷言一定會破壞戰爭性質。這不可否認地灌輸了 "敬畏"的效果，但不一定能讓人了解這些技術將如何帶來勝利。然而，在許多21世紀的武裝沖突中，智力和道德因素與物質因素一樣重要，是戰斗和勝利的關鍵。要解決這種對技術的執著，需要作出更多的努力，思考在未來的安全環境中，什么樣的方式和手段的組合會帶來勝利或成功。同時，需要確定組織和作戰的要求，這當然包括--但顯然超出了--硬件。這將需要戰略、作戰、組織和規劃專家利用專門的未來戰爭模擬進行緊密合作。歸根結底，它始于將未來戰爭的預測和準備作為一個專業行業認真對待。這開始于在（國防）大學為未來的平民和軍事規劃者制定課程，在其中接受類似于軍事專業人員在戰爭藝術方面的培訓和教育。

5. 注意聯盟成員之間的技術差距

長期以來，技術通貨膨脹的幽靈一直籠罩著國防能力的發展：每一代軍事平臺都會變得更加昂貴。這就造成了一種情況，即平臺的數量，特別是SMP的數量，已經大量減少。這也導致了頭號軍事強國--美國--與聯盟內其他國家之間的技術差距擴大。

當歐洲的北約成員國仍在努力充分吸收和利用C4SIR的進步所提供的機會時，美國已經開始了另一項創新戰略，以延長其軍事技術優勢。總的來說，平臺數量的減少和對未來互操作性的威脅意味著國防規劃者和他們在SMPs的政治決策者面臨著重要的選擇。

有必要重新認識SMP的優勢，以及它們能夠真正帶來什么。它需要接受的是，一些平臺不需要是 "軍事規格"，但也可以不那么通用和堅固，在某些情況下是可有可無或一次性的，更容易負擔。它要求在考慮到國家實力、戰略文化、威脅觀念和盟國需求的情況下，處理國家專業化的敏感問題。通過一個與盟軍作戰概念緊密結合的戰略概念，可以作為一個有用的統一催化劑來指導這一努力。

最后的想法

建議北約接受這些挑戰并聽取這些建議。即將出臺的戰略概念應該為成功的軍事創新設定參數。但是，這就留下了文化這個不太實際的因素。

軍事創新只有在一個刺激而不是反對它的大環境中才能開花結果--正如軍事創新文獻中充分記載的那樣。近年來，在我與國防規劃人員和軍官的交談中，已經非常清楚地看到，幾十年的預算削減已經扼殺了大部分創新的沖動。僵化的官僚結構、不鼓勵破壞者的職業道路結構、注重保護和保存的廣泛文化：可以說，創新不再是現有軍事組織的DNA。好消息是，通過專門的努力，使用逆流的規劃方法，即自上而下和自下而上的同時實施，這種情況是可以改變的。這需要在機構層級中賦予創新者權力，調整職業道路以促進和獎勵創新者，更廣泛地認識到停滯不前意味著衰退。

作者：Tim Sweijs——海牙戰略研究中心（HCSS）研究主任、戰爭研究中心（WSRC）高級研究員

報告總結

近四十年來，美國國防部（DoD）首次制定了旨在對抗先進軍事對手--特別是中國和俄羅斯--的聯合作戰概念。上一次這樣的努力發生在20世紀70年代末和80年代初的冷戰高峰期，以應對蘇聯在歐洲中央戰線的常規優勢所帶來的戰略和行動挑戰。現在，正如2018年國防戰略（NDS）所強調的，聯合部隊必須 "優先考慮備戰"，這包括為軍事優勢制定 "創新作戰概念"。由于作戰概念從根本上說是指導未來部隊設計和未來戰爭的愿景，聯合部隊首先必須回答它打算如何打未來戰爭的問題，然后再試圖回答它需要用什么打仗的問題。

然而，如果國防部要轉向 "聯合概念驅動的、洞察威脅的能力發展"，它面臨著相當大的挑戰，因為它的聯合概念發展和實驗過程從根本上說是破裂的。 雖然后冷戰時代見證了發展聯合作戰概念的反復努力，但該過程未能產生創新的作戰方法來指導未來的部隊和能力發展。相反，這個過程產生的概念似乎是故意不推動重大變革的。這些概念并不是真正的 "聯合"，而是由現有的服務概念組成的最低標準的組合，以服務的優先權為前提。任何能夠通過發展過程的創新的聯合概念都是如此的淡化和模糊，以至于它們不能引起變化（從而威脅到關鍵利益相關者的利益）。在這種環境下，單個服務概念勝過聯合概念，并驅動投資優先權。

然而，作戰概念和關鍵投資必須是聯合的，因為各軍種在作戰層面已經變得越來越相互依賴。此外，目前的戰爭演習和分析表明，這種作戰上的相互依賴將是未來與中國或俄羅斯等能力強大的同行對手發生沖突的一個關鍵方面--是作為一種優勢還是一種弱點，還有待觀察。我們可以預期，一個先進的、適應性強的對手會尋找美軍的任何差距和縫隙，并利用這些差距和縫隙來發揮其優勢。在這方面，目前的聯合部隊還不夠 "聯合"，無法與一個已經發展出對抗美國關鍵的、長期的作戰優勢（如空中、海上和信息優勢）的對手進行高端戰爭。正如本文所討論的，在與同行對手的沖突中成功發動戰爭的規模和強度將需要全新的作戰方式，這反過來又需要一種強制功能，將單個服務能力整合到實際的 "聯合 "戰斗力中。最近發展以威脅為重點的聯合作戰概念--如果成功的話--代表了這種結果實際發生的最佳機會。

本文簡要討論了國防部過去在發展聯合概念方面的三種嘗試，包括空地戰、空海戰和最近的努力--先進能力和威懾小組（ACDP）。本報告利用這些例子來展示克服孤立和狹隘的軍種主導的努力所面臨的挑戰，并說明建立以軍種為中心的概念并給它們披上聯合的外衣的弊端。這些案例強調了聯合概念發展過程中持續存在的病癥是如何使冷戰后的聯合概念在鼓勵作戰創新或推動服務投資優先事項的變化方面毫無用處。

正在進行的開發新的聯合作戰概念工作為國防部提供了一個早該提供的機會，將其概念開發集中在具體的威脅和相應的作戰目標上。目前的努力是幾十年來國防部第一次圍繞應對具體的威脅來組織概念開發，而不是支持聯合部隊對模糊或未定義的對手群體進行作戰的理想化概念。然而，如果不對被廣泛認為是沒有促進思想競爭的共識過程做出重大改變，國防部就有可能重復它過去所犯的概念發展錯誤。此外，新的聯合概念必須通過實驗活動進行嚴格的測試和完善，以驗證其對未來部隊設計的可行性。目前還缺少實驗這一塊。

聯合參謀部正在努力重建其聯合概念開發能力，因為多年來它既沒有優先考慮這項工作，也沒有為其提供足夠的資源。產生真正的新的作戰方式，并有可能改變未來的部隊設計，將需要國防部長辦公室（OSD）、參謀長聯席會議主席和副主席（CJCS和VCJCS）的持續關注，以通過該系統推動新的聯合概念。國防部的高級領導層必須克服每個軍種推動共識產品的傾向，這些產品更多的是為了保護現有的優先事項和長期的特權，而不是產生創造性的想法。

該文件提出了以下建議，以改進聯合概念開發過程：

• 將聯合概念開發的重點放在未來作戰環境中的優先挑戰上。
• 賦予作戰指揮部推動聯合概念發展的權力。
• 探討未來戰爭的其他設想，并通過廣泛的戰爭演習和實驗來驗證聯合概念，而不是通過共識。
• 擴大實地和艦隊演習中的實驗。
• 通過培養一種 "紅色思維 "的部門文化來加大思想碰撞。
• 促進概念開發者和技術專家之間更緊密的結合。
• 建立一個集中的、高水平的概念和能力發展組織。

修正流程是開發有用的聯合作戰概念的關鍵的第一步，但國防部還必須確保聯合概念開發從正確的角度出發，專注于正確的問題集，同時保持前瞻性。迄今為止，國防部對中國和俄羅斯的思考集中在保持或恢復聯合部隊在冷戰后 "單極時刻 "所擁有的作戰優勢水平上。然后，聯合參謀部提出的概念，如 "聯合愿景：2010"，是以 "信息優勢 "的假設為前提的，這將有助于實現 "全譜系主導地位 "的既定目標。國防部的概念和能力發展應該側重于為中國和俄羅斯創造作戰困境，而不是追逐其現有業務方式的微不足道的邊際回報。

很明顯，國防部仍然被其傳統的作戰方式所束縛。參謀長聯席會議副主席約翰-海滕將軍說，在2020年底一系列兵棋推演的測試中，根據美軍過去30年的運作方式制定新的聯合作戰概念的初步努力證明是完全失敗的。

制定新的聯合作戰概念的最初嚴重地依賴傳統的作戰方式，盡管它打算對抗新的對手和新的作戰挑戰，這暴露了一個倉促的“產品”。一個成功的、以威脅為重點的作戰概念需要全面深入的分析--既要分析對手的能力和概念，也要分析聯合部隊在所設想的時間段內的能力和概念，并在深入研究概念的形成和完善之前需要時間來綜合各種投入。以前的聯合概念開發的趨勢是優先形成“產品”和達成共識，而不是更平凡但必要的深度分析工作，這對目前的努力來說不是好兆頭。

自《國家發展戰略》要求提出新的作戰概念以來，已經過去了三年多。國防部需要全新的作戰方式。如果美國軍隊繼續按照今天的方式運作，就不可能保持對同行對手的競爭力。如果這個過程陷入官方機構的爭論，或者在努力達成軍種共識的過程中只產生微小的變化，那將是一個不折不扣的悲劇。

最后，對作戰挑戰提出的概念性解決方案，無論多么合理，只有得到最高級別的文職和軍警領導人的認可和授權，才能推動計劃的改變。雖然該部門在冷戰后的記錄并不完全令人放心，但發展新的聯合作戰概念背后的政治和官方動力是相當大的，而且中國和俄羅斯構成的戰略和行動挑戰比來自伊朗、朝鮮或恐怖組織的挑戰要緊迫和嚴重得多。如果國防部能夠正確對待這一進程，并專注于為中國和俄羅斯創造困境，那么在聯合部隊的轉型方面的積極影響可能是深遠的。

新美國安全中心：

新美國安全中心（CNAS）的使命是制定強有力的、務實的和有原則的國家安全和國防政策。在其工作人員和顧問的專業知識和經驗的基礎上，CNAS通過創新的、基于事實的研究、想法和分析來吸引政策制定者、專家和公眾，以塑造和提升國家安全辯論。我們任務的一個關鍵部分是為今天和明天的國家安全領導人提供信息和準備。

CNAS位于華盛頓特區，由共同創始人Kurt M. Campbell和Michèle A. Flournoy于2007年2月成立。CNAS是一個501（c）3免稅的非營利組織。它的研究是獨立和無黨派的。

作為一個致力于組織、知識和個人誠信的最高標準的研究和政策機構，CNAS對其想法、項目、出版物、活動和其他研究活動保持嚴格的知識獨立性和唯一的編輯指導和控制。CNAS在政策問題上不采取機構立場，CNAS出版物的內容僅反映其作者的觀點。根據其使命和價值觀，CNAS不參與游說活動，并完全遵守所有適用的聯邦、州和地方法律。CNAS不會代表任何實體或利益從事任何代表活動或宣傳活動，如果中心接受來自非美國來源的資金，其活動將限于符合適用的聯邦法律的善意的學術、學術和研究相關活動。該中心每年在其網站上公開承認所有捐款的捐助者。

斯考克羅夫特戰略與安全中心致力于制定可持續的、無黨派的戰略，以應對美國及其盟友和合作伙伴面臨的最重要的安全挑戰。該中心紀念布倫特-斯考克羅夫特將軍，并體現了他對安全事業的無黨派承諾的精神，支持美國在與盟國和合作伙伴的合作中發揮領導作用，并致力于對下一代領導人的指導。

報告總結

本報告研究了通常被稱為商業 "小衛星革命 "和美國國家安全之間的關系。本報告探討了通常被稱為商業“小衛星革命”與美國國家安全之間的關系。這種關系很復雜，有很多方面，其中最重要的是組織行為、政府對商業市場缺乏了解、過時的制度流程以及不愿或無法適應不斷變化的環境的國防機構。可能值得注意的是，這些相同的問題領域中有幾個導致了2001年9月11日的大災難。這并不是說一個 "太空珍珠港 "事件迫在眉睫。然而，對空間系統的威脅將與美國保持空間優勢的能力退化成比例地增加；也就是說，確保安全和有保障地進入空間的能力在下降。

如果美國要保持空間優勢，它將需要對其與商業航天工業的多維關系作出實質性的文化、理論和行動改變。這是因為，在未來十年左右，商業空間活動將使運行中的衛星數量增加近整整一個數量級，主要是通過開發小型衛星。隨著衛星數量的增長，遙感、通信、數據處理和在軌運行的能力也會增強。一個新的空間生態系統正在形成，對世界的安全和經濟發展有著深刻的影響。商業航天公司將數以千計--即將數以萬計--的衛星送入軌道為美國的太空安全以及部署的武裝部隊帶來獨特的挑戰。某些軌道的擁擠程度將增加，對通信帶寬的競爭，新類型的空間戰，增加透明度，以及不斷變化的威脅模式。在這種不斷變化的環境中競爭，將要求美國對長期建立的國防采購作出重大改變。

主要結論

本報告探討了決定空間領域未來的趨勢和技術發展。在此過程中，它得出了六個關鍵結論：

• 1.美國極有可能在未來十年內在空間優勢方面輸給中國。
• 2.國防部（DoD）和情報界（IC）正試圖利用小衛星革命的優勢。IC正越來越多地投資于商業小衛星數據，以提高收集能力并提供軍事支持。
• 3.國防部一般不會對空間服務采取 "首先購買商業（buy commercial first）"的做法。相反，有一種既定的文化，無視立法規定的 "商業優先 "任務，而且這種行為已經變得越來越不利于國家安全利益。在過去十年中，這種消極的文化已經侵蝕了美國的空間優勢，并將繼續下去，因為世界正朝著快速開發和部署低成本的商業空間系統發展。
• 4.迄今為止，沒有任何商業小衛星服務在沒有政府支持的情況下證明自己是可行的。然而，這一行業的發展將極大地影響美國的國家安全。
• 5.國防部的采購流程旨在減少風險，因此，對高速商業空間環境的準備不足。國防部高級領導人正在努力加快小型衛星和相關技術的采購進程。到目前為止，結果是有好有壞。
• 6.美國商務部（DoC）空間商業辦公室（OSC）去年在執行其空間交通管理（STM）和在軌任務授權的責任方面沒有取得什么進展。作為國家海洋和大氣管理局（NOAA）的下屬機構，該辦公室無法在有效執行其任務所需的水平上發揮作用。

主要建議

以下關鍵建議涉及美國的空間政策、監管環境、與美國盟友的協調和合作以及對商業空間產業的支持等領域。這些建議有相同的目標：加強全球空間安全和推進美國商業空間產業。推進美國商業航天工業是保持全球空間領導地位的一個關鍵組成部分，并確保空間系統的安全和保障以及國家安全。

• 1.美國國會和政府必須進行嚴格的監督，以確保國防部和IC組織執行 "首先購買商業（buy commercial first）"的政策（包括他們自己）。
• 2.美國商務部長應將國防部空間商業辦公室從NOAA之下移出。OSC最近擴大了對STM和在軌任務的責任，使其不適合于一個專注于海洋學和大氣管理的實體。NOAA中的OSC也不適合進行必要的機構間和國際協調。
• 3.增加美國各種空間系統的復原力，需要國防部利用商業系統，包括擴散的衛星結構和響應的空間發射能力，在所有級別的軌道和不同的有效載荷，并且考慮從盟國和商業供應商購買數據。
• 4.美國國會應指示國防部和國家情報總監辦公室(ODNI) 進行一項研究，以確定可通過商業空間完成的國家安全任務。然后，國會應該為這些商業服務撥出專用資金。這一行動將迫使向商業空間服務過渡，確保為商業小衛星開發提供穩定資金，并通過競爭推動空間創新。
• 5.美國國土安全部（DHS）應該進行一項研究，以確定空間系統是否應該被列為國家關鍵基礎設施部門之一。如果是這樣，國會應該指定空間系統為關鍵基礎設施，由商務部作為具體負責機構。
• 6.美國國務院、國防部空間政策辦公室和商務部應當加強空間外交努力，以建立全球空間行為規范為目標。

序言

指揮、控制和通信（C3）系統是所有軍事作戰的基礎，為國防部（DoD）的所有任務提供計劃、協調和控制部隊和作戰所需的關鍵信息。歷史上，美軍取得并保持了C3技術的主導優勢，但同行的競爭者和對手已經縮小了差距。國防部目前的C3系統沒有跟上威脅增長的步伐，也沒有滿足我們聯合作戰人員不斷增長的信息交流需求。聯合部隊必須配備最新的C3能力，為所有領域提供實時態勢感知和決策支持。

未來的沖突很可能由信息優勢決定，成功的一方將來自多個領域的分布式傳感器和武器系統的大量數據轉化為可操作的信息，以便更好、更快地做出決策并產生精確的效果。國防部（DoD）正在執行一項重點工作，通過綜合和同步的能力發展，在所有領域迅速實現靈活和有彈性的指揮和控制（C2），以確保對我們的對手的作戰和競爭優勢。這項工作被稱為聯合全域指揮與控制（JADC2），是決策的藝術和科學，將決策迅速轉化為行動，利用所有領域的能力并與任務伙伴合作，在競爭和沖突中實現作戰和信息優勢。JADC2需要新的概念、科學和技術、實驗以及多年的持續投資。

該戰略代表了國防部對實施國防部數字化現代化戰略中C3部分的設想，并為彌合今天的傳統C3使能能力和JADC2之間的差距提供了方向。它描述了國防部將如何創新以獲得競爭優勢，同時為完全網絡化的通信傳輸層和先進的C2使能能力打下基礎，以使聯合全域作戰同步應對21世紀的威脅。該戰略的重點是保護和保持現有的C3能力；確保美國、盟國和主要合作伙伴在需要的時候能夠可靠地獲得關鍵信息；提供無縫、有彈性和安全的C3傳輸基礎設施，使聯合部隊在整個軍事作戰中更具殺傷力。這一戰略的實施需要在作戰領域內和跨作戰領域內同步進行現代化工作，從完美的解決方案過渡到一個高度連接的、敏捷的和有彈性的系統。

本文件確定的目標為DOD的C3系統和基礎設施的現代化提供了明確的指導和方向。然而，現代化并不是一個終點，而是一項持續的工作。國防部將評估和更新該戰略，以適應在通往JADC2道路上的新的作戰概念和技術。

引言

美國防部正面臨著幾十年來最復雜和競爭激烈的全球安全環境。在這個大國競爭的新時代，國防部必須提高聯合作戰人員的殺傷力，加強聯盟伙伴關系，吸引新的合作伙伴，并改革國防部以提高績效和經濟效益。

當我們建立一支更具殺傷力的部隊并加強聯盟和伙伴關系時，DOD必須專注于關鍵的有利工具，以有效地運用聯合多國部隊對抗大國競爭。有效的部隊使用始于有效的C2，即由適當指定的指揮官在完成任務的過程中對指定和附屬部隊行使權力和指導。在現代戰爭中，這可能是人對人、機器對機器（M2M）的循環，或者隨著自主程度的提高，M2M的循環中也有人類。在其最基本的層面上，成功的C2需要有可靠的通信、發送和接收信息的手段，以及其他處理和顯示可操作信息的能力，以幫助指揮官進行決策并取得決定性的信息優勢。

圖1：指揮、控制和通信現代化

該戰略的重點是支持有效的聯合和多國作戰的C3使能能力（圖1）。C3使能能力由信息整合和決策支持服務、系統、流程以及相關的通信運輸基礎設施組成，使其能夠對指定和附屬的部隊行使權力和指導。這些能力使指揮官和決策者能夠迅速評估、選擇和執行有效的作戰方案以完成任務。

具體而言，該戰略為2020-2025年的C3使能能力現代化提供了方法和實施指南。作為2018年國防戰略（NDS）實施的一部分，聯合參謀部正在制定聯合和任務伙伴網絡的工作概念，以便在有爭議的環境中執行全域聯合作戰。根據這些概念，負責研究和工程開發的國防部副部長辦公室（OUSD(R&E)）正在開發和發展一個長期的（2024年及以后）全網絡化指揮、控制和通信（FNC3）架構。實施這些未來的概念和架構將需要時間來使得新的技術和多年的投資成熟可用。這個C3現代化戰略為彌合今天的傳統C3使能能力和未來的FNC3使能JADC2之間的差距提供了方向，以確保聯合部隊能夠 "今晚作戰（fight tonight）"，同時為聯合全域作戰所需的未來技術創造一個可行的過渡路徑。

戰略目標

本戰略提出的C3現代化目標與國防部數字化現代化戰略（DMS）和其他更高層次的指導意見相一致，包括國家發展戰略、國防部2018年網絡戰略、聯合作戰的基石概念：《聯合部隊2030》和《國防規劃指南》。它實施近期的現代化作戰和創新解決方案，通過更安全、有效和高效的C3環境提供競爭優勢。為此，國防部必須解決這些C3現代化的目標：

1.開發和實施敏捷的電磁頻譜操作；

2.加強定位、導航和授時信息的交付、多樣性和彈性；

3.加強國家領導指揮能力；

4.提供綜合的、可互操作的超視距通信能力；

5.加速和同步實施現代化的戰術通信系統；

6.全面建立和實施國防部公共安全通信生態系統；

7.創造一個快速發展5G基礎設施和利用非美國5G網絡的環境；

8.提供有彈性和響應的C2系統；9.提供任務伙伴環境能力。提供任務伙伴環境能力和服務。

圖2：DOD數字現代化戰略

圖3：DOD C3現代化和數字現代化戰略的一致性

圖2和圖3分別顯示了本戰略中實施的DMS要素以及兩個戰略之間的目標和目的的一致性。

DOD C3依賴于一個復雜的、不斷發展的系統，從網絡基礎設施和核心服務到戰術邊緣的手持無線電和移動設備。本戰略中包含的九個目標是對圖2中強調的六個DMS目標的更細粒度的分解。C3現代化的其他關鍵因素包括聯合信息環境能力目標、數據中心化和數據分析，分別包含在DMS、國防部云戰略和國防部人工智能戰略中。有效的國防部事業管理將確保這些戰略的成功同步和實施。

2020年初，美國海軍發布《人工智能技術安全性》。該報告重點關注對此項技術帶來的安全性問題。美國海軍乃至整個國防部系統，都在嚴肅認真地對待軍事人工智能的發展。2019 年的 2、6、9 月，美國先后公布《國防部人工智能戰略》、《國家人工智能戰略》《空軍人工智能戰略》三大戰略，表明其在國家、軍隊、軍種三個層面的“智能化戰略”全面啟動。可看出美國人工智能在軍事領域的發展態勢日趨激烈

一、推出多項政令戰略規劃，聚力發展人工智能

人工智能作為驅動第四次工業革命的重要引擎，深刻影響著經濟產業和各技術學科的發展，為此美國以國家戰略地位提升對人工智能在社會發展各領域( 特別是國防領域) 的動能，以推動人工智能技術的研發。2019年10月，世界經濟論壇發布制定國家人工智能戰略的框架白皮書，創建了最低限度可行的人工智能國家戰略制定框架，指出國家人工智能戰略的制定應考量具有戰略意義的優先事項人口需求資源限制和地緣政治等因素，旨在指導尚未或正在制定人工智能國家戰略的政府。美國多措并舉，繼續把發展人工智能技術作為提升國力維護國家安全的重大戰略，從國家戰略層面強化人工智能技術布局。2019年2月，美國政府科技政策辦公室發布由美國總統特朗普簽發的《維持美國在人工智能領域的領導地位》行政令，提出了美國發展人工智能的政策和原則戰略目標和重點領域，啟動旨在推進美國在人工智能領域領導地位的美國人工智能倡議，指示聯邦政府整合資源，聚力發展人工智能。

同年2月，美國國防部公布《2018年國防部人工智能戰略》的摘要部分( 題為《利用人工智能促進安全與繁榮》) 。該戰略是美國國防部首個人工智能戰略，旨在落實美國政府《國家安全戰略》和《國防戰略》提出的人工智能重要事項，為美國國防部謀求軍事人工智能優勢發展軍事人工智能實戰化能力提供戰略指導。2019年7月，美國空軍推出數字空軍計劃，旨在改進其在數據管理信息技術架構和業務運營方面的不足，使美國空軍保持競爭力。2019年9月，美國能源部成立人工智能與技術辦公室，旨在為美國人工智能研究人員提供聯邦數據模型和高性能計算資源。2019年9月，美國空軍以美國《國防部人工智能戰略》附錄形式發布《2019空軍人工智能戰略》，詳細闡釋在數字時代如何有效管理引導和引領所必須的基本原則職能和目標。2020年初，美國海軍分析中心發布專題報告《人工智能技術安全性———對海軍的行動方案建議》。該報告從當前美國海軍推動軍事領域人工智能技術運用過程中引發的公眾關注進行介紹入手，提出了海軍乃至整個國防部系統在軍事領域接收采用新興技術手段的總體態度與思路。

二、多家軍事機構開展研發項目，探索人工智能技術的軍用新場景

作為軍事大國，美國對于人工智能軍事作戰賦能的目標非常清晰，強力推動美國頂尖人工智能研究走向新的技術突破，促進科學新成果的發現、增強經濟競爭力、鞏固國家安全。2019年3月，美國參議院軍事委員會舉行主題為國防部人工智能計劃的聽證會，美國國防預先研究計劃局 DARPA、國防創新小組( DIU) 、國防部聯合人工智能中心( JAIC)等機構主管分別發言，闡述所在部門的人工智能項目及運行機制等情況，鞏固并強化了人工智能技術及應用與軍方之間的聯系，保障美國的人工智能軍用化步伐進一步加快。以DARPA為例，DARPA正將投資和研發重點轉向第三代人工智能技術，用于創建能在特定語境下進行推理的機器。資助的主要項目包括終身學習機器( L2M，2017年啟動)，可解釋人工智能( XAI，2018年啟動)和機器常識( MCS，2018年啟動)等，探索提高人工智能技術水平的方法，實現語境推理能力。DARPA認為，將這些技術集成到與軍事作戰人員合作的軍事系統中，將有助于在對空間敏感的復雜戰場環境中做出及時決策，了解不完整或者相互矛盾的海量信息，并使用無人系統安全自主地執行關鍵任務。2019年1月，DARPA啟動知識導向型人工智能推理模式( KAIROS)項目，旨在提升面向復雜戰場環境挖掘和理解海量信息中的復雜事件及其相互關系的能力。2019年1月，美國陸軍研究實驗室( ARL)啟動異構戰術環境中的分布處理( DPHTE)計劃，基于霧計算平臺在對抗性軍事環境中為作戰人員提供更多的態勢感知。2019年2月，美國空軍研究實驗室發布多域戰和目標定位支持信息分析項目，旨在開發基于算法戰和人工智能等技術，針對時敏有價值的敵對移動目標進行快速預判和打擊。2019年5月，DARPA啟動旨在將人工智能應用于空戰演變( ACE) 項目，人工智能空戰應用成熟后可替代飛行員完成部分空戰任務。2019年5月，麻省理工學院發布為美國空軍打造人工智能加速器項目，該項目研究領域包括救災和醫療準備、數據管理、維護物流、車輛安全以及網絡還原能力。2019年9月，美國國防部聯合人工智能中心宣布美國軍方網絡安全數據制定新框架，重點為未來人工智能網絡防御體系奠定基礎。2020年初，美國特朗普政府向國會提交2021財年預算申請，加速發展人工智能等技術。提議政府預算從2020財年1560億美元削減至1422億美元，下降138億美元，但預算申請仍強調優先發展“未來產業”，必須加速發展人工智能等技術。其中，500萬美元用于能源部新立“人工智能與技術辦公室”，加強人工智能的項目研發。

三、夯實人工智能實踐應用的道德準繩和安全邊界

隨著人工智能技術的發展，人權倫理、隱私保障、歧視偏見、安全問題等困境日益突出。美國亦在探索中多措并舉，確保人工智能在充分的監督和控制之下發展。特別是在2019年發布的國家級人工智能戰略和2020年初發布人工智能技術安全性報告中，將道德、隱私、安全等問題擺在突出位置，認為應在尊重道德、重視安全的前提下最大限度地發揮其社會效益。

（一）明確戰爭中使用人工智能技術的道德原則和標準

美國推動多項研究，闡明美國合法道德地使用人工智能的愿景和指導原則，引導負責任的人工智能應用和開發。2019年1月，美國國防部要求國防創新委員會制定在戰爭中使用人工智能的道德原則，用以指導軍方在戰爭中使用人工智能技術和武器，并向硅谷科技公司確認其人工智能產品將如何被使用。美國國防部這一舉措被認為旨在形成全球軍用人工智能規范的指導方針，并吸引硅谷科技公司參與防御工作；10月，人工智能原則: 國防部人工智能應用倫理的若干建議推出，被認為是美國對軍事人工智能應用所導致倫理問題的首次回應。2019年1月，美國著名智庫布魯金斯學會發布《自動化和人工智能：機器對人及地區的影響》報告，著重分析了過去近30年間的資助系統與人工智能對行業、就業、地理和人口的影響，并對當前至2030年的趨勢進行了預測。最后針對國家、州和地方的政策制定者提出一個綜合響應框架，為人們理解并規范自動化和人工智能的作用提供參考。

（二）人工智能對軍事領域尚屬新興技術，安全性不容忽視

人類歷史上，充斥著軍隊利用技術取得軍事優勢的實例。比如戰車。戰車，是出現在戰場上的第一種車輛裝備，由民間通用馬車提高速度和機動性改進而來，在軍事運用方面取得了顯著的優勢。戰車被描述為當時的“超級武器”。又比如火藥。火藥源起于一個偶然發現，它的出現，使得軍隊能夠駕馭化學反應能量來提高速度與威力，由此徹底改變了戰爭的形態和樣式。再比如內燃機。這種發動機繼承并發展了蒸汽機的優勢，改變了戰爭活動的速度與范圍。對內燃機的應用方案，包括為后勤物流（補給運輸卡車）提供動力以及為潛艇、飛機與導彈賦予持久的遠程監視及打擊能力。對大多數技術手段的接收和運用，一度都曾起到了改變了戰爭樣式的作用。而其中有幾項，更是徹底顛覆了以往戰爭活動的樣式和范圍，其中便包括火藥與核武器。人工智能技術，亦被認為位居此類。此項技術能夠應用于整個戰爭事業的方方面面，大幅提高了戰爭活動的效能與效率。各類人工智能技術，也因其各自獨有的特性而有所區別。首先應注意到，現實世界中人工智能技術應用方案，是用以解決特定領域問題的狹義人工智能技術，而非具備普遍通用性的通用人工智能技術應用方案。人工智能技術在軍事領域的應用，可以與美國軍隊對核武器的運用方式進行類比：安全方面的關鍵性技術領域知識，必須在很大程度上由軍隊文職機構掌握，在很大程度上亦屬技術范疇。

（三）給予人工智能技術安全性 “恰到好處”的信任

人工智能技術安全性，也與對其信任程度有關。美國軍方運用人工智能技術方面的一個關鍵問題是，軍方人員和美國政府高層領導能否相信這些系統確實有效且不會引發意外問題。2016年國防科學委員會對自主控制技術的研究報告指出：“決定在特定任務中部署運用某系統的個人，必須信任該系統。”在伊拉克和阿富汗的行動表明，負責實施特定行動的指揮官和戰斗/操作人員在不完全了解后果的情況下，不一定會使用某些系統。當某些系統被部署至戰場以滿足緊急需求時（如反簡易爆炸裝置系統或用于提供關鍵性情報的監視系統），一些部隊還是選用了他們已經熟悉的武器系統和情報監視偵察平臺，即便是老系統的功能指標比不上那些已經可以選用的新系統。對人工智能系統的信任度過低是一種危險，會阻止部隊運用他們所需的功能。而另一種危險，則是對某項能力的過度信任。人類傾向于過度信任機器，即便在有證據表明不能夠給予這種程度的信任情況下，也是如此。戰爭活動中的過度信任，也有具體案例。如，2003年，陸軍“愛國者”防空導彈系統曾擊落1架海軍F/A-18飛機，該系統將飛機誤判定為戰術彈道導彈，并向操作人員提出了建議，要求其發射導彈實施攔截。操作人員在沒有獨立核實可用信息的情況下，批準實施了這項建議。這表明，在實際作戰行動中，軍方需要對人工智能給予程度“恰到好處”的信任，不能過熱也不可太冷，避免滑向兩個極端。需要達成的目標，是程度恰當的信任，并且應該讓人來參與決策過程。而這種決策過程，則需要以各種相關能力及對系統功能所具備的經驗與知識為依托。

（四）軍事人工智能安全問題將寫入政策方針

軍方和政府的高層領導，還應通過政策方針層面的決策對相關軍事行動的性質施加影響，包括確定戰爭活動中應該使用哪些特定的技術手段。這些方針政策，可能會對監管程度構成影響。例如，國防部第3000.09號指令，就要求對某些類型的自主控制系統進行高級別審核。明確戰爭活動中允許使用的技術手段（例如，對白磷（彈藥）運用的限制和使用集束彈藥時相關設定要求以及對其它此類武器具體性能參數的限制要求），并且對某些特定類型作戰行動中的策略原則進行限制。例如，《2013版總統政策指導（Presidential Policy Guidance，PPG）》及《2017版總統政策指導》中，對某些反恐行動的批準與監管流程的總體原則框架進行了明確。這些政策方針原則，有助于確保相關軍事活動符合美國的原則、價值觀及利益。這些政策方針層級的決定，都有反映出對此類系統或作戰行動可靠性所應持有的信任程度的意味。值得注意的是，以上這些實例內容都涉及到了安全性原則問題，而《國防部第3000.09號指令》的目的，就在于避免“意外交戰（inadvertent engagements）”事件的出現（例如致使平民傷亡）。限制白磷彈藥和集束彈藥的目的，還在于減少使用這些武器時給平民帶來的危險。《2013版總統政策指導》中，直接將致使平民傷亡明確列為作戰行動批準程序中的否決條件（no-gocriterion）。因此可以預見，安全性問題，勢必將成為未來高層領導人對于將人工智能技術手段運用于戰爭活動方面所明確的相關指導與指令內容中的一部分。

（五）軍方須與業界協助解決安全問題

人工智能技術的巨大進步，也使美國政府產生了對業界新的依賴性。自第二次世界大戰以來，美國政府一直在很大程度上依賴于自身投入的研發資金。然而，人工智能技術方面的研發投資，越來越多地由私營機構所主導。其特征，是過去十年來科技行業的研發支出急劇增加。在圖1中，我們將整個美國政府在網絡和信息技術研發方面的支出與美國排名前五位的高科技公司（亞馬遜、谷歌/阿爾法控股、英特爾、微軟、蘋果）的研發投資進行了對比。如圖1所示，科技行業企業在研發方面的投入明顯更多，而且兩者間的差距正在擴大。2010年，科技行業企業的研發支出，已經是美國政府整體科技研發投資規模的6倍。8年后，企業在這方面的投入規模將激增至美國政府的15倍。總體而言，美國政府在尖端技術方面研究工作的投資面臨著迅速擴大的缺口。這種現狀，為美國政府營造出了一種處于不斷變化中的環境。在這種環境中，與業界的協作，對于美國政府實現其戰略目標必須保持的技術優勢而言至關重要。在這個意義上，人工智能技術安全性應該是業界關注的問題——正如谷歌等公司放棄了對美國政府軍事領域應用方案的支持，并開始運用倫理性審查程序對其內部工作流程進行監測所證明的那樣，美國政府必須與業界協作，依托其幫助解決此類問題。

圖1 美國政府與科技行業企業研發投資差距對比圖

四、美國軍事人工智能面向未來的發展趨向人工智能技術一般可分為弱人工智能、強人工智能、超人工智能 3 個等級，預計強人工智能技術可能在 2050 年前問世。未來美軍智能化建設發展可能經歷三個階段：

2025 年前，美軍重點是搭起智能化軍隊框架，總體水平處于弱人工智能階段。美軍建設主要圍繞構建“全球監視打擊體系”，以升級水下、網電、空天、全球快速打擊和導彈防御作戰系統為重點，突出發展無人化、隱身化、遠程化作戰平臺，提升“全球公域”介入能力，確保可信的“拒止”和“懲罰”威懾。這一階段，美軍無人系統在數量上將逐步超過有人系統，自主無人系統將成為美軍前沿作戰的重要力量，無形、無人、隱形、靈巧等力量將成為美軍事干預的主要手段。2035 年前，美國初步建成智能化作戰體系，總體水平進入強人工智能階段。美軍建設主要通過發展智能化作戰平臺、信息系統和決策支持系統，以及定向能、高超聲速、仿生、基因、納米等新型武器，對主要對手形成新的軍事“代差”。在這一階段，美軍無人系統的投資將超過有人系統，無人系統建設規模及作戰運用皆居于主導地位。2050 年前，美軍智能化作戰體系將更先進、更完善，總體水平達到超強人工智能階段。美軍在強人工智能、通用量子計算、可控核聚變、納米機器人、再生、創生、腦聯網等技術方面可能取得突破。作戰平臺、信息系統、指揮控制可能全面實現智能化、無人化，更多樣的仿生、基因、納米等新型武器走上戰場，作戰空間進一步向生物空間、納米空間、智能空間拓展，人類進入“機器人戰爭時代”。

?美國國防部已經可以開始應用其現有的國際科技協議、全球科學網絡以及在多邊機構中的作用來促進數字國防合作。本報告將這些選項集合構建為軍事人工智能合作工具箱，可為調整政策、推進研究、開發和測試以及連接人員提供了有價值的途徑。

美國將人工智能 (AI) 的領導地位視為提升其在國際體系中的戰略地位和保持其未來軍事優勢的關鍵。美國的盟友和伙伴網絡是服務于這些目標的不對稱資產，正如旨在讓美國為當前戰略競爭時代做好準備的國家安全和國防政策所確認的那樣。

最值得注意的是，美國國防部 (DOD) 人工智能戰略中宣布的關鍵舉措和國家安全委員會關于人工智能的建議表明了國際參與對人工智能安全、安保、互操作性和與民主價值觀保持一致的重要性。

簡而言之，人們一致認為，加強聯盟和伙伴關系很重要，不僅因為美國在聯盟中行動，而且因為俄羅斯等經常單獨行動。由于技術加速如何推動軍事進步、刺激經濟增長和塑造21世紀的治理模式，人工智能和其他新興技術是與這些近乎同等競爭對手競爭的核心。如果不深化與盟友和伙伴的合作，美國既無法應對大國帶來的挑戰，也無法從塑造人工智能的民主軌跡中獲益。

在此背景下，本報告重點關注通過基于可互操作部隊和尖端技術的強大軍事關系，維護美國及其伙伴和盟國網絡相對于潛在對手的優勢的必要性。國防部已經擁有多種工具可用于深化與其盟國和國際安全伙伴的科技（S&T）合作。但為了充分利用它們在人工智能方面的潛力，該部門需要重新設想并更好地整合它們。

為此，此處的分析將現有的國防科技協議、軍事科技交流和多邊機構的要素構建為軍事人工智能合作工具箱。這項工作不僅僅是為人工智能能力開發集中資源，還包括政策調整；測試、評估、確認和驗證 (TEVV) 管道；研發（R&D）、人員交流；數據共享；和標準化。這里的目的不是提出新的協議，而是回答國防部如何利用其現有的科技合作機制來支持數字時代的軍事合作，確保相關資源和框架在尋求人工智能領導力和未來時不會被利用聯軍成功。

雖然應該承認挑戰，包括圍繞數據交換的敏感性和對技術政策的不同政策觀點，但隨著時間的推移，它們也可以成為合作以減輕這些障礙的動力。換言之，現有工具有助于在政治信任、凝聚力和互操作性方面獲得更多支持，從而使合作有助于應對數字威權主義和技術驅動的國際安全環境變化的共同挑戰。 主要發現是：

• TEVV 是軍事人工智能合作的一個重要但代表性不足的特征。一系列活動可以納入 AI 的合作 TEVV 管道，包括聯合測試、試驗、實驗、培訓、練習以及建模和模擬。
• 利用國防科技協議就共同的研發優先事項進行合作，有助于為其他形式的人工智能合作建立良好意愿，包括與民主價值觀保持一致。
• 軍事人工智能合作不是純粹的技術努力。促進政策和人員聯系的技術、人力和程序措施對于推進可互操作的人工智能采用同樣重要。
• 印度-太平洋地區的盟國和合作伙伴在現有軍事人工智能合作工具箱所涵蓋的主要協議和機構中的代表性不足。

雖然軍事人工智能合作的某些方面可能需要新的投資、機制和協議，但這不應該排除現有工具可以用于新用途的多種方式。軍事人工智能合作工具箱之所以有吸引力，正是因為它可以在短期內啟動，滿足與盟友和伙伴盡早建立互操作性和推進人工智能的緊迫性。