（本文由國家情報委員會的戰略未來小組與外部專家和情報界分析師協商后制作，以幫助為 2021 年 3 月發布的綜合全球趨勢產品提供信息。但是，該分析并不反映美國政府的官方政策、廣度情報來源，或美國情報界的全方位觀點。）

在未來20年里，軍事沖突很可能是由歷史上引發戰爭的相同因素驅動的--從資源保護、經濟差距、意識形態差異到追求權力和影響力--但隨著新技術、應用和理論的出現以及更多行為體獲得這些能力，發動戰爭的方式將發生變化。改進的傳感器、自動化和人工智能（AI）與高超音速技術和其他先進技術的結合，將產生更準確、連接更好、速度更快、射程更遠和更具破壞性的武器，主要供最先進的軍隊使用，但一些較小的國家和非國家行為者也可以獲得。隨著時間的推移，這些系統的擴散和傳播將使更多的資產變得脆弱，加劇升級的風險，并使戰斗可能更加致命，盡管不一定更具有決定性。

1 未來戰場概述

本評估主要關注未來20年內可能發生的戰爭和戰斗方式的變化，包括技術、理論和行為者。它沒有詳細討論未來沖突背后的潛在原因或動機，也沒有試圖預測戰爭的每一個潛在發展。

到2040年，一系列潛在的革命性技術和新用途可能會改變戰爭的特征。我們在戰爭的三個不同方面考慮這些潛在的變化：硬件（武器系統和新技術本身）、軟件（理論、訓練和使用這些新技術的方式）和用戶（使用這些武器和理論的國家或非國家行為者）。對于戰爭的未來，新技術的應用和組合與技術本身一樣重要。

例如，在1919年，不難預測飛機、航空母艦、坦克和潛艇--所有這些都在第一次世界大戰中出現過--將在下一場大戰中使用。各個交戰國--每個國家都有自己的軍事經驗、觀念和傳統--將以何種不同的方式使用它們，以及哪些技術將戰勝其他技術，是真正的問題，也是最難預測的問題。今天的情況也是如此。

2 硬件:新的武器技術

在未來的20年里，新的和正在出現的技術可以在四個廣泛的領域改變并可能徹底改變戰場：連接性、致命性、自主性和可持續性。

• 連接性：戰斗人員探測和定位其對手、相互溝通和指導行動的方式。

• 致命性：新的武器和武器系統可以在戰場上造成的損害。

• 自主性：機器人和人工智能可以改變誰（或什么）戰斗和決策的方式。

• 可持續性：軍隊供應和支持其部署部隊的方式。

2.1 連接性

未來的戰爭可能會減少對火力的關注，而更多地關注信息的力量以及通過指揮、控制、通信、計算機、情報、監視和偵察（C4ISR）概念連接軍隊的方式。與以往任何時候相比，優勢將在于哪一方能夠收集最重要的信息，準確和快速地分析它，然后迅速和安全地將信息和相關指令傳播給部隊。

更加廉價的傳感器和大數據分析的結合表明，到2040年，在實時檢測和處理信息方面可能會出現一場革命。世界上許多國家的軍隊認識到這一潛力，并已在努力利用信息的力量來擴大其作戰戰略和能力。他們正在探索新興技術，包括但不限于人工智能，如何能夠迎來一個持續監視的時代并改善他們的決策。

• 在那些希望隱藏其活動的人--無論是在戰術、作戰還是戰略層面的戰爭--與那些尋求識別和跟蹤他們的人之間的較量中，到2040年，平衡可能會轉向 "尋求者"，因為日益先進和可獲得的技術為他們提供了持續的全球監視能力。

• 例如，在海底領域，更多的、改進的和相對便宜的傳感器與商業化處理能力的進步相結合，可以使潛艇--被認為是世界上第一個隱形技術--更容易被發現。

這種信息優勢和實現這種優勢的技術也可能成為未來沖突中對手的重要目標。連通性越是被視為一方的決定性優勢，另一方就越會尋求破壞、降低和禁用高度連接的、依賴信息的系統。

• 這種努力可能集中在戰術層面，使用先進或傳統的武器來消除關鍵的基礎設施和節點，或通過更微妙的--可能更具破壞性的--先進手段，如網絡或電子戰來改變GPS信號以誤導對手的平臺和智能武器，這種技術被稱為 "欺騙"。在更大的戰略層面上，網絡攻擊和電子戰可能被用來破壞軍隊的整體C4ISR基礎設施，以混淆或凍結決策，大大削弱其戰斗能力。

• 現代軍隊特別容易受到任何精確導航的損失，包括全球定位系統及其同等產品。例如，在2010年，一個軟件故障使多達10,000個軍用GPS接收器暫時失效，影響了美國海軍的X-47B原型無人機等系統。

• 依靠天基基礎設施的C4ISR或其他系統，如GPS，可能會因動能--甚至可能是定向能--反衛星武器系統的進步而面臨進一步的風險，無論是基于地面的還是空間本身的。

圖 連接戰爭：GPS 欺騙誤導平臺

2.2 致命性

一旦通過多樣化的監視技術找到了對手的部隊，就可以用越來越先進的武器來對付他們。武器裝備中最重要的、正在進行的趨勢之一是高速、遠程、增強的破壞潛力和精確性的日益結合。到2040年，通過在大多數武器系統中整合衛星提供的圖像和定位、定時和導航信息，精確度將進一步提高。這種進步將有可能改善能夠跨越大陸進行打擊的系統，以及更多的戰術武器，如制導火箭、炮彈和迫擊炮彈。

• 到2040年，此類系統的數量和精度不斷增加，特別是彈道導彈和巡航導彈系統，將對總部、通信設施、機場、后勤基礎設施和其他關鍵目標構成重大威脅。

• 遠程精確打擊武器庫存可能包括越來越多的高超音速系統，它們可以以前所未有的機動性和速度打擊遠距離目標。這些系統將給那些試圖開發能夠探測、跟蹤和攔截這種快速移動和機動武器的反措施的人帶來艱巨的挑戰。

盡管尚未在戰斗中得到證實，但定向能武器--包括激光和高功率微波--可能成為2040年戰場的特征。遠程精確打擊武器，如高超音速武器，有可能徹底改變進攻，而定向能武器可以徹底改變防御，例如，提供一種有效的手段來對抗高超音速武器的高速和可操作性。如果能夠克服部署此類武器系統的挑戰，包括能源消耗和補充，那么能量武器以光速發射的每一發子彈的成本幾乎可以降至零，而理論上其射速可以超過任何機械系統。

• 然而，即使這些武器在未來20年內以可觀的數量投入使用并按設計工作，它們仍將擁有固有的限制。例如，激光被限制在視線范圍內，并可能被大氣中的遮蔽物、反射表面或特殊材料所削弱或擊敗，而高功率微波可能被潛在目標的關鍵部件的硬化所擊敗。

圖 高超音速滑翔機軌跡和彈道軌跡

2.3 自主性

• 無人駕駛系統。無人機已經是全世界戰場上公認的--甚至是假定的--作戰工具。未來20年可能會看到大量其他無人駕駛飛行器的開發和部署，從地面飛行器到海基地面和地下平臺。這些飛行器是執行平凡的、重復性活動的理想選擇，如為載人平臺執行補給任務，以及執行危險任務，如偵察敵人的掩體和據點，鋪設或清除陸基和海基水雷，或搜索潛艇。

• 致命的自主武器。隨著自主技術的發展，一些國家可能不擔心人類會在發射決策中出現問題。因此，到2040年，盡管有相關的倫理和法律挑戰，真正的自主致命武器可能會在戰場上游蕩，并做出自己的目標和交戰決定。

• 蜂群。所有類型的無人駕駛系統正在迅速變得更多、更有能力和更便宜。已經觀察到小型無人機群的攻擊--例如，當美國特種部隊在2016年秋天為從ISIS手中奪回伊拉克城市摩蘇爾而戰斗時，他們受到了至少十幾架武裝無人機的攻擊，它們投放了手榴彈和簡易爆炸物。然而，蜂群的力量不僅僅是數量--無人駕駛車輛的蜂群可以相互溝通，并隨著情況的變化調整其戰術和目標。

圖 在伊拉克的一次訓練演習中，一個Talon 3B機器人正在接近一枚殺傷地雷。

這些自主系統的發展和不斷發展的能力與人工智能的進步密切相關。人工智能已經被用來提高各種現有武器系統的性能，如精確彈頭中的目標識別，并可在人機合作中用于支持人類，包括決策工具，或作為決策引擎本身。到2040年，源于人工智能的軍事決策可能會在實時支持行動中納入可用的天基數據。

• 例如，中國正在積極尋求將人工智能用于廣泛的應用，包括信息和數據分析；用于兵棋推演、模擬和訓練；以及用于指揮決策。俄羅斯總統弗拉基米爾-普京在2017年說，引領人工智能發展的國家將 "成為世界的統治者"。

• 然而，人工智能面臨著技術障礙和缺陷，它必須克服這些障礙和缺陷，以滿足其在戰場上的全部潛力。人工智能和支撐它的機器學習算法在界限分明的任務中表現出色，但如果面對混亂或意外的輸入，就會出錯。例如，可以想象這樣的情景：在動態的、往往是混亂的戰斗環境中，由人工智能驅動的致命自主武器被輸入所淹沒，要么關閉，要么游離，甚至開始瞄準友軍。

2.4 可持續性

最后，其他新技術，特別是機器人技術、增材制造、生物技術和能源技術，可能會大大改善軍事后勤和維持。

• 無人車可用于后勤支持，在后方基地和部署在戰場上的部隊之間進行相對平凡但往往危險的供應。

• 增材制造能力--如使用包括先進金屬或陶瓷在內的新材料進行3-D打印--有可能通過廉價、快速和在需要的地方生產供應品、零件和可能的設備來徹底改變軍事后勤。

• 生物技術可以提高士兵個人在戰場上的戰斗力和生存能力。士兵們可能會使用他們身上或體內的醫療設備來監測他們的身體狀況，并且隨著戰場的進展，使用設備來診斷健康問題或傷害，并注射藥物--甚至在戰斗中。

• 新能源技術--如小型核反應堆，或高密度電力儲存--可以通過減少操作前沿部署的設施和設備所需的燃料數量，或作為未來定向能源武器的動力源，對后勤和武器系統產生同樣的變革性影響。

圖 2020 年 5 月對安裝在波特蘭號航空母艦 (LPD 27) 上的激光武器系統進行的測試。據美國海軍稱，該系統成功地禁用了用作目標的無人機。

定向能武器：威力強大，但依賴于能量：激光和其他定向能武器（DEWs），以及正在開發的軌道炮，都依賴電能來運作。因此，定向能武器的一個潛在缺點是，如果它們被剝奪了電源，例如在戰斗中遭到破壞，它們就會變得無法使用。

3 軟件:開發新概念

在戰場上使用新武器和新技術的方式將與技術本身一樣重要，特別是在確定軍事突破是真正的革命還是僅僅是當今軍事藝術的先進版本方面。正如第一次和第二次世界大戰前對新的和未經試驗的理論概念進行辯論一樣，世界各地的軍隊正在努力開發如何使用這些新的戰爭工具的理論（"軟件"）--有些是以新穎的方式，但有些則更多地反映了從今天的戰術和戰略的演變。至少有四種相互獨立但并不相互排斥的設想，即行為者在未來幾年內如何使用新武器和技術。

3.1 快攻

作為毀滅性的開場炮，高超音速武器，也許與更多的先進常規導彈相結合，可以在防御者能夠做出任何形式的反應之前，幾乎同時打擊對手的軍事和民用基礎設施。由于這種武器的射程和精度，攻擊者很可能不必事先廣泛部署部隊，從而限制了對手的指標和警告。

3.2 區域防御

雖然一些新技術似乎有利于進攻或遠征戰爭，但某些其他新技術似乎為防御提供了更多的幫助，特別是對于專注于確保其國土安全的小國。例如，今天的無人駕駛系統通常需要大型和昂貴的機身，以容納必要的發動機和燃料箱，以便在遠離其基地的地方運行或在外國或敵對領土上長時間徘徊。然而，如果目標是保持對局勢的了解，并保衛一個國家的領空、海洋主張或本土領土，那么大量小型和廉價的無人駕駛系統可能同樣有效。

3.3 分布式戰爭

高速和高度精確的致命武器的擴散將使昂貴的、高價值的、難以快速替換的平臺和武器系統的生存能力受到質疑。一個潛在的緩解策略可能是進一步發展和實施分布式部隊和行動。

• 精確的地理位置、高保真戰場感知、即時通信和對抗性武器的結合意味著，到2040年，軍隊可能不再需要在時間和空間上集結部隊，達到歷史上或傳統上認為必要的程度來實現其目標。

• 然而，有一種風險是，如果促進分布式戰爭所需的任何關鍵使能器--特別是通信--被敵對行動破壞、擾亂或摧毀，那么軍隊的整體作戰系統可能從一個相互聯系的、有凝聚力的網絡演變成一個無法進行有效作戰行動的斷裂的馬賽克。

3.4 混合戰爭和非動能戰爭

各國可能會越來越多地在 "灰色地帶 "進行競爭，除其他外，還使用非官方或看似可否認的代理人，包括私營軍事公司（PMC）。盡管使用代理人并不是一個全新的現象--冷戰時期美國和蘇聯之間的競爭大多涉及代理人沖突、可否認的部隊和假情報運動--但日益緊密聯系的環境正在改變一些工具和技術。

• 除了由智能體部隊或其他可否認的部隊進行的實際作戰行動外，這種類型的沖突將包括一系列可以獨立進行或支持常規軍事部分的非動能行動，如對海底光纜的攻擊、網絡行動、GPS干擾和欺騙以及信息行動。

4 用戶：使用新武器和軍事藝術

最終，新技術的選擇和作戰概念的發展可能取決于各個行為體獨特的威脅意識、實力和脆弱性。潛在的行為者包括從大國和地區大國到非國家行為者，如PMCs和叛亂及恐怖組織。國家和組織文化以及內部動態可能會在不同行為體如何采用和使用新技術方面發揮作用。這些行為體在多大程度上鼓勵主動性和創新，或在其他方面對變化持開放態度，可能會決定他們能否成功掌握新技術和理論的全部潛力。

一些先進的或新興的技術--如高超音速技術--可能仍然屬于大國和較富裕的國家行為者的范圍，但相對較低的國家和非國家行為者可以利用成本較低和更廣泛的自動化系統和網絡工具來實現高影響甚至是戰略層面的效果。較小的國家或正在崛起的國家可能更具創新性，因為它們冒險的損失較小，受遺留系統的負擔較輕，有時可以通過跳過幾代人的發展或投資于新的和未經測試的軍事或商業技術來跨越式發展。

• 2019年，伊朗利用武裝無人機和巡航導彈對沙特阿拉伯的石油生產設施進行了一次協調的遠程打擊，展示了創造性地將不同的技術和工藝編織在一起的能力--這次攻擊短暫地關閉了全球5%以上的石油生產，導致油價飆升。

• 私營軍事公司，特別是那些在某個大國要求下運作并有可能獲得最佳技術的公司，也有可能將先進的武器和監視設備納入其行動中。由于不受國家軍隊的官僚主義、理論和傳統的約束，私營軍事公司有可能在確定新的和創新的方法，在戰場上應用日益先進的技術方面發揮領導作用。

• 叛亂和恐怖組織可能會試圖進一步利用先進技術，因為這些技術變得越來越便宜和容易獲得。現在，潛在的恐怖分子很容易建造或購買無人機，并將其改裝為攜帶幾磅炸藥。

5 展望及啟示

在歷史上，新的作戰技術不斷涌現，往往大受好評，但只對戰場產生了有限的影響，而其他技術--如火藥--則繼續產生了深遠的影響。準確地確定哪些以及在多大程度上新技術和工藝將對未來戰爭的特點產生最大的影響是眾所周知的困難。然而，已經在戰場上出現的或即將出現的先進能力，指出了一些趨勢和對2040年的戰爭與和平的潛在影響。

5.1 越來越多的先進技術

許多可能在未來20年內被開發和部署的先進系統代表著擴散的威脅。在持續的技術變革和擴散的速度下，許多與軍事相關的技術可能會變得更容易獲得，并且對國家和非國家行為者來說都很普遍。

• 例如，空間技術和服務在本質上是雙重用途的，這意味著先進的、基于空間的服務--如高分辨率圖像--將可用于軍事應用以及民用政府和商業使用。

• 技術的擴散和相對較低的成本已經為網絡空間的沖突創造了一個特別低的障礙，使小國家或團體能夠在沒有昂貴的武器系統和人員的情況下實現戰略效果。低成本的網絡空間能力的應用也可以為打擊依賴技術的國家或組織提供一個優勢。

• 鑒于技術的傳播和商業行業在新的應用和系統開發中發揮的核心作用，有可能想象一種動態的融合，即出現一種新的私營軍事公司，提供最先進的軍事能力--如機器人武器和由雇傭軍操作的平臺--以獲得報酬。這可以使較小的軍事強國避免發展現代軍事和培訓熟練人員的費用。

5.2 被認可的庇護所不再安全

遠程精確打擊能力意味著曾經因為距離而被認為相對安全的地區將變得越來越脆弱，包括機場、集結區、指揮和控制中心。各國還可能面臨不受地域限制的、針對關鍵基礎設施的協同網絡攻擊，以擾亂部隊行動，在平民中造成混亂，并削弱公眾對軍事行動的決心。

5.3 誤判和升級的風險增加

先進武器系統的日益普及以及混合戰爭和非動能戰爭的不斷使用，可能會進一步挑戰長期以來對國家間威懾的理解，可能會有意外升級為國家間直接沖突的風險。

• 如果高超音速和其他先進的精確打擊武器被證明像傳統智慧所認為的那樣有效和難以防御，這些系統可能成為理想的第一打擊武器。如果局勢高度緊張，領導人可能會感到有壓力，因為害怕在對手的第一次打擊中失去他們先進的高超音速武器和其他武器庫。

• 增加灰色地帶的活動，即使是為了避免全面的軍事對抗，也會帶來另一個風險變量，特別是隨著時間的推移，能力的增長。在對抗中，任何一方都不可能完全確定對方會如何反應，例如，當國家支持的私人軍事承包商在戰斗中被殺，或網絡攻擊破壞了關鍵的基礎設施或破壞了選舉。從本質上講，使用這些方法的前提是對方不會尋求升級。

5.4 更加致命，但不一定是決定性的

涉及大國或中等國家的未來沖突從一開始就可能是異常激烈的，但也是曠日持久的，沒有結果的。幾個世紀以來，對手發動戰爭，認為他們有一些優勢，可以使他們迅速和決定性地獲勝。有時他們是正確的，但在其他情況下，那些認為自己擁有贏得戰爭的技術或軍事戰略的領導人卻證明是錯誤的。隨著各種各樣新的但尚未嘗試過的作戰技術和概念的出現，這種動態可能會在未來20年內繼續重復。

• 作為歷史對比，日本在1941年對珍珠港的攻擊使美國海軍的太平洋戰艦艦隊癱瘓，并殺死了2400多名美國人。在未來，先進和日益致命的武器可以達到類似的影響，并在沖突開始的幾分鐘內對一個國家的武裝力量造成類似的傷亡。

• 這種破壞的速度和規模可能導致任何在未來沖突中遭受類似損失的國家因喪失軍事能力和信心、對傷亡的震驚或破壞其戰斗意志的組合而認輸或退出戰斗。然而，這種明顯的決定性損失有可能激勵一個國家繼續戰斗，而不顧流血和財富的代價，就像珍珠港事件后的美國一樣。這種情況也可能迫使一個國家采用新的武器技術或新的戰爭方法，否則它可能不會考慮去試圖擊敗對手。

本文探討了人工智能（AI）如何可能使美國軍隊以更符合倫理的方式執行其作戰任務，從而更好地遵守國際人道主義法（IHL）的倫理意圖，并強調它可能帶來的挑戰。它將通過研究軍事目標選擇的兩個關鍵特征來完成這一任務：區分和相稱性。區分和相稱性是國際人道主義法承認的四項基本戰爭原則中的兩項，包括《海牙公約》、《日內瓦公約》及其附加議定書，以及紅十字會編纂的習慣法。 對這兩項原則的仔細研究突出了可預見性的概念在戰爭倫理中的作用。可預見性是正義戰爭理論中經常提到的與保護非戰斗人員有關的關鍵倫理考慮。邁克爾-沃爾澤的奠基之作《正義與非正義的戰爭》認為，在戰爭中，不可預見的邪惡可能是可以接受的，但從倫理上講，戰士們必須在戰爭中盡量減少所有可預見的邪惡。雖然可預見性沒有被標為基本原則，但它是一個經常被忽視的特征，對主要的四項原則的倫理決策產生了重大影響。

審查包括簡要回顧區分的倫理基礎，相稱性，以及兩者如何取決于可預見性。然后，它評估了當前的國際人道主義法，并確定了人工智能可以提供更多的合規性的潛在機會，以及潛在風險的特征。審查將主要集中在戰爭/戰斗期間的倫理決定和行動（戰時法），而不是可能導致戰爭的戰略決定（戰時法）。在執行對人工智能可能給軍事目標帶來的潛力和隱患的評估之前，關鍵是要正確定義人工智能，并審查其與國家安全的日益相關性。

人工智能是一個復雜的話題，既具有爭議性，又經常被誤解。著名物理學家斯蒂芬-霍金警告說，人工智能可能是 "我們文明史上最糟糕的事件"，除非其發展得到適當控制。 甚至企業家埃隆-馬斯克，他自己的公司正在創新自動駕駛汽車，也警告說"......人工智能比核彈危險得多"，必須受到監管。相反，麻省理工學院計算機科學和人工智能實驗室的創始主任羅德尼-布魯克斯、哈佛大學心理學教授史蒂芬-平克，甚至Facebook創始人馬克-扎克伯格都將這些觀點描述為危言聳聽。

當人工智能被引入到國家安全和軍事行動中時，其強度和審查都會大大增加。馬斯克和霍金都簽署了一封致聯合國的公開信，敦促禁止人工智能武器。 公眾對人工智能 "武器化 "的反彈的一個引人注目的例子發生在Maven項目上，原因是人們對倫理問題的看法。Maven項目是美國國防部（DOD）的一項舉措，旨在利用人工智能來評估來自遙控飛機的視頻，試圖更快、更準確地找到伊拉克和敘利亞的伊斯蘭國恐怖分子。國防部與包括谷歌在內的一些商業伙伴開始了這項努力。然而，在2018年，約有4000名谷歌員工認為該項目與谷歌的倫理規范相抵觸，這些倫理規范是基于 "不作惡 "的非官方格言。然后，這些員工簽署了一份請愿書，要求"......谷歌或其承包商將永遠不會建立戰爭技術"。 此后不久，谷歌退出了該項目。這些事件受到一些人的贊揚，也受到另一些人的批評，他們認為抗議是短視或幼稚的，因為不太倫理的美國競爭對手仍然會從谷歌的人工智能工作中受益。

曾在伊拉克和阿富汗服役的海軍陸戰隊員盧卡斯-昆斯(Lucas Kunce)為人工智能在軍事上的倫理應用提出了令人信服的愿景。他認為，對向軍隊提供先進技術的擔心是沒有根據的。他提供了一些小故事，描述了人工智能增強的工具如何阻止他的團隊殺死一個他們認為向他們投擲手榴彈的平民，而他只是拿著一只鞋。他還描述了在一次交戰中，他的一名海軍陸戰隊員射殺了一名坐在車里的年輕女孩，他的部隊認為這是一個車載簡易爆炸裝置。正是這種觀點準確地將軍隊描述為試圖完成其當選領導層賦予他們的任務的同胞。它還指出，職業軍人不是一群不分青紅皂白的殺手，如三十年戰爭期間蹂躪歐洲的掠奪者，甚至是越南時代助長美萊大屠殺的美國重兵。相反，他們是負責為國家管理暴力的專業人士。正是這種被進一步編入國際人道主義法的特點，應該能緩解人們對人工智能和軍隊的結合將導致未來出現天網、終結者和其他類型的殺人機器人的擔憂。

人工智能（AI）是一項具有廣泛用途的新興技術。《美國防戰略》強調了人工智能對軍事行動的重要性，以使美國保持對其近似競爭對手的優勢。為了充分實現這一優勢，不僅要在戰術層面，而且要在戰爭的作戰層面整合人工智能。人工智能可以最有效地融入作戰計劃的復雜任務，方法是將其細分為其組成部分的作戰功能，這些功能可以由狹義的人工智能來處理。這種組織方式將問題減少到可以由人工智能解析的規模，并保持人類對機器支持的決策的監督。

引言

人工智能是一套新興的、變革性的工具，有可能幫助軍事決策者。美國國家戰略將人工智能（AI）納入戰爭。《2020年國防授權法》11次提到了人工智能。國防戰略強調了利用人工智能和機器學習方面的商業突破的重要性。人工智能的軍事用途是保留國家安全的一個引人注目的方式。創造工具來支持戰術行動，如摧毀敵軍和從一個點導航到另一個點，具有顯著和可見的效果，使他們在資源有限的環境中在政治上可以接受。它們在訓練和測試方面的可重復性，使它們在采購過程中成為人工智能系統的快速贏家。然而，戰術行動的范圍和時間是有限的。僅在戰術層面上整合人工智能，忽視了在作戰層面上發生的決定性影響。

作戰，也就是實踐者將戰術行動轉化為戰略效果的層面，取決于領導者做出正確決策的能力。聯合部隊海事部分指揮官（JFMCC）的艱巨任務是制定計劃，將戰區戰略和聯合部隊指揮官（JFC）的目標結合起來，通過決定性的海軍交戰來塑造環境。在人工智能的快速認知能力的幫助下，JFMCC將能夠制定并更徹底地分析行動方案（COA）。這些品質對于未來的沖突是必要的。

人工智能必須在戰爭的各個層面進行整體集成，以充分實現其優勢。除了局部的、短期的戰斗，它還需要應用于主要的行動和戰役，涉及整個戰區的數月或數年。在戰爭的戰役（作戰）層面上的實施，放大了為實現戰略目標而進行的有序交戰和同步行動之間的協同作用。除了技術發展之外，行動上的整合將刺激政策和理論的建立，以使作戰人員有意愿使用人工智能。隨著使用人工智能的經驗的增加，其采用率也會增加。為協助海軍作戰計劃而實施的特定人工智能技術可能與那些用于計算射擊方案或在被拒絕的淺灘水域規劃路線的技術不同。然而，在作戰層面的接受度將推動戰術上的使用。

在JFMCC層面，人工智能系統網絡將為決策者提供決定性的優勢，將專注于作戰功能的獨立的人工狹義智能（ANI）單位統一起來將實現最顯著的好處。首先，人工智能解決方案比它們的通用人工智能（AGI）同行更適合于軍事問題的解決。其次，戰爭的性質促使有必要在作戰層面上整合人工智能。最后，雖然有許多方法可以整合，但沿著功能線這樣做會帶來最顯著的好處。不僅在技術意義上吸收人工智能，而且描述其在政策、理論和培訓中的使用，將使海軍能夠充分使用它，并在與我們的戰略競爭對手的競爭中獲得優勢。

如何在海戰領域整合人工智能？

目前人工智能在海上行動中的最佳應用是將復雜的海上行動問題分解成子問題，由人工智能來解決，并組合成COA建議。解決小問題的人工智能需要更少的訓練數據，有更直接的邏輯，并且可以連鎖起來解決更重要的問題。麻省理工學院人工智能實驗室前主任羅德尼-布魯克斯（Rodney Brooks）認為，創建動態環境的符號表示是困難的或不可能的。然而，特定任務的智能體可以利用足夠的傳感器數據智能地行動，更重要的是，可以連貫地互動。通過將簡單的活動連鎖起來，失敗的風險很低，更復雜的問題就可以得到解決。多個簡單的行動可以在低認知層平行運行，并將其輸出結合起來，為更高層次的復雜活動提供支持。這種結構的優點是允許軍事工程師開發和訓練人工智能，以首先解決可操作的問題。對人工智能開發者來說更具挑戰性的功能可以保留只由人類決定的方法，直到他們產生解決這些問題的專業知識。與其等待一個完整的系統，部分系統將提供一個臨時的邊際優勢。

鑒于人工智能可以通過將問題分解成更小的決策來最好地解決問題，問題仍然是如何劃分這些問題。重述作戰任務的一個模式是將它們分成作戰功能：指揮和控制（C2）、通信、情報、火力、運動和機動、保護和維持。這些作戰功能為開展有效行動提供了基礎。它們為一個行動提供了采用手段實現其目的的方法。因此，與決定如何實施這些功能以實現目標的決策者一起使用人工智能是很自然的。

如同應用于海上作戰戰爭，最低層的決策支持系統將由感知環境的活動組成：探測艦艇、飛機和潛艇；燃料水平；天氣；以及其他客觀的戰斗空間數據。通過將外部輸入限制在特定的、低層次的任務上，該系統將最大限度地減少對抗性例子或旨在消極操縱自動系統的數據的風險。中間層將把下層的輸出與作戰目標和因素結合起來，如時間、空間和力量的限制，以提供解決問題的方法和作戰功能。由于上層的對抗性數據注入的威脅較小，這些系統可以使用深度學習。深度學習是機器學習的一個子集，它不像其他形式那樣需要高度格式化的數據，但計算成本會更高，而且容易受到欺騙。深度學習將增加這一層的人類互動，并暴露出更復雜的關系。最高層將把C2流程應用于其他六個業務功能，以產生業務建議。中間層的每個功能人工智能將向其他功能人工智能和最高C2層提供建議。中間層的人工智能對復雜的數據和相鄰單位及C2功能的建議進行理解。

如果將中間層人工智能納入規劃和指導、收集、處理、分析和傳播的情報周期，將促進收集資產的更好分配。判斷對有限的收集資產的請求以滿足行動和戰術信息需求是JFMCC關注的一個問題。在收集計劃期間，人工智能可以使用已知的對手軌跡、地點、個人和組織來定義和優先考慮指定的利益區域（NAI）。在執行過程中，人工智能可以根據優先級驅動收集路線，就像企業用它來規劃送貨路線以減少勞動力、燃料和維護成本一樣。采集計劃者可以通過增加對手監視點的位置和范圍來減少反偵查的風險。在C2層面，指揮官和情報官員可以利用收集成果來證明更多的JFMCC收集資產和COA的修改。這種方法適用于其他功能。

人工智能可以在部隊部署不斷變化和對手存在不確定的環境中改善維持能力。相互沖突的要求使如何使用有限的后勤資產來滿足作戰人員的需求的決策變得復雜。后勤單位較低的生存能力促使人們決定是將它們帶入被對手防御系統拒絕的區域，還是將戰斗飛船引離目標。人工智能可以利用軍事和民用運輸的可用性、預先部署的庫存和供應商的響應能力來制定船舶和飛機需求的解決方案。企業利用人工智能準確預測需求，并分辨出影響運輸和倉儲的采購模式。維持型人工智能可以使用這個過程的一個變種，來計劃在高級后勤支持站點（ALSS）或前方后勤站點（FLS）的材料堆放。它可以決定如何以及何時使用穿梭船和站立船來運送到攻擊組。機器學習將使用燃料、食品和武器庫存、威脅環、戰備水平和維修時間來訓練維持人工智能。維持型人工智能可以提供比人類單獨完成的更有效的量化解決方案，并將其反饋給其他功能區和C2高層。

C2層將對來自下層的決定進行仲裁，并提供一個統一的建議。就像一個軍事組織的指揮官一樣，它將把其副手AI的建議合并起來。人工智能過程的早期階段使用傳感器數據和其他客觀信息來確定指揮官的方向；決定行動方案需要建立對戰斗空間的理解，這是一種更高層次的欣賞。戰斗空間的可變性和模糊性將使這一層的人工智能元素最難開發。最終，該系統將作為一個可信的智能體，壓縮指揮官負責的信息量。壓縮的信息減輕了時間有限的決策者工作時的疑慮負擔，使她能夠向下屬單位發出更及時的命令。

圖1說明了基于這些原則的系統的擬議架構。以對手預測為例，許多單一用途的ANI將在最低層結合原始傳感器和單位報告數據。它將評估敵方單位的最可能位置。公司分析評論、社交媒體和論壇發帖的情緒，以確定產品的滿意度。同樣地，這個系統將通過公開的言論和秘密的報告來確定對手的意圖。它將評估當前和歷史天氣模式，以評估氣候對敵人行動的影響。這三個輸入和其他信息將被功能情報ANI用來形成對敵方COA的評估。同樣，火力節點將使用敵人的組成、JFC的優先級和預測的彈藥可用性來產生目標指導。中間層節點將橫向傳遞他們的評估，以完善鄰近的建議，如部隊保護水平。獨立的功能建議也將直接反饋給C2層，以創建整體行動方案。

圖1. 海上人工智能系統的擬議架構

建議

首先，利用聯合人工智能資源的優勢，針對海軍的具體問題修改標準組件。擅長開發軍事人工智能系統的工程師的稀缺性將限制新系統的開發。美國防部的人工智能戰略具體規定了建立通用的工具、框架和標準，以便進行分散的開發和實驗。使用這些現成的組件，為人工智能決策網的所有子系統創建低級別的系統和標準接口。將海軍的資源集中于采購和實施用于海事具體決策的中層和高層系統。避免技術上令人著迷但無效的解決方案，并通過將職能領域的專家與設計團隊相結合來保持解決海事問題的目標。

第二，創建并維護可通過機器學習攝入的作戰數據數據庫，以訓練海軍人工智能。實施能夠在海上作戰中心（MOC）讀取和集中匯總基本作戰數據報告的技術和工藝，如燃料狀態、導彈裝載量。開發記錄和定性評分作戰決策結果的方法，如對手態勢的變化、傷亡修復率和公眾對行動的反應。將輸入與作戰決策和結果聯系起來的數據庫將加速開發符合現實世界標準的系統。

第三，將人工智能的使用納入政策和條令。條令應該編纂人工智能可以被整合到戰爭戰役層面決策中的領域。明確地說，關于情報、行動、火力、后勤、規劃和通信的海軍作戰出版物應說明人工智能在決策過程中產生優勢的地方和方式。描述海上聯合行動的聯合出版物應明確說明如何將JFC的要求解析為JFMCC的AI系統。如果國防部和海軍的政策對指揮官因整合人工智能的決策建議而產生的責任量進行了定性，那么他們在使用人工智能時就可以采取經過計算的風險。讓指揮官和作戰人員掌握使用人工智能的戰術、技術和程序將加速其在艦隊中的應用。

像俄羅斯等這樣的近鄰對手明白，他們無法與美國（US）競爭并贏得傳統沖突。為了使俄羅斯等能夠戰勝美國，他們通過技術進步開發了新的手段和能力，以便在戰場上取得勝利。正在開發的主要能力之一是低當量戰場核武器（LYBNWs），以便在未來的沖突中贏得對美國的勝利。美國的近鄰對手可能對美國的機動部隊發射LYBNW，以將其從戰場上消滅，不至于將沖突提升到全面核戰爭的門檻。

引言

自任何戰爭開始以來，人類就利用武器技術的進步來增加沖突中的勝利機會。新武器系統的演變在整個歷史上的爭端中是至關重要的。能夠在現有系統或平臺上實施新技術的領導人或國家將獲得勝利。歷史上的一個典型例子是步槍和大炮在戰場上的實施發展。在1805年和1806年，拿破侖利用這兩項技術進步與騎兵相結合，贏得了關鍵的勝利，奧斯特利茨戰役就是一個例子。世界各國都把步槍和大炮與演習的混合作為戰爭的突破口。在隨后的幾年里，歐洲和世界各國都在全力以赴地按照拿破侖在耶拿戰役和其他沖突之前的方式來建設和訓練自己的軍事力量。隨著時間的推移，武器技術的演變繼續增加。下一個改變未來戰爭執行方式的武器系統是空中力量。

第一架飛機于1902年飛行，其微小的進步將空中力量限制在偵察能力上，并限制了第一次世界大戰（WWI）的空中戰斗。當時的領導人設想，飛機是未來通過空中力量對抗沖突的手段。空中力量的進步在1945年第二次世界大戰（WWII）期間取得了成果。空中力量，加上陸軍，使美國對德國具有戰略優勢。美國了解空中力量給戰場帶來的能力，即沿著敵人的交通線和主要戰線攻擊敵人的目標。空中力量使地面部隊能夠在戰場上與敵人全面交戰，以消耗德國軍隊并贏得戰爭。空中力量對二戰勝利作出貢獻的另一個例子是在對日本的太平洋戰役中。空中力量能夠在跳島任務中轟炸敵方目標，并攻擊日本本土。最終，空軍投下了原子彈，迫使日本在二戰中投降。

歷史為那些利用技術進步在戰爭中取得勝利或阻止沖突的國家提供了一個準確的畫面。前國防部長馬克-埃斯珀理解技術進步的重要性，他說："歷史告訴我們，那些率先利用一代人的技術的人往往在未來幾年里在戰場上具有決定性的優勢。" 下一個改變戰爭方式的技術將是什么？諸如俄羅斯等這樣的對手認為擊敗美國的下一個技術進步是低當量戰場核武器（LYBNWs）。俄羅斯等設想的情景是，美國的地面部隊在戰場上機動，但防空保護有限，地形將他們引入一個巨大的殺傷箱。然后，俄羅斯等將使用混合了戰術彈道導彈（TBM）的LYBNWs來攻擊美國地面部隊和關鍵地區，如濕隙交叉點、支持區和后勤線。

美國軍方的領導人已經關注了從遠程火力、戰術核、高超音速導彈、無人機群和空間能力等廣泛的技術進步。隨著如此多的新技術擠入戰斗空間，一種能力引起了軍事和民用部門的興趣，那就是人工智能（AI）。在陸軍中，人工智能是一個未被開發的武器系統，可以成為戰爭中的下一個技術進步。人工智能將使美國陸軍在戰場上擁有手段和優勢，就像大炮和空軍一樣。此外，人工智能將協助美國陸軍在大規模戰斗中檢測、分類和使LYBNW失效。

問題陳述

美國的近鄰顧問正在不斷地嘗試開發下一個武器系統，以使他們在戰場上獲得優勢，從而在戰爭中獲勝。俄羅斯正在開發高超音速武器；與此同時，中國利用遠程精確射擊來與敵人保持距離。然而，這兩種威脅都以LYBNW為中心努力在未來的沖突中摧毀美國的機動部隊。 目前，美國的防空平臺缺乏技術和能力來對抗大規模沖突中混有TBM的LYBNW的新威脅。

研究目的

本專著旨在提供將人工智能整合到陸軍防空系統中以擊敗LYBNWs的方案。首先，本專著將通過歷史的視角來說明發展技術進步并將其整合到現有系統中對在戰場上或戰爭中取得勝利是多么重要。用于研究的主要武器系統是大炮、空氣動力和核武器。通過歷史分析，讀者可以預見，美國必須繼續發展技術進步，特別是在人工智能方面，以便對未來的沖突產生積極影響。其次，該專著重點介紹了美國陸軍目前和未來的防空平臺，以備戰事。這部分調查讓讀者了解系統的能力和局限性，以了解防空作戰環境和導致需要綜合人工智能的不足之處。第三，該專著重點介紹了目前民用和軍用部門的算法和平臺的人工智能能力。這些算法提供了對機器學習能力的洞察力，以便在人工智能平臺上與當前的系統結合起來提出建議。最后，該論文集中討論了整合的建議和對自主人工智能系統的需求，以擊敗LYBNWs。

研究意義

這項研究對美國陸軍來說很重要，因為近似的建議開發了新的和增強的導彈平臺以贏得未來的沖突，特別是LYBNWs。這些武器系統的出現正在慢慢超過美國陸軍目前的防空系統。這項研究提供了一個行動方案，通過將人工智能與目前的平臺結合起來，提供增強的防空覆蓋，從而重新獲得優勢。同時，為自主武器系統的建立留出時間。在綜合防空導彈防御系統（IAMD）中利用人工智能能力可提供早期預警、交戰速度、瞄準威脅的距離，更重要的是，可提供威懾。防空系統一旦部署到一個行動區，就會對世界大國產生威懾力。人工智能的增強提高了美國威懾或擊敗侵略的能力，并保留了陸地部隊。

戰爭的特點正在發生根本性的變化，這些變化對空中力量的影響尤其深遠。多域整合為空中力量和越來越多的空間力量在未來幾年內的一系列轉變做好了準備，這些轉變不僅與技術有關，而且與空軍組織和進行規劃和行動的戰略和作戰概念有關。

迫在眉睫的、不可避免的多域作戰似乎是空中力量的一個明顯的邏輯演變，它可能會引發這樣的問題：為什么我們沒有更早地沿著這些思路思考和發展作戰概念？畢竟，對優化、作戰協同和武力經濟的尋求在空中力量中是持久的。可以說，多年來，空軍及其相關部門事實上已經嘗試以某種方式或形式在多域背景下運作。然而，在整個部隊甚至整個戰區范圍內，為多域作戰（MDO）提出的早期作戰概念（CONCOPS），在多域作戰空間產生作戰協同和效果的努力是前所未有的。

諸如聯合全域指揮與控制（JADC2）這樣的結構闡述了一個作戰云賦能的未來戰爭，其中任務指揮和戰斗空間管理被有效地隱含在整個戰斗部隊中，觀察-定向-決定-行動（OODA）環路被加速到邊緣計算的速度。傳感器和通信網絡決定了空軍承擔幾乎所有傳統任務的功能能力。數據和數據流將變得比空軍傳統上對機動自由的依賴更加重要，并且有效地成為其戰略推動者。空軍力量將越來越多地與網絡而非平臺、數據而非武器系統有關。

任務的成功和失敗一直是由指揮官和作戰人員可用的態勢感知水平決定的。在新興的作戰模式中，空軍以近乎實時的速度收集、處理和利用數據的能力有效地使數據成為最大的工具和最令人垂涎的武器。收集、處理、匯總、分析、融合和傳播大量的數據、信息和知識將需要像未來有爭議的戰場上的事件速度一樣快。目前正在進行的戰爭數字化將導致在未來幾年內將 "大數據"廣泛用于作戰過程。空間領域將在實現全球范圍內連續的、有保障的和安全的通信方面發揮顯著的作用，除了更傳統的遠程監視用途外，它還被用作這種通信的運輸層。

對信息主導地位的追求將以新的和不確定的方式在物理、電磁和虛擬世界中擴展競爭的連續性。隨著空軍對帶有嵌入式人工智能（AI）工具和應用的作戰云的使用，新的風險、脆弱性和故障點將被引入。本出版物收集了來自世界各地領先的思想家的文章和見解，對多域整合和空中力量的信息優勢框架和概念的一些最相關問題提供了深入的觀點。這里的觀點和討論反映了當前對各種戰略、指揮和作戰層面的思考，讀者會發現這些思考對他們更廣泛的理解很有幫助。

這里介紹的專家展望本身既不樂觀也不悲觀，正如我們所期望的那樣，所確認的是各種新技術促成的 "飛躍"機會正在地平線上形成，但其有效利用帶來了復雜和破壞性的新挑戰。在強調其中一些關鍵的挑戰和更好地理解這些挑戰的必要性的同時，正如通常的情況一樣，沒有快速的解決辦法或現成的解決方案。然而，有令人信服的理由認為，今天所預見的眾多挑戰似乎在理論上和技術上是可以克服的，有些甚至在未來幾年內就可以克服。在未來存在的許多不確定因素中，可以肯定的是，空中力量將被徹底重新定義。

斯考克羅夫特戰略與安全中心致力于制定可持續的、無黨派的戰略，以應對美國及其盟友和伙伴面臨的最重要的安全挑戰。該中心支持美國在與盟國、伙伴的合作中發揮領導作用，以及對培養下一代領導人提供指導。

執行摘要

在過去的幾年里，世界各地的軍隊對發展人工智能（AI）的興趣和投資有所增加，以支持一系列多樣化的國防和國家安全目標。然而，對于什么是人工智能，它如何影響美國和中國之間的戰略競爭，以及如何為這個部署軍事人工智能的新時代優化國防工業基礎，仍然缺乏普遍的理解。現在已經到了在人工智能方面見仁見智的時候了，在政策界和技術界之間建立對現代人工智能的共同理解，并在國防部（DoD）和其工業伙伴之間統一觀點和優先事項。因此，本文討論了以下核心問題。

（1）什么是人工智能，為什么國家安全政策制定者應該關心？

人工智能的能力有可能為美國國家安全和國防帶來改變游戲規則的優勢，包括

• 大大加快和改善決策。
• 加強軍事準備和作戰能力。
• 提高人類的認知和身體能力。
• 設計、制造和維持軍事系統的新方法。
• 具有能打破微妙的軍事平衡的新能力。
• 創造和檢測戰略網絡攻擊、虛假信息運動和影響作戰的能力。

對人工智能作為威懾和贏得未來戰斗所必需的關鍵能力，在美國防部內部得到了重視，美國防部在過去五年里對人工智能進行了顯著的投資。但是，五角大樓以外的政策制定者，以及公眾和正在開發人工智能技術的公司，都需要更好地了解當今人工智能的能力和局限性，并清楚地認識到人工智能對國家安全的積極影響和潛在的破壞性影響。

（2）為什么人工智能對戰略競爭至關重要？

五角大樓對人工智能的興趣也必須從與中國--以及在較小程度上與俄羅斯--的戰略競爭加劇的角度來看待，人們越來越理解在人工智能和相關新興技術方面的落后可能會損害美國軍隊自冷戰結束以來所保持的戰略、技術和行動優勢。一些國防領導人甚至認為，美國已經在軍事技術競爭中輸給了中國。

雖然本文不贊同這種宿命論的觀點，但本文認為軍事人工智能競爭的賭注很大，而且時間很短。

（3）美國防部采用人工智能的障礙是什么？

五角大樓臭名昭著的官僚主義、陳舊的采購和合同制度以及規避風險的組織文化，繼續抑制著美國防部引進外部創新和更快地走向廣泛的人工智能整合和采用的能力。解決這種系統性問題是一個很高的要求。但是，為促進美國防部與商業技術部門和創新初創企業的接觸，已經在進行重要的變革，而且似乎有一種共同的緊迫感，即鞏固這些公私伙伴關系，以確保美國持續的技術和軍事優勢。然而，在統一美國防部及其行業伙伴對人工智能發展最具影響力領域的看法，以及闡明和實施共同的技術標準和測試機制以實現可信賴和負責任的人工智能方面，仍有許多工作要做。

主要收獲和建議

國防部必須迅速行動起來，從對人工智能重要性的廣泛認可過渡到創建路徑、流程、實踐和原則，以加速采用人工智能技術所帶來的能力。如果沒有有意的、協調的和立即的行動，美國有可能在利用主導未來動能和非動能戰場的制勝技術方面落后于競爭對手。本報告為美國防部確定了三個行動方案，這些方案可以幫助確保美國軍隊保持其在人工智能領域的全球領先地位，促進更迅速地采用人工智能所需的內部變革，并利用充滿活力和多樣化的美國創新生態系統，包括

• 優先考慮安全、可靠、可信和負責任的人工智能開發和部署。
• 調整人工智能發展的關鍵優先事項，加強美國防部和行業合作伙伴之間的協調，以幫助縮小人工智能能力的差距；以及
• 促進領先的國防技術公司和非傳統供應商之間的協調，以加快美國防部人工智能的采用。

本報告是在美國防部采用人工智能努力過程中和全球地緣政治的未來軌跡方面既合適又充滿不確定性的時候發表的。正在進行的烏克蘭沖突使限制獨裁者控制領土、人口、標準和言論的重要性變得非常明顯，而致力于維護長期國際行為規范的聯盟可以在這一努力中發揮作用。因此，作者敦促美國防部在政府層面，并在可能的情況下在工業層面與美國的盟友和可信賴的伙伴進行接觸和整合，以更好地實施本文的三項主要建議。

1 簡介

人工智能為國防政策制定者提供了一個重要的機會。人工智能處理和融合信息的能力，以及將數據提煉為增強決策的能力，可以在一個混亂的、有爭議的環境中撥開 "戰爭的迷霧"，在這個環境中，速度是王道。人工智能還可以釋放出新型可損耗和一次性無人系統的可能性，從而增強威懾力。例如，它可以幫助保障美國軍人的生命，為指導沖突地區自主補給卡車的導航軟件提供動力。雖然人類仍然負責對目標做出最終決定，但人工智能算法在幫助情報專業人員識別和追蹤惡意行為者方面正日益發揮作用，目的是 "縮短殺戮鏈，加快決策速度"。

由于美國所處的更廣泛的地緣戰略背景，特別是與中國的戰略競爭，人工智能的發展和整合也勢在必行。中國人民解放軍（PLA）在人工智能方面的預算似乎與美國軍隊相當，而且解放軍正在為同樣廣泛的應用和能力開發人工智能技術，包括訓練和模擬、蜂群自主系統和信息操作，以及其他許多方面，所有這些都可能取代美國的軍事技術優勢。

正如美國國防部長勞埃德-奧斯汀在2021年7月指出的那樣，"中國的領導人已經明確表示，他們打算在2030年之前在人工智能方面成為全球主導。北京已經談及將人工智能用于一系列任務，從監視到網絡攻擊到自主武器"。美國不能落后于中國或其他競爭對手。

為了加快人工智能的采用，五角大樓必須面對它的弊端：一個孤立的官僚機構，它阻礙了有效的數據管理努力，并阻礙了大規模利用美國防部數據所需的技術基礎設施；陳舊的采購和合同流程，抑制了國防部引進外部創新和將成功的人工智能技術原型過渡到生產和部署；以及一種規避風險的文化，與已知的促進創新的開放、實驗和容忍失敗的類型不一致。

目前正在進行一些努力來解決其中的一些問題。直接向美國防部副部長報告的首席數據和人工智能官（CDAO）角色最近被宣布，以合并首席數據官辦公室、聯合人工智能中心（JAIC）和國防數字服務（DDS）。這一重組將美國防部的數據和人工智能工作置于一個屋檐下，以消除重疊的權力，原來的這種權力重疊性使得人工智能項目的規劃和執行變得困難。擴大使用替代性收購方法，像國防創新單位（DIU）和空軍的AFWERX正在彌合與商業技術部門的差距，特別是初創企業和非傳統供應商。盡管如此，一些技術領導人認為這些努力還不夠，警告說 "時間不多了"。

隨著美國國防部轉向大規模采用人工智能，本報告試圖提供有關現代人工智能未解決問題的見解，總結中國、俄羅斯在軍事人工智能發展方面的關鍵進展，并強調整個美國防部一些最引人注目的人工智能使用案例。報告還簡要評估了美國防部與其行業伙伴之間的不協調，這些不協調繼續阻礙五角大樓獲得美國軍隊所需的改變游戲規則的技術，以阻止對手的侵略并主導未來的戰場。

然而，競爭的緊迫性決不能掩蓋對指導美國軍隊進入人工智能時代的道德準則。因此，報告重申，有必要將美國防部的人工智能道德準則有效地轉化為評估可信度的共同技術標準和評估指標，并加強與國防部的行業合作伙伴--特別是初創企業和非傳統供應商在這些關鍵問題上的合作和協調。

在本報告的最后，為政策制定者和整個國家安全生態系統的其他人工智能利益相關者提出了一些考慮。具體而言，敦促美國防部優先考慮安全、可靠、可信和負責任的人工智能開發和部署，調整國防部和行業之間的人工智能發展的關鍵優先事項，以幫助縮小美國防部的人工智能能力差距，并促進領先的國防技術公司和非傳統供應商之間的協調，以加快國防部的人工智能采用進程。

2 人工智能創新和應用中的軍事競爭

推動美國防部人工智能開發和采用工作的緊迫性在很大程度上源于確保美國及其盟國在軍事技術競爭中超過中國，這種競爭已經主導了兩國之間的關系。俄羅斯的技術能力遠沒有那么發達，但其侵略行為破壞了全球安全，并威脅到美國和北約的利益。

中國

中國已將對人工智能的投資優先用于國防和國家安全，作為其努力成為 "世界級軍隊"的一部分，并在未來的 "智能化"戰爭中獲得優勢--人工智能（與其他新興技術一起）通過 "網絡化、智能化和自主系統和設備 "更完全地融入軍事系統和行動。

雖然中國人工智能相關活動的全部范圍并不廣為人知，但美國安全與新興技術中心（CSET）在2021年10月對343份與人工智能相關的中國軍事合同的審查估計，解放軍 "每年在人工智能相關的系統和設備上花費超過16億美元"。美國國家人工智能安全委員會（NSCAI）的最終報告評估說，"中國的計劃、資源和進展應該引起所有美國人的關注。它在人工智能的許多應用領域處于全球同等水平，而在一些應用領域是人工智能的領導者"。

CSET的審查和其他開源評估顯示，中國的人工智能發展的重點領域，就像美國的一樣廣泛，包括：

• 智能和自動駕駛汽車，特別關注蜂群技術。
• 情報、監視和偵查（ISR）。
• 預測性維護和后勤。
• 信息、網絡和電子戰。
• 模擬和訓練（包括兵棋推演）。
• 指揮和控制（C2）；以及
• 自動目標識別。

這些領域中的每一個進展都對美國在與中國的軍事技術競爭中保持同步的能力構成了挑戰。然而，值得研究的是，中國在兩個領域的進步能力可能對軍事平衡產生特別有力的影響。

（1）整合

首先，人工智能可以通過人為地加強軍事整合和跨域作戰，幫助解放軍彌補作戰準備方面的差距。許多觀察家指出，解放軍缺乏沖突中的作戰經驗是一個關鍵的弱點。盡管從技術角度來看，中國不斷推進的軍事現代化令人印象深刻，但在過去二十年里，解放軍的人員都沒有像美國軍隊那樣在高端沖突中接受過火力考驗。解放軍繼續努力從組織和理論的角度提高其"聯合性"，這也是剛剛起步，沒有經過測試。

使用人工智能來提高模擬和兵棋推演的質量、保真度和復雜性，是解放軍糾正這一關切領域的一種方式。新美國安全中心2019年的一份報告指出，"對中國軍事戰略家來說，從AlphaGo的勝利中學到的教訓之一是，人工智能可以在一場可以比作兵棋推演的游戲中創造出優于人類玩家的戰術和策略。"這可以更艱巨地考驗解放軍的決策者，改善指揮決策。事實上，CSET報告發現，在所調查的343份合同中，有百分之六是在模擬和訓練中使用人工智能，包括使用人工智能系統對臺灣突發事件進行戰爭演練。

圖：在美國國防部高級研究計劃局（DAPRA）的AlphaDogfight試驗中，一名作戰的F-16飛行員在虛擬現實模擬器中與Heron系統公司開發的冠軍F-16人工智能代理進行飛行。Heron人工智能代理在連續五場斗狗比賽中擊敗了人類飛行員，結束了試驗。資料來源：DARPA, //www.darpa.mil/news-events/2020-08-26

注重人工智能整合以減少經驗中的感知漏洞也適用于作戰和戰術訓練。2021年7月，中國出版物《環球時報》報道說，解放軍空軍（PLAAF）已經開始在飛行員的空戰訓練中部署人工智能作為模擬對手，以 "磨練他們的決策和戰斗技能，對抗快速計算的計算機"。

除了虛擬模擬，中國還旨在利用人工智能來支持飛行員在真實世界飛機上的訓練。在2020年11月播出的中國中央電視臺（CCTV）節目中，中國L-15教練機的總設計師張弘指出，訓練飛機上的人工智能可以 "識別每個飛行員在飛行中的不同習慣。通過管理它們，我們將讓飛行員更安全地成長，在未來獲得更多的戰斗能力"。

值得注意的是，解放軍空軍2021年7月的人工智能與人類的斗狗類似于美國國防部高級研究計劃局（DARPA）2020年9月的AlphaDogFight挑戰賽，在一系列五次模擬斗狗中，一個人工智能代理擊敗了人類飛行員。 同樣，美國在2021年9月宣布與訓練和模擬公司Red 6簽訂合同，將該公司的機載戰術增強現實系統（ATARS）--該系統允許飛行員駕駛真實世界的飛機，使用增強現實耳機與人工智能生成的虛擬飛機進行訓練--整合到T-38 "塔隆"訓練器中，并計劃最終在第四代飛機上安裝該系統。由于中國軍隊正在利用人工智能來提高戰備水平，美國防部不能落后。

（2）自主性

中國人工智能發展的第二個重點領域是自主系統，特別是蜂群技術，其中幾個系統將獨立運行或相互配合，以混淆和壓倒對手的防衛系統。中國對發展蜂群技術的興趣和能力已經得到了很好的證明，包括2017年6月創紀錄地發射了118架小型無人機組成的互聯蜂群。

據報道，2020年9月，中國電子信息研究院（CAEIT）從一輛改裝的東風猛士輕型戰術車上發射了200枚固定翼CH901徘徊彈藥群。2022年2月在阿布扎比舉行的2022年無人駕駛展的調查顯示，不僅中國的參展陣容強大--中國航空技術進出口總公司（CATIC）和中國北方工業公司（NORINCO）都有大型展館，而且還將重點放在 "協作"行動和智能蜂群。

圖：2月在阿布扎比舉行的UMEX 2022展會上展示的協作式蜂群無人機的一個例子。

對蜂群的興趣并不限于無人駕駛飛行器（UAVs）。據《環球時報》報道，中國也在發展部署自主無機組人員水面飛行器（USVs）群的能力，以"攔截、圍攻和驅逐入侵目標"。 2021年11月，中國公司云洲科技--它在2018年進行了一個由56個USV組成的蜂群的演示--發布了一段視頻，顯示六個USV進行了 "合作對抗"，作為將一艘有船員的船只從中國水域移走的一部分。不難想象，這種合作對抗可以如何針對美國或盟國的海軍船只，甚至商業船只進行部署，以發展或維持海上控制。這種能力在灰色地帶的突發事件中尤為強大，在這種情況下，升級的擔憂可能會限制反應的選擇。

俄羅斯

在人工智能的投資和能力方面，俄羅斯落后于美國和中國。因烏克蘭戰爭而實施的制裁也可能給俄羅斯的科技部門帶來巨大損失。盡管如此，美國國家決策者不應低估俄羅斯以不對稱的方式使用人工智能技術來破壞美國和北約利益的潛力。俄羅斯國防部有許多自主性和人工智能相關的項目，處于不同的開發和實驗階段，涉及軍事機器人、無人系統、蜂群技術、預警和防空系統、ISR、C2、后勤、電子戰和信息操作。

俄羅斯軍事戰略家認為，在未來的戰場上，更大的自主權和人工智能具有巨大的潛力，可以加快信息處理，增強決策，提高態勢感知，并保障俄羅斯軍事人員的生命安全。自主和人工智能系統的發展和使用也在俄羅斯軍事理論的更廣泛背景下進行討論。其理論重點是利用這些技術來擾亂和破壞對手的指揮和控制系統以及通信能力，并利用非軍事手段在戰爭初期建立信息優勢，從俄羅斯的角度來看，這包括與美國和北約等對手的非軍事沖突時期。

俄羅斯人工智能的發展軌跡是不確定的。但是，由于持續的制裁，俄羅斯很可能會在微電子方面越來越依賴中國，并在與美國的技術競爭中進一步落后。

3 美國在人工智能方面的軍事進展概述

五角大樓對人工智能的興趣和緊迫性既是由于技術發展的速度加快，也是由于它所能帶來的變革性能力越來越強。事實上，人工智能正準備從根本上改變軍隊思考、準備、執行和維持行動的方式。根據大西洋理事會以前的報告大綱，"五次革命 "框架對人工智能在五個廣泛的能力領域的潛在影響進行了分類，下面的圖3說明了人工智能可以通過不同的方式增強人類的認知和身體能力，融合網絡和系統以獲得最佳效率和性能，并在信息空間中迎來一個網絡沖突和混亂的新時代，以及其他影響。

圖3：跨越未來軍事能力發展的五個廣泛目標的人工智能優先發展項目概述。

• 邁向完美的態勢感知：感知、處理和認知

• 即將到來的設計時代：制造、供應鏈和物流

• 超能力平臺和人員：人機性能增強

• 連接性、致命性和靈活性：通信、導航、目標定位和打擊

• 監控、操縱和武器化：網絡和信息作戰

美國防部目前有六百多項與人工智能相關的工作正在進行中，其愿景是將人工智能融入國防部任務的每一個要素--從作戰行動到支持和維持功能，再到支撐龐大的國防部企業的商業運作和流程。美國政府問責局（GAO）2022年2月的一份報告發現，國防部正在追求人工智能的作戰能力，主要集中在"（1）通過情報和監視分析識別目標，（2）向戰場上的作戰人員提供建議（如在哪里移動部隊或哪種武器最適合應對威脅），以及（3）增加無人駕駛系統的自主性。 "國防部的大多數人工智能能力，特別是與作戰有關的努力，仍處于開發階段，尚未與具體的系統接軌或整合。而且，盡管在實驗中取得了明顯的進展，并在作戰行動中部署人工智能能力方面取得了一些經驗，但在廣泛采用方面仍然存在著重大挑戰。

2021年9月，空軍第一任首席軟件官尼古拉-沙伊蘭辭職，以抗議官僚主義和文化挑戰，這些挑戰減緩了技術的采用，阻礙了美國防部以足夠快的速度與中國有效競爭。在沙伊蘭看來，20年后，美國及其盟友 "將沒有機會在一個中國擁有巨大人口優勢的世界中競爭。"后來，他補充說，中國基本上已經贏了，他說，"現在，這已經是一筆交易了。"

沙伊蘭關于美國與中國進行無用競爭的評估肯定不是整個美國防部都認同的，但它反映了許多人認為在該部門規避風險和深思熟慮的文化中缺乏緊迫感。

JAIC的負責人Michael Groen中將同意，"在國防部內部，必須發生文化變革。"然而，他也吹捧了美國的創新能力，并強調建立了一個人工智能加速器，并最終確定了一個聯合共同基金會（JCF），用于人工智能的開發、測試和在國防部各實體之間共享人工智能工具。"支持云的JCF是向前邁出的重要一步，將允許基于共同標準和架構的人工智能開發。這應有助于鼓勵各軍種和國防部各部門之間的共享，并且根據JAIC的說法，確保 "國防部一個人工智能倡議的進展將在整個國防部企業中形成勢頭。"

雖然取得的進展值得贊揚，但仍然存在障礙，這些障礙延緩了人工智能能力的采用，而這種能力對于在不久的將來遏制威脅，以及應對中國在這十年及以后的競爭挑戰至關重要。

下面的三個案例研究提供了美國防部人工智能工作中出現的技術、官僚主義和采用方面的進步的例子。這些案例還強調了阻礙美國在與中國以及在較小程度上與俄羅斯的軍事技術競爭加劇的情況下，充分運用其國家創新生態系統的能力的持久性問題。

圖4：聯合人工智能中心（JAIC）的人工智能采用階段。

用例1：JADC2的不可逆轉勢頭、遠大目標和集成挑戰

五角大樓最重要的現代化優先事項之一是聯合全域指揮與控制（JADC2）計劃，該計劃被描述為 "將所有軍種的傳感器連接到一個單一網絡的概念。"根據美國國會研究服務部的說法，"JADC2打算通過從眾多傳感器收集數據，使用人工智能算法處理數據以識別目標，然后推薦最佳武器（包括動能和非動能武器）來對付目標，使指揮官能夠做出更好的決策。 "如果成功的話，JADC2有可能消除各軍種C2網絡之間的孤島，這些孤島以前減緩了整個部隊的相關信息傳輸。因此，產生更全面的態勢感知，指揮官可以據此做出更好和更快的決定。

2021年12月，有報道稱JADC2跨職能小組（CTF）將成立一個 "AI for C2 "工作組，該工作組將研究如何利用負責任的AI來加強和加速指揮和控制，這加強了負責任的AI對該項目的核心作用。

2022年3月，美國防部發布了其JADC2實施計劃的非保密版本，用參謀長聯席會議主席馬克-米利將軍的話說，此舉代表了實施JADC2 "不可逆轉的勢頭"。

然而，觀察家們強調，在按照保持（或恢復）感知、處理和認知方面的優勢所需的緊迫時間表實施JADC2方面，有幾個持續的挑戰。特別是相對于中國而言。

圖5. JADC2的邏輯圖反映了與國防部JADC2實施計劃相關的復雜性和雄心。資料來源：美國國防部。

數據安全和網絡安全、數據管理和共享問題、與盟友的互操作性以及與軍方網絡整合相關的問題，都被認為是認識到JADC2方法的宏偉前景所面臨的挑戰。一些人還強調，這種包羅萬象的雄心也是一種挑戰。哈德遜研究所的布萊恩-克拉克和丹-帕特認為，"當今威脅的緊迫性和新技術帶來的機遇要求五角大樓領導人將JADC2的重點從美國軍事部門的需求轉向作戰人員的需求。

可以肯定的是，在人工智能開發和整合項目中，不一定要避免宏偉的野心。然而，采用的途徑將需要在難以實現的、官僚主義的、耗時的和昂貴的目標與開發能夠在美國部隊面臨的更直接的威脅時限內提供能力和優勢的系統之間取得平衡。

用例2：脆弱的人工智能和將人工智能納入目標的道德和安全挑戰

2021年9月，空軍部長弗蘭克-肯德爾宣布，空軍已經 "首次將人工智能算法部署到實際作戰的殺傷鏈中，這表明部署人工智能的時代確實已經到來。"根據肯德爾的說法，將人工智能納入目標定位過程的目的是 "大大減少人工識別目標的人力密集型任務--縮短殺傷鏈并加快決策速度。" 成功使用人工智能支持目標定位是人工智能發展的一個里程碑，盡管在更全面地采用人工智能的作用方面仍然存在道德、安全和技術挑戰。

例如，2021年美國防部的一項測試強調了人工智能的脆弱性問題。根據Defense One的報道，測試中使用的人工智能目標定位在人工智能不得不從不同角度破譯數據的環境中只有大約25%的時間是準確的，盡管它認為它有90%的時間是準確的，這表明缺乏 "適應一套狹窄的假設之外條件"的能力。"這些結果說明了今天的人工智能技術在安全關鍵環境中的局限性，并加強了在一系列條件下對人工智能進行積極和廣泛的現實世界和數字世界測試和評估的必要性。

人工智能目標定位的道德和安全也可能構成對進一步采用的挑戰，特別是隨著對人工智能算法的信心增加。空軍的行動涉及自動目標識別的輔助作用，協助 "情報專家"--即人類決策者。當然，國防部有一個嚴格的目標定位程序，人工智能的目標定位算法將是其中的一部分，再往前想，自主系統將必須通過這一程序。然而，即使它們是這一程序的一部分，并被設計用來支持人類的決定，高錯誤率加上對人工智能輸出的高度信任，有可能導致不理想或嚴重的結果。

用例3：人工智能在信息領域應用的局限性

與中國和俄羅斯日益激烈的競爭正在信息和網絡領域上演，對美國安全以及美國經濟、社會和政體具有真實、持久和破壞性的影響。

對于網絡和信息行動來說，人工智能技術和技能是未來進攻和防御行動的核心，突出了人工智能在信息領域的危險性和前景。

人們對智能機器人、合成媒體的威脅越來越關注，例如描述沒有發生過的事件或聲明的逼真視頻或音頻制品，以及能夠創造出令人信服的散文和文本的大型語言模型。雖然虛假信息是一個需要社會和整個政府應對的挑戰，但國防部無疑將在管理和應對這一威脅方面發揮關鍵作用--由于其在美國政治和社會中的突出地位，其職能作用的性質，以及其持續活動的影響。

人工智能在五角大樓和其他美國政府檢測機器人和合成媒體的努力中處于領先地位。例如，DARPA的MediaForensics（MediFor）項目正在使用人工智能算法來 "自動量化圖像或視頻的完整性"。

然而，鑒于合成媒體通過社交媒體的傳播速度，人們對這種檢測的速度表示擔憂。正如聯合參謀部首席信息官丹尼斯-克拉爾中將所觀察到的，"機器和人工智能贏得其中一些信息運動的速度改變了我們的游戲......數字化轉型、預測分析、ML、人工智能，它們正在改變游戲......如果我們不匹配這種速度，我們將使其達到正確的答案，而這種正確的答案將完全不相關。"

4 加快美國防部AI的應用

正如上面的討論所示，美國防部在成功部署人工智能信息管理和決策支持工具的基礎上，有一系列廣泛的人工智能相關舉措，處于不同的發展和實驗階段。隨著重點轉向整合和擴展，加快這些采用工作對于保持美國在與中國的戰略競爭中的優勢以及有效遏制俄羅斯至關重要。

在這一節中，本文強調了美國防部與其工業伙伴之間關系的一些不協調，這些不協調可能會導致失去創新和有影響力的人工智能項目的機會，擴大使用替代采購方法的積極影響，以及日益緊迫的調整過程和時間表，以確保美國軍隊能夠獲得未來戰爭的高水準技術能力。此外，本節還討論了國防部實施道德人工智能原則的方法，以及與可信和負責任系統的標準和測試有關的問題。

4.1 美國防部和工業界的伙伴關系：統一觀點、流程和時間安排

盡管國防部已經發布了一些高級別文件，概述了人工智能發展和部署的優先領域，但市場滿足，甚至理解這些需求的能力還遠遠不夠。最近，IBM對來自全球國防組織的250名技術領導人進行了調查，揭示了國防技術領導人和國防部如何看待人工智能對組織和任務的價值的一些重要差異。例如，只有約三分之一的受訪技術領導人表示，他們認為人工智能對軍事后勤、醫療和健康服務以及信息操作和深層假想有重大的潛在價值。當被問及人工智能支持的解決方案對商業和其他非戰斗應用的潛在價值時，不到三分之一的人提到了維護、采購和人力資源。

這些觀點與國防部在人工智能方面的目標有些不一致。例如，包括設備維護和采購在內的軍事后勤和維持職能是國防部實施人工智能的首要任務之一。Leidos與退伍軍人事務部的合作也說明了人工智能在醫療和健康服務方面的潛力。最后，隨著人工智能在虛假信息運動中的使用已經開始，正如上一節的討論所強調的那樣，迫切需要開發技術措施和人工智能支持的工具，以檢測和反擊人工智能驅動的信息行動。

國防部及其行業伙伴基于各自的問題集和任務，有不同的優先事項和激勵措施。但是，對人工智能發展的有價值和關鍵領域的不同觀點可能會導致失去有影響力的人工智能項目的機會。也就是說，即使五角大樓和它的工業伙伴在人工智能方面意見一致，有效的合作也常常被一個笨拙的官僚機構所阻撓，這個機構常常被傳統的流程、結構和文化束縛。

國防部的預算規劃、采購、收購和簽約流程，總的來說，不是為購買軟件而設計的。這些 這些體制上的障礙，再加上復雜而冗長的軟件開發和合規條例，對小型初創企業和非傳統供應商來說尤其困難，因為他們缺乏資源、人員和事先的知識，無法像國防部的主要部門那樣駕馭這個系統。

國防部清楚地意識到這些挑戰。自2015年以來，國防部長辦公室和各軍種已經建立了幾個實體，如DIU、AFWERX、NavalX和陸軍應用實驗室，與商業技術部門，特別是初創企業和非傳統供應商對接，目的是加速提供同類最佳的技術解決方案。同時，國防部還采取了其他值得注意的措施，以促進使用替代性的采購和合同，這為構建和執行協議提供了比傳統采購更大的靈活性。這些包括 "其他交易授權、中間層采購、快速原型設計和快速投入使用以及軟件采購的專門途徑"。

DIU一直處于使用其中一些替代性采購途徑的前沿，從商業技術部門采購人工智能解決方案。空軍的AFWERX還與空軍研究實驗室和國家安全創新網絡合作，創新地利用小企業創新研究（SBIR）和小企業技術轉讓（STTR）資金，以 "提高項目的效率、有效性和過渡率"。例如，在2021年6月，美國空軍SBIR/STTR人工智能投標日向關于 "可信人工智能，這表明系統是安全、可靠、強大、有能力和有效的 "主題的提案提供了超過1800萬美元。

這些都是朝著正確的方向邁出的步伐，而且確實變得更容易獲得國防部的研究、開發和原型制作資金。然而，及時獲得生產資金仍然是一個重大挑戰。這個 "死亡之谷 "的問題--研究和開發階段與一個既定的、有資金記錄的項目之間的差距--對于非傳統的國防公司尤其嚴重，因為風險資本對初創企業的資助周期與將一個項目納入國防部預算所需的時間之間存在差異。

五角大樓明白，彌合 "死亡之谷 "對于推進和擴大創新至關重要，并在最近啟動了快速國防實驗儲備，以處理這些問題。然而，使預算規劃、采購和簽約流程與私人資本的步伐相一致所需的系統性變化，需要國會采取行動，并可能需要數年時間來實施。在實施這些改革方面的延誤正在損害國防部獲得尖端技術的能力，而這些技術在未來的戰場上可能是至關重要的。

4.2 建立可信賴和負責任的人工智能系統

確保美國軍隊能夠使用安全可信的人工智能和自主系統，并按照國際人道主義法律使用這些系統，將有助于美國保持其競爭優勢，以對抗俄羅斯等對人工智能的道德使用承諾較少的專制國家。強調值得信賴的人工智能也是至關重要的，因為國防部的大多數人工智能項目都需要人機合作和協作的元素，它們的成功實施在很大程度上取決于操作者對系統的足夠信任和使用。最后，國防部和行業伙伴之間就可信和負責任的人工智能的共享標準和測試要求進行更密切的協調，對于推進國防部人工智能的采用至關重要。

除了國防部現有的武器審查和目標程序，包括自主武器系統的協議，該部門還在尋求解決倫理、法律和政策的模糊性，以及人工智能更具體的風險。2020年2月，五角大樓通過了五項道德原則來指導人工智能的發展和使用，呼吁人工智能是負責任的、公平的、可追溯的、可靠的和可治理的。為了將這些原則付諸實踐，國防部副部長凱瑟琳-希克斯發布了一份備忘錄，指示采取一種 "整體的、綜合的和有原則的方法 "來整合負責任的人工智能（RAI），包括六個原則：管理、作戰人員的信任、產品和采購生命周期、需求驗證、負責任的人工智能生態系統和人工智能勞動力。

同時，2021年11月，DIU發布了其負責任的人工智能指導方針，響應了備忘錄中對 "工具、政策、流程、系統和指導 "的呼吁，將道德的人工智能原則納入該部門的采購政策。這些指導方針是在國防部人工智能項目中操作和實施道德的具體步驟，建立在DIU在預測健康、水下自主、預測性維護和供應鏈分析等領域的人工智能解決方案的經驗上。它們的目的是可操作的、自適應的和有用的，同時確保人工智能供應商、國防部利益相關者和DIU項目經理在人工智能系統生命周期的規劃、開發和部署階段考慮到公平、問責和透明度。

國防部人工智能項目的成功將在很大程度上取決于確保人類發展并保持對其智能機器隊友的適當信任。因此，國防部對可信人工智能的強調越來越多地體現在其一些旗艦人工智能項目中。例如，2020年8月，DARPA的空戰進化（ACE）項目吸引了大量的關注，因為一個人工智能系統在模擬的空中斗犬比賽中擊敗了空軍的一名頂級F-16戰斗機飛行員。 ACE的一個關鍵問題是 "如何讓飛行員足夠信任人工智能并使用它"，而不是讓人類與機器對決。ACE選擇了斗狗場景，很大程度上是因為這種類型的空對空戰斗包含了許多成為戰斗機飛行員群體中值得信賴的伙伴所必需的基本飛行動作。讓人工智能掌握作為更復雜任務基礎的基本飛行動作，如壓制敵方防空系統或護送友軍飛機。根據ACE項目經理的說法，AlphaDogfight試驗是 "關于增加對人工智能的信任"。

人工智能的發展速度很快，因此很難設計和實施一個足夠靈活的監管結構，以保持相關性，同時又不至于限制性太強而扼殺創新。與國防部合作的公司正在尋求符合國防部人工智能道德原則的人工智能系統的開發、部署、使用和維護的指導方針。這些行業伙伴中的許多人已經采用了他們自己的可信和負責任的人工智能解決方案的框架，強調了安全、安保、穩健、彈性、問責制、透明度、可追溯性、可審計性、可解釋性、公平性和其他相關質量等屬性。

圖：2021年10月19日，在亞利桑那州尤馬試驗場，一名美國陸軍士兵使用戰術機器人控制器來控制遠征模塊化自主車輛，作為準備 "聚合項目 "的練習活動。在 "聚合項目21 "期間，士兵們試驗了使用這種車輛進行半自主偵察和再補給。無論是在戰場上還是在戰場之外，對自主和半自主車輛等人工智能能力的信任對于成功至關重要。

目前，對于什么是道德或值得信賴的人工智能系統，沒有共同的技術標準，這可能會使非傳統的人工智能供應商難以設定預期，并在官僚機構中穿梭。國防部不直接負責制定標準。相反，2021年國防授權法案（NDAA）擴大了國家標準與技術研究所（NIST）的任務，"包括推進人工智能的合作框架、標準、指導方針，支持開發人工智能系統的風險緩解框架，并支持開發技術標準和指導方針，以促進值得信賴的人工智能系統"。2021年7月，NIST在制定其人工智能風險管理框架時，向利益相關者發出了信息請求，旨在幫助組織 "將可信性考慮納入人工智能產品、服務和系統的設計、開發、使用和評估"。

對這一挑戰沒有簡單的解決方案。但是，讓政府、行業、學術界和民間社會的利益相關者參與進來的合作過程可以幫助防止人工智能的發展走上社交媒體的道路，在社交媒體上，公共政策未能預測到虛假信息和其他惡意活動在這些平臺上造成的風險和損失，而且反應緩慢。

與標準相關的是與測試、評估、驗證和確認（TEVV）相關的挑戰。測試和驗證過程是為了 "幫助決策者和操作者了解和管理開發、生產、操作和維持人工智能系統的風險"，對于建立對人工智能的信任至關重要。國防部目前的TEVV協議和基礎設施主要是針對主要的國防采購項目，如船舶、飛機或坦克；它是線性的、順序的，而且一旦項目過渡到生產和部署，最終是有限的。然而，對于人工智能系統，"開發從未真正完成，所以測試也是如此。"因此，像人工智能這樣的適應性強、不斷學習的新興技術需要一個更加敏捷和迭代的開發和測試方法，正如NSCAI建議的那樣，"將測試作為需求規范、開發、部署、培訓和維護的持續部分，包括運行時監測操作行為。"

建立在開發、安全和運營（DevSecOps）的商業最佳實踐基礎上的綜合和自動化的開發和測試方法，更適合于人工智能/ML系統。雖然JAIC的聯合基金有可能實現真正的人工智能DevSecOps方法，但在整個國防部擴大這種努力是一個重大挑戰，因為它需要對當前的測試基礎設施進行重大改變，以及更多的資源，如帶寬、計算支持和技術人員。也就是說，如果不開發更適合人工智能的新測試方法，不調整當前的測試基礎設施以支持迭代測試，將阻礙大規模整合和采用可信和負責任的人工智能的努力。

上述關于標準和TEVV的討論概括了現代人工智能系統對現有國防部框架和流程的獨特挑戰，以及商業技術公司和國防部對人工智能開發、部署、使用和維護的不同方法。為了加速人工智能的采用，國防部及其行業伙伴需要在具體的、現實的、與操作相關的標準和性能要求、測試過程和評估指標上更好地保持一致，并納入道德的人工智能原則。一個以可信和負責任的人工智能為導向的國防技術生態系統可以促進最佳做法的相互交流，并降低非傳統供應商和初創公司所面臨的官僚主義和程序性障礙。

5 主要收獲和建議

充分發揮人工智能推動成本和時間效率的能力，支持人類決策者，并實現自主性，將需要更多的技術進步或開發新的作戰概念。下面，我們概述了優先努力的三個關鍵領域，以更成功地將人工智能納入整個國防部事業，并確保美國能夠阻止威脅，并保持對其競爭對手和潛在對手的戰略、戰役和戰術優勢。

5.1 優先考慮安全、可靠、受信任和負責任的人工智能開發和部署

與中國日益激烈的戰略競爭，精湛的技術和強有力作戰能力，以及與私營部門快速的技術開發和整合速度的比較，都給國防部帶來了壓力，使其更快地走向人工智能系統的實戰。在人工智能發展中鼓勵更大的風險容忍度，以便在大規模采用人工智能方面取得進展，這有很多好處。但是，僅僅為了 "超越 "中國而匆忙部署容易受到一系列對手攻擊的人工智能系統，并且很可能在作戰環境中失敗，這將被證明是適得其反。

指導美國軍隊的道德準則反映了對遵守戰爭法則的基本承諾，而此時，一些獨裁國家對人權和人道主義原則很不重視。同時，國防部對新能力的測試和保證采取了嚴格的方法，旨在確保新武器的使用是負責任的和適當的，并盡量減少事故、誤用和濫用系統和能力的風險，因為這可能會產生危險，甚至是災難性的影響。美國與許多盟友和伙伴共享的這些價值觀和原則，在與專制國家競爭時是一種戰略資產，因為它們正在部署人工智能軍事系統。為了鞏固國防部在這個領域的優勢，我們建議采取以下步驟。

• 美國防部應將DIU的“負責任的人工智能指南”納入相關的提案請求、招標和其他材料中，要求承包商展示他們的人工智能產品和解決方案是如何實施國防部的人工智能道德原則。這將設定一套共同和明確的期望，幫助非傳統的人工智能供應商和初創公司在五角大樓的提案過程中游刃有余。最近有國防部為項目制定收購類別的先例，要求工業界調整其開發過程，以滿足不斷變化的國防部標準。例如，在2020年9月，美國空軍為所有采購工作制定了e系列采購指定，要求供應商使用數字工程實踐--而不是原型--作為他們激勵行業接受數字工程的一部分。

• 美國防部的行業合作伙伴，特別是非傳統的人工智能供應商，應積極與NIST合作，因為該機構繼續努力制定標準和指導方針，以促進可信賴的人工智能系統，以確保他們的觀點為后續框架提供信息。

• 本文提到的有效采用人工智能的挑戰包括人工智能的脆弱性和對手旨在破壞人工智能算法的網絡攻擊可能性。克服這些挑戰將需要國防部繼續致力于提高國防部人工智能系統測試和評估的速度、種類和能力，以確保這些系統在更廣泛的不同環境下發揮預期功能。其中一些測試需要在真實世界的環境中進行，但基于模型的模擬的進步可以使人工智能系統的性能在數字/虛擬世界中得到越來越多的驗證，減少與這種測試相關的成本和時間。

圖：人工智能可以極大地重塑未來的戰場。為了實現這一愿景，美國防部必須采取關鍵步驟，有效利用人工智能。資料來源：美國陸軍。

• 此外，美國防部還應該利用國防部研究與工程副部長（USDR&E）的測試實踐和優先事項，以確保計劃和部署的人工智能系統能夠抵御對手的攻擊，包括數據污染和算法損壞。

• 美國防部應利用盟友和外國合作伙伴來開發、部署和采用可信的人工智能。這種性質的參與對于協調人工智能發展和使用的共同規范至關重要，這些規范遏制并對抗中國和俄羅斯的獨裁技術模式。擴大現有合作模式和建立新的伙伴關系的途徑可以包括以下內容：

i. 加強對道德、安全和負責任的人工智能的重視，將其作為全日空防務伙伴關系的一部分，通過評估成員方法的共同點和差異，確定未來聯合項目和合作的具體機會。

ii. 與 "五眼"、北約和AUKUS伙伴交叉分享和實施聯合道德項目。除了支持互操作性，這將增加視角和經驗的多樣性，并有助于確保人工智能發展工作限制各種形式的偏見。正如本項目所采訪的一位前將軍所指出的，"多樣性是我們確保可靠性的方式。它是必不可少的。"

iii. 擴大與不同能力和地域的盟友和合作伙伴的聯系，包括印度、南非、越南，以探索雙邊和多邊研發工作和技術共享計劃的機會，解決可信和負責任的人工智能的技術屬性。

5.2 調整人工智能發展的關鍵優先事項，加強國防部和工業伙伴之間的協調，以幫助縮小國防部人工智能能力的差距

如果不與廣泛的技術公司建立密切的伙伴關系，國防部將無法實現其在人工智能方面的雄心壯志，并與中國通過軍民融合采購技術創新的模式進行有效競爭。這包括與五角大樓有長期聯系的國防工業領導人，處于全球創新前沿的技術巨頭，尋求擴大其政府投資組合的商業技術參與者，以及處于人工智能發展前沿的初創企業。但是，國防部的預算規劃、采購、收購、簽約和合規流程可能需要從根本上進行重組，以有效地與這個充滿活力和多樣化的技術生態系統的整體接觸。

系統性變革是一個緩慢而艱巨的過程。但是，拖延這一過渡有可能使美國軍隊在利用人工智能承諾提供的優勢方面落后，從作戰速度到決策主導權。同時，以下行動可以幫助改善與行業伙伴的協調，以加快國防部采用人工智能的努力。

• 國防部應評估其溝通和外聯戰略，以澄清和精簡圍繞該部門在人工智能方面的優先事項的信息。

• 國防部應與技術公司合作，重新審查他們對某些類別的人工智能解決方案的潛在價值的評估，包括但不限于后勤、醫療和健康服務以及信息操作。

• 國防部應實施NSCAI的建議，加快對采購專業人員的培訓，使其了解采購和簽約的全部可用選擇，并激勵他們使用人工智能和數字技術。" 此外，這種采購人員培訓舉措應確保采購專業人員充分了解國防部的人工智能倫理原則以及可信和負責任的人工智能的技術層面。國防部的道德準則可以作為這種培訓的基礎。

5.3 促進領先的國防技術公司和非傳統供應商之間的協調，以加快美國防部人工智能的采用

在中短期內，美國防部將不會建立全新的人工智能系統，而是將人工智能整合到一系列現有的軟件和硬件系統中--從網絡防御架構到戰斗機到C2。因此，實施人工智能的進展也將取決于簡化國防部一直在爭取的創新和尖端技術的初創公司和非傳統人工智能供應商與負責將新能力整合到傳統系統的國防部門之間的合作。

NSCAI建議確定 "國防部門與非傳統公司合作的新機會，以便在現有平臺上更快地采用人工智能能力。"我們贊同這一建議：改進國防部門與非傳統公司之間的協調可以幫助確保人工智能解決方案是強大的，有彈性的，與作戰相關的，以及引導有前途的原型穿過 "死亡之谷"。

毫無疑問，從概念到實踐可能是很棘手的。本文的研究顯示，在將創新的新技術從實驗室轉移到記錄項目中采用的主要挑戰在哪里，人們的觀點存在著很大的分歧。初創企業傾向于認為系統集成商抗拒參與，而初創企業可能被認為缺乏對收購過程的理解，以及開發的技術難以整合到記錄項目中，或難以擴大規模。

彌補這一差距將需要政府采取新的方法來解決非傳統供應商對知識產權的擔憂。大多數人不愿意放棄敏感技術的所有權，這些技術主要是賣給國防市場以外的客戶。這也將涉及到國防部幫助小企業通過加快網絡認證和運營授權（ATO）過程等步驟來瀏覽聯邦采購流程，以及幫助有興趣的公司為國防部的不同組成部分開發使用案例。這種積極的促進作用將幫助那些通過研究和開發撥款與國防部合作的非傳統供應商更有準備地與系統集成商達成合作。

最重要的是，優化大型系統集成商和小型創新者的利益，將需要國防部在連接小型公司和那些正在運行的項目方面發揮更積極的對話者作用。目前，國防部在要求公司合作方面存在一些可以理解的猶豫，主要是擔心觸犯聯邦采購條例（FAR）。但是，正如本項目采訪的一位行業專家所認為的，國防部可以更積極地了解《聯邦采購條例》所允許的內容，并幫助公司建立聯系，特別是為了滿足特定的采購優先權或計劃。

6 結論

在過去的幾年里，對人工智能的興趣和投資已經獲得了動力。這在國家安全和國防界尤其如此，因為戰略家、政策制定者和行政人員在不斷上升的地緣戰略競爭中尋求決定性的優勢，并為以復雜性、不確定性和最重要的速度為特征的未來操作環境做準備。人工智能現在是美國和中國之間軍事技術競爭的中心，這兩個國家以及世界上其他國家的軍隊都已經在部署人工智能系統，目的是為了主導未來的戰場。

美國不能冒落后于中國的風險--在人工智能的創新方面，在人工智能的采用方面，在人工智能全面融入國防事業方面，都不能。迫切需要解決一系列技術和官僚程序以及文化問題，迄今為止，這些問題已經抑制了國防部采用人工智能的步伐。具體來說，國防部應優先考慮以下問題。

• 建立對人工智能的信任：國防部的人工智能努力主要集中在增強人類理解、決策和效能的技術上，而不是取代人類。因此，在人類和他們的智能機器隊友之間建立信任和信心是成功開發和部署軍事人工智能的一個關鍵方面。

• 制定和實施可信和負責任的人工智能標準：目前，對于什么是可信和負責任的人工智能，還沒有共同的標準或系統性能要求。因此，五角大樓及其行業伙伴必須與NIST等機構合作，制定和實施與作戰相關的標準、測試流程和評估指標，其中包括道德的、可信賴的和負責任的人工智能原則。這將有助于將成功的人工智能研究原型推進到可投入生產的解決方案中。

• 促進美國創新生態系統和國防工業基地的優化。將尖端的人工智能技術引入國防部還需要五角大樓減少國防部采購過程中經常出現的官僚主義挑戰，特別是對于那些在傳統國防工業基地之外的創新公司。開發新的手段來支持和激勵這些公司的參與，并促進領先的國防技術公司與初創公司和非傳統供應商之間的行業內伙伴關系將是至關重要的。

• 吸引盟友和合作伙伴。正如本文開頭所述，烏克蘭戰爭加強了盟友和合作伙伴在執行地緣政治規范和標準方面的重要性。未來人工智能的發展和采用也可能是如此。國防部不僅將受益于工業界和國家安全界的合作，還將受益于與盟友和外國伙伴的合作，以確保建立和頒布規范和標準，從而實現可信、負責和可互操作的人工智能開發和部署。

關于本報告

本報告是在對人工智能的國家安全和國防影響進行為期八個月的研究項目的最終成果。

關于作者

瑪格麗特-科納耶夫（Margarita Konaev）是大西洋理事會斯考克羅夫特戰略與安全中心前沿防御業務的非常駐高級研究員。此外，她還擔任喬治敦安全與新興技術中心（CSET）的分析副主任和研究員，對人工智能的軍事應用和俄羅斯軍事創新感興趣。她也是新美國安全中心的兼職高級研究員。在此之前，她是西點軍校現代戰爭研究所的非駐地研究員，弗萊徹法律和外交學院的博士后研究員，以及賓夕法尼亞大學佩里世界之家的博士后研究員。在加入CSET之前，她曾在Gartner公司的營銷和溝通部門擔任高級負責人。

科納耶夫博士對國際安全、武裝沖突、非國家行為者和中東、俄羅斯和歐亞大陸的城市戰爭的研究已經在《戰略研究雜志》、《全球安全研究雜志》、《沖突管理與和平科學》、法國國際關系研究所、《原子科學家公報》、《法律戰》、《巖石上的戰爭》、現代戰爭研究所、外交政策研究所以及其他一系列機構和組織發表。她擁有圣母大學的政治學博士學位，喬治敦大學的沖突解決碩士學位，以及布蘭代斯大學的學士學位。

泰特-努爾金（Tate Nurkin）是OTH情報集團的創始人，也是大西洋理事會斯考克羅夫特戰略與安全中心的高級研究員。

在2018年3月建立OTH情報集團之前，努爾金在IHS Markit的簡氏公司工作了12年，擔任各種職務，包括管理簡氏國防、風險和安全咨詢業務。從2013年到他離開，他擔任戰略評估和未來研究（SAFS）中心的創始執行主任，該中心提供有關地緣政治、未來軍事能力和全球國防工業的全球競爭的思想領導和定制分析。

實質上，努爾金的研究和分析特別關注中美競爭、國防技術、未來軍事能力和全球國防工業及其市場問題。他還擅長設計和提供替代性未來分析活動，如情景規劃、紅色團隊和兵棋推演。

他曾在聯合管理服務公司、SAIC的戰略評估中心以及博思艾倫公司的建模、模擬、兵棋推演和分析團隊工作。2014-2018年，他在世界經濟論壇的核安全全球議程委員會和國際安全未來委員會連續任職兩年，該委員會的成立是為了診斷和評估第四次工業革命的安全和防御影響。

努爾金擁有佐治亞理工學院薩姆-納恩國際事務學院的國際事務科學碩士學位，以及杜克大學的歷史和政治學學士學位。