美國國防部和空軍領導人認為，人工智能（AI）是一種改變游戲規則的技術，將幫助空軍情報、監視和偵察（ISR）體系克服大國沖突所需的情報分析速度和規模方面的長期挑戰。傳感網格概念（最近更名為傳感器集成）被作為未來框架引入，以整合人工智能和認知建模工具融入空軍ISR，但對于對手的威脅和道德方面的考慮卻很少討論，而這些考慮應該貫穿于系統的設計和功能模塊。為了讓空軍內部的人力和組織做好準備，以整合高度自動化的人工智能情報分析系統，領導人必須倡導以人為本的設計，從歷史上人機協作的成功和失敗中吸取教訓。領導人還必須采取積極主動的方法來培訓空軍的ISR勞動力，以便與革命性的但不完善的人工智能技術進行有效協作。

問題陳述

根據美國空軍作戰集成能力（AFWIC）傳感跨職能小組的說法，空軍情報、監視和偵察（ISR）的現狀是高度專業化、專有化，并且過于依賴人力密集的回傳（reach-back）過程。當規劃人員展望未來的大國沖突時，他們評估目前的硬件和分析過程將不足以建立對同行對手的決策優勢，情報工作在勝利所需的速度和規模方面落后。空軍A2的 "下一代ISR主導地位飛行計劃"對目前的ISR體系也提出了類似的批評，主張擺脫今天的 "工業時代的單一領域方法"，以追求 "架構和基礎設施，以實現機器智能，包括自動化、人機合作，以及最終的人工智能。"雖然為空軍人員提供更快更智能的工具來制作和分享評估是空軍高級領導人的優先事項，但引入更高水平的自動化和機器主導的感知為情報界帶來了一系列新問題。考慮到這些工具可能遇到的篡改和故意提供錯誤信息的威脅，依靠算法走捷徑是否安全？追求由自動化武器系統促成的戰爭到底是否合乎道德？如果是這樣，情報界采用自動化工具以更快的速度產生關鍵的情報評估會帶來什么風險？

人工智能（AI）一詞被美國防部聯合人工智能中心定義為 "機器執行通常需要人類智慧的任務能力--例如，識別模式、從經驗中學習、得出結論、進行預測或采取行動。"參議員們希望AI能夠很快為人類分析師用來進行評估的軟件套件提供動力，并使物理系統在更多的自主應用中發揮作用。機器學習（ML）被國防部高級研究計劃局（DARPA）定義為人工智能中的一個領域，"將統計和概率方法應用于大型數據集"，并可以將衍生模型應用于未來的數據樣本。利用ML好處的一個流行方法是通過深度神經網絡（DNN），它可以使用歷史數據被訓練成執行一系列的分類和預測任務。雖然在AFWIC或A2的出版物中沒有特別提及，但在模擬人類思維過程的應用中使用AI、ML和DNN是計算機科學和心理學的一個混合領域，稱為認知建模。在AFWIC對未來空軍ISR體系的設想中，AI、ML、DNNs和認知建模概念是向數字化、以網絡為中心的情報方法轉變的關鍵部分。

為了給空軍ISR體系的現代化舉措提供一個框架，AFWIC建立了傳感網的概念，定義為 "傳感器、平臺、人員、設備、內容和服務的組合，為決策者提供整體、準確、預測和及時的作戰環境特征。"該概念的設計者設想了一個具有預測分析、自主傳感和響應、融合多個數據源和邊緣處理的系統，所有這些都是通過利用AI、ML、DNN、數據分析和其他認知建模方法來實現的。盡管沒有公布傳感網格的首次亮相日期，但大多數討論表明，優化的系統簇至少還有十年。同時，美國防部領導層非常迫切地要趕上中國和俄羅斯在軍事人工智能應用方面的投資，鼓勵快速原型設計和實驗，以找到解決方案。人工智能在國防論壇上經常被認為是使以數據為中心的情報任務更快、加快戰術決策的答案，但如果所涉及的系統處于工程的初級階段，并且在國家安全領域仍未得到證實，這僅僅是猜想。

雖然AFWIC和空軍A2專注于人工智能傳感器和工具的研發投資，但很少討論使傳感網格安全和有效所需的人機合作動態。為了使傳感網格成為一個有效的系統，為空軍執行ISR和分析的方式帶來價值和進步，領導人應該在技術中倡導以人為本的設計，培訓和準備一線分析員與新系統有效的協作，并根據人工智能的優勢和劣勢調整組織做法。空軍領導人必須承認將更多的分析任務分配給人工智能工具所固有的對抗性威脅和道德問題，這些問題必須告知感知網格的藍圖。這并不是說正在進行的系統軟件開發應該停滯不前，而是說在情報和物資領導人之間必須同時進行對話，討論人類分析員的作用，因為這對減輕越來越多地依賴人工智能的弊端至關重要。空軍領導人還必須推行一項深思熟慮的計劃，將傳感網格組件整合到當前的傳感、識別、歸屬和共享（SIAS）活動中，使一線分析員為 "更高級別的推理和判斷"任務做好準備，同時承認機器應該增強人類任務，而不是完全取代人類。

接下來本文將提供與人工智能系統相關的脆弱性和道德問題的文獻回顧，以深入了解建設和應用傳感網格可能面臨的挑戰。它還將包括討論在完成和應用這個改變游戲規則的系統之前，情報和物資領導人應該考慮哪些因素。本文最后將就如何為空軍ISR戰斗空間準備傳感網格提出進一步的建議，為空軍人員在數字時代的行動提供必要的場景設置。

文獻回顧

最近關于將人工智能應用于認知任務的相關弱點的研究大多強調了對抗性樣本的危險性，這些樣本修改了DNN的輸入，導致它們控制的系統以各種方式發生故障。對抗性輸入可以是物理的或非物理的，可以影響各種數據分類器分類媒體，包括圖像、音頻文件和文本。最常提到的物理欺騙樣本是一個實驗，工程師通過將停車標志調整成不同的角度來愚弄自動駕駛汽車上的光學傳感器，導致車輛錯過停車。物理欺騙在國防應用中不是一個新穎的計劃，但將邊緣處理和自動化納入像傳感網格這樣的系統可能排除了人類分析師第一手識別這些戰術。在非物理領域，訓練算法以類似于人腦的方式來識別模式是一項具有挑戰性的任務。計算機視覺（CV）算法對圖像的分類與人類分析人員非常不同，當只有幾個像素不合適時，很容易對物體進行錯誤分類。在不太直接的情況下，工程師無法解釋模型的錯誤，刺激了DARPA等組織對可解釋人工智能的倡議。 在最好的情況下，對抗性輸入被識別為異常值，并被具有強大訓練樣本的CV模型所忽略；在最壞的情況下，它們可能會破壞現實世界的輸入，并在人類分析師不知情的情況下從樣本中數字化地刪除物體或活動。如果對抗性輸入導致分析師錯過他們通常會在沒有協助的情況下捕捉到的重要活動，就會產生災難性的后果。

如果將AI、ML和DNN應用于情報數據集背后的目標是以更高的速度分析和傳播更多的信息，那么自然語言處理（NLP）也可能是感知網格架構的一部分。NLP模型今天被廣泛用于個人和商業用途，像Siri和亞馬遜Alexa這樣的工具使用語音提示來啟動其他應用程序。NLP模型也可用于大量文本或其他媒體的理解任務，使用衍生數據回答問題。這種技術在融合多種數據源的SIAS任務中可能非常有用，但也可能容易受到干擾。NLP中的對抗性輸入可以引入錯誤的句子或用文本文件中的反義詞替換關鍵詞，導致模型在沒有時間或能力進行人工審查的情況下錯誤描述數據集。

與任何分層模型的方案一樣，CV和NLP模型是否能像預測的那樣有效地協同工作還是個未知數，更不用說檢測像Deepfakes這樣在非保密領域進入DNN的偽造數據了。人類分析員離通常可以檢測錯誤信息的源數據流越遠，SIAS就越容易受到錯誤輸入的影響。盡管有這種擔憂，但空軍A2的指導意見表明，人們對分層模型利用非保密的公開信息（PAI）進行無縫傳感器提示寄予厚望，使ISR體系能夠更有效地找到相關目標。如果沒有一種強大的方法來檢測提示傳感器的PAI樣本中的偽造媒體，這個過程可能難以安全地實現。

技術的復雜性和自動化、人工智能系統對篡改的潛在脆弱性，引發了關于在軍事行動中應用這類技術是否符合道德的討論。雖然傳感網格的設計不是為了直接使用武器，但來自該系統的情報數據很可能為關于多個領域的關鍵決策提供信息。關于AI/ML的倫理學文獻通常對采用自主運作、人類干預窗口有限的系統持批評態度，其邏輯與反對地雷等傳統自動化武器的倫理學論點相似。雖然傳感網格及其前驅系統將具有比壓力板裝置高得多的認知行為屬性，但一些人認為，人類對黑盒系統的控制同樣很少，這些系統在向人類操作者提出選擇或結論之前，會執行層層的算法通信。

幸運的是，人工智能系統可能也能夠在人類容易出現道德失誤的情況下進行補償，因為機器不會經歷像恐懼或驚慌這樣的情緒，而這些情緒可能會引發危險的決定或違反LOAC。盡管利用人類與認知模型合作的這一潛在優勢是謹慎的，但美國防部的指導意見將速度作為人工智能最有用貢獻的具體價值，這引入了更多道德難題。對個人決策的測試表明，人類在復雜環境中的風險評估能力已經很差，而引入人工智能，使人類判斷的價值邊緣化，只會導致更快的、風險更高的結論。當人工智能帶來的錯誤評估或草率決定導致災難性錯誤時，問責也是美國防部領導人必須準備解決的混亂道德問題。

大多數文獻中隱含的減輕對手篡改和道德失誤威脅的解決方案，是在人類控制器和自主的人工智能系統之間進行最佳分工。不足為奇的是，對于這應該是什么樣子，以及它如何適用于像傳感網格這樣的系統，有許多觀點。一些人認為，在國際協議框架中沒有雇用自動武器系統的空間，并將其缺乏責任感與兒童兵相比較。其他人認為，如果像聯合目標定位這樣的程序以同樣的嚴格和參與規則進行，人工智能工具將不會導致不可接受的失控。雖然人們認為迫切需要通過購買現有的商業軟件向聯合情報界提供傳感網格的能力，但如果美國防部領導人希望減少前面討論的風險，工程師、需求所有者和分析師必須致力于仔細討論人工智能應用在ISR體系中最有幫助的地方以及它們有可能造成傷害的地方。

討論結果

當涉及到投資建設由人工智能和認知建模應用驅動的未來ISR體系的項目時，美國防部和空軍除了需要快速投資并與大學和國家實驗室合作外，提供的指導有限。除了系統 "事故風險較低；對黑客和對手的欺騙行為更有彈性和表現出較少的意外行為"之外，對該部門在人工智能投資方面所期望的指導也是有限的。缺乏特殊性可能是人工智能在國防部戰略中首次出現的癥狀，但自滿和滿足于為投資而投資的情況并沒有遠遠超過這種情況。使用該技術的社區有責任決定與認知模型建立哪種類型的協作關系將提供最大的利益，但戰略指導似乎將責任交給了實驗室和行業合作伙伴，責成外部人士確定人工智能將解決的問題和解決方案。如果空軍ISR領導人在討論如何最好地將人類分析員與人工智能工具協作方面不發揮積極作用，他們將如何評估開發人員是否在提供資金的情況下取得足夠的進展？美國防部如何相信由非業務伙伴開發的解決方案能夠充分解決安全和道德問題？在什么時候，人工智能會從一個脆弱的研究項目過渡到改善SIAS的速度和準確性的可行解決方案？

討論人工智能及其在情報工作中的預期功能的一個更有成效的方法是，不要把它當作一個神奇的子彈，因為它的定義太不明確，根本無法研究。雖然將認知模型應用于情報過程可能是新的，但在戰爭中實現自動化的技術已經存在了幾十年。領導人必須考慮現代戰爭中已經存在的人機合作結構，以獲得設計和整合傳感網格的經驗。對于空軍ISR來說，分析當前和歷史上人類分析員、機載傳感器和戰區決策者的團隊合作是一項有益的工作。機載ISR傳感器的性能衡量通常通過傳感器輸出的響應性和準確性等因素來評估，但了解傳感器數據引發的分析和決策過程也很重要。例如，光譜成像傳感器可以被用作異常檢測器，突出不尋常的物體或活動，供人類分析員審查和報告。報告可以傳播給行動領導人，然后他根據情報做出決定，命令對異常活動的來源進行空襲。如果這一連串的事件在行動過程中習慣性地發生，那么傳感器和人類在循環中的互動可能會開始改變，而傳感器被潛意識地重新歸類為威脅探測器。在這種情況下，傳感器的性能規格并沒有改變，但隨著時間的推移，團隊關系中的人類開始對傳感器的輸出應用不同的價值，這可能是外部激勵因素的影響。雖然大多數分析家都知道，假設所有的異常情況都是威脅是不正確的，也是危險的，但人機協作關系演變為扭曲人類判斷的微妙方式是值得關注的。為了確保人機協作以道德方式進行，領導者必須反思協作結構如何在無意中抑制組織的價值觀。對新作戰技術的準確性和穩健性的要求是合理的，但了解技術煽動的組織行為和習慣對有效和道德地使用是最重要的。

除了在ISR體系內應用現有的人機合作經驗外，人工智能感應網格的設計也應以人為本。雖然在建立一個由人類分析員使用的系統時，這似乎是顯而易見的，但在復雜的系統工程項目中，人因工程和人機協作的考慮往往是一個低優先級的問題。這部分是由于傳統的組織障礙，將軟件工程師和人因專家放在不同的部門，尤其是后者專門研究認知心理學、神經科學和機器人學等學科，這些學科在一些項目中可能發揮有限的作用。未能在復雜系統中適當整合人的因素的后果是可怕的，這在波音公司的737 Max飛機上可以看到，該飛機在2018年和2019年發生了兩起致命事故。兩份事故報告都提到高度自動化的機動特性增強系統（MCAS）軟件是導致飛機失事的一個重要因素。 雖然MCAS被設計為使用傳感器輸入來協助飛行安全，但糟糕的人為因素考慮使得該系統在觸發自動程序后，飛行員很難覆蓋。雖然培訓用戶與新系統合作是入職的自然部分，但由于缺乏人為因素工程而導致的陡峭學習曲線是一種風險，可以通過對人類和機器行為進行建模來減輕，因為它們與手頭的任務相關。 在這種情況下，建模將幫助系統架構師確定在特定的團隊合作關系中造成誤解的溝通差距，也許可以提供關于機器如何在緊急情況發生前向人類操作員充分披露其局限性的洞察力。

當我們推測如何最好地促進人機互動，充分解決與人工智能和自動化相關的安全和倫理問題時，尋求視覺分析專家的咨詢可以提供有價值的設計見解。"視覺分析是一個科學領域，它試圖通過交互式可視化增加人機對話來提高自動化、高容量數據處理的透明度。 為分析師提供一個團隊結構，讓他們選擇如何可視化數據集，可以在自動化、機器輔助的數據精簡和人類判斷之間取得有利的平衡。在傳感網格的可視化分析的最佳應用中，分析師將以高度的信心理解數據集的重要性，這得益于調整基礎分析過程的能力。 理想情況下，可視化分析使用戶能夠通過向系統提出關于數據的假設和問題來利用他們的學科專長，使他們能夠通過對話得出結論。視覺分析中的一種被稱為語義互動的方法也可能是有幫助的，創建的模型可以將分析師與視覺數據的對話轉化為模型的調整，推斷和學習人類伙伴執行常規任務的原因，如突出、復制等。考慮到前面詳述的學科有多新，建立明確的測試和評估標準將是準備將這些和其他團隊技術納入SIAS任務的重要步驟。

美國空軍研究實驗室（AFRL）內的各局無疑面臨著許多挑戰，在這個概念正式確定之前，他們一直致力于建立傳感網格的組成部分。將人工智能整合到智能架構和軟件中的工程師和開發人員主要在羅馬實驗室AFRL信息局（AFRL/RI）工作，分為多個核心技術能力（CTC）團隊。特別是處理和開發（PEX）CTC將深入參與開發實現傳感網的DNN，其任務是"為空軍、國防部和情報界提供快速感知，以提高對形勢的認識和對抗的洞察力"。在PEX CTC中，項目按功能分為特征化、極端計算、理解和預測項目，涵蓋了從數據提取到高級感知的一系列步驟。人因工程方面的專業知識來自位于兩個州外的萊特-帕特森空軍基地的飛行員系統（RH），一個跨學科局。下一步，PEX CTC的項目可能會與AFRL的其他部門（如傳感器（RY）或航空航天系統（RQ））的開發項目相結合，將RI的SIAS部分與新的機載收集傳感器和車輛聯系起來。目前，RI的工程師使用來自實際聯合和國家情報來源的樣本數據流，逐步解決在大量非結構化數據中進行分類的計算挑戰。尋找解決方案以保持物理系統的尺寸、重量和功率要求可控，也是一個持續關注的問題，特別是在像Agile Condor這樣尋求在機載系統上提供高水平邊緣處理的項目。

正如前面的文獻調查所示，在DNN中建立穩健性和安全性，以防止ML中的對抗性干擾，是任何網絡開發者都關心的問題，RI內部的團隊也不例外。DNN已經在實驗室環境中以意想不到的方式學習或失敗，引入與人類感知相矛盾的對抗性輸入，可能會使開發有用工具的進展受挫。如果系統繼續隨著新數據集的發展而發展，那么可能很難確定技術成熟度的基準，在這種情況下，AFRL將維持責任轉移給空軍生命周期管理中心（AFLCMC）是合適的。雖然這一點與建立人工智能傳感網格組件的測試和評估標準的重要性有關，但它也應該引發關于復雜系統在開發和維持組織之間的移交是否適合這種技術的討論。理想的情況是，在DNN上擁有最多專業知識的團隊建立模型，并在其整個生命周期內維護它們。一個更有可能和更少破壞性的行動方案是建立具有可升級底盤和外形尺寸的傳感網組件，允許在可用時用替換設備進行簡化升級。考慮到國家實驗室、DARPA、麻省理工學院、卡內基梅隆大學和其他機構的大量人工智能研究投資，空軍領導人應該考慮如何在研究結果公布后，整合部門的投資回報，以改善感知網的設計和功能。

對于美國防部和空軍領導人來說，為未來傳感網的整合創造條件，還有其他獨特的倫理挑戰需要協調。如果 "傳感網格"及其組件能夠提供該概念所承諾的快速和強大的傳感功能，那么期望所有使用該系統的一線分析員都能理解其工作原理是否合理？在發生災難性錯誤的情況下，初級分析員是否需要了解該技術，以便對涉嫌疏忽的錯誤負責？"將邊緣處理納入傳感網設計也是一個有道德爭議的話題。雖然自動數據處理可以節省SIAS的時間，但分析師如何知道邊緣計算程序是否出現故障，或者他們是否被對手欺騙？從傳感器的邊緣去除人類的認知勞動可以更快地提供數據，但結果的準確性可能會有所不同。那些認識到這些問題，但卻因為要比中國或俄羅斯更快地投入技術的壓力而推遲解決的領導人，應該仔細思考這一立場背后的原因。雖然中國和俄羅斯的政府形式與美國根本不同，但事實是，這兩個國家都有等級制度，對國防事務中的錯誤和不精確性的責任也很重視。以類似于核計劃的方式，美國政府應該領導國際社會與競爭對手分享安全、設計良好的人工智能算法的傳統技術，確保沒有國家因為糟糕的態勢感知工具而引發誤解導致的沖突。最好的國際人工智能軍備控制可能來自于對人工智能研究結果的盡可能透明，并倡導負責任地使用該技術。

建議

盡管完整形式的傳感網格還需要幾年時間才能實現，但最終系統的組成部分可能會在未來十年內逐步投入使用。在為下一代人機協作做好技術、人員和組織的準備方面，還有大量的工作要做。美國防部和空軍ISR領導人不應等到正式的系統首次亮相時才開始倡導在傳感網格技術中采用以人為本的設計，將人工智能的培訓目標納入對一線分析員的指導，并為組織接受該技術和與之合作做好準備。當涉及到設計和構建這個復雜的系統時，物資領導人在考慮采購商業的、現成的軟件以獲得更快的數據匯總解決方案時，應該謹慎行事。在沒有為傳感網格及其系統如何運作建立測試、評估和安全標準的情況下，過早地整合多用途商業軟件可能會給傳感網的人工智能互動帶來不確定性和風險。

此外，找到更快解決方案的愿望不應該先于對人的因素的考慮，因為這對安全和富有成效的人機合作至關重要。美國防部領導人還應該認真審視在整個傳感網中整合邊緣處理的計劃，將其作為一個安全和道德問題，并應仔細思考在哪些地方將人類感知與傳感器輸出分離才是真正合適的。雖然培訓人類分析員是ISR體系可以采取的最明顯的措施之一，以減輕來自外部干預和道德失誤的威脅，但物資領導人也必須考慮他們在采購精心設計的、以人為本的技術方面的作用，作為一個同樣重要的保障。

正如美國國防創新委員會的AI原則。雖然年輕的分析員在快速學習數字應用和程序方面表現出很強的能力，但初級人員也傾向于以令人驚訝的方式信任技術。因此，這些分析員必須繼續接受情報分析基礎知識的培訓，使他們善于識別傳感網格中的算法錯誤和遺漏。空軍領導人在2018年為促進AI和ML素養邁出了務實的第一步，啟動了一項試點計劃，以確定具有計算機語言經驗的空軍人員，希望在各種舉措中利用那些具有編碼專長的人。雖然這項措施將有助于區分具有較高數字熟練度的分析員，但教導勞動力如何運作計算機模型可能是一個更有用的技能組合，以準備在傳感網中進行人機合作。"為傳感網就業準備一線分析員的最壞方法是依靠及時培訓來彌補勞動力對技術知識的差距，從而為SIAS活動引入更大的錯誤率。

為了讓組織準備好接收和整合傳感網格，美國防部和空軍領導人必須首先解決人力需求。盡管像傳感網格這樣的系統被設計成模仿人類的認知勞動，但分析人員的勞動對于質量控制和任務管理仍然是至關重要的，更不用說作為識別DNN內潛在篡改或系統故障的保障。現在還不是為預期的技術進步做出任何急劇的力量結構調整的時候，而這種技術進步離投入使用還有好幾年的時間。此外，到目前為止，關于傳感網將如何整合來自聯合部隊的數據，或者是否允許作戰司令部像今天一樣擁有自己獨特的數據戰略和情報資源的討論很少。如果傳感網由于來自一個服務部門或地理作戰司令部的人為縫隙而無法為分析人員提供更多的情報來源，那么該系統是否真正做到了其設計者所宣傳的？這些問題必須在聯合參謀部層面加以解決和調和。最后，利用來自傳感網的情報的組織必須認識到，當他們與機器合作時，他們很容易受到偏見和捷徑的影響。了解外部壓力和交戰規則如何導致對機器輸出的質疑失敗，對于改善人機伙伴關系，真正使SIAS更加有效至關重要。

結論

美國防部和空軍對人工智能在情報中的應用所進行的研究投資，對于確定部隊應如何準備與傳感網格進行人機合作是至關重要的。對領導人和一線分析人員進行培訓，讓他們了解在自動化、人工智能支持的SIAS中存在的道德難題和對手攻擊的可能性，這對保護組織不傳播錯誤信息至關重要。幸運的是，美國防部和空軍ISR領導人主張在傳感網格系統中采用以人為本的設計和培訓模式還為時不晚，因為AFRL的工程師們正在繼續努力為部隊提供一個安全、務實的解決方案。領導人必須認識到以速度換取精確性的組織傾向，并理解精心設計的系統分階段整合將是值得等待的。

美國人工智能國家安全委員會在2021年1月提交給國會的最終報告中建議國防部在2025年前做好人工智能準備。這一建議源于美國同行之間的人工智能軍備競賽，以及近年來在開發用于持續監視、指揮和控制以及武器化代碼的算法方面所取得的進展。雖然美國防部內有旨在利用各部門人工智能的戰略舉措，但戰術能力的發展和部署之間存在嚴重的脫節。作為美國防部的領導機構，聯合人工智能中心負責為美國防部的所有部門創造可行的解決方案，因此，如果所有單位都試圖在2025年之前做好人工智能準備，將不堪重負。本文強調了人工智能發展過程中的一個主要缺陷，并認為應將能力發展授權給空軍機群，并提供必要的資金和資源以真正將人工智能作為一種武器。此外，本文確定了通過基因操縱、智能灰塵納米技術和COVID-19機器學習過程發現成功的人工智能概念，以幫助戰術領導人了解人工智能革命如何幫助他們的特定任務領域，并激勵他們進行自我教育。

當涉及到利用人工智能（AI）時，美國空軍還沒有準備好與同行對手作戰，而且美國處于一場未宣布的軍備競賽中，可能會看到對手在未來十年內占據領先地位，因此需要迅速采取行動以扭轉局勢。更令人不安的是，這一威脅并沒有被該領域的戰術專家完全理解，或者即使他們理解，他們也可能沒有意識到（或在官僚上沒有能力）提供競爭所需的能力。對手在人工智能的研究和開發工作中正在取得進展。情報界的專業人士可以做些什么來解決這個問題。本文將嘗試定義中隊可以解決的戰術相關問題，并確定高層行動的不足之處。

人工智能國家安全委員會在其最終報告中建議美國防部采取行動，以便各部門為十年后的競爭做好準備。委員會的核心建議是美國防部遵循兩條努力路線：在2025年前為廣泛的人工智能整合奠定基礎，在2025年前實現軍事人工智能的準備狀態。這些項目在委員會報告發表前幾年就已經在進行了，這表明了對我們為有效競爭而需要的未來現實的戰略理解和承諾。然而，如前所述，開發人工智能支持的能力需要多年時間。為了有廣泛的人工智能整合，各級領導人需要了解人工智能的基本復雜性，以及如何在他們的任務空間內納入人工智能能力，以便他們能夠在2025年之前迎來人工智能革命。所提到的三大舉措從戰略角度縮短了傳感器和射手之間的差距，但處于邊緣的元素如何為這些努力作出貢獻？此外，如何授權給前線，讓他們根據任務的具體需要進行必要的組織、訓練和裝備？本文的目的是介紹人工智能的基本概念，并闡明應采取的行動，以推動空軍進入由人工智能驅動的持久性監視狀態。以下段落將討論智能能力、經過驗證的分析概念，以及展示未來的需求。

有幾個定義需要提到，以便在本文的其余部分提供背景，并幫助教育下級領導了解基礎概念。首先，人工智能需要三樣東西：數據集、算法和函數。數據集是一個數值表，算法是計算機用來解析數據的過程，而函數是 "從一組輸入值到一個或多個輸出值的確定性映射 "這些構成人工智能的基礎。總的來說，我們可以把人工智能看作是一類努力，它試圖采用計算機算法，并允許人類以合乎邏輯的方式解釋其結果。作為人工智能類別的一個子集，"機器學習（ML）涉及開發和評估使計算機能夠從數據集中提取（或學習）的算法。DL "專注于創建能夠做出準確的數據驅動決策的大型神經網絡模型"，而DL的重點舉措是圍繞著從神經網絡的特定神經元中貢獻特定功能的想法。對DL的理解對指揮官使用人工智能的能力至關重要，因為科幻小說中的想象力會認為這是可能的。

從情報、監視和偵察（ISR）的角度來看，DL可以推動多種數據來源的綜合（例如，多情報融合和分析）。通俗地說，ML可以幫助將幾種情報功能以一種共同的形式結合起來。然而，鑒于適當的數據集、算法和功能（或指揮官的意圖），理論上DL有可能允許對收集的信息進行分析、理解、反駁為錯誤信息、接受為事實、重新分配任務進行額外的收集，或推動新的收集任務，就像人可以做的那樣，但在機器處理信息和得出關于可用數據的結論所需的幾秒鐘內，是自主的。雖然戰略和作戰指揮官正在努力實現一種反映類似于上述DL潛力的能力的最終狀態，但他們仍然必須考慮法律、道德和倫理困境，以及開發完整的人工智能基礎設施的安全性和可靠性。如果戰術領導人不與高級領導人同步利用這些機會，我們注定無法與當前的任務集進行任何形式的整合，并注定無法實現國家安全委員會對人工智能規定的 "到2025年人工智能就緒的軍隊 "的姿態。那么，我們的部隊如何才能變得更有人工智能效率？幸運的是，人工智能驅動的能力、分析技術以及政府和商業案例研究可供探索。

人類基因編輯曾經似乎是難以想象的事情，但通過使用機器學習，它正逐漸成為現實。有關規則間隔短回文重復群（CRISPR）的研究已經進行了多年。作為一種生物技術，人們可以推斷出CRISPR技術的意圖是讓科學家有能力 "改變基因或創造DNA以改變植物、動物或人類。"此外，很難像前國家情報局局長詹姆斯-克拉珀在2016年所做的那樣，將基因編輯作為一種強大的大規模殺傷性武器來爭論。由于基因編輯為裝備精良的對手提供了機會，情報專業人員應該了解有關基因操縱的指標如何通過機器學習表現出來，以達到與美國戰略利益相悖的目的，并幫助指揮官了解他們如何能夠迅速打擊這些威脅。這一現實離所需的科學并不遙遠，如果分析人員知道如何識別必要的因素，他們可以將其納入計算。

如果分析員不能通過DL技術獲得分析所需的數據，也有一些創造性的解決方案來獲得信息。一個提供巨大潛力的創新是被稱為微電子機械系統的微小無線網絡的出現，被親切地稱為智能灰塵。"智能灰塵的大小為立方毫米，包含電源、通信和計算。"這是整個傳感器網絡的一個單一節點。研究還表明，智能灰塵粒子將能夠達到微觀水平，能夠作為傳統醫療護理方法的替代品進行注射。比隱身的尺寸更令人敬畏的是這個設備子集預計能提供的能力。它們可以容納攝像頭、環境傳感器和通信機制，以傳輸數據，并進一步處理。與ML工作、與存儲設備甚至互聯網的連接相結合，人們可以設想出一種檢測概率很低的收集資產，一種維護需求很低的系統，如果計劃得當，這種系統能夠降低前沿部署資產的風險，并限制其進入目標收集區域。

到此為止，本文已經討論了分析師如何將人工智能視為一種威脅，如何將其視為一種收集資產，但分析的過程呢？不妨看看COVID-19大流行病。雖然2020年的大流行病充滿了不確定性，但在大約一年的時間里，病毒被相對快速地分析、追蹤和抗擊。醫學界與DL專家合作，開發了COVID篩查和診斷方法、藥物發現以及最終的疫苗創新。這需要大量的數據輸入，這些數據來自社交媒體、基于文本的數據、病人數據、被稱為omics的科學數據的集合，以及圖像和視頻數據。這個分析系統是一個里程碑，表明人類可以與機器合作，在一個非常有效的時間窗口內從獨特的數據集中創建一個解決方案。應用于多源數據融合和分析的標準情報實踐中，如果有資源，沒有理由相信分析師不能利用DL的能力來制定準確的評估。

正如人們所看到的，人工智能在多個國家安全問題上具有巨大的潛力，如果戰術分析員有能力的話，他們可以將其應用于自己的任務領域。美國防部在人工智能方面最重要的代理人是聯合人工智能中心（JAIC），該中心于2019年2月12日根據行政命令13859的要求啟動，作為國防部人工智能戰略的執行者。有一個組織負責確保人工智能的需求得到滿足是一個有價值的目標，但如果各部門要在2025年之前做好人工智能準備，他們就不可能處理整個國防部的能力發展需求量。各級指揮部需要有一個共同的承諾，以避免因優先事項不一致而錯過機會。就目前的人工智能能力發展進程而言，戰術解決方案是不可用的。

自身的官僚主義阻礙了快速、分散的能力發展。為了確保人工智能驅動的能力，人們必須證明有足夠大的需求需要使用人工智能（如僅用五名分析師對數百萬個數據點進行排序），并通過多層官僚機構提交所謂的 "緊急行動需求"，以達到主要司令部的要求。一旦獲得批準，該請求將被轉發到JAIC進行裁決。一旦被裁定并在國防部的其他要求中被優先考慮，可能需要幾個月的時間才能找到一個開發者，并開始解決這個問題。在最好的情況下，這個過程可能會看到從需求提交到開發的6個月周轉期，這是不令人滿意的，如果服務要在2025年之前做好人工智能準備。這不是JAIC的錯，因為他們應該向國防部領導人和國會倡導人工智能，所以各部門有資金從外部尋求人工智能，同時學習如何在人工智能、ML和DL能力發展方面變得靈巧。筆者建議領導們認真考慮賦予機翼必要的預算、培訓要求，并與經批準的開發者名單（由全軍委員會批準）協調，以追求人工智能的努力。這項建議并沒有將JAIC完全從流程和能力發展中移除，因為該組織將繼續承擔正式的領導地位，制定政策并獲取最佳實踐，以便在整個國防部共享。

人工智能革命就在這里。本文確定了人工智能為部隊的每項任務提供的機會的縮影。人工智能、ML和DL為可能的事情打開了大門，并且應該讓ISR分析員以不同的方式思考問題及其解決方案。從基因突變到自動分析再到自主武器，可能性只限于可用的數據--或如何解釋可用數據。美國的對手已經具有威脅性，并且很可能在未來十年內增加。國家安全不僅需要提高對人工智能的認識，還需要開發和整合基于人工智能的武器系統。依靠簽約組織來開發機器算法，在未來是不可持續的。必須根據任務的需要調整任務算法，否則就會在一系列的能力中遭受失敗。

摘要

《應用于致命性自主武器系統的任務指揮原則》，Curtis R. Michael少校，56頁。

這部專著研究了任務指揮的七項原則及其在致命性自主武器系統中的應用。像機器人和人工智能這樣的創新技術正在迅速重塑社會規范。只是在過去幾年里，美國軍方才認真考慮自主技術在戰場上的影響。隨著政治和軍事領導人處理這個新的戰爭時代，有關人類和機器在戰爭中的角色的新問題正在呈現。盡管圍繞自主系統的知識和經驗還很有限，但有一個既定的框架，即任務指揮原則，它經過了戰斗的檢驗，非常適合解決模糊性問題。任務指揮原則是使用致命自主武器的明智方法。這七項原則是幫助軍事指揮官應對復雜戰爭穩定的指導性方針。更重要的是，這些原則確保指揮官是最終的決策者，人民和信任是任務指揮的重點。信任在這個新的戰爭時代的重要性是不可低估的。信任確保了軍事行動的凝聚力和統一性。了解自主武器系統中的人機信任關系，對于釋放人機團隊的競爭優勢以及維護美國的國家安全利益至關重要。

簡介

“第一臺超智能機器是人類需要做出的最后一項發明，只要機器足夠溫順，告訴我們如何控制它。奇怪的是，這一點在科幻小說之外很少被提及。有時，認真對待科幻小說是值得的。”歐文-約翰-古德，《第一臺超智能機器》

今天，沖突的復雜特征也許比以往任何時候都更加明顯。混合戰爭、網絡攻擊和非國家行為者正在不斷地使戰斗空間變得更加不確定、動態和模糊。革命性的技術，如高超音速武器、人工智能（AI）和自主系統（AS）進一步增加了這種復雜性。商業和軍事工業對創新技術的空前依賴似乎是戰爭特征變化的催化劑，可能也是戰爭性質的催化劑。前美國國防部長吉姆-馬蒂斯在評論人工智能和戰爭這個話題時說："我當然質疑我原來的前提，即基本性質不會改變。你現在必須質疑這一點。"隨著政治和軍事領導人小心翼翼或不顧一切地跳入這個幾乎沒有先例的戰爭新時代，關于人類和機器在戰爭中的作用的新問題在等待著他們。

2014年，前國防部副部長羅伯特-沃克和他的同事發表了一份報告，解釋了未來的戰爭會是什么樣子。他們認為，未來的戰爭將主要由無人駕駛和自主武器等機器人技術來進行。"這種走向機器人時代的主要驅動力是來自商業公司的創新，而不是由政府研究和開發項目資助的軍工綜合體。"雖然這些新技術使眾多民用行業受益，如醫療保健和金融，但軍隊以及恐怖組織越來越依賴它們。2019年9月對沙特阿拉伯能源基礎設施的襲擊就是一個例子，恐怖分子輕松地改裝了少量的無人機，破壞了該國一半的石油和天然氣生產。此外，在過去十年中，使用軍用無人機的主權國家有九十五個，增加了百分之五十八。

從商業角度來看，機器人技術和自主技術的市場已經大大增長。例如，在過去六年中，工業機器人的銷售量每年都在增加，導致全世界的機器人存量超過240萬臺。此外，2018年有1630萬臺服務機器人用于家庭用途，比前一年增加了59%。另一個說明自主技術增長趨勢的例子是自動駕駛汽車。自動駕駛汽車在商業上和軍事上都有很大的前景。用先進的傳感器套件改裝的車輛有可能消除對人類操作員的需求，或通過提高駕駛員的態勢感知來減少人為錯誤。

美國軍方利用人工智能通過致命和非致命的應用來加強國家安全。人工智能的一個非致命性應用是一個名為Maven項目的軟件套件。Maven是國防部的一個人工智能應用，它研究遙控飛機的圖像和視頻資料，目的是改善無人機的打擊。人工智能的致命應用，也被稱為致命自主武器系統（LAWS），不僅被美國軍隊使用，也被世界各地的軍隊使用。本專著將致命性自主武器系統定義為：一旦啟動，就可以在沒有人類操作員進一步干預的情況下選擇和攻擊目標。

LAWS的例子包括以色列國防軍的HARPY導彈。HARPY是一種旨在有選擇地攻擊敵方防空設施的游蕩彈藥。同樣地，美國空軍最近出動了它的第一枚自主巡航導彈--遠程反艦導彈（LRASM）。LRASM的設計是獨特的，因為它可以根據敵方軍艦的圖像識別、紅外、雷達和其他傳感器的特征，自主地探測和攻擊敵方軍艦。

美國國防部（DoD）將人工智能定義為機器執行通常需要人類智能來執行任務的能力，無論是數字還是作為自主物理系統背后的智能軟件。從本質上講，人工智能是一個處理數據以識別模式、學習、建議作戰方案或指導行動的融合系統。與商業行業一樣，軍方認識到人工智能支持的硬件和軟件的好處。

隨著自主武器的發展和使用變得突出，與它們的道德使用和可信度有關的問題將浮出水面。朱莉婭-麥克唐納和杰奎琳-施耐德進行了一項調查，顯示了目前無人駕駛飛行器的信任障礙。他們的調查顯示，聯合終端攻擊控制人員（JTAC）和聯合火力觀察員（JFO）認為無人機 "比有人駕駛的飛機風險更大，更不值得信任"。此外，他們得出結論，在 "人類與敵人直接接觸的領域，部隊不愿意將決策權交給機器"。然而，他們有限的調查確實顯示，當JTAC和JFO對無人駕駛飛機有更多的經驗時，他們更可能傾向于無人駕駛飛機。這一發現表明，經驗可能有助于解決控制人員對無人駕駛飛機的一些信任問題。

前面的例子說明了國防部的采購和企業在開發致命性自主武器系統時遇到的許多挑戰之一。軍方開發的新武器系統要經過廣泛的測試和政策審查。在某些情況下，這一過程需要多年時間才能完成。然而，這一深思熟慮和務實的過程的總體目標是推出一種有能力和強大的武器，使軍事指揮官能夠在戰場上自信地使用。致命武器系統是獨特的，因為它們挑戰了這種傳統的武器采購和部署模式。使致命性自主武器系統的開發更加復雜的是國防部的3000.09號指令。該指令指出，指揮官和作戰人員必須對武力的使用進行適當的人為判斷。指令中沒有明確界定什么是 "適當的判斷水平"。此外，在當前的作戰環境中，對手正專注于爭奪、拒絕和降低通信系統，對適當控制的理解變得更加不明確。

人工智能技術的普遍性及其在整個民用和軍用部門的廣泛增長表明，戰爭的特征正在發生變化。美國的核心政治和軍事戰略文件，國家安全戰略（NSS）和國防戰略（NDS）承認這些技術的重要性，因為他們指示美國優先考慮并保持在新興技術方面的競爭優勢。在未來的沖突中，這些新興技術將很可能超過人類的理解能力。Robert Latiff寫道，時間將更加寶貴，戰斗的純粹速度將給決策帶來壓力。考慮到未來戰爭的這一背景，軍隊應該預期軍事主動權的鐘擺將逐漸從軍事指揮官手中擺開，轉到自主代理人身上。為了在人工智能主導的戰斗空間中做好準備并取得成功，指揮官將需要把任務指揮的一些原則擴展到致命性自主武器系統。

這是一個顛覆性技術快速變革的時代，特別是在人工智能（AI）領域。雖然這項技術是由商業部門為商業開發的，但人工智能在軍事應用方面的明顯潛力，現在正促使世界各地的武裝部隊對人工智能防御雛形系統進行試驗，以確定這些系統如何能夠最好地用于作戰與和平時期的任務。

澳大利亞也不例外，在2020年國防戰略更新中分配了資金，開始將人工智能能力引入國防。這將涉及開發解決戰術級和戰略級軍事問題的人工智能應用程序，建立一個熟練的人工智能勞動力，并與澳大利亞合作伙伴和盟友合作，將倫理學納入人工智能應用程序，并進行人工智能實驗。今年在澳大利亞首都地區費爾伯恩設立的國防技術加速實驗室是這一計劃的具體行動體現。

彼得-雷頓（Peter Layton）的論文考慮了人工智能在未來海、陸、空作戰行動中的戰術和作戰層面上可能發揮的作用，為這一廣泛的活動做出了貢獻。這是一個很少被研究的領域，因為到目前為止，大部分的討論都集中在關鍵的技術問題上。這些審議表明，人工智能可能是未來戰爭中的一項重要技術，但仍有許多不確定因素。本文提供了一個起點，在此基礎上開始辯論，這將有助于解決其中一些不確定性。

本文認為，人工智能將滲透到大多數軍事機器中；然而，它的通用性意味著它很可能是在現有作戰層面結構中被使用。鑒于此，人工智能在中短期內的主要作戰用途是“尋找（find）和欺騙（fool）”。人工智能/機器學習尋找隱藏在高度混亂背景中的目標非常出色；在這個應用上，它比人類更好，而且速度更快。然而，人工智能可以通過各種手段被欺騙；其強大的尋找能力缺乏穩健性。這兩個關鍵特征在應用于當前海、陸、空作戰層面的思考時，可能會產生巨大的影響。

本文初步設計的作戰概念與沒有人工智能技術的作戰概念明顯不同。

所討論的概念旨在激發人們對人工智能戰場上人機協作作戰的思考。這樣的戰場在目前看來可能有些猜測，幾乎是科幻小說。即便如此，許多國家已經在規劃、研究和開發方面取得了很大進展。鑒于將軍事力量調整到新方向所需的漫長準備時間，這一旅程需要從現在開始。

人工智能（AI）技術突然變得對軍事力量很重要。美國國防部（US DoD）已將人工智能的投資從2016-17年約6億美元增加到2021-22年25億美元，橫跨600多個項目。中國已經通過了一項“下一代人工智能發展計劃”，旨在到2030年使中國成為人工智能領域的杰出國家，并使人民解放軍從“信息化戰爭”轉向“智能化戰爭”。更引人注目的是，俄羅斯總統普京宣布，“人工智能是未來......誰成為這個領域的領導者，誰就會成為世界的統治者”。這些高級別的倡議和聲明正在產生結果。

在美國，美國海軍（USN）的“海上獵人”號（USV）在沒有船員的情況下從加利福尼亞航行到夏威夷再返回，利用船上的傳感器、雷達和攝像機數據，通過人工智能進行導航。同時，在美國國防部高級研究計劃局（DARPA）的支持下，一架由人工智能驅動的F-16模擬戰斗機最近在多次模擬的近距離空戰中全面擊敗了由非常有經驗的人類飛行員控制的類似模擬。在一項研究陸戰的類似評估中，美國陸軍（US Army）已經確定，一支由人工智能驅動的部隊比一支非人工智能驅動的部隊擁有大約10倍的戰斗力。

中國目前正在應用人工智能，通過指揮和控制系統的自動化來提高其戰場決策的速度和準確性，制定預測性作戰計劃并解決情報、監視和偵察數據融合的挑戰。中國還開始試用人工智能USV，以備在南海使用，并開始試驗無人駕駛坦克，而一家中國私營公司公開展示了人工智能武裝的蜂群無人機。

俄羅斯落后于美國和中國，但現在正在實施一項國家人工智能戰略以迎頭趕上。在軍事領域，俄羅斯有幾項工作正在進行。一條主線是將人工智能應用于信息戰，在戰術上用于發動心理戰，在戰略上用于破壞對手國家的社會凝聚力。另一條線是通過開發無人駕駛地面車輛（UGVs）、遠程傳感器、戰術指揮和控制系統以及無人駕駛航空器（UAVs），使用人工智能來提高陸地作戰行動的有效性。另一個努力方向是國家防空網絡的指揮和控制系統的自動化。

初步跡象表明，人工智能可能是未來戰爭中一項非常重要的技術，但仍然存在不確定性。雖然人工智能在民用領域，特別是在消費類產品中，被廣泛使用，但在軍事環境中才剛剛接近實際部署。此外，它仍然沒有在真正的戰斗行動的惡劣試驗場上得到驗證。即便如此，人工智能已經成為軍事力量考慮其未來時不可忽視的技術。

重要的是，在可預見的未來，可用的人工智能技術是狹義的，而不是通用的。狹義人工智能等于或超過了人類在特定領域內特定任務的智能；其表現取決于應用環境。相比之下，通用人工智能等于人類在任何領域任何任務中的全部表現。何時能實現通用人工智能仍然值得商榷，但似乎還有幾十年的時間。近中期的全球軍事興趣在于如何在現代戰場上使用狹義的人工智能技術。

不足為奇的是，人工智能的定義往往與人類智能相提并論。例如，2018年美國國防部人工智能戰略將人工智能定義為“機器執行通常需要人類智能的任務......”。這種理解將技術擬人化，并無意中將對人工智能應用的思考限制在那些可以由人類執行的任務上。

在某些應用中，人工智能可能比人類做得更多或更少。人工智能和人類能力的維恩圖在某些領域可能會重疊，但認為它們重合是有點虛偽的。在提供解決問題的見解上，人工智能可能是智能的，但它是人工的，因此，它的思維方式是人類所沒有的。

因此，本文在考慮人工智能時，更多的是考慮這種技術能夠執行的廣泛功能，而不是考慮它與人類能力的關系。2019年澳大利亞國防創新委員會采取了這種方法，將人工智能定義為“用于執行以目標為導向的任務的各種信息處理技術，以及追求該任務的推理手段”。

初一看，這個定義似乎并不精確，沒有包括人工智能可能為軍事或民用目的實際執行任務。但這種模糊性是當代人工智能應用的一個關鍵屬性。人工智能可以以多種方式應用，可以被認為是一種普遍存在于社會中的通用技術。通用技術的一個早期例子是電力，現在它被廣泛使用，以至于它的持續存在和使用，就所有的意圖和目的而言，都是簡單的假設。電能使惰性機器活躍起來，人工智能也將以自己的方式，通過推理為它們提供完成任務的能力。人工智能似乎將注入許多軍事機器，因此未來的戰場將不可避免地以某種方式由人工智能支持。

為了取得對對手的作戰優勢，軍隊不斷尋求更大的戰斗力。傳統上，技術是以一種綜合的方式在戰場上使用的，它能最好地利用人類和機器的長處，同時盡量減少兩者弱點的影響。人工智能似乎也可能是類似的。可以預計，人工智能在與人類謹慎地合作時，而不是在某種獨立的模式下，會變得最有效。

這種考慮強調了新技術本身并不會突然間帶來戰場優勢，而是在于人類如何運用它。對早期技術創新的歷史分析指出，擁有指導如何使用這些新技術的合理概念是軍隊成功將其投入使用的關鍵。歷史學家威廉姆森-默里和艾倫-米萊指出：

• 證據表明，首先，制定未來愿景的重要性。軍事機構不僅需要進行最初的智能投資，以發展對未來戰爭的設想，而且必須繼續對這種設想進行深入思考，以確定這些戰爭可能與以前的沖突有什么不同......在這方面任何對未來戰爭的設想幾乎肯定是模糊和不完整的，不是詳細和精確的，更不是任何科學意義上的預測。然而，愿景并不足以產生成功的創新。一個人對未來沖突的看法也必須是平衡的，并與行動的實際情況有很好的聯系。

在戰術層面，與戰爭現實的聯系是最緊密的。戰略規定了目標、總體方針和使用的力量，但在與聰明和適應性強的對手戰斗中處理這些力量的卻是戰術層面。雖然戰斗的成功可能不會導致戰略的成功，正如美國在越南的戰爭所說明的那樣，反之亦然。一個好的戰略在面對持續的戰術失敗時不可能成功。克勞塞維茨寫道：一切都取決于戰術結果......這就是為什么我們認為強調所有的戰略規劃都只依賴于戰術上的成功是有用的......這在任何情況下都是決策的實際基本依據。戰術通常被認為涉及友軍相互之間以及與敵人之間的分布和機動，以及在戰場上使用這些部隊。

本文旨在為在未來的人工智能戰場上使用人機團隊制定作戰概念。這樣的戰場，特別是當擴大到陸戰以外的空戰和海戰時，有一個混合的線性和深層的方面，具有消耗和機動的概念。設計這些作戰概念將為潛在的狹義人工智能系統如何在戰爭的戰術和作戰層面上使用提供一個廣闊的視野。

首先，本文討論了組成人工智能技術包的各種技術要素。這些要素包括先進的計算機處理和大數據，以及與云計算和物聯網（IoT）有關的具體方面。

第二章研究了利用人工智能發動戰爭的問題，并為防御和進攻制定了通用的作戰概念。這些概念位于作戰和戰術層面之間的模糊界面，涉及友軍相對于對手的分布和機動，以及友軍在戰場上的運用。

第三章、第四章和第五章分別將人工智能防御和進攻的兩個通用概念應用于海洋、陸地和空中領域。每個領域的戰斗在分配和操縱友軍以及與敵人交戰方面都有很大的不同，因此有必要提出單獨的人工智能作戰概念。沒有一個單一的概念能夠充分涵蓋所有三個領域，除非在很高的抽象水平上，但理解其含義可能會變得困難。提出這種具有前瞻性的概念似乎接近于投機性的小說。為了避免這種情況，每個概念都特意以當代作戰思維為基礎，并討論了當前和新興的人工智能支持的海、陸、空平臺和系統，以說明所提出的想法。

設計這些作戰概念的目的是激發思考，并啟動關于未來和如何備戰的辯論。本文提出的作戰概念旨在成為辯論其他人工智能戰場概念的實用性、可能性和有用性的基礎。只有通過對建議進行批判性分析，并不斷重構它們以進一步分析和演化，才能朝著最佳作戰概念取得進展。

本文所討論的概念在性質和范圍上都是有意限制的。就性質而言，海、陸、空的概念是：為了保持每個概念的重點，它們不是聯合或合并的。重要的是，這種狹隘性意味著一些領域并沒有包括在內，如俄羅斯在影響力戰爭中使用人工智能或中國在社會管理和內部防御中使用人工智能。出于類似的原因，每個概念都有一個狹窄的范圍，專注于戰爭，只有限地關注后勤，并避免關鍵領域，如教育、培訓、行政和指揮與控制。值得注意的是，除了與傳統的陸、海、空領域的戰術交戰的關系外，沒有討論網絡和空間這些新領域。

本文將人工智能這種新技術與戰爭的作戰方式和戰術使用選擇聯系起來。有了這樣一個重點，本文就與許多武裝部隊制定的眾多人工智能戰略和計劃不同。一般來說，這些戰略和計劃都是向內看的，目的是闡述人工智能作為一種技術將如何被研究、獲得并引入到他們的具體服務中。本文旨在補充這些人工智能技術戰略和計劃，將它們與更廣泛的作戰業務聯系起來，發揮作用。

作者：

梅森-克拉克（Mason Clark）是美國戰爭研究所的俄羅斯方向負責人和俄羅斯與烏克蘭項目的研究分析師。他的工作重點是俄羅斯在敘利亞的軍事適應和學習。他的工作被《任務與目的》、《防務一號》、《基輔郵報》、《紐約時報》等媒體引用。他曾就俄羅斯的軍事發展和克里姆林宮的全球運動向多位高級軍事和文職決策者作過簡報。梅森在美國大學國際服務學院獲得了國際研究的榮譽學士學位，重點是美國外交政策和俄語。

美國戰爭研究所（ISW）

ISW是一個無黨派、非盈利的公共政策研究組織。它通過可靠的研究、可信賴的分析和創新的教育，促進對軍事事務的知情理解。它致力于提高國家執行軍事行動和應對新興威脅的能力，以實現美國在全球的戰略目標。

目錄

• 8 執行摘要
• 10 引言
  • 11 俄羅斯軍方將敘利亞視為未來戰爭的案例研究
  • 12 俄羅斯正在對敘利亞的經驗教訓進行研究
• 14 俄羅斯從敘利亞吸取的主要教訓：改善指揮和控制
  • 14 俄羅斯軍官在戰斗中的主要優先事項：獲得管理上的優勢
  • 16 俄羅斯認為敘利亞是指揮與控制的成功范例
  • 18 俄羅斯軍隊尋求將所有部隊統一在同一指揮系統之下
• 19 俄羅斯面臨著培養軍官的創造力和主動性的時代要求
• 21 俄羅斯正在優化聯合作戰，不再強調其對代理部隊的成功使用
• 23 俄羅斯的管理優勢取決于對敵方指揮和控制的破壞
• 24 俄羅斯在敘利亞超出指揮和控制范圍外的經驗教訓
  • 24 克里姆林宮認為它通過影響美國/北約的行動在敘利亞取得了空中優勢地位
  • 26 俄羅斯正在加倍努力發展精確武器
  • 27 俄羅斯再次未能制定反叛亂的理論或學說
  • 28 俄羅斯正在完善其新發現的遠征軍部署經驗
  • 29 俄羅斯在敘利亞使用新裝備的經驗很重要，但被俄羅斯和西方夸大了
  • 31 俄羅斯軍方認為無人機將在未來沖突中發揮關鍵作用
  • 31 俄羅斯預計城市作戰的重要性會增加，但尚未形成統一的方法
• 33 俄羅斯在敘利亞學習的有限效用
  • 33 俄羅斯軍隊在敘利亞將經驗的廣度置于知識的深度之上
  • 35 俄羅斯軍隊遺漏了一些經驗教訓
• 37 含義
• 40 附錄A--俄羅斯在敘利亞的指揮官
• 43 尾注

總結

俄羅斯軍方將其在敘利亞的部署視為未來戰爭的原型--支持基于聯盟的混合戰爭遠征部署。俄羅斯總參謀部認為，敘利亞問題突出表明，俄羅斯需要發展一種新的軍事能力--部署靈活的遠征軍，在國外開展 "有限行動"。俄羅斯武裝部隊正在運用從敘利亞的經驗中獲得的教訓，將其發展成為一支靈活而有效的遠征軍。

美國必須避免將自己的現代化優先事項或中國等其他競爭對手的優先事項投射到俄羅斯身上。俄羅斯軍方正在做出獨立的選擇，集中精力從敘利亞獲得某些學習機會。這些選擇被優化，以支持俄羅斯的作戰概念，該概念與敘利亞之前俄羅斯的現代化努力和美國自己的現代化努力都不同。

俄羅斯軍方正在利用在敘利亞管理臨時聯盟和代理部隊的經驗教訓，為協調未來戰爭中的正式聯盟做準備。正如俄羅斯總參謀長瓦列里-格拉西莫夫所描述的那樣，克里姆林宮試圖創造條件，確保其基于敘利亞的下一次 "有限行動 "能夠利用非俄羅斯的力量。克里姆林宮在這方面的準備工作包括在演習中練習聯合作戰，擴大俄羅斯的國際軍事聯系--放大克里姆林宮的力量投射能力。

俄羅斯軍隊從敘利亞得到的主要教訓是需要在未來的沖突中獲得 "管理優勢"。俄羅斯人將管理優勢定義為比對手更快地做出更好的決定，并迫使對手在俄羅斯的決策框架內運作。他們斷言，在日益快速和復雜的沖突中，獲得管理優勢將是指揮官的關鍵重點。俄羅斯軍方評估認為，指揮和控制（C2）效率是現代和未來作戰成功的關鍵預測因素。俄羅斯在指揮和控制方面的許多經驗對俄羅斯來說是新的，而不是現代戰爭中的新穎創新，但俄羅斯軍方正在有效地利用從敘利亞學到的東西來縮小與西方軍隊在C2能力方面的差距。

克里姆林宮優化了對敘利亞的部署，以向整個俄羅斯軍隊灌輸戰斗經驗。格拉西莫夫認為敘利亞內戰是俄羅斯軍隊學習未來作戰的主要來源，并優化了俄羅斯的部署，以確保盡可能多的軍官獲得經驗。俄羅斯高級軍官班的大部分人現在擁有必要的經驗。

自2015年以來，俄羅斯的軍事演習將對敘利亞的教訓進行制度化。從2015年到2020年，俄羅斯關于從敘利亞學習的論述發展迅速，本報告中討論的許多適應性措施可能已經被納入理論，包括在俄羅斯機密的2021-2025年國防規劃中。

俄羅斯軍隊仍然需要大量投資和時間來實施從敘利亞學到的經驗教訓。然而，如果美國在未來幾年不采取行動應對這些發展，俄羅斯從敘利亞汲取的新的能力工具包將縮小與美國和北約的一些能力和技術差距。

• 美國不應低估克里姆林宮以其在敘利亞的干預行動為模式進行遠征部署的意圖。克里姆林宮認為敘利亞是一個非常成功的、可復制的行動，并將遠征部署視為克里姆林宮政策工具箱中的一個新成員。克里姆林宮已經將敘利亞的經驗教訓應用于其在利比亞和納戈爾諾-卡拉巴赫。

• 美國必須保持一個全球性的、靈活的力量態勢來對抗俄羅斯軍隊。美國不需要在克里姆林宮可能進行遠征行動的地方部署自己的軍隊，但它必須找到并發展盟國和伙伴的軍事力量來對抗俄羅斯的威脅。俄羅斯的軍事威脅并不局限于歐洲，也不能僅靠常規部署來對抗。

• 在管理優勢方面美國必須優先考慮與俄羅斯進行較量。美國及其盟國不需要復制“管理優勢”這一概念，但必須注重俄羅斯軍官對關鍵作戰任務的理解--提高他們自己的決策速度，減少他們對手的指揮和控制能力。 俄羅斯軍隊新的有戰斗經驗的軍官骨干可能會改變俄羅斯的軍事思維和效力。每個俄羅斯軍區指揮官和幾乎所有團級和旅級以上的軍官現在都擁有來自敘利亞的經驗。俄羅斯軍方將整個俄羅斯參謀部移植到敘利亞的做法確保了俄羅斯部隊在執行咨詢任務時形成單位凝聚力。

• 克里姆林宮可能會在未來的作戰行動中更有效地利用聯盟伙伴。美國應采取措施加強與北約的合作，并向其他國家推廣，以減輕克里姆林宮發展其軍事關系網絡的能力。美國及其盟友還應該開發出破壞敵方聯盟的方法，雖然這是美國在最近的戰爭中不需要進行的任務。

俄羅斯軍隊正在利用從敘利亞學到的知識來彌補與美國和北約的若干能力差距。美國及其盟國應該為俄羅斯軍隊進一步實現若干能力的現代化做好準備，這些能力雖然對美國和北約來說并不新鮮，但會增強俄羅斯軍隊的能力。

• 俄羅斯軍隊對網絡化指揮系統的優先考慮，如果實現，將削弱美國和北約的關鍵技術優勢之一。克里姆林宮正在進行的指揮和控制系統現代化努力將是一個昂貴的過程，但俄羅斯軍隊已經在迅速取得進展，在2020年測試的系統在2018年還處于理論階段。

• 俄羅斯軍方正在用一場徹底改革俄羅斯指揮文化的運動來支持其指揮系統技術現代化。俄羅斯總參謀部正在著手進行一項艱難的代際努力，將主動性和創造性引入俄羅斯軍官隊伍。未來的俄羅斯軍官可能會比他們的前輩表現出更大的創造性和靈活性，美國及其盟國必須避免對根植于蘇聯時代的俄羅斯指揮文化做出越來越過時的評估。

• 俄羅斯軍隊正在發展支持提高精確打擊能力的理論，但實現這些目標需要進一步的昂貴技術投資。美國及其盟國還應保持制裁壓力，使克里姆林宮失去實施昂貴的收購計劃所需的資源。

• 俄羅斯軍隊可能正在發展挑戰使用無人駕駛飛行器的能力。美國及其盟國應該準備好在一個越來越危險的空域使用作戰無人機。現代化的努力必須考慮到俄羅斯無人機和反無人機能力的日益復雜化。

美國及其盟國必須準備好面對能力日益增強的俄羅斯軍隊，該軍隊有意進一步發展遠征能力并在聯盟環境中使用這些能力。俄羅斯仍在參與敘利亞的沖突并仍在從沖突中學習。?俄羅斯軍隊從敘利亞學到的東西正在推動俄羅斯的現代化改造；美國必須了解這種學習和改造，以有效對抗克里姆林宮。

作者：

• 加拿大陸軍陸戰中心的Geofrey Priems少校
• 加拿大國防研究與發展--作戰研究與分析中心的Peter Gizewski

引言

全世界對人工智能（AI）軍事應用的興趣正在增長。事實上，與其他一些技術進步一樣，人工智能越來越被視為軍事效力的潛在重要推動力。

毫不疑問，人們對人工智能對加拿大陸軍（CA）的影響以及其采用人工智能的可能性的興趣正在上升。關于如何以及在多大程度上可以利用人工智能來潛在地幫助實現緊密作戰應用的問題：加拿大陸軍的頂點作戰概念--"不確定性時代的陸地力量 "的實現，以及加強陸軍的五項作戰功能的實施，這些問題尤為突出。有關有效采用人工智能可能面臨的挑戰以及克服這些挑戰所需措施的問題也同樣突出。

本文對這些問題進行了初步研究。它源于加拿大陸軍陸戰中心正在進行的關于人工智能的工作，以研究和確定人工智能對加拿大陸軍和有效實現陸軍頂點作戰概念的影響。

文章概述了人工智能在軍隊采用和開展軍事行動方面所帶來的潛在好處和挑戰。然后，文章研究了人工智能對實現密切交戰的潛在影響，確定了人工智能的應用有望提高軍隊的作戰效率的領域。文章最后概述了一些必要的關鍵前提條件和做法，以確保這些工作是負責任的和有效的。

人工智能

人工智能的定義有很多，而且在不斷發展。然而，按照國防部目前的定義，人工智能是 "計算機執行與人類邏輯有關功能的能力，如推理、學習和自我改進"。 雖然沒有被普遍接受，但這樣的表述為在CA背景下討論人工智能提供了一個體制上熟悉和充分的基礎。

潛在利益

軍事組織探索、開發和采用人工智能的激勵措施是引人注目的。鑒于高速計算機（網絡速度和處理能力）和人工智能算法處理和分析大量數據的能力，其速度和準確性遠遠超過人類，聲稱人工智能系統有可能全面改變國防，這并不令人驚訝。通過作為一種提高人類和機器分析速度的手段，人工智能有希望提高數據使用、管理和態勢感知能力。對于軍隊來說，其結果很可能轉化為成本節約、改進控制系統、加快決策、新的作戰概念和更大的行動自由。

由人工智能支持的信息和決策輔助系統有可能促進在 "復雜的、時間緊迫的戰地環境 "中做出更好的決策，允許更快地識別威脅，更快、更精確地確定目標，并根據戰地條件的變化為指揮官創造靈活的選擇。應用范圍可以從指揮和控制以及情報、監視和偵察到訓練和后勤。此外，作為機器人和自主系統的骨干技術，人工智能為武器裝備的創新提供了前景，使具有相當大的軍事潛力的先進自主系統（如機器人系統和無人機）得以發展。人工智能甚至可能在部隊結構和作戰概念方面產生巨大的變化，有可能減少人員的負擔和軍事硬件的成本，同時提高戰爭本身的效率和效力。

這些技術無處不在，而且越來越多的盟軍和對手都可以使用，這一事實進一步刺激了對人工智能軍事技術的追求。就前者而言，盟國對人工智能日益增長的興趣突出表明，需要有足夠的人工智能能力來確保未來盟國的互操作性和軍事有效性。至于后者，有證據表明，對手（如俄羅斯、中國）對人工智能的軍事應用進行了持續的探索和投資，這增強了追求此類技術的動力，以檢測和防御未來越來越多的人工智能軍事威脅。

采用的限制和挑戰

然而，有效引進人工智能的先決條件是相當多的，很可能對軍事組織充分實現人工智能應用所帶來的一些可能性的能力造成限制。此外，軍隊可能不完全愿意追求人工智能技術本身所固有的一些可能性。

事實上，目前的能力僅限于執行離散的功能和學習具體的任務（如狹義的人工智能）。人工智能技術的脆弱性令人擔憂。脆弱性是指任何算法不能泛化或適應狹窄的假設集以外的條件。例如，在添加了一些位數后，一個停車標志可以被讀成一個45英里/小時的限速標志。應用于涉及過度不確定性的情況實際上可能特別危險。例如，錯誤地選擇和起訴友軍目標，如友軍戰士或民用車輛。因此，在軍事環境中，特別是在軍事行動中，對人工智能的使用限制是相當大的。面對傳來的信息可能不可靠、不完整或甚至被對手故意偽造的環境，相信這些技術提供的解決方案仍然很脆弱。

除此之外，即使在這種技術被普遍認為是可靠的領域，其開發和應用也可能是苛刻的。要求包括確保有足夠數量的數據可供開發用于啟用軍事系統的算法。它們還包括確保算法本身的質量，這一要求取決于在將人工智能納入軍事系統之前提供和有效地準備和編碼訓練數據，以及確保來自現實世界數據的有效性，其中包括邊緣案例（不常見的使用案例）。而且，它們包括確保開發和集成到軍事系統中的人工智能是可靠的（即它以預定的方式工作）。

這些要求中的每一項都可能涉及相當大的挑戰。獲取大量的訓練數據可能會遇到基于政治和法律限制的數據共享阻力，從而降低待訓練算法的質量和使用這些算法的系統的可靠性。獲得的數據可能包含種族、性別和其他源于數據準備和編碼的偏見。此外，隨著算法變得更加復雜，通過對手在訓練數據集中注入不良數據而被操縱的可能性會增加。只要存在這些挑戰，對人工智能的信任及其在軍事領域的應用就可能受到影響。

這些風險可以通過仔細的人工監督和強大的測試得到控制。也就是說，真正有效的監督需要操作者熟悉人工智能技術的細節，以及重要的系統整合和社會化，這可能很難實現。由于對技術本身的理解存在困難，有效監督挑戰就更大了。機器推理的過程不等同于人類，人工智能系統采用的邏輯也不容易理解。對于負責使用這些能力的指揮官和系統操作者來說--其中一些能力可以很好地決定生命和死亡--相信那些決策過程不透明的技術，可能是一座太遙遠的橋梁。

對加拿大陸軍的影響

這些現實表明，加拿大陸軍采用人工智能，雖然有希望，但必須謹慎行事，并對限制有一個現實的認識。無論是加拿大還是加拿大陸軍，都無法避免遇到上述挑戰。例如，人工智能技術在沒有適當人類監督的情況下越接近殺戮鏈，可能發生災難性后果的風險就越大。因此，必須注意研究或采用能夠幫助人類決策的技術。一個指示人類做什么的 "黑盒"人工智能將是不可接受的。人工智能顧問必須能夠解釋其建議/結論，以便人類能夠理解并對所提出的建議有信心。人類決策者必須能夠對人工智能所提供的解決方案向領導作出清晰和可理解的解釋。

然而，如果謹慎地追求和應用，人工智能的大部分內容通常與《近距離接觸，不確定時代的陸地力量》中詳述的陸軍要求非常吻合。緊密的作戰應用目的是應對以快速變化為特征的作戰環境的挑戰，以及廣泛的復雜的人道主義挑戰和技術能力越來越強的對手，他們能夠使用一系列機動性越來越強的致命和非致命系統以及精心設計的反措施。應對這些挑戰在很大程度上取決于確保獲得必要的信息和分析的能力，以便比對手更快地了解和調整不斷變化的條件。作為一種先進的信息處理方法，人工智能可以提供一種重要的手段，通過提供比人類更快、更準確地處理和分析來自越來越多來源的數據來幫助滿足這些需求。因此，人工智能可以作為一個重要的決策輔助工具，使個人和共同的理解得到發展，這對于確定潛在的作戰方案，優先獲得、處置和使用軍事資產，以及提供及時開展行動所需的數據、信息和可操作的情報至關重要。

除此之外，人工智能甚至可能有助于加強陸軍所依賴的網絡安全。"能夠遠距離運行的高容量網絡為軍隊行動的開展提供了顯著的優勢。事實上，一個安全和強大的網絡是確保快速、安全地分發有效開展軍隊作戰所需的數據和分析的核心。通過開發能夠防范網絡故障、電子戰和網絡攻擊的算法，人工智能可以更充分地確保軍隊能夠 "獲得網絡的優勢"，從而以更安全、協調和協作的方式開展行動。在諸如互操作性、力量生成、力量投射和維持以及開展分散行動等方面的改進，都可能因此而受益。

自始至終，隨著人工智能技術被推向戰術邊緣，將有必要確保有足夠的電力（能源）來支持它。除了網絡，先進的電源管理和電池技術將是至關重要的。

圖：加拿大國防研究與發展部-瓦爾卡蒂爾項目的數據收集工作，該項目被稱為聯合算法戰機傳感器。該項目是較大的加拿大陸軍科學和技術組合的一部分，即數字時代的授權分布式作戰。

引言

俄羅斯總統弗拉基米爾·普京宣布 2021 年為俄羅斯科技年，11 月被命名為人工智能 (AI) 月，這表明俄羅斯領導層對這一總括性術語的濃厚興趣。俄羅斯國防部門尤其被這些人工智能技術相關機遇所吸引。近年來，人工智能、機器人技術以及將自動化和自主性進一步整合到武器系統和軍事決策中，都被強調為俄羅斯武裝部隊現代化的優先事項。

2017 年，普京有句名言：“人工智能是未來，不僅是俄羅斯，也是全人類……誰成為這一領域的領導者，誰就成為世界的統治者”。引用這句話，分析人士經常將俄羅斯的發展歸因于、測試和使用武器化的 AI 來與當前領先的 AI 開發商：美國和中國在所謂的全球 AI 競賽或全球技術競賽中競爭的必要性。雖然認為競爭和追趕的需求是俄羅斯動機的一部分，但它對軍事人工智能的興趣不應僅僅歸因于對相對實力的追求。要了解俄羅斯圍繞人工智能、自治和自動化的辯論的深度和復雜性，需要審查有關其對俄羅斯軍隊的戰略影響、自治的好處和風險，以及更廣泛地說技術現代化和技術現代化的重要性的討論。俄羅斯在世界上的地位的創新。

本報告旨在概述面向國際受眾的不同概念和動機，這些概念和動機一直并正在指導俄羅斯政治和軍事領導人實現其追求武器化人工智能的雄心。首先，它概述了俄羅斯軍隊追求人工智能、自主和自動化背后的各種外部和內部因素。其次，它介紹了俄羅斯在這一領域的一些計劃、對其能力的了解以及加強這些計劃所面臨的挑戰。第三，它深入探討了俄羅斯關于自主，特別是自主武器系統的辯論，以及關于開發所謂的“殺手機器人”或自主戰斗機器人的倫理討論，這是一個經常使用的術語在俄語文學中。

該分析基于對開源材料的調查，包括媒體報道、新聞稿、官方聲明和演講、同行評議的文章和智囊團報告，以及俄羅斯軍事期刊上的出版物。作者希望將其作為正在進行的博士研究項目的第一步，以及對新興的關于俄羅斯如何看待武器化 AI 的英語文獻做出貢獻。

概念注釋

本報告分析了自主、自動化和人工智能的概念——這三個術語在俄羅斯和國外經常相互混淆。值得從探索這些概念開始。自動化是一種基于特定動作或規則序列將任務委派給機器的方式，從而使流程更具可預測性。自動化系統是“根據預編程腳本執行具有定義的進入/退出條件的任務”。自主性是一個更復雜的過程，廣義上的意思是“對機器進行編程以執行通常由人員執行的某些任務或功能人類”，但沒有詳細的規則，因此更難以預測。人工智能可以定義為“數字計算機或計算機控制的機器人執行通常與智能相關的任務的能力。” 人工智能及其子集，例如機器學習，以及其在計算機視覺、面部和聲音識別等方面的應用，可用于實現武器系統更高水平的自動化和自主性。自主武器系統通常被定義為“一旦啟動，無需人工操作員進一步干預即可選擇和攻擊目標的機器人武器系統。” 聯合國安理會 2021 年 3 月發布的一份報告表明，土耳其制造的 Kargu-2在利比亞內戰期間，游蕩彈藥系統被編程為以自主模式選擇和攻擊目標。這被世界各地的媒體描述為首次使用致命的“殺手機器人”。但是，尚不清楚該系統在攻擊時是否真正自主運行。

【在人工智能進步的幫助下，武器系統可以在自主范圍內進一步發展，承擔更多任務，并最終在戰場上取代人類】

圖1. 武器系統的自主性

同時，這些領域之間的能力并不總是相同的。在俄羅斯的案例中，自動化和無人機器人系統的開發比集成更現代的基于機器學習的系統更先進。俄羅斯軍事文獻中經常提到的“自動化”（автоматизация）過程——其他術語包括“機器人化”（роботизация）、“智能化”（интеллектуализация）或“數字化”（дигитализация）并不是一個新現象。 俄羅斯在自動化和遠程控制武器系統方面的能力相對優于其在人工智能總稱下整合機器學習和廣泛技術的其他子元素的能力。許多軍事決策者和分析人士的立場是，借助人工智能的進步，武器系統可以在自主范圍內進一步發展，承擔更多任務，并最終在戰場上取代人類。

?美國國防部已經可以開始應用其現有的國際科技協議、全球科學網絡以及在多邊機構中的作用來促進數字國防合作。本報告將這些選項集合構建為軍事人工智能合作工具箱，可為調整政策、推進研究、開發和測試以及連接人員提供了有價值的途徑。

美國將人工智能 (AI) 的領導地位視為提升其在國際體系中的戰略地位和保持其未來軍事優勢的關鍵。美國的盟友和伙伴網絡是服務于這些目標的不對稱資產，正如旨在讓美國為當前戰略競爭時代做好準備的國家安全和國防政策所確認的那樣。

最值得注意的是，美國國防部 (DOD) 人工智能戰略中宣布的關鍵舉措和國家安全委員會關于人工智能的建議表明了國際參與對人工智能安全、安保、互操作性和與民主價值觀保持一致的重要性。

簡而言之，人們一致認為，加強聯盟和伙伴關系很重要，不僅因為美國在聯盟中行動，而且因為俄羅斯等經常單獨行動。由于技術加速如何推動軍事進步、刺激經濟增長和塑造21世紀的治理模式，人工智能和其他新興技術是與這些近乎同等競爭對手競爭的核心。如果不深化與盟友和伙伴的合作，美國既無法應對大國帶來的挑戰，也無法從塑造人工智能的民主軌跡中獲益。

在此背景下，本報告重點關注通過基于可互操作部隊和尖端技術的強大軍事關系，維護美國及其伙伴和盟國網絡相對于潛在對手的優勢的必要性。國防部已經擁有多種工具可用于深化與其盟國和國際安全伙伴的科技（S&T）合作。但為了充分利用它們在人工智能方面的潛力，該部門需要重新設想并更好地整合它們。

為此，此處的分析將現有的國防科技協議、軍事科技交流和多邊機構的要素構建為軍事人工智能合作工具箱。這項工作不僅僅是為人工智能能力開發集中資源，還包括政策調整；測試、評估、確認和驗證 (TEVV) 管道；研發（R&D）、人員交流；數據共享；和標準化。這里的目的不是提出新的協議，而是回答國防部如何利用其現有的科技合作機制來支持數字時代的軍事合作，確保相關資源和框架在尋求人工智能領導力和未來時不會被利用聯軍成功。

雖然應該承認挑戰，包括圍繞數據交換的敏感性和對技術政策的不同政策觀點，但隨著時間的推移，它們也可以成為合作以減輕這些障礙的動力。換言之，現有工具有助于在政治信任、凝聚力和互操作性方面獲得更多支持，從而使合作有助于應對數字威權主義和技術驅動的國際安全環境變化的共同挑戰。 主要發現是：

• TEVV 是軍事人工智能合作的一個重要但代表性不足的特征。一系列活動可以納入 AI 的合作 TEVV 管道，包括聯合測試、試驗、實驗、培訓、練習以及建模和模擬。
• 利用國防科技協議就共同的研發優先事項進行合作，有助于為其他形式的人工智能合作建立良好意愿，包括與民主價值觀保持一致。
• 軍事人工智能合作不是純粹的技術努力。促進政策和人員聯系的技術、人力和程序措施對于推進可互操作的人工智能采用同樣重要。
• 印度-太平洋地區的盟國和合作伙伴在現有軍事人工智能合作工具箱所涵蓋的主要協議和機構中的代表性不足。

雖然軍事人工智能合作的某些方面可能需要新的投資、機制和協議，但這不應該排除現有工具可以用于新用途的多種方式。軍事人工智能合作工具箱之所以有吸引力，正是因為它可以在短期內啟動，滿足與盟友和伙伴盡早建立互操作性和推進人工智能的緊迫性。

「美國人仍未認真思考 AI 革命將對社會、經濟和國家安全產生多大影響」，3 月 1 日，美國國家人工智能安全委員會（the National Security Commission on Artificial Intelligence，NSCAI）發布的一份報告，提出了對于總統拜登、國會及企業和機構的數十項建議。

該組織稱，中國是對于美國技術主導地位的首要挑戰，在第二次世界大戰后第一次有國家對美國的經濟和軍事力量產生了如此程度的威脅。該報告的一個結論是，在未來十年內，美國可能會失去對中國的軍事技術優勢。

這個由 15 名成員組成的委員會主張以 400 億美元的投資擴展和民主化 AI 研究的進程，并為「未來技術突破進行投資」，鼓勵決策者們對創新投資持類似態度。該組織最終希望能推動聯邦政府在未來幾年里對于人工智能投資數千億美元。