研究問題

新興顛覆性技術（EDTs）對未來大規模毀滅性武器（WMD）戰爭的影響是什么？新興顛覆性技術如何提高大規模殺傷性武器在動能戰爭中的殺傷力和有效性？?公民領袖和公務人員如何準備和減輕預計的威脅？

難題挑戰

在未來十年，國家和非國家對手將使用EDT來攻擊系統和人口，這可能會啟動和加速現有地緣政治沖突的升級。預計EDT將被用于最初的攻擊或升級，以及作為檢測和決策過程的一部分。由于EDT的速度、預期的混亂和普遍缺乏人力監督，攻擊也將被錯誤地歸因，這有能力將快速的地緣政治沖突升級為全球軍事沖突，并最終導致使用核大規模毀滅性武器。

在核大規模殺傷性武器的陰影下使用EDT，預計也會對可能的對手造成生存威脅，促使他們 "降低 "使用核大規模殺傷性武器的可接受性標準。EDT將使內部威脅，包括自愿的和不知情的，能夠在全球范圍內引發地緣政治沖突，并使其膽子更大。

此外，多個EDT組合在一起用于攻擊時，將對民眾和政府產生大規模殺傷性影響。此外，EDT將被對手用來攻擊和破壞關鍵的基礎設施系統，如食品、能源和交通等，這將對人口和政府產生更廣泛的影響。EDTs將使對手能夠實施長期攻擊，在很長一段時間內（如果有的話），攻擊的效果和歸屬可能不會被發現。

解決方案

為了對付這些未來的威脅，各組織將需要進行研究和情報收集，同時進行探索性的研究和開發，以更好地了解EDT的狀況及其潛在的影響。有了這些信息，各組織將需要進行協作性的 "兵棋推演"和規劃，以探索一系列可能的和潛在的EDT威脅。從所有這些活動中獲得的知識將為未來的培訓和最佳實踐提供信息，以準備和解決這些威脅。

各組織也將需要增加對EDT相關領域的投資，這就要求各國不僅要改變他們的作戰方式，而且要發展他們對威懾的思考。擴大的監管、政策制定和成員間的政治團結將發揮越來越重要和擴大的作用。將需要更廣泛的政府、軍事和民事合作，結合更廣泛的公眾意識來破壞和減輕其中一些未來威脅。所有這些行動都將對北約成員之間的合作和共同的復原力賦予更高的價值。

陸軍正在為未來的沖突做準備，作戰環境中充滿了使用人工智能的新技術，可以接觸到各種新的信息媒介，以及受到人口結構變化和勞動力需求挑戰的不斷變化的國內安全環境。如果國防部提高數字素養，那么 陸軍將更好地準備好在2035年的聯合行動環境中進行競爭。

基于互聯網的技術和社交媒體渠道迫使社會快速適應和改變。陸軍正在從這種變化中獲益，但仍然沒有為在自動化的未來主導沖突做好準備。除非早期入伍的士兵和軍官隊伍能夠獲得適合幫助明天戰斗的教育、項目和機構，否則它將無法趕上。為了做到這一點，組建網絡輔助部隊、國家數字后備軍團、美國數字服務學院以及中高級教育項目應促進數字掃盲的途徑，以增加而不是剝奪現有的現役、后備和國民警衛隊的委任場所。

作者利用DOTMLPF框架，根據對文獻的回顧、當前的戰略和科技界領袖的建議，提出了美國陸軍為有數字天賦的專業人員創建新的職業專業和職業途徑的論點。

在數字化世界中，美國如何保護聯合部隊中的人員及其關鍵支持網絡不受敵對信息行動的影響？

服役人員、他們的家人和朋友都是人。敵人和其他破壞穩定的力量威脅要在這些人中挑撥離間，以削弱集體能力。這種威脅可以利用強大的新數字技術來浸潤我們的生活。有效地保護聯合部隊的人免受信息威脅是保護其競爭能力的關鍵：在我們當前的灰區競爭時代，在升級情況下，以及在戰爭中。

第一部分 定義任務。美國在保護誰免受什么侵害——這有何新意？

"誰"包括像130萬現役人員這樣的人類，以及他們的家人，他們提供了關鍵的認知彈性和影響。約有400萬人持有秘密或以上級別的許可。在家里或工作中，在美國本土或國外，在無數的數字設備上，這是一個巨大的攻擊面，有許多誘人的目標受眾。

他們面臨來自兩個方面的信息威脅：外部對手的信息行動（如北約部隊面臨來自俄羅斯的信息行動；見方框1）；以及來自他們自己社會的極端分子（如德國特種部隊現在面臨的信息行動；見方框2）。數字化改變了這種威脅的特征，尤其是將 "國內 "和 "國外 "合并在一起：這是美國法律、歷史和新的《臨時國家安全戰略指導》（2021）中的一個關鍵區別。

"深度偽造 "說明了這種威脅的特征可能會發生變化。這些由人工智能（AI）生成的媒體可以是大規模生產虛假信息的工具，也可以是精致的 "積極措施"（塑造政治決策的情報行動，見第8頁）。但是，單單使用深度造假所產生的影響有限。相反，它們是 "聯合武器 "信息行動中的一個工具，與微觀定位（分析個人數據以確定特定受眾的興趣，從而影響他們的行動）等雙重用途的技術并列。這說明了對聯合部隊的真正威脅：一個巨大的市場失靈，巨大的商業支出建立了有利可圖的兩用進攻技術（如微目標），但很少用于防御，這主要是一個商業成本。

第二部分 是針對聯合部隊的基于證據的響應，以偵查、防御和民主相容性的“3D”為中心。

• 1.偵查。美國必須建立能力，以探測和描述對手對聯合部隊的影響行動--誰是目標，通過什么手段，為了什么目的？它們必須在多種規模上發揮作用。

  • 1.A. 探測協調運動

建議1.A.i. 建立規模化反情報的綜合人力、人工智能和組織能力，可以在相關規模（如幾人到幾百萬人）上檢測對手的信息行動。

建議1.A.ii. 國內 "和 "國外 "之間的 "接縫 "應保持非常明確的區別，但它也對檢測跨越該接縫的威脅提出了挑戰。對于各組織如何協調檢測這類威脅，應該有明確的責任，并有專門的資源。

• 1.B. 檢測錯誤和虛假信息的具體事例

建議 1.B.i. 建立人類、人工智能和組織的綜合能力，以檢測特定的錯誤/虛假信息（如深度造假）。

• 1.C. 探測對手如何多年來塑造的地形

建議1.C.i. 識別聯合部隊的人類所面臨的長期風險，因為除了可信賴的盟友之外，其他國家也在塑造沉浸在他們生活中的信息技術（例如，中國的TikTok控制著美國一半年輕人的算法和大數據）。

• 2.防御。人類的認知將始終包含作為破壞目標的脆弱性（例如工作和生活壓力或不滿），聯合部隊可以幫助將其降至最低，從而拒絕其他人。社會、家庭和精神支持很重要，"媒體教育 "也是如此，盡管它不是萬能的。還必須為個人提供技術手段，使其能夠在網上保護自己，為此存在低成本、實用的選擇。但僅有個人規模是不夠的。

大規模的個性化影響行動即將到來（如零售和醫療所見），其中個人數據將成為關鍵武器，必須加以保護（例如敏感的醫療數據；或中國的TikTok收集的數據）。聯合部隊中數百萬人或其家人的破壞性個人數據可以被注入他們的社交網絡。在多種規模上都需要新的人類-人工智能團隊和組織。

• 2.A. 在人類個體規模上進行防御

建議2.A.i. 加強社會、家庭和精神支持，特別關注可預測的脆弱期（例如，移動崗位）。

建議2.A.ii. 給個人提供技術手段來保護自己的網絡。存在低成本、實用的選擇。

建議2.A.iii. 提供有關社交媒體安全的培訓和實際幫助（例如，使用高隱私設置，不使用TikTok等應用程序），聯合部隊設定的明確期望（例如，關于隱私設置，或政治帖子的法律要求），以及評估社交媒體內容的實用方法。

• 2.B. 在組織范圍內為個人辯護

建議2.B.i. 捍衛聯合部隊及其支持網絡中的個人數據--而且，與傳統智慧相反，為他們的數據建立孤島。

建議2.B.ii. 為對手的運動準備防御措施，以便他們能夠部署威懾、進攻、應急準備和應急響應。

建議2.B.iii. 使用基于證據的影響方法進行防御。

建議2.B.iv. 預測國內和國外接縫處的脆弱性。防御它需要一個協調的、有資金的組織反應。

• 2.C. 防御多年來對信息地形的塑造

建議2.C.i. 在信息地形中建立防御優勢，并防止競爭對手通過TikTok等平臺發展戰略優勢。

建議2.C.ii. 鼓勵一個繁榮的新聞生態系統，為聯合部隊及其支持網絡中的多個受眾提供值得信賴的信使。

• 3.民主相容性。將新的能力置于道德、法律和政治框架內，使其與自由社會相容。在保持 "軍權"和情報監督的同時，也要減少它們所帶來的差距和靈活性的缺乏。克制不僅是美國系統的一個缺陷，也是一種優勢。

未來技術的軍事效用評估（MUAFT）方法是作為北約的破壞性技術評估游戲方法的一個具有成本效益的替代方法而開發的，將作為瑞典武裝部隊長期能力發展進程的一部分。本研究涉及的問題是，MUAFT是否可以被認為在其背景下具有有效性，因此它是否有可能對其他中小國家有用。該分析基于克拉克科技情報分析框架的實操化，并結合以軍事能力為中心的軍事效用觀點。從2012年到2018年的MUAFT報告在如何滿足五個關鍵標準方面被審查。該研究表明，如果由適當的專家小組使用，MUAFT提供了實用性，他們意識到了該方法的局限性。這些局限性主要來自于缺乏對評估除技術力量以外的變革力量對軍事能力發展影響的明確支持。專家組作為技術預測和軍事效用評估之間的綜合橋梁。因此，需要在各種軍事技術專業、發起人的軍事能力以及為評估其他有影響力的社會變革力量而必須掌握的科目方面有全面的專業知識。

1. 簡介

"技術突襲是指在戰爭中通過引進新武器（或通過創新使用已知武器）來獲得單方面的優勢，而對手要么沒有意識到它的存在，要么沒有準備好有效的反制措施，而反制措施的開發需要時間。" [1]因此，大多數國家考慮探索可能對軍事戰略能力決策至關重要的科學技術的長期發展。在過去，新技術的使用以及成熟技術的新應用都影響了沖突和戰爭的進行方式，而且它們很可能會繼續影響。技術發展對戰爭的影響往往是漸進式的，但有時，正如漢德爾最初的那句話所暗示的，它們是令人驚訝的，甚至是革命性的[2]。這種影響被稱為破壞性的[3]，因為它們使一些能力過時，同時也產生了對新能力的需求。火藥、鐵路、雷達技術、信息技術、全球導航衛星系統只是軍事史上許多可能的例子中的幾個[4]。這些例子告訴我們，一個真正了解技術中的潛力的軍事行為者可以獲得優勢，或者通過利用技術，或者通過避免在戰場上的意外。此外，根據經驗，我們知道，將新技術整合到武器系統中，引入軍事單位，并調整理論，往往需要幾十年時間。因此，軍事決策者確實需要有能力、準確的技術預測。

預測的特點是 "對高度可能發生的事件進行或多或少的線性系統估計、陳述、推斷、預測或預報" [5]。因此，預測是一個適用于研究領域和選擇部門的概念，如技術和國防與安全部門。雖然，即使在其起步階段，技術預測被預測為會像經濟和天氣預測一樣被接受和有用[6]，但預測方法可以因其不可避免的不準確性而受到批評。例如，未能預測1973年的 "石油沖擊 "導致人們對預測的有效性和實用性產生了相當大的懷疑[7]。今天，一些軍事思想家甚至聲稱，認為在部隊規劃中使用科學或軍事情報可以避免戰場上的技術突襲是徒勞的。相反，芬克爾建議，補救措施是設計一支足夠靈活的部隊，以便在不可避免的技術發生時迅速恢復[8]。他聲稱一些必要的靈活性需要軍事物資的多樣性和冗余性，但他強調了組織要求，首先是軍官的教育和培訓。然而，由于它們的目的是幫助決策者評估不同技術發展的概率和意義，而不是預測它們在未來特定日期的具體應用中的確切形式[6]，對可行方法的研究仍在進行。

在文獻中，發展是以眾多的外延報道的，如：未來研究、預測、展望、地平線掃描、未來研究、技術預測、數據挖掘、文本挖掘、未來學、技術觀察、面向未來的分析、新興技術、破壞性技術、戰略展望、道路圖、場景規劃、結構化頭腦風暴、形態分析和軍事破壞性技術[[9], [10], [11], [12], [13]] 。本刊以前發表的工作討論了技術預測和技術評估[[14]、[15]、[16]、[17]、[18]、[19]]。我們選擇使用技術預測這一術語來描述圖1中的活動序列。該序列改編自Kindvall等人[9]。

瑞典技術預測過程中的活動順序通常包括活動一到八。所有的活動都可以，但不能由一個組織中的一個小組來完成。在活動四中，贊助者，如瑞典武裝部隊（SwAF）通過瑞典國防物資管理局（FMV），選擇優先考慮的技術和訂購科學報告。為選定的技術準備科學報告對應于活動五和六。然后在下一步中，它們被用作MUAFT的輸入。MUAFT方法將在第三節進一步描述。MUAFT評估的結果以及對每項技術的未來行動建議將在每年的技術預測報告中提交給發起人。這些建議是關于投資、監測或不考慮具體技術的。資助者負責第八項活動。

在20世紀80年代，由瑞典武裝部隊（SwAF）協調的技術預測，每四年左右為相關的技術領域提供趨勢報告。這項工作是與瑞典國防物資管理局（FMV）和瑞典國防研究局（FOI）密切合作完成的。然而，由于所產生的報告內容廣泛，而且是保密的，很少被用于SwAF的研究或其他發展目的，所以最后一份這種格式的報告是在2005年發布。巧合的是，在20世紀90年代末，蘇聯解體后，歐洲的軍事發展呈現出緩和的特點。從20世紀90年代末到21世紀的第一個十年，瑞士空軍的長期規劃受到了主導戰場意識（DBA）、軍事事務革命（RMA）和網絡中心戰（NCW）等概念的嚴重影響。人們相當關注傳感器和指揮與控制系統發展的技術方面[9]。然后，在9/11襲擊事件之后，為了配合瑞士空軍在阿富汗參與打擊塔利班的戰爭，重點發生了變化。人們對支持海外任務的技術更感興趣，例如，對士兵設備的保護和供電[20]。在這個時候，瑞士空軍不想重新采用以前那種無效的、耗費資源的技術預測方法。因此，開發了一種新的未來技術趨勢分析方法。作為一個小國，用于技術預測的經濟資源有限，瑞典需要一個簡單的、具有成本效益的、能夠支持軍事能力發展的綜合方法的過程[20]。一些中等規模的國家使用復雜、昂貴和耗時的技術預測方法，并已開始改變它們[21,22]。瑞典軍事技術預測的主要目的是為瑞典空軍提供國防研發撥款的政策建議。由于預算削減，技術預測所能涵蓋的技術數量不得不減少。因此，必須對要評估的技術進行嚴格的優先排序（圖1中活動四）。2005年至2015年期間，瑞典國防物資管理局（FMV）的一個小組決定了優先事項，并選擇了未來技術的科學報告，用MUAFT方法進行分析。自2016年以來，瑞典空軍總部參與了選擇過程，在委托弗勞恩霍夫研究所、麻省理工學院或瑞典國防研究局等研究機構提供科學報告之前，批準了技術清單。

此外，瑞典空軍希望增加對未來技術的了解，特別是在武裝部隊人員中。因此，在2009年開發了一種針對普通公眾的新報告格式。新的出版物使用了圖形和對未來技術應用的通俗科學解釋，否則決策者可能難以掌握，它在瑞典國防界的受歡迎程度也隨之提高[20]。

直到2011年，政策建議（活動八）直接基于瑞典國防研究局、FOI或合作伙伴研究機構發布的技術評估報告。2012年，瑞典國防大學（SEDU）被要求評估選定的未來技術的潛在軍事用途；因此，圖1中的活動七被添加到該序列中。評估的重點是這些技術是否有可能被瑞典空軍或可能的對手成功地整合到軍事系統中，以提高軍事能力。該方法的基本原理是避免走上漫長的、不確定的、往往是昂貴的開發新軍事物資的道路。相反，應該探索某些選定技術對軍事能力的潛在貢獻。在新的瑞典技術預測過程中，應該放棄以前純粹基于潛在技術性能的建議[2,23,24]。從一開始，SEDU的評估也包括關于SwAF研究、研發投資或監測技術發展的建議的政策建議，即對圖1中活動八的投入。本文所評估的方法已經逐步發展，現在被稱為未來技術的軍事效用評估（MUAFT）[24]。

有理由相信，瑞典具有成本效益的MUAFT方法可能對其他中小國家有意義。然而，它能提供效用嗎？雖然傳統的技術預測活動在其他地方已經被徹底討論過，但MUAFT還沒有。該方法已經使用了十年之久，現在需要仔細研究。本研究的目的是分析和評估MUAFT方法作為瑞典武裝部隊長期能力發展進程的一部分的效用。

在第二節中，我們介紹了理論，即我們對中心概念的看法和我們的理論框架，該框架來源于美國情報分析家羅伯特-M-克拉克的經驗[25,26]。在第三部分，我們簡要介紹MUAFT方法。此后的結構是傳統的。我們在第四節描述了評估的方法。第五節介紹了分析，隨后在第六節討論了結果的效用和MUAFT方法。本文最后在第七節中提出結論和對未來研究的建議。

俄羅斯國防部利用軍事預測為其長期規劃提供信息。自20世紀60年代以來，俄羅斯的軍事分析對一個國家發動戰爭的能力進行了全面評估，這些評估超越了武器和編隊。俄國防部利用這種預測來回答：（1）未來戰爭的可能性和特點是什么；（2）俄羅斯和其潛在對手之間的軍事潛力的相關性是什么？

在本報告中，作者利用一個既定的框架來研究與軍事預測有關的關鍵指標，以深入了解這些問題的答案。

本報告作者審查的俄羅斯軍事科學和學術研究發現，軍事潛力（國家權力）的相關性--一個包括政治、經濟、科學技術和常規武裝力量指標的廣泛衡量標準--現在和將來都會偏向于西方的美國和北大西洋公約組織（NATO）以及亞太地區的美國和日本。能夠改善俄羅斯競爭地位的因素是將中國納入軍事潛力的關聯中，以及美國以有利于其利益的方式管理國際體系的能力可能降低。

俄羅斯目前的軍事評估和預測沒有發現美國有對俄羅斯發動大規模戰爭的意圖的跡象。俄羅斯在什么條件下可能采取先發制人的軍事行動，冒著與軍事潛力超強的對手開戰的風險，仍然是一個沒有答案的問題。

##主要結論

• 鑒于雙方之間巨大的軍事潛力不平衡，北約聯盟的持續凝聚力將可能迫使俄羅斯在不對北約使用武力的情況下解決政治不滿。

• 北約的凝聚力至少給俄羅斯帶來了三個行動問題。首先，俄羅斯將不得不與一個共同擁有優勢軍事潛力的國家集團作戰，而這些國家在發生長期沖突時可能被證明是決定性的。第二，北約的凝聚力可能會迫使俄羅斯在整個歐洲發動攻擊，從而使聯盟的分裂更不可能發生。第三，北約的凝聚力可以暴露出俄羅斯相對有限的遠程常規彈藥庫存（戰略非核威懾潛力）。遠程常規能力對于排除利用大片歐洲領土流入更多部隊并對俄羅斯部隊發動攻擊至關重要。

• 在未來20年里，俄羅斯可能會尋求避免與中國和西方同時發生對抗關系，這可能會抑制其外交政策決策的靈活性。

• 俄羅斯軍事戰略的當前和未來發展將從相對于美國及其盟國的整體弱勢地位出發。

• 最后，本報告中使用的框架為評估對俄羅斯的威懾力提供了一個有用的方法。例如，由于該框架強調戰略非核能力的威懾價值，美國和盟國在遠程精確彈藥方面的優勢程度為衡量對俄羅斯軍事侵略的威懾水平提供了一個關鍵的輸入。

摘要:

在整個歷史上，宣傳和虛假信息一直被用來破壞敵對勢力的穩定，但美國軍隊對這些方法適應互聯網時代的方式仍然毫無準備。本文探討了虛假信息行動的現代歷史和美國軍隊在面對來自近似競爭對手的行動時的準備狀況，并提出教育是使美國軍人準備好抵御此類行動的最佳方式。

關鍵詞：宣傳、虛假信息、媒體素養、軍事教育、預防

宣傳和虛假信息是強有力的影響工具。前者可以被定義為 "蓄意、系統地試圖塑造觀念、操縱認知和引導行為，以達到促進宣傳者預期意圖的反應。"同時，后者是一種 "基于傳播不真實信息的欺騙技術，目的是欺騙、操縱和誤導"，利用人類情感作為影響手段。美國總統德懷特-艾森豪威爾（Dwight D. Eisenhower）多次承認，"全面戰爭的機會遠遠小于我們在政治戰爭方面面臨的危險。"而且，今天的數字環境意味著虛假的敘述可以比以往任何時候都傳播得更遠更快。

事實上，有證據表明，像俄羅斯這樣的國家已經通過這些策略對對手國家產生了重大影響。眾多學者指出，2016年的美國總統選舉就是一個典型的例子。在這些情況下，虛假信息依賴于利用目標社會中預先存在的緊張關系（例如種族、民族和階級）來制造分裂。因此，這些敘事經常將脆弱的社區置于危險之中，并將由不同群體組成的機構置于壓力之下，包括美國軍隊，因為它需要來自各種社會、文化、宗教、政治和經濟背景的美國人。

虛假信息對這些類型的組織構成了威脅，進而對國家構成了威脅。2019年，英國的數字文化、媒體和體育跨黨派委員會將網上虛假信息的傳播描述為對民主的生存威脅。這一挑戰的嚴重性需要仔細分析。本文認為，教育是對抗虛假信息的最佳策略，確定了從成為虛假信息目標的國家中吸取的教訓，回顧了虛假信息作為信息戰戰術的演變，審視了對手操縱網絡的心理機制，評估了虛假信息對軍隊等機構構成的威脅，并思考了教育在預防目標群體并幫助每個人在日益數字化的世界中生存和發展的潛力。

宣傳和虛假信息如何運作

長期以來，國家和非國家行為體一直利用宣傳和虛假信息來獲得戰略優勢。然而，現代大眾傳媒在20世紀初的到來，使他們的努力具有了全球性的意義。在兩次世界大戰期間，宣傳是實現一系列目標的重要工具。例如，廣播使美國總統富蘭克林-D-羅斯福和英國首相溫斯頓-丘吉爾等主要領導人能夠在自己家里直接向國內觀眾講話，向他們提供信息并影響他們對戰爭的看法。電影也同樣被用來鼓舞士氣和推動招募工作。由奧斯卡獲獎電影人弗蘭克-卡普拉（Frank Capra）執導的《我們為何而戰》系列紀錄片至今仍被認為是此類材料的最佳范例之一。這些努力的影響不能被低估。一些歷史學家甚至認為，盟軍發動的信息戰是勝利的核心。國內的信息傳遞與英國政治戰爭執行局等組織在戰場上的行動相結合，這些組織參與了破壞敵人宣傳的行動，事實證明這些宣傳與事件的現實越來越不同步。

在整個冷戰期間，影響力繼續發揮著核心作用，虛假信息構成了蘇聯積極措施的一個關鍵要素，即 "影響外國社會事件和行為以及行動的公開和秘密技術"，據估計，華約國家從1945年到1989年開展了超過10,000次虛假信息行動。正如約翰-霍普金斯大學的托馬斯-里德所解釋的那樣，"久經考驗的方法......是利用對手現有的弱點來對付自己，將楔子插入預先存在的裂縫。一個社會越是兩極分化，它就越是脆弱。"

俄羅斯利用虛假信息活動仍然是其戰略的一個關鍵部分，并在今天的網絡生態系統中采取了新的形式。俄羅斯的虛假信息可以分解為四個 "D"--否認、歪曲、沮喪和分散注意力，以擾亂批判性思維。社會上有一些觸發性話題，從移民和墮胎到種族和宗教，這些話題很可能引起情緒反應，甚至導致所謂的杏仁核劫持。這是一個心理學術語，指的是當一個人的大腦中控制情緒的部分變得如此激進時，這個人就不能再批判性地思考。換句話說，人們與大腦中控制推理和評估事實的部分失去聯系。

但是，充滿感情的敘述只是敵對行為者利用網上受眾的一種方式，因為他們經常經歷信息過載。人腦由于缺乏能力和時間，無法篩選所有可用的信息。這種時間和認知資源的缺乏意味著個人無法將事實與虛構進行區分，他們使用認知捷徑來處理信息，使他們容易受到虛假信息宣傳的影響。例如，確認性偏見包括尋找、解釋和回憶與自己的信念和態度一致的信息。個人接受與他們的觀點一致的信息，而不是花時間去處理與之矛盾的信息。例如，《科學進展》雜志2019年的一項研究發現，傾向于保守政治的人傾向于分享共和黨人的社交媒體帖子。

網絡行為者能夠進一步利用迅速崛起的技術來利用偏見，包括深度偽造或人工智能操縱的音頻或視頻內容，無論是人工智能渲染、編輯或重新剪輯、盜用或錯誤歸因。深度偽造可能會提高惡意行為者利用情緒和認知偏見的能力。人們發現，圖像比單純的文字更有影響力。文字是抽象的符號，需要重建為現實的心理圖像。相比之下，圖像似乎提供了一個直接的現實參考，減少了操縱的嫌疑。

武裝部隊和虛假信息

就像它所保護的國家一樣，美國軍隊也越來越多元化。2017年，女性占現役部隊的16%，少數族裔目前占軍事人員的42%。這種多樣性可能使軍隊，像整個國家一樣，容易受到虛假信息運動的影響。這些運動對作戰安全和武裝部隊、其盟友和更廣泛的國防界的整體凝聚力構成了嚴重挑戰。

例如，對手一直針對組成北約在愛沙尼亞、拉脫維亞、立陶宛和波蘭的強化前沿存在的部隊。2020年，俄羅斯贊助的行為者在網上發布了一封偽造的信件，其中波蘭準將里夏德-帕拉菲亞諾維奇似乎在美國領導的 "歐洲保衛者20 "演習中公開批評了美國在他的國家的存在。在同一次演習中，俄羅斯消息人士還聲稱美軍無視與COVID-19有關的旅行限制，盡管美國官員出于公共衛生方面的考慮，縮小了Defender-Europe 20的規模和范圍。"影響的威脅不再僅僅存在于部署期間，也存在于駐軍中，因為 "通信的崩潰性......以及......戰爭和日常生活之間多孔的界限"，這意味著地理環境不再足以作為一種防御。

敵對行為者一直在網上針對美國武裝部隊成員和退伍軍人社區。從2017年開始，美國國會特許的非營利組織越南退伍軍人協會開始了一項為期兩年的調查研究，發現 "外國實體對美國軍人、退伍軍人和他們的家人進行持續、普遍和協調的在線攻擊。"報告顯示，軍人和他們的社交網絡容易受到虛假信息的影響。外國實體將經常能接觸到保密和機密材料的軍方成員視為一個有吸引力的目標。更重要的是，現役軍人和退伍軍人是美國政治生活中的一個重要影響人群。美國越戰退伍軍人研究小組檢查了數百個Facebook頁面和社交媒體賬戶，發現美國軍人、退伍軍人和幾個退伍軍人組織的其他社交媒體追隨者是外國實體的特別目標。他們還發現來自30多個國家的個人管理著他們審查的網站，這些假冒Facebook頁面的管理員滲透到其他公共和私人團體。

冒名頂替的網頁和賬戶通過冒充合法的軍事和退伍軍人團體，如美國越戰退伍軍人組織，建立了一批粉絲，并利用友情和社區作為吸引新成員的方式。這種活動如此之多，Facebook關閉了三分之一的審查賬戶，原因是不真實的行為或 "誤導性行為，欺騙他人關于個人/團體是誰或個人或團體在做什么。"在關閉之前，這些頁面吸引了超過3200萬用戶。外國管理員利用這些平臺 "試圖在不同種族或民族身份或偏見的群體之間制造隔閡，經常使執法者與少數民族對立起來。 "這種行動經常涉及發布旨在分化團體成員的分裂性內容，從分享美國國家橄欖球聯盟四分衛科林-卡佩尼克的照片，到傳播關于有爭議的公眾人物的虛假信息，如國會議員亞歷山大-奧卡西奧-科爾特斯，以及發布 "退伍軍人先于非法移民 "這樣的仇外言論，在移民等敏感話題上做文章。"虛假信息針對社會中的斷層，軍事人員也不能免于這些戰術。

敵人的虛假信息活動破壞了軍人辨別事實和虛構的能力。這些運動滲透到他們的社會網絡中，使他們容易受到陰謀論和極端主義團體的影響，這降低了部隊的凝聚力，并帶來了真正的部隊保護威脅。雖然沒有跡象表明對手對2021年的美國國會大廈襲擊事件負有直接責任，但多年的影響行動最終導致了一種扭曲的認知環境--對許多參與暴亂的人來說是另一種現實，并植入了一種可能持續多年的社會和政治分裂。以這次襲擊為例，對手將繼續積極開展虛假信息運動，并采用所有信息領域的工具來加劇不和諧并加強其地位。俄羅斯利用數字媒體在國會大廈襲擊事件后煽風點火，破壞對民主進程和美國作為全球領導者的合法性的信心。

這些影響提供了明確的證據，網上的陰謀論和虛假信息并不只停留在網上，而是可以而且確實在暴力中達到高潮。雖然虛假信息是陰險的，并在國家、戰略和戰術層面上產生了長期的影響，但它可以通過宣傳和教育得到緩解。

教育：對虛假信息做好預防？

關于如何處理虛假信息的問題存在爭議。來自人文和社會科學的大量證據表明，最好的長期解決方案是教育公眾識別虛假信息。許多組織都強調了教育在打擊仇恨方面的價值。2018年，歐盟委員會制定了一項數字掃盲計劃，供整個歐盟實施。同年，倫敦經濟學院真相、信任和技術委員會呼吁英國政府將媒體掃盲作為其國家課程的一部分。雖然許多國家剛剛開始認識和實施教育計劃，以打擊虛假信息運動，但一些國家已經建立了行之有效的制度。

斯堪的納維亞和波羅的海國家為如何實施這些虛假信息教育項目提供了一個模板。他們的經驗是獨特的，因為 "在過去的四到五年里，很少有[地區]受到更持續的俄羅斯信息操縱，"包括芬蘭，自1917年獨立以來，芬蘭一直是克里姆林宮支持的宣傳的目標。蘭德歐洲公司的分析師認為，有幾個因素有助于芬蘭抵御外國影響，包括高比率的媒體素養。芬蘭政府通過教育活動實現媒體素養，包括2014年的一項倡議，教導學生、記者、政治家和公眾如何識別虛假新聞。小學和中學的學生也接受了識別深度虛假視頻和鍛煉批判性思維能力的測試。這些項目以及其他類似的項目，"只是芬蘭為使所有年齡段的公民為復雜的數字環境做好準備而采取的跨部門方法中的一層"。

為了一個共同的目標，立陶宛政府經常與這些團體合作，以提高調查公眾對這個問題的學術研究水平，以及專注于揭穿和事實核查的媒體項目。它還提供資金和/或支持開發一個人工智能驅動的平臺來監測媒體（Debunk.eu），并為弱勢群體（老年人、少數民族人口）創建媒體素養項目。

圍繞COVID-19大流行病的虛假信息是一個全球性的問題，與斯堪的納維亞和波羅的海國家類似，其他國家也采取了有效的應對措施來解決相關虛假信息。臺灣政府與臺灣事實核查中心合作。正如吉爾及其同事所描述的那樣，臺灣利用類似于WhatsApp的社交媒體平臺來傳播準確的信息，以對抗網上的虛假信息。此外，政府加強了對虛假信息的監測，以防止其傳播，并與Facebook合作，在Facebook的時間軸上灰色的虛假信息。最后，還制定了關于如何區分真實和虛假賬戶以及可疑和可信信息的指南。Lien和作者指出，這種合作、平臺和指南對于培養臺灣對COVID-19虛假信息的抵御能力至關重要。

推薦的美國軍事媒體素養培訓

美國國防部（DoD）必須授權一個標準化的、多方面的媒體素養項目，為軍人提供對抗虛假信息的技能。武裝部隊所招募的美國人在與虛假信息競爭方面的訓練和準備都嚴重不足。雖然少數美國學校教授媒體素養，但大多數青年和成年人缺乏批判性分析他們所消費的信息的技能。如果這一缺陷不被解決，軍人將仍然容易受到認知缺陷的影響，而意識形態的分裂將破壞部隊的復原力。雖然國防部已經制定了培訓軍人打擊對手影響的舉措，但結合公共部門的最佳做法和國防部的資源，可以產生一個更全面的計劃，包括一個年度在線培訓課程和一個面對面的課程，以武裝國防部人員和家庭對抗虛假信息。

2018-19年，國防部聯合參謀部開發并推出了聯合知識在線（JKO）J3ST-US1396影響意識的計算機課程。這門90分鐘的課程教育參與者了解對手和競爭者影響美國和國防部人員的舉措，討論信息環境中的近期挑戰，并簡要介紹了反影響的工具。該課程不是強制性的，也沒有得到很好的宣傳，而且隨著信息環境的發展，其靜態內容也變得陳舊。盡管該課程的主要目標是提高對在線影響活動的認識，但它是預制的、不靈活的，而且對關鍵的媒體素養技能的關注也不夠。學員無法提出問題，也無法練習在最常使用的個人設備上培養健康的在線信息消費習慣所需的動態技能：手機、平板電腦和筆記本電腦。此外，該課程沒有對學員進行評估，也沒有收集績效數據來指導課程的完善。這些不足嚴重阻礙了該課程武裝國防部人員應對虛假信息的能力。吸收公共部門的最佳做法可以緩解這些不足。

國防部將大大受益于與公共部門的媒體素養領導者合作，開發一個充滿活力的當面培訓項目。諸如國際研究交流委員會（IREX）的 "學會辨別 "和斯坦福歷史教育集團的 "公民在線推理 "等項目，在應對不斷變化的信息環境的挑戰方面取得了長足的進步，并提供了許多軍人所需的核心媒體素養技能。這些私營部門的項目提供了JKO所缺乏的實踐性、真實世界的應用，如測試在線搜索、評估和驗證信息的能力，以及在訪問個人設備時利用健康的媒體素養習慣做出明智決定的實際練習。它們還迫使學生分析消費習慣，并對點擊、分享、閱讀、喜歡或與在線內容互動的決定擁有所有權。學生在離開課程時，對他們的行為如何塑造他們的朋友、社區和國家的信息環境有了更好的理解。這些課程被設計為由輔導員通過容易獲得的、專業指導的現場或在線課程來教授。這些課程的主要缺陷是它們沒有專門針對威脅軍人的對手和競爭者的虛假信息工作，盡管它們可以通過與國防部合作來滿足這些要求。

私營部門的最佳做法和國防部的資源可以結合起來，制定一個全面的媒體素養培訓計劃，包括一個年度在線課程和一個小型面授班，這將使國防部人員和家屬受益。聯合參謀部J-7及其JKO培訓人員和平臺最適合在整個部隊開發和實施基于計算機的媒體素養培訓課程。與年度網絡安全培訓一樣，所有人員--包括文職人員--都應被要求完成年度培訓，該培訓應建立參與者的媒體流利程度的基線，并跟蹤不同人口統計學的變化。參與者的表現數據可以為課程的完善提供信息，而且，與指揮部氣候調查類似，該課程可以匯總有關趨勢，在必要時提請各軍種首長或更高一級領導注意。該課程應測試軍人展示媒體素養技能的能力，如區分事實和意見，核實來源，識別改變的視覺信息，識別冒牌的社交媒體賬戶，識別有針對性的分裂材料，并灌輸在網上分享或與信息互動的責任感。

除了基于計算機的培訓，服務部門還應該在公司層面實施有重點的當面媒體素養培訓。培訓應在小型教室或市政廳舉行，由國防部公共事務或通信戰略和業務部門的主持人主持，他們都接受過公共部門主要從業人員的培訓。培訓應解決年度計算機課程中標明的問題領域，并促進實際應用練習，測試學生使用個人設備識別和反擊虛假信息的能力。實際應用練習將仿照公共部門的主要課程，但將重點關注國防部的情況。面授課程還將為軍人提供機會，討論正在進行的對抗性網絡攻擊、媒體影響、軍事行動、合作伙伴和盟友面臨的挑戰，以及外國對國內事件的干涉。

此外，家庭部署前簡報應納入媒體素養培訓，以提高軍人部署前的意識。雖然國防部不能強制要求家庭成員參加在線媒體素養培訓，但許多人對虛假信息的威脅感到擔憂，并歡迎有機會了解和保護自己免受這些威脅。

國防部授權的、標準化的、多方面的媒體素養計劃，結合公共部門的最佳實踐和國防部的優勢，可以產生一個全面的基于計算機的課程和面對面的課程，為軍人和家屬提供成功對抗對手虛假信息威脅所需的技能。

結論

技術加速的步伐和最近政治中固有的分裂沒有顯示出減弱的跡象。因此，世界將繼續面臨網絡空間中虛假信息的泛濫，而像深度偽造視頻這樣的復雜技術又使之得到加強。這些進步使得確定歸屬或駁斥虛假信息變得困難，并對構成日益多樣化的民主機構造成嚴重威脅。

雖然決策者考慮了各種解決方案，但都不可能像徹底的媒體素養教育那樣產生持久的影響。2017年，前 "參謀長聯席會議主席，小約瑟夫-鄧福德將軍. 2017年，前 "參謀長聯席會議主席小約瑟夫-鄧福德將軍......指定信息為第七項聯合作戰職能。"部隊要想成為有效的戰士，他們必須掌握必要的技能，以駕馭欺騙性的環境，并認識到他們何時以及如何被在線操縱。羅伯特-切斯尼（Robert Chesney）和丹妮爾-西特倫（Danielle Citron）在 "深度虛假和新的虛假信息戰爭 "中認為，"民主國家將不得不接受一個令人不舒服的事實：為了在威脅中生存......他們將不得不學習如何與謊言共存。"如果民主社會要有效運作，每個人都必須學習在復雜的數字環境中生存和發展。

作者

梅根-菲茨帕特里克博士是加拿大國防研究與發展中心（DRDC）作戰研究與分析中心（CORA）的戰略分析員，是一位廣泛發表的關于創傷和復原力的作者。她目前的工作是研究軍隊如何駕馭日益重要的信息環境。自加入DRDC以來，她的研究得到了認可，包括CORA國防分析杰出成就獎。

里圖-吉爾博士擁有卡爾頓大學的社會心理學博士學位，目前是DRDC的一個部門主管。她的研究是研究在線影響活動，特別是互聯網和社交媒體如何影響信息環境，包括對在線受眾的分析，以及對手采用的欺騙技術，如虛假信息，如何影響受眾。她一直是國際防務研究合作的一部分，并且是北約人因和醫學研究任務組 "有效溝通和網絡外交的數字和社會媒體評估 "的共同負責人。

美國海軍陸戰隊的詹妮弗-F-賈爾斯少校目前是一名通信戰略和行動官員，是為指揮官在太平洋戰區的戰略和文化接觸計劃提供建議的外國地區官員，也是海軍陸戰隊空地特遣部隊人員培訓項目的教官。她撰寫了《瓦解虛假信息》。最近，她在國防信息學校的 "DINFOS現場 "發表了關于媒體素養和對手虛假信息的演講。

科學和技術的進步越來越復雜和普遍。從智能手機到可穿戴健康監測器，再到用于游戲的虛擬現實頭盔，先進的技術正逐漸融入到日常生活中。但是，隨著科學技術越來越先進，我們在如何與新技術互動和使用這些技術在社會中如何發揮作用方面，也面臨著同樣復雜的倫理挑戰。無人駕駛汽車就是一個說明性的例子，它引發了一些倫理上的難題。例如，在無人駕駛汽車必須 "選擇 "撞上老人或小孩的情況下，哪種反應才是正確的？有沒有一個 "正確 "的反應？在這種情況下，人類司機會有正確的反應嗎？無人駕駛汽車是否應該轉彎以避免被駛來的卡車追尾，但這樣做會使一群過馬路的兒童面臨被卡車撞上的風險？ 這些問題的答案本來就不簡單。此外，不同的技術在不同的情況和背景下會帶來不同的倫理問題；事實上，新興技術的軍事用途會帶來一些獨特的倫理挑戰。

美國國防部高級研究計劃局幾十年來一直在資助軍事科技研究和開發，僅2015年的年度預算就達29億美元。盡管科技正在快速發展，為軍事問題穩步提供新興技術解決方案，但我們的監管政策卻滯后，導致我們對在戰場上使用特定技術的倫理、社會和法律后果的認識存在差距，這是許多人指出的問題。對軍隊來說，一些最深刻的倫理問題是由新興的人體強化技術和自主或機器人系統引起的。例如，一個強化的士兵是否會被視為比人類更多或更少的東西，從而受到對手的非人待遇？在海外戰區從國內操作無人駕駛飛行器（UAV）的士兵是否被認為是戰斗人員，因此在本土是公平的軍事目標？與民用技術一樣，新興技術的軍事用途所引起的許多倫理問題沒有明確的答案。無論如何，在一項新興技術被廣泛使用--民用或軍用--之前，開發者、利益相關者和政策制定者意識到與之相關的潛在倫理問題是至關重要的，這樣就可以通過修改技術或規范其使用的政策來緩解這些倫理問題。

確保潛在的倫理問題得到承認的方法之一是建立一個全面的框架，以方便識別在使用任何感興趣的特定技術時可能出現的倫理問題。有幾個現有的工具指導對新興技術的倫理評估，其中包括相關問題和考慮因素的清單。例如，Elin Palm和Sven Hansson提出了一個九項檢查清單，包括：信息的傳播和使用；控制、影響和權力；對社會接觸模式的影響；隱私；可持續性；人類生殖；性別、少數民族和正義；國際關系；以及對人類價值的影響。David Wright提出了一個框架，包括一些原則，在這些原則下列出了一些價值或問題，以及在評估過程中需要回答的問題：尊重自主權（自由權）；非惡意（避免傷害）；善意；正義；隱私和數據保護。Federica Lucivero、Tsjalling Swierstra和Marianne Boenink建議，倫理學家在考慮一項技術的合理性時應避免過多的猜測，而在考慮該技術將如何被社會看待并在社會中發揮作用時應使用更多的想象力。為了促進這一點，他們提出了三類考慮因素：技術可行性、社會可用性和技術的可取性。雖然這些倫理評估框架對確定與平民使用的新興技術相關的倫理問題很有用，但它們對評估軍事倫理是不夠的，因為軍事倫理有一些獨特的特點。

雖然軍事和民用倫理之間有一些共同的價值觀（例如，隱私和健康問題），但在新興技術的軍事使用方面也有特殊的考慮。例如，軍事行動必須遵守《武裝沖突法》(LOAC)，該法規定了戰爭手段并保護非戰斗人員和受沖突影響的平民。例如，加拿大武裝部隊（CAF）有一個《道德和價值觀準則》，其中規定了CAF成員必須遵守的價值觀，包括尊重加拿大法律和為加拿大服務高于自己，以及他們必須表現出的價值觀，如誠信和勇氣。

研究倫理原則對于確保包括士兵在內的人類研究對象在新技術的實驗測試階段得到道德對待至關重要。事實上，現代人類研究倫理原則是在軍事研究人員以研究名義進行的應受譴責的行為的歷史中產生的。當研究對象是軍人時，如果研究和軍事需要之間的界限變得模糊，就會出現挑戰，特別是在知情同意方面會出現復雜情況。但是，即使在設計和測試一項新技術時遵循了研究倫理原則，在使用該技術時仍可能出現倫理問題。有一些類似的倫理原則，如知情同意、隱私和保密性，在研究階段和隨后使用一項技術時都應考慮。

即使遵守了法律和法規，并考慮了其他倫理原則，如研究倫理原則，一項新技術仍不一定符合軍事用途的倫理，必須進一步考慮。例如，一項新技術是否會導致士兵之間的不平等，并導致部隊的凝聚力下降？如果一項新技術導致了意外的傷亡，誰來負責？一項技術是否會使士兵面臨被對手探測和攻擊的風險？ 在確定一項技術是否有任何軍事倫理問題時，有許多嚴重的問題需要反思。此外，還有人從反面考慮新技術和軍事倫理之間的關系，認為應該修改指導士兵行為的軍事倫理，以實現某些新興技術的潛在倫理優勢。

鑒于全面評估一項技術所需的軍事倫理考慮的數量，以及任何違反倫理的行為對戰斗的潛在嚴重性，迫切需要一個軍事專用的倫理評估工具。其他團體已經將各種倫理原則改編為討論倫理和軍事技術的框架。然而，據我們所知，還沒有一個實用的倫理評估工具，可以用來指導對軍隊感興趣的新興技術進行系統的倫理評估。

為了填補這一空白，我們創建了一個名為 "軍事倫理評估框架"（框架）的綜合框架，將相關社會、法律、研究和軍事倫理領域的廣泛考慮納入其中，以幫助用戶和決策者確定在軍事上使用人體強化技術可能產生的潛在倫理問題。盡管該框架的設計足夠廣泛，可用于對許多不同類型的新興技術進行倫理評估，但我們對該框架的初步測試側重于新興的人類增強技術，因為這些技術對軍隊有很大的意義，而且它們引起了許多倫理問題。未來的研究將檢驗該框架在識別軍隊可能感興趣的其他新興技術（如人工智能技術）所引起的倫理問題方面的效用。 本文的目的是介紹該框架，并通過展示它如何幫助識別與軍隊感興趣的兩種不同的人體增強技術有關的潛在倫理問題來說明該工具的使用。

戰爭的特點正在發生根本性的變化，這些變化對空中力量的影響尤其深遠。多域整合為空中力量和越來越多的空間力量在未來幾年內的一系列轉變做好了準備，這些轉變不僅與技術有關，而且與空軍組織和進行規劃和行動的戰略和作戰概念有關。

迫在眉睫的、不可避免的多域作戰似乎是空中力量的一個明顯的邏輯演變，它可能會引發這樣的問題：為什么我們沒有更早地沿著這些思路思考和發展作戰概念？畢竟，對優化、作戰協同和武力經濟的尋求在空中力量中是持久的。可以說，多年來，空軍及其相關部門事實上已經嘗試以某種方式或形式在多域背景下運作。然而，在整個部隊甚至整個戰區范圍內，為多域作戰（MDO）提出的早期作戰概念（CONCOPS），在多域作戰空間產生作戰協同和效果的努力是前所未有的。

諸如聯合全域指揮與控制（JADC2）這樣的結構闡述了一個作戰云賦能的未來戰爭，其中任務指揮和戰斗空間管理被有效地隱含在整個戰斗部隊中，觀察-定向-決定-行動（OODA）環路被加速到邊緣計算的速度。傳感器和通信網絡決定了空軍承擔幾乎所有傳統任務的功能能力。數據和數據流將變得比空軍傳統上對機動自由的依賴更加重要，并且有效地成為其戰略推動者。空軍力量將越來越多地與網絡而非平臺、數據而非武器系統有關。

任務的成功和失敗一直是由指揮官和作戰人員可用的態勢感知水平決定的。在新興的作戰模式中，空軍以近乎實時的速度收集、處理和利用數據的能力有效地使數據成為最大的工具和最令人垂涎的武器。收集、處理、匯總、分析、融合和傳播大量的數據、信息和知識將需要像未來有爭議的戰場上的事件速度一樣快。目前正在進行的戰爭數字化將導致在未來幾年內將 "大數據"廣泛用于作戰過程。空間領域將在實現全球范圍內連續的、有保障的和安全的通信方面發揮顯著的作用，除了更傳統的遠程監視用途外，它還被用作這種通信的運輸層。

對信息主導地位的追求將以新的和不確定的方式在物理、電磁和虛擬世界中擴展競爭的連續性。隨著空軍對帶有嵌入式人工智能（AI）工具和應用的作戰云的使用，新的風險、脆弱性和故障點將被引入。本出版物收集了來自世界各地領先的思想家的文章和見解，對多域整合和空中力量的信息優勢框架和概念的一些最相關問題提供了深入的觀點。這里的觀點和討論反映了當前對各種戰略、指揮和作戰層面的思考，讀者會發現這些思考對他們更廣泛的理解很有幫助。

這里介紹的專家展望本身既不樂觀也不悲觀，正如我們所期望的那樣，所確認的是各種新技術促成的 "飛躍"機會正在地平線上形成，但其有效利用帶來了復雜和破壞性的新挑戰。在強調其中一些關鍵的挑戰和更好地理解這些挑戰的必要性的同時，正如通常的情況一樣，沒有快速的解決辦法或現成的解決方案。然而，有令人信服的理由認為，今天所預見的眾多挑戰似乎在理論上和技術上是可以克服的，有些甚至在未來幾年內就可以克服。在未來存在的許多不確定因素中，可以肯定的是，空中力量將被徹底重新定義。

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。