在過去的75年里，蘭德公司進行了支持美國國家安全的研究，目前為聯邦政府管理著四個聯邦資助的研究和發展中心（FFRDCs）：一個為國土安全部（DHS），三個為國防部（DoD）。本文將重點評論國防部如何能夠最好地確保人工智能（AI）的進展有利于美國國家安全，而不是降低它。

在一系列廣泛的技術中，人工智能因其進展速度和應用范圍而脫穎而出。人工智能具有廣泛改變整個行業的潛力，包括對我們未來經濟競爭力和國家安全至關重要的行業。由于幾個原因，將人工智能納入我們的國家安全計劃帶來了特殊的挑戰：

• 這些技術是由商業實體驅動的，而這些商業實體經常在國家安全框架之外。

• 這些技術正在迅速發展，通常超過了政府內部的政策和組織改革。

• 對這些技術的評估需要集中在私營部門的專業知識，而這些專業知識很少被用于國家安全。

• 這些技術缺乏區分良性和惡意使用的常規情報特征。

美國目前是全球人工智能的領導者；然而，這種情況可能會改變，因為中國尋求在2030年前成為世界主要的人工智能創新中心--這是中國人工智能國家戰略的明確目標。此外，中國和俄羅斯都在追求軍事化的人工智能技術，加劇了挑戰。作為回應，將強調美國防部可以采取的四組行動：

1.確保美國防部的網絡安全戰略和網絡紅方活動跟蹤可能影響網絡防御和網絡進攻的人工智能的發展，如網絡武器的自動開發。

2.為防止不良行為者獲得先進的人工智能系統，(1)確保對領先的人工智能芯片和芯片制造設備進行強有力的出口控制，同時許可芯片的良性使用，如果需要的話，可以進行遠程節流；(2)利用國防生產法的授權，要求公司報告大型人工智能計算集群、訓練運行和訓練模型的開發或分發情況；(3) 在美國防部與云計算供應商簽訂的合同中，要求他們在訓練大型人工智能模型之前對所有客戶進行 "了解你的客戶 "篩選；(4) 在美國防部與人工智能開發商簽訂的合同中包括 "了解你的客戶 "篩選，以及強大的網絡安全要求，以防止大型人工智能模型被盜。

3.與情報界合作，大幅擴大收集和分析敵國參與人工智能的關鍵外國公共和私營部門行為者的信息，包括評估關鍵外國公共和私營實體；他們的基礎設施、投資和能力；以及他們的工具、材料和人才供應鏈。通過以下方式加強國防部開展此類活動的機構能力：（1）在美國和盟國政府機構、學術實驗室和工業公司之間建立新的伙伴關系和信息共享協議；（2）招募私營部門的人工智能專家以短期或兼職的方式為政府服務。

4.投資于人工智能安全的潛在計劃，包括（1）嵌入人工智能芯片的微電子控制，以防止開發沒有安全保障的大型人工智能模型，以及（2）在部署人工智能系統之前評估其安全性的通用方法。

2022年7月，喬治敦大學安全與新興技術中心（CSET）和斯坦福大學網絡政策中心的地緣政治、技術和治理項目召開了一次專家研討會，研究人工智能系統的漏洞與更傳統類型的軟件漏洞之間的關系。討論的主題包括：人工智能漏洞在多大程度上可以根據標準網絡安全程序進行處理，目前阻礙準確分享人工智能漏洞信息的障礙，與人工智能系統的對抗性攻擊有關的法律問題，以及政府支持可以改善人工智能漏洞管理和緩解的潛在領域。

參加研討會的人員包括擔任網絡安全和人工智能紅隊角色的行業代表；具有進行對抗性機器學習研究經驗的學者；網絡安全監管、人工智能責任和計算機相關刑法方面的法律專家；以及負有重要人工智能監督職責的政府代表。

本報告旨在完成兩件事。首先，它提供了一個關于人工智能漏洞的高層次討論，包括它們與其他類型的漏洞不相似的方式，以及關于人工智能漏洞的信息共享和法律監督的當前狀況。其次，它試圖闡明研討會上大多數與會者所認可的廣泛建議。這些建議分為四個高層次的主題，具體內容如下：

1.主題：為人工智能漏洞擴展傳統的網絡安全

1.1. 建議：構建或部署人工智能模型的組織應使用一個風險管理框架，解決整個人工智能系統生命周期的安全問題。

1.2. 建議：惡意機器學習研究人員、網絡安全從業人員和人工智能組織應積極嘗試擴展現有的網絡安全流程，以涵蓋人工智能漏洞。

1.3. 建議：對抗性機器學習領域的研究人員和從業人員應與處理人工智能偏見和穩健性的人員以及其他具有相關專業知識的社區進行磋商。

2.主題： 改善信息共享和組織安全心態

2.1. 建議：部署人工智能系統的組織應追求信息共享安排，以促進對威脅的理解。

2.2. 建議：人工智能部署者應強調建立一種安全文化，在產品生命周期的每個階段都嵌入人工智能開發中。

2.3. 建議：高風險人工智能系統的開發者和部署者必須將透明度放在首位。

3.主題：澄清人工智能漏洞的法律地位

3.1. 建議： 擁有網絡安全權力的美國政府機構應澄清基于人工智能的安全問題如何適應其監管結構。

3.2. 建議： 目前沒有必要修改反黑客法來專門解決攻擊人工智能系統的問題。

4.主題： 支持有效研究以提高人工智能安全

4.1. 建議： 攻擊性機器學習研究人員和網絡安全從業人員應尋求比過去更緊密的合作。

4.2. 建議： 促進人工智能研究的公共努力應更多地強調人工智能安全，包括通過資助可促進更安全的人工智能開發的開源工具。

4.3. 建議： 政府政策制定者應該超越標準的制定，提供測試平臺或促成審計以評估人工智能模型的安全性。

二十世紀末，隨著電子作戰秩序、電子戰、信息戰和以網絡為中心的作戰等新概念的發展，戰線的量化開始引起人們的興趣。今天，現代武裝力量的幾乎所有組成部分都已經裝備了以軟件和硬件為支撐的系統。雖然大多數軍事系統是通過與網絡空間隔離來操作的，但有一些項目正在開發中，以便在不久的將來創建一個軍事物聯網。

網絡威脅是所有在網絡空間運行的系統最重要的安全問題。這就是為什么網絡空間活動的有效開展取決于對網絡威脅的積極定義、識別、分析和緩解。同時，屬于網絡安全范圍的大多數概念可以有兩種使用方式--就像網絡武器可以用于網絡防御和網絡攻擊。這就是為什么構成關鍵基礎設施的部件被損壞會直接導致國家安全的脆弱性。因此，確保所有民用和軍用層的有效網絡安全，必須作為一個優先事項來對待。

1 引言

"數據 "被定義為 "以有利于交流、解釋和處理的形式表示事實、概念或命令"，構成了當今數字化世界中最重要的組成部分之一，也被認為是涵蓋所有生活領域的重要資產。包括人類在內的所有生物，以及地球上以技術為基礎的系統都作為數據源運作。這些數據經過信息系統的處理，轉化為信息，用于私人、一般或跨學科領域，并以持續的數據流的形式用于提高人們的生活質量和有效利用現有資源。在有效實現這一數據流的過程中，使用了由智能傳感器、將提供快速和不間斷通信的通信技術以及用于快速決策的決策支持系統組成的網絡結構。在創建這些智能網絡產生或使用的所有信息時，需要有效的接口軟件、機器學習技術、網狀網絡結構和云計算技術來建立系統之間的通信標準。由于這些跨學科的技術，即時的數據變化可以被有效地跟蹤，并可以進行迅速的決策過程。網絡空間是一個高度動態的環境，被用來實現這種敏捷性。網絡空間被定義為 "一個網絡化的全球環境，其中信息技術基礎設施，包括互聯網、通信網絡、計算機系統、嵌入式處理器和控制器，都是相互連接的"。

當考慮到這個定義時，網絡空間代表了一個無限的綜合物理/虛擬環境，不僅基于互聯網，而且還有可以通過不同的網絡結構相互交流的系統。換句話說，網絡空間是一個環境，在這個環境中發生了獲取、使用和存儲數據/信息的過程。此外，雖然它是一個虛擬的環境，但其影響是物理的。

對網絡空間概念的處理方法并不局限于對概念的定義，還包括確定其態勢地位。在這種情況下，網絡空間被定位為由陸地、海洋、空中和空間組成的四個維度之外的第五個維度。同時還指出，雖然這五個維度中的每個維度都被認為是相互獨立的，而且交集區域有限，但網絡空間的節點（連接點）與每個維度都有聯系。網絡空間，如圖1所示，主要分三部分考察：物理層、邏輯層和社會層。在這三層中，物理層和社會層也被分為兩個子部分。

圖1:網絡空間的層次

以下是這些層次及其子組件的總結：

• 物理層由地理和網絡部分組成。地理組件是依靠現有網絡工作的信息系統所在的環境。物理網絡組件是有線/無線/光學基礎設施以及提供接入這些基礎設施的各種技術組件。

• 邏輯層規定了現有網絡所連接的節點。這些通信節點包含了各種信息系統，包括計算機、智能手機和傳感器。

• 社會層由現實和網絡（虛擬）用戶組成。雖然用戶組件僅指實際存在的用戶，但網絡用戶組件可以比實際用戶組件多得多。

當我們思考我們使用的技術時，我們可以看到，網絡空間層實際上是我們生活的一部分。這些環境包括教育、通信、所有能源生產資源、健康、金融、安全、銀行、化學、國防、法律、運輸、供應鏈、航空和空間。

在這些條件下，確保與網絡空間通信的系統的安全與在網絡空間中運行同樣重要。這種保護涵蓋了數據的不同過程，包括生產、存儲和傳輸。需要保護的數據不僅包括數字，還包括物理價值。

物理環境可以概括為手寫的文件、打印的文件和保存這些文件的文件、官方或私人信件/報告、傳真打印件和會議室。數字環境可以概括為各種文件、電子郵件、數據庫中的社交媒體數據、云計算系統、信息系統或外部記憶。也許其中最重要的信息來源是人。由于所有這些組件都在一個空間內運行，因此確保環境的物理安全也很重要。在這個階段，信息安全的概念凸顯出來，它被定義為 "試圖通過為正確的目的和正確的方式使用正確的技術來防止不受歡迎的人在各種環境中獲取信息資產，以保護信息作為一種資產免受威脅或危險"。

如圖2所示，可以在三個主要標題下考察信息安全的組成部分：可訪問性、完整性和保密性。

圖2:信息安全組件

• 可訪問性是指保護信息和信息系統不被未經授權的訪問所破壞。及時和可靠地獲取信息和信息系統。

• 完整性是指防止未經授權的編輯或刪除信息，以確保信息和信息系統的準確、完整和完整。

• 保密性是指保護信息免受未經授權的訪問或披露。它允許那些有權獲取信息的人這樣做，同時防止未經授權的人這樣做。

當我們研究這些簡短的定義和信息安全的組成部分時，我們可以說，信息安全的概念很廣泛，足以涵蓋所有共享環境的人和設備，從機構、校園、家庭或工作場所的入口門開始。然而，今天幾乎所有與這些要素相關的技術都在繼續與網絡空間有關的活動。在線活動，特別是在COVID-19爆發期間，已經把我們的日常生活空間變成了一個正式的工作環境或教室。因此，安全的概念是通過確保網絡空間維度的安全來實現的，所有這些因素都是共享的，而不僅僅是物理環境、產出或生產數據。這種對安全的理解將 "網絡安全 "的概念帶到了信息安全之外的最前沿。

2 網絡安全

國際電信聯盟將網絡安全定義為 "可用于保護網絡環境、組織和用戶資產的工具、政策、安全概念、安全措施、準則、風險管理方法、行動、培訓、最佳實踐、保證和技術的總體"。它包含了個人或機構通過用戶資產和信息處理設備、人員、基礎設施、應用程序、服務、通信系統以及與系統相連的網絡空間設施所產生和/或儲存的所有信息。

當我們研究這個定義時，我們可以看到，網絡安全的概念涵蓋了所有的虛擬和物理環境。當然，這些環境不僅包括信息系統的硬件和軟件，還包括提供這些系統與所有使用網絡空間的系統之間的通信技術。

為此，為了保護任何物體、生物或數據，我們需要知道我們會遇到什么樣的威脅，換句話說，我們需要能夠定義威脅。當涉及到網絡安全時，研究這些威脅來源和威脅積極使用的方法是非常有用的。

2.1 網絡威脅

網絡威脅可以定義為利用網絡空間環境破壞硬件、軟件、物理環境等利益相關者的活動，并削弱系統的確定性的因素。對于所有在網絡空間運行的系統，網絡威脅構成了最重要的安全挑戰。因此，網絡空間活動的有效實現取決于有效的網絡威脅識別、檢測、分析，以及降低威脅程度/損害風險。在這種情況下，圖3可用于要進行的基本識別活動。

圖3:網絡威脅

根據圖3，首先，必須確定網絡威脅是由人引起的還是基于軟件的。通過這種分類，目的是確定使用了什么有害的軟件，以及惡意的人用什么策略開發了該軟件。

2.1.1 惡意軟件

惡意軟件是任何旨在損害在網絡空間運行的任何系統或利用網絡空間活動的軟件的通用名稱。最基本的惡意軟件來源是病毒、木馬、蠕蟲、間諜軟件、勒索軟件、加密劫持和rootkits。以下是對這些惡意軟件來源的簡要描述。

• 病毒。最古老的惡意軟件類型。它們可以存儲在任何類型的傳輸文件中。它們可以修改現有的程序，并在創建適當的環境時將自己復制到其他信息系統。

• 特洛伊木馬。偽裝成無害程序的惡意軟件，但在用戶不知情的情況下進行感染，當被制造這種惡意軟件的人激活時，可以導致你的文件被共享、修改、跟蹤和刪除。特洛伊木馬不能自行感染另一個系統并成為活動的。

• 蠕蟲。就像病毒一樣，它們可以繁殖并感染信息系統。這種增殖在它所在的系統和它所感染的系統中都會出現非常大的數量。由于這個原因，它們導致信息系統的網絡流量大量擁堵，并減慢網絡連接訪問速度。

• 間諜軟件。它們用信息系統中的數據收集系統用戶的信息，并與感染間諜軟件的人共享。共享的數據可以是各種金融信息，如電子商務、銀行和信用卡密碼，以及信息系統中的所有數據和文件。

• 勒索軟件。一種惡意軟件，通過加密用戶創建的文件或它們所感染的信息系統中的整個信息系統，使其無法使用。要求用戶支付一定數額的贖金，以使信息系統再次被訪問。

• 密碼劫持。在用戶不知情的情況下安插在用戶的信息系統中。然后，它利用它所感染的信息系統的處理能力來挖掘加密貨幣。

• Rootkits: 一種惡意軟件，允許惡意者訪問和控制目標信息系統。你的信息系統在被rootkit感染后會變成一個完整的僵尸信息系統。

• 后門程序。這些軟件可以使傳統的安全裝置失效，并在用戶不知情的情況下打開信息系統進行遠程訪問。特洛伊木馬經常被用來制造后門。大多數情況下，它們在復雜的攻擊之前被加載到信息系統中，并等待攻擊的那一天變得活躍。

2.1.2 用戶造成的網絡威脅

用戶在網絡安全漏洞的范圍內發揮著重要作用。有些人可以用他們自覺/不自覺或有意/無意的各種習慣來破壞信息系統的安全，甚至可能造成網絡安全的破壞。大多數與不知道或不自覺地造成傷害的活動，多與缺乏技術知識有關。在這些情況下，在這種活動中造成的損害可能不涉及系統的過程，因為它不是故意的和有組織的。然而，一些網絡安全事件可能是由具有惡意的人直接進行的。

這些人為造成的網絡威脅，無論是個人的還是有組織的，一般涉及四種類型的活動。

• 欺詐性目的：利用屬于機構的數據謀取私利。

• 破壞信息技術。針對機構的大型和不可預測的行動，旨在阻止整個基礎設施的可用性。

• 盜竊知識產權。未經授權泄漏屬于公司的版權、專利、商標和商業秘密。

• 間諜活動。非法獲取工業或政府組織的各種數據。

此外，當從整體角度審視這一過程時，不應忘記，惡意軟件范圍內規定的因素和人為因素可以一起使用。這種情況也預示著惡意軟件和人為造成的威脅都將隨著技術的發展而迅速轉變。面對這些不斷變化的威脅，由網絡安全研究人員提出并有效使用的 "網絡攻擊生命周期 "的概念已經變得非常重要。

2.2 網絡攻擊生命周期

要討論在網絡空間運行的所有系統或受益于網絡空間設施的100%安全環境是不可能的。這是因為信息技術的不斷發展也轉變了網絡威脅的來源。最大限度地減少網絡威脅的影響的方法是進行詳細和最新的風險分析。為了使這種分析準確，需要可靠的數據。因此，有必要通過分析檢測到的威脅數據來確定威脅，并確定威脅的類型和攻擊階段。換句話說，要針對威脅尋找 "它是什么？"、"它在哪里？"、"它做什么？"這些問題的答案。然而，當威脅來自網絡空間時，就很難找到這些問題的答案，而且識別威脅所需的時間也很長。在這種情況下，可以做的是發展 "以網絡威脅源為中心的思維"。幫助發展這一思想的最重要因素是被描述為 "網絡攻擊生命周期 "的過程，如圖4所示。

圖4:網絡攻擊生命周期

網絡攻擊的生命周期顯示了網絡攻擊者的活動和攻擊過程。在這個過程中，首先要確定網絡攻擊的目標。

在確定目標的過程中或目標確定后，通過使用端口掃描、社會工程、網絡滲透和流量監測等方法收集目標系統的信息。在確定了薄弱環節后，開始分析如何捕獲目標系統的策略。

在這個階段，如何攻擊目標信息系統，將使用哪種攻擊技術，以及使用哪種網絡攻擊工具，如惡意軟件的類型，都要決定。根據這些決定，目標系統被攻擊，系統被滲透。在這種滲透之后，有針對性的目標，如竊取信息，改變信息，加密數據或信息系統，或刪除數據，都會被執行。在信息系統的預定攻擊活動結束后，現有的痕跡開始被刪除。在這里，攻擊者的信息和技術基礎設施越強大，刪除痕跡的活動就越成功。因為留下痕跡意味著促進或加速對信息系統中產生的異常現象的檢測。出于這個原因，網絡痕跡要盡可能有效地消除。最后一個階段是評估由于這次攻擊而獲得的利益/收益。在完成這個周期后，開始尋找新的目標。換句話說，這個過程在其他目標或同一目標的不同組成部分中繼續進行。

被攻擊單位對這一周期的適當評估將有助于在檢測、識別和追蹤網絡攻擊者的階段中獲得重要線索。也許這里要考慮的最重要的問題是網絡攻擊中使用的威脅源對被攻擊系統的影響，用利益/收益的表述來簡單描述。準確地確定和識別這種影響可以成為阻止網絡攻擊者實現其目標的一個機會。

2.3 網絡威脅影響評估與威懾

解決任何問題或議題的第一步是要從整體角度正確定義問題或議題，并發掘其相關性。在這種情況下，為了能夠分析問題或議題，必須找到該問題的根源，并以科學的分析方法從部分到整體進行。換句話說，必須對根本原因和問題之間的過程進行正確的建模或分類。由于這種分類，由于需要集中關注的領域將從其他領域中分離出來，注意力將集中在事件上，能量將得到有效的利用。

2.3.1 網絡威脅影響評估

為了在網絡威脅影響評估的范圍內得出結論，我們需要將威脅源與危害等級進行比較。在學術資料中使用 "網絡威脅譜 "或 "網絡威脅等級 "的研究中，最不應該忽視的一點是，這些分類/評估的威脅都可以針對個人、機構或國家。

圖5是對 "網絡威脅譜 "研究的圖解，它表現為網絡威脅的比較和這些網絡威脅的危險程度。事實上，這個結構是為了分類而進行的，在我們的研究中，將從網絡威脅影響評估的方法中進行研究。

圖5:網絡威脅譜

根據圖5，有七種類型的網絡威脅：個人網絡攻擊者，小規模的犯罪分子，互聯網用于恐怖主義目的，網絡間諜，有組織的犯罪分子，國家支持的網絡攻擊，以及國家支持的網絡動能攻擊。這些類型在一個由 "網絡威脅 "和 "危險等級 "組成的二維宇宙中進行比較，并根據網絡威脅的危險等級分類，從低到高進行劃分。在這種情況下，"個人網絡攻擊者 "在威脅和危險等級方面的威脅最小，而 "國家支持的網絡動力攻擊 "的威脅影響值最高。在這里，"國家支持的網絡動能攻擊 "的一個例子是在沒有任何物理接觸/攻擊的情況下，由于網絡攻擊而使發電設施無法運行。

在研究的第一種方法中，稱為 "網絡威脅等級"，等級被分為五類："網絡破壞"、"網絡欺詐"、"網絡監控"、"網絡間諜 "和 "網絡戰爭"，如表1所示。

表1:網絡威脅等級

這五個威脅級別通過兩個主要部分進行了研究。"網絡攻擊者的類型 "和 "網絡攻擊者的目的和目標"。在這個網絡威脅分類中，影響值最小的級別被定義為 "網絡破壞"，由小型攻擊者團體代表，而被列為影響潛力最大的 "網絡戰爭 "則由軍事單位代表。

在網絡威脅等級范圍內進行的另一項研究中，網絡威脅通過五個類別進行研究：黑客行動、網絡犯罪、網絡間諜、網絡恐怖主義和網絡戰爭，如圖6所示。這些類別與三個影響值相比較：動機、行為者和目標。

圖6:網絡威脅等級

在這里，雖然網絡威脅的影響值（嚴重性）從 "黑客行動 "增加到 "網絡戰爭"，但每個網絡威脅所包含的問題都從其動機、參與活動的行為者和他們的目標方面進行審查。

在此背景下考察的三項研究統統顯示在表2中，并注明了作者的名字：

表2:網絡威脅評估總表

在這三項研究中--在內容和出版日期方面都不盡相同--最低的威脅級別被認為是基于人的威脅，而最高級別的威脅評估則被列為 "網絡戰"。然而，網絡威脅評估不是一個結論，而是一個過程的開始，這個過程將成為確定網絡攻擊有效性的基礎。在這種情況下，人腦的功能結構可以作為分析過程的一個模型。

人腦在分析任何問題時，會評估其環境中的現象，并在三維尺度上形成一套解決方案。除了本節所述的三項研究，另一項研究設計了一個三維的網絡攻擊空間，如圖7所示，并關注網絡攻擊的影響程度：

圖7:三維環境模型中的網絡攻擊效果

網絡攻擊包括三個方面。"攻擊嚴重程度"、"轉化過程 "和 "攻擊持續時間"。因此，要進行的攻擊的有效性是在三個軸上評估的，彼此不同，并且是綜合的，如圖7所示。

例如，假設圖8中所示的字母A、B和C代表三種不同的網絡攻擊。

圖8：網絡攻擊有效性的三個維度的實例說明

在這里，當我們看A、B、C三個維度的網絡威脅的預測時，我們看到影響值是不同的。例如，可以看到B1>A1>C1是在 "攻擊嚴重程度 "軸上，C2>B2>A2是在 "轉化過程 "軸上，C3>B3>A3是在 "攻擊持續時間 "維度上。換句話說，雖然B網絡攻擊源對 "攻擊嚴重性 "軸的影響最大，但C網絡攻擊源對 "轉化過程 "和 "攻擊時間 "軸的影響最大。因此，在威脅評估階段對差異進行分類是非常重要的。我們評估這種威脅的速度越快，應對所需的時間越長，威懾的程度就越成功。

2.3.2 網絡威懾

"威懾 "一詞被定義為 "采取措施防止和阻止侵略的工作"。換句話說，"它是指在不以現有手段進行任何攻擊的情況下，使對方中立的能力"。雖然它多用于軍事文獻，但網絡威懾的概念在學術文獻中也占有一席之地，特別是自2010年代以來，人們將網絡空間視為威脅源，并將網絡威脅視為網絡物理環境中的有效元素。

特別是在旨在發展網絡戰概念的研究中，網絡威懾被強調，可以用圖形來表達，如圖9所示。

圖9:網絡威懾

在這種分類中，與國家戰斗力和效果有關的威懾指標按照外交和經濟條件（盡管所有條件都很重要）、網絡能力、物質力量水平和核能力進行分級。在這種情況下做出的排名中，雖然外交和經濟條件被評價為具有最少的威懾水平，但核能力被認為是最重要的力量倍增器，即具有最高威懾系數的組成部分。因此，根據這一評價，僅僅擁有核能力就可以提供最高水平的威懾力。

在2009年進行的研究六年后進行的另一項研究中，圖10中規定的條件引起了人們的注意。

圖10:可能的張力模式

根據圖10中的圖表，核能力自然保持在頂端的位置，而網絡攻擊則根據其規模/體積條件位于動能攻擊的下方和上方。這表明，在當今世界，大規模的網絡攻擊已經幾乎等同于核能力。事實上，由于使用核武器會造成長期的健康（放射性）威脅，所以核武器只能繼續發揮威懾作用，而大規模的網絡攻擊卻可以在很多領域發揮作用。此外，由于核武器是在國家的控制之下，它們可能更容易控制。然而，網絡攻擊者可以很容易地進行不同層次的網絡攻擊，如圖5和圖6以及表1和表2中的圖表所示。

網絡攻擊如此有效，而且幾乎達到了核武器的效力水平，這就提出了一個問題：戰略是否是效力的唯一決定因素。雖然所確定的策略在這些攻擊的有效性中占有重要地位，但實現這些策略的最重要因素是攻擊中使用的惡意軟件類型，我們可以稱之為網絡武器。

3 網絡武器

在過去和現在，正常的武器系統被稱為 "經典（常規）武器"，而 "大規模殺傷性武器 "則根據其影響因素被列為 "經典武器"，并以其使用的技術名稱來稱呼，如 "生物武器"、"化學武器"、"核武器 "和 "網絡武器"。

除網絡武器外，所有的武器都是通過各種平臺向其目標實際發送的。它們造成的物理破壞程度是確定的，其結果可以通過物理方式進行評估。另一方面，網絡武器不由任何外部平臺攜帶，不由任何系統引導，其破壞程度也不能被傳統的偵察工具發現。然而，它們造成的物理影響至少與其他武器系統一樣多。

導向導彈可以被研究為除網絡武器以外的所有彈頭的最先進武器系統。導向導彈由四個基本部分組成：推進系統、搜索線圈、制導系統和彈頭（彈藥），如圖11所示。

圖11：制導導彈的基本部分

這些部件是：

• 制導系統，包括設計有主動、被動或半主動制導方法的搜索線圈，根據使用環境配備紅外（infrared-IR）、射頻（RF）或各種探測器，以及比載人航空平臺更優越的機動系統。

• 火箭發動機是決定導彈速度和射程的推進系統。

• 根據影響和破壞程度準備的炸藥。

在網絡武器中，將瞄準網絡目標的制導系統、提供推力的發動機系統和影響破壞程度的彈頭，都聚集在惡意軟件中。因此，開發、使用和確定網絡武器效果的所有活動都是在網絡空間條件下進行的。然而，網絡武器攻擊的后果往往可以在一定時間后表現為物理破壞。如果你沒有一個強大的網絡防御系統，你甚至可能沒有意識到攻擊已經進行了很長時間。

3.1 網絡武器和設計階段

網絡武器的識別或監管不僅在國際法研究者中，而且在信息技術和國際政治的專家以及安全研究者中都被認為是一個未解決的問題。換句話說，考慮到網絡武器一詞的各種技術、法律、安全和政治方面，不太可能確定一個普遍接受的定義。這種模糊性類似于缺乏國際公認的恐怖主義的定義。

然而，雖然這種不確定性只表現在定義上，但對網絡武器的研究仍在繼續。圖12展示了利用另一項專注于網絡武器不同層面的研究，在演示方面做了一些補充的概念性表述，并在同一來源的范圍內總結了與此過程有關的評價。

圖12：網絡武器使用理念的概念表述

在這里，行動者表示國家、非國家實體，以及這兩個因素共同使用的混合地區。"國家 "指的是政治結構、治理的政府和屬于這些國家的官方機構。這種高級別的形成具有經濟、政治、技術和軍事設施，并在一定的過程中創造戰略，按照這些戰略設計/已設計，測試/已測試，一旦評估到必要性，就可以使用。然而，像國家機關這樣的大型結構往往不可能在這個過程的范圍內采取行動和迅速行動。

另一方面，非國家行為者可以根據個人的、意識形態的、經濟的或道德的價值觀采取行動，而不需要與國家組成部分接觸。這些結構中的大多數，我們可以標記為黑客、網絡專業人士、安全研究人員、私人組織或機構，可以更靈活、更快速地完成網絡武器的開發過程。雖然國家在常規武器方面更有經驗和生產力，特別是考慮到他們的經濟手段，但由于經濟資源有限，非國家行為者更有動力專注于開發網絡武器。

混合行為體所表達的問題代表了國家和非國家行為體，或者非國家行為體和惡意的個人或組織聯合行動的情況。這些網絡武器可以被有經濟或社會關切的國家使用，也可以被惡意的組織用于網絡恐怖主義、網絡犯罪和網絡戰爭攻擊等活動

第二步是根據網絡空間內外的行為者所確定的目的/目標來定義目標，并在定義的目標中選擇適當的目標。在這個過程中，選擇目標并確定其優先次序，可以簡稱為 "目標選擇過程"。

雖然在研究中沒有提到，但在這個過程的范圍內，有必要設計或提供針對目標的網絡武器。

在采取行動的范圍內，根據行為人的目的，確定用指定的網絡武器對目標進行攻擊。

在所有這些過程進行后，對所使用的網絡武器對目標的影響進行檢查。就像在物理攻擊中，可能會遇到理想的效果，也可能會遇到不想要的效果。在這兩種情況下，這些影響都是根據預期或意外的結果來評估的。

在一項調查網絡武器控制的可能性的研究中，網絡武器被分為三個部分進行評估。

• 僅用于攻擊或造成傷害的攻擊性武器。

• 僅用于攻擊或傷害目的的網絡攻擊武器。

• 用于保護免受網絡攻擊武器攻擊的網絡防御武器。

3.2 網絡武器發展過程

如前所述，盡管網絡武器的概念存在不確定性，但關于這個問題最詳細的研究可能是由Maathuis等人完成的。

在這項研究中，網絡武器的發展過程被確定為識別、偵察、設計、開發、測試、驗證、入侵和控制、攻擊、維護和滲透。

4 網絡武器對物理武器系統和平臺的影響

隨著 "電子戰爭秩序"、"電子戰爭"、"信息戰爭 "和 "以網絡為中心的行動 "等概念的出現，戰線的數字化已經提上日程，這些概念在20世紀末開始發展。目前，我們看到，現代武裝部隊的幾乎所有組成部分都配備了軟件和硬件支持的系統。盡管大多數軍事系統在與網絡空間環境隔離的情況下運作，但他們正在開發項目，以便在不久的將來創建戰場物聯網基礎設施。雖然今天沒有任何發展可以給出具體的例子，但通過學術界各科學分支提出的論文，可以了解到發展的領域。計劃或設想在此范圍內的環境包括軍事（友好和威脅）和民用傳感器節點，除了現有的智能傳感器外，還包括三維雷達和激光圖像檢測和測距傳感器。這些網絡結構的規劃量將涵蓋廣泛的網絡地理，從小型機載計算設備到強大的邊緣云。這種硬件驅動的環境還必須得到時間、性能/功能、安全和可靠性的支持。在這種情況下，它需要利用側信道傳播發現民用和威脅節點的算法，需要快速自上而下合成特定任務軍事對象的互聯網功能的算法，以及風險評估。報告還指出，將需要用算法支持傳感器觀測，以利用傳感器觀測的物理動態，確保在數據污染的情況下進行安全和靈活的情況預測和控制。

3.1 網絡戰原則

網絡戰的原則在八個小標題下進行審查。"沒有物理邊界"、"物理（動能）效應"、"保密性"、"可變性和不一致性"、"身份和特權"、"雙重使用"、"基礎設施控制 "和 "信息作為作戰環境"。這些小節總結如下。

3.1.1 物理邊界的缺失

在物理世界中，每個平臺都在其定義的地理區域和指定的時間范圍內運作。距離和空間的物理限制并不適用于網絡空間。網絡空間的物理距離既不是執行攻擊的障礙，也不是執行攻擊的促進因素。一個網絡攻擊可以從世界的另一端或從隔壁的房間以同樣的效力進行。雖然在動能世界中實現目標有物理限制，但在網絡空間中探測和捕獲目標沒有類似的限制。網絡攻擊者甚至可以在不消耗大量時間和/或材料的情況下創造和制造多個網絡武器的副本。

3.1.2 物理(動力學)效應

網絡戰的目的是為了創造物理效應。這涉及到物理損害或簡單地影響目標行為者的決策過程。一個最熱門的問題是，哪些網絡事件應被視為網絡戰爭。我們所說的實體戰爭的概念一般是以使用國家的武裝部隊的形式實現的。這在聯合國的立法中得到了明確的闡述。

然而，國際上對網絡戰并沒有明確的定義。關于這個問題最重要的研究是劍橋大學出版的《塔林手冊》，其第一版和第二版都以數字形式出版。

網絡戰概念的另一種方法包括針對關鍵基礎設施的網絡攻擊。"關鍵基礎設施；容納信息系統的基礎設施，如果其處理的信息的保密性、完整性或可訪問性受到損害，這可能導致生命損失、大規模經濟損失、國家安全赤字或公共秩序的破壞"。

在這種情況下，對伊朗納坦茲核設施的網絡攻擊被認為是第一個網絡戰事件。簡而言之，網絡攻擊的目標不是可能造成核污染的物理攻擊，而是使該設施中心的反應堆失效。為了做到這一點，該攻擊旨在加速、減慢和破壞離心機系統的穩定性，而離心機是反應堆的一個重要組成部分。為了實現這一目標，對控制上述系統的SCADA系統的網絡攻擊已經提上日程。在這種情況下創建的惡意軟件被發送到伊朗，轉移到設施信息系統，加載到生產階段使用的微控制器上（制造商不知情），并在攻擊當天激活。這次攻擊的出現是通過調查這種破壞的根源進行的，因為它在不同國家的設施中被激活，這些設施收到了加載有惡意軟件的其他微控制器，并發生了類似的破壞。這次攻擊以 "stuxnet "的名義開始了網絡戰的歷史。

3.1.3 隱私

人們可以采取積極措施隱藏在網絡空間，但我們在網絡空間所做的一切是可見的。不存在完全隱藏的事情。只有較少的可探測的痕跡，即試圖隱藏現有數據流中的異常值。因此，在網絡空間中不能采取類似于在物理世界中通過冷卻紅外信號來隱藏雷達能量的步驟。相反，它試圖從現有的數據流中存儲證據。

3.1.4 可變性和不一致性

在網絡戰中，差異可以轉化為不總是以相同方式進行的攻擊，改變攻擊的環境，以及攻擊性能的波動。網絡空間不變的一面是需要物理世界的變化。例如，除非物理世界中的人使用更快的處理器，否則軟件性能不會超過計算機的處理能力。通信帶寬將受到通信基礎設施的限制。

這一原則的一個影響是，你永遠無法確定攻擊中的某一步驟會成功。攻擊是利用數據路徑來計劃的，這些數據路徑表明系統狀態從最初的威脅訪問到到達目標點的變化。這個過程中的每條路徑都包含了一組攻擊方案，或一組特定攻擊者可以到達的攻擊方案。

3.1.5 身份和特權

網絡空間中的某些個人可能具有執行攻擊者想要執行的任何操作的權限、訪問權限或能力。攻擊者的目標是嘗試獲取該人的身份以隱藏其身份。

3.1.6 雙重用途

網絡戰平臺是雙重用途的，就像實體作戰系統一樣。使用最新技術的戰機（如F-16）既可用于攻擊地面目標，也可用于從空中防御敵機。決定這種使用方式的最重要因素是使用的彈藥。在網絡戰中，同樣的工具被用于攻擊和防御，既有硬件也有軟件。例如，在攻擊時使用漏洞掃描器，而類似的瀏覽器則用于尋找和修復其系統的弱點。同樣，網絡管理員用于診斷網絡問題的設備也被攻擊者用于偵察。

3.1.7 基礎設施控制

防御者和攻擊者都控制著他們所使用的網絡空間的一小部分。誰能控制對手使用的一部分網絡空間，誰就能控制他的對手。出于這個原因，滲透測試等方法是通過事先模擬對其網絡的攻擊來確定對威脅的脆弱程度。

3.1.8 作為作戰環境的信息

在物理戰爭中，地形條件、天氣、威脅部隊的位置等要素都會影響作戰環境，而在網絡空間環境中，這一過程由信息系統、依靠現有網絡工作的有線/無線/光學基礎設施以及提供進入這些基礎設施的各種技術組件組成。因此，在實體戰和網絡戰環境中，信息被認為是最重要的力量倍增器。

3.2 網絡作戰格局的整體視圖

在建立有形的武裝力量中，最重要的組成部分應該是人員、情報、后勤和行動。所有這些領域都構成了一個重要的軍事力量要素，具有強大的指揮-控制-通信-計算機-情報-監視-偵察結構。

就網絡戰而言，在使用類似結構的網絡空間環境時，圖13中總結的結構尤為重要。

圖13：網絡作戰環境的整體分析

在傳感器系統以及動能和網絡武器系統出現的同時，一個不間斷的安全通信網絡也開始發揮作用。在這種情況下，這些系統的摘要可在以下小標題下獲得。

3.2.1 網絡指揮和控制系統

網絡指揮和控制系統負責與計劃活動的人/人一起成功完成既定任務，如路由、協調和控制，以及用各種方法和技術定期檢查人員、設備、網絡基礎設施和安全軟件的過程。

為了有效管理這個過程，有必要確定檢測到的數據是否有害，并進行威脅分析。如果確定或強烈懷疑存在威脅，就有必要根據威脅等級來確定所要采取的措施。

在這種情況下，屬于或可能屬于威脅的要素可以列舉出人為的威脅、含有惡意軟件的網頁/應用程序、將網頁用于有害的宣傳目的、信息系統的破壞/功能障礙/將其變成僵尸（僵尸網絡）信息系統、通過奪取智能網絡結構中的傳感器創建的假數據傳輸，以確保系統的安全，以及對關鍵基礎設施的攻擊和同時對不同目標的攻擊。

3.2.2 傳感器系統

各種來源產生的信號，如聲、光、壓力、電磁散射、頻率等，由特殊設備定義，并由這些設備轉換為電信號。然后它們被傳輸到信息系統或其他智能網絡系統。執行這種識別和轉換過程的設備被稱為智能傳感器。

圖14:智能傳感器

以圖14的工作原理為模型的智能傳感器，通過傳感元件檢測其環境中可以識別的標志，并將其轉換成電信號。然后，轉換為要在 "信號調節層 "處理的格式的信號被直接傳送到微處理器。由微處理器制作好的信號被傳輸到評估中心或其他智能網絡節點。智能傳感器最重要的特點是體積小，能量需求低，靈敏度高，能快速處理數據，使用效果好。這一過程的有效創造取決于對來自各種來源的數據的有效管理和不間斷地將數據傳輸到中央服務器。

基于物聯網創建的網絡物理環境被用于作戰環境以及民用環境，被稱為戰場物聯網。然而，自21世紀初以來，這一領域在軍事文獻中被稱為以網絡為中心的行動或以網絡為中心的戰爭。

3.2.3 武器系統

當我們檢查武器系統時，我們可以看到，許多武器系統和平臺，不管是哪個部隊指揮部，都是由軟件支持的，并且是基于嵌入式系統的。在這種情況下，將擁有最先進技術的武器系統/平臺--其開發工作繼續處于高度保密狀態--是第六代戰斗機。根據所描述的項目，一項洞察力研究（STMThinktech）準備了一張關于可能使用的技術的信息圖。該圖片中的技術總結如下。

• 人工智能。與無人駕駛航空器（UAV）機群的協調

• 與盟國在地面、空中、海上和太空平臺的強大傳感器連接

• 更大的機身和更高效的發動機

• 結合傳感器信息和圖像使用的飛行員頭盔

• 真正的以網絡為中心的行動

• 網絡戰和網絡安全能力

• 有能力使用定向能量武器

• 利用電子干擾、電子戰系統和紅外調光提高隱蔽性

• 可選擇作為有人駕駛式空中平臺

人們認為，第六代戰斗機將通過放置在固定硬件上的軟件獲得作戰功能，就像第五代戰斗機一樣。在這種情況下，所有系統都會成為網絡戰的一個組成部分。然而，由于智能傳感器的存在，幾乎無限的操作區域可以使這些平臺像指揮和控制中心一樣運作。出于這個原因，特別是以網絡為中心的行動/以網絡為中心的戰爭在這個過程中發揮了關鍵作用。

3.3 網絡中心戰/戰爭

以網絡為中心的戰爭的概念廣泛地描述了 "一個網絡化的力量可以用來創造決定性戰爭優勢的新興戰術、技術和程序的組合"。它用陸地、海洋、空中和太空的維度來模擬作戰環境，并將使用這些維度的平臺（連同它們使用的設備）放在一起。在這個概念之前，它發展了電子作戰區的概念，顯示為三維，并發展了即時成像和操作設施。

3.3.1 電子戰

用于軍事目的的電磁系統和定向能被用來監測電磁波譜，收集信息，控制或攻擊敵人，并在必要時阻止電磁波譜的使用。

電子戰由三個主要部分組成：電子支持、電子攻擊和電子保護。這些部分的基本分項如圖15所示。

圖15:電子戰部門

電子支持：它是緊急威脅探測的電子戰部門，包括搜索、探測和識別有意識/無意識的電磁能量發射源的活動。它由導航和威脅警告兩個子項組成。

電子突擊：它是電子戰的一個分支，涉及用電磁系統或定向能武器攻擊電磁系統，以減少、抵消或消除電磁威脅的作戰能力。它包括反傳播導彈、定向能、干擾和欺騙。

電子保護：這是電子戰部門，涵蓋了保護人員、設施和設備免受友軍或敵軍電子戰活動的影響，以減少、消除或破壞友軍的作戰能力。該部門由傳播控制、電磁加固、電磁頻率碰撞預防和其他過程/措施等子項組成。

4 創建網絡防御系統

一個人需要信息和各種獲取或生產信息的手段，以保護自己的個人，了解和檢測攻擊，并對防御方法做出決定。簡而言之，防御是保護系統免受攻擊的行為。因此，網絡防御指的是一個積極的過程，確保正在進行的關鍵過程免受攻擊。

4.1 建立網絡防御的工作

雖然網絡防御的概念是為了保護我們的網絡基礎設施，但它也在制定戰略以在必要時對抗網絡攻擊方面發揮了積極作用。在這種情況下，首先，使用和管理我們的網絡資產的人的個人意識，以及專家關于他們的職責和其他活動的知識應該不斷地進行轉變，這將有助于支持基于威脅數據的決策。當然，在收集用于這一過程的數據方面，傳感器的使用是非常重要的。通過這些傳感器，可以預測諸如攻擊的能力和策略等要素。根據情況分析所產生的數據，可能需要啟動防御系統。這個過程可以被簡單描述為網絡指揮和控制。在這種情況下，雖然指揮部研究選項并根據決策過程范圍內的情況迅速進行評估，但控制方面是一個既定的系統，以溝通決策并在整個系統中可靠地執行它們。

到目前為止提到的幾點是對網絡防御的全面回顧，也有人指出，"網絡情報 "應該作為一個額外的因素加入到這些層面。通過這些方法，網絡防御活動可以通過將從過去的攻擊中吸取的教訓納入指定的流程而得到加強。

5 世界網絡安全活動

當對當前的網絡安全活動水平進行評估時，可以看到它們在個人安全和有關國家安全方面都有了發展。然而，個人因素的簡單錯誤會直接影響一個國家的安全。出于這個原因，需要制定高水平的措施。

在這種情況下，"根據'部長會議關于開展、管理和協調國家網絡安全工作的決定（BKK）'和2012年10月20日政府公報中編號為28447的第5809號電子通信法，準備和協調與提供國家網絡安全有關的政策、戰略和管理計劃的任務被賦予運輸、海洋事務和通信部的責任，"根據同一法律，土耳其成立了一個 "網絡安全委員會"。

土耳其網絡安全集群是在土耳其共和國國防工業主席的領導下，在所有相關公共機構/組織、私營部門和學術界的幫助下建立的，作為一個平臺，根據土耳其在網絡安全領域生產技術并與世界競爭的主要目標，發展我國的網絡安全生態系統。平臺活動是在總統府數字轉型辦公室的支持和協調下進行的。

在土耳其2023年愿景框架內確定的國家網絡安全目標如下。

• 全天候保護關鍵基礎設施的網絡安全。在國家層面擁有網絡安全領域的最新技術設施。在業務需求的框架內發展國內和國家技術機會。

• 繼續發展主動的網絡防御方法，基于對網絡事件的反應是一個整體，涵蓋了事件發生前、發生中和發生后。衡量和監測網絡事件應對小組的能力水平。提高網絡事件響應團隊的能力。

• 通過基于風險的分析和基于規劃的方法，提高企業、部門和國家對網絡事件的準備水平。確保機構和組織之間的安全數據共享。

• 確保數據流量的來源和目的地都在國內。在關鍵的基礎設施部門制定一個管理和監督網絡安全的方法。

• 防止生產商在關鍵基礎設施部門對信息技術產品的依賴。確定確保下一代技術安全的要求。支持創新的想法和研發活動，并確保實現其轉化為國內和國家產品和服務。

• 社會各階層安全使用網絡空間。保持活動，使整個社會的網絡安全意識保持在一個較高的水平。

• 在機構和組織中建立企業信息安全文化。確保兒童在網絡空間受到保護。加強人力資源，為對網絡安全感興趣的個人或想在這一領域從事專業工作的個人提供項目。

• 在正規和非正規教育中傳播網絡安全培訓，豐富培訓內容。制定機制，確保與國家和國際利益相關者的信息共享和合作。

• 盡量減少網絡犯罪，提高威懾力。建立機制，確保在互聯網和社會媒體上分享準確和最新的信息。

在其他有效利用技術的國家和我國一樣，都在制定網絡安全戰略。在這種情況下，下面介紹美國、俄羅斯、中國、英國、以色列和伊朗確定的政策和戰略。

5.1 美國

美國公共部門和私營部門聯合行動，保護關鍵基礎設施。

在公共和私營部門之間共同行動，對付可能來自網絡空間的攻擊，以及提出發展這種聯合行動的策略和計劃，鼓勵和支持私營部門履行其在網絡空間領域的職責，并在所有這些目標的范圍內發展一個聯邦系統。

提高美國企業和雇主部門以及整個社會對網絡攻擊的認識，重視在聯邦一級對這個問題的培訓和指導活動。

由于俄羅斯日益增長的網絡力量和網絡挑戰對美國的安全構成嚴重威脅，制定計劃以消除這些威脅。

由于中國對美國構成威脅，特別是在網絡間諜活動領域，美國應采取必要措施，保護其技術創新和私營部門的商業利益。

保護農業和食品部門、飲用水和公共衛生及應急系統、社會保障、信息和電信基礎設施、能源、交通、銀行和金融及化工部門、郵政和航運系統的所有官方計算機、軟件和網絡技術為國家關鍵基礎設施，并保護這些領域免受網絡攻擊。

認識到網絡空間是全球一級的共同使用領域，這些領域應該是安全和自由的，以確保貨物和服務、思想、企業家和資本的自由流動。在此背景下，美國應采取各種措施確保這些自由機會，在此背景下，應在全球范圍內打擊俄羅斯和中國對互聯網進行分割的技術和行政措施。

美國應全力支持有關國家打擊旨在破壞盟國穩定的網絡攻擊。

5.2 俄羅斯

在格拉西莫夫學說提出的原則范圍內，俄羅斯旨在通過將不具有軍事性質的方法納入其軍事能力，以較少的常規力量指導和管理熱點沖突的進程，從而減少人員損失和代價。在這種情況下，在軍事干預之前，它的目的是通過對目標地區、國家、社區或國家的網絡攻擊來獲得優勢，消磨目標，用心理戰的方法壓制它，打擊它的士氣，打破防御阻力，破壞其關鍵的基礎設施，并損害其經濟。

5.3 中國

在網絡行動范圍內提供對實現經濟增長和穩定有重大影響的新一代技術。

控制互聯網以維持國家治理，從而控制當地的分離主義團體和可能的社會動蕩。

制定針對以網絡技術為中心的對手信息戰計劃措施，反擊旨在干涉國家內部事務的活動。

針對外國情報部門對中國計劃的網絡間諜活動，建立有效的反合同結構。

在源于網絡空間領域的新一代技術所提供的可能性范圍內支持軍事能力，以及準備針對潛在對手軍事力量的關鍵基礎設施的計劃。

組織針對目標地區和政府的信息戰戰略和以網絡技術為中心的網絡活動。

5.4 英國

防御：英國政府必須確保加強國家IT基礎設施的防御，并確保其免受針對英國關鍵數據和系統的網絡威脅。為了實現這一目標，公共和私人部門應共同行動。

威懾：英國應加強現有的對網絡威脅的主動和被動的抵御能力，并創造一種有效的威懾觀念。

發展：英國政府必須提高英國的網絡能力，以應對網絡威脅。在這種情況下，英國不斷增長的網絡安全產業的發展應該得到支持。

5.5 以色列

憑借其戰略計劃，以色列是全球網絡安全經濟中的一個典范。以色列的公共當局根據國家的安全和商業利益，以具體的經濟計劃鼓勵私營部門在網絡安全領域的發展，在這種激勵下，以色列的各個大學和研究中心都專注于網絡安全領域的研發研究，并不斷在這個領域創造新的發展和揭示產品。

在這種情況下，根據經濟合作與發展組織（OECD）的數據，以色列已經成為世界上領先的國家之一，將其國民生產總值的約4%（100億歐元）分配給科學研發支出。此外，以色列的信息、通信和技術部門正在迅速增長。2014年，以色列在全球網絡安全行業的份額增長了8%，達到60億美元。另一方面，據了解，2016年，以色列有超過350家大大小小的公司在網絡安全行業運營。這個數字在2017年迅速增加，達到420家活躍的公司。其中26家網絡安全公司躋身2017年世界上最活躍、發展最迅速的500家網絡安全公司之列。

5.6 伊朗

在針對核設施的Stuxnet攻擊事件發生后，伊朗出于報復性反應，加快了網絡安全工作。然而，伊朗提高其網絡攻擊能力的努力，當初是以報復的動機而加速的，現在已經變成了一個目標，即通過以下時期的措施使伊朗成為網絡空間的有效行為者。在這種情況下，伊朗將擁有強大的網絡攻擊能力作為其國家目標。這一目標的背景基本上是，不是全球大國的伊朗希望利用網絡空間提供的不對稱優勢，在中東地區與美國、沙特阿拉伯和以色列進行權力斗爭。

在伊朗的網絡攻擊能力中，網絡安全最高委員會、革命衛隊、伊朗情報部、網絡司令部以及與這些機構有聯系的伊朗網絡軍隊的代理結構在決定網絡政策方面具有重要作用。

伊朗的網絡攻擊目標似乎與伊朗傳統的國內和國外的防御重點相一致。

6 評估

網絡安全的概念--考慮到今天的技術層面--現在是一個不能被放棄的領域。這個概念被認為是一個不僅與個人，而且與部門、組織、機構，當然還有國家密切相關的領域。雖然它只由兩個詞組成--網絡和安全，但這只是冰山一角。構成網絡安全的組成部分有哪些？當我們問起時，我們可能一開始并沒有意識到這個主題有多深。我們可以把構成這個領域的一些組成部分表達出來，如圖16所示。

圖 16：網絡安全組件的選擇

當我們研究圖16中的網絡安全組成部分的選擇時，可以看到這些組成部分既與民用也與軍事有關。因此，網絡安全范圍內的許多現象具有雙重用途（正如網絡武器可以用于網絡防御和網絡進攻的目的）。因此，當我們將網絡安全的最高層視為網絡戰時，這一概念將不限于武裝部隊，還將涵蓋構成國家權力要素的所有層級的責任領域。特別是，圖16中最右邊一欄所示的人工智能、大數據和物聯網的組成部分，也應被視為能夠使這一過程進一步復雜化并使威脅類型敏捷化的技術。

當我們特別關注軍事系統所創造的環境時，可以看到在物理戰場上使用的所有武器系統和平臺所創造的維度已經成為收集、生產、共享和使用數據范圍內的網絡物理環境。出于這個原因，有可能談論軍事大數據環境。在這種情況下，即使作戰數據在某些環境下是加密或匿名的，但幾乎是PB級的數據被生產、共享和存儲的事實表明，這一領域對網絡活動（網絡間諜活動、恐怖主義、攻擊等）是開放的。在所有這些發展的背景下，使用 "軍事物聯網 "的概念而不是以網絡為中心的行動或以網絡為中心的戰爭的概念是合適的。我們可以借助圖18來總結軍事物聯網結構在網絡防御-公共安全范圍內的重要性。這種結構也可以作為一個指標來評價，即要安裝和使用的系統有多復雜。特別是軍事運行環境，應該有一個網絡安全盾牌。

圖18：網絡防御-公共安全和軍事物聯網

此外，考慮到敵方部隊和友方部隊都在一個有效的人工智能平臺上共同行動，探測、識別和干預系統中惡意軟件造成的異常情況將同樣困難。

在這種情況下，如果我們把大數據、軍事物聯網和人工智能技術放在一起評估，并在網絡安全的大框架下進行整合結構，我們可以說這個過程是雙向作用的，存在防御/攻擊、朋友/對手等困境。

考慮到這些組件可以影響所有民用/官方安全層，保護 "關鍵基礎設施 "是非常重要的，它被定義為 "包含信息系統的基礎設施，當它們處理的信息的保密性、完整性或可訪問性被破壞時，可能導致生命損失、大規模經濟損失、國家安全漏洞或公共秩序的破壞"。構成關鍵基礎設施的部件受到損害，可能導致國家安全的脆弱性。

出于這個原因，確保所有層面--平民和軍隊--的有效網絡安全應被視為重中之重。在確定有效的網絡安全過程中，圖19所示的 "網絡安全生命周期 "可以作為一個重要的指導。

圖19：網絡安全生命周期

為了提高網絡安全生命周期的有效性，可以設計一個 "人工智能支持的網絡安全決策支持系統"，如圖20所示。

在這個設計中，來自各種來源的數據都要進行初步評估，調查數據中是否存在異常。如果沒有異常，則繼續進行正常的活動，而如果有異常，則將這些數據發送到網絡威脅庫，并與現有的威脅數據進行比較。如果無法識別，則從網絡威脅情報方面進行調查，并確定威脅識別。然后，它被處理到網絡威脅庫中。被定義為異常的數據在經歷了威脅分析、威脅分類、影響評估和風險評估后，被轉移到 "人工智能支持的決策支持系統"。在這里，網絡威脅的網絡威脅層（戰略、操作或戰術）被確定，適當的選項（根據級別）被提交給相關的決策者。決策者在這些選項的幫助下，在現行法律的范圍內做出有效的決定。

圖 20：人工智能支持的網絡安全決策支持系統

網絡安全概念的影響是多方面的，其中一個主要原因是它涵蓋了社會的各個層面。今天，被引入網絡空間的年齡已經下降到學齡前，特別是由于父母使用智能手機來分散孩子的注意力。因此，從學齡前兒童到死亡，人類都在網絡空間運作。因此，在具有綜合結構的網絡安全過程中，最薄弱的環節是不具備網絡安全意識的個人。出于這個原因：

• 考慮到個人的教育水平和年齡差異，規劃培訓，以包括社會的所有層面，包括計劃和當前的威脅，以加強網絡安全意識和網絡安全措施。

• 建立網絡安全戰略和網絡安全實施政策，包括所有機構、組織和部門，從社會最小的單位--家庭開始，保持這些政策的更新，支持現實的做法。

• 鼓勵在生產敏感技術，特別是關鍵基礎設施系統所需的所有軟件時，以機構為單位進行國家源碼編碼，并按照安全軟件創建標準進行創建。

• 并評價說，應該鼓勵實現所有相關學科（心理學、社會學、管理組織、行為科學、戰略管理、工程領域等）在網絡威脅檢測、網絡威脅分析、網絡威脅分類、網絡威脅影響評估、網絡威懾和確定網絡攻擊者特征等領域的跨學科課題的獨特項目。

提綱

• 戰術無人機營--一個場景
• 背景和框架
  • 未來戰斗行動的開展
  • 人工智能
  • 政治和法律框架
• 目標
  • G1：提高日常工作的效率
  • G2: 提高行動能力
  • G3: 解決潛在的能力差距
• 驅動力
  • DF1: 潛在對手的人工智能能力
  • DF2：作戰行動的動態性不斷增強
  • DF3: 更少的合格人員
  • DF4: 資源短缺
  • DF5: 信息的數量和密度
  • DF6：信息技術和人工智能發展的動態性
• 陸軍發展的行動領域(FoA)
  • FoA1：現有系統的進一步發展
  • FoA2：新的武器系統和武器裝備
  • FoA3：人員/物資的人工智能能力管理
  • FoA4：在培訓中使用人工智能
• 組織結構的行動領域
  • 招聘人工智能專家
  • 軍隊、研究和工業之間的合作
  • 國際合作
  • 使用測試和實驗結構
  • AI數據基礎設施和組織
• 總結
• 附件：德國陸軍概念和能力發展中的實施措施

在軍事上有許多行動領域使用人工智能。除了對正在使用的系統進行持續的進一步開發和人工智能鑒定，特別是具有新特性的未來系統將能夠從人工智能的應用中受益。日常工作中的人員和物資管理，以及培訓，也提供了主要的潛在行動領域。

一個精心定義的政治和法律框架是必不可少的，特別是對于軍事力量的使用。因此，目前和將來使用自動化和自主系統必須符合FMoD的政治和法律要求。除了政治和法律方面，從軍事角度來看，使用致命性自主武器系統也是一種不可取的、非預期的選擇。

人工智能是一種高技術，需要大量的專業知識和開發努力。為了實現這一目標，德國陸軍正在尋求與歐洲工業和研究的密切合作。在德國陸軍發展的背景下已經建立的技術與能力（TmC）模式正被用作進一步活動的起點。

為了能夠充分應對未來所有與人工智能相關的挑戰，德國陸軍必須擁有合格的人工智能人才。在這方面，聯邦國防軍面臨著來自民用部門的強烈競爭。為了滿足短期內的需求，軍隊正在依靠現有的OR/M&S人員。

目前所有的數據表明，利用人工智能的方法和程序可以大幅提高陸軍的效率和效力。為了能夠適當地應對即將到來的挑戰，必須采取與組織程序和結構有關的措施。因此，"陸軍中的人工智能 "立場文件建議為陸軍設立人工智能工作臺，為陸軍設立人工智能開發中心，為陸軍設立人工智能數據中心。只有這樣才能全面覆蓋人工智能領域的創新、人工智能系統的培訓和數據的提供。

下文將在附件中詳細介紹使早期實現成為可能所需的所有措施。

德國陸軍概念和能力發展中的實施措施

2018/2019年，在德國陸軍概念和能力發展中心開展了關于人工智能（AI）主題的 "技術與能力 "形式。在一系列研討會的過程中，根據北約綜合作戰計劃指令（COPD），確定了人工智能在陸軍所有能力領域以及武器和服務中的應用，并按行動路線進行分類。下面詳細列出了五個應用領域，每個領域都有不同的行動路線。

根據內容和發展的成熟度，這些措施和行動方針的實施是通過CD&E和R&T活動進行的，或者在CPM的范圍內通過適當的舉措進行。與聯邦國防軍的能力概況相匹配是至關重要的。陸軍概念和能力發展中心負責實施。

• 1 圖像分析

這個領域匯集了基于人工智能的目標識別和分類系統領域的所有活動。這些項目正在逐步建立起一種功能，以模塊化的方式擴展陸軍的各種保護和效果組件，包括從ISR到基于效果的自動系統。一個重點是將現有的民用方法用于軍事目的。

• 2 戰術無人機

這一領域匯集了與不同幾何形狀的小型無人機系統有關的所有活動。這些活動包括從偵察到障礙物，再到進攻性武器系統。不管是什么活動，重點都是在防御和部署自己的TaUAS的能力。一個重要的挑戰是，特別是創造出足夠堅硬和強大的TaUAS，使其能夠使用被動傳感器系統，在非常有限的通信和沒有GPS的情況下，在白天和晚上半自主地行動。

• 3 下一代戰斗管理系統（NGBMS）

這一領域匯集了所有側重于指揮和控制的活動。它既包括實現單一的功能，在適用的情況下，也可以在已經進行的活動中進行改裝，也包括將可能用于超戰爭情況的系統和方法概念化。沒有任何跡象表明有任何明顯的雙重用途。挑戰在于對指揮和控制過程的相關部分進行建模，以創建超戰可行的指揮和控制組件。理想情況下，指揮和控制過程的一部分可以按照博弈論的思路被描述為一個游戲，這樣人工智能就可以在決策支持或指揮和控制的自動手段的意義上使用。MUM-T是這方面的一個關鍵挑戰。

• 4 材料和基礎設施

這一領域匯集了后勤、維護和IT管理領域的所有活動。該行動路線包含了各種可以相對快速實施的措施，并有助于更好地應對當前在支持方面的挑戰。許多力爭實現的功能正在民用部門以非常類似的形式使用或開發。

• 5 分析方法

這個領域匯集了各種單獨的解決方案，其中人工智能和大數據可以為有關數據分析和優化的經典問題提供支持。數字化和人工智能提供了一個新的質量機會，因為某些問題（識別，......）可以實時和提前解決（也適用于車輛）或技術設備（如防火墻）。

災難響應期間的態勢感知是至關重要的，因為它使響應團體能夠在災難時間敏感的急性階段迅速和有效地幫助那些有迫切需要的人。新技術可以極大地提高響應行動的效率：用衛星圖像快速繪制颶風的破壞性路徑，用社交媒體追蹤確定需求增加的社區，用計算機建模預測野火的路線以通知疏散。美國政府已經優先在整個聯邦機構實施人工智能（AI）系統，包括那些可能有助于災難響應的技術。在這份報告中，我們提供了一個技術路線圖，用于向響應社區提供近期和更遠期的人工智能技術，這些技術可以在災害期間幫助提高態勢感知。通過探索當前和歷史上的技術趨勢、成功和困難，我們設想了這種新技術可能給災害響應帶來的好處和脆弱性。考慮到與災害和人工智能技術相關的復雜性，有必要采取綜合的發展方法，以確保新技術既是科學驅動的，又是操作上可行的。

戰爭的特點正在發生根本性的變化，這些變化對空中力量的影響尤其深遠。多域整合為空中力量和越來越多的空間力量在未來幾年內的一系列轉變做好了準備，這些轉變不僅與技術有關，而且與空軍組織和進行規劃和行動的戰略和作戰概念有關。

迫在眉睫的、不可避免的多域作戰似乎是空中力量的一個明顯的邏輯演變，它可能會引發這樣的問題：為什么我們沒有更早地沿著這些思路思考和發展作戰概念？畢竟，對優化、作戰協同和武力經濟的尋求在空中力量中是持久的。可以說，多年來，空軍及其相關部門事實上已經嘗試以某種方式或形式在多域背景下運作。然而，在整個部隊甚至整個戰區范圍內，為多域作戰（MDO）提出的早期作戰概念（CONCOPS），在多域作戰空間產生作戰協同和效果的努力是前所未有的。

諸如聯合全域指揮與控制（JADC2）這樣的結構闡述了一個作戰云賦能的未來戰爭，其中任務指揮和戰斗空間管理被有效地隱含在整個戰斗部隊中，觀察-定向-決定-行動（OODA）環路被加速到邊緣計算的速度。傳感器和通信網絡決定了空軍承擔幾乎所有傳統任務的功能能力。數據和數據流將變得比空軍傳統上對機動自由的依賴更加重要，并且有效地成為其戰略推動者。空軍力量將越來越多地與網絡而非平臺、數據而非武器系統有關。

任務的成功和失敗一直是由指揮官和作戰人員可用的態勢感知水平決定的。在新興的作戰模式中，空軍以近乎實時的速度收集、處理和利用數據的能力有效地使數據成為最大的工具和最令人垂涎的武器。收集、處理、匯總、分析、融合和傳播大量的數據、信息和知識將需要像未來有爭議的戰場上的事件速度一樣快。目前正在進行的戰爭數字化將導致在未來幾年內將 "大數據"廣泛用于作戰過程。空間領域將在實現全球范圍內連續的、有保障的和安全的通信方面發揮顯著的作用，除了更傳統的遠程監視用途外，它還被用作這種通信的運輸層。

對信息主導地位的追求將以新的和不確定的方式在物理、電磁和虛擬世界中擴展競爭的連續性。隨著空軍對帶有嵌入式人工智能（AI）工具和應用的作戰云的使用，新的風險、脆弱性和故障點將被引入。本出版物收集了來自世界各地領先的思想家的文章和見解，對多域整合和空中力量的信息優勢框架和概念的一些最相關問題提供了深入的觀點。這里的觀點和討論反映了當前對各種戰略、指揮和作戰層面的思考，讀者會發現這些思考對他們更廣泛的理解很有幫助。

這里介紹的專家展望本身既不樂觀也不悲觀，正如我們所期望的那樣，所確認的是各種新技術促成的 "飛躍"機會正在地平線上形成，但其有效利用帶來了復雜和破壞性的新挑戰。在強調其中一些關鍵的挑戰和更好地理解這些挑戰的必要性的同時，正如通常的情況一樣，沒有快速的解決辦法或現成的解決方案。然而，有令人信服的理由認為，今天所預見的眾多挑戰似乎在理論上和技術上是可以克服的，有些甚至在未來幾年內就可以克服。在未來存在的許多不確定因素中，可以肯定的是，空中力量將被徹底重新定義。

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。

無人機行業現在正處于黃金時期，它的增長有望呈指數級增長盡管人道主義救援人員已經使用這種技術10年了，但市場的擴大和技術的發展正在推動越來越多的組織裝備這種設備。無人駕駛飛機(Unmanned Aerial Vehicles，簡稱UAVs)，也被稱為遠程駕駛飛機或“無人機”，是一種通過遠程控制或自主飛行的小型飛機。

這份報告關注的是非武裝民用無人機和無人機的使用情況。未來的報告可以探討無人水下航行器和地面無人機的影響和發展。2014年，人道主義協調廳在其人道主義應對政策文件中強調了無人機在人道主義行動中的不同用途，這表明無人機技術的使用越來越多。從理論上講，瑞士地雷行動基金會(Swiss Foundation for Mine action)在其報告《人道主義行動無人機(2016)4:測繪》中對無人機在人道主義行動中的應用進行了6類總結;向偏遠或難以到達的地點運送基本產品;搜索和救援(SAR);支持損害評估;提高態勢感知;監測變化(如城市和營地的增長、農業使用或道路或基礎設施的建設)。這份報告將揭示人工智能驅動的無人機是如何改進和修改這些用途的。

無人機的迅速采用可以通過現代無人機帶來的機遇和它們可以利用的日益增長的人工智能(AI)相關能力來解釋。一方面，它們的使用通過自治得到簡化和授權。另一方面，視覺分析性能的改進使得依賴于無人機圖像成為可能。這份報告旨在強調人工智能提高無人機能力的程度。

由于深度學習方法的普遍化，無人機可以進一步捕捉它們運行的環境，從而允許越來越復雜的任務。這項技術還可以顯著改善無人機的視覺識別和圖像分析。由于人工智能算法的使用需要較高的計算能力，因此它的應用往往發生在飛行后。這一表現將通過三個案例研究加以強調:

• 用于北加州野火應急響應的無人機(2018年11月)

• 聯合國兒童基金會在馬拉維使用無人機應對颶風“伊代”(2019年3月)

• 報告還探討了無人機未來的潛在功能。

美國國防部(DOD)報告稱，人工智能(AI)是一項革命性的技術，有望改變未來的戰場和美國面臨的威脅的速度。人工智能能力將使機器能夠執行通常需要人類智能的任務，如得出結論和做出預測此外，人工智能機器可以以人類操作員無法企及的速度操縱和改變戰術。由于AI具有廣泛用途的潛力，國防部將其指定為頂級現代化領域，并投入大量精力和資金開發和獲取AI工具和能力，以支持作戰人員。在2022財年，國防部為科學和技術項目申請了147億美元，以及8.74億美元用于直接支持其人工智能努力。根據國防部2018年的人工智能戰略，未能將人工智能能力納入武器系統可能會阻礙戰士保護我們的國家抵御近同行對手的能力其他國家正在這一領域進行大量投資，這可能會削弱美國的軍事技術和作戰優勢。

美國國防部(DOD)正在積極追求人工智能(AI)能力。人工智能指的是旨在復制一系列人類功能，并不斷在分配的任務上做得更好的計算機系統。GAO之前確定了三種AI類型，如下圖所示。

國防部認識到開發和使用人工智能不同于傳統軟件。傳統軟件的編程是根據靜態指令執行任務，而人工智能的編程則是學習如何改進給定的任務。這需要大量的數據集、計算能力和持續監控，以確保功能按預期執行。支持國防部作戰任務的大部分人工智能能力仍在開發中。這些能力主要集中在分析情報，增強武器系統平臺，如不需要人工操作的飛機和艦船，并在戰場上提供建議(如將部隊轉移到哪里)。

當獲取依賴于復雜軟件的新能力時，國防部一直面臨著挑戰，例如長時間的獲取過程和熟練工人的短缺。GAO發現，它繼續面臨這些挑戰，同時還面臨人工智能特有的其他挑戰，包括有可用的數據來訓練人工智能。例如，人工智能探測對手的潛艇需要收集各種潛艇的圖像，并標記它們，這樣人工智能就可以學會自己識別。國防部還面臨著將訓練有素的人工智能集成到非為其設計的現有武器系統中的困難，以及在其人員中建立對人工智能的信任。國防部發起了一系列努力，如為人工智能和人工智能特定培訓建立一個跨服務的數字平臺，以應對這些挑戰，并支持其對人工智能的追求，但現在評估有效性還為時過早