摘要

我們總結了2021年10月19-21日舉行的“網絡防御深度機器學習研究專家研討會”的結果。我們通過論文向北約科學和技術組織報告了此次論壇上分析的深度學習當前和新興網絡安全應用。研討會的目的是介紹新的觀點，揭示政府在相關領域的研究，說明深度學習如何應用于網絡安全，并介紹在網絡空間軍事行動中應用深度學習的實施需求。總的來說，其結果提高了對問題和機會的認識，確立了各應用領域的共同需求，并確定了一條前進之路。

1.0 引言

自20世紀后半葉現代計算機出現以來，人類對所有軟件進行了編程，并成為計算和算法進步的主要推動者。然而，截至21世紀初，深度學習的實際進展已經改變了軟件的格局。深度學習使計算機能夠通過訓練描述輸入和輸出之間關系的模型來"編程"自己的軟件。算法上的突破正在加速每個行業的進步，并取得了巨大的成功。最受歡迎的應用包括那些能夠識別物體[1]和翻譯語音[2]的應用，其精確度接近人類的實時水平。專家們雄心勃勃地表示，深度學習最終將能夠 "做一切事情"，甚至可能復制人類智慧[3]。

與此同時，對軟件的日益依賴加強了保護計算機系統和網絡的重要性，使其提供的服務不受損害或破壞。在21世紀的前幾十年里，數據泄露的速度和影響進一步說明了網絡入侵是如何重塑全球安全形勢的。因此，對一個越來越有彈性的網絡空間需求，特別是當它與軍事系統相交時，正促使許多深度學習的新應用。這些應用可能會加強軍事戰略定位，并建立一個有彈性的網絡安全態勢，與不斷變化的威脅保持同步。然而，實現這一結果需要跨學科的應用研究和實驗，以便真正了解限制和實際效用。

因此，我們總結了2021年10月19-21日舉行的“網絡防御深度機器學習研究研討會”的成果。這個北約科學和技術組織（STO）論壇的重點是鞏固網絡防御的深度學習應用領域的知識。與會者包括來自澳大利亞、比利時、芬蘭、法國、德國、意大利、挪威、波蘭、土耳其、英國和美國的研究科學家和工程師。組織代表包括來自大學、民間研究組織、國防機構和軍事研究實驗室的強大觀點組合。

該論壇的目的是促進北約國家和盟國之間的合作，以確定和追求網絡領域最有前途的深度學習用例和方法，包括計算技術、架構和數據集或模型。為了實現這一愿景，它有助于提高對兩個主題之間共生關系的認識。深度學習通過將持續監測的繁瑣環節自動化，使網絡安全中的硬問題受益。另一方面，網絡安全也將受益于深度學習的實際應用和強大的實施設計。此外，隨著深度學習應用的擴散，以及與物理世界（即自主系統）越來越多的互動，傳統上描述和隔離網絡空間的邊界將被侵蝕。因此，要實現網絡安全，就必須采取超越傳統上用于網絡安全的新方法。

美國陸軍研究實驗室的Frederica Free-Nelson博士在研討會開幕詞中指出，深度學習和網絡安全領域都有許多未解決的問題，與其依靠幾個主要貢獻者來解決，不如分享過程、方法和成功案例，以避免浪費資源或阻礙進展。現實世界中，用戶驅動的問題與基礎研究和應用實驗適當匹配，可以實現信息主導和決策優勢。因此，本次研討會的預期愿景是，部分地捕捉那些讓領導層了解到需要為持續的挑戰投入資源的發現，并將科學家、從業者和最終用戶以一種有利于復制成功和持續進步的方式聯系起來。

本文的結構是按照研討會的目標進行的。第2節介紹了術語和觀點，這些術語和觀點限定了問題空間并形成了潛在的解決方案。第3節說明了深度學習是如何應用于網絡安全的，并提出了進一步獲得收益的機會。第4節介紹了北約STO內部的相關工作，并在多個應用領域之間進行了比較。第5節最后強調了關鍵的發現和對軍事環境的考慮。最終，我們旨在提高對深度學習在軍事背景下為網絡安全提供的有價值的認識，并確定了已經成熟的探索機會。

2.0 從網絡安全和深度學習的交叉點看問題

根據美國軍事學說的定義[4]，網絡空間是以使用電子、電磁頻譜和軟件來存儲、修改和通過網絡系統和相關物理基礎設施交換數據為特征的領域。這包括微電子、計算、通信、網絡和軟件技術，包括人工智能、機器學習和深度學習。網絡空間技術的應用是所有經濟部門、關鍵基礎設施和軍事行動的基礎。將繼續發展網絡空間的技術趨勢包括無處不在的連接和網絡邊緣的傳感，增加系統的可編程性和復雜性，自主性和加速決策循環的應用，越來越不可信和不透明的供應鏈，以及新的計算架構（即量子和神經形態計算）。非技術性的趨勢包括互聯網用戶數量的增長，為消費行業分析而積極利用用戶元數據，以及國際外交或國防考慮。鑒于技術變革的積極速度和非技術趨勢的不確定性，網絡空間將繼續以可能難以準確預測的方式發展。

在軍事方面保證網絡空間包括兩個不同的任務：網絡安全和網絡防御。網絡安全的目的是通過保證關鍵系統的屬性，如保密性、完整性和可用性，來限制脆弱性。隨著網絡物理系統，如關鍵基礎設施、智能制造、武器系統，以及最終的生物-神經接口的激增，網絡安全越來越多地包含了非傳統的屬性，包括安全性、及時性和復原力。此外，這些系統的物理性質提供了新的儀器和遙測技術，以確保其網絡態勢[5]。另一方面，網絡防御描述了為應對網絡空間中的敵對行為而采取的行動。雖然這些角色在一些組織中可能會重疊，但由于軍事單位如何組織和執行任務的基本功能，所以存在著區別。網絡安全是那些設計、開發和操作特定系統的人的責任。然而，網絡防御是一些重點活動的責任，這些活動專門負責監測和協調整個組織對敵對威脅的反應（即安全操作中心）。

網絡空間是戰略軍事格局的基礎，北約國家必須減輕對其軍事系統、平臺和任務的網絡威脅。深度學習是一種新興的軟件技術，其應用能夠加強這種彈性態勢。為此，北約科技組織的信息系統技術小組成立了一個關于 "網絡防御的深度機器學習 "的研究任務組（RTG）。Fraunhofer FKIE（德國）的Raphael Ernst先生在研討會開幕詞中澄清，RTG的章程不是開發新的深度學習技術，而是鞏固北約范圍內深度學習在網絡防御中的應用知識，確定民用解決方案和軍事需求之間的差距，并與其他北約國家合作，使用數據處理，共享數據，并尋求將最有希望的技術和應用轉移到軍事領域。由網絡安全和機器學習專家組成的RTG審查了技術標準、學術研究和商業技術產品的全面選擇，以評估當前的技術狀態。該研究對當前技術狀況的結果在第3節中進行了總結。

然而，人工智能領域的不斷進步和網絡物理系統的擴散將改變網絡格局，并為新類別的網絡攻擊讓路。網絡物理系統采用軟件來控制與其物理環境交織在一起的機制，在混合時間尺度上運行，并以隨環境變化的方式進行互動。例如，自動駕駛汽車將深度學習應用于車載攝像頭，以查看并決定如何在道路上行駛。研究表明，物理世界對這些軟件系統的攻擊可能造成傷害[6]。無人駕駛汽車進一步依賴持久的連接，與其他設備、網絡和車輛共享遙測信息。雖然是作為一種反饋機制，但這和類似的網絡物理系統設計暴露了攻擊面[7]。

最終，保證網絡物理系統的運行變得越來越困難，有彈性的網絡態勢需要超越傳統網絡安全方法的手段。因此，描述各種深度學習應用中的公開挑戰對于理解網絡風險至關重要。RTG發起了這次研討會，在一群對各種軍事和民用應用有深刻見解的不同專家之間推進這一議程。鑒于不同領域的參與，對術語的討論將提供有用的背景。

人工智能（AI）通常描述任何使計算機能夠模仿人類智能的技術。人工智能的早期成功源于基于規則的系統和捕捉人類專家知識的系統。盡管存在著對人工智能能力進行分類的標準，但我們選擇了機器學習和深度學習之間的簡單區別來構建我們的討論。研討會采用 "深度機器學習 "這一術語，表明對深度學習的重視，并不排斥傳統的機器學習，但也承認，持續的進步將鞏固深度學習作為人工智能領域最突出技術的地位。

機器學習是人工智能技術中最重要的子集，它提供了通過發現數據中的模式來提高計算性能的能力，而不需要遵循明確的編程指令。經過幾十年的緩慢進展，機器學習最近在包括消費者分析和社交媒體在內的各種應用中獲得了廣泛的采用。機器學習算法利用統計學在大量的數據中尋找模式，這些數據包括數字、文字、圖像或其他數字信息[8]。機器學習的應用采用了一個可以概括為四個階段的管道。首先，數據采集涉及識別和收集數據元素。第二，特征工程涉及預處理或提取有關該數據的統計數據。第三，初始數據或導出的統計數據被用來訓練一個能夠識別模式和關系的模型。最后，用輸入數據評估或部署模型，這些數據可能反映也可能不反映初始階段的訓練數據群。盡管這些階段的特征是線性的，但它們往往是迭代實施的，并且在它們之間有大量的反饋和調整。最終，數據的依賴性和質量決定了每個應用的有效性。

深度學習是指機器學習技術的一個特定子集，它允許模型通過將多層神經網絡暴露在大量的數據中來訓練自己。區別在于特別是上述管道的第二和第三階段。神經網絡是人類大腦中的神經元和突觸的簡化數字模型，由處理數據的簡單計算節點層組成。雖然早期的神經網絡僅限于幾層神經元，但一種被稱為反向傳播的突破性技術在理論上實現了這些層的擴展，從而為由更多層組成的 "深度"神經網絡鋪平了道路[9]。在最初發現的幾十年后，計算能力的提高使得深度神經網絡對圖像進行分類的能力得到了非常成功的展示，隨后將其確立為最先進的技術[10]。新興圖形和張量處理單元硬件帶來的計算能力提高，進一步加速了對越來越大的數據集的利用，使廣泛的模式識別和分類問題受益。

機器學習和深度學習都可以以多種方式應用。有監督的學習應用，通常被認為是最普遍的，利用被標記的訓練數據來告訴計算機它應該尋找什么模式。另一方面，無監督學習應用則利用了沒有標簽的訓練數據。強化學習是一個新興的前沿領域，算法通過試驗和錯誤，基于一些規定的獎勵函數，學習如何實現一個明確的目標。另外，"未來學習"技術包含了在不同操作環境下實現應用的新興方法。例如，遷移學習，將從解決應用中的一個問題中獲得的知識用于不同但相關的問題。聯邦學習，盡管仍然是一個活躍的研究領域，已經被證明可以通過將訓練功能分布在一些節點上來減少數據的依賴性。在RTG即將發布的技術報告中，詳細介紹了對這些和其他相關方法的徹底研究。

在討論深度機器學習系統的安全影響時，挪威國防研究機構的Espen Hammer Kjellstadli先生闡述了數據驅動的網絡安全的考慮，這些考慮超越了傳統的基于規則的方法。深度機器學習引入了圍繞特定模型的訓練和測試的新漏洞。在一個管道的初始階段獲得的訓練數據可以被操縱，從而影響模型的正確性。由于導致模型構建的特征之間的不平衡，該模型也可能在后期階段被利用。對這些漏洞的研究，以及如何防御或將其武器化，被稱為對抗性機器學習。一個全面的概述可以在美國國家標準研究所（NIST）[11]和MITRE[12]的工作中找到。這兩份參考資料都是對任何機器學習架構進行初步設計或安全評估的絕佳資源。

針對對抗性機器學習攻擊，已經提出了許多防御措施。例如，訓練階段的攻擊，即攻擊者推斷出模型可能學習的知識類型，可以通過加密、消毒、刻意選擇或對訓練語料庫引入其他人為限制來緩解訓練數據。訓練語料庫可以進一步泛化，要么通過增加其數量，要么通過探索其數據的替代表示法。這種方法已被證明在管道的每個階段都能提供性能提升和安全優勢。最后，合成對抗性數據已被證明可以補充傳統的訓練數據，并增強所產生的模型彈性。最終，數據質量在一個特定模型的性能中起著至關重要的作用，用于訓練模型的數據越多，該模型通常就越有效。

影響深度機器學習的另一個安全考慮涉及到對特定模型結果的可解釋或可解釋性描述。與傳統的算法系統不同，信任不能來自對決策標準的透明理解。這些系統的復雜性，擴展到數以百萬計的特征權重，有效地將深度機器學習應用轉化為黑盒。這是一個重要的考慮因素，因為人類必須越來越多地理解、驗證這些系統的判斷并采取行動。

3.0 網絡安全中的深度機器學習應用

深度機器學習在網絡安全方面有很多應用。在不同的演講中，美國海軍研究實驗室的Joseph Mathews先生和美國陸軍研究實驗室的Tracy Braun博士，通過報告RTG最近的研究結果，闡明了當前的技術狀況。該研究通過采用NIST[13]的指導來描述其研究結果，該指導幫助組織實施其資產的信息安全持續監控計劃，了解網絡威脅和漏洞，以及部署的安全控制的有效性。監控被定義為持續的檢查、監督和關鍵觀察，以確定與預期或所需性能的變化。這里的"持續"和"不斷"意味著組織風險的評估頻率足以支持風險管理活動和充分保護組織信息。

具體來說，[13]定義了11個安全自動化領域，解決了建立和保持持續的網絡安全感知所需的一系列安全控制。每個領域包括一組必須收集、分析和報告的工具、技術和數據。順便說一下，這些領域形成了一個有用的結構，通過它來描述深度學習當前和擬議的網絡安全應用。考慮到相似性和便于闡述，我們借用了這11個領域，并將其分成8個不同的類別。該研究的完整結果將在即將發布的技術報告中進行詳細報告。

3.1 惡意軟件檢測

惡意軟件是指在所有者不知情或不同意的情況下，故意設計成滲入、修改、破壞或損害計算機系統的任何惡意軟件。惡意軟件承擔了許多形式的數字內容，包括可執行代碼、腳本和嵌入交互式文件內的活動對象。惡意軟件檢測機制在事先了解惡意內容的情況下，對信息系統進行定期或接近實時的掃描。反病毒簽名和類似的識別技術（即啟發式方法）是詳盡的法醫分析產物，有必要結合靜態和動態方法。

在試圖改善惡意軟件檢測方面，深度機器學習已被廣泛探索。傳統的方法依賴于從該領域的專家知識中獲得的人工設計的特征。這些解決方案提供了一個抽象的軟件視圖，可以用來歸納其特征。特征工程和特征提取是工作流程中關鍵的、耗時的過程。跟隨其他領域的進展，惡意軟件檢測能力正越來越多地利用深度學習架構。

研究表明，該應用可能克服惡意軟件檢測中的傳統挑戰。行業趨勢表明，越來越多的公司提供基于人工智能的網絡安全解決方案，為惡意軟件檢測實施某種形式的深度學習。學術工作中的擬議應用進一步證明了用新的、獨特的程序數據表示法實現的更大功效[14]。然而，這些應用通常繼續遭受強大的訓練數據的不可用性，模型的過度擬合，缺乏解釋能力，以及隨著惡意軟件技術的發展而減少的持久性。

3.2 事件管理

事件管理包括監測信息系統中的可觀察到的事件，以及信息系統之間的事件。傳統的入侵檢測系統[15]，在網絡或終端上實施，采用了基于簽名和基于異常的模型，這些模型存在缺陷。基于異常的模型已經被證明能夠產生高的假陽性率，而基于簽名的模型已經被證明能夠產生高的假陰性率。兩者都可以從深度機器學習的進展中獲益，因為它不依賴于特定攻擊模式的先驗知識。同樣，電子郵件過濾的進展也采用了自然語言處理（NLP）的深度學習應用來識別表明是垃圾郵件的信息模式。例如，谷歌已經使用TensorFlow大大增強了Gmail的垃圾郵件檢測能力[16]。

事件管理工具同樣有助于檢測和應對網絡攻擊。這些工具依賴于日志和審計記錄，這些記錄捕捉了信息系統的行為和狀態，通常與系統交易、安全控制或性能有關。幫助生成、傳輸、存儲、分析和處理日志數據的工具，對于許多網絡安全操作來說已經變得越來越重要。

目前這些領域的產品（即擴展檢測和響應的平臺或技術棧；安全信息和事件管理；以及安全協調、自動化和響應）收集的數據自然適合用深度學習來開發。許多商業工具已經為深度學習插件提供了一些本地支持。然而，大多數實現這種支持的嘗試都繞過了原生系統，而選擇了外部預處理和后處理管道，或者通過與第三方框架的整合。這表明深度學習能力將與他們平臺的原生能力同步發展。

值得注意的是，這些應用可能會受到專有數據格式的限制，無法公開或增加獲得數據的背景，以及對報告的輸出缺乏信任。專家們進一步表示擔心，現有的工具可能不會以最佳的保真度（例如，聚合元數據）收集數據，以解決實際問題。我們猜測，一旦安全運營中心團隊普遍部署的工具整合了深度學習框架或算法，事件管理中的深度學習應用研究將變得越來越受歡迎。同時，這些功能齊全的平臺在架構上與其他工具集成和共存時，可能會在復雜性和維護方面帶來新的挑戰。

3.3 信息管理

信息管理是指管理信息的位置和傳輸，這對保護組織數據的保密性、完整性和可用性至關重要。數字信息被有意或無意地儲存在無數的系統和設備中。因此，數據丟失、被盜和泄漏對一個組織的信息安全態勢構成了相當大的風險。數據丟失預防（DLP）工具具有清點、分類和跟蹤數據創建、使用、存儲、傳輸和處置的能力。

目前的DLP系統實現了一種混合的數據分類技術，包括標記數據、精確匹配、部分匹配、正則表達式和機器學習。目前DLP工具領域的許多研究都是圍繞著分析數據及其分類進行的。深度學習擅長解釋復雜的數據（如文本、圖像、視頻），因此可以提供對其中編碼信息的機器可讀訪問。

對強大的、與組織相關的訓練數據的訪問對于取得積極的結果尤為重要，然而零信任的信息安全原則通常會阻止對可能構成某些訓練語料庫基礎的敏感文件不受約束的訪問。對靜態數據和傳輸中的數據進行端對端加密的擴散，進一步給強大的數據獲取帶來了挑戰。業務流程建模和越來越多的多模態數據的頒布也帶來了新的挑戰和機遇[17]。

3.4 漏洞和補丁管理

漏洞是一種軟件缺陷，它引入了潛在的安全風險。補丁是一種消除或減少該漏洞的軟件修復。隨著漏洞和補丁的數量不斷增加，漏洞和補丁管理工具允許組織以協調的方式識別、報告和補救漏洞。例如，漏洞掃描器通常被用來識別端點、網絡、操作系統和應用程序的漏洞。補丁管理工具也同樣掃描系統的漏洞，并促進必要的補丁和其他更新的應用。

這一領域的許多商業產品都聲稱要實施機器學習，主要是為了確定補救措施的優先次序。值得注意的是，由DARPA贊助的2016年網絡大挑戰競賽展示了自動化網絡安全系統的潛力，該系統可以實時發現、評估和修補漏洞[18]。競爭團隊所使用的方法包括用深度學習增強的模糊工具。未來的愿景是采用類似的工具，可以掃描軟件的漏洞，并協助自主修補它們。正在進行的使能能力的開發持續進行，而且非常有希望，但缺乏成熟度。

3.5 軟件保證

軟件保證是一套有計劃的活動，以確保軟件按預期功能運行，沒有缺陷。常見的軟件保證技術包括安全編碼、源代碼分析和應用模糊工具。最終，軟件保證有助于實現可信性，即不存在可利用的漏洞；以及可預測性，即軟件有信心按預期執行。軟件分析的三種主要類型的工具和技術已經被確認。靜態分析工具在不執行的情況下檢查系統/軟件，包括檢查源代碼、字節碼和/或二進制文件。動態分析工具通過執行系統/軟件，給它特定的輸入，并檢查輸出來檢查系統/軟件。混合工具整合了靜態和動態方法；例如，測試覆蓋率分析器使用動態分析來運行測試，然后使用靜態分析來確定軟件的哪些部分沒有被測試。

在上面列出的工具和技術中，深度機器學習已經被應用于源代碼分析和模糊測試。此外，最近的實際應用可以在操作系統開發當中找到，維護者使用機器學習來區分修復錯誤的補丁和沒有修復的補丁[19]。除了這些增加軟件保證的傳統方法之外，商業領域的新興能力越來越多地試圖通過低/無代碼平臺使人工智能生成代碼。這是否能減少bug的數量，從而減少安全漏洞，還不確定。這可能是一個值得追求的方向，在未來的研究中。

3.6 資產和許可證管理

資產管理指的是維護組織內的軟件和硬件系統的庫存。這可以通過系統配置、網絡管理和許可證管理工具的組合，或者通過一個特殊用途的工具來完成。軟件資產和許可信息可以由軟件資產管理工具集中管理，以跟蹤許可的遵守情況，監測使用狀態，并管理軟件資產的生命周期。資產管理目前被人類用于計算硬件、軟件和設備的庫存和配置管理。

資產管理工具可以產生和記錄大量的數據，使人們能夠深入了解網絡安全和商業運作。最近在軍事系統的網絡防御方面的工作認為，分布式自主代理可以感知和適應性地防御他們的環境[20]。這些應用的共同主題是能夠減少人類的監督，適應性地管理技術消耗，優化資源利用，映射資產和數字工作流程之間的依賴關系，以及預測或應對有機商業風險。智能化、無處不在的設備趨勢將推動對資產管理創新方法的需求，在這種情況下，不僅是人類操作員，而且各種設備本身都能夠適應其環境，以不斷優化自己。

未來的應用，一般被稱為 "工業4.0"[21]，設想通過邊緣計算和下一代無線技術（即5G），在每個設備上進行基于機器學習的資產管理。這種設備與設備之間的通信將促進和優化智能工廠的流程，這樣設備就可以通過動態感知其環境來調整其配置。在這種情況下，要擴大資產管理的深度學習應用，就必須采取全面的、跨學科的方法，與互補技術的進步保持一致，這些技術包括移動設備、物聯網平臺、位置檢測技術（如射頻識別、近場通信）、3D打印、智能傳感器、數據分析、增強現實、可穿戴計算，以及聯網的機器人和機器。

3.7 網絡管理

網絡管理工具包括主機發現、庫存、變更控制、性能監控和其他網絡設備管理能力。最近，機器學習被提議作為一種機制，用于動態配置和協調這些工具，以實現移動目標防御，挫敗對手的操縱。文獻中探討了這些應用，但許多用例僅限于簡單的場景，如帶寬節流和性能管理。在軍事背景下為戰略和戰術資產調整網絡管理技術也仍然是一個相當大的挑戰。

存在許多新興的應用，包括涉及用戶行為分析[22]和車輛網絡[23]的應用。在前者，可疑的用戶行為模式可能需要改變網絡配置。在后者，聚類算法可以有效地將網絡流量定性為可疑或良性。許多深度機器學習應用，特別是那些用于事件檢測和惡意軟件檢測的應用，已經被網絡管理工具收集或暴露的數據所支持。因此，之前的研究主要圍繞著網絡監測和事件分類。然而，最近的工作證明了基于深度學習的路由在分組交換網絡中的流量控制的有效性。同樣，提議將深度學習應用于網絡管理的目的是在沒有人類監督的情況下自動或優化網絡管理任務。

最終，移動目標防御（MTD）是一個可以從深度學習中大大受益的領域。傳統的網絡防御由于環境的靜態性而無法考慮到攻擊者的固有優勢，而MTD則會不斷改變該環境的配置，反過來降低網絡攻擊的成功率。深度學習已經被證明可以準確地對應用進行分類，其流量是由軟件定義的網絡控制器自然獲取的。為戰略和戰術資產調整網絡管理技術將是一個相當大的挑戰，因為軍事網絡由相當大的規模和多樣性組成。

3.8 配置管理

配置管理工具允許管理員設置、監控、證明和恢復配置設置。隨著網絡和設備的復雜性增加，管理信息系統之間的配置也變得越來越困難。自動化的解決方案提高了效率，改善了可靠性，同時普遍降低了規模成本。系統配置掃描工具提供了審計和評估目標系統的自動化能力，以確定其是否符合定義的安全基線配置。盡管深度學習在這一領域的實際應用很少，但在上一節討論的移動目標防御方面仍有很大的潛力。

4.0 相關軍事應用和開放性挑戰

深度學習的應用一般都有一個特點，那就是源于大量的數據，必須在此基礎上得出洞察力，或者希望有更大的自動化。這一觀點得到了許多探索一系列軍事信息系統技術應用的互補性RTG的響應。本文將詳細介紹這些互補性小組的研究結果。

4.1 半自主無人駕駛地面車輛的互操作性

挪威國防研究機構的Kim Mathiassen博士在《半自主無人駕駛地面車輛的互操作性》中指出了在追求軍事信息系統技術的互操作性方面所面臨的挑戰。互操作性是一個經常被認為是理所當然的重要話題，它被簡單地解釋為具有不同出處的不同技術能夠輕松地進行信息交流和同步。實現這一目標的標準制定和采用帶來了許多障礙。

北約國家正在為各種作戰任務（如情報、監視、偵察；化學、生物、放射性、核、高能炸藥探測等）投資于無人駕駛地面車輛（UGV）技術。為了在聯盟環境中運作，國家之間必須共享這些平臺的信息，甚至可能是控制。之前的實驗已經證明了實現這一目標的一些實際挑戰，包括獲取不同的視頻和遙測饋電格式，以及不同的網絡和無線電通信系統造成的干擾[24]。

目前的互操作性標準涉及如何從操作員控制單元傳輸控制數據，機器人應如何將數據傳回給操作員，以及如何在車輛之間共享數據。在構建這些標準的過程中遇到的挑戰包括時間同步、校準、測量精度、隱含假設以及數據（如地圖）和元數據的格式和表示。類似的或競爭的標準和開發工具包之間的特征重疊，進一步需要對具體要求和能力進行解讀。

隨著接口和標準的成熟，軍事指揮官設想以自主或半自主的方式采用UGV技術，這將越來越需要它們感知周圍環境。這種應用將阻止對機器人的直接控制，而采用傳輸中間航點進行導航等方法。因此，深度學習被廣泛認為是許多UGV項目的基本組成部分。現有的標準除了傳統的遙測和傳感器信息外，還需要適應網絡安全的考慮。網絡態勢可以是內省證明和共享的，也可以是外部觀察或查詢的。具有這種保真度的網絡物理資產的態勢感知可以為任務和控制決策提供信息，特別是當平臺在有爭議的環境中運行并預期對手會通過物理或電子攻擊載體進行操縱時。

4.2 確保無人駕駛和自主車輛的任務保障

挪威國防研究機構的Federico Mancini博士在《為保證任務而保護無人駕駛和自主飛行器》一文中，解釋了將自主平臺執行的多領域任務的一系列網絡安全挑戰。要了解無人系統帶來的風險，首先必須全面了解對其安全態勢起作用的所有因素，包括外部威脅。

自主平臺有許多形狀和大小，在陸地、海洋、空中和空間運行。這些固有的網絡物理系統依靠傳感器輸入來收集與他們手頭任務相關的數據，或感知他們的周圍環境，以做出如何導航的決定。軍事應用的移動、網絡連接的性質進一步為網絡保證帶來了獨特的挑戰。例如，在傳統的民用應用中，自動駕駛汽車被設計為遵守明確規定的交通法規和道路基礎設施。另一方面，自主的地面、海洋和空中平臺可能在沒有規定的規范和有爭議的條件下在開放環境中運行。

為了研究這個問題，研究人員提出了一個理論框架，解決平臺行為如何隨任務背景變化的問題。該框架主要以威脅為基礎，包括三個不同的層次。任務層定義了任務成功所需的功能和結果。車輛層定義了那些被分配到任務中并需要保護的平臺。最后，組件層定義了每個平臺內允許使用這些資產的子系統（即，執行器）。在每一層，該框架采用了一套定義與其他層關系的目錄。例如，通用的任務安全目標，如安全性、可靠性和保密性，可以映射到在實現這些屬性方面發揮作用的平臺組件。一些通用的例子包括自主導航、收集和處理傳感器信息、在其有效載荷能力之間進行通信和合作，以及安全地存儲敏感數據的能力。每項任務都將取決于平臺上的某些組件，而每個組件都容易受到某些威脅的影響。

防御這些威脅的一個主要考慮是平臺的自主響應能力。由于環境所帶來的操作限制，為無人系統實施安全能力是很棘手的。傳統的信息系統是在持續的連接和普遍有利的帶寬條件下運行的，而戰術環境必須能夠在斷開的、間歇的、潛在的或隱蔽的連接條件下運行。這些環境的網絡防御解決方案，包括那些實施深度學習的解決方案，必須在這些條件下適應和推理。這包括那些解決傳統網絡威脅的機制，以及那些解決旨在破壞其功能的網絡物理性質的物理攻擊。對問題的識別可能會引發各種反應，這些反應說明了任務成功的不同方面（例如，返回基地、關閉、自毀、刪除存儲內容）。深度學習在感知物理環境方面的成功很可能會推動其中一些算法決策。

4.3 用于混合軍事行動的人工智能、機器學習和大數據

美國海軍研究實驗室的Prithviraj Dasgupta博士在《人工智能、機器學習和大數據在混合軍事行動中的應用》一文中，談到了人工智能技術日益主導的軍事場景所帶來的挑戰，以及對抗性人工智能和博弈論在應對混合戰爭的挑戰中可以發揮的作用。為了使這一觀點與研討會的背景保持一致，隨后討論了對抗性人工智能在惡意軟件檢測方面的應用。

生成式對抗網絡（GANs）是一種基于深度學習的生成式模型，是一種創建與訓練數據共享特征的合成數據方法。雖然GANs在愚弄人工智能系統方面的應用已經被廣泛探索，但它們主要集中在圖像和文本數據上。在最近的網絡安全應用中，GANs已被證明可以有效地改造已知的惡意軟件，使其看起來是良性的，但仍然是惡意的，從而騙過傳統的檢測方法，包括機器學習分類器。然而，在實踐中這樣做會產生成本，因為對手必須發現在訓練樣本中插入多少和哪里的噪音。

現有技術因其對二進制程序數據中發現的特征空間的改變而受到限制，這可能會阻止所產生的GAN衍生程序被執行。因此，目前的工作重點是在字節級修改數據[25]。特別是三種策略，框住了一系列的報告實驗[26]。首先，填充攻擊增加了一些空白的 "填充"字節，然后用從訓練的惡意軟件的主體中提取的字節替換每個添加的字節。第二，DOS頭攻擊修改惡意軟件可執行程序頭的部分，因為大多數機器學習分類器將檢查限制在該部分。第三，遺傳攻擊根據遺傳算法選擇性地替換惡意軟件中的字節。

評估這些方法的結果包括量化規避率，或修改后的惡意軟件能夠騙過分類器的程度；執行修改所需的時間；以及產生修改后的惡意軟件所需的修改數量。實驗結果證實頭攻擊是最有效的，因為它的規避率高，所需時間和改動的衡量標準低。研究人員進一步指出，隨著操作系統變得越來越復雜，制作惡意軟件變體所需的修改數量也越來越多。研究人員繼續就如何使用GAN技術來制作能夠欺騙基于人工智能的探測器的惡意軟件樣本進行實驗。最終，博弈論方法可用于描述攻擊者-防御者互動之間的權衡，這些互動涉及制作對抗性樣本。

4.4 信息戰行動中的數據隱藏

波蘭軍事技術大學的Zbigniew Piotrowski博士在《信息戰行動中的數據隱藏》一文中詳細介紹了在現有通信渠道中實現隱藏數據層的技術，以及它們帶來的機遇、威脅和挑戰。隱藏數據層是隱藏信息的通信渠道，是對現有加密和隱寫方法的補充。傳統上被認為是一種挑戰和威脅，最近探索隱蔽信道方法的進展的工作表明，不同的研究分支如何能夠為彼此提供好處[27]。

目前，學術研究主要涉及創新的通信設備，例如，去除隱藏傳輸的隱寫過濾器、隱寫路由器、基于數字水印的多媒體數據隱藏的眾多方法、無線電通信中的新隱寫方法（無線電隱寫）以及計算機網絡（網絡隱寫）。軟件定義的網絡（SDN）在主要SDN接口被惡意軟件感染的情況下可以進一步支持隱藏的通信。同時，有許多關于分析和檢測隱藏數據的方法的描述，也有關于識別利用隱藏傳輸進行的攻擊的方法[28]。

這個領域的潛在主題包括檢測和防止有線和無線連接中的數據隱藏傳輸的方法；檢測和防止互聯網和文件中的多媒體內容水印；識別隱藏通信的行為標準；在軍事通信中使用隱藏傳輸和數字水印；北約隱寫應用和設備標準化，內置數據傳輸技術隱身類；數字對象和數據流的隱寫分析程序；感知測試的標準化和透明度（例如。語音、音頻、視頻）、穩健性和透明度的隱寫分析；以及在量子技術背景下保護數據的替代方法。

最近在實際應用中取得的成功包括在專用的戰術無線電通信手機中隱藏數據，這些手機可以通過信道內編碼的人員識別號碼獨立地驗證說話方（或語音經紀人）。許多類似的創造性應用正在被提出，而深度學習的應用自然適合利用那些涉及數字多媒體內容和信號。其他的例子包括與現有網絡和配置管理能力有共同特點的渠道選擇和協調。

4.5 機器學習系統的穩健性和責任性

美國海軍太平洋信息戰中心的Douglas Lange博士總結了研討會上討論的所有應用所面臨的挑戰。盡管許多研究探討了機器學習系統如何被創造性的輸入所操縱，但很少有努力解決如何使它們更加穩健。這樣的系統可能需要對訓練、測試、驗證和生產進行根本性的改變。

穩健性通常以障礙物為特征，如攻擊或敵人，并且可以包括許多不同的目標（即性能、安全性）。了解這些目標在系統和任務背景下的必要性和實用性，對于創建一個保證穩健性的方法至關重要。應用于機器學習系統，這可以表示為一個系統在新的數據中產生可預測的輸出和可比較的性能的能力，就像它被訓練出來的那樣。

不確定性同時存在于操作數據和訓練數據中，盡管前者在機器學習系統的設計和開發過程中被更多地認識和考慮。然而，從業人員必須期望他們的系統能夠處理訓練人群范圍內外的輸入。在軍事背景下，作戰應用的訓練數據的供應往往比商業應用的數據更有限，在商業應用中，不知情或不愿意的用戶行為可以被獲取（即廣告定位），這使得問題更加復雜。戰爭情況往往是不可觀察的和新穎的，用和平時期或軍事演習數據訓練的模型并不總是能反映沖突的動態性質。因此，那些能夠最快適應的系統最有可能獲得成功。

機器學習應用的目的是學習適合訓練人群的適當的模型參數集。這就需要開發一個成本函數，以衡量改變模型和噪聲對該模型的影響所帶來的誤差有多大。由此產生的不確定性通常可以被描述為認識上的或無知的。認識性的，或系統性的不確定性，定義了總不確定性的可減少部分。統計不確定性，定義了總不確定性中不可減少的部分。此外，輸入可能表現出噪聲和腐敗，或表現出與訓練數據的有意義的變化。前者反映了物理穩健性，而后者反映了語義穩健性。最終，機器學習系統在試圖描述穩健性之前必須正確表達分類器的作用。

最后，偏見是所有深度機器學習應用的一個重要考慮因素。在一個經過充分研究的應用中，研究人員通過演示斑馬投射到馬身上的圖像，使用周期一致的對抗網絡進行了圖像到圖像的轉換[29]。對這一演示的檢查表明，緊鄰動物的像素也從馬匹常見的草場轉化為斑馬常見的大草原。因此，訓練中描繪的環境證實了偏見，因為這些環境并不是馬和斑馬可能出現的唯一環境。

許多深度機器學習應用都表現出難以簡單地識別那些不屬于其訓練群體的輸入。僅僅實現這一點就能切實提高質量和穩健性。然而，通常情況下，模型被愚弄，而他們聲稱對他們的發現有很高的信心。ML應用傾向于在他們經常看到的事情上表現得更好，而在他們沒有看到的事情上表現得更差。例如，自動駕駛汽車是用數百萬小時的真實和模擬條件下的駕駛錄像來訓練的。從真實世界收集的數據經常被用來改進模擬。這種方法在軍事上是缺乏的，因為對手可能采用和平時期沒有觀察到的戰術。

5.0 結論

在研討會的開幕詞中，NATO STO的信息系統技術小組主席Nikolai Stoianov博士指出，北約研究網絡的力量來自其合作的商業模式。北約國家和合作伙伴選擇使用他們的國家資源來定義、開展和促進合作研究和信息交流。通過將士兵和研究人員聚集在一個共同的論壇，參與者從彼此的專業知識中受益，提高整體效率，并增強聯盟的集體力量。通過揭露國家努力、工業觀點和居民專長之間的共同點并找到平衡點，可以獲得進一步的優勢。這些主題在本文報告的結果中明顯可見。通過跨越網絡安全、計算機科學、人工智能、自主權和軍事行動的討論，研討會的參與者分享了深度機器學習的當前和趨勢性應用，準備加強軍事網絡的網絡安全態勢。在互補的RTG中發現的相似之處反映了許多類似的挑戰和機會。

深度機器學習可以通過加強數據驅動的決策和最大限度地減少人類專家的作用來改善幾乎所有的數字技術和應用，形成網絡態勢。應用實例包括自動化軟件開發（包括惡意軟件）；自動化協議和架構設計，包括那些來自高級規范的設計；管理網絡運營的人機合作，包括虛擬化、容器化和云服務；網絡功能的自主協調，如頻譜管理、QoS管理和網絡切片；以及網絡物理系統和系統間的自主。這些應用需要一個全面和跨學科的方法，以適應數字技術的發展。

對網絡環境的理解還包括對聯盟或友好網絡的情況了解，以及對敵方威脅的描述。在IST-129 RTG8的補充工作中，研究結果顯示，深度機器學習可以加強對敵對行動的預測以及對攻擊和防御場景的分析。這種理解可能會導致分布式自主代理的實現，這些代理可以感知、響應并適應其環境和突發威脅[20]。最終，深度機器學習可以更有效地利用資源，更好地利用人類專家的時間。

深度機器學習在安全關鍵應用中的采用仍然是一個受到嚴格審查的問題[30]。算法已經被證明有錯誤功能的傾向，例如用無害的標志物進行誤導的情況。它們已經顯示出對數據中毒和數據稀少攻擊的脆弱性，導致了尷尬和損害。這自然促使軍方探索如何利用該技術，同時保持其功能的可預測性和可靠性。最終，存在著對設計、建造、部署和維持可信賴、安全和可靠的網絡物理系統的戰略的關鍵需求[31]。

在過去的十年中，深度機器學習的加速是由幾十年來計算能力的進步所推動的。高性能的硬件使得構建具有更多層次的連接和神經元的網絡成為可能，從而使人們有能力對復雜現象進行建模。然而，這一趨勢最近顯示出回報率遞減[32]。盡管硬件性價比曲線不斷進步，但在計算需求變得不可行之前，只能對模型性能進行邊際改善。新的硬件加速架構已被提出，以部分克服這一挑戰[33]。另一方面，它已經讓位于自主性的"低風險"應用，其中行動空間可以被明確定義，并產生最小的失敗影響。這種方法使模型部署適合于尺寸、重量和功率受限的平臺。

在研討會與會者的討論中，一個共同的主題是數據對任何應用的成功都至關重要。網絡空間的數據采集，反其道而行之，是一個具有挑戰性的命題。雖然一個組織的網絡空間往往充滿了豐富的數據，但以一種適合快速利用的形式和方式來暴露這些數據往往會帶來許多實際的挑戰。數據的來源、所有權、分類、管理、敏感性、法規、架構、模型、運輸、聯盟和其他考慮因素往往阻礙了能力的應用。軍事行動和聯盟網絡的額外敏感性和多分類性質使問題進一步復雜化。現有的挑戰表明，替代方法，如轉移和聯合學習方法，是值得追求的，并可能在沒有數據轉移或語義互操作性問題的情況下實現模型共享。另外，GANs和類似的新興工具越來越有能力產生大規模的合成數據。

我們認為在所有這些方面都有一條前進的道路。深度機器學習的成功應用需要全面的、跨學科的方法，與硬件和其他數字技術的進步同步，包括改進數據采集、數據生成和數據共享的技術。深度機器學習系統本身的安全性，在所有層面都必須得到維護。這包括數據集、分類器、模型和學習到的反應，必須保護它們不被操縱。可靠性和可解釋性是對建立可信賴的系統特別重要的考慮領域。最后，將深度機器學習推向戰術邊緣的愿望將需要在自主性、硬件尺寸、重量和功率方面進行改進。

在本文中，我們介紹了有助于約束網絡安全問題空間和塑造潛在的深度機器學習解決方案的術語和觀點。我們說明了深度機器學習是如何應用于網絡安全的，并提出了進一步發展的機會。我們展示了北約STO內部的相關工作，并在多個應用領域中進行了比較。最后，我們強調了在軍事和聯盟行動環境中成功應用的一些關鍵考慮和發現。

付費5元查看完整內容

執行摘要

需要北大西洋公約組織（NATO）成員國派遣部隊的多國軍事行動的數量顯著增加。這是對各種危機的回應，從COVID-19大流行病的回應到救災和地區沖突。事實上，21世紀的全球安全環境是一個VUCA（動蕩、不確定、復雜和模糊）環境。領導者需要在多國的、文化多樣的環境中接受挑戰，這些環境在行動實踐、角色、權力和理論方面存在獨特的差異，可能會影響他們作為軍事行動領導者的有效性。因此，有必要確定軍事領導者所需的關鍵能力，以確保在參與多國行動時的信心、有效性和成功。

成立第286研究小組的目的是考慮多國行動中領導力的當前和新出現的挑戰以及對整個北約聯盟正在進行的軍事領導者開發的影響。其主要目標是為未來的領導力發展需求提供指導，并制定一個領導力發展框架，以支持不斷提供的領導力教育、培訓和經驗。RTG-286匯集了整個北約在軍事教育、領導者開發和培訓、文化能力和社會心理學領域的專家。該小組借鑒了成員國關于當前領導者開發計劃的總結報告、學術研究和北約出版物，如《未來聯盟行動框架》（FFAO，2015；2018），以形成對到2035年作戰環境可能面臨的挑戰的深入理解。

本文提出的領導者開發框架包括未來軍事領導者所需的關鍵能力，涉及六個領域：認知、社會、個人、專業、技術和轉型。一系列的領導能力被進一步分解為其組成部分，以便進行詳細的審查，例如未來的領導者將如何建立信任和關系，這是多國軍事行動的關鍵組成部分。與領導者開發框架一起，RTG-286號文件從主題上探討了多國領導者的未來需求。研究了文化能力和關系建設的作用，以及管理復雜性、利用技術、培養創造力和發展道德領袖所需的方法。

本報告建議北約審查其領導者開發實踐，以應對未來的多國行動需求。報告認為，亟需加強對軍事領導者的多國重點教育和經驗，為文化多樣和技術先進的行動做準備。建議在本報告和領導者開發框架的指導下，將教育、基于演習的經驗和培訓相結合。這將提高領導者在一系列領域的知識和能力，包括技術和文化能力、溝通技巧和決策，并為北約多國行動的未來軍事領導者提供經驗和洞察力。

第1章 - 引言

為了保持軍事優勢并在未來的行動中獲勝，北約部隊必須不斷發展、適應和創新，并具有可信性、網絡化、意識、敏捷和彈性。(NATO Act, 2018)

1.1 領導多國軍事行動的挑戰

進入21世紀以來，北大西洋公約組織（NATO）對基于多國聯軍或聯盟的軍事行動的參與程度大幅提高。同時，在非對稱戰爭的擴散、技術進步、新的作戰概念和世界許多地區日益嚴重的政治不穩定等因素的推動下，這些多國軍事行動的復雜性、多樣性和節奏都在增加。

從領導阿富汗的國際安全援助部隊（ISAF）（2003-2014年），到打擊亞丁灣、非洲之角和印度洋周邊海盜的威懾和破壞行動（2008-2016年），北約的行動一直是多樣化的（北約新聞室，2021年8月19日；北約新聞室，2016年12月19日）。2005年，北約對造成超過80,000人死亡的巴基斯坦地震災難作出了反應，空運了近3,500噸急需的物資，并部署了工程師、醫療隊和專業設備，協助救援行動（北約新聞室，2010年10月27日）。最近，在2018年，約有20,000名軍事人員參與了北約在世界各地的復雜行動，包括地面、空中和海上領域以及所有類型的環境。北約一直負責在阿富汗、科索沃和地中海的行動，同時還承擔了大量的培訓任務，以支持伊拉克國防部隊的發展。此外，北約通過執行空中治安任務支持非洲聯盟，并協助應對歐洲的難民和移民危機（北約新聞室，2021年9月10日）。

多國軍事行動，包括人道主義、維和和戰斗任務，是全球安全工作中一個越來越大的特點。它們涉及多個不同文化背景的機構，如北約或聯合國，以及非政府機構，如紅十字會和無國界醫生組織。這種國家和機構之間的聯盟給領導者帶來了復雜的挑戰，影響了決策和任務的有效性。鑒于每一類任務都有獨特的挑戰，無論是地區沖突、城市戰爭、救濟援助還是大流行病，未來的軍事領導者必須以量身定做的方式做好準備，以滿足特定聯盟部隊的需求。

對于每項任務，軍事領導者必須了解每個國家的能力和不足，以及非政府機構如何與有關地區的當地軍隊聯系起來。這是一個巨大的挑戰，需要詳細介紹該地區的關鍵地緣政治和社會文化因素，以及他們將遇到的一系列民間和其他安全及援助組織。這種復雜的信息在接受指揮之前可能并不總是能夠得到。

在組織軍事任務時，與當地國防組織的接觸和協調以及管理區域文化多樣性的復雜性都會發揮作用。如果把與非政府機構打交道的相關問題也考慮在內，這將是一個錯綜復雜的過程。更重要的是，當軍事領導者在外國擔負起領導的重任時，他們是在一個新的、具有挑戰性的環境中進行領導，他們很可能遇到不熟悉的團隊、利益相關者和文化。此外，他們可能沒有完全的指揮權，而是受制于國家的軍事領導，并受制于國家的組織結構、任務目標和規則集。

正如北約職權范圍的多樣性所表明的那樣，領導者需要了解和駕馭他們所參與的行動環境和國家的文化方面，如果他們要最大限度地提高行動效率。此外，相互支持、思想的多樣性、創造性和風險分擔是聯盟成員的許多優勢之一。為了實現這些優勢，北約將需要具有發達的社會技能和建立基于信任、尊重和信心的關系能力的領導者人。他們將需要有能力做出符合道德的決定，并理解他們工作的復雜系統，以便在復雜的作戰環境中促進有彈性的和可信賴的合作關系。

使問題更加復雜的是，未來的領導者將需要了解先進的技術，以及如何最好地實施這些技術和它們產生的信息。隨著支持人工智能和嵌入人工智能的系統在戰斗空間中變得更加普遍，信息管理將在未來成為一個更大的挑戰。信息過載的風險加上這些技術無處不在的傳播，雖然是為了支持領導者，但實際上可能只會增加他們的負擔。此外，對手手中的先進技術將改變和塑造未來的戰斗空間，以及沖突和戰爭的發起和戰斗方式。

網絡空間中這種信息戰的虛無縹緲的性質不是本報告的重點，然而，領導者將需要準備處理信息流，因為它將影響未來的任務指揮。空中空間、衛星和海底空間將越來越多地使用分布式傳感器網絡進行管理，這些網絡是自主監測的。然而，未來的領導者將受制于根據這些系統的輸出作出判斷和決定。因此，他們將需要了解技術的輸出，以及如何對其進行優化，以便為有效決策提供信息。

本報告認為，未來有效的領導者將是具有技術能力、創造性和批判性思維能力的人。他們將了解如何利用技術來實現其決策優勢。未來決策周期的加速和決策精度的提高是決定未來戰爭的最關鍵因素。因為我們知道，我們的對手也在尋求利用這些技術來發揮他們的優勢的方法。我們的優勢是人的因素! 我們的領導者的社會性、創造性和批判性思維能力將意味著決策優勢，并使北約能夠保持信息優勢、總體態勢感知和理解。這一切都與領導者有關，以及他們如何很好地理解他們將在其中運作的環境的細微差別，領導和授權給他們的指揮者。

問題是，鑒于動態和復雜的作戰環境所帶來的挑戰，我們如何使我們的領導者最好地準備好，以便有效地發揮作用？本報告認為，我們有責任確保為我們的領導者做好準備，以應對這些方面的領導問題。沒有簡單的答案，然而，北約可以通過評估和確定他們的需求，并為領導者提供獲得這些需求的機會，來準備教育未來的軍事領導者。

1.2 RTG-286 - 范圍、目標和產出

北約人因與醫學（HFM）研究任務組（RTG）286的基礎是北約HFM-ET-143（2015-2016）對軍事多國行動的領導者開發進行的初步研究。該小組包括來自澳大利亞、捷克共和國和土耳其的代表，確定了探索北約領導者領域現有知識差距的要求。RTG-286進行了合作研究，以評估多國軍事行動中當前和預測的發展（詳見上文）對北約領導者的影響。

RTG-286旨在提高對領導者開發需求的認識，并為提高領導者在多國任務中的表現做出貢獻。RTG-286的目標是：

1）創建一個與北約多國行動相關的當前高級領導者開發主題的摘要。

2）確定未來多國行動中的挑戰以及北約高級領導者取得成功所需的領導能力。

3）確定當前和預期的領導者開發和領導者績效之間的差距，并提出適當的建議；以及

4）為當前和未來的北約多國行動制定一個初步的擬議領導者能力的整體框架。

鑒于多國軍事行動的復雜性，有必要考慮發展領導者的戰略，為這種挑戰做準備。因此，本報告的目的是為多國軍事行動加強每個國家的領導者開發實踐，特別是在作戰指揮層面。本研究考察了有關領導力的學術和軍事學術研究，并審查了當前與北約多國任務中的領導力有關的領導者開發培訓和教育。它還探討了戰略和工具的發展，各國可以利用這些戰略和工具來確定其現有的培訓、教育和發展實踐在多大程度上為其領導者準備了多國任務。

除了提供該研究背景的章節外，RTG-286的顯著成果是為北約多國行動制定了一個領導者開發的綜合框架。北約和伙伴國家可以利用這一框架，為他們專門針對多國行動的領導者開發和培訓活動提供信息。通過一個反復的過程，該框架被開發出來，以包括必要的知識、技能、屬性、經驗和其他因素（包括道德、核心價值觀、身份和對武器職業的承諾）。該框架旨在作為了解和評估北約和伙伴國現有領導者開發活動的參考和資源，并與北約《未來聯盟行動框架》（FFAO）2018年戰略軍事觀點保持一致。

1.3 第286號研究任務組--組建、組成和活動

在完成并提交北約HFM-ET-143報告的結論（包括技術活動建議（TAP）和職權范圍（TORs））后，北約高級小組代表批準了建立北約HFM RTG-286的過渡。北約高級領導層的批準期為2017年6月至2020年6月。RTG-286由來自加拿大、匈牙利、挪威、丹麥、波蘭、瑞典、英國和美國的參與者組成，同時還有來自北約盟軍司令部轉型的代表。美國主席Yvonne Masakowski博士發起了研究計劃，并邀請英國代表Karl Santrian皇家海軍司令擔任該小組的聯合主席，Matt Petersen上校（英國陸軍）于2018年10月接任。

北約STO要求每個RTG在其總部舉行第一次會議，以確保北約的高級領導者能夠參與該小組的初步研究規劃。因此，RTG-286的第一次會議于2017年6月在法國巴黎的NATO STO總部舉行。各國輪流在北美和歐洲主持會議，以確保所有成員都有機會參與。全年通過網絡研討會和電話會議舉行會議，各分組和/或個人參加會議，討論他們的進展和目標。會議在波蘭克拉科夫（2017年12月）、美國洛杉磯（2018年6月）和加拿大渥太華（2018年10月）、英國施萊文漢（2019年3月）和華盛頓特區（2019年6月）舉行。加拿大會議的安排是由于幾個小組成員正在那里參加IMTA會議，它還促進了與倫理和領導力RTG小組的聯合會議。北約HFM RTG-286的最后一次會議于2019年10月在匈牙利布達佩斯舉行，小組參加了北約創新挑戰賽，并商定了最終報告。

1.4 報告的組織

本報告研究了多國軍事行動對領導者開發的要求，涉及六個關鍵領域。對這些領域的分析是與多國領導者開發的新框架同時進行的，這是RTG-286對北約未來領導者開發需求研究的一個重要貢獻。

在這段介紹之后，第2章將首先概述RTG-286在分析未來領導者能力要求方面所采取的方法。它介紹了差距分析的結果和指導這項研究的方法概述，特別是能力框架的設計。

第3章介紹了北約的領導者開發框架。通過這個框架，領導者的能力在五種上層能力下被合理化。專業知識；技術能力；認知能力；變革能力；和社會能力。在RTG-286的研究中，這些能力與其他個人屬性一起被確認為有效的跨國領導力的關鍵要求。他們在該框架中的定義是為了滿足更好地理解這些要求的需要。

在介紹了能力框架之后，第4章將重點討論本報告中考慮的第一個關鍵的行動效率領域，特別是管理和利用復雜性。本章概述了未來北約領導者可能面臨的復雜問題和情景，并研究了一些可用于支持有效的多國指揮的方法和思維技巧。

然后，第5章將探討創造力和創新作為有效領導的關鍵組成部分，強調領導者在為創造力創造條件、解決創新障礙以及促進組織敏捷性和共同復原力方面可以發揮的作用。

第6章探討了最近和未來的技術進步，以及如何利用它們來提高領導者的效率。這將包括研究影響未來行動的先進技術（例如，自主系統、機器人技術）。本章分析了一些可供領導者努力利用技術進步的方法。

然后，第7章從戰略角度闡述了在未來北約多國軍事行動中發展有效伙伴關系所需的領導者能力。本章從內部（建立有凝聚力的聯盟）和外部（非政府組織）的角度，探討了與軍事和非軍事伙伴的關系建設，以及當地的非正式領導和弱勢人群。它試圖確定有效關系的挑戰和基石，以及未來的北約領導者如何建立和維持強大而富有成效的伙伴關系。

跨文化能力是第8章的重點，因為本報告更深入地探討了未來多國行動對北約領導者的社會能力要求。本章認識到北約活動的全球前景，以及國家和非政府組織之間的合作以及與學術界和商界的合作所帶來的軍事優勢。它認為，從制定戰略和戰術到獲得緩和沖突所需的知識，領導者在不同的社會文化環境中理解和有效應對的能力將是所有領域的關鍵。

第9章涵蓋了與未來多國環境相關的新出現的道德挑戰，以及道德推理、身份、氣候和文化的日益重要性。它概述了北約核心價值觀的可操作性的重要性，承認了北約合作伙伴之間可能存在的價值觀趨同和分歧，以及領導者如何管理這些差異。

最后一章綜合了本報告的主要建議，并總結了RTG-286的結論，然后從前面的章節和其他章節中引出一些共同的線索和見解。第十章和本報告的最后，簡要考慮了從RTG-286的結論中引出的進一步研究領域。

付費5元查看完整內容

AI與軍事 · 知識圖譜 · 態勢感知 · 知識表示與推理 · 北約 ·

2022 年 6 月 19 日

[付費5元查看完整內容]重磅！《知識表示與推理：技術現狀和未來機遇綜述》北約最新98頁研究報告

專知會員服務

專知，提供專業可信的知識分發服務，讓認知協作更快更好！

本報告由來自美國陸軍研究實驗室、美國國防情報局、美國國家地理空間情報局(NGA)、英國國防部國防科學技術實驗室（Dstl）、加拿大國防研究與發展部、德國弗勞恩霍夫FKIE研究所等多個單位聯合撰寫。介紹了北約信息系統技術（IST）探索小組111（ET-111）的調查結果。成立ET-111是為了在北約各國之間分享對知識表示和推理（KRR）現狀的理解，以了解技術現狀并考慮未來的合作活動是否有益。

為了支持高水平的數據融合，當下有一個基礎性的需求，即信息和知識要能被人類和機器理解。知識表示是將知識以計算機可操作的形式表達出來，以便對其進行利用。這樣做的一個關鍵原因是，知識可以被推理。基于知識的系統也可能被稱為符號人工智能和基于規則的人工智能，并且在過去50多年里一直是一個活躍的研究領域。因此，它可能被一些人認為是 "老派 "的人工智能，與近年來日益突出的基于算法和機器學習的人工智能方法不同（眾所周知，后者存在可解釋性和概括性問題）。在 "大數據 "時代，知識表示和推理為利用靈活、可解釋和基于人類知識的數據提供了一個途徑。

這篇綜述的第一個目的是為知識表示和推理領域提供一個技術介紹。為讀者提供關鍵概念的知識--以培養理解力--將使人們能夠欣賞到知識系統的能力。第二個目的是通過實例，提供對創建知識系統過程的掌握，以及如何在軍事背景下使用這種系統來解決現實世界問題。對知識系統最適用的現實世界問題的理解，有助于成功實施KRR并將其與北約系統和理論相結合。

在這份報告中，我們首先討論了北約成員國面臨的一些挑戰，以及北約的知識表示和推理可能會對這些領域產生的影響。然后，我們對知識表示、知識工程和推理方法的技術方面做了一個總結。我們討論了知識表示的具體例子，如MIP信息模型（MIM）、富事件本體（REO）、OPIS和國防情報核心本體（DICO）。我們還描述了WISDOM研發平臺和智能態勢感知（INSANE）框架，作為使用知識表示來支持感知的例子。

隨后，我們回顧了更廣泛的研究，包括文本分析如何支持從報告和其他來源的文本中提取知識，關于因果關系的工作以及推理系統中的可解釋性和信任問題。

最后，我們總結了報告的結論和對北約聯盟的影響，提出了進一步工作的主要建議：

建議1--北約科技組織應贊助一項技術活動，以展示符號和亞符號方法的互補使用及其對改善決策的益處。
建議2--北約科技組織應贊助一個虛擬系列講座/研討會，以提高北約科學和業務部門對KRR技術的認識，從而為該領域的進一步技能發展提供催化作用。
建議3--北約科技組織應贊助一個專門的探索小組，考慮因果模型的具體興趣，以及它在基于知識的系統中的應用，作為未來在諸如建議1活動下進行實際演示的先導。

報告目錄

第1章 - 導言
- 1.1 "戰爭"中的信息
- 1.2 理解和信息融合
- 1.3 知識表示和推理的作用
- 1.4 IST-ET-111的宗旨和目標
- 1.5 本報告的方法和結構
- 1.6 參考文獻
第2章 - 知識表示和推理的核心概念
- 2.1 引言
- 2.2 知識、知識系統的定義
- 2.3 專業知識和知識工程
- 2.4 推測和推理
- 2.5 知識圖譜
- 2.6 語義啟用和互操作性
- 2.7 不確定性管理
- 2.8 符號化與亞符號化的方法
- 2.9 總結
- 2.10 參考文獻
第3章 - 實現知識表示和推理
- 3.1 集成、互操作性和信息共享的本體論
- 3.2 W3C語義網棧
- 3.3 案例研究
  - 3.3.1 構建領域本體--DICO開發過程、設計原則和最佳實踐
  - 3.3.2 實踐中的知識表示和推理WISDOM研發平臺
  - 3.3.3 相關性過濾、信息聚合和充實智能態勢感知框架
  - 3.3.4 在英國、"五眼"防務和安全社區內交換信息--英國國際信息交流中心的信息交流標準
- 3.4 實施基于知識的系統的機遇和挑戰
  - 3.4.1 討論共同關心的問題
    - 3.4.1.1 我是否真的應該關心，ML方法是否能提供這一切？
    - 3.4.1.2 有了新的技術，這不就導致了新的復雜性嗎？
    - 3.4.1.3 KR方法是穩健的嗎？
    - 3.4.1.4 是否需要專家技能和專業知識？
  - 3.4.2 知識表示和推理方法的優勢和劣勢
- 3.5 總結
- 3.6 參考文獻
第4章 - 當前知識表示和推理的研究主題
- 4.1 多模態知識表示--處理文本、圖像和其他問題
  - 4.1.1 文本分析的符號化方法
  - 4.1.2 文本的矢量空間模型
  - 4.1.3 文本分析的向量空間和知識基礎相結合的方法
  - 4.1.4 文本和圖像的聯合建模
- 4.2 人類交互的考慮因素--自然語言交互
  - 4.2.1 對話系統
  - 4.2.2 自然語言的語義表述
  - 4.2.3 言語行為和對話
- 4.3 因果關系和因果模型
  - 4.3.1 自然語言處理中的因果關系
- 4.4 推斷中的可解釋性和信任
- 4.5 總結、展望和開放的挑戰
- 4.6 參考文獻
第5章 - 結論和對未來技術提案的建議
- 5.1 結論 - KRR方法的機會
- 5.2 結論--對基礎技能和專業知識的需求
- 5.3 結論--當前的研究主題
- 5.4 建議
附件A--相關的NATO STO活動
附件B - MIP信息模型和富事件本體論
- B.1.1 MIP信息模型(MIM)
- B.2.1 富事件本體論（REO）--事件表示的本體論樞紐
- B.3.1 參考文獻
附件C - 國防情報核心本體(DICO)
- C.1.1 DICO開發過程、設計原則和最佳實踐
  - C.1.1.1 獨特的識別實體
  - C.1.1.2 本體實體和DICO實體類別
- C.2.1 參考文獻
附件D--實踐中的知識表示和推理--WISDOM研發平臺
- D.1.1 WISDOM研發平臺
- D.2.1 WISDOM數據策略
  - D.2.1.1 WISDOM研發平臺的自動推理能力
- D.3.1 參考文獻
附件E - 不確定性管理
- E.1.1 不確定性類型學/分類法
- E.2.1 什么是不確定性？
- E.3.1 不確定性管理的形式主義
- E.4.1 參考文獻
附件F - 作者簡歷

報告導言

1.1 "戰爭"中的信息

隨著傳感器、性能、反饋和其他數據數量的不斷增加，國防面臨的最緊迫的挑戰之一是可靠地、快速地篩選、融合最相關的觀察和信息并采取作戰行動的能力。信息的重要性體現在北約的所有戰略重點中[2]。俄羅斯對歐洲-大西洋安全的威脅是基于旨在破壞戰略關系（如歐盟、北約等）的虛假信息；打擊一切形式和表現的恐怖主義，現在的前提是能夠將機密和公開來源的材料聯系起來，以確定可以采取行動的聯系和行為；網絡威脅主要是在信息空間進行的。

北約對聯盟地面監視（AGS）系統的收購代表了北約在支持其未來行動中提供豐富數據饋送的能力的重大提升[3]。但是，在英國的 "信息優勢 "等概念中，人們認識到，現在只有通過及時和有效地融合這些數據饋送，才能實現真正的優勢。

當然，處理信息過載的挑戰并不限于國防領域。金融、廣告和工程等領域，都在抓住機遇，改善決策，瞄準服務，提高新解決方案的交付速度。近年來，應用機器學習（ML）方法應對這些挑戰的潛力已經引起了公眾、投資者和世界各地高層領導人的注意。因此，這樣的ML方法正在展示其應對防御挑戰的潛力，包括圖像和視頻資料中的物體檢測和標記、提取實體和關系的文本分析以及語音檢測和翻譯。在計算能力、數據可用性和計算框架的重大突破基礎上，對數據和人工智能的興趣將大大增加。

因此，防御能力將越來越能夠處理最關鍵的信息流，節省分析員的時間，提高他們快速發展和保持態勢感知的能力。然而，由于人類分析員的注意力也被持續競爭時期的操作和作戰活動所牽制[5]，仍然需要不斷提高他們在多個領域連接細微但重要的觀察的能力。例如，隨著作戰尋求常規的全頻譜效應，物理、社會和網絡領域之間觀察的相互聯系將越來越重要，但如果沒有其他能力支持，這種聯系可能不容易被發現。重要的是，將這些觀察結果與過去的知識、相關人員的固有專長以及之前的經驗聯系起來是至關重要的。

1.2 理解和信息融合

復雜性一直存在于自然和生物領域中。然而，隨著科學和技術的進步，人類現在有能力制造出其復雜性接近生命本身的人工制品。有必要使用先進的方法來處理這種復雜性。

這種復雜性源于數據的速度、密度和空間范圍的巨大增長，以及不斷增加的各種元素之間的耦合，其中一些是自然的，而許多是合成的。防御的一個核心挑戰是應對復雜情況的方法。我們面臨著技術的快速發展，提供了更多的數據、信息和能力，同時也面臨著具有挑戰性的地形，如城市環境和涉及叛亂分子、混合人口、非政府組織的 "人類地形"。這些復雜的情況實際上比以往任何時候都更需要及時的決策來戰勝威脅，而決策的質量將始終與對情況的理解程度密切相關。這種理解力受到如此快速的行動和技術變化的挑戰，需要新的方法來更好、更快地分解復雜的情況。雖然人類的思維方式仍然深深扎根于經典的還原論概念，即通過將問題分解為子問題來解決，但現在人們認識到，以有效的方式接近復雜性不能脫離還原論方法。

諸如英國的 "信息優勢"[6]等國家概念試圖催化信息在國防行動中的作用，強調必須進行創新，否則就有可能 "枯萎"并跟不上對手的步伐。美國的 "用機器增強情報"（AIM）倡議[7]也提供了一個戰略觀點，強調了AI和ML在未來情報能力中的作用。對于IST-ET-111來說，AIM倡議特別強調了代表知識方面的基礎研究進展。

多年來，JDL融合模型[8]對實現低層和高層數據融合的技術挑戰進行了很好的定義。然而，全面的解決方案，特別是高層的數據融合，仍然缺乏，而且是不斷研究和開發的主題。

信息融合的挑戰幾乎延伸到國防的所有方面，從后勤到人員管理、平臺維護和醫療。然而，在北約背景下，重點是聯盟行動，如在阿富汗的行動，考慮實現態勢感知以支持指揮與控制（C2）和情報功能的挑戰也許是最貼切的。這些活動的特點是需要：

將主要觀察結果和不太明顯的信息和知識結合起來（硬/軟融合）。
匯集來自多個領域的信息，而且往往是多種分類的信息。
在有限的信息基礎上快速做出決定；
處理不確定性、模糊性和不斷變化的信息。

C2和情報活動產出的主要作者和消費者是人類分析員和作戰人員，但隨著北約部隊更多地使用自動化和自主系統，機器在支持、增強和利用基礎態勢感知和高層融合活動中的作用將越來越重要，需要考慮。

1.3 知識表示和推理的作用

為了支持這種高層的融合，現在有一個基本的需求，即信息和知識要能被人類和機器理解。通過這樣做，就有可能應用機器推理（推測）方法，將規則和形式邏輯應用于現有數據，以提供更高層次的推理。知識表示是將知識以計算機可操作的形式表達出來，以便對其進行利用。這樣做的一個關鍵但不是唯一的原因是，知識可以被推理。基于知識的系統也被稱為符號人工智能和基于規則的人工智能，并且在過去五十多年里一直是一個活躍的研究領域。

知識表示和對這些知識進行推理的愿望是北約七個新興和顛覆性技術（EDTs）中三個的核心：數據、人工智能和自主性，其中每一個都重疊并支持另一個[9]。

當然，正是最近對 "機器學習"（也被稱為亞符號）方法的興趣，專注于神經網絡等計算方法，一直處于公眾對人工智能敘述的最前沿，經常看到ML和AI這兩個術語被交替使用。這類系統已經在多種應用中證明了其價值，如產品推薦系統、交通模式的預測和貸款審批。使用ML來支持基于內容的多種數據類型（圖像、視頻、文本和社交媒體）的分析是現已完成的IST-RTG-144（多內容分析）的核心興趣。該小組清楚地展示了對單模態進行分析的潛力，以及在更廣泛的情報周期內結合這些分析的機會，但它沒有考慮自動/半自動融合或針對觀察結果進行推理，以支持高水平融合的目標。

ML方法通常利用大量的數據來開發模型，將輸出與輸入聯系起來。對于某些類別的任務，如圖像標記，ML是一種行之有效的應用，但即使是人工智能系統的領導者也很謹慎，甚至對它的成功持批評態度[10]。用ML方法表示和包含知識（所謂的神經符號方法）可能是提高未來解決方案的穩健性和性能的一個潛在步驟。

因此，實現這一目標的基本步驟是建立有效的知識表示（符號表示），可以被未來的混合系統所使用。符號方法可能更善于處理稀疏的數據，支持增強的可解釋性并納入過去的人類知識，并使用擅長模式識別和數據聚類/分類問題的計算方法。然而，如果這些方法/技術要支持未來的聯盟行動，就需要聯合起來努力。這包括

開發特定領域的本體論（為特定領域定義的詞匯表）。
部署和評估推理能力。
為事件驅動的處理建立有效的架構。
處理觀測中的不確定性和模糊性。
信息共享和觀測數據來源。
聯合部署和應對規模問題的方法。

1.4 IST-ET-111的宗旨和目標

正是在這種情況下，北約IST-ET-111 "知識表示和推理 "被提出來，目的是匯集北約伙伴對KRR現狀的理解，以了解技術現狀并考慮未來是否需要開展活動。

通過建立技術現狀和北約國家的技術能力，IST-ET-111團隊希望這份報告能夠支持圍繞實現有效的人機團隊的最有效方法進行對話。探索小組的建立也是確定如何利用其他北約國家的科學和技術活動來獲得近期和長期的業務利益的一個步驟。

最終，我們預計KRR的有效使用會帶來以下結果：

更快的決策，以保持在潛在對手的OODA循環中。
更強大的人工智能系統能夠處理新的信息和處理不確定性。
透明的系統，提供充分理解和可評估的輸出。
隨著工作人員在行動中的輪換或行動的結束，保留專題知識，但隨后允許更迅速地建立先驗能力。
大幅提高利用和辨別現有數據知識的能力。

1.5 本報告的方法和結構

本報告針對的是更廣泛的北約STO社區和國家代表，他們

可能需要領導技術變革舉措，并可能從在軍事背景下使用KRR方法和手段中受益。
需要實施新的解決方案以更好地利用信息和知識；
可能擁有ML方面的專業知識，并正在尋求其他方法來提高結果的穩健性和可解釋性。

首先，本報告關注知識表示的核心概念（第2章），認識到利用基于知識的方法的第一步是擁有表示知識的手段，然后才是對知識進行推理的方法，或者換句話說，從我們已經知道的知識中推導出新知識的方法。然后，報告轉向實施KRR方法的問題（第3章），用具體的例子來說明其中的問題。最后，對活躍的研究主題進行了簡短的討論（第4章），并提出結論和建議（第5章）。

付費5元查看完整內容

AI與軍事 · 軍事系統的網絡安全風險評估 · 北約 · 報告 ·

2022 年 4 月 18 日

[付費5元查看完整內容]北約《軍事系統的網絡安全風險評估》技術報告

專知會員服務

專知，提供專業可信的知識分發服務，讓認知協作更快更好！

引言

本文件是北約 IST-151 研究任務組 (RTG) 活動的最終報告，題為“軍事系統的網絡安全”。該 RTG 專注于研究軍事系統和平臺的網絡安全風險評估方法。 RTG 的目標如下：

? 協作評估軍事系統的網絡安全，并在 RTG 的北約成員國之間共享訪問權限；

? 在 RTG 的北約成員國之間共享風險評估方法和結果；

? 將 RTG 的北約成員國使用的評估方法整合到一個連貫的網絡安全風險評估方法中，以使北約國家受益。

軍事平臺比以往任何時候都更加計算機化、網絡化和受處理器驅動。他們大量使用數據總線，如 MIL-STD-1553A/B、CAN/MilCAN、RS-422/RS-485、AFDX 甚至普通以太網，以及戰術通信的舊標準，如 MIL-STD-188C 和 Link 16。此外，捕獲器、傳感器、執行器和許多嵌入式系統是擴展攻擊面的額外無人保護的潛在輸入。結果是增加了網絡攻擊的風險。然而，這些平臺的持續穩定運行對于軍事任務的成功和公共安全至關重要。

軍事系統和平臺是網絡攻擊的首選目標，不是因為它們像消費電子產品那樣普遍，而是因為它們潛在的戰略影響。一旦受到影響，就可以實現各種短期和長期影響，從拒絕能力到秘密降低其有效性或效率。因此，軍隊必須在各個層面解決網絡安全問題：戰略層面，同時獲取平臺和系統；作戰層面，同時規劃軍事任務和戰術。

北約國家擁有大量可能面臨網絡攻擊的軍事平臺和系統。因此，北約將受益于利用當前的流程和方法來設計更安全的系統并評估當前系統的網絡安全。

本報告介紹了針對軍事系統和平臺量身定制的網絡安全評估方法，該方法由 RTG 團隊成員合作開發，并建立在他們的經驗和專業知識之上。團隊成員已經使用的流程被共享、分析、集成和擴充，以產生本報告中描述的流程。本報告的目標受眾是愿意評估和減輕其軍事系統的網絡安全風險的決策者。

圖一：網絡安全評估過程的五個主要步驟。

報告結構

第 2 節介紹了 RTG 團隊在其存在的三年中用于開發流程的方法。第 3 節列出了可以應用該過程的系統的一些特征。最后，第 4 節描述了評估流程，而第 5 節總結本報告。

執行總結

軍事平臺比以往任何時候都更加計算機化、網絡化和受處理器驅動。這導致增加了網絡攻擊的風險。然而，這些平臺的持續穩定運行對于軍事任務和公共安全的成功至關重要。

絕對的網絡安全是不存在的。必須通過迭代風險評估持續管理網絡安全。傳統 IT 系統存在許多網絡安全風險管理框架和流程。然而，在軍事平臺和系統方面，情況遠非如此。本文檔介紹了針對軍事系統量身定制的網絡安全風險評估流程。該流程由北約 IST-151 研究任務組 (RTG) 活動的團隊成員開發，該活動名為“軍事系統的網絡安全”。該過程可以應用于傳統的 IT 和基于固件的嵌入式系統，這些系統在軍事平臺和系統中無處不在。

付費5元查看完整內容

網絡安全 · 世界經濟論壇 · 報告 ·

2022 年 4 月 4 日

[付費5元查看完整內容]世界經濟論壇2022最新發布《全球網絡安全展望2022年》，35頁pdf

專知會員服務

專知，提供專業可信的知識分發服務，讓認知協作更快更好！

背景

隨著人類行為和交互繼續受到越來越普遍的技術的影響，必須不斷調整自己的能力來處理和防止惡意行為者利用不斷變化的技術環境。如果我們要釋放數字經濟的真正潛力，就必須在社會和經濟的所有領域優先考慮網絡安全。網絡安全不是一項單獨的技術，而是一套跨越第四次工業革命的技術、人員和流程的基礎系統。

在 COVID-19 大流行期間加速轉向遠程工作，再加上最近備受矚目的網絡攻擊，導致組織和國家的關鍵決策者將網絡安全放在首位。盡管人們越來越意識到網絡風險，但決策者和網絡專家在優先考慮網絡安全、將網絡風險納入業務戰略以及將網絡領導者納入業務流程方面往往意見不一。仍然需要做很多工作才能就如何加強網絡彈性達成共識。

建立網絡彈性是世界經濟論壇網絡安全中心的核心焦點。我們彌合網絡安全專家和最高級別決策者之間的差距，以加強網絡安全作為關鍵戰略優先事項的重要性。

2021 年，該中心聘請了 120 多名全球網絡領導者，就新興網絡威脅提出高層次見解。掌握網絡安全狀況的全球脈搏對于明確識別新出現的風險并制定可行的解決方案來解決這些風險至關重要。本報告的目的是深入分析安全領導者正在應對的挑戰、他們為領先于網絡犯罪分子而采取的方法以及他們在更廣泛的生態系統中正在實施的措施以增強其組織內部。

網絡空間超越國界。因此，我們需要動員全球應對以應對系統性網絡安全挑戰。我們希望本報告中的見解將有助于促進建立網絡彈性生態系統的協作方法。

前言

全球網絡安全展望將是一份年度報告，重點介紹隨著開始從網絡防御姿態轉向更強的網絡彈性地位的趨勢和進展。隨著我們的網絡生態系統的擴展和整合，確保所有相關組織能夠快速預測、恢復和適應網絡事件變得越來越重要。以安全為中心的領導者必須能夠有效、清晰地向業務領導者傳達他們的風險和緩解策略。

我們在世界經濟論壇網絡安全領導力社區和埃森哲網絡安全論壇對來自 20 個國家的 120 位全球網絡領導者進行了調查，以從全球角度了解如何看待和實施網絡彈性，以及他們如何更好地保護我們的生態系統。要建立一個有足夠彈性的生態系統，能夠在當今環境中承受而不是動搖，需要一種統一的方法。

正如我們的調查和研討會所確定的，領導支持對于在組織內采用網絡彈性至關重要。同樣重要的是，確保網絡安全和業務領導者之間沒有溝通障礙或協調差距。鑒于在機器學習和自動化進步的推動下，技術不斷變化和快速發展，再加上網絡犯罪分子可獲得的能力越來越強且負擔得起的黑客資源，領導者必須在其網絡彈性計劃中團結一致并保持同步。

通過與世界經濟論壇網絡安全中心合作，我們的目標是提供見解和解決方案，以建立更強大的生態系統，使組織可以從中受益、學習并充滿信心地進入這個高度互聯和數字化的未來。

總結

在撰寫本文時，數字趨勢及其因 COVID-19 大流行而呈指數級增長，已將全球人口推向數字化和互聯互通的新軌道。我們數字化帶來的最嚴重和最令人不安的新后果之一是網絡事件的發生越來越頻繁、代價高昂且具有破壞性，有時甚至會導致關鍵服務和基礎設施癱瘓。這種趨勢沒有放緩的跡象，特別是隨著復雜的工具和方法以相對較低（或在某些情況下沒有）成本更廣泛地提供給威脅參與者。

數字化程度不斷提高的跡象無處不在。國際電信聯盟最近報告稱，由于遠程辦公、遠程學習、遠程娛樂和遠程醫療的直接結果，各大洲的固定寬帶接入顯著增加。大多數技術先進的國家優先考慮擴展數字消費工具，促進數字創業和投資在大學、企業和數字當局的創新方面，而新興經濟體優先考慮增加移動互聯網接入、培訓數字人才以及對研發和數字企業進行投資。這就引出了一個問題：如果小國和實力較弱的國家無法保護其數字連接的基礎設施，它們將如何保護自己和自然資源？網絡安全貧困線問題在不斷增長的連接性浪潮中變得更加緊迫。

考慮到這些持續存在的網絡挑戰，世界經濟論壇網絡安全中心聘請了網絡安全領導社區，該社區由代表 20 個國家的私營和公共部門的 120 名網絡領導者組成。網絡安全中心的工作重點是通過網絡展望調查和網絡展望系列（見附錄）收集數據并對其進行分析，以了解網絡領導者的看法，以及網絡安全和網絡彈性的軌跡。

分析結果揭示了有關網絡狀態的寶貴見解以及對當前網絡彈性路徑的看法。

主要結論包括:

1.雖然許多因素推動網絡安全政策向前發展，但我們通過調查發現，81% 的受訪者認為數字化轉型是提高網絡彈性的主要驅動力。由于 COVID-19 大流行和我們工作習慣的轉變，數字化步伐加快，正在推動網絡彈性向前發展。多達 87% 的高管正計劃通過加強有關如何參與和管理第三方的彈性政策、流程和標準來提高其組織的網絡彈性。
2.我們的研究揭示了以安全為中心的高管（首席信息安全官）和業務高管（首席執行官）之間的三個主要和關鍵的認知差距。差距在三個方面最為明顯：
- 2.1 在業務決策中優先考慮網絡；雖然 92% 的受訪企業高管同意將網絡彈性整合到企業風險管理戰略中，但只有 55% 的受訪企業高管同意這一說法。
- 2.2 獲得領導層對網絡安全的支持； 84% 的受訪者表示，在領導層的支持和指導下，網絡彈性在其組織中被視為業務優先事項，但少得多的比例 (68%) 將網絡彈性視為其整體風險管理的主要部分。由于這種錯位，許多安全領導者仍然表示在業務決策中沒有征求他們的意見，這導致了不太安全的決策和安全問題。由于不協調的安全優先級和政策直接導致領導者之間的這種差距可能使公司容易受到攻擊。
- 2.3 招聘和留住網絡安全人才；我們的調查發現，由于團隊中缺乏技能，59% 的受訪者認為應對網絡安全事件具有挑戰性。雖然大多數受訪者將人才招聘和留住視為最具挑戰性的方面，但與以安全為中心的高管相比，業務主管似乎不太清楚這些差距，后者認為他們有足夠的人員應對攻擊的能力是他們的主要弱點之一。
3.勒索軟件的威脅持續增長。多達 80% 的網絡領導者強調，勒索軟件是對公共安全的危險且不斷演變的威脅。該調查證實，勒索軟件攻擊是網絡領導者最關心的問題，50% 的受訪者表示，勒索軟件是他們在網絡威脅方面最擔心的問題之一。勒索軟件攻擊的頻率和復雜程度都在增加，而這種永遠存在的威脅讓網絡領導者夜不能寐。勒索軟件攻擊緊隨其后，社會工程攻擊是網絡領導者關注的第二大問題；此列表中的第三位是惡意內部活動。惡意內部人員被定義為組織的現任或前任員工、承包商或受信任的業務合作伙伴，他們以對組織產生負面影響的方式濫用其對關鍵資產的授權訪問。
4.中小企業 (SME) 被視為對供應鏈、合作伙伴網絡和生態系統的主要威脅。在我們的研究中，88% 的受訪者表示他們擔心中小企業在其生態系統中的網絡彈性。
5.網絡領導者表示需要明確和富有成效的法規，以允許和鼓勵信息共享和協作。伙伴關系的價值已得到證實；超過 90% 的受訪者表示從外部信息共享小組和/或合作伙伴那里獲得了可行的見解。

本報告使用近年來的回顧性分析來分享網絡領導者的知識和擔憂，其目標是：幫助決策者為下一代網絡攻擊做好準備。

圖：2022年全球網絡安全展望:要點

付費5元查看完整內容

AI與軍事 · 任務導向的人工智能和大數據軍事決策 · 北約 · 報告 ·

2022 年 3 月 28 日

[付費5元查看完整內容]【AI+軍事】北約技術報告《任務導向的人工智能和大數據軍事決策研究》

專知會員服務

專知，提供專業可信的知識分發服務，讓認知協作更快更好！

本報告描述了北約第一個多領域小組IST-173所取得的成果。與會者包括來自不同小組和團體的科學家，以及來自北約機構和軍事利益攸關方、學術界和工業界的科學家，這為AI和軍事決策大數據這一主題創造了第一個利益共同體。該團隊在實踐中證明了一種新的STO方法的可行性，即任務導向研究，以激發公開對話、自我形成的研究合作和跨小組活動。此外，該方法還有助于為人工智能和軍事決策大數據這兩個主要能力領域聯合開發北約首個科技路線圖，以應對北約在這些領域面臨的作戰挑戰。由于新的組織(軍事利益相關者積極參與的多領域團隊)和這種創新方法的應用，確定了一些經驗教訓，應該支持軍事決策AI和大數據的進一步操作。

付費5元查看完整內容

AI與軍事 · AI軍事倫理 · 英國軍事 · 軍事科技 · 報告 ·

2022 年 3 月 14 日

[付費5元查看完整內容]【AI+軍事】最新22頁PPT，解讀人工智能軍事應用

專知會員服務

專知，提供專業可信的知識分發服務，讓認知協作更快更好！

Drone Wars UK 的最新簡報著眼于人工智能目前在軍事環境中的應用方式，并考慮了所帶來的法律和道德、作戰和戰略風險。

人工智能 (AI)、自動決策和自主技術已經在日常生活中變得普遍，并為顯著改善社會提供了巨大的機會。智能手機、互聯網搜索引擎、人工智能個人助理和自動駕駛汽車是依賴人工智能運行的眾多產品和服務之一。然而，與所有技術一樣，如果人們對人工智能了解甚少、不受監管或以不適當或危險的方式使用它，它也會帶來風險。

在當前的 AI 應用程序中，機器為特定目的執行特定任務。概括性術語“計算方法”可能是描述此類系統的更好方式，這些系統與人類智能相去甚遠，但比傳統軟件具有更廣泛的問題解決能力。假設，人工智能最終可能能夠執行一系列認知功能，響應各種各樣的輸入數據，并理解和解決人腦可以解決的任何問題。盡管這是一些人工智能研究計劃的目標，但它仍然是一個遙遠的前景。

AI 并非孤立運行，而是在更廣泛的系統中充當“骨干”，以幫助系統實現其目的。用戶不會“購買”人工智能本身；他們購買使用人工智能的產品和服務，或使用新的人工智能技術升級舊系統。自主系統是能夠在沒有人工輸入的情況下執行任務的機器，它們依靠人工智能計算系統來解釋來自傳感器的信息，然后向執行器（例如電機、泵或武器）發出信號，從而對機器周圍的環境造成影響.

人工智能被世界軍事大國視為變革戰爭和獲得戰勝敵人的優勢的一種方式。人工智能的軍事應用已經開始進入作戰使用，具有令人擔憂的特性的新系統正在迅速推出。與軍事和公共部門相比，商業和學術界已經引領并繼續引領人工智能的發展，因為它們更適合投資資金和獲取研究所需的資源。因此，未來人工智能的軍事應用很可能是對商業領域開發的技術的改編。目前，人工智能正在以下軍事應用中采用：

情報、監視和偵察
賽博戰
電子戰
指揮控制和決策支持
無人機群
自主武器系統

人工智能和英國軍事

綜合審查和其他政府聲明毫無疑問地表明，政府非常重視人工智能的軍事應用，并打算繼續推進人工智能的發展。然而，盡管已經發布了概述使用自動化系統的學說的出版物，但迄今為止，英國國防部 (MoD) 仍然對管理其人工智能和自主系統使用的倫理框架保持沉默，盡管已經做出了一些重大決定。軍事人工智能的未來用途。

英國國防部一再承諾發布其國防人工智能戰略，預計該戰略將制定一套高級倫理原則，以控制軍事人工智能系統的整個生命周期。該戰略是在與來自學術界和工業界的選定專家討論后制定的，盡管政府尚未就與人工智能的軍事用途相關的倫理和其他問題進行公開磋商。該戰略的主要目的之一是向行業和公眾保證，國防部是人工智能項目合作的負責任合作伙伴。

與此同時，在沒有任何道德指南的情況下，計劃和政策正在迅速推進，主要問題仍未得到解答。英國軍隊在什么情況下會采用人工智能技術？政府認為何種程度的人為控制是合適的？風險將如何解決？英國將如何向其盟友和對手證明英國打算采取有原則的方法來使用軍事人工智能技術？

軍事人工智能系統帶來的風險上述人工智能的每一種不同的軍事應用都會帶來不同的風險因素。作為國防部總部后臺操作的一部分，對數據進行排序的算法會引發不同的問題和擔憂，并且需要與自主武器系統不同級別的審查。

盡管如此，目前正在開發的人工智能系統無疑會對生命、人權和福祉構成威脅。軍事人工智能系統帶來的風險可以分為三類：道德和法律、操作和戰略。

道德和法律風險