傳統藥物發現方法存在周期長、成本高的問題。近年來，以AlphaFold為代表的人工智能系統在生命科學領域取得重大突破，推動了人工智能技術在藥物研發上的應用。近年來，深度學習、自然語言處理和知識圖譜等人工智能技術廣泛應用于藥物發現多個環節，深刻改變了藥物發現的方法和途徑，極大提高藥物發現效率、縮短開發進程，形成AI for Science的典型范式。2022中國人工智能系列白皮書之《人工智能與藥物發現》，系統地總結了目前國內外人工智能與藥物發現領域的最新研究成果，探討了人工智能技術在藥物發現領域的應用中所面臨的機遇與挑戰，展望了未來的發展方向。

**第1章 《人工智能與腫瘤靶點識別》**介紹了人工智能技術在多組學分析、引導發現腫瘤靶點以及癌癥發生發展的機制中的趨勢、挑戰及應用。

**第2章 《人工智能與苗頭化合物篩選》**介紹了化合物篩選和尋找苗頭化合物的過程，以及目前基于深度學習的化合物-蛋白質相互作用預測方法的趨勢、挑戰及應用。

**第3章 《人工智能與藥物從頭設計》**介紹了當前深度生成模型在從頭藥物設計和發現具有啟發性的小分子和大分子結構中的趨勢、挑戰及應用。

**第4章 《人工智能與藥物重定位》**介紹了以靶點、疾病為中心的人工智能技術在藥物重定位研究中的趨勢、挑戰及應用。

**第5章 《人工智能與藥物屬性預測》**介紹了人工智能技術在多肽藥物的生物活性、毒性等屬性預測中的趨勢、挑戰及應用。

**第6章 《人工智能與藥物相互作用預測》**介紹了現有的基于人工智能的藥物相互作用預測方法在建模、分析和解釋過程中的應用前景。

**第7章 《藥物發現中的大規模預訓練模型》**介紹了小分子藥物表征學習的預訓練模型構建、應用，以及對人工智能藥物設計領域的促進作用。

**第8章 《藥物發現中的可解釋人工智能模型》**介紹了藥物發現場景中的可解釋人工智能方法，以及如何幫助藥物學家高效地處理海量數據，做出合理決策。

該白皮書為學界和產業界開展人工智能藥物發現相關工作提供借鑒，有利于推動我國人工智能與生命科學領域的交叉融合。

**白皮書地址：**//caai.cn/index.php?s=/home/article/detail/id/2236.html

前言

《中華人民共和國國民經濟和社會發展第十四個五年規劃和 2035 年遠景目標綱要》中提出了“瞄準人工智能、生命健康等前沿領 域”、“聚焦人工智能關鍵算法等關鍵領域，加快推進基礎理論、基礎 算法、裝備材料等研發突破與迭代應用”等規劃。發展新一代人工智 能是我國在科技革命與產業變革等戰略問題上的重要抓手。藥物是診 斷、緩解、治療或預防疾病的物質，對于改善人類健康和保證生活質 量具有非常重要的作用。塔夫茨大學藥物開發研究中心的研究表明， 在過去 30 年，研發一種新藥需要近 26 億美元的資金投入與近 14 年 的時間投入，這個數字依然在不斷提升。在高昂研發成本的驅使下， 制藥公司目前正在尋找可以提高研發效率和轉化成功率的新技術。

計算機輔助藥物設計自 20 世紀 60 年代被提出，以計算化學、計 算機科學和生物學等學科為基礎，對靶標蛋白質與配體藥物的結合過 程進行計算模擬、預測，評估藥物分子結構與其生物活性、毒性和代 謝等性質的相互關系，進行藥物分子的發現與優化。高通量技術的發 展和應用產生了豐富的藥物、疾病、基因和蛋白質等數據，使得開展 人工智能藥物發現成為可能。近年來，以 Google 公司 AlphaFold 為 代表的人工智能系統在生命科學領域取得了重要突破，推動了人工智 能等關鍵領域在藥物研發上的應用。深度學習（Deep Learning, DL）、 自然語言處理（Natural Language Processing, NLP）和知識圖譜 （Knowledge Graph, KG）等人工智能關鍵技術已廣泛應用于藥物發 現的各個環節，如腫瘤靶點識別、苗頭化合物篩選、藥物從頭設計、 藥物重定位、藥物屬性預測、藥物相互作用預測、藥物發現中的可解 釋性模型和大規模預訓練模型等。人工智能輔助藥物發現深刻改變了 藥物發現的方法和途徑，極大提高了藥物發現效率、縮短開發進程， 加速了生物技術的創新變革，加深人類對生命科學中的分子機制的認知。開展基于人工智能技術的藥物發現研究，符合科技革命和國家發 展規劃的需求，是落實“面向世界科技前沿、面向國家重大需求、面 向人民生命健康”戰略的重要舉措。

本白皮書收集了目前國內外人工智能與藥物發現交叉領域的最 新理論研究成果，并介紹了人工智能技術在藥物發現領域中的應用。 編寫過程中的貢獻者包括：辛弘毅（第一章）、施建宇（第二章）、 涂仕奎（第三章）、曾湘祥（第四章）、宋弢（第四章）、魏樂義（第 五章）、劉世超（第六章）、劉琦（第七章）、李昊（第八章）、何 松（第八章）、章文（統稿與第六章）及其博士生李夢露、劉旋和王紫 嫣（整理與校稿），在此一并表示感謝。

**作者介紹： **

摘要

本文是挪威國防大學學院更廣泛的研究和開發項目的一部分，該項目旨在探索各種兵棋推演和軍事演習的效用和潛力。這篇文章旨在激發對兵棋的使用和問題進行討論，并激發產生新的和更好的建議。因此，本文包含意見和學術思考。本文討論了兵棋推演、其多種不同類型、它們的實際用途，以及在使用兵棋以產生有用結果時出現的一些危險或陷阱。本文的目的是促進辯論，而不是給出任何明確的結論。

簡介

"兵棋推演"這個詞對不同的人意味著許多不同的含義。在某些情況下，存在著截然不同的解釋，從與軍事決策過程（MDMP；見CALL，2015）中的特定階段有關的極其狹窄的定義，到記者和大部分公眾傾向于將戰爭之外的所有軍事努力，包括現場訓練和計算機模擬，視為兵棋推演。這個詞有許多不同的使用方式，并帶有許多情感成見，這取決于相關人員的經歷。問題的一部分在于"'兵棋推演'沒有單一的、普遍接受的定義"（英國國防部，2020）。

即使是那些在專業基礎上參與兵棋推演的人，也很難接受現有的眾多定義，這些定義在定性技術和對更多分析性產出的定量要求之間可能有所不同。對于是否應該包括計算機模擬，或者 "兵棋推演"是否僅指人工技術，也存在分歧。有些人甚至不認可寫成 "war gaming"或"wargaming"。

與許多軍官一樣，我不關心學術定義的細枝末節，而更關心與我所承擔的任務有關的特定技術的有效性。我認為，任何 "兵棋推演"的定義都只能與兵棋推演所支持的具體任務和目的相關，而不是任何全面的概括。我還認為，試圖給"兵棋推演"下一個萬能的定義，不僅是徒勞的，而且實際上對更廣泛地采用這種技術來解決國防需求是有害的。因此，針對本文目的，我將以最廣泛的定義來使用 "兵棋推演"，包括所有涉及人類決策者的教育、培訓和分析目的，但不包括實際戰斗。

兵棋推演

兵棋推演是一種決策技術，它提供了結構化的、但在智力上是自由的、可以避免失敗的環境，以幫助探索什么是有效的（勝利/成功），什么是無效的（損失/失敗），通常成本比較低。兵棋推演是一個對抗性挑戰和創造性的過程，以結構化的形式提供，通常有裁判或裁決。兵棋推演是由玩家決策驅動的動態事件。除了敵對的行動者，它們還應該包括所有抵制計劃的 "反對 "因素。兵棋推演的核心是：

• 玩家。

• 他們做出的決策。

• 他們創造的敘事。

• 他們的共同經歷；以及

• 他們所獲得的教訓"。(英國國防部, 2020)

兵棋推演涵蓋了廣泛的方法和技術，旨在優化其與目標相關的產出，從那些旨在利用想象力、創造力和原創思維的方法和技術，到那些旨在支持軍事決策過程的方法和技術，以及那些旨在產生定量數據以支持采購和部隊開發的方法和技術。

作者的經驗

由于這是一篇以實踐為導向的文章，關注的是兵棋推演在現實生活中的實際應用，以支持特定的任務和目的，因此也許值得花一些時間來闡述我自己作為一個兵棋玩家的實踐以及我過去在軍隊中舉辦訓練活動的經驗。我是1979年在桑德赫斯特皇家軍事學院開始接觸兵棋推演的，當時是在帕迪-格里菲斯（已故）的指導下，他是一位軍事歷史學家、兵棋家和多產的軍事歷史和戰術作者。在接下來的幾年里，我參與并幫助組織了許多大規模的兵棋推演活動，這些活動都是利用桑赫斯特的設施，由帕迪-格里菲斯和其他人負責。

兵棋推演的目的

有幾個不同的，往往是重疊的，你可能希望進行兵棋推演的原因。根據30年的經驗，我提供了一個主要原因的簡短清單，如下：

• 了解系統能力。

• 有效地了解態勢。

• 教育。

• 訓練。

• 當前部隊戰略或戰術。

• 未來部隊發展（包括作為采購過程的一部分）。

• 軍事決策過程的一部分。

• 了解團隊。

• 預測可能的未來。

• 了解系統能力。

2015年，我應邀在中國長沙的國防科技大學講授仿真和建模。作為一系列講座的一部分，我被邀請向軍校學生演示一個簡單的 "自由兵棋（free-kriegsspiel）"（一種很少或沒有書面規則的兵棋，裁決是基于一個高級裁判的經驗，而不是復雜的規則和程序）。這是在大學體育館進行的，由模擬學生充當裁判員（之前接受過技術培訓），同時進行25場10人的同一游戲。

我觀察到，中國學生傾向于尋找 "答案"，而不是探索學習或自己思考，所以當一個學生質疑為什么有人會進行兵棋推演時，我選擇指導他們玩游戲，然后告訴我他們認為游戲的目的是什么。

在比賽中，關于戰術的討論非常少（以至于一個玩家在得知有炮火支援時，建議連續轟炸敵人的陣地，直到敵人死亡）。大部分的問題和討論都與武器的能力和效果有關。有人向我提問，如 "某個武器系統的有效射程是多少？"，我回答說，作為解放軍的軍官，他們應該知道這些信息。這導致了許多討論、信息共享和對軍事手冊的研究。會議結束時，學生們一致認為，與死記硬背相比，這是一種非常高效和有效的信息教學方式。大多數人還同意，這顯然是進行這樣一個兵棋推演的主要原因。我并不反對。

高效的態勢理解

與上述見解相聯系的是，約翰-康普頓博士3在2018年的 "連接美國 "專業兵棋推演會議上討論說，兵棋推演是向參與者介紹軍事態勢的一種極其高效和有效的方式。這是因為信息的呈現方式與它所處的環境直接相關，而且，由于它通常是通過發現學習的過程獲得的，所以它往往更容易在解決問題時發揮作用（Alfieri等人，2011）。這與我在英國常設聯合部隊總部工作時，在俄羅斯吞并克里米亞后，就波羅的海局勢進行的兵棋推演的經驗相吻合。

最終，我為總部的辦公人員就波羅的海局勢進行了四小時的矩陣游戲。游戲結束后，大家一致認為，游戲使參與者迅速掌握了不同的要素和關于當前局勢的重要背景。一位玩家說："我現在知道了我所知道的，并理解了我不知道的，以及我需要研究的東西。一位J2的工作人員對此提出質疑，他指出這些信息已經以電子郵件簡報的形式提供，并指著一疊至少300毫米高的紙質打印件。大多數工作人員的回答是 "太長了--沒看"。

教育

兵棋推演在教育中特別有效，正如上面提到的發現學習的背景。"我聽了就忘，我看了就記，我做了就懂"（Seok，2011）。然而，與所有基于游戲的學習一樣，也有一些注意事項，那就是需要仔細管理，所選擇的游戲類型應該是有重點的，并且與預期的學習結果相關（以及在現有的時間內可以實現）。也有很好的證據表明，試圖讓不熟悉或不習慣這種方法的教師強制使用基于游戲的學習，可能弊大于利（Whitney等人，2014）。

將游戲用于教育目的需要考慮的其他因素是，游戲不一定要玩到最后（避免得出 "我輸了，所以游戲不好 "或 "我贏了，所以游戲好 "的結論--這兩種結論對教育理解都是有害的），以及游戲不一定要完美地表現現實--游戲的簡易性和學生的參與性更為重要。事實上，如果游戲是不完美的，教員邀請學生就如何改進游戲提出建議，可以產生比游戲本身更多的洞察力和智能對話。因此，在一節基于游戲的學習之后，進行適當的匯報是非常重要的，以確保游戲與要達到的學習結果相聯系。

培訓

兵棋推演可以在培訓中發揮作用，因為兵棋推演往往比其他培訓方法更容易獲得，更容易接觸，而且成本更低（允許有更多的機會進行練習--刻意練習比天賦更重要；見Ericsson等人，1993）。就像上面的評論一樣，游戲是在一個特定的環境中進行的，這有助于信息的保留，并有助于理解游戲中描述的情況。

然而，與教育游戲不同的是，特別重要的是，游戲機制和裁決要根據對現實世界表現的期望進行驗證，以防止對游戲的價值失去信心或從體驗游戲中獲得錯誤的教訓。

當前部隊戰略或戰術

2019年，駐扎在蘇格蘭愛丁堡的3號步兵營（一個輕型步兵營）的指揮官要求我協助開展一些戰斗小組級別的兵棋推演。該部隊將從輕步兵重新定位，成為一個機械化營，配備輕型裝甲的偵察車、支援車和運兵車。其目的是為了獲得一些洞察力和理解，以適應裝備這些車輛所需的戰術和程序的變化。

很快就可以看出，作為在阿富汗使用的 "緊急行動需求 "而購買的車輛，完全不適合機械化營所期望的更廣泛的作用。當把它放在一個特定的兵棋推演場景中，試圖在不同的地形中使用不同的車輛，并對付另一種更常規的敵軍時，很明顯，如果按照最初的設想使用這些車輛，會有很大的缺點。用于偵察的車輛雖然裝甲較輕，但缺乏對乘員的保護，特別容易受到炮彈碎片和敵人裝備的大炮的偵察。運兵車雖然在阿富汗的地形上對簡易爆炸裝置有很好的防護作用，但完全不適合在另一種地形上越野行駛。

事實上，所有這些因素都被暴露出來，在場景的操作背景下，在所有相關的利益相關者在場的情況下一起工作，這使得什么可能有效，什么不可能有效變得很明顯。這導致了對如何改變戰術以減少這些風險，或對部隊可以承擔的任務和角色進行限制的清晰理解。

未來部隊的發展

當考慮將未來部隊的發展作為兵棋推演的目的之一時，這分為兩個主要領域：兵棋推演作為分析過程的一部分，以確定未來采購的數量和性能；以及兵棋推演，以確定這些新能力在特定場景下的最佳應用。前者最有可能由研究機構進行，后者則由軍事單位和編隊進行。

應該注意的是，在用于分析目的的兵棋推演中，游戲規則、數據和程序必須盡可能準確，以確保游戲產生的數據同樣準確；游戲的簡易性和玩家的參與是次要的（與教育戰爭游戲相反）。

軍事決策過程的一部分

可以說，兵棋推演是軍事決策過程中最關鍵的部分之一，因為它將指揮官的計劃從概念變成了細節，并使部隊的戰斗力同步于行動。這通常是軍事人員最熟悉的戰爭演習類型，也是由于對如何正確執行戰爭演習的誤解，以及缺乏分配給這一職能的時間和專業知識而通常做得不好的類型（CALL, 2020）。

戰術演練應該被用來評估作戰方案（COA）完成任務的潛力，以應對不同對手COA的預見性反擊，以及識別和糾正不足之處。然而，真正的價值在于它能夠允許指揮官和參謀部將行動的開展可視化，并深入了解對手的能力和行動，以及作戰環境的狀況（AJP-5，2019）。

基本要素是在作戰的背景下了解計劃，以及敵人可能采取的作戰方針。

了解團隊

托馬斯-謝林是美國經濟學家，馬里蘭大學學院公園公共政策學院的外交政策、國家安全、核戰略和軍備控制教授。他因 "通過博弈論分析提高了我們對沖突和合作的理解 "而被授予2005年諾貝爾經濟科學紀念獎。他還根據自己在戰略層面上的博弈經驗，在美國和俄羅斯之間建立了核熱線（Miller, 2021, pp.176-191）。

在蘭德公司的論文《27年后的危機兵棋推演》（Levine et al., 1991）中，Schelling寫道："最大的好處是他們（參與者）與一些他們將來可能有機會合作或依賴的人變得親密無間，或者至少是隨意地熟悉起來。" 這被明確為兵棋推演的一個重要副產品，以及我所說的場景理解和系統能力。

預測可能的未來

"兵棋推演不是預測性的。兵棋推演說明了可能的結果，所以有可能從兵棋推演的一次運行中發現錯誤的教訓。兵棋推演可以說明某些事情是合理的，但不能明確地預測它是可能的。(英國國防部, 2020) "

許多作者，包括支持使用兵棋推演的作者和批評兵棋推演方法的作者，都對兵棋推演的預測能力提出了可怕的警告。人們總是對兵棋推演的失敗提出批評，從未能預測1899-1902年布爾戰爭的心理或經濟方面的決定性因素（Caffrey，2019），到商業兵棋推演 "遙遠的平原"（關于阿富汗戰爭）的設計者無法預測2021年8月阿富汗軍隊出現災難性崩潰的可能性（BGG，2021）。

如果兵棋推演在過去的122年里都不能預測未來，盡管有些作者聲稱它們可以（Dupuy, 1985），那么它們在這個領域有什么用處呢？

答案在于它們能夠在關鍵的利益相關者在場的情況下，暴露出一個計劃的多面性，同時面對克勞塞維茨式的摩擦（Watts，2004）和敵人行動所能帶來的所有對抗性因素。這種方法，如果執行得當，有一種獨特的能力，可以暴露任何未來計劃的弱點，排除那些根本行不通的行動和意圖，并完善可能結果的未來錐（Voros, 2017），突出預測的、合理的和可能的未來，并允許更好地理解與之相關的風險。

兵棋推演可能無法預測實際的未來，但它們善于排除那些根本行不通的未來計劃，并允許更好地理解在執行一項行動時可能發生的一系列結果。

兵棋推演的誤用

在簡要討論了你可能希望進行兵棋推演的一些原因之后，重要的是要介紹一下為專業目的進行兵棋推演所涉及的陷阱和危險。

然而，在開始之前，有必要參考一下關于這個特定主題的開創性工作："兵棋推演的病癥"（Weuve, et al, 2004）一文。我所做的任何評論只是反映了對我所進行的兵棋推演影響最大的問題，由于我在職業生涯的后半段是一名 "教育者"，這影響了我的思維，也意味著在兵棋推演的某些領域（訓練和分析），我的經驗比較有限。

幻想游戲

以色列軍方堅定地認為，任何具有虛構背景的訓練活動，包含專門為該活動創建的數據，不僅是一種浪費，而且浪費了對真實世界的理解和洞察的機會 - 他們是絕對正確的。你永遠不應該使用假的場景。

除非你必須這樣做。

在某些情況下，對運行有關真實潛在敵人的游戲存在政治敏感性。大多數情況下，這些都是誤導，實際上對活動的價值有害。在真實的潛在情況下進行游戲的行為不僅本身非常有價值，而且如果消息傳到反對派那里，那就更好了，因為這將產生威懾作用。更不用說，如果一般公眾認為我們是在 "瞎編"，他們會認為我們不認真對待這種情況，是瘋了。畢竟，20世紀20年代的 "紅色戰爭計劃 "是美國針對英國和加拿大的一套真實的計劃方案，是由一個剛剛在歐洲作為英國的盟友之一打了一場大仗的國家設計的（Major, 1998, pp.12-15）。

如果你被迫擁有一個虛構的場景，基本上有三種選擇：從頭開始生成場景，增加一個額外的國家，以及改變名稱。

從頭開始構建場景是最糟糕的選擇。所需的工作是巨大的，根據游戲的層級，你可能需要創建整個大陸、國家和其他社會政治集團。你可能需要繪制地圖，以及關于友軍和敵軍作戰命令的深層背景數據，這可能是非常耗時的。

添加一個額外的國家是一個稍好的選擇，因為地緣政治環境是真實的世界，但在危機地區插入了一兩個虛構的國家。這減少了準備工作的負擔，通常允許使用真實的地形（重新劃定一些邊界），并有一個可否認的外衣。

改變名稱是最好的選擇。它允許所有相關人員使用現實世界的情況，并將變化降到最低，而我們決定費盡心思改變名稱的事實表明，我們不希望冒犯他人，同時顯然允許在真實的地緣政治情況下進行訓練。然而，不要搞錯了--"僅僅改變名稱 "本身就可能是一項巨大的努力。我曾參與過一次軍團級的演習，我們要使用西德的地理環境，我們只是把它重新命名為 "紅土"。準備工作已經到了高級階段，當參加演習的德國師級人員震驚地發現，只有國名改變了，但城鎮、地區或河流的名稱都沒有改變。例如，將下薩克森州作為 "敵人的領土"，這在政治上被認為是不可接受的，而且，由于計算機模擬無法在現有的時間內進行修改，因此不得不完全重寫設定，使用英國的地理環境，因為這是當時唯一存在的替代模擬地形。

人們經常表示擔心，如果使用真實世界的數據，場景將不得不成為機密；增加的費用和努力是一個數量級的。有幾件事情需要考慮：

• 用真實的數據進行訓練是更好、更現實的。它將吸引在現實生活中處理情況的個人更高水平的參與，并提供一個機會在事件中檢查數據的有效性和背后的假設。在大多數情況下，在高分類的情況下，實際需要的數據非常少，但額外的成本可能非常高。

• 根本不需要使用分類數據。完全可以使用通常用于 "訓練 "或公共領域的數據，以較低的分類來設計事件，將其設置在現實世界中。與從完全 "編造 "的數據中得出的那種教訓相比，認為這可能會產生 "錯誤的教訓 "的論點顯然是可笑的。

在過去，這不是一個問題，因為人們普遍認為戰爭與和平之間有一條分界線。這意味著，與手頭的軍事任務相比，對地緣政治局勢、當地政治或宗教的詳細了解被置于次要地位。然而，在當前的不對稱威脅環境中，這種復雜性變得極為重要，因此，為了解決這個問題，場景模擬變得越來越復雜了。

問了錯誤的問題

當一位高級軍官說他希望通過一個特定的兵棋推演來 "證明我們需要更多的[某種]導彈 "時，我實際上也在場。他沒有按照兵棋推演的原意使用兵棋，而是為了研究一個問題，以收集有助于為辯論提供信息的見解，他已經決定了答案，只是想通過兵棋推演來證實他的偏見。

這種行為比你想象的要多，不一定像上面的例子那樣明目張膽地發生，但在減少兵棋推演的范圍時，表面上是出于預算或編程的原因，所以被審查的場景被迫處理如此少的替代方案，結果是預先注定的。

英國皇家海軍進行了一次兵棋推演，研究格陵蘭島、冰島和英國之間的差距，這是大西洋北部的一個區域，在這三個陸地之間形成了一個海軍扼制點。其目的是確定是否可以有效地發現俄羅斯北方艦隊的潛艇運動進入北大西洋。一些憤世嫉俗的分析家認為，這場戰爭的目的是為了 "證明 "皇家海軍沒有足夠的潛艇來發揮效力。他們感到驚訝的是，這個假設在游戲開始時就被假定了，而實際的問題是調查如果這種情況被證明是真的，最具有成本效益的替代方案。

最后，顯然需要更多的潛艇才能有效地對付更現代化的俄羅斯潛艇，但除了試圖采購更昂貴的潛艇外，還有一些具有成本效益的替代方案：衛星監視、與盟國加強合作以及海上空中巡邏。當然，海軍兵棋準備建議為皇家空軍海上航空隊提供額外的資金，這一事實在分析上，特別是在政治上都是令人信服的，并且保證了結果被廣泛分享和采取行動。一個提出正確問題的例子。

重要的不是兵棋推演確定了某一系統或戰略存在嚴重的不足，而是玩家做了什么來克服這一不足，以及這是否能夠成功。

太大的問題

兵棋推演，至少以我在英國的經驗來看，一般是例外，而不是常態。因此，當安排了適當數量的高級領導人參加的兵棋推演時，它們往往會受到 "膨脹 "的影響，目的和目標變得越來越雄心勃勃，以證明有這么多的高級決策者參加。在這種情況下，活動中不可避免地增加了其他內容，在活動中插入了審查其他場景和問題的機會，以充分利用參與的人才。

這必然會扭曲活動，將重點從最初的問題上移開，并有可能稀釋結論，從而使它們在更廣泛的戰后報告中丟失，這些報告中充滿了對大多數人來說不感興趣或不相關的信息。

額外的元素也將有助于固定活動方案，分散對原意的注意力，減少那些高級人員花時間 "深入研究 "的靈活性，以進一步研究與他們的同行產生的任何特殊見解。相反，他們往往被從一個點引導到另一個點，缺乏參與或時間來產生有用的投入。

當一場兵棋推演成為 "大事件"，有許多高級決策者參加時，它也可能吸引媒體的注意，因此游戲的結果將受到明顯的關注。這意味著要避免被認為是失敗或缺點的尷尬，而且游戲不可避免地被傾斜，以產生一個 "成功的結果"（就外部第三方而言），而不考慮最初的目的。

在這種情況下，游戲不再是一個兵棋，而是通過計劃獲得成功的行動，只有微不足道的 "學習 "才能證明事后的活動。

更多的計算機和更多的數據

如果我們考慮在最廣泛的意義上使用兵棋推演，我們需要理解許多人為了產生一個 "更準確 "的結果而希望涉及計算機模擬，也許還有人工智能（AI）。這是錯誤地認為 "更多的數據 "和 "更多的計算能力 "可以在某種程度上，本身就可以提高準確性。

使用模擬和人工智能協助軍事指揮官決策的機會是令人興奮的：使用計算機模擬未來的沖突局勢，然后 "通過人工智能運行它們"，以制定最佳行動方案、部隊組合和實現成功的時間。請注意，在這種情況下，人工智能的軍事概念包括在一個基于云的分布式架構中查看多個同時進行的行動方案，以并行地完成許多這些過程（庫克，2020年）。它可能不是嚴格意義上的人工智能，但任何先進的技術計算架構都傾向于被概括為這個標題--軍事指揮官實際上只對產出的實際效用感興趣，而不是對術語的學術定義。

然而，這種方法有一些問題，主要是在兩個方面：基礎模型的準確性；以及優化的危險，導致可預測性和脆弱性。

人工智能系統采用規則來優化其行為，以尋求優勢。這種方法的優勢在于它的有效性。這種方法的缺點也是它有效。我們必須非常小心，確保我們為人工智能定義參數，以產生我們想要的行為（例如，最佳攻擊路線可能在國家邊界之外，所以我們需要確保我們在執行計劃時不會入侵鄰國）。人工智能可以產生不同的行動方案，只要他們的規則適合任務，在封閉的模擬環境中。這必須由人類嚴格控制，以確保不僅規則適合情況，而且人工智能不會通過利用系統中的錯誤來作弊（Benson，2020）。

雖然許多這些系統或多或少都是聚集在一起的，所以必須對性能進行近似，但它們是用來訓練的，這意味著它們足夠準確，有軍事用途；對于Box（1979）來說，"所有的模型都是錯的，有些是有用的"。

危險的是，如果我們可以做這種分析，我們的敵人也可以，讓他們預測我們的行動方案。在尋求具有決定性優勢的武器系統時，這樣的系統變得昂貴，減少了用于替代方案的資源，并且需要很長時間才能投入使用。敵人在得知這樣一個系統后，可以花時間來打敗這個系統。而當他們這樣做的時候，就沒有什么可以反對他們了。韋恩-休斯教授警告說："海上戰爭中的殺戮往往是用海軍的第二好的武器完成的。如果在未來的某個沖突中，雙方都反擊了對方的首要武器，那么海軍將不得不問：我們的下一個最佳武器是什么？" (Rielage, 2017)。如果人工智能生成的可預測性已經導致了一個單一的武器系統或最佳方法，而它被打敗了，可能就沒有什么替代品了。

優化的系統也是脆弱的，特別是在面對突發事件時。這一點在COVID-19大流行病早期的衛生紙交付的供應鏈失敗中得到了明確的證明（Wieczner, 2020）。特別是軍事行動，需要對突發事件有強大的抵抗力。

然而，許多這樣的實驗未能解決的是關于情報和局勢數據準確性的一些隱性和顯性假設。正如在科索沃的空襲行動中所證明的那樣，塞族人能夠用相對粗糙的技術騙過美國的情報分析員（施密特，1999年），而且在堅實的地面、泥濘的斜坡和耕地上的相對 "前進"（即前進速度）很少被量化，所以假設是危險的。

然而，所有的軍事規劃都是在不完善的信息基礎上進行的。假設人類對人工智能的建議有所節制，那么當人類和人工智能合作以利于決策時，有可能導致更好的結果（an den Bosch & Bronkhorst, 2018），或至少排除更愚蠢的選擇。

因此，人工智能，在一些注意事項和人類的支持下，可以使其發揮作用 - 但代價是什么？人工智能的歷史是一個炒作和預期失敗的故事，被Floridi（2020）稱為 "人工智能的冬天"。其他技術（現有的統計方法、人工兵棋推演、競爭性假設的分析）已被證明是同樣有效的，而成本和精力卻只有一小部分（Makridakis等人，2018），而且不容易出現人工智能衍生結果有時會產生的嚴重錯誤（Yampolskiy，2016；Osoba和Welser，2017）。

英國防部傾向于希望在最昂貴和效率最低的領域使用人工智能--而不是后勤支持和光學識別這些低垂的果實（國防采購機構認為在正常競爭下會自動交付）。相反，他們追求的是最昂貴和最令人興奮的獎品：常規部隊的行動過程評估（Kerbusch等人，2018）。

兵棋推演應該是小型的定期活動，其范圍靈活，產出集中，能夠從最廣泛的角度考慮問題。只有從這樣的活動中才能產生洞察力。

正如偉大的F.W.蘭徹斯特所說。"提供有用見解的簡單模型比那些與現實世界如此接近的模型更受歡迎，因為他們想要解開的謎團在模型中重復出現，而且仍然是謎團"（Fletcher, 1995）。

對兵棋推演缺乏了解

然而，到目前為止，對兵棋推演最大的誤用僅僅是因為許多人（包括許多高級決策者）根本不了解兵棋推演這一技術，或者認為他們自己對兵棋推演的狹義解釋是正確的，而所有其他的解釋都或多或少地存在缺陷。

這并不局限于國防領域的普通民眾。職業兵棋手們自己也對兵棋的定義爭論不休，在那些認為分析性兵棋的定量科學是唯一有效的方法的人和那些喜歡 "更廣泛的兵棋"的定性藝術而不是 "狹隘的"（和 "狹隘的"）替代品的人之間存在著明確的分裂。

造成這種情況的原因是，幾乎在所有情況下，兵棋推演都是由自學成才的少數人進行的，由他們個人的職業發展提供信息，缺乏正規專業教育所能提供的更廣闊的視野。這并不是說兵棋推演課程不存在，但總的來說，這些課程是其環境的產物，因此其產出偏向于其贊助商的要求。舉個例子，MORS7兵棋證書（正如你所期望的那樣）在很大程度上偏向于分析的一端。

為了有效，兵棋推演需要來自指揮系統的正式支持。它需要一個冠軍（一個高級領導人，承擔起確保每個參與者都致力于該技術的最終成功的重任），需要有人負責確保兵棋推演在每個級別都得到理解并定期進行，從計劃分區攻擊的初級士兵到軍隊的最高級別，如英國國務卿的網絡評估和挑戰辦公室（SONAC；見Elefteriu，2020）。

需要在軍事學校和學院開設正式的教育課程，教授全方位的兵棋推演，而且兵棋推演應該被強制規定為任何課程或單位和編隊的年度培訓周期的一部分。只有這樣，才能培養出新一代有適當資格和經驗的人，以取代 "有天賦的業余愛好者"，他們在大多數軍隊中構成了大部分的兵棋推演專家。

不過，無論怎樣強調都不為過的是，不能把應該進行兵棋推演的授權與應該玩某種游戲或游戲類型的授權混為一談。

正如弗朗茨-哈爾德將軍（Generaloberst Franz Halder）在談到20世紀30年代和40年代的德國軍隊兵棋推演時所說:

"軍事文獻包括關于兵棋推演的非官方手冊。為了避免哪怕是最輕微的軍團化跡象，并在戰爭游戲的應用和發展中保持充分的自由，官方沒有發布任何形式的正式指令。(霍夫曼, 1952)"

結語

在這篇文章中，我試圖確定兵棋推演的多種多樣的用途，強調游戲類型之間的差異，所有這些游戲都是為了一個特定的目的。沒有哪種游戲適合所有人--用于教育、培訓和分析的游戲之間的差異是非常重要的，而且經常被忽略。

我還從我的經驗出發，介紹了一些在運行兵棋推演時可能出現的錯誤和危險（并指出了關于這個問題的開創性工作）。為了避免其中最重要的危險，并確保它作為一種使軍隊更加有效的技術而獲得成功和發展，兵棋推演需要得到指揮系統的支持，并且必須成為軍事學校和學院課程的一個重要組成部分。

人工智能是指一系列技術的集合，這些技術能夠以類似于人類邏輯和推理的方式跟蹤復雜問題。機器學習技術學習如何在大量數據的基礎上完成特定的任務。人工智能技術正在呈指數級發展，已經能夠對來自各種來源的大量數據進行分類和解釋，以執行各種任務，并幫助應對世界上許多最緊迫的挑戰。人工智能具有巨大的潛力來加速許多核領域的技術發展，從核醫學到水資源管理，再到核科學和工業。2021年，國際原子能機構主辦了核技術與應用人工智能技術會議，旨在提供一個國際性、跨領域的論壇，討論和促進在核科學、技術與應用、輻射防護、核安全和保障核查等領域的合作。目的是確定這些領域今后活動的優先次序以及原子能機構如何能夠支持這些活動的執行。這是首次召開此類會議，也是一次反思人工智能與核技術融合的倫理考慮的機會。本出版物提供了當前技術狀態的概述，概述了挑戰并確定了加速核應用、人工智能科學和技術的機會。原子能機構感謝起草和審查這份出版物的貢獻者所做的工作。負責這份出版物的原子能機構官員是物理和化學科學司的M. Barbarino。

//www-pub.iaea.org/MTCD/publications/PDF/ART-INTweb.pdf

近年來，人工智能(AI)和機器學習(ML)方法在科學技術領域產生了重大影響。這些從數據集或模擬人類表現方面的基于邏輯的算法生成模型的方法同樣可以加速核應用、科學和技術領域實現原子能機構促進和平、健康和繁榮的目標。如圖1所示，為了在這些領域實現人工智能的總體進展，特別是ML，原子能機構可以發揮重要作用，通過建立、托管和管理集中資源，包括數據庫，遵循公平(可查找、可訪問、互操作和可重用)原則和開放科學最佳實踐，提供數據共享管理，支持培訓工作和相關勞動力的發展。以及科學、技術、數學、人工智能和倫理社區之間的聯系。

許多領域都可以受益于人工智能在核應用領域的使用。在人類健康方面，這些領域包括臨床研究、流行病學、營養、醫學成像、放射療法和衛生專業人員教育。基于人工智能的工具也被用于促進成像方面的不同臨床任務、乳房x線照相術和肺癌篩查方案中的計算機輔助診斷以及核醫學程序中的劑量預測。特別是ML方法還可以提高用于身體成分和骨骼分析的計算機斷層掃描和雙能吸收測量掃描的效率和準確性。將人工智能方法應用于糧食和農業領域的核技術和相關技術，可以在優化農業生產、食品開發、供應鏈管理、食品安全和食品真實性控制等方面取得重大進展并提高效率。在水和環境領域，人工智能可以幫助制定緩解全球水問題的政策。人工智能技術在水文和環境科學方面的應用有望改善模式識別，并實現氣候變化下的模型預測。

在核科學領域，人工智能驅動研究的重點是核數據流程的自動化。這些努力包括，例如，通過使用自然語言處理應用程序編譯來自出版物的數據集，以及正在進行的使用ML方法進行魯棒推理和有意義的不確定性預測的工作。此外，人工智能還可以協助驗證任務和驗證實驗的設計。在核物理學界，人工智能和ML方法被應用于數據分析和理論建模，以提高科學理解和提高數據處理和管理的效率。進一步的努力涉及未來實驗的設計和現有裝置的優化，以及用于核物理的設施的操作，例如粒子加速器。最近在應用人工智能和ML方法解決磁約束和慣性約束聚變研究中的突出問題方面取得的成功表明，這些方法具有顯著加速聚變研發的潛力。全球范圍內的融合研發工作可以通過AI和ML更廣泛地參與融合問題解決方案而受益。在核電領域，行業可以在自動化、設計優化、數據分析、預測和預測、見解提取等領域受益于AI。目前的工作重點是將人工智能技術從試點研究轉移到更廣泛的應用。在輻射防護方面，人工智能的應用及其與控制和監測過程的集成(如外部照射的個人劑量測定)有望產生更快、更靈活和更有效的過程，并有可能在該領域實現深層次的技術變革。特別是人工智能在分析、解釋和理解包括輻射暴露在內的復雜工作過程時，可以模擬人類的認知。

在核安全領域，人工智能的可能應用包括分析光譜和地理空間數據，以改善對監管控制之外的核材料的檢測，增強核材料核算和控制系統，以及識別核設施可能的內部和外部威脅的潛力。另一方面，在核安全系統中使用人工智能可能會引入人類操作人員或人工智能系統本身無法立即識別的潛在漏洞。在這一領域，對人工智能技術受到的網絡攻擊威脅進行重大調查至關重要。保障措施的實地活動依靠各種探測核材料的技術所獲得的越來越多的數據，包括衛星成像和伽馬射線光譜學。結合保障措施下的材料數量的增加，顯然需要更有效的核保障程序。人工智能和ML方法的實施將通過提高這些現場活動的效率大大有利于保障措施。最后，人工智能和核技術的融合可能會加劇學科中現有的倫理問題，并在它們的界面上產生新的問題。因為這兩門學科都涉及風險和不確定性，在利益和可能嚴重的社會和環境危害方面都有巨大的潛力，因此需要在這一界面上建立一門新的學科，即核與人工智能技術倫理(ENAI)。ENAI的目標是建立一種非二元倫理，它可以在核領域的人工智能應用的設計、開發、部署和使用中起到前置作用。這將有助于提高從業者對人工智能和核技術融合的倫理影響的意識，同時創建與利益攸關方進行有力對話的機制。ENAI可以進一步確保決策得到社會的接受和道德上的知情，這最終使人工智能在核領域的應用得到負責任的治理。

1. 簡介

機器學習（ML），從廣義上講，是一類自動優化參數以處理給定輸入并產生所需輸出的計算機算法。ML的一個經典例子是線性回歸，據此找到一條最適合（通過）一組點的線。最近的一個例子是分類任務，如用 "貓 "這樣的單字來標記一張百萬像素的圖像。

對于許多應用，ML完成了人類可以做得同樣好的任務。然而，ML在兩種情況下大放異彩：1）任務的數量巨大，例如數百萬；2）問題的維度超出了人類思維的理解。一個簡單的例子是同時實時監控成千上萬的安全攝像頭，尋找可疑的行為。也許一個ML方法可以發現異常事件，并只與人類觀察者分享這些視頻片段。更好的是，異常圖像可以被暫時貼上諸如 "1號入口處的蒙面入侵者 "之類的標簽，以幫助保安人員只關注相關的信息。

除了減少人類的負擔外，ML還可以將人類可能無法識別的復雜的相互聯系拼湊起來。例如，一個ML算法可以發現，在一百萬個銀行賬戶中，有五個賬戶的交易似乎是同步的，盡管它們沒有相互發送或接收資金，也沒有向共同的第三方發送或接收資金。

鑒于手持和固定設備的計算資源不斷增加，我們有必要想象一下，ML可以在哪些方面改變戰爭的打法。當然，ML已經對美國陸軍的科學研究產生了影響，但我們也可以很容易地想象到自主車輛和改進的監視等作戰應用。

本文件的主要目標是激勵美國陸軍和美國防部的人員思考ML可能帶來的結果，以及為實現這些結果，哪些研究投資可能是有成效的。

5. 使用機器學習的ARL研究

在ARL的許多研究項目中，機器學習目前正在被使用，或者可以被使用。我們列出了一些使用ML或可能從ML中受益的研究項目。我們列出的與ML相關的ARL研究工作絕非完整。

6. 軍隊作戰應用

雖然從技術上講，機器學習自19世紀初高斯發明線性回歸以來就一直存在，但我們相信，ML的最新進展將以我們目前無法想象的方式影響軍隊。在本節中，我們概述了我們認為將得到加強的軍隊行動的許多領域，以及可能采用的ML方法的種類。

6.1 軍事情報

軍事情報包括信息收集和分析，因為它涉及到指揮官做出最佳決策所需的信息。由于收集的數據量越來越大，處理必須自動化。需要考慮的主要問題是數據的數量、速度、真實性和多樣性。大量的數據（又稱大數據）需要在許多計算節點上對數據進行智能分配。速度要求快速計算和網絡連接到數據流。真實性是對信息來源和異常檢測的信任問題。多樣性相當于使用許多不同的ML算法的不同訓練模型的應用。我們在本小節中概述了不同類型的數據和分析要求。

6.1.1 自然語言處理

讓計算機從從各種媒體來源收集到的大型文本數據庫中提煉出重要的概念和文本部分，有很大的好處。最近報道的另一個ML突破是不同語言之間的精確文本翻譯。 軍隊的一個獨特挑戰是翻譯不常見的語言，因此專業翻譯人員較少。在人工通用智能（AGI）領域，一些團體聲稱，自然語言處理將是類似人類認知的基礎。

6.1.2 數據挖掘

鑒于人類、傳感器和代理產生的數據的激增，一個很大的問題是，除了證明其收集的直接用途之外，這些數據還包含什么剩余價值。數據挖掘可以是統計學和機器學習的努力，以發現數據中的模式，否則人類操作者就會錯過。

6.1.3 異常檢測

傳統上，異常檢測是通過首先識別已知數據的群組和描述數據的分布來進行的。然后，當新的輸入被處理時，它們被識別為屬于或不屬于原始分布。如果它們在已知分布之外，就被認為是異常的。以下許多類型的異常檢測系統可能對軍隊有用。

• 網絡入侵檢測：超出常規的網絡流量。McPAD和PAYL是目前使用的軟件中的2個這樣的例子，它們使用了異常檢測。

• 生活模式異常：人們的視覺和生物統計學上的行為方式與常人不同，表明他們可能正在進行一些對抗性行動。

• 基于條件的維護：在當前生命周期中，材料/系統在其年齡段不典型的信號。

• 士兵異常：有理由相信士兵的生物識別技術不正常。

• 異物檢測：在已知物資數據庫中無法識別的物體的視覺效果。

6.2 自主性

6.2.1 自動目標識別

自動目標識別（ATR）是一個非常成熟的領域，已經使用機器學習幾十年了。

1）目前深度學習的進展將在多大程度上增強ATR？

2）更復雜的算法是否需要更復雜/更耗電的機載計算？

3. ML是否能對目標的各種欺騙性的混淆行為具有魯棒性？

4. 強化學習在多大程度上可以用來進行實時軌跡調整？

6.2.2 機器人學

機器學習在機器人學中的應用也是一個巨大的領域。ML應用領域包括傳感、導航、運動和決策。目前，傳感將從計算機視覺的所有進展中受益。導航，除了使用標準的GPS之外，還可以從自我運動中受益，也就是基于自身感知的運動估計。運動可以被學習，而不是規劃，這不僅會導致更快的開發時間，而且還能在新的環境或受損的模式下重新適應（例如，失去四條腿中的一條）。最后，隨著機器人的數量超過人類操作員的數量，機器人將有必要自行決定如何執行其規定的任務。它將不得不做出這樣的決定："由于電池電量不足，我是否要回到大本營？"或者 "我是否繼續前進一點，然后自我毀滅？"

6.2.3 自愈性

除了機器人技術，人們最終希望任何系統在損壞或不能滿負荷工作時能夠自我糾正。這需要在某種程度上的智能，以自主診斷缺陷和問題，并利用其可用的資源糾正這些問題。

6.2.4 倫理

在通過機器學習來學習自主權的情況下，問題將是："自主系統將如何應對X情況？" 這里的問題是，對于一個擁有潛在致命武力的系統，我們怎么能確定它只會正確合法地使用武力？我們推測，在機器學習的算法擁有使用致命武力的實際能力之前，必須對其進行廣泛的測試，即使它與人類的環形決策相聯系。

6.3 通過玩游戲來訓練智能代理

近年來，大量的研究都在研究使用機器學習來自主地玩各種視頻游戲。在某些情況下，報告的算法現在已經超過了人類玩游戲的水平。在其他情況下，仍然存在著處理長期記憶的挑戰。對于美國空軍來說，智能代理已經成功地在以戰斗為中心的飛行模擬器上進行了訓練，這些模擬器密切模仿現實生活。陸軍的問題包括以下內容。

• 智能代理能否附加到機器人平臺上？

• 智能在多大程度上可以通用于處理現實生活與視頻游戲中遇到的各種情況？

• 當我們可能不理解一個訓練有素的代理的邏輯時，我們能相信它的行動嗎？

• 代理在多大程度上能夠與人類合作？

6.4 網絡安全

在過去的十年里，機器學習在網絡安全方面發揮了不可或缺的作用。具體來說，ML可以用于異常檢測，檢測已知威脅的特定模式，并辨別網絡行為是否可能由惡意代理產生。隨著該領域的不斷加強，問題是ML是否能使安全比對手領先一步，因為對手可能利用ML來混淆檢測。

6.5 預測和結構健康監測

一個長期的設想是，軍隊使用的每一個機械系統都有一些關于系統當前和預測健康的內部感應。相關問題如下。

• 我們能從有限的傳感器中辨別出一個系統或系統組件的當前健康狀況嗎？

• 機載ML能否預測一個系統或系統部件在暴露于特定環境或彈道侮辱之后的健康狀況？

6.6 健康/生物信息學

6.6.1 序列挖掘

隨著基因組序列的數量繼續呈指數級增長，比較在現場獲得的序列所需的計算工作可能變得無法管理。機器學習可以通過對序列進行不同層次的分類來減少必要的比較。

6.6.2 醫學診斷

93 近年來，機器學習已經在檢測各種組織中的惡性腫瘤方面取得了長足的進步。94 它同樣可以被用來描述創傷或創傷后應激障礙（PTSD）95，并制定治療計劃。

6.7 分析

陸軍的一個重要組成部分集中在對行動、系統、研究和測試的分析上。傳統上，分析人員使用大量的工具，包括機器學習，以多維回歸、聚類和降維的形式。隨著深度學習的出現，一套新的工具應該是可能的，可以更有效地處理需要更復雜模型的大型數據集。例如，應該有可能從測試期間拍攝的視頻流中提取特征和物理屬性，這可能超過目前的標準做法。

6.8 機器學習的其他用途

• 自適應用戶界面（AUI）和情感計算。ML可以用來確定用戶的心理和/或情緒狀態，并提供適合這種狀態的界面。此外，可變的AUI可以服務于用戶的變化。例如，一些用戶可能喜歡音頻反饋而不是視覺反饋。

• 推薦系統。最流行的推薦系統之一是根據以前看過的電影的評分來選擇用戶想看的下一部電影（例如，所謂的 "Netflix問題"）。對于軍隊來說，可以根據以前的使用情況和庫存核算的反饋來推薦后勤補給的情況。

• 搜索引擎/信息檢索。傳統上，搜索引擎返回文件的 "點擊率"。新的范式是以簡明的形式回答用戶的問題，而不是簡單的模式匹配。

• 情感分析。社交媒體上的流量和對環境進行訓練的各種傳感器不僅可以檢測關鍵的關鍵詞或特定物體的存在，還可以推斷出可能的攻擊的可能性。

• 有針對性的宣傳。傳統上，宣傳是通過散發傳單來完成的，如今，宣傳可以通過社交媒體來傳播。ML的角度是如何以最有說服力的信息向正確的人口群體進行宣傳。此外，重要的是快速檢測和顛覆來自對手針對我們自己的人員/人民的宣傳。

7. 機器學習的研究差距

本研究的目標之一是確定當前研究中的差距，這些差距可能會限制ML在軍隊研究和行動中的全部潛力。本節借用了ARL運動科學家Brian Henz博士和Tien Pham博士（未發表）的戰略規劃工作。

7.1 如何將軍隊的數據/問題納入當前的方法中

傳統上，在一個特定領域采用ML的一半戰斗是弄清楚如何適應現有的工具和算法。對于陸軍所面臨的許多問題來說，這一點更為突出，與其他學術、商業或政府用途相比，這些問題可能是獨一無二的。任何數據分析員面臨的第一個問題是使數據適應他們想要使用的統計或ML模型。并非所有的數據都使用連續變量或者是一個時間序列。離散/標簽數據的管理可能非常棘手，因為標簽可能不容易被轉換成數學上的東西。在自然語言處理中的一個例子是，單詞經常被轉換為高維的單熱向量。另一個例子可能是如何將大量的維修報告轉換為對某一特定車輛在一段時間內的表現的預測。

此外，陸軍的要求超出了典型的商業部門的使用范圍，不僅需要檢測物體和人，還需要檢測他們的意圖和姿態。這將需要開發新的模型。另一個大的要求是可解釋性，正如DARPA最近的一個項目所概述的那樣：是什么因素導致ML算法做出一個特定的決定？在一個真實的事件中，如果一個ML算法在沒有人類驗證的情況下宣布一個重要目標的存在，我們能相信這一決定嗎？

7.2 高性能計算

隨著對計算要求高的ML任務的設想，開發人員正在使用多線程、并行和異構架構（GPU、多核）來加快計算速度。ML的分布式實現遠不如GPU版本常見，因為分布式計算中的節點間通信存在固有的網絡瓶頸，而且在單精度浮點性能方面，GPU相對于CPU有很大優勢。除了目前對GPU的強烈依賴，生物啟發式神經計算旨在尋找非馮-諾伊曼架構來更有效地執行ML，并可能更快。這方面的一個例子是IBM的神經形態芯片。97 未來的研究應該關注如何分配ML處理，使節點之間的網絡通信最小化。另外，像聚類這樣的無監督學習算法在多大程度上可以被映射到神經網絡中？

其他需要考慮的事情。

• 目前的ML軟件（特定的神經網絡）在一個小型的GPU集群中表現最好。

• 大多數基于非神經網絡的ML算法的并行性不高，或者根本就沒有并行。

• 另一個軍隊的具體挑戰是分析基本上沒有標記的數據集（例如，用無監督學習）。手動標注集群將是一種半監督學習的形式。

7.3 獨特的尺寸、重量、功率、時間和網絡限制因素

隨著進入偏遠地區或任何遠離基地的地區，軍隊必須限制系統的尺寸、重量和功率。此外，在 "激烈的戰斗 "中，時間是關鍵。例如，人們不能在遭到槍擊時等待作戰模擬的完成。最后，在其他商業發射器占主導地位的地區，或者在限制無線電通信以提高隱蔽性的情況下，網絡帶寬可能會受到很大限制。

在這種倍受限制的環境中，機器學習將需要有效地進行，而且往往是以一種孤立的方式進行。截然相反的條件是使用大型數據庫訓練大型神經網絡，這往往是最先進的機器學習功力的情況。商業部門正在開發自動駕駛汽車，據推測將使用低功耗的計算設備（如現場可編程門陣列、移動GPU）進行自主駕駛、道路/障礙物檢測和導航。然而，陸軍將有更多的要求，包括自主傳感器和執行器、態勢感知/理解、與人類的通信/合作，以及廣泛的戰場設備。這將需要多幾個因素的計算能力和特定算法的硬件，以實現最佳的小型化和低功耗。

7.4 用雜亂的或欺騙性的數據訓練/評估模型

在混亂的環境中，操作環境預計會有比通常密度更高的靜態和動態物體。此外，人們完全期待主動欺騙以避免被發現。我們也希望能夠開發出足夠強大的算法，至少能夠意識到欺騙，并相應地調低其確定性估計。

7.5 用小的和稀疏的數據訓練一個模型

基于CNN的目標分類的突破可以部分歸功于每個物體類別的成千上萬個例子的可用性。在軍隊場景中，某些人和物體的數據可能是有限的。人們最終將需要one-hot99或multishot分類器，其中幾個有代表性的數據條目就足以學習一個新的類別。到目前為止，最好的選擇是 "知識轉移"，通過調整以前訓練的模型的所有參數的子集來學習新的類別。我們的想法是，由于需要優化的參數較少，修改這些參數所需的數據也較少。

7.6 專門針對軍隊相關目標的訓練模型

即使對于我們可以產生大量圖像的目標類別（例如，友好物體），我們也需要訓練自己的模型，以便從每個類別的潛在的數千張圖像中識別軍隊相關類別。軍隊還使用商業車輛中通常不存在的其他傳感模式（例如，熱能和雷達）。因此，需要為這些非典型的傳感設備訓練模型。從根本上說，非典型傳感設備可能需要新的神經網絡拓撲結構以達到最佳的準確性和緊湊性。

7.7 將物理學納入推理中

一個值得研究的有趣領域是將模型和模擬與機器學習相結合。有很多方法可以做到這一點。例如，ML可以用來推導出模擬的起始參數。此外，ML還可以用來處理模擬的輸出。一個耐人尋味的新領域是開發基于物理學或類似物理學的模擬，使用類似ML的模型/方程。一個這樣的應用是預測 "如果？"的情景。例如，"如果我跑過這棵樹呢？接下來會發生什么？"

7.8 軟人工智能

機器學習在傳統上被認為是人工智能的硬性（即數學）表現形式。有可能最終，所有的人工智能任務都會被簡化為數學。然而，就目前而言，一些智能任務似乎更多的是基于推理或情感。對于之前描述的方法中的任務，ML并不能充分解決以下軟性人工智能的特點。

7.8.1 類似人類的推理

人類并不總是完全按邏輯推理，但他們也有能力將不完整的信息拼湊起來，做出 "最佳猜測 "的決定。幾十年來，對這種行為進行編碼一直是一個挑戰。

7.8.2 情感

情緒似乎是驅動人類達到某些目的的動機/目標功能。例如，快樂可能會導致不活動或追求生產性的創造力。另一方面，恐懼則可能會導致忍氣吞聲。計算機是否需要情感來更有效地運作，還是說它們最好擁有100%的客觀性？這既是一個哲學問題，也是一個未來的研究方向。不過現在，毫無疑問的是，在人與代理人的團隊合作中，計算機需要準確地解釋人類的情感，以實現最佳的團體結果。

7.8.3 社會交流

與人類的互動性是陸軍研究未來的首要關注點。一個類似的問題是，不同的計算機系統之間如何進行交流，而這些系統不一定是由同一個實驗室設計的。研究的一個領域是用計算機來教那些在這方面有困難的人進行社會交流。 再一次，對于人與代理的合作，代理將需要能夠參與社會互動，并在人類的陪伴下遵守社會規范。

7.8.4 創造性

創造力通常被認為是隨機合并的想法，與新的元素相結合，由一個鑒別功能決定新創造的項目的功能和/或美學。在某些方面，創造力已經被某些計算機實驗室所證明。例如，為了設計的目的，計算機可以被賦予某些方面的創造力。

7.8.5 通用智能

人工智能的最終目標是將許多狹義的智能算法合并成一個統一的智能，就像人類的頭腦一樣。75鑒于許多狹義的人工智能任務已經比人類的某些任務要好，即使是早期的所謂人工通用智能（AGI）也可能具有一些超人的能力。AGI的一個主要目標是將目前由人類執行的某些任務自動化。

7.8.6 人工超級智能

如果不提及許多哲學家的猜測，機器學習將最終能夠改進自己的編程，導致能力的指數級提高，也許會遠遠超過人類智能，那么機器學習的研究就不完整了。這些設想既是烏托邦式的104，也是烏托邦式的105。希望超級智能能夠解決世界上的許多問題。

8.結論

在這項工作中，我們回顧了機器學習的不同類別，并描述了一些更常用的方法。然后，我們指出了一小部分關于ML在ARL中的應用的例子。最后，我們預測了ML在未來可以應用于軍隊的各個領域，并概述了為實現這一結果需要解決的一些挑戰。我們希望這份文件能夠激勵未來的研究人員和決策者繼續投資于研究和開發，以充分利用ML來幫助推動美國陸軍的發展。

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。

引言

本文件是北約 IST-151 研究任務組 (RTG) 活動的最終報告，題為“軍事系統的網絡安全”。該 RTG 專注于研究軍事系統和平臺的網絡安全風險評估方法。 RTG 的目標如下：

? 協作評估軍事系統的網絡安全，并在 RTG 的北約成員國之間共享訪問權限；

? 在 RTG 的北約成員國之間共享風險評估方法和結果；

? 將 RTG 的北約成員國使用的評估方法整合到一個連貫的網絡安全風險評估方法中，以使北約國家受益。

軍事平臺比以往任何時候都更加計算機化、網絡化和受處理器驅動。他們大量使用數據總線，如 MIL-STD-1553A/B、CAN/MilCAN、RS-422/RS-485、AFDX 甚至普通以太網，以及戰術通信的舊標準，如 MIL-STD-188C 和 Link 16。此外，捕獲器、傳感器、執行器和許多嵌入式系統是擴展攻擊面的額外無人保護的潛在輸入。結果是增加了網絡攻擊的風險。然而，這些平臺的持續穩定運行對于軍事任務的成功和公共安全至關重要。

軍事系統和平臺是網絡攻擊的首選目標，不是因為它們像消費電子產品那樣普遍，而是因為它們潛在的戰略影響。一旦受到影響，就可以實現各種短期和長期影響，從拒絕能力到秘密降低其有效性或效率。因此，軍隊必須在各個層面解決網絡安全問題：戰略層面，同時獲取平臺和系統；作戰層面，同時規劃軍事任務和戰術。

北約國家擁有大量可能面臨網絡攻擊的軍事平臺和系統。因此，北約將受益于利用當前的流程和方法來設計更安全的系統并評估當前系統的網絡安全。

本報告介紹了針對軍事系統和平臺量身定制的網絡安全評估方法，該方法由 RTG 團隊成員合作開發，并建立在他們的經驗和專業知識之上。團隊成員已經使用的流程被共享、分析、集成和擴充，以產生本報告中描述的流程。本報告的目標受眾是愿意評估和減輕其軍事系統的網絡安全風險的決策者。

圖一：網絡安全評估過程的五個主要步驟。

報告結構

第 2 節介紹了 RTG 團隊在其存在的三年中用于開發流程的方法。第 3 節列出了可以應用該過程的系統的一些特征。最后，第 4 節描述了評估流程，而第 5 節總結本報告。

執行總結

軍事平臺比以往任何時候都更加計算機化、網絡化和受處理器驅動。這導致增加了網絡攻擊的風險。然而，這些平臺的持續穩定運行對于軍事任務和公共安全的成功至關重要。

絕對的網絡安全是不存在的。必須通過迭代風險評估持續管理網絡安全。傳統 IT 系統存在許多網絡安全風險管理框架和流程。然而，在軍事平臺和系統方面，情況遠非如此。本文檔介紹了針對軍事系統量身定制的網絡安全風險評估流程。該流程由北約 IST-151 研究任務組 (RTG) 活動的團隊成員開發，該活動名為“軍事系統的網絡安全”。該過程可以應用于傳統的 IT 和基于固件的嵌入式系統，這些系統在軍事平臺和系統中無處不在。

無人機行業現在正處于黃金時期，它的增長有望呈指數級增長，盡管人道主義救援人員已經使用這種技術10年了，但市場的擴大和技術的發展正在推動越來越多的組織裝備這種設備。

無人駕駛飛行器 (UAV)，也稱為遙控飛機或“無人機”，是通過遙控或自主飛行的小型飛機。本報告重點關注非武裝民用無人機和無人機的使用。未來的報告可以探討無人水下航行器和地面無人機的影響和發展。

瑞士地雷行動基金會在其報告《人道主義行動中的無人機》（2016 年）4 中確定了六類無人機在人道主義行動中的用途：測繪；將基本產品運送到偏遠或難以到達的地點；搜救（SAR）；支持損害評估；提高態勢感知能力；監測變化（例如城市和營地的增長、農業使用或道路或基礎設施的建設）。這份報告將闡明人工智能驅動的無人機如何改進和修改這些用途。

本報告描述了北約第一個多領域小組IST-173所取得的成果。與會者包括來自不同小組和團體的科學家，以及來自北約機構和軍事利益攸關方、學術界和工業界的科學家，這為AI和軍事決策大數據這一主題創造了第一個利益共同體。該團隊在實踐中證明了一種新的STO方法的可行性，即任務導向研究，以激發公開對話、自我形成的研究合作和跨小組活動。此外，該方法還有助于為人工智能和軍事決策大數據這兩個主要能力領域聯合開發北約首個科技路線圖，以應對北約在這些領域面臨的作戰挑戰。由于新的組織(軍事利益相關者積極參與的多領域團隊)和這種創新方法的應用，確定了一些經驗教訓，應該支持軍事決策AI和大數據的進一步操作。

?以消費者和企業為中心的新技術的爆炸式增長已成為美國民眾體驗醫療保健和福祉的顛覆性力量。這些技術——統稱為“數字健康”——有可能改變個人、家庭和社區管理他們的醫療保健和福祉的方式。

美國機構和其他利益相關者正在對新工具進行大量投資；獲取、提供和使用數據的方法；以及提供衛生服務的創新方式。然而，對于指導眾多創新實現共同目標、協作工作和高優先級成果的國家優先事項集，并沒有達成一致意見。需要一個包括協作治理流程在內的戰略框架，以建立一個值得信賴、透明和公平的數字健康生態系統。

被統稱為“數字健康”的技術正在擾亂美國乃至世界各地的醫療保健和福祉現狀。在這方面，COVID-19大流行似乎是一個分水嶺。環境促使遠程保健的使用激增，在這一過程中產生了關于遠程保健的交付、影響、價值和可持續性方面的數據和潛在教訓。大流行可能產生對個人、家庭和社區產生積極影響的轉變。替代方案——在當前系統之上簡單地分層數字技術——將不僅僅維持現狀。這將使那些在連通性、數字素養和獲得護理方面已經落后的人的處境更加糟糕，并將進一步為濫用、欺詐和浪費打開大門。在一個如此富有和創新能力的國家，這樣的結果是不可接受的。國家需要采取戰略性行動，充分考慮數字衛生帶來的獨特挑戰和機遇。

該戰略為指導美國數字健康生態系統的發展提供了一個框架。該戰略包括六個目標，每個目標都有建議的行動。總的來說，這些目標旨在實現數字健康生態系統推動的改善國民健康和福祉的愿景。

• 目標1。通過及時、安全的數據交換，形成互聯的健康生態系統。醫療數據的語義互操作性對于推進數字醫療服務至關重要。一個聯網的美國生態系統將在需要的時候安全可靠地將可操作的數據傳輸給需要的人，這將改善健康結果。能否成功實現這一愿景，將取決于患者身份識別、衛生數據和衛生架構的標準化格式，以及建立一個安全、可靠和有彈性的數字衛生生態系統。
• 目標2。增強個人能力，使其能夠負責自己的健康和福祉。數字技術和工具應使個人能夠在任何地點、任何時間、無需特別努力地更好地管理自己的健康和獲取健康信息。實現這一目標的基礎是個人擁有個人健康數據，并輔之以部署資源加強數字掃盲。數字設備和系統必須為個人和提供者提供有意義和可共享的信息，并使個人能夠更多地參與到最大限度地提高他們的健康和福祉中。
• 目標3。將人工智能(AI)打造為數字健康值得信賴的基石。人工智能可以以多種方式加強醫療保健的數字化交付。它可以提高護理服務的生產率和效率，允許醫療系統向更多的人提供更多更好的護理，改善醫療從業者的經驗，并增加接受者對其護理的信任。利用人工智能需要它的應用是值得信賴的，具有透明、公平、公平和可靠的特點。
• 目標4。使快速共享公共衛生綜合數據制度化。公共衛生當局及其合作伙伴需要獲得完整、及時的數據，以支持決策。數字技術可以使信息在聯邦公共衛生生態系統中流動。至關重要的是匯集個人和提供者從初級保健和公共衛生領域生成的數據。采用一種綜合的和可互操作的系統方法來資助公共衛生可以維持這些變化。
• 目標5。建設一支熟練應用數字衛生的勞動力隊伍。一支可持續的衛生人力隊伍將使用新技術提供以人為本的綜合優質護理。數字衛生技術將使個人能夠在醫療保健和社會服務部門獲得以家庭和社區為中心的協調和協作的衛生服務，并得到數字增強的勞動力隊伍的支持。
• 目標6。擴大數字公平，以實現衛生公平。數字技術現在是獲得衛生服務、支持和信息的基礎。個人必須能夠獲得和采用負擔得起的寬帶技術，并充分熟悉數字系統，以滿足其個人和家庭的健康相關需求。

本文檔旨在為領導者提供實施變革的框架。其中涉及的變化范圍很廣——不僅是技術上的，還有政治、社會和文化上的。這里的想法的實施需要大量的時間、金錢、資源的投資，最重要的是領導能力。其他國家也在國家規劃的指導下進行這些投資。美國必須采取明智的行動，但不能拖延，以實現數字衛生生態系統的愿景。

戰略的最后一個組成部分是治理。我們需要對支離破碎且過時的治理結構進行廣泛改革。避免重復、協調努力并代表全國做法的戰略投資將受益于數字衛生。該策略詳細說明了所需治理結構的關鍵組成部分，并建議了實現有效治理機制的步驟。