亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

2022年4月16日，美國蘭德公司發布研究報告**《擾亂威懾：技術對21世紀戰略威懾的影響》**，研究中對八種新興技術領域的軍用現狀與前景進行分析，分別為：(1)先進的網絡戰和電子戰技術、(2)生物技術、(3) 決策支持系統及其技術、(4)定向能技術、(5)高超聲速系統、(6)信息和感知操縱技術、(7)量子信息和傳感系統，以及(8)機器人和(半)自主系統。本文詳細分析列舉上述技術的技術能力現狀、近期和長期的軍用領域與前景，以及發展的限制因素，僅供參考。

蘭德：八大新興技術軍用前景分析

編譯：學術plus觀察員 大麥茶，譚惠文

本文主要內容及關鍵詞

《擾亂威懾：技術對21世紀戰略威懾的影響》報告概況介紹

**1.先進的網絡和電子戰技術：**二者融合將影響未來軍事作戰和民用的所有領域，影響領域最為廣泛 **2.生物技術：**重點關注生物傳感器、分子電子學、生物仿生與混合材料的應用 **3.決策支持系統及其技術：**智能決策支持系統；數據分析處理，提高戰略預測與決策能力 **4.定向能技術：**總體軍事應用有限，近期重點是導彈防御、反衛星和反UAS **5.高超聲速系統：**預計未來十年內可實現攜帶核武器或有效載荷的該類系統，技術局限明顯 **6.信息和感知操縱技術：**深度偽造deepfakes，微靶向，機器學習驅動的程序，欺騙算法，技術上依賴算法，易被出錯或被利用 **7.量子信息和傳感系統：**使能技術是關鍵（激光器、半導體、環境控制技術等）已有小規模商業部署，軍用進程較漫長，成本與技術限制仍存在 **8.機器人和(半)自主系統：**具有最為直接的軍事意義，未來5-10年將發展處多種具有戰略能力的技術系統，限制因素主要來自于道德與法律約束

01

網絡戰和電子戰技術******網絡戰。網絡戰目前通常被定義為在虛擬領域進行的戰爭，通過攻擊來破壞對手國家的計算機或網絡以達到破壞或中斷的目的。這些行動可在網絡空間中產生明顯的拒絕效應(即降級、中斷或破壞)，或導致在物理領域中出現拒絕的操縱，網絡攻擊可分為兩大類：(1)戰略網絡戰，為了影響目標國家的行為”而發動的攻擊；或(2)戰術網絡戰，**包括戰時針對軍事目標和與軍事相關的民用目標的網絡攻擊。電子戰分為探測、攔截和中和威脅的電子戰支持措施、電子對抗措施和電子對抗措施。 網絡空間作戰和電子戰在美國軍方都有不同的歷史和作戰應用，隨著與電磁頻譜使用相關的技術能力的融合，網絡空間和電磁戰領域目前被認為是沖突或作戰連續體的一部分。 隨著網絡格局的演變，這種作戰協同或網絡戰與電子戰的融合將影響未來軍事作戰和民用的所有領域，包括空間作戰和系統；定位、導航和授時系統等應用；無線網絡、5G、物聯網設備、智慧城市；關鍵基礎設施(如電網和水庫、銀行和金融系統以及信息傳輸系統)；軍事通信系統；甚至無人機和海上交通工具。其中，物聯網、人工智能和5G等兩用技術的未來發展可能會為對手創造機會，破壞基于傳感器的關鍵基礎設施，或為“無處不在的ISR”創造有利環境。此外，還應注意，網絡戰和電子戰與人工智能、量子計算和定向能等新興技術重疊，并可能受到它們的直接影響。 當前能力總結：先進的網絡戰和電子戰有能力破壞關鍵的網絡信息系統。目標包括5G和IoT空間系統和定位、導航和定時；全球定位系統和傳感系統；區塊鏈和分布式賬本技術。攻擊形式包括欺騙、篡改和GPS干擾。 潛在的軍事應用：在軍事應用中，網絡戰和電子戰的效果最為直接且顯著。信息安全和電子戰也是美國軍方的重中之重。**5G通信網絡的興起和日益互聯的物聯網正在創造新的漏洞，美國的對手可能會利用這些漏洞。**這些技術在直接軍事行動(例如，攻擊美國信息和決策系統)和更廣泛的領域(例如，試圖在危機或戰爭期間造成民用社會的嚴重破壞，以使對手喪失能力)都有潛在的應用。 近期國家安全應用：未來五到十年可能會出現功能齊全的5G通信網絡，這將促進物聯網設備在軍事應用中的指數級使用，提供無處不在的傳感、通信和分析，以提高態勢感知能力(例如，軍事物聯網、戰場物聯網)。這些技術的軍事用途可能對通信/信息、任務操作、人員甚至供應鏈的安全造成威脅。 長期的國家安全應用：空間可能會出現星座的擴散，特別是納米衛星星座，這可能會提高復原力并擴大覆蓋范圍。隨著物聯網設備、傳感器和網絡的激增，管理和保護物聯網環境的需求可以通過使用區塊鏈技術來滿足。 發展的挑戰或制約因素：關鍵網絡信息系統(民用和軍用)日益網絡化的本質使更易受到網絡攻擊和電子戰的攻擊，可能會減緩新發展的速度，因為在取得進一步進展之前必須解決這些弱點。

02

生物技術

生物技術指利用生物過程、有機體、細胞和細胞成分來開發新技術或新產品。生物技術可分為以下幾個分支學科：

• 醫學和人類健康，如新藥、療法和疾病治療的開發

• 工業過程，如創造可再生能源

• 農業，包括開發轉基因植物以增加作物產量或提高抗蟲性

• 生物信息學、計算機科學和芯片技術交匯處的信息處理能力

• 海洋和水生環境中的過程

• 營養生物技術，如酒精和奶酪的發酵

• 領域內的法律、合規和道德問題

• 武器和戰爭的應用

當前能力總結：常見的應用有醫療(如抗微生物劑)、農業(如轉基因生物)和工業(如生物燃料)。 潛在的軍事應用：生物技術發展速度非常之快，以至于很難做出準確的技術預測。但可以明確的是，**生物技術可能會影響到作戰物資和系統、優化戰士的健康和作戰性能、提高軍事醫學水平、以及化學和生物防御技術。**例如，生物傳感器可以保護地面部隊免受戰場上看得見和看不見的威脅。在更遙遠的未來，生物傳感器網絡甚至還可以增加傳感器和情報來源，為指揮官提供更完整的戰場圖像。生物材料、仿生材料和混合材料的研究有可能徹底改變傷口愈合過程以及相關系統功能設計。生物技術領域的其他進展還可能有助于設備的小型化以及對軍事設計和作戰具有關鍵價值的生物能源的開發和優化。 主要近期國家安全應用：生物傳感器(檢測有害物質)、分子電子學(高速信號處理和通信、體積數據存儲)、材料(改善傷口愈合能力和戰場設備的形狀、配合和功能)、后勤(小型化和生物能源的開發和優化)和治療學。 長期的國家安全應用：產品的規模、范圍、復雜性和速度都有可能增加，參與的角色和類型將更加多樣化。在更遙遠的未來，生物傳感器可以增強其他情報來源，提供更完整的戰場圖像。 發展的挑戰或限制：要使生物傳感器技術發揮作用，靈敏度和特異性都需要提高。傳感器還需要更小，更便攜，能夠承受惡劣的環境。

03

決策支持系統及技術

決策支持技術旨在增強或部分取代人類的決策。其中，**智能決策支持系統（DSSs）是一種新興的決策支持系統，結合了人工智能、系統工程和信息技術等，并使用人工智能來處理這些非結構化或半結構化的問題。適用于具有高度不確定性的決策，并試圖用推理來模擬直覺，人工智能支持的DSSs可以幫助、配合或取代人類決策者。 當前能力總結：增強技術可以提高決策、數據報告、分析和解釋的速度和效率。如DARPA的在競爭環境中的目標識別和適應(TRACE)項目，埃隆·馬斯克的Neuralink(腦機接口初創公司)，IBM的沃森。 **

在國家安全中的應用包括：提供數據處理和分析支持、對不同的行動方案進行復雜的分析、優化計劃和制定戰略。人工智能已經在一些任務自動化和決策支持方面發揮作用，包括協助情報組織篩選數據。可實時分析的決策支持也能極大地改變軍事行動，雖然目前仍處于概念階段，但隨著人工智能系統復雜性的成熟，其發展前景可期。 近期國家安全應用：決策支持技術在國家安全中的應用包括提供數據處理和分析支持，對可選擇的行動方案進行復雜的分析，優化計劃和制定策略。將增強的數據分類和分析能力與人類行為模型的發展相結合，可以提高決策者做出戰略預測的能力。 長期國家安全應用：用自動化人工認知代替戰略決策仍是一個長期目標。 發展的挑戰或限制：機器學習的一個關鍵限制是，這種數據驅動的方法依賴于底層數據的質量，因此天生對數據偏差和欺騙敏感，并且不善于識別新事件或在高度不確定的環境中操作。

04

定向能技術

定向能（DEW）技術通過以電磁波或高速粒子的形式施加能量來對目標造成傷害。與傳統的動能武器相比具有幾個重要的優勢：效果幾乎是瞬間感受到的、實際上幾乎不需要彈藥，每次發射的成本通常可忽略不計。一個重要的缺點是極易受天氣條件和大氣環境的影響。 當前能力總結**：定向能技術在軍事領域仍然相對有限。激光還沒有強大到足以對抗堅固的軍事目標，除了在戰略導彈防御中的有限應用之外，粒子武器還沒有被任何國家部署。高功率微波武器已經成功地用于對付各種目標。定向能技術還被用于非致命的反人員任務(例如人群控制),取得了一定的成功。 潛在的軍事應用：導彈防御、反衛星和反UAS仍然是近期投資的最大驅動力。**然而，隨著固態激光器變得更強大，包括反UAS作戰在內的短程防空將成這類研發的主要重點。這對空間系統有著重大的潛在影響：在未來幾年，激光很可能會變得更加普遍，用于攻擊脆弱的目標，如衛星；中國和俄羅斯都處于發展地基激光器的后期階段，這種激光器可以瞄準低地球軌道上的衛星。鑒于其潛力，將粒子束武器用于戰略導彈防御的想法繼續吸引零星投資，人們對使用激光保護飛機免受導彈攻擊特別感興趣。 近期國家安全應用：導彈防御、反衛星和反UAS仍然是近期預警的最大重點。針對旋翼和固定翼飛機(有人駕駛和無人駕駛)的近程防空是幾個陸軍項目的目標。固態激光器變得越來越強大，可能會更頻繁地用于攻擊脆弱的目標，如衛星。**定向能技術近期的重點是戰術用途，而不是戰略用途，但粒子束武器可能在不久的將來用于戰略導彈防御。 **

長期的國家安全應用：固態激光技術的改進，特別是在功率和效率方面的改進，可能會使激光有效地打擊裝甲目標，但這需要多年的研究。在更遙遠的將來，隨著等離子體尾波場加速技術的成熟，電子束武器可能會重新引起人們的興趣。 發展的挑戰或限制：以目前現狀而言，相對低功率的激光武器仍然需要大量的能量，即使在戰艦上也是有限的。因此，這些武器的軍事應用目前受到限制。

05

高超聲速系統

高超聲速武器系統以高超聲速飛行，5馬赫及以上（理論上高達25馬赫）或約5000~25000公里/小時。目前有兩種類型：高超聲速滑翔飛行器(HGVs)和高超聲速巡航導彈(HCMs)。高超聲速系統有三個主要組成部分：發射系統(火箭)(超燃沖壓發動機/沖壓噴氣發動機)、運載系統(HGV，HCM)和有效載荷(常規或核)。HGV和HCM可以從地面、海上或空中平臺發射，相當于美國現有的傳統核三位一體。 **能夠攜帶核武器和常規有效載荷的高超聲速武器系統目前正在開發中，預計將在未來十年投入使用。**美國、中國和俄羅斯是當前高超聲速技術的全球領導者，并且一直在投入大量資源盡快部署一次性高超聲速武器。 當前能力總結：一次性HGV和HCM仍處于開發階段，HGV比HCM進展更快。最近的測試包括2020年3月的普通高超聲速滑翔飛行器(C-HGB)。俄羅斯聲稱，它已在2019年底獲得了首個可部署的HGV美國目前預計在2022年擁有可部署的系統。 潛在的軍事應用：2018年國防戰略將高超聲速武器系統確定為使美國能夠打贏未來戰爭的關鍵技術。目前的發展屬于美國海軍、美國陸軍、美國空軍和國防高級研究計劃局(DARPA)的幾個項目，旨在提供用常規有效載荷快速打擊時間關鍵目標的能力。俄羅斯正在開發兩個主要的高超聲速武器計劃，并認為對穿透美國導彈防御系統和維持核穩定至關重要。 近期國家安全應用：2018年國防戰略將高超聲速武器系統確定為使美國能夠打贏未來戰爭的關鍵技術。**目前，國防部只資助了高超聲速武器系統的作戰原型，但還未最終決定相關采購計劃。 **

長期國家安全應用：預計將為幾個全球實體開發和部署一次性HGV。HCM的開發速度將比HGV慢，因為它們依賴于超燃沖壓發動機。一個潛在的長期發展可能是將HCM集成到可重復使用和潛在載人的系統中。 發展的挑戰或限制：四個關鍵的技術障礙：推進、熱管理和材料、飛行控制以及高超聲速狀態下的測試、建模和模擬。

06

信息和感知操縱技術

信息和感知操縱技術涵蓋多種工具，旨在扭曲個人或人群的感知或信念，以達到預期效果。這些技術通常由人工智能和網絡技術實現，并依賴于處理大量數據。在國際安全的背景下，這套技術使對手能夠實施先進的影響行動。本報告主要研究了四種信息操縱的機制，分別為：(1)深度偽造deepfakes，(2)微靶向，(3)機器學習驅動的程序，和(4)欺騙算法。

當前能力總結：Deepfakes越來越復雜；如果不使用特殊的檢測軟件，很難檢測到。微靶向可以實現消息的定向推送。電話和電子郵件欺騙由于其低成本和低門檻也長期以來被廣泛使用。GPS欺騙正在發展中，由此也使軟件定義的無線電技術越來越便宜且容易獲得。然而，隨著這些技術的成熟，檢測能力也隨之成熟。 潛在的軍事應用**：上述信息操縱技術可以被用來在危機或戰爭中描繪政軍領導人的尷尬、非法或其他應受譴責的行為來破壞國家意志。也可能被用作傳統欺騙和隱瞞行動的一部分，或作為長期破壞對手內部凝聚力的手段。 **

近期國家安全應用：Deepfakes的使用可能引發公眾輿論的不穩定甚至是大規模劇烈反應，并由此增加決策的不確定性。微靶向能夠通過虛假信息宣傳或瞄準軍隊中的特定個人或群體發送威脅信息。機器學習可以增強數據收集和分析能力，開發更精確的目標系統，但也可以促進信息戰和影響作戰。GPS欺騙可以捕獲、誤導對手設備、或掩蓋相關設施或活動，增加對手鎖定的難度。 長期國家安全應用：Deepfakes預計將變得越來越復雜，并更廣泛地為公眾所用。針對個人的微靶向能力正在提高。從長遠來看，電子欺騙技術預計將變得更加豐富和復雜，反電子欺騙技術也將持續發展。 發展的挑戰或限制：在這組技術中，應用于信息和感知操作的機器學習面臨著固有的局限性：算法依賴于訓練數據集，因此容易復制錯誤，可能不知道如何處理數據集中不包含的信息。算法還有可能被操縱來學習不正確的信息，容易被對手利用。

07

量子信息和傳感系統

量子科學結合了數學、計算機科學、工程和物理科學的元素來研究物質和能量的最小粒子：光子和電子。量子力學一直被推崇為破解許多現有數據加密代碼、創建無法破解的代碼、擊敗隱形技術、實現人工智能和機器學習、使海洋透明、創造新材料以及發現和治療疾病的解決方案。主要分為三類：量子傳感和計量(測量)、量子通信和量子計算。 量子器件的實際創造進展緩慢。**其中起決定作用的因素是使能技術，包括高度調諧的激光器、半導體和用于控制量子物體可以有效運行的環境的技術。**目前量子技術已經在實驗室中進行了演示，在小規模上進行了部署，或者進行了商業部署。然而，應用到國防或商業中，仍需要在可靠性、性能和成本方面進行改進。但可以預計，量子技術今后將有可能為作戰、信息安全、人工智能、材料科學、醫學、地質學和空間探索帶來重大變革。 當前能力總結：一些量子技術(例如，芯片級磁力計、芯片級原子鐘、量子慣性導航系統)已經在實驗室得到驗證，在小規模部署，或在商業上部署。在量子應用開發方面，量子計量和傳感技術已經展示了最高水平的軍事和商業實用性和就緒性。量子計算，另一方面，量子計算機仍然是高度實驗性的，在可用的量子計算機投入使用之前，必須解決許多技術難題。 潛在的軍事應用：量子科學和技術對國家安全的影響仍然更多地停留在理論層面。然而，預計將對通信和密碼學等軍事問題產生重大影響。量子傳感的潛在應用，特別是量子慣性導航系統和重力儀，在短期內很難達到足夠小、輕、低功耗或經濟高效的程度；量子通信和計算仍處于高度實驗狀態。 近期的國家安全應用：在計算方面，實體機器是最為基礎的，現有的量子計算機在很大程度上建立了原理證明；軟件和算法也處于類似的新生階段。最重要的潛在量子應用包括密碼學和密碼分析，在GPS拒絕的環境中實現精確定時和導航，識別水下和地下移動物體，揭露隱身效果，并精確定位電場傳感器和通信接收器。**然而，在未來十年中，這些技術類別很難發展到能夠部署在戰斗系統上或支持作戰行動的程度。 **

長期的國家安全應用：如果沒有軟件和算法，量子計算硬件本身無法發揮作用；研究人員估計，從系統設計計劃最終確定，建造和演示一臺大規模、容錯、基于門（gate-based）的量子計算機將需要至少8到10年的投資。目前還未有這樣的計劃。量子慣性導航系統和重力儀在短期內可能不會達到足夠小、輕、低功耗或低成本的水平。 發展的挑戰或限制：一些量子技術目前面臨著尺寸(體積太大而不能放在軍用飛機上)、精度或生產成本的限制。技術本身的固有限制如：由于無法超越光速，量子通信不能使數據傳輸更快。技術挑戰如：易受黑客攻擊、大量信息的存儲問題以及訪問所需的天基資產支持等。

08

機器人和半自主/自主系統這種系統可能對軍事行動甚至戰爭的性質產生重大影響。**美國及其主要競爭對手正在對UAV/UAS技術進行大量投資，并計劃應用于各種軍事任務。**一些研究表明，小型低成本無人機可以大量成群工作，可以攻擊對手的防御和自我保護系統，**其結果將導致未來戰爭將由自主系統所主導。**雖然該技術類型的成熟周期很可能超出預想的時間，但相較其他技術類型，無人系統發展較為成熟，即使其潛力未能全部發揮，也能對軍事行動產生巨大影響，并對威懾構成新的風險。 機器人和半自動系統的范疇包括：

當前能力總結：當前軍用無人機的特點是先進平臺和有效載荷的廣泛多樣性，但自主算法有限。**目前具有一定自主能力的無人機類型包括：**中等高度、長航時ISR和空對地打擊(MQ-9Reaper)；高空、長航時(HALE) ISR (RQ-4全球鷹)；以及低空ISR和有效載荷投送(FLIR Sky Raider)。 潛在的軍事應用：在網絡戰和電子戰之后，機器人和半自動系統具有最直接、也許是最大規模的潛在軍事意義。這些系統已經在反恐中廣泛使用；ISR并且在未來可能成為各種傳感、精確打擊、網絡戰或電子戰裝備投送、甚至空對空交戰的主導平臺。 近期國家安全應用：半自動無人機目前用于反恐和反叛亂行動，并作為許可的空氣環境的使能器。截至2019年，美國空軍幾乎連續不斷地保持70架MQ-9機載。**預計在未來五到十年發展的戰略能力包括對有人駕駛飛機的非致命支持；**協同集群情報、監視和偵察以及在被拒絕空域的輔助打擊：和遠程戰略轟炸和/或ISR。 長期國家安全應用：預計將長期發展的戰略能力包括在空對空戰斗中更容易區分敵友的能力(忠誠的僚機平臺)和更快、更大規模的協同ISR和在封鎖空域中對集群的輔助打擊。一系列地面、水面和海底以及太空領域的自主無人駕駛飛行器也在開發中。 發展的挑戰或限制：目前，大多數平臺的自主性僅限于各種形式的航路點飛行。此外，目前，一些平臺(如MQ9“收割者”和RQ-4“全球鷹”)在被拒絕或競爭的環境中生存能力很低。依賴人工智能DSSs的無人機也可能面臨一些與目標保真度相關的相同挑戰。在某些情況下，無人機的使用可能會面臨道德或法律約束，這可能會危及或限制R&D對此類系統的預算。

參考鏈接：

盡管人工智能 (AI) 具有許多潛在的好處，但它也被證明在復雜的現實世界環境（如軍事行動）中表現出許多挑戰，包括脆弱性、感知限制、隱藏的偏見和缺乏因果關系模型，這些對于理解和預測未來事件很重要。這些限制意味著，在可預見的未來，人工智能仍不足以在許多復雜和新穎的情況下獨立運行，并且人工智能需要由人類仔細管理才能實現其預期的效用。

本報告“Human-AI Teaming: State-of-the-Art and Research Needs” 檢查了與人類操作相關的 AI 系統的設計和實施相關的因素。本報告概述了人機協作的研究現狀，以確定差距和未來的研究重點，并探討了實現最佳性能的關鍵人機系統集成問題。

報告提綱

• 總結 1
• 1 引言 5
  • 研究背景和向委員會負責, 6
  • 委員會的方法, 7
  • 自動化和人工智能, 7
  • 人工智能的局限性, 8
  • 人工智能對人類表現的影響, 9
  • 報告結構和摘要, 10
• 2 人類與人工智能協作的方法和模式 11
  • 協作編隊, 11
  • 人類與人工智能的協作模式和觀點, 12
  • 人類應該與人工智能合作嗎？
  • 人類與人工智能協作的改進模型, 16
  • 關鍵挑戰和研究差距, 17
  • 研究需求, 17
  • 總結, 18
• 3 人類與人工智能的協作過程和效果 19
  • 人工智能成為隊友意味著什么？
  • 有效的人類-人工智能協作的過程和特征, 20
    • 編隊的異質性, 20
    • 共同的認知, 21
    • 溝通和協調, 22
    • 社會智能, 22
    • 有效協作的其他特征, 23
  • 主要挑戰和研究差距, 23
  • 研究需求, 23
  • 總結, 24
• 4 人類與人工智能協作的態勢感知 25
  • 多域作戰中的態勢感知, 25
    • 關鍵挑戰和研究差距, 27
    • 研究需求, 27
  • 人類與人工智能編隊中的共享SA, 27
    • 關鍵挑戰和研究差距, 29
    • 研究需求, 29
  • 總結, 30
• 5 AI的透明度和可解釋性 31
  • 顯示透明度, 34
    • 關鍵挑戰和研究差距, 35
    • 研究需求, 35
  • 人工智能的可解釋性, 36
    • 關鍵挑戰和研究差距, 37
    • 研究需求, 38
  • 總結, 40
• 6 人類與人工智能編隊的互動 41
  • 自動化水平, 41
    • 關鍵挑戰和研究差距, 44
    • 研究需求, 44
  • 人工智能的動態和時間性, 44
    • 關鍵挑戰和研究差距, 45
    • 研究需求, 45
  • 控制的顆粒度, 46
    • 關鍵挑戰和研究差距，46
    • 研究需求, 46
  • 其他人類與人工智能編隊的互動問題, 47
    • 關鍵挑戰和研究差距, 47
    • 研究需求, 47
  • 總結, 48
• 7 信任人工智能隊友 49
  • 過去和現在的信任框架, 49
  • 復雜工作環境下的人工智能信任, 51
  • 關鍵挑戰和研究差距, 51
  • 研究需求, 52
  • 總結, 55
• 8 識別和減輕人類與人工智能編隊中的偏見 57
  • 人類的偏見, 57
  • 人工智能偏見, 57
  • 人與人工智能編隊的偏見, 59
  • 關鍵挑戰和研究差距, 60
  • 研究需求, 60
  • 總結, 61
• 9 訓練人類與人工智能編隊 63
  • 為人類與人工智能編隊訓練提供參考的人與人編隊訓練, 63
    • 編隊訓練的策略, 64
    • 仿真的使用, 64
    • 訓練內容：任務工作和團隊合作, 65
  • 關鍵挑戰和研究差距, 65
  • 研究需求, 66
  • 總結, 67
• 10 人類與人工智能編隊協作和績效的HSI過程和量化 69
  • 在人-AI編隊的設計和實施中采取HSI視角, 69
    • 關鍵挑戰和研究差距, 70
    • 研究需求, 70
  • 人類與人工智能編隊發展的研究要求, 71
    • 關鍵挑戰和研究差距, 71
    • 研究需求, 71
  • 研究團隊的能力, 72
    • 關鍵挑戰和研究差距, 73
    • 研究需求, 73
  • 人類與人工智能編隊的HSI考慮因素, 73
    • 關鍵挑戰和研究差距, 75
    • 研究需求, 75
  • 人類與人工智能編隊的測試、評估、驗證和確認，75
    • 關鍵挑戰和研究差距, 77
    • 研究需求,77
  • 人類與人工智能編隊研究試驗臺，77
    • 關鍵挑戰和研究差距，78
    • 研究需求, 78
  • 人類與人工智能編隊的措施和衡量標準, 78
    • 關鍵挑戰和研究差距, 80
    • 研究需求, 80
  • 敏捷軟件開發和HSI, 81
    • 關鍵挑戰和研究差距, 82
    • 研究需求, 82
  • 總結, 83
• 11 結論 85
• 參考文獻 91
• 附錄
• A 委員會簡歷 115
• B 人類與人工智能協作研討會議程 119
• C 定義 121

報告總結

美國軍方正加大對人工智能(AI)技術的投資，用于提高數據處理速度、任務規劃自動化，以及創建更快的預測目標和系統維護，該技術也會在多域作戰(MDO)的指揮控制中發揮關鍵作用。實現這一目標就要求人工智能系統具備任務執行的可靠性和健壯性，并且可以作為人類的隊友協同工作。

盡管人工智能技術優勢良多，但是也被證明在復雜的真實世界環境(如軍事行動)中面臨諸多挑戰，包括脆弱性、感知限制、隱藏的偏見以及缺乏預測關系模型等。這就意味著，在可預見的未來，人工智能將仍然不足以在復雜和新環境下獨立運行，人類需要仔細管理人工智能系統才能達到預期效果。

過去30年研究表明，人們作為復雜自動化(包括人工智能系統)的監控者同樣面臨巨大挑戰。人們可能會對系統正在做的事情缺乏了解，在嘗試與人工智能系統交互時工作負載高，在需要干預時缺乏態勢感知，基于系統輸入的決策偏差，以及手工技能的退化。這些眾多的挑戰將繼續在人類方面產生問題，即使是更有能力的基于人工智能的自動化。

因此，需要開發有效的人-智能協同編隊能力，利用人類和AI的獨特能力，克服各自的不足。一個高效的人-人工智能編隊最終會增強人的能力，提高性能，超越任何一個實體。為此，委員會制定了一套相互關聯的研究目標，旨在圍繞人類-人工智能編隊發展，這些目標基于對人類-人工智能編隊(第2章)、編隊流程(第3章)、態勢感知（SA）(第4章)、人工智能透明度和可解釋性(第5章)、人類-人工智能交互方法(第6章)、信任(第7章)、減少人和人工智能偏見(第8章)和培訓(第9章)的模型和度量的改進，并得到了人-系統集成(HSI)流程基金會(第10章)的支持。該報告總結提出人類-人工智能編隊研究目標，包括近期、中期和遠期目標。

人類-人工智能編隊模型

委員會研究發現，將人類和人工智能系統作為一個編隊來考慮具有重要價值。這種編隊結構促使人們認識到需要考慮每個團隊成員相互關聯的角色，并強調團隊互動的價值，包括溝通和協調，以提高綜合效能。在這樣的編隊安排中，研究認為，一般來說，出于倫理和實踐的原因，人類應該對人工智能系統擁有權威。需要改進人類-人工智能編隊的計算模型，考慮相互關聯的、動態發展的、分布式的和自適應的協同任務和條件，這些任務和條件也是MDO的網絡化指揮控制系統所需要的，并且在設計交互空間內是可預測的。需要改進人類-人工智能編隊的度量標準，考慮團隊管理相互依賴和動態角色分配能力，減少不確定性，并提高人工智能系統提供符合作戰人員期望的能力。

雖然假設人類-人工智能編隊將比人類或人工智能系統單獨運行更有效，但研究認為：除非人類能夠理解和預測人工智能系統的行為，否則情況不會如此；與人工智能系統建立適當的信任關系；根據人工智能系統的輸入做出準確的決策；以及時和適當的方式對系統施加控制。

人類-人工智能編隊流程

人類和人工智能系統進行編隊需要一個精心設計的系統，該系統具有任務分配工作和團隊合作的能力。沿著這條路線，需要通過改進團隊組合、目標對齊、溝通、協調、社會智能和開發新的人工智能語言來研究提高長期、分布式和敏捷的人工智能編隊的效率。這項研究可以利用現有人類-人類編隊的工作，但也認識到，需要新的研究來更好地理解和支持人類和人工智能系統之間的編隊流程。此外，研究認為，應該考察人工智能系統通過充當團隊協調員、指揮者或人力資源經理來提高團隊績效的潛力。

態勢感知

人們普遍認為，態勢感知(SA)對于有效的MDO性能至關重要，包括對人工智能系統的監督。在指揮控制作戰中支持個人和團隊SA的方法需要擴展到MDO，并且需要使用AI來支持信息集成、優先排序和跨聯合作戰空間路由的方法，以及提高SA對敵對攻擊的彈性。需要開發改善人工智能系統的人類SA的方法，這些方法考慮不同類型的應用、操作的時間以及與基于機器學習(ML)的人工智能系統能力。此外，旨在在人工智能團隊中創建共享SA的研究值得關注。人工智能系統需要在多大程度上既有自我意識又有對人類隊友的意識，這需要探索，以確定整體團隊表現的好處。最后，未來的人工智能系統將需要擁有綜合的態勢感知模型，以恰當地理解當前的情境，并預測未來情境。動態任務環境的人工智能模型是非常必要的，它可以與人類一起調整或消除目標沖突，并同步情景模型、決策、功能分配、任務優先級和計劃，以實現協調和下達的行動任務。

人工智能的透明度和可解釋性

改進的人工智能系統透明性和可解釋性是實現改進的人類SA和信任的關鍵。實時透明對于支持人工智能系統的理解和可預測性是至關重要的，并且已經被發現可以顯著地補償回路外的性能缺陷。需要研究更好定義信息需求和方法，以實現基于ML的AI系統的透明性，以及定義何時應該提供這樣的信息來滿足SA需求，而不會使人過載。需要進一步探索基于ML的人工智能系統的解釋的改進可視化，以及對機器人物角色的價值。此外，通過研究可以告知改進的多因素模型，解釋如何促進信任和信任影響的決策。需要開發有效的機制來使解釋適應接受者的需求、先驗知識和假設以及認知和情緒狀態。研究建議，應致力于確定對人類推理的解釋是否同樣可以改善人工智能系統和人-人工智能編隊的效能。

人-人工智能編隊互動

人-人工智能編隊中的交互機制和策略對團隊效率至關重要，包括隨著時間的推移支持跨職能靈活分配自動化級別(loa)的能力。需研究確定改進的方法，支持人類和人工智能系統在共享功能方面的合作，支持人類操作員在多個loa下與人工智能系統一起工作，并確定在高loa下與人工智能系統一起工作時保持或恢復SA的方法(在環控制)。還需要研究來確定新的要求，支持人-人工智能編隊之間的動態功能分配，并確定隨著時間的推移支持loa中動態過渡的最佳方法，包括這種過渡應該何時發生，誰應該激活它們，以及它們應該如何發生，以保持最佳的人-人工智能編隊效能。研究建議也對劇本控制方法進行研究，將其擴展到MDO任務和人-人工智能編隊中應用。最后，更好地理解和預測緊急人機交互的研究，以及更好地理解交互設計決策對技能保留、培訓要求、工作滿意度和整體人機團隊彈性影響的研究也是非常有益的。

信任

對人工智能的信任被認為是使用人工智能系統的一個基本因素。這將有利于未來的研究，以更好地記錄團隊環境中涉及的決策背景和目標，促進對更廣泛的社會技術因素如何影響人-人工智能編隊中的信任的理解。超越監督控制的交互結構也將受益于進一步的研究，特別是理解人工智能可指導性對信任關系的影響。需要改進信任措施，利用合作的重要性，將不信任的概念與信任分開。最后，需要信任的動態模型來捕捉信任如何在各種人-人工智能編隊環境中演變和影響效能結果。這項研究將很好地檢驗從二元團隊互動中出現的信任結果，并將這項工作擴展到信任如何在更大的團隊和多層級網絡中的效果。

偏差

人工智能系統中的潛在偏差，通常是隱藏的，會通過算法的開發以及系統偏差等因素造成。此外，人類可能會遇到決策偏差。特別重要的是，人工智能系統的準確性會直接影響人類的決策，從而產生人類-人工智能編隊偏見；因此，人類不能被視為人工智能建議的獨立裁決者。需要進行研究，以更好地理解人類和人工智能決策偏差之間的相互依賴性，這些偏差如何隨著時間的推移而演變，以及用基于ML的人工智能檢測和預防偏差的方法。還需要研究發現和防止利用這些偏見的攻擊行為。

訓練

需要對人-人工智能編隊進行訓練。考慮到各種團隊組成和規模，需要有針對性的研究如何訓練人-人工智能編隊。可以探索現有的訓練方法，看看它們是否適用于人-人工智能編隊。此外，可能需要訓練來更好地校準人類對人工智能隊友的期望，并培養適當的信任水平。開發和測試人-人工智能編隊工作程序需要特定的平臺。

HSI流程和措施

最后，要成功開發一個能像好隊友一樣工作的人工智能系統，需要HSI過程和方法改進。良好的HSI實踐將是新人工智能系統的設計、開發和測試的關鍵，特別是基于敏捷或DevOps實踐的系統開發。有效的人工智能團隊也需要新的HSI設計和測試方法，包括提高確定人工智能團隊要求的能力，特別是那些涉及人工智能的團隊。多學科人工智能開發團隊需要改進的方法，包括人工工程工程師、社會研究人員、系統工程師和計算機科學家。還需要圍繞人工智能生命周期測試和可審計性以及人工智能網絡漏洞的新團隊、方法和工具。需要開發用于測試和驗證進化的AI系統的方法，以檢測AI系統盲點和邊緣情況，并考慮脆弱性。支持這些新團隊研發活動的新人工智能試驗臺也很重要。最后，可能需要改進人機系協同的度量標準，特別是關于信任、心智模型和解釋質量的問題。

研究結論

總共提出了57個研究目標，以解決有效的人-人工智能編隊面臨的許多挑戰。這些研究目標分為近期(1-5年)、中期(6-10年)和遠期(10-15年)優先事項。這一組綜合的研究目標若實現，將在人-人工智能編隊競爭力方面取得重大進展。這些目標是將人工智能安全引入MDO等關鍵行動的基本前提，它們為更好地理解和支持人工智能系統的有效應用提供了參考框架。

近年來，以人工智能、區塊鏈、大數據、云計算和物聯網等為代表的新一代信息技術高速發展，人類社會正逐步從傳統的信息化社會向智能化社會發展，人工智能技術創新和行業應用呈現出新的發展趨勢。黨的十九大報告提出，“加快發展先進制造業，推動互聯網、大數據、人工智能和實體經濟深度融合，在中高端消費、創新引領、綠色低碳、共享經濟、現代供應鏈、人力資本服務等領域培育新增長點、形成新動能”。目前，人工智能已實現從實驗技術向通用技術的轉變，“云計算+大數據+深度學習”成為人工智能發展的主要技術路線。人工智能基礎技術和通用技術特征越來越明顯，技術應用也從服務業向制造業、農業拓展，對浙江傳統制造業的影響日漸突顯。浙江必須緊緊抓住人工智能與制造業融合發展機遇，認清智能制造發展階段，解決發展中的瓶頸問題，加快推動人工智能與傳統制造業的深度融合，為制造強國、質量強省持續注入發展動能。過去幾年中，我們國家先后發布了《中國制造 2025》、《國務院關于深化制造業與互聯網融合發展的指導意見》、《智能制造發展規劃（2016-2020 年）》、《新一代人工智能發展規劃》等政策規劃，通過加速人工智能技術發展助推傳統制造業轉型升級，加快建設制造強國。

根據埃森哲發布的研究報告，到 2035 年，人工智能將使中國勞動生產率提高 27%，經濟增長率比預期高出 1.6%。也就是說，當年傳統產業模式預期年增長率為 6.3%，而由于人工智能的助力，實際增長水平將達到接近8.0%，人工智能為該年經濟增加值（GVA）額外貢獻超過 7.1 萬億美元。圖1.1 為埃森哲對2035年人工智能與中國各行業的融合與影響程度的預測，制造業將成為智能化程度最高的行業。 浙江一直是制造大省，傳統制造業生產總值占 GDP 的40%左右。制造業作為浙江的支柱產業，在促進增收、穩定稅源、保證就業等方面地位無可替代。不斷推進傳統制造業智能化進程，實現從制造大省到制造強省的轉變，對于浙江經濟社會發展具有重要的作用。2015 年 9 月，“兩化”深度融合國家示范區建設領導小組會議明確提出，“浙江制造”的主攻方向是智能制造。浙江省借建設信息化和工業化深度融合國家示范區之機，大力推進智能制造的發展，以“互聯網+制造業”為新手段，加快釋放發展新動能。 2015 年 10 月發布的《浙江省加快推進智能制造發展行動方案（2015-2017）》要求浙江省將以智能制造創新工程、智能制造模式推廣工程、智能制造試點示范工程、智能制造標準支撐工程等四大工程為抓手，實現推進智能產品和裝備的發展、推進制造業智能化改造、開展智能制造試點示范、完善智能制造支撐體系的四大任務。2018 年 2 月發布的《浙江省智能制造行動計劃（2018-2020 年）》啟動了智能制造關鍵技術裝備研發推廣工程、重點領域智能制造試點示范工程、智能制造標準體系引領工程、智能制造發展載體培育工程、智能制造應用模式和機制創新工程、智能制造融合推進工程、智能制造協同發展工程等七大行動工程。根據《浙江省“機器人+”行動計劃》，2020 年浙江省內在役工業機器人數量將達到 10 萬臺，制造業機器人密度將會達到 120 臺/萬人以上，居全國前列。

當前，浙江正聚力數字經濟“一號工程”，堅定不移建設制造強省。研究人工智能與傳統制造業融合發展的現狀、模式、問題、對策，價值和意義非常明顯

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。

前言

我們的同行競爭者，利用科學、技術和信息環境的新興趨勢，已經投資于挑戰美國和重塑全球秩序的戰略和能力。他們采用創新的方法來挑戰美國和盟國在所有領域、電磁波譜和信息環境中的利益。他們經常尋求通過在武裝沖突門檻以下采取模糊的行動來實現其目標。在武裝沖突中，武器技術、傳感器、通信和信息處理方面的進步使這些對手能夠形成對峙能力，以在時間、空間和功能上將聯合部隊分開。為了應對這些挑戰，履行美國陸軍在保護國家和確保其重要利益方面的陸軍職責，陸軍正在調整其組織、訓練、教育、人員和裝備的方式，以應對這些圍繞多域作戰（MDO）概念的未來威脅。

陸軍的情報工作本質上是多領域的，因為它從多個領域收集情報，而且可以接觸到合作伙伴，彌補陸軍信息收集能力的不足。在競爭中，陸軍情報能力作為掌握作戰環境和了解威脅能力和脆弱性的一個關鍵因素。在整個競爭過程中，陸軍情報部門為每個梯隊的指揮官和參謀人員提供所需的態勢感知，以便在所有領域、電磁頻譜和信息環境中可視化和指揮戰斗，并在決策空間匯集內外部能力。

這個概念描述了關鍵的挑戰、解決方案和所需的支持能力，以使陸軍情報部門能夠在整個競爭過程中支持MDO，以完成戰役目標并保護美國國家利益。它是陸軍情報部隊、組織和能力現代化活動的基礎。這個概念還確定了對其他支持和輔助功能的影響。它將為其他概念的發展、實驗、能力發展活動和其他未來的部隊現代化努力提供信息，以實現MDO AimPoint部隊。

本文總結

陸軍未來司令部的情報概念為陸軍情報部隊的現代化活動提供了一個規劃，以支持陸軍2035年的MDO AimPoint部隊在整個競爭過程中與同行競爭對手進行多域作戰。它提供了支持2035年以后MDO AimPoint部隊的見解。這個概念是對2017年美國陸軍情報功能概念中概述想法的修改：情報作為一個單位在所有領域的運作，有廣泛的合作伙伴投入。這個概念擴展了這些想法，以解決陸軍在進行大規模作戰行動中的頭號差距：支持遠距離精確射擊的深度傳感。領導陸軍情報現代化的舉措是組織上的變化，以提供旅級戰斗隊以上梯隊的能力，以及支持深層探測問題的四個物資解決方案。

支持MDO AimPoint Force 2035的組織變化使戰區陸軍、軍團和師級指揮官能夠以遠程精確火力和其他效果塑造深度機動和火力區域。在戰區層面，軍事情報旅的能力得到提高，新的多域特遣部隊擁有軍事情報能力。遠征軍的軍事情報旅被重新利用和組織，以支持軍團和師的指揮官，而不是最大限度地向下支持旅級戰斗隊。

支持MDO AimPoint Force 2035的物資變化，即將所有的傳感器、所有的火力、所有的指揮和控制節點與適當的局面融合在一起，對威脅進行近乎實時的瞄準定位。多域傳感系統提供了一個未來的空中情報、監視和偵察系統系列，從非常低的高度到低地球軌道，它支持戰術和作戰層面的目標定位，促進遠距離地對地射擊。地面層系統整合了選定的信號情報、電子戰和網絡空間能力，使指揮官能夠在網絡空間和電磁頻譜中競爭并獲勝。戰術情報定位接入節點利用空間、高空、空中和地面傳感器，直接向火力系統提供目標，并為支持指揮和控制的目標定位和形勢理解提供多學科情報支持。最后，通過分布式共同地面系統，陸軍提高了情報周期的速度、精度和準確性。

伴隨著這些舉措的是士兵培訓和人才管理方法，旨在最大限度地提高對目標定位和決策的情報支持。從2028年MDO AimPoint部隊開始，陸軍情報部門將繼續改進軍事情報隊伍，以支持2035年及以后的MDO AimPoint部隊。

這一概念確定了陸軍情報部門將如何轉型，以支持陸軍和聯合部隊在整個競爭過程中與同行競爭者抗衡。

圖1 邏輯圖

摘要 知識圖譜以語義網絡的形式將客觀世界中概念、實體及其之間的關系進行結構化描述,提高了人類從數據中抽取信息、從信息中提煉知識的能力。該文形式化地描述了知識圖譜的基本概念,提出了知識圖譜的層次化體系架構,詳細分析了信息抽取、知識融合、知識架構、知識管理等核心層次的技術發展現狀,系統梳理了知識圖譜在軍事領域的應用,并對知識圖譜未來發展的挑戰和趨勢進行了總結展望。

個性化推薦系統能夠根據用戶的個性化偏好和需要，自動、快速、精準地為用戶提供其所需的互聯網資源，已成為當今大數據時代應用最廣泛的信息檢索系統，具有巨大的商業應用價值。近年來，隨著互聯網海量數據的激增，人工智能技術的快速發展與普及，以知識圖譜為代表的大數據知識工程日益受到學界和業界的高度關注，也有力地推動推薦系統和個性化推薦技術也邁入到知識驅動與賦能的發展階段。將知識圖譜中蘊含的豐富知識作為有用的輔助信息引入推薦系統，不僅能夠有效應對數據稀疏、語義失配等傳統推薦系統難以避免的問題，還能幫助推薦系統產生多樣化、可解釋的推薦結果，并更好地完成跨領域推薦、序列化推薦等具有挑戰性的推薦任務，從而提升各類實際推薦場景中的用戶滿意度。本文將現有融入知識圖譜的各種推薦模型按其采用的推薦算法與面向的推薦場景不同進行分類，構建科學、合理的分類體系。其中，按照推薦方法的不同，劃分出基于特征表示的和基于圖結構的兩大類推薦模型；按推薦場景劃分，特別關注多樣化推薦、可解釋推薦、序列化推薦與跨領域推薦。然后，我們在各類推薦模型中分別選取代表性的研究工作進行介紹，還簡要對比了各個模型的特點與優劣。此外，本文還結合當下人工智能技術和應用的發展趨勢，展望了認知智能推薦系統的發展前景，具體包括融合多模態知識的推薦系統，具有常識理解能力的推薦系統，以及解說式、勸說式、抗辯式推薦系統。本文的綜述內容和展望可作為推薦系統未來研究方向的有益參考。

//jcs.iie.ac.cn/xxaqxb/ch/reader/view_abstract.aspx?file_no=20210503&flag=1

為加快推動人工智能技術在電信行業的應用與融合發展，在AIIA產學研融合與應用工作組指導下，由電信項目組組織，中國信息通信研究院標準與技術研究所牽頭，中國移動通信有限公司研究院、中國電信股份有限公司研究院、中國聯合網絡通信有限公司研究院、華為技術有限公司、中興通訊股份有限公司、英特爾（中國）有限公司等單位共同編寫了《電信行業人工智能應用白皮書》2021版。

電信網絡作為信息通信的基礎設施，具有應用人工智能技術的巨大空間和潛力。國內外運營商、設備商和服務商等在電信網絡智能化方面紛紛布局，電信網絡智能化在標準研究、技術驗證與落地應用等方面均有重要推進。隨著5G網絡的大規模商用和網絡人工智能平臺的建設成熟，越來越多的網絡智能化應用與業務已經開展落地并發揮良好效果。

本白皮書系統分析了目前電信網絡智能化的總體發展態勢與應用現狀，集中展示AI技術在移動通信網、固定通信網和網絡業務服務三大類應用場景的19個典型落地案例，包括故障根因分析、異常小區發現、基站節能、業務內容智能推薦、網絡質量智能監控與業務智能識別調優等。

白皮書指出，構建智能化社會適應萬物互聯的新一代信息基礎設施，保障信息基礎設施的安全，對于促進信息技術與實體經濟融合、拓展數字經濟空間具有重要意義。

目前，全球已經掀起了人工智能應用的浪潮。將人工智能技術引入到新一代通信基礎設施，可以為網絡、計算、應用等信息基礎設施提供基于數據的感知、預測和管控能力，促進網絡、計算、應用等基礎設施的融合與協同。人工智能在越來越多的復雜場景下可以做出比人類更優的決策，無疑讓網絡智能化建設開拓了新的視野，給網絡的發展帶來了前所未有的新機遇，也為電信網絡重構轉型過程中遇到的眾多困難和挑戰提供了高效的加速解決路徑。

隨著電信行業人工智能應用加速在現網落地部署并釋放價值，網絡智能化基礎能力將持續增強，網絡知識與人工智能技術融合適配網絡智能化應用需求，新技術范式例如聯邦學習、遷移學習等技術將得到更多應用與關注。人工智能技術將貫穿電信網絡端到端全生命周期的運營與演進，實現網絡的泛在智能能力，幫助運營商實現數字化轉型，帶動整個電信產業的智能升級。