亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

人工智能尤其是深度學習技術的最新進展，加速了不同應用領域的創新與發展。深度學習技術的發展深刻影響了軍事發展趨勢，導致戰爭形式和模式發生重大變化。本文將概述深度學習的歷史和架構。然后，回顧了相關工作，并廣泛介紹了深度學習在兩個主要軍事應用領域的應用：情報行動和自主平臺。最后，討論了相關的威脅、機遇、技術和實際困難。主要發現是，人工智能技術并非無所不能，需要謹慎應用，同時考慮到其局限性、網絡安全威脅以及在 OODA 決策循環中對人類監督的強烈需求。在戰略決策層面需要某些保障機制。在這方面，最重要的一個方面與軍官人員的教育、培訓和選拔有關。

人工智能（AI）是一門涉及心理學、認知科學、信息科學、系統科學和生物科學的綜合性技術。自 1956 年夏天約翰-麥卡錫在達特茅斯會議上首次提出人工智能概念以來（Hyman，2012），人工智能技術已進入高速發展的新時期，并被公認為未來最有可能改變世界的顛覆性技術。人工智能應用的成功激發了廣大軍事研究人員的積極探索。世界軍事強國預見到人工智能技術在軍事領域的廣闊應用前景，認為未來的軍備競賽將在智能競爭的背景下展開。在不久的將來，人工智能將在 “觀察、定向、決策、行動”（OODA）循環中扮演 “智能決策中心 ”的角色，因為它的技術已經成熟，可靠性也在不斷提高。人工智能的重要性不言而喻，智能指揮系統的貢獻將超越傳統方法。利用人工智能和其他相關技術可以減少整個 OODA 循環所消耗的時間，從而實現多域聯合作戰中的指揮與控制目標。

下文回顧了 DL 在軍事上的應用，最后討論了其潛在的威脅和機遇。

軍事情報

深度學習的起源應用是圖像分類任務。首先，Rawat 和 Wang 的論文（2017 年）介紹了現實圖像識別中最先進的深度學習系統。從軍事角度來看，關鍵應用之一是衛星圖像。這些應用需要人工識別圖像中的物體和設施（Pritt，Chern，2017 年）。一個具有代表性的例子是通過卷積神經網絡理解多光譜衛星圖像（Mohanty 等人，2020 年）。基于側掃聲納技術生成的圖像可以進行圖像分類，從而實現水下態勢感知。長期以來，聲納圖像自動分析的研究主要集中在經典方法，即基于非深度學習的方法上（Steiniger 等人，2022 年）。但近年來，深度學習在這一研究領域的應用不斷增加。Neupane 等人（2020 年）概述了過去和當前涉及深度學習的研究，包括側掃和合成孔徑聲納圖像的特征提取、分類、檢測和分割。深度學習模型可直接應用于軍事數據的被動聲納信號分類，這一點并不廣為人知。艦船輻射的噪聲可用于被動聲納系統的識別和分類。已經提出了幾種基于聲學特征的軍用艦船分類技術，這些聲學特征可以通過在聲學車道上進行的受控實驗獲得。由于艦船和船員必須脫離艦隊，因此獲取此類數據的成本是一個重要問題（Fernandes 等人，2022 年）。這種進步為廣泛的多模態和多重情報提供了機會，在這種情況下，眾多空中、地面和空間傳感器以及人類情報會產生結構化傳感器和非結構化音頻、視頻和文本 ISR（情報、監視和偵察）數據。當然，各級數據融合仍是一項具有挑戰性的任務。雖然單個模式的算法系統運行良好，但無縫集成和關聯包括文本、高光譜和視頻內容在內的多情報數據的工作仍在進行中（Das 等人，2018 年）。

自主平臺

在民用領域，自動駕駛汽車正在成為現實。在智能輔助駕駛方面，第三級的車輛自動駕駛（智能巡航控制、行人識別、自動剎車、盲區傳感器、罕見交叉交通警報、避免碰撞等）已在商用車和私家車上應用多年。第四和第五級別的自動駕駛（有監督自動駕駛和完全無監督自動駕駛）目前正在開發中。Kisa?anin（2017 年）的論文是對自動駕駛藝術和科學發展的最早描述之一。深度學習方法已成為設計和實施此類系統不可或缺的方法。Hagstr?m （2019）首先介紹了機器學習和自主系統的軍事應用。根據他的論文，為自動駕駛車輛設計一個能夠在所有駕駛場景中提供足夠性能的控制器具有挑戰性，因為環境非常復雜，而且無法在部署后可能遇到的各種場景中測試系統。然而，深度學習方法已顯示出巨大的潛力，不僅能為復雜的非線性控制問題提供出色的性能，還能將先前學習到的規則推廣到新的場景中。基于這些原因，將深度學習用于車輛控制正變得越來越流行。Kuutti 等人（2020 年）的論文對文獻中報道的旨在通過深度學習方法控制車輛的大量研究工作進行了調查。正如 Vecherin 等人（2020）所指出的，自主軍用車輛面臨著巨大的挑戰。具體而言，需要解決的任務包括：先進的當前地形感知、越野運行、運行時的未知地形、在開闊空間完全重定路線的可能性、確定可能的替代路線以及針對給定地形條件和車輛的最佳車輛控制。軍用自動駕駛車輛的主要區別在于：非公路運行、運行時的未知地形以及在開闊空間完全重新規劃路線的可能性。在這種環境下，智能自主控制所需的算法和環境感知能力與工業中民用的算法和環境感知能力不同。最新的研究結果表明，基于 ML 的算法可以成功地解決其中的一些難題，從而為軍用車輛的手動駕駛提供實質性幫助。DL 方法可能也適用于無人駕駛水下航行器。首批研究之一是無人潛航器上聲納的自動目標識別方法。在這種方法中，目標特征由一個在聲納圖像上運行的卷積神經網絡提取，然后由一個基于人工標注數據訓練的支持向量機進行分類（Zhu 等人，2017 年）。實際上，側掃聲納圖像在軍事和商業應用中都具有重要意義。在 Einsidler 等人（2018 年）的論文中，將該方法應用于現有數據的結果表明，該方法在探測海底物體/異常方面簡單而穩健。

值得一提的是，自主武器的首批正式軍事應用之一是 Kargu 無人機。這是一種小型便攜式自殺式無人機，由土耳其 Savunma Teknolojileri Mühendislik ve Ticaret 公司生產。它可以由個人攜帶，有自主和手動兩種模式。通過其實時圖像處理能力和平臺上嵌入的深度學習算法，“卡古 ”可有效用于打擊靜態或移動目標。自主武器正在迅速擴散：在可獲取性、自主程度、國際開發商、情報、偵察和致命打擊等方面（Longpre 等人，2022 年）。有很多挑戰者，如自主系統，仍然極易出錯，表現出很差的魯棒性、可解釋性和對抗脆弱性。此外，需要強調的是，國際政策仍然模糊不清，缺乏現實的問責和執行機制（Hayir，2022 年）。

挑戰和威脅

DL 軍事應用帶來了許多積極的機遇，但同時也產生了大量的風險和問題。這種權衡視角如表 1 所示。

表 1. 在軍事應用中應用機器學習的優缺點

軍事人工智能應用在設計和操作使用方面面臨的主要挑戰有

1.復雜系統建模：戰爭中戰場信息（包括作戰單位和武器裝備）超載。現實情況極其復雜，包括意外情況（如 “黑天鵝”），這些情況可能不在訓練數據中。

2.信息不準確：在對抗情況下，獲得的信息總是有限的，信息的真實性也無法保證。在信息不準確的情況下做出決策并確保利益最大化，需要綜合權衡。

3.訓練數據的數量和質量：可接受的 DL 系統性能水平主要取決于高質量、低偏差和大量的數據。目前，從戰術到行動計劃的生成，樣本學習的來源都存在很大困難。實戰經驗仍面臨訓練數據量不足的問題。

此外，軍事系統的網絡安全也是關鍵問題之一。

結論

人工智能技術并非無所不能。它需要與傳統技術相結合，如 OODA 循環中的人類，其中領域知識和常識的作用不可或缺。在戰略決策層面需要某些保障機制。在這種情況下，機器學習最重要的一個方面與軍隊士兵和軍官的教育、培訓和選拔有關。

兩項重大技術進步將很快對人工智能的軍事應用產生強烈影響。首先，生成式人工智能的發展為合理處理文本等非結構化數據提供了絕佳機會。其次，Metaverse 技術的發展可能會徹底重新定義未來戰場。這兩個技術方向需要從軍事角度進行深入而有意義的分析。

本文探討了軍事力量中能力與復雜性之間的相互作用。本文的研究結果描述了這兩個概念如何相互交叉，并強調了能力的定義、主題、挑戰、機遇和應用。通過對 314 篇文章進行全面審查，確定了 10 個關鍵研究主題，包括 1) 能力發展與評估，2) 地區防務研究，3) 軍事技術進步，4) 戰略分析，5) 作戰戰術，6) 國防工業動態，7) 組織與管理方面，8) 網絡安全和網絡能力，9）軍事訓練和演習，以及 10）政策和政治影響。在這些主題中，文獻強調了微妙地理解能力和復雜性對于軍事和國防領域知情決策的重要性。此外，本研究還發現了現有研究中的不足，并強調需要一個連貫的理論框架來指導決策者獲取軍事能力。研究結果對加強國家安全、國防能力規劃和資源分配戰略具有重要意義。

理解能力和復雜性的概念對于全球軍事力量的功能、效力和效率至關重要。一個國家的軍事能力是衡量其實現特定目標和執行各種行動的能力的標準。軍事能力是多維的，其中以人力、物力和概念要素（物質和非物質方面）為主。另一方面，復雜性指的是一個實體的屬性，這種屬性使得在特定語言中表述其整體行為具有挑戰性，即使提供了關于其組成要素及其相互關系的合理全面的信息也是如此。隨著技術的進步和戰爭的演變，軍事力量在客觀和主觀上都變得越來越復雜，這是因為從開始、需求識別到利用和維持的能力生命周期階段中，存在大量的組成部分、相互依存關系以及大量的人員和組織參與者/觀察者。軍事能力受到這種巨大復雜性的多方面影響，如安全和作戰環境。如果對國家安全、國防規劃和資源分配有影響，那么了解能力與復雜性之間的相互作用對軍隊和決策者來說是非常重要的。

盡管有許多研究分別考察了軍事能力和復雜性，但缺乏對這兩個概念之間相互作用進行深入分析的文獻。此外，現有文獻支離破碎，缺乏連貫的理論框架，無法成為軍隊和決策者在面對日益復雜的情況和抓住增強能力帶來的機遇時的指南。本系統性文獻綜述旨在通過深入分析在軍事力量背景下使用 “能力 ”一詞的現有研究來填補這一空白，并特別關注復雜性。它試圖回答以下問題：

1.在軍事背景下，如何定義和衡量能力與復雜性？

2.描述這兩個概念之間的關系。

3.它們之間的相互作用帶來了哪些挑戰和機遇？

4.能否采取戰略，在增強能力的需求與日益復雜的復雜性帶來的挑戰之間取得平衡？

本綜述的目標有三個方面。首先，旨在深入概述有關軍事力量能力的現有文獻，重點是復雜性。其次，試圖分析能力與復雜性之間的相互作用，強調其對軍隊和決策者的重要性。最后，旨在找出當前文獻中的不足，并提出未來研究的領域。本綜述的結構如下：第 2 節介紹了背景；第 3 節闡述了研究方法；第 4 節討論了結果；第 5 節提到了局限性；第 6 節對文章進行了總結。

圖 4. 能力框架、模型、方法和指南之間的相互作用。

這份簡報是關于未來作戰網絡和聯合全域指揮與控制 (JADC2) 系列的第二篇。本文探討了作戰優勢和對手威脅對提高作戰網絡互操作性和彈性的要求。它汲取了以往嘗試改進作戰網絡集成的經驗教訓，探討了美國防部如何正確界定其試圖解決的問題的范圍，并組織自身有效和高效地獲取實現其 JADC2 愿景所需的系統。本文建議國防部門：(1) 明確界定 JADC2 的組織角色和職責，包括創建聯合項目執行辦公室的可能性、在負責研究與工程的國防部副部長（USD/R&E）領導下設立新的獨立機構，或為 JADC2 設立一個牽頭作戰司令部（COCOM）； (2) 盡快做出關鍵的頂層架構決策，包括將 JADC2 的范圍縮小至作戰網絡；以及 (3) 擴大其典型的 “制造/購買 ”分析，納入購買服務而非產品的選項，并納入可能由商業擁有和運營的系統。

圖 1：未來作戰網絡運行示例

圖 1 描述了一場假設的未來交戰，在這場交戰中，對手向美軍和盟軍發射了一枚助推滑翔高超音速導彈。交戰分為六個重疊活動，以描述未來作戰網絡的運作方式。在本例中，位于地球靜止軌道 (GEO) 上的天基紅外 (SBIRS) 衛星和/或該地區 F-35 戰斗機上的紅外傳感器探測到導彈發射 (1)。當 SBIRS 衛星和 F-35 戰斗機跟蹤導彈羽流到更高的高度時，這些數據會提示在不同軌道上的紅外和合成孔徑雷達 (SAR) 衛星（其中一些可能是商業衛星），以確定威脅的特征，并建立導彈的高質量軌跡 (2)--包括助推器級燃燒后的軌跡。這些跟蹤和特征描述數據將通過各種方式（例如，通過射頻和激光通信鏈路、軍用和商用衛星以及天基和機載通信節點之間的鏈路）傳遞給該區域的載人和遙控飛機以及海基和陸基攔截點。作戰網絡是一個分布式的彈性殺傷網，而不是一個串聯的殺傷鏈，可幫助操作人員決定哪個平臺最適合發射攔截彈 (3)。彈道數據還用于預測可能的彈著點，并向該地區的部隊發出警報。當攔截和其他部隊保護活動正在進行時，合成孔徑雷達衛星、F-35 戰斗機和射程內的其他飛機開始采取聯合應對措施，跟蹤導彈發射器在地面上的動向（4）。指揮官利用這一作戰空間的網狀視圖，根據攻擊機、攜帶對陸攻擊導彈的艦艇和潛艇以及攜帶遠程火力的地面部隊的位置、可用武器、飛往目標的時間以及是否需要這些部隊執行其他任務等因素，確定哪種組合最適合摧毀導彈發射裝置（5）。與此同時，分析人員在人工智能和機器學習（AI/ML）算法的幫助下，開始篩選來自天基和機載平臺的數 TB 歸檔監控數據，從導彈發射器發射有效載荷時起反向追蹤導彈發射器的位置（6）。反向跟蹤操作可追溯導彈發射器的時間，以確定其來源和運行方式，從而更好地應對未來的攻擊，更重要的是，可完善預測算法，在攻擊發生前預測未來的攻擊。

圖 2：未來反制作戰網絡行動示例

圖 2 描述了這場假設交戰中作戰網絡競爭的另一面，展示了對手利用全方位攻擊來延遲或阻止探測并增加攻擊成功幾率的一些方法。甚至在導彈發射之前，對手就可以試圖癱瘓或削弱用于導彈防御的機載和天基傳感器。例如，激光可試圖眩暈衛星上的紅外傳感器 (1)，陸地和空中電子攻擊系統可試圖干擾或欺騙雷達和通信系統 (2)，同軌反衛星武器可用于干擾或對用于導彈預警和通信的衛星進行物理打擊 (3)。網絡攻擊也可用于攻擊指揮和控制站點、地面網絡和衛星地面站，以破壞這些網絡（4）。防空反擊飛機和地對空導彈可威脅空中加油機、機載通信節點、無人機和攻擊機 (5)，進一步削弱和破壞從傳感器到射手的殺傷鏈。

物聯網的迅猛發展有可能對人類的多個領域產生影響，作戰領域就是其中之一。本文強調了物聯網在現代戰場場景中的應用前景，分析了物聯網在增強態勢感知、提供信息優勢和通過綜合分析補充決策支持系統方面的作用。在肯定技術優勢的同時，本文還探討了物聯網在軍事應用中的安全和倫理問題。

物聯網向戰場物聯網過渡

長期以來，國防領域一直是眾多新興技術的源泉。獲得戰場優勢一直是探索和嘗試激進想法的驅動因素。第一次海灣戰爭后，時任美國海軍作戰司令的威廉-歐文斯上將在美國國家安全研究所發表的一篇研究文章中提出了 “系統簇”這一概念，從而使這種想法開始成形。他闡述了數據和網絡改變作戰的方式。這一觀點轉化為 “網絡中心戰”概念，它是三個領域的融合，即物理領域（進行演習并從傳感器獲取數據）、信息領域（傳輸和存檔數據）和認知領域（處理和分析數據）。在這一概念提出二十多年后的今天，世界各地的軍事領導人和國防專家都對這一概念的實施持樂觀態度，這主要是由于物聯網技術的成熟。烏克蘭地面部隊廣泛使用標槍反坦克導彈和 “彈簧刀 ”隱形導彈來挑戰強大的俄羅斯裝甲部隊，這就是物聯網技術在戰區成功應用的例證。

物聯網技術不應被視為 “另一種獨特的利基技術”，相反，它涵蓋了許多此類技術。因此，將物聯網技術理解為一種理念更為恰當和合理。它是多種智能化、網絡化和動態構建的設備和技術融合的結果，可以在物理和虛擬空間產生效果。IoBT 的目標是管理復雜、智能的系統之系統，普遍安裝智能傳感器和執行器，以自適應學習過程為動力，實現軍隊的戰略和戰術目標。IoBT 網格通過各種有線或無線傳感器節點實現功能，所有這些節點都是網狀的。由地面預警和無人機傳感器、自主武器、智能士兵和最先進的指揮所組成的網絡可協調行動。它可以發揮收集情報和實施動能打擊的雙重作用。它可以將士兵從執行環節中剝離出來，讓他們處于最高級別的監督地位，從而使武器能夠高度自主地分配和攻擊目標。它還能加快行動節奏，消除戰爭迷霧。

圖 1：國防戰術邊緣物聯網的目標場景

戰場物聯網應用案例

物聯網在軍事領域的應用潛力巨大，其在戰術戰斗領域的應用似乎更勝一籌，有望帶來豐厚的紅利。在以網絡為中心的作戰場景中，物聯網可無縫、有效地整合戰場指揮官所掌握的所有可用資源，幫助其做出明智決策。下面簡要介紹一些可能的應用領域。

• C4ISR。部署在各種平臺上的物聯網傳感器集成網絡可在有爭議和脅迫的環境中提供更好的態勢感知。地面和空中傳感器、監視衛星以及實地士兵的組合必然會收集到各種數據。這些信息可在一個平臺上進行過濾、處理、核對、確證和保存，該平臺可調節指揮鏈上下的關鍵數據傳輸，從而實現更好的戰場協調、指揮和控制。

• 武器控制系統。目前正在探索利用傳感器網絡、機器學習和先進的人工智能分析技術實現自主武器系統和火力控制的可能性。這種傳感器射手網格可以提供精確的目標火力投送，并對攻擊做出完全自動化的實時響應。

• 作戰物流。利用智能傳感器、RFID 標簽和 M2M 通信，可以輕松實現有效的車隊管理和高效的貨物跟蹤。邊緣物聯網設備可增強對軍械、關鍵物資、口糧和服裝的實時跟蹤和供應。在監控消費模式的同時，還可以根據固有的優先級和必要性來推動物資供應模式的實施，從而大大提高行動效率。

• 人員管理。可穿戴物聯網傳感器可嵌入戰斗人員的個人裝備，如小武器、頭盔、服裝、背包等，實現無處不在的身體活動跟蹤和作戰數據收集。利用情境感知數據實時推斷和跟蹤士兵在行動中的健康參數和心理狀態，可提供重要的洞察力，有助于采取預防性措施以保護部隊。

• 訓練。物聯網還可用于加強訓練和戰爭游戲體驗。IoBT 概念可融入軍事訓練，為未來行動提供更加真實、適應性更強和更有效的準備。可穿戴傳感器可用于跟蹤正在接受訓練的士兵的生理和認知狀態，從而提供量身定制的反饋和個人優化。

• 管理。管理戰區的電力需求仍然是一個被低估的領域，但隨著戰場上電子設備的引入越來越多，電力和能源管理將給未來行動的規劃和執行帶來嚴峻挑戰。采用預測算法和實時物聯網數據可以大大節省軍方的能源消耗，并有助于了解使用模式。

• 智能監控。先進的視聽和地震傳感器以及視覺人工智能和模式識別技術可促進智能監視和監測網的建立，該網不僅可覆蓋地面，還可覆蓋海洋環境。物聯網解決方案使感知和預測生態條件成為可能，從而隨時掌握大范圍內的海上作業情況。

• 協作與人群感應。戰術資源的流動性和機動性給現代戰場帶來了一系列獨特的通信挑戰。協作傳感是指在移動設備之間傳播傳感器數據的過程，通常使用可靠的短程通信。物聯網節點可利用閑置傳感器來滿足自身的傳感需求。通過將傳感器與任務分配相匹配，可為任何臨時 ISR 任務提供便利。因此，作戰指揮官可支配的可用傳感和通信資源可得到最佳利用。

人工智能（AI）技術，尤其是機器學習技術，正在通過增強人類決策能力迅速改變戰術行動。本文探討了人工智能驅動的人類自主組隊（HAT）這一變革方法，重點關注它如何增強人類在復雜環境中的決策能力。雖然信任和可解釋性仍是重大挑戰，但我們的探討重點是人工智能驅動的 HAT 在改變戰術行動方面的潛力。通過改善態勢感知和支持更明智的決策，人工智能驅動的 HAT 可以提高此類行動的有效性和安全性。為此，本文了提出了一個綜合框架，該框架涉及人工智能驅動的 HAT 的關鍵組成部分，包括信任和透明度、人類與人工智能之間的最佳功能分配、態勢感知和道德考量。所提出的框架可作為該領域未來研究與開發的基礎。通過識別和討論該框架中的關鍵研究挑戰和知識差距，我們的工作旨在指導人工智能驅動的 HAT 的發展，以優化戰術行動。我們強調開發可擴展且符合道德規范的人工智能驅動的 HAT 系統的重要性，該系統可確保無縫的人機協作、優先考慮道德因素、通過可解釋的人工智能（XAI）技術提高模型的透明度，并有效管理人類操作員的認知負荷。

人工智能和自主技術的融合給包括國防和戰術行動在內的各行各業帶來了革命性的變化。HAT 的興起可歸因于幾個因素，包括自主技術和人工智能的快速進步、任務和環境的日益復雜、能力更強的自主系統的發展，以及數據和計算能力的不斷提高。隨著這些技術變得越來越復雜和強大，人們越來越認識到，將人類的認知能力與自主系統的計算能力和效率相結合，可以實現潛在的合作。現代 HAT 系統的興起也是由于需要應對快速發展和動態環境的復雜性和挑戰。隨著任務變得越來越復雜、對時間越來越敏感、數據越來越密集，人類與智能體之間的協作對于有效駕馭和應對這些挑戰變得至關重要。

HAT 是一個新興領域，探索人類與自主系統之間的協作伙伴關系，以執行任務或實現共同目標。這涉及一種協作安排，其中至少有一名人類工作者與一個或多個智能體協作。這種協作方式有可能徹底改變各行各業完成任務的方式，并為人類與智能自主系統攜手解決復雜問題和實現共同目標的未來鋪平道路。HAT 系統旨在允許人類將任務委托給智能自主體，同時保持對整體任務的控制。這里所說的智能體是指在決策、適應和通信方面具有不同程度自治能力的計算機實體。這一定義得到了先前研究成果的支持。在 HAT 中，人類的認知能力與自主系統的計算能力和效率相結合，可以提高性能、決策和系統的整體能力。

在此，將定義和澄清一些關鍵概念，這些概念對于理解本研究的范圍和背景至關重要。這些概念包括人工智能、自主、自主系統和戰術自主。通過提供明確的定義并區分這些術語，我們希望讀者能夠達成共識。

自主性。HAT背景下的自主性是指智能自主系統或智能體在團隊環境中獨立運行和決策的能力，具有不同程度的自我管理能力。這涉及到自主系統在學習、適應和推理基礎上更高程度的決策能力。它是系統的一種屬性，而非技術本身。自主實體可以感知、推理、規劃和行動，以實現特定的目標或目的，而無需人類的不斷干預。值得注意的是，自主的程度可能各不相同，有的系統可以完全自主地做出所有決定，有的系統則是半自主的，在某些情況下需要人的干預。在戰術自主方面，HAT 涉及將自主能力整合到戰術行動中。這種整合可包括各種應用，如利用自主系統收集情報、執行監視和其他關鍵活動。自主性使系統能夠在復雜和不確定的環境中運行，從經驗中學習，并在任何情況下都無需明確的人工干預即可做出決策。然而，必須將其與傳統自動化區分開來，傳統自動化通常遵循預先編程的規則、決策樹或基于邏輯的算法來執行任務或做出決策。傳統自動化的適應性和靈活性有限，無法在沒有明確編程的情況下處理動態或不可預見的情況。本文討論了人工智能驅動的自主性如何通過強調學習、適應和決策能力來區別于傳統自動化。這些能力最終會提高戰術行動中人類-自動駕駛團隊合作的整體有效性和敏捷性。

自主系統。自主系統可以在沒有人類持續控制的情況下執行任務或操作。它們利用人工智能算法和傳感器感知和導航環境，實現高度自主。

戰術自主。在本研究中，戰術自主是指自主系統在動態和復雜的作戰環境中做出實時決策和采取行動的能力。這涉及人類與自主系統之間的無縫協調和互動，使它們能夠作為一個優勢互補的統一團隊發揮作用。HAT 的重點是通過人類操作員與智能自主系統之間的無縫協調與協作，實現共同的任務目標。本文介紹了一種人工智能驅動的 HAT，它將人工智能集成到 HAT 框架中。這種方法結合了人類專業技能和人工智能能力的優勢，從而提高了決策、態勢感知和作戰效率。戰術自主性將人類的認知能力（如適應能力、直覺和創造力）與自主系統的計算能力、精確性和動態執行能力相結合，有可能給包括國防、應急響應、執法和危險環境在內的各個領域帶來革命性的變化。必須區分戰術自主和戰略自主，以明確人工智能驅動的人類-自主團隊如何在軍事和作戰環境中促進這兩個層次的自主。戰略自主是指一個國家或組織就廣泛的安全目標做出自主選擇的能力，而戰術自主與戰略自主相反，側重于單個單位或團隊在特定任務中的獨立行動。戰略自主涉及更高層次的決策和規劃，要考慮長期目標、總體任務目標和更廣泛的態勢感知。它涉及指導整體任務或戰役的協調、資源分配和戰略決策過程。

戰術行動。戰術行動涉及在特定區域或環境中的協調活動，通常是在軍事、執法或戰略背景下，重點是通過快速決策、適應動態形勢以及在局部區域和時間范圍內應用軍事技能和資源來實現短期目標。

近年來，人工智能、機器學習（ML）、機器人和傳感器技術的進步為實現戰術自主的潛力鋪平了道路。這些技術進步使自主系統能夠執行復雜任務，實時處理大量數據，做出明智決策，并與人類團隊成員無縫協作。這為增強人類能力、優化資源配置和提高整體作戰效率提供了新的可能性。然而，有效的戰術自主需要全面了解人類與自主系統之間的動態關系。包括信任、溝通、共享態勢感知和決策在內的人為因素在確保 HAT 取得成功方面發揮著至關重要的作用。必須認真應對各種挑戰，如建立適當的信任度、解決潛在的認知偏差、管理工作量分配和保持有效的溝通渠道，以確保無縫協作，最大限度地發揮戰術自主的潛在優勢。戰術自主的 HAT 是一種使用人類和自主系統來操作和控制武器及其他軍事系統的協作方法。在 HAT 中，人類操作員和自主系統共同努力實現共同目標。人類操作員負責總體任務并做出高層決策。自主系統負責執行指定任務。

正如第四節詳細解釋的那樣，人類操作員根據自己的經驗和對任務目標的理解，貢獻戰略洞察力、背景和高層決策能力。交互和通信代表著界面和通信渠道，各組成部分可通過這些渠道交換信息、開展協作并做出共同決策。在共享決策過程的背景下，人類操作員和自主系統參與協作決策過程，共享見解、數據和建議，以制定有效的戰略。自主系統負責實時數據處理、分析和特定任務的執行，為人類操作員提供及時、相關的信息支持。隨后，一旦做出決策，自主系統就會根據共同決策過程的指令執行具體任務，包括偵察、導航或數據收集。

本文全面探討了 HAT 的歷史發展和現狀，并深入探討了利用人工智能實現戰術自主的機遇、挑戰和潛在的未來方向。它強調了人工智能對戰術自主性的變革性影響，并提出了改進決策、態勢感知和資源優化的機遇。通過認識和應對與采用人工智能相關的挑戰，并規劃未來的研究方向，可以為人類與自主系統無縫協作的未來鋪平道路，最終實現戰術環境中更安全、更高效、更成功的任務。

圖1:HAT的應用。

先進人工智能（AI）與當代各部門和各行業的融合不僅僅是技術升級，更是一場具有深遠影響的變革。本文探討了與先進人工智能在社會、經濟和政治系統中的快速融合相關的結構性風險概念。這一框架挑戰了主要關注人工智能直接威脅（如事故和誤用）的傳統觀點，并提出這些更近似的風險是相互關聯的，并受到更大的社會技術系統的影響。通過分析技術進步與社會動態之間的復雜互動，本研究確定了結構性風險的三個主要類別：前因結構、前因人工智能系統和有害反饋回路。我們提出了一個全面的框架來理解驅動這些風險的因果鏈，強調了社會規模的結構性力量與誤用、系統故障和錯位系統擴散等更近似的風險之間的相互依存關系。本文闡述了不加控制的人工智能進步如何重塑權力動態、信任和激勵結構，從而導致深刻且往往不可預測的社會變革。介紹了繪制、模擬和推演這些動態的方法論研究議程，旨在讓政策制定者和國家安全專業人員做好準備，應對下一代人工智能技術帶來的挑戰。本文最后提出了政策建議，通過將對人工智能-社會技術關系的細致理解納入戰略規劃和國際治理，來降低這些風險。

結構性風險的定義和概念化

技術的開發和應用不是孤立的，而是與人類的需求、動機和環境緊密聯系在一起的。人工智能系統尤其如此--經過訓練的適應性學習技術，能夠與社會和物理世界融合互動。這種社會技術生態通過人機互動不斷發展，在改變社會結構（文化、經濟和政治）的同時推動技術加速發展（Valverde，2016 年）。因此，研究人員越來越多地從復雜系統的角度來評估人工智能，重點關注其結構、功能以及與平行系統的關系如何影響風險動態（Lazar & Nelson, 2023; Weidinger et al.） 越來越多的文獻研究了人工智能在技術、人類和系統層面的安全性，指出了反饋回路（Weidinger 等，2023 年；Anwar 等，2024 年）和社會適應（Bernardi 等，2024 年）的重要性。人工智能治理研究人員將這類風險稱為結構性風險：技術如何塑造或被更廣泛的環境塑造（Zwetsloot 等人，2019 年；Dafoe，2020 年）。盡管如此，對人工智能結構性風險動態的研究仍然有限，只有戰略武器和威懾（Avin & Amadae, 2019; Flournoy et al., 2020; Wong et al., 2020; Johnson et al., 2023）和快速社會變革（Ward, 2022）領域有明顯的例外。

圖 1. 人工智能風險格局。事故風險和誤用都與自我強化動態有著廣泛的重疊。誤用人工智能系統會讓技術安全問題顯現出來，而結構性力量（如經濟或地緣政治）會促使未經測試的系統過早發布，改變權力動態（改變攻防平衡），或降低進入門檻。

結構性風險可定義為在更廣泛的社會技術系統中開發和部署先進人工智能技術所產生的動態變化，包括互為因果的事件鏈、激勵結構和權力不對稱。對結構性風險的研究將分析重點從因果鏈末端的威脅--近因和事件，如無法控制的美國空軍人工智能無人機系統--轉移到潛在的結構性力量、它們之間的相互作用以及意想不到的后果。因此，雖然結構性風險有別于人工智能帶來的其他更直接的威脅（如目標錯位或網絡威脅），但它們是其特征和嚴重性的基礎。因此，大多數人工智能風險都具有間接因果途徑的結構性基礎（圖 1）。例如，過早部署一個功能強大、潛在不安全的系統可能會對事故產生直接影響，如系統故障，或部署錯位系統，或間接改變進攻-防御力量的對稱性（如增強進攻性網絡能力），導致國家間關系緊張，甚至沖突。事實上，新能力的提升會影響到更廣泛的社會和政治環境，同時也會受其影響。這種框架導致一些研究人員認為，大多數人工智能風險本質上都是結構性的（Krueger，2023 年；Clarke，2022 年）。

為了進一步闡明間接風險這一點，可以考慮采用化石燃料的歷史例子。雖然人類使用化石燃料已有數千年的歷史，但在 19 世紀，化石燃料的廣泛傳播造成了人口和工業的爆炸性增長，推動了工業革命的空前發展（Jianfen，2021；Wrigley，2013）。化石燃料使用的外部效應導致了廣泛的健康影響（如污染、工廠作業）、城市和國防工業基地的快速擴張以及大氣中二氧化碳的持續增加。因此，從第一批燃煤發電廠和鐵路到內燃機以及二戰前線軍事裝備的開發和運輸，都可以追溯到間接的因果聯系（布萊克，2017；達福，2020）。技術如何改變支撐發展和國際安全的結構性力量，推動社會組織和沖突的特征進入二十世紀。

權力動態和對對手的不信任會推動新技術快速融入全球軍事，導致以前無法想象的沖突形式，如一戰中的無限制潛艇戰、閃電戰戰術，以及二戰中第一顆原子彈的使用。雖然技術進步與沖突之間沒有直接的因果關系，但驚人的能力確實改變了可能的平衡，而權力不平衡、不信任和維持統治地位的動機又加劇了這種平衡。這些力量會形成危險的反饋循環，扭曲價值結構，加速競爭，增加事故和濫用的風險。在德國決定在一戰中實施無限制潛艇戰之前，各方都認為在戰爭中使用這種戰術是不可想象的（Gompert，2014）；然而，首次使用引發了各方參與，導致美國卷入一戰。今天，關于完全自主武器系統的倫理和禁止問題也有類似的討論（Kallenborn, 2020）。然而，歷史的教訓表明，新的能力與正確的激勵措施相結合，可以從根本上改變可允許性的結構動態。

這些動態的一個當代例子是圍繞人工智能發展的經濟和地緣政治競賽動態，推動公司和國家加快部署時間表。另一個例子是社交媒體算法對人類社會組織和決策的影響，導致整個政治制度和個人傷害的轉變。此外，對武器系統（戰略、戰術或指揮控制系統）自主性的信任螺旋式上升，導致緊張局勢加劇和技術升級（Avin & Amadea, 2019）。隨著系統越來越強大，社會和技術世界變得越來越相互依存，結構性風險可能會出現新的表現形式。事實上，人工智能內容選擇算法對青少年自殺或投票行為的影響，在達到人工智能復雜性的特定門檻之前，并沒有人注意到。在一些尚未考慮的領域，情況可能也是如此。正如在 1945 年北卡羅來納州洛斯阿拉莫斯的特尼狄核彈試驗之前，核輻射的影響還相對遙遠一樣，人工智能的結構性風險也存在著一個巨大的、不確定的問題空間，目前還在視線之外。

本文探討了無處不在的人工智能對戰斗本質的改變。將目光從人工智能取代專家轉向人機互補的方法。利用歷史和現代實例，展示了由人工智能操作員和人工智能/機器學習代理操作員組成的團隊如何有效管理自主武器系統。方法基于互補原則，為管理致命自主系統提供了一種靈活、動態的方法。最后，提出了實現機器加速戰斗綜合愿景的途徑，即由人工智能操作員操作戰場人工智能，觀察戰場內的行為模式，以評估致命自主系統的性能。與任何純粹的自主人工智能系統相比，這種方法能開發出更符合道德規范、以機器速度運行并能應對更廣泛動態戰場條件的作戰系統。

2022 年 11 月，ChatGPT 的發布標志著人工智能（AI）發展史上的一個關鍵時刻。幾十年來，人工智能一直是人們熱衷研究的課題，但對于普通人來說，它仍然是一個抽象的概念，更多的是科幻小說或技術演示，比如 IBM 的沃森贏得了《危險邊緣》（Jeopardy）。然而，有了 ChatGPT，人工智能走出了實驗室，人們可以用與朋友和同事交流的方式與人工智能對話。ChatGPT 將公眾對人工智能的看法從未來的可能性轉變為實實在在的現實。與此同時，在距離開發 ChatGPT 的辦公室千里之外，烏克蘭正在將人工智能融入戰場。面對俄羅斯大規模的射頻干擾，烏克蘭部署了人工智能增強型無人機，能夠在敵對條件下，在無人監督的情況下有效運行。人工智能的這一應用并不是要進行對話或模擬類似人類的互動，而是要在傳統系統失靈的情況下，增強對大型對手的作戰能力。ChatGPT 的認知能力與烏克蘭無人機對人工智能的功利性應用之間的對比，說明了人工智能在不同領域的多樣性和變革性。

這兩項人工智能應用促使美國國防部（Department of Defense，DoD）關于戰場人工智能的戰略思想發生了潛在轉變。最初的人工智能條令強調，對人工智能系統 "適當程度的人為判斷 "至關重要，"要有明確的程序來激活和關閉系統功能，并對系統狀態提供透明的反饋"[5]。對 "自主和半自主武器系統的人機界面"[5] 的要求意味著一定程度的人類直接互動，通常稱為 "人在回路中"（HITL）或 "人在回路中"（HOTL）。這種人類直接參與人工智能或監控錯誤的方式，證明了對關鍵流程自動化的謹慎態度。

之所以會出現這種轉變，是因為人們認識到，人工智能及其不可避免的技術普及，將不僅僅是補充，而是從根本上改變戰場上的行動和情報搜集，就像它已經開始改變社會上幾乎所有其他地方一樣。這種演變并非首次發生。就在上一代，互聯網的出現和智能手機的普及徹底改變了通信和信息獲取方式，以至于國防部別無選擇，只能適應。與這些創新一樣，人工智能也正走在一個類似的基本層面上。現在的挑戰不在于試圖支配人工智能的整合，而在于適應其不可避免的普遍性，在擔心數據偏差、計算 "幻覺 "的情況下確保軍事系統的可靠性和有效性，同時確保致命性自主武器系統的行為符合國際人道主義法（IHL）。本文件旨在探討這些挑戰，并提出緩解這些挑戰的途徑，同時認識到人工智能增強戰爭的進程不僅不可避免，而且已經開始。

討論

2022 年，人工智能達到了一個拐點。隨著電子戰的加劇，烏克蘭沖突迫使自主無人機快速發展。與此同時，像 ChatGPT 這樣的強大語言模型的發布吸引了全球觀眾，盡管它們的局限性也變得顯而易見。這些系統容易出現事實錯誤和赤裸裸的捏造，凸顯了將模式識別誤認為真正理解的風險。在人工智能顛覆整個行業的同時，我們也認識到，人工智能的流暢性往往掩蓋了根本無法分辨真假的缺陷。

人工智能在軍事上的應用提出了獨特而棘手的倫理問題。根據特定數據訓練的人工智能系統是實現其設計目的的強大工具。它們擅長模式識別和快速執行所學任務。但人工智能系統適應新情況的能力，尤其是在人命關天的情況下，仍然不太清楚。

雖然人工智能在數據處理和分析方面的能力毋庸置疑，但它在道德框架內指導行為的能力卻不那么確定。圖 1 展示了戰場自主人工智能的典型組織結構。作戰人員（橙色圓圈）直接操作一套武器系統（藍色圓圈），每套系統都通過一個人工智能模型進行調解，該模型經過訓練，可控制特定武器與敵人交戰。然而，如果敵人已經找到了欺騙人工智能模型的方法，作戰人員往往無法改變模型的行為。相反，作戰人員必須依靠其他可能風險更大的手段與敵人交戰。在戰爭中強調簡化、精簡的人工智能模型會帶來一種危險的脆性。當人工智能模型被愚弄時，它可能會使作戰人員面臨更大的風險，同時將關鍵優勢拱手讓給敵人。

在本文中，我們提出了 3.8 節中介紹的人工智能操作員或 "馬夫 "的角色。這種角色延伸了加里-卡斯帕羅夫（Garry Kasparov）在 "高級國際象棋 "中提出的 "半人馬"（centaur）概念，即人類與多個國際象棋程序合作，將人類的戰略洞察力與機器的計算能力相融合，以達到超高水平的競爭[21, 13]。這些相互促進或互補的領域已被證明優于任何一個單獨的組成部分[23]。互補的概念是將多個元素結合在一起，產生一個比任何一個部分都更有效的整體，這與更常見的替代做法有著本質區別，替代做法是單獨使用能力最強的部分--人類、自動化或人工智能。替代系統的實際結果是，它們的強大取決于最薄弱的部分。由作戰人員、戰場人工智能、遠程人類操作員及其本地人工智能代理組成的網絡可確保人類和人工智能的優勢得到最大程度的發揮（圖 2）。半人馬概念在軍事戰略中的演變說明，未來人類與人工智能的合作不僅有益，而且對于在高度動態和競爭激烈的環境中取得優勢至關重要。

要想讓人工智能系統在軍事環境中可靠運行，人類操作員必須了解人工智能的決策過程。這就意味著要對具有不同技能和背景的操作員進行培訓。就像棋手調整策略一樣，操作員應能根據需要切換人工智能模型。不能指望單一的人工智能模型在每一種戰場場景中都能完美發揮作用。情況是不可預測的；在一種情況下最好的模型在另一種情況下可能會失效。操作員必須了解每種人工智能模型的優缺點，以確保使用最有效的工具來完成手頭的任務。這種適應性是人工智能成功融入軍事行動的關鍵。

在軍事行動中，采用這種靈活的方法將人類與人工智能配對，可創建出比人工智能單獨運作的系統更靈活、適應性更強的系統。這種人類與人工智能的共生關系可以破壞對手的 "觀察、定位、決策、行動"（OODA）循環[18]，有效地 "反客為主"。人工智能在人類直覺和經驗的充實下，引入了不可預測性和復雜性，純人工智能對手可能難以理解或實時處理這些不可預測性和復雜性。這可能會使天平向有利于人類-人工智能團隊的方向發生決定性的傾斜，使他們在關鍵時刻超越和思考純人工智能系統，從而獲得戰術優勢。

人類可以利用自己的創造力和創新力提出人工智能無法提出的新想法和解決方案。例如，將人類對已知危險和風險的了解融入自主系統，可以讓操作員確定并預測基于人工智能的控制器在遇到真實世界的風險因素時的行為[6]。我們還能理解人工智能忽略的細微差別和情境，這對決策至關重要。最后，人類在群體中表現最佳，每個人都能帶來不同的視角和技能，從而提供深度理解，而目前的人工智能似乎可以模仿，但卻無法復制。

為了真實地再現軍事行動，嚴肅的戰斗模擬要求建模實體具有合理的戰術行為。因此，必須定義作戰戰術、條令、交戰規則和行動概念。事實證明，強化學習可以在相關實體的行為邊界內生成廣泛的戰術行動。在多智能體地面作戰場景中，本文展示了人工智能（AI）應用如何制定戰略并向附屬單元提供命令，同時相應地執行任務。我們提出了一種將人類知識和責任與人工智能系統相結合的方法。為了在共同層面上進行交流，人工智能以自然語言下達命令和行動。這樣，人類操作員就可以扮演 "人在回路中 "的角色，對人工智能的推理進行驗證和評估。本文展示了自然語言與強化學習過程的成功整合。

RELEGS：針對復雜作戰情況的強化學習

為了獲得模型架構的靈感，我們研究了 DeepMind 的 AlphaStar 架構，因為它被認為是復雜 RL 問題領域的最先進架構。通過我們的架構（如圖 2 所示），我們提出了一種靈活、可擴展的行動空間與深度神經網絡相結合的適應性新方法。觀察空間的設計基于如何準備戰場的軍事經驗。通常使用地圖和可用部隊表。因此，模擬觀測被分為標量數據（如可用坦克數量及其彈藥）。同時，基于地圖的輸入作為視覺輸入提供給空間編碼器。

標量數據用于向人工智能提供幾乎所有場景細節的建議。其中包括有關自身部隊及其平臺的數據，以及有關敵方部隊的部分信息。輸入并非以絕對數字給出，而是采用歸一化方法來提高訓練效果。編碼器可以很容易地寫成多層感知器（MLP）；不過，使用多頭注意力網絡可以大大提高訓練后智能體的質量，因此應予以采用（Vaswani 等人，2017 年）。

為了理解地理地形、距離和海拔高度的含義，人工智能會被輸入一個帶有實體編碼的地圖視覺表示。顏色方案基于三通道圖像，這使我們能夠輕松地將數據可視化。雖然使用更多通道會給人類的圖形顯示帶來問題，但人工智能能夠理解更多通道。不同的字段類型和實體會用特殊的顏色進行編碼，以便始終能夠區分。這種所謂的空間編碼器由多個卷積層組成。最初，我們嘗試使用 ResNet-50 （He 和 Zhang，2016 年）和 MobileNetV3 （Howard 等，2019 年）等著名架構，甚至使用預先訓練的權重。然而，這并沒有帶來可接受的訓練性能。因此，我們用自己的架構縮小了卷積神經網絡（CNN）的規模。

為了測試和優化這一架構，我們使用了一個自動編碼器設置，并使用了模擬中的真實樣本。我們能夠將參數數量從大約 200 萬減少到大約 47000。此外，我們還生成了一個預訓練模型，該模型已與模擬的真實觀測數據相匹配。這一步極大地幫助我們加快了 RL 進程。

一個可選元素是添加語言輸入，為人工智能定義任務。雖然一般的戰略人工智能不使用這一元素，但計劃將其用于下屬智能體。這些智能體將以自然語言接收來自戰略人工智能的任務，并使用雙向門控遞歸單元（GRU）編碼器對其進行處理。

視覺數據、任務數據和標量數據的編碼值被合并并輸入核心網絡。根據 Hochreiter 和 Schmidhuber（1997 年）的介紹，核心主要是一個擁有 768 個單元的長短期記憶（LSTM）組件。在軍事場景中，指揮官必須了解高價值資產的長期戰略規劃。在本模擬中，人工智能可以請求戰斗支援要素，這些要素在影響戰場之前需要長達 15 分鐘的時間。因此，人工智能必須了解未來任務的時間安排和規劃。在 RL 中使用 LSTM 網絡相當困難，因為它需要大量的訓練時間，而且會導致上面各層的梯度消失。因此，我們決定在 LSTM 上添加一個跳過連接，以盡量減少新增層的負面影響。

動作頭由一個自然語言處理（NLP）模型組成。這是一個非常簡化的動作頭模型，包含一個小型 LSTM 和一個額外的密集層，共有約 340000 個參數。其結果是一個尺寸為 8 x 125 的多離散動作空間。

除主模型外，還有一個單獨的價值網絡部分。價值網絡使用核心 LSTM 的輸出，并將對手信息串聯起來傳遞給 MLP。然后，MLP 可以精確預測價值函數。通過對手信息，價值網絡對模擬有了一個上帝般的地面實況視圖。由于該網絡只與訓練相關，因此可以在不干擾訓練完整性的情況下進行。

深度偽造（DT）技術已經達到了全新的復雜程度。網絡犯罪分子現在有能力修改聲音、圖像和視頻，以誤導個人和企業，傳播虛假信息。這對國際組織和個人構成了日益嚴重的威脅，當務之急是采取措施加以應對。本文概述了深度偽造，討論了其對社會的作用以及 DT 的運作。本文重點探討了深度偽造對世界各國的經濟、政治和法律機構可能造成的危害。此外，本研究還將探討深度偽造問題的各種解決方案，并在最后討論進一步研究的潛在方向。

深度偽造技術（DT）的出現是人工智能（AI）發展的直接結果[1,2]。這些技術給世界各地的機構帶來了巨大風險。深度偽造是一個術語，指的是一種建立在人工智能基礎上的技術，這種技術有能力改變圖像、音頻和視頻內容，以表現實際并未發生的事件。例如，將政客的面孔編輯到其他人的身體上，然后讓他們說一些政客實際上從未說過的話，這種情況越來越常見。這種不斷擴大的現象已被用于政治場合，在各種議題上誤導公眾，而且只會繼續下去。以意大利一檔諷刺電視節目針對意大利現任總理馬泰奧-倫齊（Matteo Renzi）使用 deepfake 視頻為例。在社交媒體上流傳的這段視頻中，可以看到他在貶低其他立法者。隨著這段視頻在網上瘋傳，越來越多的人開始認為它是真實的，這引起了大眾的憤怒[3,4]。網絡犯罪分子還利用 "深度偽造 "冒充公司的首席執行官（CEO），誘騙員工（通常是財務部門的員工）向騙子控制的銀行賬戶轉賬"[5,6]。絕大多數深度偽造篡改都是為了在電影、電子游戲和教學視頻等娛樂媒體中使用[7,8]。另一方面，網絡犯罪分子已經找到了利用這種技術誤導組織和個人并實施欺詐的方法。此外，制作這種深度偽造品除了需要專業的計算機軟件和技術外，還需要知識[9,10]。然而，"FaceSwap "和 "Reface "等免費軟件的存在，使得不懂技術的人也可以出于娛樂或有害的目的參與媒體操縱[10-12]。

深度偽造技術可用于創建令人信服的合成媒體，使人們無法分辨其與真實媒體之間的區別。這是一個相對較新的研究領域，來自學術界和工業界的學者都貢獻了深度偽造數據庫以及合成和檢測算法，所有這些都促進了深度偽造的流行[13,14]。"深度偽造是人工智能（AI）應用的結果，它通過合并、組合、替換和疊加照片和視頻片段，生成看起來合法的虛假視頻"[15]。深度偽造利用了當前深度神經網絡的發展成果，制造出極為逼真的人工媒體[16]。當深度偽造技術應用于電影或靜態照片時，就有可能將一個人的臉替換成另一個人的臉，而幾乎不留下任何操縱的證據[17]。Cho 和 Jeong [18]認為，深度學習的發展使以前建立的假臉檢測系統變得易受攻擊。

"深度偽造數據集以及合成和檢測技術的可用性，使得社區甚至經驗不足的用戶都有可能構建逼真的深度偽造人臉。這反過來又導致深度偽造視頻在野外的受歡迎程度大幅上升"[19]。令人信服的深度偽造視頻可以迅速影響數百萬人，并對我們的社會產生有害影響[20]。社交媒體的傳播范圍和速度使這一切成為可能。

與深度偽造研究相關的學術資料數量的增加也是這種擴張的反映。除了與深度偽造的制作和檢測相關的技術方面，倫理、社會和法律方面的影響也得到了細致的探討。目前已經有一些針對特定領域的綜述，如深度贗品的制作和檢測[21]、法律[22]、取證[23]和社會影響[24]等等。盡管如此，它們都沒有考慮到深度偽造的整個研究領域，而我們認為，這對于打算從事這一研究的學者來說可能非常有價值[25]。盡管深度偽造研究還相對年輕，但它是一個正在迅速擴展的研究領域。在這一領域中，研究課題及其相互關系隨著時間的推移不斷變化，新的趨勢也在不斷涌現[26]。從目前正在進行的眾多子研究領域來看，研究深度偽造的研究人員來自各種不同的學術和專業背景。除了目前的趨勢之外，調查融資機會也很有意義，因為這有助于集中研究力量[27,28]。

本研究報告分析了當前利益相關者對軍事自主系統的人為輸入或控制的想法。作者首先定義了關鍵術語，如 "機器學習"、"自主系統"、"人在回路中"以及軍事背景下的 "有意義的人為控制"，然后討論了當代利益相關者的文獻對無人駕駛軍事系統的人的輸入/控制的說明。然后，報告討論了各利益攸關方是否對進攻性和防御性系統中所需要或期望的人類控制水平達成了共識，以及是否因系統具有致命性和非致命性能力或西方和非西方國家之間的意見不同而有所不同。報告最后從政策和操作的角度闡述了利益相關者的想法對加拿大國防部/空軍的可能影響。

主要研究結果

• 在與自主系統有關的關鍵術語的定義方面存在著相當多的爭論。

• 在國家對自主武器應采取何種監管手段的問題上，各利益攸關方一直存在分歧。

• 參加這些討論的締約國已就自主武器的一系列指導原則達成共識，包括 "必須保留人類對使用武器系統決定的責任"。

• 在近30個表示支持禁止致命性自主武器系統（LAWS）的國家中，沒有一個是主要的軍事大國或機器人開發商，主要的軍事大國似乎都在對沖自己的賭注。

• 許多民主國家認為，他們打算保留人類對使用武力的控制/判斷，不需要禁止，因為現有的國際人道主義法律（IHL）足以解決圍繞自主武器的問題。

• 加拿大擁有重要的人工智能（AI）能力，該能力被用于民用而非軍事用途。

• 如果在國防領域不接受至少某種程度的（人工智能支持的）自主性，可能會降低與盟國的互操作性，給加拿大武裝部隊（CAF）的行動帶來風險，并且隨著時間的推移，使CAF對國際和平與安全的貢獻失去意義。