該項目對利用無人載具(UVC)概念支持分布式海上行動(DMO)的操作和設計考慮因素進行評估。該評估為投資和開發與利用無人系統、潛在的 UVC 及其與有人艦隊的集成相關的操作概念提供信息。該項目開發了 DMO 的架構表征,包括相關系統的定義以及相關的操作活動。這些表征是仿真模型開發的基線,該模型研究了 UVC 可能對作戰可用性和持續性產生的影響。模擬分析分兩個階段進行。第一階段評估了 UVC 在 90 天代表性運行情況下的總體影響。分析表明,UVC 對運行可用性有積極影響。值得注意的是,這種影響在有機續航時間有限的無人系統中更為明顯。對于不同等級的無人系統,采用 UVC 后,運行可用性的提高幅度最低為 6%,最高為 31%。第二階段分析研究了 UVC 的設計特點,以確定 UVC 的關鍵性能驅動因素。分析發現,無人水面艦艇和無人水下艦艇發射和回收井甲板的數量比無人飛行器發射和回收站的數量影響更大。與對固定式 UVC 配置的評估類似,該分析表明,對于續航時間有限的無人系統而言,增加回收和維修站數量的影響更大,這表明 UVC 本身的適當設計與 UVC 所支持系統的設計特性有著內在的聯系。
隨著空對空導彈有效射程的增加,人類操作員越來越難以保持保證無人機安全所需的態勢感知能力。這項工作提出了一種決策支持工具,幫助無人機操作員在超視距(BVR)空戰場景中評估不同選項的風險,并據此做出決策。早期的工作側重于單枚導彈造成的威脅,而在這項工作中,將思路擴展到了多枚導彈的威脅。所提出的方法使用深度神經網絡(DNN)從高保真模擬中學習,為操作員提供一組不同策略的結果估計。研究結果表明,所提出的系統可以管理多枚來襲導彈,評估一系列選項,并推薦風險最小的行動方案。
圖 1:無人機面臨三枚來襲導彈的情況符號表示。導彈當前的確切位置未知,但可以估計發射的時間和位置。在圖 3-6 中,飛機圖標周圍的彩色區域用于顯示朝該方向進行規避機動的預測未擊中距離 (MD)。據此,操作員在決定選擇何種航線時,可以在任務目標和風險之間做出權衡。
自第一次世界大戰以來,空戰發生了翻天覆地的變化。傳感器、武器和通信技術的進步使飛行員能夠在越來越遠的距離上與敵機交戰。這些進步推動了從 “視距內 ”空戰向 “視距外 ”空戰的過渡。在 BVR 中,來襲導彈的飛行時間可能長達數分鐘,這使得無人機操作員很難評估所有來襲數據并選擇最佳行動方案。事實上,操作員往往會失去對某些來襲威脅的跟蹤。因此,需要一種能夠同時處理多個威脅并提供整體分析的支持工具。這種工具應支持操作員平衡風險與任務目標之間的關系,因為風險最低的選擇往往是完全忽略任務,而另一方面,忽略風險最終可能導致巨大損失。
由于雷達制導導彈的飛行時間可能很長,因此 BVR 空中格斗包含了一種可與星際爭霸等即時戰略游戲相媲美的元素。重大挑戰包括高度非線性動態、信息不確定性以及對手的未知戰略和目標。機載傳感器可以根據敵機類型、電子戰反制設備和天氣情況輸出對手位置的估計值。然而,雖然在面對敵方時并不總能獲得精確信息,但操作員通常知道敵方飛機和武器系統的能力,而本文提出的方法將利用這些信息。
在之前的工作中,研究了無人機面對一枚來襲導彈的情況。利用強化學習(RL),我們計算出了最佳規避機動和執行機動時的失誤距離(MD)。然而,這種方法無法用于同時面對多架敵機的情況。當考慮從不同角度射來的多枚導彈時,相對于一枚導彈的最佳規避機動與另一枚導彈不同,顯然不能同時執行兩種不同的機動。此外,針對一對來襲導彈威脅的最有效規避行動,可以通過離線求解特定問題并存儲結果來確定,但由于可能的威脅組合數量龐大,這種方法變得不切實際。
本文首先要指出的是,對于人類操作員來說,MD 估值是一種直觀的風險估計。因此,我們希望為操作員提供一系列選項,如圖 1 所示。圖中的黃色區域將根據風險程度進行著色。如果向南執行規避機動,MD 值為 2 千米,則會被染成綠色,而向西執行機動,MD 值為 0.05 千米,因此會被染成紅色。
在面臨上述多種威脅的情況下,要估算特定方向上特定機動的 MD,我們的步驟如下。首先,我們學習一組預定義的規避機動在不同羅盤方向上的單個威脅的 MD。然后,由于我們需要擔心的是最小的 MD,因此我們只需遍歷所有威脅,并保存每次機動的最小失誤距離。
通過這種方法,可以提供一種決策支持工具,為一系列選項提供風險估計,而不會丟失任何已檢測到的威脅。我們的方法還能讓操作員意識到何時沒有安全的撤離選擇,例如在近距離受到來自相反方向的威脅時。為更絕望的措施提供決策支持,如發射所有剩余武器然后失去無人機,或依賴模型無法捕捉的方法,如電子戰或箔條/照明彈系統。
因此,這項工作的主要貢獻是提供了一種方法,使無人機操作員能夠評估和處理任意數量的來襲威脅,從而擴展了先前考慮單一敵對導彈的工作。工作概述如下: 第二節回顧了相關工作。第三節介紹 ML 和導彈制導的背景,第四節正式定義問題。第五節介紹了建議的解決方案,第六節展示了仿真結果。最后,第八節將進行討論并得出結論。
本研究論文介紹了軍用無人機系統盒(The NeuronDrone-Box)中用于攻擊或防御決策的全自主人工智能:硬件、算法和一種新型專用軍用無人機或無人機。第一部分介紹了軍用無人機系統盒(The NeuronDrone-Box)中的攻擊或防御決策全自主人工智能,以適應任何無人機的主控系統。第二部分是使用混沌理論和經濟地理學的算法。第三部分介紹了被稱為 "黑色噩夢 V.7" 的開創性原型機。黑色噩夢 V.7 無人機投彈手擁有一系列與眾不同的功能和應用,本技術報告將對此進行詳細介紹。首先,主張在軍用無人機系統箱(The NeuronDrone-Box)中實施全自主人工智能攻防決策,以控制與全自主人工智能攻防決策軍用無人機系統箱(The NeuronDrone-Box)相連的多副翼系統(MAS)和多導彈系統(MM-System)。
本研究為基于人工智能的復雜作戰系統的運行和開發建立了 MUM-T 概念和分類系統。分析了該系統的核心方面:自主性、互操作性和程序級別。人工智能 MUM-T 可提高有人駕駛系統的生存能力、擴大其作戰范圍并提高戰斗力。利用美國和英國正在建造的人工智能 MUM-T 綜合作戰系統的數據,分析了技術挑戰和項目水平。目前,MUM-T 處于有人駕駛平臺和無人駕駛飛行器平臺復合運行的水平。從中長期來看,無人地面飛行器、無人水面飛行器和無人水下飛行器等異構平臺之間的互操作通信是可能的。根據人工智能 MUM-T 系統之間互操作性的通用架構和標準協議的發展水平,MUM-T 可以從 "1 到 N "的概念發展到從 "N 到 N "的各種操作概念組合。本研究與現有研究的不同之處在于,MUM-T 系統中體現了第四次工業革命的核心技術,如人工智能、自動駕駛和數據互操作性。此外,通過在現有的無人系統分類法中體現人工智能和自主性,建立了人工智能支持的自主 MUM-T 操作和設施分類系統,并在此基礎上對級別和程序進行了分析。
本研究確立了有人無人協同作戰(MUM-T)的概念,目的是操作、開發和利用智能聯合作戰系統。此外,它還分析了互操作性、自主性、挑戰和計劃水平。人工智能支持的自主無人 MUM-T 提高了有人系統的生存能力,擴大了作戰范圍,并顯著提高了作戰效率。與以往不同的是,MUM-T 的概念正隨著人工智能的發展而不斷擴展,互操作性和自主性也在相應提高。美國和北大西洋公約組織(NATO)國家提出了未來防御領域的挑戰,并在無人系統(UMS)和 MUMT 層面開展了解決這些挑戰的計劃。本研究分析了自主 MUM-T 聯合作戰系統的運行和使用所面臨的技術挑戰和計劃水平,并介紹了基本要素技術。研究方法基于現有定義和第四次工業革命建立了 MUM-T 概念。并利用北約、美國和英國的數據分析了互操作性、自主性、挑戰以及技術和利用方面的計劃水平。
圖 2 基于 NIST 和北約分類標準的人工智能自主 MUM-T 系統分析
美國防部(DoD)對 MUM-T 的定義各不相同。美國 陸軍無人機系統卓越中心(UAUCE)將有人駕駛平臺和無人機視為單一系統。有人系統和無人系統(如機器人、傳感器、無人飛行器和作戰人員)的集成增強了態勢感知、殺傷力和生存能力[1]。國防部將這種關系視為執行共同任務的綜合團隊,美國陸軍航空卓越中心(UAACE)將其定義為同時操作士兵、無人機和無人地面飛行器(UGV),以提高對態勢的了解和生存能力[2]。它采用了標準化的系統架構和通信協議,使來自傳感器的精確圖像數據能夠在整個部隊中共享。目前,它在國防領域的應用最為廣泛。陸軍航空動力局(AFDD 2015)將其定義為:為每個系統提供特殊功能,使現有有人平臺和無人資產能夠合作完成同一任務。這是一種規避風險的方法,通過從空中、陸地和海上無人系統向有人資產傳輸實時信息,提高單兵作戰人員的態勢感知能力[3]。圖 1 是戰場上 MUM-T 系統的層次示意圖。
在世界經濟論壇(WEF)議程的第四次工業革命(Fourth IR)之后,數字化(I2D2)作為一項核心技術被提出。這些技術在未來科學中具有自主、分析、通信和邊緣計算的特點。該技術的特征組合構成了自主系統和智能體(智能+分布式)、擴展領域(互聯+分布式)、作戰網絡(互聯+數字化)、精確作戰領域(智能+數字化)。智能人工智能將改變戰爭的格局,而數字數據的可用性將使分布式和互聯(自主)系統能夠進行分析、適應和響應。這些變化反過來又可能通過預測分析支持更好的決策。
北約(2020 年)以第四次工業革命的核心技術特征及其組合為導向,構建復雜的作戰系統[4-6]。美國國防發展機構(ADD 2018)認為,MUM-T 復雜系統是一種無人作戰系統,可以補充或替代作戰人員的能力,以最大限度地提高作戰效率,最大限度地減少戰場情況下的人員傷亡。它被定義為以一種復雜的方式操作包括戰斗人員在內的有人作戰系統的作戰系統[7]。考慮到美國國防部(2010)、北約(2020)和 ADD(2018)的定義,人工智能支持的自主 MUM-T 復雜作戰系統(以下簡稱 "自主 MUM-T")和 OODA 循環如表 1 所示[1,5,7]。本研究所指的 MUM-T 復合作戰系統通過聯合指揮與控制,在空中、地面、海上、太空、網絡和戰爭等所有領域提供觀察、分析和控制,可通過整合/連接所有軍事力量的有人和無人系統進行操作。它被定義為 "根據決策和行動執行聯合行動的作戰系統"。
圖 3 北約 STANAG LOI 5 和自主邊緣計算 MUM-T 互操作水平設計
水下監視技術出現于冷戰時期。該技術解密后,學術界對其進行了深入研究,并取得了諸多進展。無人潛航器(UUV)的開發就是海洋領域的進步之一,它能夠增強作戰能力,同時降低人類生命危險。雖然這項技術已經商業化,但在海軍中的應用卻很有限。其有限的發展主要是由開發商和資助他們的政府推動的。然而,由于這項技術能為軍隊帶來諸多好處,因此需要盡快將其納入海軍。這實質上意味著,要想在海軍使用/應用中獲得更多認可,就必須將該技術融入海軍。反過來,這就需要回答許多問題,了解事實,以增強對該技術及其潛力的信心。因此,本文討論了其中一些有助于彌補知識差距的問題,以促進未來海軍對 UUV 技術的接受和應用。雖然本文試圖提供全面的答案,但這些答案并不完整,只能作為討論的起點。就目前而言,技術是存在的,但缺乏想象力卻阻礙了其使用。
圖 2 已詳細說明了 UUV 在軍事領域可發揮的廣泛作用,在此,將討論每種作用的可能任務概況。迄今為止,已知美國、俄羅斯和中國等國家運營著大量不同大小和形狀的軍用 UUV。圖 3 顯示了美國部分軍用 UUV 的范圍,圖 4 顯示了其他國家部分軍用 LDUUV 的范圍。
(a) 情報、監視和偵察。從海洋中收集關鍵的電磁和光電數據將有助于擴大被拒地區的信息范圍,特別是常規平臺無法進入的淺水區。UUV 可以輕松進入這些區域,提供所需的信息。
(b) 海洋學。為了在極端的海洋環境中實現更高的可操作性,必須收集實時情報數據并提供給操作人員,以便在進攻時更好地制定計劃。出于 "用戶舒適度和安全性 "的考慮,載人平臺收集此類數據的能力有限,因此無人平臺和固定平臺被認為是未來的一種可能(Agarwala,2020 年)。
(c) 通信/導航網絡節點(CN3)。通過在有人和無人平臺之間提供一個閉環網絡,CN3 系統有助于為水下平臺提供更強的連接性和控制性,否則這些平臺就必須浮出水面以刷新其全球定位系統進行導航。這樣的通信網絡可提高無人潛航器的安全性和控制能力,同時幫助它們在不被探測到的情況下輕松、長時間地開展 ISR 活動(Munafò 和 Ferri,2017 年)。
(d) 反水雷措施。為確保港口和航道可供軍艦安全作業,并確保敵方類似港口和航道無法使用,最簡單的進攻方式就是布設 "水雷"。為了在不危及人命的情況下做到這一點,UUV 得到了有效利用。在任何平臺上使用無人潛航器,都能提高在敵方水域布設水雷和在己方水域清除水雷的效率,從而無需依賴專門的掃雷艇。
(e) 反潛戰。為了 "遏制 "在狹窄水域、咽喉地帶或艦隊附近活動的潛艇,UUV 可以發揮巨大作用。在此過程中,UUV 可以為載人平臺提供必要的安全保障,同時限制敵方潛艇的行動。
(f) 檢查/識別。為了對船體、碼頭和停泊區及其周圍的密閉空間進行快速搜索,以排除反恐方面的顧慮,并確保在必要時進行爆炸物處理,UUV 可以得到廣泛而有效的使用。這些努力將確保港口、航道和泊位的安全。
(g) 有效載荷交付。由于無人潛航器難以被探測到,而且可以在淺水區輕松作業,因此可用于秘密投放有效載荷。這種有效載荷可以是敵后補給品,也可以是摧毀敵方資產的彈藥。
(h) 信息作戰。由于 UUV 體型小,在淺水區也能輕松運作,因此是收集信息的有力平臺。此外,它們還可用作誘餌和通信網絡干擾器。
(j) 關鍵時刻打擊。能夠及時精確地投放彈藥并最大限度地減少敵方的反應時間是一項關鍵活動。用無人潛航器投放彈藥時,可將其投放到離海岸較近的地方,確保縮短敵方的反應時間。這種行為還有助于避免暴露大型有人駕駛平臺的位置,以免遭報復性打擊。
這項工作研究了在任務式指揮設備中嵌入模擬器的實用性和有效性。其目標是僅使用戰區作戰計劃作為模擬輸入,向操作員隱藏所有模擬器細節,使其無需學習新工具。本文討論了一種原型功能,該功能可根據 SitaWare 中生成的作戰計劃以及嵌入式無頭 MTWS 和 OneSAF 模擬器的模擬結果,生成行動方案(COA)分析。在輸入作戰計劃后,指揮官選擇要執行的模擬運行次數,并按下按鈕啟動模擬,模擬在后臺的運行速度比實時運行更快。模擬運行完成后,指揮官可通過圖形和圖表查看結果,對多次運行進行比較。預計未來的能力將允許指揮官模擬任何梯隊和命令,用于訓練和兵棋推演。
本研究提出了一個基于 MOOS-IvP 中間件的自主水下航行器控制算法構建框架。側掃聲納傳感器(SSS)通常用于生成聲納圖像,在圖像中可以識別類似地雷的物體。這里實施的基站社區可維護 SSS 的覆蓋置信度地圖,并為用戶提供二維和三維模擬以及實施高級控制方案的能力。開發可分三個階段進行: 1) 最簡配置,僅使用必要的應用程序來開發和測試外環控制;2) 包含模擬硬件的配置;3) 包含實際硬件的配置,該配置應從第 2 階段平滑、輕松地擴展而來。這樣做的好處是使用方便、開發速度更快、減少硬件測試和成本。
圖 1. 自動潛航器路徑及其側視聲納覆蓋的相應區域示例。
在擬議的 MAS 框架中,每個 AUV 和基站分別有一個獨立的社區。每個群落上都運行著幾個應用程序,其中一些包含在 MOOS-IvP 發行版中,另一些則由作者自行開發。
在擬議框架中,有三種可能的配置:1) 加速開發高級控制和規劃策略的簡約配置;2) 在最底層用變量替代實際傳感器和執行器數據的模擬配置[12];3) 實際硬件實施。
圖 6. 配置 1:2 個自動潛航器群落和 1 個基站群落,應用極少。
圖 8. 配置 2:硬件模擬包括所有傳感器和致動器應用。
該項目為與使用無人系統支持分布式海戰(DMO)有關的作戰概念和系統設計決策提供信息。研究通過系統地改變仿真模型中的系統設計特征和作戰活動,支持對無人系統(UVC)進行能力級分析。分析結果表明,UVC 可提高各種無人系統的作戰可用性(Ao)和使用時間(TOS),因為它可隨時進入維護、加油和重新武裝設施,而無需長時間前往岸基設施或分布式支援艦艇。在比較使用 UVC 的配置與在自適應兵力包 (AFP) 中分配無人系統支持的配置時,單個無人系統的 Ao 提高了 6% 到 31%。仿真模型分析確定了 UVC 架構,其中包括至少 8 個無人機發射回收站、至少 3 個船舷托架和至少 5 個甲板井托架,以最大限度地提高 Ao。
在支持分布式海上作戰(DMO)時,無人系統有可能發揮兵力倍增器的作用,在提高殺傷力的同時降低有人系統的風險。然而,無人系統到岸基維護、加油和重新武裝設施的轉運時間減少了可用于支持執行 DMO 的自適應兵力包(AFP)的總體駐扎時間(TOS)。本項目研究了無人水面艦艇 (USV)、無人水下航行器 (UUV) 和無人機 (UAV) 在美國海軍現有艦艇上的集成問題,該艦艇已被重新改裝為無人載具 (UVC)。在本報告中,"UxV "一詞用于描述無人系統這一類別。
如 Van Bossuyt 等人(2019 年)所述,項目團隊采用了系統定義、系統建模和系統分析的通用系統工程流程序列。在系統定義過程中,項目團隊重點開發了作戰概念(CONOPS),并定義了 UVC 的系統要求。系統建模活動的重點是構建 UVC 的離散事件仿真模型。在系統分析階段,團隊利用所開發的模型來評估 UVC 的各種設計參數對每種無人系統類型的運行可用性(Ao)的影響。
A. 系統定義
在系統定義階段,從自上而下和自下而上的角度開發和考慮了 UVC 要求。從自上而下的角度來看,團隊分析并確定了滿足總體任務有效性目標所需的能力,而與任何現有的候選平臺無關。從自下而上的角度來看,團隊評估了一艘登陸直升機船塢(LHD)艦,以確定該平臺可實現的最大 UVC 能力。通過查閱文獻和分析利益相關者的需求,項目團隊確定了 UVC 的以下關鍵能力:指揮與控制 (C2)、UxV 發射、UxV 維護和 UxV 回收。根據設想,UVC 將包括著陸甲板無人機發射和回收站、無人機維護/布防/燃料艙、用于大型 USV/UUV 操作的船舷艙或站,以及用于小型 USV/UUV 操作的井甲板艙。
B. 系統建模
項目構想將 UVC 視為針對地面和岸上敵對兵力實施 DMO 的 AFP 的一部分。UVC 的作用是支持 UxV 對敵方岸基導彈基地進行偵察和打擊。在打擊階段之前、期間和之后,UxV 提供全天候的情報、監視和偵察(ISR)、目標定位和戰損評估服務。UVC 的總體目標是通過消除到岸基支持設施的較長運輸時間來增加 UxV 的全時服務時間。為實現這一總體目標,研究小組選擇 "航程 "和 "持續停留時間 "作為性能指標(MOP),并選擇 "UxV 任務時間"、"UxV 停機時間 "和 "維護灣利用率 "作為效果指標(MOE)。
設計并開發了一個離散事件仿真模型,用于分析 UVC 設計參數對 MOP 和 MOE 的影響。該模型是通過 ExtendSim10 建模程序開發的。該模型包括 UxV 發射和回收、UxV 維護活動以及 UxV 重新武裝和加油活動。UxV 的發射時間表和總模擬運行時間是根據擬議的 UVC CONOPS 制定的。目前,該模型并未考慮 UxV 的損失或故障;這是未來可能開展工作的一個領域。模型的主要輸出是每種 UxV 的 Ao。
C. 系統分析
為了廣泛探索實驗空間,同時減少試驗總數和模型運行時間,我們專門設計了一個填充空間的拉丁超立方設計。每次試驗重復模擬 30 次并收集結果。合并所得的 Ao 值,得出每個試驗的統計平均值。
分析結果表明,UVC 可隨時提供維護、加油和重新武裝設施,而無需在岸基設施或分布式支援艦艇之間進行長時間的轉運,從而改善了每種 UxV 的 Ao 值和 TOS 值。對于任何特定的 UxV,通過增加 UVC 發射、回收和維護站的數量,從而消除或減少這些服務的排隊時間,可獲得最大的 Ao。分析表明,UVC 在設計時應至少配備 8 個無人機發射/回收站、至少 3 個船舷托架和至少 5 個焊接甲板托架。這些參數沒有確定上限,這也是未來研究的一個潛在領域。
有趣的是,雖然 UVC 的存在改善了大型無人水面艦艇(LUSV)的航速,但 UVC 的實際設計似乎對 LUSV 的航速沒有影響。這可能是由于 LUSV 的假定任務持續時間長,假定維護間隔長,因此不可能出現任何排隊現象。單個船側停泊區似乎足以為多艘 LUSV 提供服務,但即使是單個船側停泊區,也可通過消除到岸基設施的轉運時間來改善 Ao。
具有高度自主性的軍事系統發展帶來了許多作戰優勢。這些系統通常是高度協作的,并允許優化對復雜問題的多效應對。人工智能,包括深度強化學習,有助于提高這些系統的效率。這項工作提出了一個與信任這些算法有關問題的綜合觀點,并提出了一些改善人機信任的準則。這項工作是在由歐盟資助的30個合作伙伴歐洲財團委托編寫的報告框架內完成的。
法國和英國在2010年啟動了一項計劃,評估和開發 "海上反水雷"(MMCM)能力,包括在與母艦安全距離外遠程操作的無人系統。通過持續化解靜態水下威脅,這些系統將提供戰略、行動和戰術上的機動自由,確保海上力量的安全投送,包括在海峽等高風險地區。
MMCM計劃的目標是提供一種新的敏捷的、可互操作的和強大的水雷戰能力。它將有助于在現有水雷戰艦退役時取代它們。這一雙邊計劃于2010年底根據法國和英國之間的《蘭開斯特宮條約》正式啟動。在2018年1月的法國/英國峰會上,法蘭西共和國總統和英國首相申明了他們打算迅速將該系統投入作戰服務[13]。
特別是,在2020年測試了四種作戰方案,分別采用了:一個水面無人機及其探測聲納、一個拖曳聲納、兩個水下無人機和一個水下滅雷機器人。前兩種情況主要是隨著任務的進行對威脅進行探測、分類和定位,其次是通過與前一次任務的數據進行比較來改變探測結果,最后是重新定位和識別幾枚地雷并解除其中一枚地雷。
該計劃的核心是在水下環境中自主發展的能力。這種自主性是通過使用人工智能算法,特別是DRL來實現的,以便自主地將無人機從母艦上移開[14]。盡管水下無人機必須能夠自主行動,但仍有許多人機互動:任務準備、驗證地雷分類和實時任務監測、授權投擲炸藥。這種人機互動是由MMI(人機界面)實現的,比如你會發現下面這個界面。
有一些項目旨在優化這些關系并建立信任關系:例如,泰雷茲國防任務系統公司DxLab的AR{iA}NE項目,旨在顯示操作者和人工智能之間可以有真正的互動[14]。人工智能在這里由控制臺的下半部分代表。它的突出顯示取決于性能指數:這就是人工智能以非常直觀的方式與操作者交流的方式。這個演示設備是為工業展覽準備的。它的設計經過特別考慮,給人以未來主義的印象,讓客戶感覺到他正在與人工智能進行交流。該控制臺集成了一個軟件分析界面,為聲納數據的利用提供了實質內容,因此非常適用于研究人機互動,更確切地說,是人機互動。
國防公司,如泰利斯、空客和MBDA,正在開發項目,旨在提供反無人機(UAV:無人機)解決方案。商用無人機的擴散化和相當便宜的價格引發了安全和保障問題。例如,在無人機和飛機之間發生了一些事件,還有一些情況,如跨越邊界和在監獄中走私貨物(武器、毒品),或向目標運送爆炸物。這些公司提出了智能解決方案,可以檢測無人機,但也可以通過高度的自主性和人類的環形控制來消除它們。這些系統可以對敵方目標進行探測、識別、定位和消滅。反無人機問題被概念化,并通過以下步驟得到部分解決[16]:
最新項目的目標是創建和展示一個完整的反無人機系統,能夠解決上述六個步驟,并整合兩個主要部分,一個地面部分和一個空中部分。地面部分可由一個作為指揮和控制站的地面控制站和一些地面傳感器組成,其數量和在空間的分布可根據需要和保護空間的配置進行調整。空中部分可以由盟軍無人機隊組成,這些無人機可以是相同的,具有類似的能力(同質蜂群),也可以具有不同的能力,每個都有一套獨特的專長(異質蜂群)。擁有一個空中段提供了兩個優勢。首先,在傳感方面,它使系統具有盯住目標的能力,可能為人類操作員提供實時視覺反饋,但也能對敵方無人機及其有效載荷進行更詳細和有效的分類和識別。第二,在消滅方面,它應該允許防御者部署更多的外科手術式的反措施,特別是避免過多的附帶損害或不想要的副作用。許多國防公司正在為中和部分開發智能DRL解決方案[17],以便在盟軍無人機群中做出自主決定。DRL算法也可用于指揮和控制站,以監測整體作戰情況。
未來戰斗航空系統(FCAS)是一個 "系統簇",它涉及到新一代戰斗機(NGF)、遠程航母(RC)和一個將所有參與者連接在一起的戰斗云系統: NGF、RC群、衛星、戰艦、地面系統等。
遠程運載器是用來做什么的?設想的應用是非常多樣的:通過幾十架飛機的飽和來穿透敵人的防御,誘騙敵機,執行電子戰任務(干擾),為其他飛機指定目標,執行偵察任務,甚至發射導彈而不是作戰飛機。這些新型機組成員為未來幾十年的空中行動開辟了一個巨大的可能性領域:用無人機代替戰斗機發射導彈,這樣就不會有飛行員的生命危險,騷擾敵人的防線,執行偵察任務,等等。這些設備也可以假裝成駕駛飛機,吸引敵人的巡邏隊,為作戰飛機打開缺口。在遠程載具的核心,制造商正在開發人工智能算法,特別是DRL[18],以控制每架無人機,但也控制無人機群。DRL算法出色的適應性在這里被用來管理高層和自主決策。
"系統簇"的非常高的互連性也要求建立一個抗網絡攻擊的戰斗云。這些攻擊確實可以破譯通信以獲取情報,甚至干擾或破壞通信,或者更糟糕的是,向半自主系統發出錯誤指令。DRL算法可用于應對正在進行的網絡攻擊。這些攻擊確實可以快如閃電,而人類沒有能力做出足夠快的反應。因此,必須使用智能自動系統來抵御攻擊。DRL似乎再次成為快速、自主和適應性行動的良好解決方案[19]。
正如我們所說,在自主系統中使用人工智能有很多問題:倫理、法律、政治等等。這就是為什么有必要在這場技術革命的不同參與者之間建立一種信任關系,從研究人員到用戶和工程師。
數學上的保證。為了確保我們提出的技術解決方案的可靠性,最好能在理論上和數學上保證算法的性能。然而,重要的是要記住,有關的保證在性質上是概率性的,因為大多數ML算法的性質是不確定的。因此,我們將試圖證明,例如,如果該算法有無限量的訓練數據可供支配,它就能夠完成提交給它的任務。或者,人們可能會試圖證明該算法收斂到一個解決方案,而且幾乎可以肯定它是以一個已知的和可控的速度收斂的。這種類型的結果保證存在于許多經典的ML算法中,用于解決某些簡單的問題,并受制于關于訓練和測試數據的某些假設。人工智能的整個研究領域都是關于知道什么是或不是可以通過ML學習的問題,以及什么精度:可能是近似正確的學習[20]。在RL方面還有很多工作要做,它仍然是一種年輕的技術,但理論上的保證越來越多[21]。然而,這些理論結果一般都是基于非常強的假設,這些假設往往是還原性的,并沒有考慮無人機在實踐中使用的非常真實的環境,這有時會使它們不那么相關。
可解釋人工智能。第二個軸心是要建立對人工智能所支配的自主系統的信任,即其行動的可解釋性。當我們可以理解導致人工智能獲得結果的原因時,一個算法被認為是可解釋的。一般來說,目前可解釋的ML算法(XAIs)能夠報告相對簡單的決定,例如指出圖像的哪些區域被用來確定它是一個蘋果。關于RL,為算法的可解釋性設想了幾條途徑。
讓我們細化前面的觀點,像一些作者那樣考慮人工智能算法的區別,這些算法不僅是可解釋的,而且是可解釋的。事實上,為了解釋它們的推理,已經建立了一些后驗算法,但它們并不能幫助理解初始算法的 "黑匣子"。出于這個原因,人們正在對可解釋的人工智能方面進行研究,這樣就可以說明導致輸出的不同推理步驟[24]。即使DRL算法的參數數量非常大,仍然是廣泛實施這種方法的技術障礙,但可以預期在這個領域會有明顯的進展。
對受DRL支配的自主系統有信心的第二個論據是測試期間的性能測量。事實上,即使目前關于人工智能可解釋性的知識狀況不允許完美地理解算法是如何達到其輸出的,但實踐中的結果是好的,表明有非常大的發展潛力。
對其他問題進行歸納的能力。首先,用戶對人工智能技術的信心可以建立在算法解決其他問題的良好能力上,或多或少有些類似。例如,眾所周知,Deepmind的AlphaFold 2 DRL算法在預測蛋白質結構方面特別出色[25]。這種優秀的聲譽源于該算法的大量已發表的測試研究,這讓該領域的大多數科學家對其給予了極大的肯定。雖然蛋白質結構預測與自主無人機的使用無關,但將蛋白質中單個原子的放置與無人機在協作作戰任務中的放置相提并論是很容易和有意義的。在前一種情況下使用DRL,以及所獲得的結果,也有可能使最終用戶對DRL應用于另一個領域的潛力充滿信心。
算法驗證。然而,與經典的ML算法不同,不可能在RL中實現我們在第一部分討論的驗證測試。這是因為所涉及的數據是隨時間變化的,而且所提出的問題也是不同的。要限定所識別的對象是否被正確預測是很容易的(是的,它是一個蘋果,或者不是,它是一個梨子)。另一方面,量化無人機和飛機之間合作的成功要微妙得多:許多標準必須被評估(無人機的定位、它們的速度、它們不同行動的時間)。因此,RL算法的性能測量是通過建立針對要解決的任務的指標來完成的。例如,對于負責訪問一個空間區域的無人機來說,比較正確識別目標的比例、任務完成時間或其他更精確的指標是相關的,這取決于情況和要解決的具體問題。
爭取在RL中實現更好的可重復性。最近還強調了RL算法的一個臭名昭著的問題,即當一些研究人員想要復制他們同事的結果時,一些算法的不穩定性[26]。實驗的可重復性是科學中的一個基本問題,因為它構成了被測試定律(例如,萬有引力定律)的有效性證明。在這里,算法性能的證明之一是可以讓它多次承受相同的情況,并在不同的迭代中獲得非常相似的結果。為了克服缺乏可重復性的問題,新的算法開發框架、新的測試程序和明確的指導方針已經到位,使科學和開發團隊對他們的結果有了更大的信心。
優化人機互動
人機協作是現代(協作)戰爭的核心,但人類和智能機器之間的成功協作主要取決于信任。然而,安全與新興技術中心對自主性和人工智能相關的研究[27]發現,在美國軍方的科技項目投資中,789個自主性相關項目中只有18個,287個人工智能相關項目中只有11個提到 "信任 "一詞。研究人員沒有直接研究信任,而是將開發更透明、可解釋和可靠的人工智能作為優先事項。這些努力對于培養人機團隊的信任是必要的,但技術驅動的解決方案并不總是考慮這個等式中的人類因素。
對高性能技術的不充分信任會導致人工智能系統的使用不足或廢棄,而對有限的或未經測試的系統的過度信任會導致對人工智能的過度依賴。這兩種情況在軍事背景下都有獨特的風險,包括事故、友軍交火、對平民的意外傷害和附帶損害。為了讓士兵對自主系統有信心,他們必須知道系統在遇到障礙物時將會做什么。從系統工程的角度來看,這意味著要指定和實施一些能力,如通過假設查詢和信息交流進行信息檢索,以便系統能夠以人類操作者容易理解的方式解釋其推理和行為。換句話說,"在系統中建立信任 "是一種以技術為中心的方法,通過改善與信任密切相關的系統特性和能力,如透明度、可解釋性和可靠性,來建立人機團隊的信任。
DARPA的Squad X計劃[28]將美國陸軍和海軍陸戰隊的步兵小隊與配備先進傳感設備的無人地面和空中飛行器配對,以提高敵對環境中作戰人員的態勢感知和決策。X小隊在2019年初進行的一系列實驗[29]的主要收獲之一是,將人工智能納入任務的規劃和演練階段非常重要。這樣做,士兵可以 "在如何信任人工智能方面進行搏斗"。最終,目標是讓人類作戰人員更好地了解這些自主系統在戰場上的表現,并對它們作為未來任務中的伙伴更有信心。
要怎樣才能讓人們信任技術?在使用先進系統時,一些個人或群體是否更有可能感到自信,而另一些人則更不情愿?人機團隊的部署環境如何影響信任?認知科學、神經科學、心理學、通信、社會科學以及其他研究人類對技術的態度和經驗的相關領域的見解為這些問題提供了寶貴的啟示[30]。
解決道德問題
"殺手機器人 "一直引起人們對潛在自主能力的恐懼[31]。法國國防倫理委員會在2021年批準在武器系統中引入一定程度的自主能力[32]。在法國,沒有辦法授權 "殺手機器人"。這一表述指的是LAWS(致命性自主武器系統)。這只是證實了法國幾年來在這個問題上的立場。但事情很復雜,倫理委員會認為不反對引入一定程度的自主權,因此不反對使用PAWLS(部分自主武器致命系統)。將LAWS與PAWLS區分開來的是 "性質上的差異,這與人類在某些關鍵功能中的地位有關"。致命武器系統的設計是為了演化出自己的操作規則,并自行重新定義其任務。它們不需要指揮部對情況的評估。PAWLS可以自主地被賦予某些任務的責任和執行,但只是暫時的,而且只用于識別、分類、攔截或接觸任務。道德委員會明確表示,它不能在沒有人類控制的情況下采取致命的舉措。即使在這個限制性框架內,也必須制定技術和組織保障措施,以防止任何過度行為。委員會認為,應繼續在與國防有關的人工智能和武器系統自動化領域進行研究。其目的是避免任何 "科學和技術上的放棄",防止對手開發致命性自主武器,并在對手使用這種武器時進行防御。
自主系統不應
G1. 為自主軍事系統上嵌入式人工智能的操作使用案例制定并提供一個法律框架。
G2. 確保在所有情況下都有人類的監督,有人類在環形系統。
G3. 保證在發生事故時的責任追溯。這種責任必須始終由人承擔,而不是由機器承擔。
G4. 開發符合人體工程學的人機界面,允許人與機器之間的對話和理解。
G5. 開發穩健、安全、準確、可重復和可靠的算法,以及評估這些標準的方法。
G6. 為與人工智能互動的軍事人員建立培訓計劃,讓他們了解這些算法的機制、能力和局限性。
G7. 通過對算法、數據和設計過程的評估,確保責任、問責和可審計性。
G8. 制定技術評估程序,以評估對上述準則的遵守情況。
G9. 加快歐洲在人工智能技術方面的培訓工作,特別是針對學術和工業環境的DRL。
G10. 加快歐洲在整合人工智能的國防系統方面的立法工作,以保持歐洲在這一法律方面的領先地位,并確認其在這一領域的領先形象。
G11. 發展國際合作,在自主系統領域進行立法。
G12. 促進研究人員、哲學家、律師、政治家和業務人員之間關于自主系統的對話。
G13. 在有關國防人工智能的研究和應用項目中始終包括信任的概念。
G14. 對協同作戰的未來利害關系有一個明確而具體的看法,以便將人和他們的利益置于系統的中心。
北約科技組織(STO)應用車輛技術(AVT)329 "NexGen旋翼機對軍事行動的影響 "評估了2035+時間框架內適用科學技術(S&T)發展對軍事行動的潛在影響。對預計的未來任務進行的兩次作戰分析(OA)評估時,評估采用了基于風險的主題專家判斷。
利用定義的任務小插曲,參與評估的主題專家確定了利用當前北約軍用直升機能力實現各項任務的風險。然后評估每個風險發生的可能性和對實現任務的影響。對于每個風險,確定的緩解措施包括技術的應用、戰術的改變和其他措施。隨后對確定的風險緩解措施的行動影響進行了評估,以確定其軍事價值。
基于風險的評估框架使來自多個北約和伙伴國的具有軍事行動、需求和技術專長的主題專家能夠進行定性評估。由于所有參與者以前都熟悉風險評估過程,該框架很容易被調整為進行貿易空間業務需求和關鍵技術的審計。
本文描述了九個不同機構與海軍信息戰中心研究人員之間的合作成果,在美國海軍2019年三叉戟勇士演習的背景下,利用物聯網(IoT)在海軍艦艇上創建基于傳感器的態勢感知,部署、測試和展示隱私保護技術。在DARPA通過Brandeis項目的資助下,該團隊建立了一個綜合的物聯網數據管理中間件,名為TIPPERS,通過設計支持隱私,并整合了各種隱私增強技術(PET),包括差分隱私、加密數據的計算和細粒度的策略。我們描述了TIPPERS的架構及其在創建智能艦船方面的應用,該艦船提供物聯網支持的服務,如占用分析、跌倒檢測、檢測未經授權進入空間以及其他態勢感知場景。我們描述了創建物聯網空間的隱私影響,這些空間收集的數據可能包括個人數據(如位置),并分析了在這種情況下支持的PETs的隱私和效用之間的權衡。
TIPPERS是一個用于智能空間的新型傳感器數據收集和管理系統,它結合了各種智能空間的應用。TIPPERS架構的一個關鍵設計特點是,它與空間、傳感器和任務無關,允許它作為即插即用的技術來創建智能空間。此外,TIPPERS體現了一種隱私設計的架構,它能夠整合不同的隱私增強技術(PET)。特別是,在DARPA Brandeis項目的背景下,各種PET已經被整合,包括安全計算、隱私政策和DP(關于這些PET的更多信息,見附錄1(補充材料))。
如圖 1 所示,TIPPERS 架構包括幾個決策,以支持設計隱私的目標。首先,TIPPERS通過在物聯網設備的世界(即傳感器、執行器、原始觀測值等)和人的世界(即人、空間、現象等的互動)之間進行轉換,提供底層傳感器基礎設施的抽象。該系統基于代表這兩個世界的領域模型,使用戶/開發者能夠與高層次語義的概念進行互動。還包括基于本體的翻譯算法,將高級用戶請求(例如,"降低入住率大于75%的房間的溫度")轉換成具體的底層設備基礎設施上的行動。其主要優點是,它簡化了智能應用的開發,并促進了它們在不同空間的可移植性,因為它們是建立在高級概念上,而不是建立在物聯網設備上。其次,它簡化了隱私策略的定義,因為用戶可以專注于他們想要保護的東西(例如,"當我在工作時間與約翰在一個私人空間時,不要捕捉我的位置")。TIPPERS使用這樣的隱私策略來指導其數據收集、存儲和共享行為。
圖1:TIPPERS架構
作為實現這種將原始數據轉化為更高層次的語義解釋的機制,TIPPERS支持虛擬傳感器,其中傳感器數據流可用于創建這種推斷的數據流。例如,虛擬傳感器可以將連接數據(例如,來自WiFi AP的日志,包含關于哪些設備連接到它們的信息)轉化為不同空間沿時間的占用情況。這使TIPPERS能夠納入進一步的PETs。例如,傳感器數據流在傳遞給運營商時,可以洗掉個人身份信息(PII)。
最后,TIPPERS架構包含一個調解模塊,將傳感器數據適當地存儲在相應的數據庫/存儲技術中(例如,允許使用不同的基礎數據庫系統)。這種調解包括三個部分,涉及TIPPERS模式、數據和查詢與數據庫系統之間的具體映射任務。這使得TIPPERS可以根據數據的特點、安全要求以及需要在數據上運行的查詢類型,將數據存儲在不同的系統中。利用這一功能,TIPPERS系統進一步包括安全的數據存儲技術,可以維護加密的數據并對這些加密的數據進行計算。
TIPPERS支持兩種方式將PETs整合到傳感器數據管理中。首先,TIPPERS支持的虛擬傳感器技術可以被利用來修改/擾亂與應用程序共享的傳感器數據流。這種修改可以包括洗刷敏感數據(例如,從圖像中刪除人臉或從傳感器數據中刪除標識符),添加噪音,取消數據的鏈接等。使用虛擬傳感器的一個很好的例子是整合PGS,使占用的數據流不同程度的私有化。
其次,TIPPERS支持系統和底層存儲機制之間的調解。例如,TIPPERS與PULSAR支持的FSS和MPC技術,以及Jana支持的確定性加密、保序加密和基于秘密共享的技術進行調解。這樣,TIPPERS可以被配置為在PULSAR中存儲低級別的傳感器數據(如WiFi連接),這樣,插入可以是快速的,聚集(例如,占用水平)可以被快速確定。當政策取決于誰在一個特定的空間或有多少人在里面時,這對實時政策執行至關重要。相比之下,可能需要更復雜操作的數據(例如,結構化查詢語言(SQL)連接操作,以結合傳感器數據和元數據)可以存儲在Jana中,它支持不同的加密技術,支持更完整的復雜SQL操作。
圖2說明了TIPPERS中的數據流和在海軍驅逐艦中部署的綜合PET的樣本,附錄1(補充材料)對此有更詳細的描述。
圖2:TIPPERS數據流