亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

本文探討了無處不在的人工智能對戰斗本質的改變。將目光從人工智能取代專家轉向人機互補的方法。利用歷史和現代實例，展示了由人工智能操作員和人工智能/機器學習代理操作員組成的團隊如何有效管理自主武器系統。方法基于互補原則，為管理致命自主系統提供了一種靈活、動態的方法。最后，提出了實現機器加速戰斗綜合愿景的途徑，即由人工智能操作員操作戰場人工智能，觀察戰場內的行為模式，以評估致命自主系統的性能。與任何純粹的自主人工智能系統相比，這種方法能開發出更符合道德規范、以機器速度運行并能應對更廣泛動態戰場條件的作戰系統。

2022 年 11 月，ChatGPT 的發布標志著人工智能（AI）發展史上的一個關鍵時刻。幾十年來，人工智能一直是人們熱衷研究的課題，但對于普通人來說，它仍然是一個抽象的概念，更多的是科幻小說或技術演示，比如 IBM 的沃森贏得了《危險邊緣》（Jeopardy）。然而，有了 ChatGPT，人工智能走出了實驗室，人們可以用與朋友和同事交流的方式與人工智能對話。ChatGPT 將公眾對人工智能的看法從未來的可能性轉變為實實在在的現實。與此同時，在距離開發 ChatGPT 的辦公室千里之外，烏克蘭正在將人工智能融入戰場。面對俄羅斯大規模的射頻干擾，烏克蘭部署了人工智能增強型無人機，能夠在敵對條件下，在無人監督的情況下有效運行。人工智能的這一應用并不是要進行對話或模擬類似人類的互動，而是要在傳統系統失靈的情況下，增強對大型對手的作戰能力。ChatGPT 的認知能力與烏克蘭無人機對人工智能的功利性應用之間的對比，說明了人工智能在不同領域的多樣性和變革性。

這兩項人工智能應用促使美國國防部（Department of Defense，DoD）關于戰場人工智能的戰略思想發生了潛在轉變。最初的人工智能條令強調，對人工智能系統 "適當程度的人為判斷 "至關重要，"要有明確的程序來激活和關閉系統功能，并對系統狀態提供透明的反饋"[5]。對 "自主和半自主武器系統的人機界面"[5] 的要求意味著一定程度的人類直接互動，通常稱為 "人在回路中"（HITL）或 "人在回路中"（HOTL）。這種人類直接參與人工智能或監控錯誤的方式，證明了對關鍵流程自動化的謹慎態度。

之所以會出現這種轉變，是因為人們認識到，人工智能及其不可避免的技術普及，將不僅僅是補充，而是從根本上改變戰場上的行動和情報搜集，就像它已經開始改變社會上幾乎所有其他地方一樣。這種演變并非首次發生。就在上一代，互聯網的出現和智能手機的普及徹底改變了通信和信息獲取方式，以至于國防部別無選擇，只能適應。與這些創新一樣，人工智能也正走在一個類似的基本層面上。現在的挑戰不在于試圖支配人工智能的整合，而在于適應其不可避免的普遍性，在擔心數據偏差、計算 "幻覺 "的情況下確保軍事系統的可靠性和有效性，同時確保致命性自主武器系統的行為符合國際人道主義法（IHL）。本文件旨在探討這些挑戰，并提出緩解這些挑戰的途徑，同時認識到人工智能增強戰爭的進程不僅不可避免，而且已經開始。

討論

2022 年，人工智能達到了一個拐點。隨著電子戰的加劇，烏克蘭沖突迫使自主無人機快速發展。與此同時，像 ChatGPT 這樣的強大語言模型的發布吸引了全球觀眾，盡管它們的局限性也變得顯而易見。這些系統容易出現事實錯誤和赤裸裸的捏造，凸顯了將模式識別誤認為真正理解的風險。在人工智能顛覆整個行業的同時，我們也認識到，人工智能的流暢性往往掩蓋了根本無法分辨真假的缺陷。

人工智能在軍事上的應用提出了獨特而棘手的倫理問題。根據特定數據訓練的人工智能系統是實現其設計目的的強大工具。它們擅長模式識別和快速執行所學任務。但人工智能系統適應新情況的能力，尤其是在人命關天的情況下，仍然不太清楚。

雖然人工智能在數據處理和分析方面的能力毋庸置疑，但它在道德框架內指導行為的能力卻不那么確定。圖 1 展示了戰場自主人工智能的典型組織結構。作戰人員（橙色圓圈）直接操作一套武器系統（藍色圓圈），每套系統都通過一個人工智能模型進行調解，該模型經過訓練，可控制特定武器與敵人交戰。然而，如果敵人已經找到了欺騙人工智能模型的方法，作戰人員往往無法改變模型的行為。相反，作戰人員必須依靠其他可能風險更大的手段與敵人交戰。在戰爭中強調簡化、精簡的人工智能模型會帶來一種危險的脆性。當人工智能模型被愚弄時，它可能會使作戰人員面臨更大的風險，同時將關鍵優勢拱手讓給敵人。

在本文中，我們提出了 3.8 節中介紹的人工智能操作員或 "馬夫 "的角色。這種角色延伸了加里-卡斯帕羅夫（Garry Kasparov）在 "高級國際象棋 "中提出的 "半人馬"（centaur）概念，即人類與多個國際象棋程序合作，將人類的戰略洞察力與機器的計算能力相融合，以達到超高水平的競爭[21, 13]。這些相互促進或互補的領域已被證明優于任何一個單獨的組成部分[23]。互補的概念是將多個元素結合在一起，產生一個比任何一個部分都更有效的整體，這與更常見的替代做法有著本質區別，替代做法是單獨使用能力最強的部分--人類、自動化或人工智能。替代系統的實際結果是，它們的強大取決于最薄弱的部分。由作戰人員、戰場人工智能、遠程人類操作員及其本地人工智能代理組成的網絡可確保人類和人工智能的優勢得到最大程度的發揮（圖 2）。半人馬概念在軍事戰略中的演變說明，未來人類與人工智能的合作不僅有益，而且對于在高度動態和競爭激烈的環境中取得優勢至關重要。

要想讓人工智能系統在軍事環境中可靠運行，人類操作員必須了解人工智能的決策過程。這就意味著要對具有不同技能和背景的操作員進行培訓。就像棋手調整策略一樣，操作員應能根據需要切換人工智能模型。不能指望單一的人工智能模型在每一種戰場場景中都能完美發揮作用。情況是不可預測的；在一種情況下最好的模型在另一種情況下可能會失效。操作員必須了解每種人工智能模型的優缺點，以確保使用最有效的工具來完成手頭的任務。這種適應性是人工智能成功融入軍事行動的關鍵。

在軍事行動中，采用這種靈活的方法將人類與人工智能配對，可創建出比人工智能單獨運作的系統更靈活、適應性更強的系統。這種人類與人工智能的共生關系可以破壞對手的 "觀察、定位、決策、行動"（OODA）循環[18]，有效地 "反客為主"。人工智能在人類直覺和經驗的充實下，引入了不可預測性和復雜性，純人工智能對手可能難以理解或實時處理這些不可預測性和復雜性。這可能會使天平向有利于人類-人工智能團隊的方向發生決定性的傾斜，使他們在關鍵時刻超越和思考純人工智能系統，從而獲得戰術優勢。

人類可以利用自己的創造力和創新力提出人工智能無法提出的新想法和解決方案。例如，將人類對已知危險和風險的了解融入自主系統，可以讓操作員確定并預測基于人工智能的控制器在遇到真實世界的風險因素時的行為[6]。我們還能理解人工智能忽略的細微差別和情境，這對決策至關重要。最后，人類在群體中表現最佳，每個人都能帶來不同的視角和技能，從而提供深度理解，而目前的人工智能似乎可以模仿，但卻無法復制。

本文是研究指揮與控制（C2）未來表現形式的四篇系列論文中的第一篇。第一篇論文通過探討未來指揮與控制（C2）系統需要在其中運行的未來作戰環境，為后續研究設定了基線。具體來說，本文探討了復雜性的驅動因素、表現形式和影響，而此前的研究表明，復雜性很可能是這一環境的特征。為此，它討論了 C2 和復雜性等關鍵術語的定義；介紹了未來運行環境中復雜性的一些驅動因素，并討論了這些因素如何對 C2 系統和組織造成新的壓力；研究了分析和理解復雜性的可能方法；并概述了 2030 年代及以后可能產生的一些實際考慮因素。由于本文旨在為本系列的后續三篇論文提供資料，因此沒有全面涵蓋未來 C2 思考的所有方面，包括提出具體建議。

研究問題

• 根據當前的全球社會和技術趨勢進行預測，國防和合作伙伴可能面臨的持續競爭和多領域作戰的作戰環境的性質是什么？
• 基于這種對未來的預測，未來的 C2 系統和組織將面臨怎樣的復雜性；即復雜性的可能來源是什么？
• 考慮到未來作戰環境的這一特點，未來的 C2 系統和組織需要具備哪些條件？
• 未來的 C2 系統和組織需要什么樣的新能力和特性才能有效應對這些需求？

有爭議的定義

C2 沒有直截了當的定義，對于該術語在當代作戰環境中的范圍和相關性也存在爭議。對 C2 傳統定義的批判來自于對 21 世紀有效領導力構成要素的更廣泛質疑。在英國、美國和北約，最近出現了大量與 C2 相關的新術語，并將重點從聯合思維轉向多領域思維。我們的研究將 C2 定義為一個動態的、適應性強的社會技術系統，因此有必要考慮組織、技術和人力要素。

同樣，復雜性也沒有一個公認的定義。學術界對復雜性的研究日益增多，涉及多個科學學科，但缺乏統一的方法或理論框架。一個有用的出發點是區分簡單系統、復雜系統、復雜系統和復雜適應系統。文獻還描述了在這些條件下可能出現的所謂 "棘手"或 "超級棘手問題"。還可以對有限博弈和無限博弈進行重要區分--這是考慮作為復雜適應系統的國家間競爭時的一個有用視角。鑒于這些爭論，我們的研究避開了對復雜性的僵化定義，而是從其關鍵屬性的角度對這一現象進行了 DCDC 式的描述。

復雜性的預計驅動因素

未來作戰環境的特征--以及國防 C2 系統和組織預計將執行的任務類型--具有很大的不確定性，因此任何預測都必須謹慎。盡管如此，文獻指出了各種政治、經濟、社會、技術、法律、環境和軍事（PESTLE-M）趨勢，預計這些趨勢將影響國際體系的演變，進而影響 2030 年及以后的國防行動。這些趨勢包括以下宏觀趨勢

• 日益增強的互聯性、多極化和全球競爭
• 不斷變化的氣候的影響
• 技術變革和數字化的影響
• 傳統和新穎領域的模糊化
• 國際準則和價值觀的轉變。

最重要的是，沒有一個單一或主要的趨勢推動著變化或復雜性；相反，最令人擔憂的是多種因素的融合及其不可預測的相互作用。這種認識為進一步研究這些趨勢影響國際體系復雜性水平和特征的具體機制提供了基礎，從而為在這一領域開展工作的 C2 帶來了新的挑戰。

復雜性的表現

上述 PESTLE-M 趨勢為未來組織應對 C2 帶來了一系列困境和壓力，包括但不限于

• 不確定性
• 模糊性
• 多義性
• 信息超載
• 認知偏差
• 面對瞬息萬變的事件，決策癱瘓或節奏不足
• 難以確保決策（包括人工智能）或信任決策所依據的數據、邏輯和假設
• 難以調動所有必要的權力杠桿，或協調參與制定和執行特定戰略或行動計劃的大量不同參與者（如跨政府合作伙伴、行業、國際盟友、公民）。

此外，無論是理論家還是實踐者，在處理包含非線性動態的問題時，都缺乏有力的措施來衡量所做決定或采取的行動的有效性。因此，很難確切地說未來作戰環境中的復雜性是否在客觀上不斷增加（而不是以不同的形式出現），但對軍隊應處理的復雜任務的政治期望與當前 C2 方法的執行能力之間顯然存在巨大差距。當前的學術理論為決定如何在復雜環境中配置 C2 提供了一個方法工具包的初步輪廓和一些指導原則，但并沒有提供靈丹妙藥。該理論強調審議分析方法，即讓不同利益相關者參與共同設計、借鑒多學科和知識體系的見解，并在分析和決策過程中建立靈活性，以便根據反饋意見不斷迭代和改進的方法。

未來 C2 的實際考慮因素

要應對復雜的自適應系統，就必須摒棄當前的線性 C2 流程和等級結構，盡管在處理非復雜任務和問題時，更傳統的方法可能仍然有用。在競爭激烈的世界中，英國既需要培養能夠對他人施加建設性影響的特性和能力（例如，將復雜性強加給對手的 C2），也需要培養能夠增強自身駕馭復雜性能力的特性和能力。

要影響敵對行動者的觀念、決策和行為，首先要深入了解其 C2 結構、流程和文化。根據這種了解，英國國防需要一套動能和非動能杠桿，對敵方的 C2 施加建設性影響，包括施加復雜性。除了敵對行動者，英國國防部還需要進一步了解如何對 PAG、盟友、合作伙伴、工業界、學術界、公民和對 C2 采取截然不同方法的其他人施加建設性影響。

在增強英國自身應對復雜性的能力方面，未來的 C2 系統和組織必須促進靈活性、復原力以及學習和適應能力等特性。整個決策周期都需要變革。例如，傳感器和通信技術的進步為獲取更多深度和廣度的數據提供了機會，包括有關復雜問題的數據。因此，提高認知能力對于理解所有這些數據至關重要，既要利用人類和機器的優勢，又要減少各自的缺點。要改變決策方法，還需要改變領導風格，以培養更善于駕馭復雜適應系統的決策者。在做出決策或計劃后，提高跨部門或跨層級的能力，在實施階段更好地整合活動或匯聚效應，對于抵消英國的局限性（如在質量方面）至關重要。

同樣，整合也不是萬全的；如果國防缺乏足夠深度的力量和能力，無法在充滿敵意的威脅環境中采取可信行動或維持高節奏行動，那么即使是最高效的指揮控制系統也無法在未來取得成功。此外，還需要采取防御措施以及恢復和失效模式，以阻止或減輕敵方破壞 C2 系統和組織的努力所造成的影響。鑒于所面臨的威脅，以及英國國防可能需要解決的不同形式的復雜問題，很可能會同時出現多種并行的 C2 模式，而不是單一的方法。應對復雜性意味著不斷學習、適應、創新和開放求變。因此，必須從一開始就將效果衡量標準、信號和變革機制納入計劃以及 C2 系統和組織，使其能夠隨著時間的推移不斷學習和調整，以應對各種情況。至關重要的是，未來 C2 系統和組織的設計只是挑戰的一部分--它們還必須得到更廣泛的國防企業緊急改革的支持，以確保獲得所需的使能因素（人員、技術等）。從 C2 的角度來看，這本身就是一個挑戰，因為改變這個企業--一個復雜的適應性系統--本身就是一個棘手的問題。

結論和下一步行動

學術理論家和政府、軍事或工業從業人員對復雜性或復雜適應系統的理解并不全面，而這正是未來 C2 運行環境的特點。雖然文獻提供了處理復雜性的有用方法和工具，以及未來 C2 的一些初步設計考慮，但英國 C2（本身就是一個社會技術系統）的現代化和轉型將是一項高度復雜的工作。這意味著要與不斷發展的作戰環境、不斷變化的威脅和技術環境共同適應，從而進行迭代和不斷學習。因此，最緊迫的挑戰或許是，考慮到 C2 系統在未來面對復雜性時取得成功所需的轉型（技術、結構、流程、文化、教育等）的程度和性質，了解如何在一段時間內最好地引導這一過程。

自相矛盾的是，要克服實現以應對復雜性為目標的 C2 系統所面臨的障礙，可能需要英國國防部已經表現出其所尋求建立的系統的許多特征。面對這樣的循環邏輯，英國國防部可能需要某種外部沖擊來迫使其進行創造性的破壞，或者利用（或不顧）更傳統、線性的 C2 方法來啟動自身的激進改革努力，并隨著時間的推移，隨著變化的到來而進行調整。

深度偽造（DT）技術已經達到了全新的復雜程度。網絡犯罪分子現在有能力修改聲音、圖像和視頻，以誤導個人和企業，傳播虛假信息。這對國際組織和個人構成了日益嚴重的威脅，當務之急是采取措施加以應對。本文概述了深度偽造，討論了其對社會的作用以及 DT 的運作。本文重點探討了深度偽造對世界各國的經濟、政治和法律機構可能造成的危害。此外，本研究還將探討深度偽造問題的各種解決方案，并在最后討論進一步研究的潛在方向。

深度偽造技術（DT）的出現是人工智能（AI）發展的直接結果[1,2]。這些技術給世界各地的機構帶來了巨大風險。深度偽造是一個術語，指的是一種建立在人工智能基礎上的技術，這種技術有能力改變圖像、音頻和視頻內容，以表現實際并未發生的事件。例如，將政客的面孔編輯到其他人的身體上，然后讓他們說一些政客實際上從未說過的話，這種情況越來越常見。這種不斷擴大的現象已被用于政治場合，在各種議題上誤導公眾，而且只會繼續下去。以意大利一檔諷刺電視節目針對意大利現任總理馬泰奧-倫齊（Matteo Renzi）使用 deepfake 視頻為例。在社交媒體上流傳的這段視頻中，可以看到他在貶低其他立法者。隨著這段視頻在網上瘋傳，越來越多的人開始認為它是真實的，這引起了大眾的憤怒[3,4]。網絡犯罪分子還利用 "深度偽造 "冒充公司的首席執行官（CEO），誘騙員工（通常是財務部門的員工）向騙子控制的銀行賬戶轉賬"[5,6]。絕大多數深度偽造篡改都是為了在電影、電子游戲和教學視頻等娛樂媒體中使用[7,8]。另一方面，網絡犯罪分子已經找到了利用這種技術誤導組織和個人并實施欺詐的方法。此外，制作這種深度偽造品除了需要專業的計算機軟件和技術外，還需要知識[9,10]。然而，"FaceSwap "和 "Reface "等免費軟件的存在，使得不懂技術的人也可以出于娛樂或有害的目的參與媒體操縱[10-12]。

深度偽造技術可用于創建令人信服的合成媒體，使人們無法分辨其與真實媒體之間的區別。這是一個相對較新的研究領域，來自學術界和工業界的學者都貢獻了深度偽造數據庫以及合成和檢測算法，所有這些都促進了深度偽造的流行[13,14]。"深度偽造是人工智能（AI）應用的結果，它通過合并、組合、替換和疊加照片和視頻片段，生成看起來合法的虛假視頻"[15]。深度偽造利用了當前深度神經網絡的發展成果，制造出極為逼真的人工媒體[16]。當深度偽造技術應用于電影或靜態照片時，就有可能將一個人的臉替換成另一個人的臉，而幾乎不留下任何操縱的證據[17]。Cho 和 Jeong [18]認為，深度學習的發展使以前建立的假臉檢測系統變得易受攻擊。

"深度偽造數據集以及合成和檢測技術的可用性，使得社區甚至經驗不足的用戶都有可能構建逼真的深度偽造人臉。這反過來又導致深度偽造視頻在野外的受歡迎程度大幅上升"[19]。令人信服的深度偽造視頻可以迅速影響數百萬人，并對我們的社會產生有害影響[20]。社交媒體的傳播范圍和速度使這一切成為可能。

與深度偽造研究相關的學術資料數量的增加也是這種擴張的反映。除了與深度偽造的制作和檢測相關的技術方面，倫理、社會和法律方面的影響也得到了細致的探討。目前已經有一些針對特定領域的綜述，如深度贗品的制作和檢測[21]、法律[22]、取證[23]和社會影響[24]等等。盡管如此，它們都沒有考慮到深度偽造的整個研究領域，而我們認為，這對于打算從事這一研究的學者來說可能非常有價值[25]。盡管深度偽造研究還相對年輕，但它是一個正在迅速擴展的研究領域。在這一領域中，研究課題及其相互關系隨著時間的推移不斷變化，新的趨勢也在不斷涌現[26]。從目前正在進行的眾多子研究領域來看，研究深度偽造的研究人員來自各種不同的學術和專業背景。除了目前的趨勢之外，調查融資機會也很有意義，因為這有助于集中研究力量[27,28]。

人工智能（AI）的快速發展引發了專家、政策制定者和世界領導人對日益先進的人工智能系統可能帶來災難性風險的日益擔憂。雖然許多風險已被單獨詳述，但目前迫切需要對潛在危險進行系統的討論和說明，以便更好地為減輕這些危險提供信息。本文概述了人工智能災難性風險的主要來源，將其分為四類：惡意使用，即個人或團體故意使用人工智能造成傷害；人工智能競賽，即競爭環境迫使行為者部署不安全的人工智能或將控制權讓給人工智能；組織風險，強調人為因素和復雜系統如何增加災難性事故的幾率；流氓人工智能，描述控制遠比人類智能的代理固有的困難。對于每一類風險，我們都描述了具體的危害，介紹了說明性故事，設想了理想場景，并提出了減輕這些危險的實用建議。我們的目標是促進對這些風險的全面了解，并激發集體的積極努力，確保以安全的方式開發和部署人工智能。最終，我們希望這將使我們能夠實現這一強大技術的益處，同時將災難性后果的可能性降至最低。

圖：本文將介紹四類人工智能風險，并討論如何降低這些風險。

近年來，人工智能（AI）突飛猛進，引起了人工智能專家、政策制定者和世界領導人對先進人工智能所帶來的潛在風險的擔憂。與所有強大的技術一樣，人工智能必須以高度的責任感來管理風險，并利用其潛力來改善社會。然而，關于災難性或生存性的人工智能風險可能如何發生或如何應對，可獲得的信息非常有限。雖然有關這一主題的資料很多，但往往分散在各種論文中，而且通常針對的受眾面較窄，或側重于特定的風險。在本文中，我們將概述災難性人工智能風險的主要來源，并將其分為四類：

惡意使用。行為者可能故意利用強大的人工智能造成廣泛傷害。具體風險包括人工智能賦能的生物恐怖主義，它可以幫助人類制造致命的病原體；蓄意傳播不受控制的人工智能制劑；以及利用人工智能能力進行宣傳、審查和監視。為了降低這些風險，我們建議改善生物安全，限制獲取最危險的人工智能模型，并讓人工智能開發者為其人工智能系統造成的損害承擔法律責任。

人工智能競賽。競爭可能會迫使國家和企業匆忙開發人工智能，并將控制權拱手讓給人工智能系統。軍方可能會面臨開發自主武器的壓力，并將人工智能賦能的網絡戰，從而實現一種新的自動化戰爭，在這種戰爭中，事故可能會在人類有機會干預之前就失控。企業也將面臨類似的激勵，促使人類勞動自動化，并將利潤置于安全之上，從而可能導致大規模失業和對人工智能系統的依賴。我們還討論了從長遠來看，進化壓力可能會如何塑造人工智能。人工智能之間的自然選擇可能會導致自私的特性，而人工智能相對于人類的優勢最終可能導致人類被取代。為了降低人工智能競賽帶來的風險，建議對通用人工智能實施安全監管、國際協調和公共控制。

組織風險。組織事故造成的災難包括切爾諾貝利、三里島和挑戰者號航天飛機災難。同樣，開發和部署先進人工智能的組織也可能遭受災難性事故，特別是如果它們沒有強大的安全文化。人工智能可能會意外泄露給公眾或被惡意行為者竊取。各組織可能無法投資于安全研究，不了解如何以比一般人工智能能力更快的速度可靠地提高人工智能的安全性，或者壓制內部對人工智能風險的擔憂。為了降低這些風險，可以建立更好的組織文化和結構，包括內部和外部審計、多層風險防御以及最先進的信息安全。

流氓人工智能。一個普遍而嚴重的擔憂是，隨著人工智能變得比我們更智能，我們可能會失去對人工智能的控制。人工智能可能會在一種被稱為代理博弈的過程中，將有缺陷的目標優化到極致。人工智能在適應不斷變化的環境時，可能會經歷目標漂移，這與人在一生中獲得和失去目標的過程類似。在某些情況下，人工智能變得追求權力可能是工具理性的。我們還研究了人工智能如何以及為何會進行欺騙，在不受控制的情況下表現出受控制的樣子。與前三個風險來源相比，這些問題更具技術性。我們概述了一些建議的研究方向，以促進我們對如何確保人工智能可控的理解。

在每一節中，我們都提供了一些說明性場景，更具體地展示了風險源如何可能導致災難性結果，甚至構成生存威脅。通過提供一個對風險進行適當管理的更安全未來的積極愿景，我們強調，人工智能新出現的風險雖然嚴重，但并非不可克服。通過積極應對這些風險，我們可以努力實現人工智能的益處，同時最大限度地降低災難性后果的可能性。

戰爭的特點在不斷演變，充滿摩擦，并被模糊性所籠罩。本研究通過重點分析克里姆林宮在格魯吉亞、敘利亞和烏克蘭的軍事冒險主義，探討了迅速變化的作戰環境。這場最近升級的沖突涉及歐洲大陸自第二次世界大戰以來從未見過的最大規模戰線，為了解戰爭性質變化的復雜性提供了寶貴的見解。具體而言，克里姆林宮不斷演變的信息戰方法揭示了新技術和新手段的擴散，這些技術和手段旨在爭奪信息領域，最大限度地增加不確定性，并癱瘓對手的決策能力。

本論文試圖解決以下問題： 1) 俄羅斯軍方開發了哪些持久的方法和技術能力來擾亂戰術和作戰層面的決策？ 2) 這些方法的效果如何，它們如何融入俄羅斯信息戰方法論的大框架？

本研究通過重點分析克里姆林宮在格魯吉亞、敘利亞和現在的烏克蘭的軍事冒險主義，探討了迅速變化的作戰環境。這場最近升級的沖突涉及歐洲大陸自第二次世界大戰以來從未見過的最大戰線，為了解戰爭性質變化的復雜性提供了寶貴的見解。具體來說，他們不斷演變的演習方式揭示了新技術和新方法的擴散，這些技術和方法旨在爭奪信息領域，最大限度地增加不確定性，并癱瘓對手的決策能力。

無法進行對稱競爭的同級/近似同級對手（如俄羅斯）將使用各種破壞性手段來獲得相對于美國/北約的優勢。這些手段可歸納如下：戰場傳感器、電子戰和通過賽博空間的惡意影響。

最近的兵棋推演和訓練場景表明，西方不僅過度依賴先進的 C4ISR（指揮、控制、通信、計算機情報、監視和偵察）、導航輔助設備和信息聯網能力，而且還對信息主導地位和技術過剩做出了危險的假設。過去二十年的低強度反叛亂戰爭并沒有讓西方做好充分準備，以應對同級對手。我們不能再假設下一場戰斗將在我們已經習慣的寬松環境中發生。因此，我們現在對這些威脅了解得越多，美國、其盟國和戰略伙伴就能在未來可能的交戰中更好地應對這種環境。

本研究提出以下建議：

1.如果要在信息環境中保持技術和競爭優勢，高級領導人必須繼續重新審視、修訂和修改我們的條令、裝備、訓練，甚至指揮文化觀念。

2.指揮官必須繼續加強訓練，強調在高度競爭、指揮與控制（C2）退化的作戰環境中的持續作戰行動和機動。

3.指揮官還必須假定，未來的作戰環境將充斥著傳感器平臺和無人系統，這不僅使機動變得極為困難，也使戰術掩護和隱蔽變得極為困難。

4.指揮官必須繼續加強小單位一級的培訓，強調個人數據保護和對敵方虛假信息的應變能力。西方必須做好準備，以應對對手利用賽博空間直接針對我們的軍人、他們的家人和軍隊凝聚力本身的惡意影響活動。

5.由于這場戰爭很可能會持續到 2023 年春季，對本文提出的主題進行學術研究無疑值得進一步探討和研究。俄烏戰爭為我們提供了充分的機會，不僅可以研究俄羅斯情報戰方法在戰術和作戰層面的影響，還可以研究其對更廣泛的戰爭現象本身的影響。

與單個無人飛行器相比，無人飛行器蜂群具有巨大的意義，因此越來越受到研究人員的關注。許多研究僅關注這一復雜的多學科群體所面臨的少數挑戰。其中大多數都存在一定的局限性。本文旨在從控制、路徑規劃、架構、通信、監控和跟蹤以及安全問題的角度，認識和安排相關研究，以評估蜂群的運動規劃技術和模型。然后，本文介紹了對無人機蜂群的最新理解以及蜂群智能（SI）概述。研究考慮了多種挑戰，并介紹了一些方法。研究結果表明，蜂群智能在這個時代處于領先地位，是無人機蜂群最重要的方法，可在不同環境中做出獨特貢獻。這些研究的整合將成為有關蜂群知識的基礎，為運動規劃問題提供指導，并加強對現有方法的支持。此外，本文還能提出新的策略，為今后的工作奠定基礎。

1 引言

無人機因其潛在的應用而在我們的生活中具有重要意義。單個無人機的功率、能力、傳感和飛行時間都受到限制。這就提出了采用無人機蜂群系統的要求。無人機蜂群克服了單個無人機的缺陷和限制，并協助更大規模的團隊合作，成功完成空中任務。無人機蜂群的優勢在于數量眾多，因此能帶來多種可能性。其中許多好處包括在更短時間內完成任務、冗余和協作執行任務。

1.1 背景

蜂群并不是一個現代概念。它存在于自然界中，是由生物種群的合作和相互交流所激發的[1]。通過研究鳥群、蟻群的運動、蜜蜂的合作、魚群和狼的捕食，無人機群的概念應運而生。動物界的團結使我們有可能實現一個共同的具有挑戰性的復雜目標。

然而，蜂群并不局限于自然現象。它還受到一種軍事戰術的啟發，在這種戰術中，來自多個軸心的許多單位以協調和刻意組織的形式攻擊一個共同目標[2]。自公元四世紀以來，蜂群戰術就在軍事史上出現過。然而，如今蜂群作戰已將傳統的指揮和控制概念轉變為創新概念。此外，一個人能夠同時指揮和控制多架無人機。

1.2 相關工作

由于無人機蜂群具有遠距離作業、增強魯棒性和靈活性等重要能力，因此正在不斷發展[3]。蜂群智能對技術、科學、社會等許多領域以及檢測、跟蹤、運輸等各種系統都有很大影響 [4]。對于無人機蜂群的運動規劃，不同的研究考慮了控制設計、路徑規劃算法、通信結構、監控和跟蹤架構以及安全飛行協議等方面的許多改進[5]。

研究人員在文獻[6]中將計算技術與數學模型相結合，研究了通信效果。這種方法簡化了建模過程，但建模速度較慢且內存不足。文獻[7]提出了一種基于分散、領導者-追隨者策略的控制器，以及基于樹狀網絡的幾何結構。這項研究實現了多架無人飛行器在保持同步的情況下到達一個共同點。此外，建議的設計顯示出靈活性和穩健的性能。不過，這項研究僅限于有限數量的無人機。在 [8] 中，研究人員為無人機群的新型路徑規劃開發了一個框架。所提出的算法實現了高效的路徑規劃，減少了能量和檢查時間。此外，它還為確定各種參數提供了指導。

在[9]中，研究提出了一種計算蜂群控制和模擬其分布式行為的算法。研究和模擬顯示了不同場景下的通信延遲效應。文獻[10]在考慮有限通信距離影響的同時，提出了一種帶有彈性指標的改進算法。這一策略在一次監視任務中得到了實施，結果表明它是一種能有效面對外部干擾和威脅的更現實的方法。最近的一項研究[11]將 PIO 算法、比例積分控制器和比例積分微分控制器的概念用于無人機集群的編隊控制。這一策略優于傳統方法，并提供了安全的飛行協議。相關調查部分對這一技術的發展進行了進一步的廣泛思考。

1.3 動機與貢獻

本文的動機是在單一平臺上收集可能阻礙無人機群性能的多種挑戰。此外，還要提供適當的方法作為解決方案，以實現最佳運動規劃。這項研究可以幫助研究人員探索多種運動規劃策略及其貢獻和局限性。選擇適當的運動規劃技術和模型可以快速完成復雜的任務，同時還能實現應用的點對點目標。本文的主要貢獻如下

• 解釋蜂群智能及其面臨的挑戰。
• 從過去十多年的幾篇研究文章中詳細分析運動規劃技術及其貢獻和局限性。
• 提出未來發展方向，為研究人員提供指導。

1.4 本文組織

本文分為多個部分。第 2 節介紹了無人機蜂群的現狀。第 3 節評估了蜂群智能的概念。第 4 節介紹無人機蜂群面臨的挑戰。第 5 節對用于應對無人機蜂群諸多挑戰的技術和模型進行了廣泛調查。第 6 節討論了主要發現和局限性。第 7 節給出結論，第 8 節就今后的進一步研究和開發工作提出建議。

2 現狀

由于采用了人工智能（AI）技術和邊緣計算，蜂群可以集體做出決策，并使用相對簡單的指令完成空中任務[12]。Veronte 自動駕駛儀已經開發了跟隨領導者、執行任務、路徑規劃、感應和避讓等功能。這些功能的進步使團隊合作成為可能，并確保了任務的成功。監視和攻擊誘導是全球蜂群的一個里程碑事件。無人機群這一改變游戲規則的能力既有利于大國，也有利于小國。蜂群的其他重要方面包括聯合決策、自我修復和自適應編隊飛行。無人機群仍處于進展階段，正在開展進一步研究，以進一步增強系統。進一步的重點包括擴大人工蜂群智能的能力，提高蜂群代理的自主狀態，以及商品化以降低成本影響。

無人機蜂群最令人驚嘆的地方在于其利用蜂群智能技術在民用和軍用方面的應用[13]。民用機構正在利用蜂群技術實施更大的計劃。美國國家航空航天局（NASA）也在利用這種基于人工智能的蜂群技術進行氣候變化分析[14]。這樣做的結果是完成了所需的工作，而這些工作在使用一個人時是不可能完成的。此外，許多發達國家已通過相關法規，普及無人機群的商業應用。無人機群在電力線和結構檢查、精準農業、測量、搜索和救援行動等方面表現出巨大的性能。

然而，無人機蜂群因其在軍事用途上的潛力和效率而備受矚目。如果在戰斗中，無人機蜂群中的一些無人機被擊落，那么剩下的無人機仍能以類似的戰術、威力和靈活性完成任務。雷神公司（Raytheon）在美國國防部高級研究計劃局（DARPA）項目的一次實戰演習中使用了蜂群操作，證明了這一點[15]。雷神公司的蜂群具有通信和協調能力。此外，所有個體都有傳感器、攝像頭和戰術突擊套件（TAK）集成能力，可用于環境探索。

蜂群技術正在增強軍隊執行復雜環境任務的能力。許多國家的軍隊，如美國和中國軍隊，在最高級別的蜂群行動模擬測試和觀察方面處于領先地位[16]。一些國家的軍隊，如英國軍隊，正在將這項技術用于實時作戰。英國還試驗過萊昂納多公司的 "光輝云"（Brite Cloud）蜂群，其中包含電子戰干擾器。同樣，俄羅斯很快也將大型無人機蜂群誘導技術 "Flock 93 "作為其軍隊的目標。此外，它還試圖在 2025 年之前填補這一空白。伊朗、土耳其和印度也在嘗試利用分布式智能和邊緣計算，使這項技術更加成熟和普及。無人機群是空戰的未來，而未來就是現在[17]。

3 蜂群智能(SI)初探

在這個世界上，我們觀察到，所有個體都希望放大自己的智慧。為了實現這個目標，他們認為并更喜歡一起工作，就像蜂群、魚群和鳥群一樣。這是因為他們相信，他們在群體中比單獨行動更聰明。由于具有反饋回路的實際系統的深度相互聯系而形成的一種新智能，被稱為蜂群智能[18]。簡單地說，蜂群是一個由所有比單個更聰明的大腦組成的大腦。蜂群智能是生物啟發人工智能的一個不斷發展的領域 [19]。

此外，利用蜂群智能，許多腦袋會遵循一個單一的思維。所有個體都遵循明確的規則，不僅彼此互動，還與環境互動。這種自適應策略需要大量的個體。它能夠對相似個體的集群進行調度、聚類、優化和路由選擇。蜂群智能強調任務在日程表中的相對位置。它遵循求和評估規則進行調度。蜂群中所有相似個體的協作稱為聚類。例如，蜂群中的無人機不同于其他群組的無人機。它能夠通過優化從所有可行結果中提供最佳和低成本的解決方案。此外，它還具有潛在的路由能力。它模仿螞蟻的原理，前向螞蟻收集信息，后向螞蟻利用這些信息[20]。

3.1 蜂群智能元素

蜂群智能的主要方面包括分布、聚合、合作、自組織、涌現和模仿自然行為[21]。分布是蜂群智能的首要特征，因為所有個體都能選擇并執行自己的行動。個體通過間接改變環境進行互動的現象被稱為 "靜能"（stigmergy）。這種現象使它們能夠感知周圍環境，并切斷個體間的互動。另一個重要行為是蜂群中所有無人機的合作[22]。無人機通過合作解決復雜的任務，并利用蜂群智能展示其集體行為。蜂群智能的另一個方面是自組織。這種行為基于正反饋、負反饋、波動放大和不同的社會互動。正反饋是通過分配更多的無人飛行器來放大，從而獲得更好的結果。負反饋是為了穩定，避免所有無人飛行器都趨于相似的狀態。自組織現象通常觀察到兩種反饋之間的緊張關系，如復雜網絡、市場、蜂窩自動機等。自組織現象的另一個特點是突現性，突現性可以是弱的，也可以是強的。如果個體行為可追溯到自發特性，則稱自發為弱自發。如果個體行為無法從涌現屬性中追溯，則稱涌現為強涌現。此外，無人機群是通過從自然蜂群行為中獲取靈感來建模的。一般來說，蜂群行為包括覓食、筑巢和在環境中一起移動。因此，模仿這些自然蜂群行為是蜂群智能的另一個關鍵方面[23]。

3.2 蜂群智能級別

蜂群智能有兩個層次。第一個層次是利用正反饋信息素來標記較短的路徑，并向其他人發出進入信號。而第二級蜂群智能則使用負信息素來標記不愉快的路線，并且不向其他蜂群發出進入信號。

3.3 蜂群智能應遵循的原則

蜂群一般遵循五個原則。接近原則、質量原則、多樣化響應原則、穩定性原則和適應性原則 [24]。根據就近原則，蜂群的基本個體可以很容易地對環境變化做出反應，而環境變化是由它們之間的相互作用引起的。質量原則允許蜂群只對位置安全等質量因素做出反應。多樣化響應原則使設計分布的方式能夠最大限度地保護所有個體不受環境波動的影響。穩定性原則限制蜂群在環境變化時表現出穩定的行為。適應性原則顯示了蜂群的敏感性，因為蜂群的行為會隨著環境的變化而變化。最廣泛使用的原則是所有個體之間的吸引、避免碰撞和自組織。在遵循吸引原則時，它們會靠得更近，并集中在一個相似的方向上。在遵循避免碰撞原則時，它們會保持一定的距離以避免碰撞。而在自組織規則中，它們會與鄰居互動，但不會信任所有鄰居。

3.4 蜂群智能的機制

蜂群智能的機制涉及蜂群中個體的環境、互動和活動。蜂群中的個體之間沒有直接的交流[25]。它們是通過環境變化來相互影響的。因此，環境變化可以作為外部記憶。這種模擬工作是通過應用蜂群所有成員的滯后行為來完成的。此外，個體在感知-反應模型和任何隨機模型之間的平衡中選擇自己的行動。然后，它們根據感知-反應模型做出反應和移動，同時感知和影響當地的環境屬性。

3.5 蜂群智能使用的語言

原蜂群語言、蜂群語言、Star-Logo 語言和增長點語言是用于蜂群智能的編程語言。原初蜂群語言使用非定常介質抽象來為蜂群編程[26]。這種無定形介質抽象是通過利用一種來自 Proto 連續時空模型的語言和一種在所提供的硬件上估算該模型的運行庫而獲得的。蜂群智能的另一種語言是一種稱為蜂群的分布式編程語言。它的基本概念是移動計算而不是數據。蜂群類似于 Java 字節碼解釋器的原始版本。現在，它作為 Scala 庫得到了應用。Star-Logo 不僅是一種編程語言，也是分散系統的可編程建模環境。利用這種編程語言，可以模擬不同的現實場景，如市場經濟、鳥群、交通堵塞等。而要對非定域性計算介質進行編程，生長點語言是必不可少的。這種編程語言能夠生成預先指定的復雜模式，如任意電路的互連形式。

3.6 蜂群智能的意義

蜂群智能有許多重要意義，這里將討論其中一些。它能使蜂群靈活應對外部挑戰和內部干擾。即使某些代理出現故障，它也能以穩健的性能完成任務 [27]。它使蜂群的可擴展性從幾個個體到一百萬個個體不等。蜂群中沒有中央機構或控制。它具有完全的適應性，只能提供自組織解決方案。變化在網絡中的傳播速度非常快。所有這些都有利于個體集群。

4 蜂群挑戰

4.1 蜂群控制

無人機蜂群的基礎是在規劃的路徑上控制所有單個無人機。為了解決蜂群編隊中的重建、防碰撞、搜索和跟蹤問題，需要開發適當的控制系統框架和控制器 [28]。集中式和分布式是自動化集群的兩大控制平臺。集中式平臺的主要優點是輸出質量更高，但可擴展性有限。而分散式平臺的主要優點是可擴展性更強，復雜性更低。無人機群網絡保證了節點的連接性，簡化了應用設計。傳感器輸入與環境和目標的先驗知識是傳統模型的基本要素。

各種研究利用多層分布式控制框架克服了這些問題。控制器的設計在無人飛行器的流程設計中至關重要。許多研究建議使用 ANFIS 控制器來減少學習誤差和提高控制器的質量。在無人機按照特定路徑運動的過程中，機載萬向節系統的控制會直接影響目標跟蹤性能。一些研究提出了用于萬向節系統建模的非線性哈默斯坦塊結構，以提高模型預測控制器（MPC）的效率。這也提高了在外部干擾下實時跟蹤目標的性能。其他編隊控制方法包括領導者-追隨者策略、共識理論、虛擬結構法、行為法等。圖 1 表示 [29] 中給出的使用領導者-跟隨者控制器的分布式制導模型概念。圖中第一列給出了領導者引導算法，其他兩列則代表跟隨者。該模型中的預分配拓撲結構不可更改。

圖 1. 使用領導者-追隨者控制器的分布式制導模型。

4.2 蜂群路徑規劃

無人機蜂群的路徑規劃具有相當大的挑戰性 [30]。為了解決這個 NP 難問題，許多研究都提出了路徑規劃算法。這些算法分為經典算法和元啟發式算法，如圖 2 所示。經典算法需要環境信息，而元啟發式算法則需要實時位置和測量的環境要素信息。如圖 2 所示，路線圖算法（RMA）、A* 算法和人工勢場法（APF）就是經典算法的一些例子。如圖 2 所示，粒子群優化算法（PSO）、鴿子啟發優化算法（PIO）、果蠅優化算法（FOA）和灰狼優化算法（GWO）是元啟發式算法的一些例子。

圖 2：無人機群的路徑規劃算法

蜂群路徑規劃可分為動態路徑規劃、三維路徑規劃、區域覆蓋路徑規劃和最優路徑規劃 [31]。動態路徑規劃對于無人機群在復雜環境中執行任務至關重要。為確保動態路徑規劃，許多研究人員建議使用卡爾曼濾波器的碰撞概率、人工勢場（APF）與墻跟法（WFM）、軌跡檢測、場景理解框架等方法。所有這些方法都能提供更好的方向估計、更好的性能并避免路徑沖突。三維路徑規劃比較復雜，但許多研究都采用元啟發式算法來處理。如 GWO 算法實現可行的飛行軌跡，FOA 算法進行局部優化，PIO 優化初始路徑。

所有這些算法都能有效地用于無人機群在威脅和緊急情況下的三維路徑規劃。無人機可在所有興趣點區域移動的路徑規劃是區域覆蓋路徑規劃。許多研究建議采用五態馬爾可夫鏈模型、改進的勢能博弈論和網絡-物理系統。為了實現最佳路徑規劃，無人機的電池容量、匹配性能和能耗都是需要認真考慮的問題。研究建議采用耦合和分布式規劃策略、移動人群感知系統（MCS）和節能數據收集框架來實現最佳路徑規劃。

4.3 蜂群架構

對于蜂群實施來說，無人飛行器的結構非常重要 [32]。架構是設計、管理和優化技術的結合。蜂群架構可以基于通信、任務條令、控制等。基于通信的蜂群架構有兩種形式。基于 Ad-hoc 網絡的架構和基于基礎設施的蜂群架構。這兩種架構都很有前途，在復雜環境下表現良好。

在設計蜂群架構時，考慮作戰任務也很重要。研究認為，如果不考慮任務條令，則是不謹慎的。目前設計蜂群系統的方法包括自下而上的建模方法和自上而下的設計方法。同樣，基于控制的架構也有利于蜂群。圖 3 給出了 [33] 中提出的基于任務的蜂群可組合性架構（MASC）。該框架側重于階段、戰術、戰術和算法。根據該圖，任務解釋了整個任務，階段評估了特定時期，戰術是個體在執行任務時按特定順序使用的方法，游戲描述了蜂群的行為，算法是程序。此外，將分布式行為控制方法與集中式協調聯系起來，可以有效地執行蜂群航空任務。航空航天架構可以高效地完成思考任務、執行任務、反應任務和社交任務。此外，物聯網（IoT）也支持蜂群架構并促進互動。

4.4 蜂群監控與跟蹤

蜂群面臨的另一個主要挑戰是監控和跟蹤。在蜂群運行期間，所有無人飛行器的位置、狀態和外部環境都會隨時間發生變化。此外，蜂群還要適應這些變化并相應地調整自己的行為。為此，持續監控和跟蹤至關重要。許多研究人員提出了不同的控制模型、仿真模型和仿真工具，以解決監控和跟蹤難題。動態數據驅動應用系統（DDDAS）是一種解決方案，可協助環境和任務的適應[34]。

圖 3. MASC 框架。

目標搜索需要考慮有效的方法和控制策略。如果目標知道搜索者的移動性和位置，那么搜索的復雜性就會增加。分布式戰略還為自動目標識別（ATR）問題提供了解決方案。許多研究人員建議采用分層探測解決方案、學習型尖端軟件和最佳技術來跟蹤蜂群中的無人機。圖 4 展示了使用改進型豆類優化算法（BOA）的空間分布情況，該算法基于 [35] 中開發的種群進化模型。在該圖中，蜂群空間分布為三層，即臨時調度層、個體層和父層。BOA 展示了有效的目標搜索能力、新興的群體智能和分布式協作互動。使用 BOA 的個體分布可表示為

圖 4. 單個無人飛行器的空間分布。

4.5 蜂群通信

通信是無人機蜂群面臨的主要挑戰之一[36]。在嘈雜復雜的環境下，無人機群需要準確高效的數據通信來執行任務。數據通信取決于適當的結構化網絡。圖 5 顯示，無線 ad-hoc 網絡能夠提供高效通信，如文獻 [37] 所述。圖中一個基站與兩架無人機相連。這兩架無人機又與另一組無人機相連。無人機的內部連接是獨立的，但相互連接則依賴于基站。有三種形式的網絡，包括 Flying Ad-hoc Network (FANET)、Mobile Adhoc Network (MANET) 和 Vehicle Adhoc Network (VANET)。FANET 網絡為少數無人機與 GCS 之間的通信提供了一個網絡，而其余無人機則相互通信。FANET 增強了通信范圍以及在蜂窩基礎設施有限和存在障礙的地區的連通性。MANET 和 VANET 與 FANET 相互連接。因此，除了移動性、更好的連接性、能源限制等少數幾個特點外，FANET 具有與其他兩種形式相似的特點。MANET 不需要互聯網基礎設施的任何支持，只需一定數量的移動設備即可組成。而 VANET 由地面車輛組成。

為了快速部署，無人機蜂群充當空中基站，為通信基礎設施提供支持。這種無線網絡在無人機與物聯網（UAV-IoT）、無人機與蜂窩卸載（UAV-CO）、無人機與應急通信（UAV-EC）等之間成功實現。這些都提高了傳輸效率，減少了響應延遲。此外，高效通信還能解決合作、控制和路徑規劃等其他挑戰。因此，有效通信是無人機群的基礎。

圖 5. 用于多組無人機的 Ad-hoc 網絡

4.6 蜂群安全距離協議

在無人機蜂群協作中，自組織行為對每個無人機都至關重要。在自組織蜂群飛行過程中，所有無人機之間都要進行數據傳輸和通信，以便做出適當的決策。但在復雜的飛行條件下，無人機之間存在碰撞的風險。因此，關鍵挑戰之一是為安全飛行提供避免碰撞協議[38]。由于無人機的持續移動性、有限的資源和空中鏈路的不穩定性，這些協議是必要的。蜂群中的所有無人機成員必須通過多跳連接了解彼此的位置。其中大多數都需要全球定位系統（GPS），而在沒有 GPS 的情況下，無人機的位置可以通過三個已知位置節點的歐氏距離公式來估算。有幾種研究利用鵝群算法、雷諾法則和鴿群算法提供了安全飛行協議。除此之外，許多優化算法也能促進無人機群達成共識。雷諾協議使用了三種成群行為規則。首先是分離規則，即無人機試圖遠離蜂群中的相鄰無人機。其次是對齊規則，無人機試圖與相鄰無人機的速度保持一致，以避免碰撞。第三種是凝聚規則，即無人機試圖靠近相鄰的無人機以形成集群，從而分享相同的位置。使用雷諾規則的自組織飛行模型是根據 [39] 的想法給出的。所有這些規則可歸納為以下公式

這里，N 表示蜂群中無人機的數量，sij是兩個無人機 i 和 j 在時間 t 中的位置，?? ∈ N?? (??) 與 ?? 表示具有局部最小值的吸引力-反斥勢函數。這些規則為無人機蜂群提供了適當的安全飛行協議，但仍有局限性，應加以改進，以實現更安全的軌跡規劃。

5 相關綜述

無人機蜂群的成功運動規劃需要重要的優化算法和相關基礎設施或模型。表 1 提供了對應用于無人機群運動規劃的技術和模型的全面探討。本綜述將提供對以往和當前研究中使用的無人機群所面臨挑戰的適當技術的詳細和更好的理解。

Kim 等人[40]考慮使用卡爾曼濾波器與協方差交集（CI）算法和平滑法，以及字符串匹配法來觀察使用無人機群進行空中監測的情況。研究人員采用隱馬爾可夫模型（HMM）進行路徑規劃，實現了跟蹤精度的提高和跟蹤誤差的降低。Oh 等人[41]提出了一種矢量場制導方法來跟蹤移動物體。該研究還為此引入了一種兩階段方法：帶有費舍爾信息矩陣（FIM）的 K-means 聚類和合作對峙跟蹤法。結果表明，對峙群跟蹤成功，允許局部重新規劃，并將所有感興趣的目標保持在傳感器的視場（FOV）范圍內。Sampedro 等人[42]提出了無人機群的全局任務規劃器（GMP）和代理任務規劃器（AMP）。他們的建議提供了一個完整的操作性強、穩健、可擴展且靈活的框架，可自動執行許多高級任務。

Yang等人[43]分析了11種用于無人機群的群智能（SI）算法。該研究解釋了這些算法的特點和原理，并分析了不同的算法組合和多架無人機的任務分配。Hocraffer 和 Nam [44] 對與人的因素有關的人-系統界面進行了元分析。該分析為開始研究提供了基礎，增強了態勢感知（SA），并取得了高效成果。Lee 和 Kim [45] 利用線性和非線性控制器研究了多旋翼動態模型，用于多無人機的軌跡跟蹤控制。研究結果表明，線性控制器易于應用、魯棒性好并能提供最優性，一些非線性控制器也易于應用、直觀并能提供全局穩定性。Yang 等人[46] 將正交多群合作粒子群優化算法與知識庫模型（MCPSO-K）聯系起來。該技術收斂速度更快，避免了過早收斂，降低了計算成本，并確保了粒子的均勻分布。

表 1. 應用各種技術和模型進行無人機群運動規劃的綜合綜述。

Guastella 等人[47] 將運行空間視為三維網格，并將修改后的 A* 算法用于多無人機的路徑規劃。研究人員發現，該算法減少了計算時間，改善了規劃軌跡，并能自動重新分配目標。Duan 等人[48]通過將記憶算法（MA）與可變鄰域下降算法（VND）相結合，給出了一種新穎的混合元啟發式方法，用于多無人機的路徑規劃。結果優化了路徑，給出了高效的結果，并高效地解決了容量車輛路由問題（CVRP），甚至是非確定性多項式時間難（NP-hard）問題。Koohifar 等人[49]將帶有遞歸貝葉斯估計器的擴展卡爾曼濾波器（EKF）和克拉默-拉奧下界（CRLB）用于無人機群的路徑規劃。分析表明，所提出的方法成功地規劃了未來的跟蹤軌跡。此外，CRLB 的性能也優于其他方法并有所提高。

Shao 等人[50] 將魯棒性誤差符號積分（RISE）反饋控制器與擴展狀態觀測器（ESO）相結合，并使用了殘余估計誤差。這一策略解決了整塊干擾問題，實現了跟蹤精度、有效性和優越性。Campion 等人[51]研究了用于無人機群的蜂窩移動基礎設施、機器學習和分布式控制算法、機器-機器（M2M）通信和第五代（5G）網絡。該研究表明，所應用的技術緩解了以往研究的限制因素，提高了無人機群的效率和商業用途。Shao 等人[52]提出了基于擴展狀態觀測器（ESO）的魯棒控制器，并采用了動態表面控制（DSC）設計和基于擾動觀測器（DOB）的控制技術。該建議在提高抗干擾能力的同時，在跟蹤方面也顯示出了有效和卓越的效果。Mammarella 等人[53] 將基于樣本的隨機模型預測控制（SMPC）和制導算法應用于無人機群的跟蹤控制。所應用的算法有效地處理了噪聲和參數不確定性，保證了實時跟蹤和良好的穩定性能。

Huang 和 Fie [54]介紹了粒子群優化（GBPSO）的全局最佳路徑競爭法。該策略提高了搜索能力，避免了局部最小值，并提供了質量和速度更優的可行最優路徑。Ghazzai 等人[55]提出了帶寬饑渴和延遲容忍的應用，并利用典型的微波（μ-Wave）和高速率毫米波波段（mm-Wave）進行軌跡優化。此外，研究還采用了分層迭代方法。雙波段增加了多無人機的停靠位置，并最大限度地減少了服務時間。Liu 等人[56] 利用快速模型預測控制方法和擾動估計方法實現了分布式編隊控制算法。該策略適用于任意的、隨時間變化的規定形狀編隊，并在規定的二維（2D）或三維形狀上實現了平衡配置。

Xuan-Mung 等人[57] 使用了魯棒飽和跟蹤反步態控制器 (RAS-BSC) 和 Lyapunov 理論。研究人員發現，所提出的機制提供了閉環系統的穩定性，并限制了跟蹤誤差和擴展狀態觀測器（ESO）誤差。此外，它在不確定性條件下具有快速和魯棒性，性能優越。Fabra 等人[58]為無人機群提出了一種基于任務的無人機群協調協議（MUSCOP）。該研究在多種條件下實現了高度的蜂群凝聚力，并在位置偏移誤差較小的情況下實現了最少的同步延遲。Causa 等人[59]采用多全球導航衛星系統（multi-GNSS）星座方法和邊緣成本估算方法對多個無人機進行路徑規劃。這些方法減少了計算時間和整個任務時間，為離線和近實時場景下的任務分配問題和規劃提供了快速解決方案。

Brown 和 Anderson [60] 應用昆式多項式軌跡生成方法、多目標粒子群優化（OMOPSO）和區域搜索雷達模型來優化無人機群的軌跡。這種組合可獲得最大數量的較佳軌跡，減少重訪時間和燃料消耗，并提高探測概率。Mehiar 等人[61] 為無人機群開發了量子機器人達爾文粒子群優化算法（QRDPSO）。該優化算法提供了更穩定、高效和快速的最優解，避開了障礙物，克服了通信限制。此外，該算法在搜救行動中達到了全局最優。Wang 等人[62]為多架無人機提出了領導者跟隨模型、Routh-Hurwitz 準則、共識協議和模型預測控制器。所應用的方法預測了領導者狀態的變化，減少了達成共識的時間，并保持了編隊的形狀。

Altan [63] 針對無人機群提出了元啟發式優化算法、Harris Hawks 優化（HHO）和粒子群優化（PSO）。他建議的方法在多幾何路徑上表現最佳，并能快速確定控制器參數。HHO 性能更優，克服了穩定問題，并給出了最少的沉降、峰值時間和過沖。Wang 等人[64]開發了神經關系推理（NRI）模型以及無人機群和彈簧顆粒之間的映射表。所開發方法的結果能夠提高位置檢測性能。此外，它還將三維空間中的運動投射到二維平面上，設計的算法預測了運動軌跡，并給出了較高的精度。Rubí 等人[65]針對無人機群采用了四種 PF 算法，即反步法（BS）和反饋線性化（FL）算法、非線性制導法（NLGL）算法和胡蘿卜追逐（CC）幾何算法。比較結果表明，路徑跟蹤 BS 算法在偏航誤差和路徑距離方面表現更優，而 CC 算法需要的數據更少，并且證明易于適用于任何路徑類型。Selma 等人[66]使用混合控制器、自適應神經模糊推理系統（ANFIS）和 PSO 算法對多個無人機進行軌跡跟蹤。結果表明，PSO 算法能自動調整 ANFIS 參數，通過提高控制器質量最大限度地減小跟蹤誤差，并且性能優越。

Xuan-Mung 等人[57] 使用了魯棒飽和跟蹤反步態控制器 (RAS-BSC) 和 Lyapunov 理論。研究人員發現，所提出的機制提供了閉環系統的穩定性，并限制了跟蹤誤差和擴展狀態觀測器（ESO）誤差。此外，它在不確定性條件下具有快速和魯棒性，性能優越。Fabra 等人[58]為無人機群提出了一種基于任務的無人機群協調協議（MUSCOP）。該研究在多種條件下實現了高度的蜂群凝聚力，并在位置偏移誤差較小的情況下實現了最少的同步延遲。Causa 等人[59]采用多全球導航衛星系統（multi-GNSS）星座方法和邊緣成本估算方法對多個無人機進行路徑規劃。這些方法減少了計算時間和整個任務時間，為離線和近實時場景下的任務分配問題和規劃提供了快速解決方案。

Brown 和 Anderson [60] 應用昆式多項式軌跡生成方法、多目標粒子群優化（OMOPSO）和區域搜索雷達模型來優化無人機群的軌跡。這種組合可獲得最大數量的較佳軌跡，減少重訪時間和燃料消耗，并提高探測概率。Mehiar 等人[61] 為無人機群開發了量子機器人達爾文粒子群優化算法（QRDPSO）。該優化算法提供了更穩定、高效和快速的最優解，避開了障礙物，克服了通信限制。此外，該算法在搜救行動中達到了全局最優。Wang 等人[62]為多架無人機提出了領導者跟隨模型、Routh-Hurwitz 準則、共識協議和模型預測控制器。所應用的方法預測了領導者狀態的變化，減少了達成共識的時間，并保持了編隊的形狀。

Altan [63] 針對無人機群提出了元啟發式優化算法、Harris Hawks 優化（HHO）和粒子群優化（PSO）。他建議的方法在多幾何路徑上表現最佳，并能快速確定控制器參數。HHO 性能更優，克服了穩定問題，并給出了最少的沉降、峰值時間和過沖。Wang 等人[64]開發了神經關系推理（NRI）模型以及無人機群和彈簧顆粒之間的映射表。所開發方法的結果能夠提高位置檢測性能。此外，它還將三維空間中的運動投射到二維平面上，設計的算法預測了運動軌跡，并給出了較高的精度。Rubí 等人[65]針對無人機群采用了四種 PF 算法，即反步法（BS）和反饋線性化（FL）算法、非線性制導法（NLGL）算法和胡蘿卜追逐（CC）幾何算法。比較結果表明，路徑跟蹤 BS 算法在偏航誤差和路徑距離方面表現更優，而 CC 算法需要的數據更少，并且證明易于適用于任何路徑類型。Selma 等人[66]使用混合控制器、自適應神經模糊推理系統（ANFIS）和 PSO 算法對多個無人機進行軌跡跟蹤。結果表明，PSO 算法能自動調整 ANFIS 參數，通過提高控制器質量最大限度地減小跟蹤誤差，并且性能優越。

Liu 等人[67]提出了一種動力學控制器、基于分布式β角測試（BAT）的拓撲控制算法和飛行 ad-hoc 網絡（FANET）用于無人機植群。這種機制可以進行鄰居選擇，并大大減少通信開銷。Madridano 等人[68]應用三維概率路線圖（PRM）算法、機器人操作系統（ROS）架構、Mav-Link 協議、Pixhawk 自動駕駛儀和匈牙利方法進行三維軌跡規劃。這種組合使用最短的時間生成了最優解，并減少了計算時間和總行程距離。Zhou 等人[69]分析了采用不同 SI 算法的層次控制框架。該分析對主要技術的發展趨勢、未來研究和局限性進行了分類。Wubben 等人[70] 采用 MUSCOP 協議和仿真工具 Ardu-Sim，為多個無人機提供恢復能力。該協議有效地處理了失去領導者和后備領導者的問題，并引入了可忽略的飛行時間延遲。

Selma 等人[71]將基于自適應網絡的模糊推理系統（ANFIS）和改進的蟻群優化（IACO）用于控制軌跡跟蹤任務。事實證明，該策略性能優越，大大降低了均方誤差（MSE）和均方根誤差（RMSE），使無人機能在最短時間內達到預期軌跡。Altan 和 Hac?o?lu [72] 使用基于牛頓-歐拉法的三軸萬向節系統、哈默斯坦模型和模型預測控制（MPC）算法進行目標跟蹤。這種機制能穩定地跟蹤目標，即使在外部干擾下也表現出魯棒性。Sanalitro 等人[73]提出了一種飛鶴系統，該系統采用基于優化的調整方法和內環或外環方法。該系統處理了旋轉和平移軌跡帶來的參數不確定性，保證了穩定性，并提高了 H∞ 的性能。Chen 和 Rho [74] 根據最終用戶（EUs）的要求，利用自組織圖（SOMs）引入了 SI 技術。該技術可實現無人機陣列的自組織，并將無人機重新配置為樞紐或終端。此外，它還能有效地共享信息。

Qing 等人[75]將改進的蟻群優化（ACO）、最小捕捉算法和歸零控制障礙函數（ZCBF）應用于多蜂群。結果表明，所提出的算法為實時決策提供了最佳結果。此外，它還有效地提供了無碰撞和無規避的軌跡。Miao 等人[76]提出了一種多跳移動中繼系統、最小保密能效（MSEE）最大化傳輸方案，并利用塊坐標下降法（BCD）、連續凸近似（SCA）技術和 Dinkelbach 方法為多架無人機生成了一種算法。結果保證了收斂性，并在能效和保密率方面有了重大改進。Shao 等人[77] 將無人機群的多分段策略與改進的粒子群優化-高斯偽譜法（IPSO-GPM）相結合。研究結果表明，所應用的機制提高了求解的最優性，生成了高質量的軌跡，并耗費了最少的運行時間。

Gu 等人[78]建議采用網絡集成軌跡聚類（NIT）來確定無人機群的子群。這種聚類方法反應迅速，準確性高，在復雜環境中證明是有效、容錯和穩定的。Ling 等人[79]提出了一種規劃算法；針對無人機群的開箱即用軌跡繪制和多輪蒙特卡羅模擬。該算法可在噪聲和不穩定通信條件下工作，并被證明適用于合作蜂群應用。Yao 等人[80] 為無人機群采用了群智能和優化算法。結果表明，所提出的無人機群控制算法有效提高了無人機群的自主性和巡檢效率，并最大限度地降低了巡檢成本。Xia 等人[81]提出了針對無人機群的多代理強化學習（MARL）與多無人機軟行為批判（MUSAC）。所建議的機制允許做出智能飛行決策，降低了功耗，提高了跟蹤成功率，并為探測覆蓋提供了高性能。

Nnamani 等人[82] 將網格結構方法應用于無人機群。研究結果表明，該方法提高了通信保密率和物理層安全性，并評估了竊聽者未知位置的最佳半徑。Xu 等人[83] 為無人機群設計了通信感知集中式和分散式控制器。他們提出的控制器實現了較高的航點跟蹤精度。在兩種控制器之間，分散控制器的性能更優，并能保持穩定。Sharma 等人[84]研究了用于無人機群路徑規劃的多種 SI 算法。分析表明，PSO 的計算復雜度較低，ACO 具有良好的可擴展性，而 Firefly 則利用單一算子搜索解決方案。Han 等人[85]采用大規模多輸入多輸出（MIMO）和基于中心極限定理（CLT）的反向散射通信系統來分析性能和優化軌跡。這種組合在檢測寄生裝置和分離寄生信號方面表現出色。此外，它還降低了能耗并優化了軌跡規劃。

Zhou 等人[86]使用了多目標跟蹤（MTT）系統、基于智能無人機蜂群的協同跟蹤算法和多目標 Lyapunov 優化模型。結果表明，在提高軌跡預測精度的同時，執行復雜度和能耗也有所降低。Brown 和 Raj [87] 應用反應式跟蹤和帶有預測性預定位的反應式跟蹤來研究初始蜂群形成的影響。跟蹤的性能更優越。

Sastre 等人[88]應用無碰撞蜂群起飛啟發式（CSTH）的兩種改進算法和基于歐氏距離的 CSTH（ED-CSTH）算法來分析軌跡和批次生成。本研究還使用了 ArduSim 模擬器和垂直起降（VTOL）技術，以及用于無人機群的庫恩-蒙克雷斯算法（KMA）。所提出的方法優化了計算時間，確保了安全距離，并縮短了起飛所需的時間。而 KMA 被證明是現實條件下最合理的選擇。Bansal 等人[89] 針對無人機群提出了一種可擴展的身份驗證-證明協議 SHOTS，該協議采用了物理不可克隆函數（PUF）、Mao Boyd 邏輯方法和 Christofides 算法。作者為無人機群提出了一種輕量級認證和證明機制，利用物理不可克隆函數（PUF）以輕量級方式確保物理安全和必要的信任。

6 討論

多架無人機的重要性正在擴大其在許多領域的合作行動和應用。無人機群被部署在不確定、室內、室外、交通等多種環境中。研究結果表明，決策、控制、路徑規劃、通信、監控、跟蹤、瞄準、碰撞和避障等諸多挑戰可能會阻礙無人機群的運動規劃。調查顯示，針對不同的挑戰，所有研究都采用了不同的方法。如任務規劃架構提供了一個完整的操作性強、穩健、可擴展和靈活的框架。許多控制器，無論是線性控制器還是非線性控制器，都被證明易于應用、直觀、穩健，并能提供最優性和全局穩定性。改進的模型預測控制器可確保對蜂群進行實時監控和跟蹤。此外，它們還提高了跟蹤的準確性、有效性和優越性。機器學習、5G 網絡和其他技術緩解了以往研究的限制因素，提高了蜂群的效率和商業用途。在本章介紹的所有這些不斷發展的技術中，蜂群智能技術被認為是可靠、高效地部署蜂群的合適解決方案。此外，它還能實現自我組織、重新配置、控制、有效共享信息、降低檢測成本和提高自主性。

除了上文提到的蜂群和技術發展的諸多優勢外，還存在許多重要而有趣的限制，可能會阻礙蜂群性能的發揮。其中，大規模蜂群的制造成本仍然很高。現有的負載體積龐大、價格昂貴，大多不適合追求高性能。因此，輕型、低成本的載荷和平臺對蜂群的形成至關重要。電池容量對完成空中任務意義重大。持久耐用的電池對于連續執行任務至關重要。然而，電池容量可以通過增加無人機重量來提高。而重量的增加也會要求能量消耗的增加。為了提供合適的電池解決方案，必須有這樣的系統，它能方便、快速地用補充電池替換耗盡的電池，并能為其他電池充電。另一個限制因素是隱私保護協議。這對于在敏感地點安全部署蜂群至關重要。否則，可能會導致國家安全問題。

7 結論

介紹了無人機蜂群技術的最新發展，顯示了其在不同用途，特別是軍事領域的應用前景。本章概述了蜂群智能，解釋了其各個方面、層次、機制、遵循的原則和意義。然后，討論了蜂群面臨的挑戰和不同研究人員給出的方法。此外，為了分析蜂群的運動規劃，我們研究并匯編了多種研究。所有這些研究論文都提供了不同的方法來應對無人機群所面臨的挑戰。其中許多方法都基于蜂群智能等趨勢技術，并優于傳統策略。所有研究結果都表明了使用蜂群而非單個無人機的重要性。最后，我們討論了本文的主要發現和一些局限性，并對未來工作提出了一些建議。

8 未來工作

盡管蜂群智能正處于新興階段，但預計在未來幾年，這項基于人工智能的技術將取得更大進展。未來的研究可以為蜂群設計更智能的控制器、最佳路徑規劃算法、穩健的架構、監控、目標搜索策略、高效的通信結構和安全的飛行協議。大規模蜂群的飛行問題和編隊維護仍需要未來的探索。在建模過程中，必須考慮無人機的大小和負載，以提高蜂群控制的魯棒性。在未來的整體系統中，將為綜合任務場景提供解決方案。無人機群在曲線上的路徑規劃需要更高效的算法。此外，能夠在任何復雜環境中快速給出優化路徑的算法也是未來的工作重點。有必要開發低成本傳感器，以解決集體監測和目標跟蹤問題，同時還能提供高精度和抗噪聲能力。還需要開展更多研究，通過升級頻段、合作對抗和信號失真監測，實現無人機群之間通信網絡的標準化。為了提高在威脅環境中的反應速度，重點將放在設計動態傳感和強大的安全飛行協議上。對于能滿足下一代網絡的情報輔助計劃來說，各種考慮因素至關重要。例如，第六代（6G）網絡應被用于蜂群的無線通信服務。這將極大地提高編隊、任務協調、人機互動等方面的重要性。在此基礎上，應改進系統，使其能夠理解和適應環境，并對用戶反饋做出快速反應。這可以進一步提高系統的靈活性以及網絡的可靠性和性能。

本報告重點討論與人工智能系統可能缺乏可預測性而導致的有關風險--被稱為可預測性問題--及其對國家安全領域人工智能系統治理的影響。人工智能系統的可預測性表明人們可以在多大程度上回答這個問題：人工智能系統會做什么？可預測性問題既可以指人工智能系統的正確結果，也可以指不正確的結果，因為問題不在于這些結果是否符合系統工作的邏輯，而是在部署時是否有可能預見到這些結果。

人們越來越擔心，使用不可預測的人工智能系統為高風險決策提供信息可能會導致災難性的后果，這將破壞公眾對部署這些系統的組織的信任，并可能侵蝕政府的聲譽。在國家安全領域，人工智能的使用引入了一個新的不確定性來源，可能會阻礙風險管理程序，并可能使責任鏈變得混亂。在這個領域，可預測性問題的影響可能導致關鍵基礎設施的安全風險、個人權利和福祉的風險、沖突升級或外交影響。

在本報告中，我們首先從技術和社會技術的角度分析了可預測性問題，然后集中討論了英國、歐盟和美國的相關政策，考慮它們是否以及如何解決這個問題。從技術角度來看，我們認為，鑒于人工智能系統的設計、開發和部署的多層面過程，不可能考慮到所有的錯誤來源或可能產生的新行為。此外，即使在理想的情況下，在設計或開發階段沒有錯誤可以假設或檢測，一旦部署了人工智能系統，仍然可能發展出形式上正確的（但不想要的）結果，這在部署時是無法預見的。

我們通過關注人機編隊（HMT-AI）來分析可預測性問題的社會技術影響。人機編隊代表了一種越來越普遍的人工智能系統部署模式。在HMT-AI中，人類咨詢、協調、依賴、發展并與人工智能代理交換任務。由于HMT-AI結合了人類和人工的自主性，它們通過增加人工和人類代理及其環境之間的互動的數量和類型而加劇了可預測性問題。在這種情況下，我們發現可預測性問題的三個主要來源：人機交互、人員培訓和（過度）信任。人機交互可能會助長不可預測的結果，因為它們可以掩蓋、扭曲或過分詳細地描述人工智能系統的工作原理，而培訓計劃可能沒有考慮到人工智能技術的學習能力和HMT-AI的長期慣例建設。同樣，在HMTAI中，人類代理人不加批判地接受AI系統的結果，這種過度信任的動態也可能導致無法預測的結果。

在確定了可預測性問題的一些根本原因之后，我們分析了英國、歐盟和美國的政策，以評估這些原因是否在相關的政策文件中被涵蓋，如果是的話，如何以及在何種程度上被涵蓋。我們確定了四個主要主題和一個缺口。它們是：控制、監督和價值調整；資源提升的方法；可信賴人工智能的發展；以及缺乏對風險管理措施的關注，以遏制可預測性問題的影響。

我們的政策分析包括八個建議，以減輕與可預測性問題有關的風險。關鍵的建議是將治理方法集中在HMTAI上，而不僅僅是AI系統，并將可預測性問題概念化為多維度的，解決方案集中在HMT-AI組成的共同標準和準則上。在這些標準和準則中，可信人工智能的要求是特別相關的，應該與評估人工智能系統的可預測性的標準和認證計劃以及審計HMT-AI的程序結合起來。支持在國家安全中使用HMT-AI的決定的成本效益分析和影響評估應該考慮到可預測性問題及其對人權、民主價值的潛在影響，以及意外后果的風險。為了確保在部署潛在的不可預測的人工智能系統時進行充分的風險管理，我們建議調整ALARP原則--在合理可行的情況下盡量降低--作為制定HMT-AI中可預測性問題的人工智能特定風險評估框架的基礎。

擬議的基于ALARP的框架將提供有用的實際指導，但僅僅是這樣還不足以識別和減輕可預測性問題所帶來的風險。需要額外的政策、指導和培訓來充分考慮人工智能可預測性問題帶來的風險。人工智能系統支持的決策的影響越大，設計、開發和使用該系統的人的謹慎責任就越大，可接受的風險門檻也越低。這些分析和建議應該被理解為可操作的見解和實用的建議，以支持相關的利益相關者在國家安全背景下促進社會可接受的和道德上合理的人工智能的使用。

建議

建議1. 政府應撥出研究經費，發展公私合作，對HMT-AI進行縱向研究。這項研究應側重于HMT-AI中的新舊決策模式，以評估編隊協議建設和培訓對績效和控制措施的影響。重點應放在為HMT-AI的具體動態定義新的培訓協議，以及加快風險管理標準和HMT-AI績效評估的發展。

建議2. 應該建立一個專門的HMT-AI認證計劃，以促進行業對為HMT-AI設計的AI系統的設計要求和評估的共識。任務之間的通用性、有效的溝通、性能的一致性以及對新隊友的適應性都應該包括在這樣一個認證計劃中。在開發不足的ISO標準的基礎上，這個認證計劃還應該擴展到過程的可追溯性和決策的問責制，以及評估HMT-AI信任程度的審計機制。這對于抑制HMT-AI中的過度信任和自滿態度是必要的，這種態度維持或擴大了可預測性問題。

建議3. 對國家安全領域的可預測性問題的政策反應應該側重于管理HMT-AI團隊，而不是單獨的AI系統。

建議4. 國家安全領域的HMT-AI的成本效益分析（CBA）應該包括對AI系統的可預測性以及技術和操作層面的相關道德風險的評估。為了促進各安全機構之間的一致評估，應該定義一個評估人工智能系統可預測性的標準量表，在這個量表上，使用（或不使用）人工智能的選擇應該根據上下文的CBA以及考慮公眾對風險和相關利益的態度來證明。這個尺度的定義應屬于獨立的第三方行為者的職權范圍，即與部署HMT-AI的公共機構不同。

建議5. 與其說是 "更多 "或 "更少 "的可預測性，政策建議應側重于可預測性的權衡，明確具體建議旨在解決可預測性問題的哪個方面，以何種方式解決，以及它們有可能加劇哪些方面，哪些緩解措施將被落實到位。政策應該認識到，可預測性是一個多維度的概念，在一個層面上可預測性的收益可能會以另一個層面的損失為代價。

建議6. 關于國家安全中人工智能可預測性問題的政策應該在正式和操作層面上解決可信度和不可預測性之間的聯系。例如，應該給人工智能系統一個可修正的可預測性分數，這應該包括在對系統的可信任度的評估中。人工智能系統的可信賴性應包括成本效益分析，以評估不想要的行為在不同部署背景下可能帶來的風險。

建議7. 應該為不可預測的人工智能建立風險閾值，這些閾值將圍繞不可預測行為的風險嚴重程度映射到其自身的可預測程度（例如，劃分為已知的已知因素、已知的未知因素等）。這些閾值反過來將為風險管理過程的發展提供信息，允許根據風險的可預測性及其影響對其進行優先排序。

建議8. 應該制定一個基于ALARP的框架，以評估不可預測的人工智能和HMT-AI的風險，并為任何給定的環境確定可接受的最大程度的不可預測性。這個框架應該包括:

• 對特定人工智能系統和HMT-AI的可預測程度的定量評估；
• 對導致部署人工智能系統的設計、開發和/或采購步驟的可追溯性的評估；
• 對部署條件的評估，例如，HMT-AI、操作員（或HMT-AI成員）的培訓水平、交互的透明程度、人類對AI系統的控制水平；
• 對部署該系統的潛在風險和預期收益進行成本效益分析（根據建議4）；
• 對假設情況的分析，以考慮風險暴露或緩解措施的有效性如何隨部署情況而變化；
• 人為推翻系統的協議和補救機制。

近年來，"原型戰爭 "的概念已被西方軍隊采用，以加速實驗性開發、獲取和部署戰爭中的新興技術。本文以科技研究和國際關系學的交叉研究為基礎，調查了支撐當代戰爭邏輯的更廣泛的話語和物質基礎結構，并對科學、技術和戰爭之間的關系特別感興趣，指出原型戰爭是如何捕捉到一種新的戰爭制度的出現的，本文稱之為戰爭的實驗方式。雖然戰爭一直是由實驗活動定義的，但在目前的背景下，特別是實驗如何跨越越來越廣泛的軍事實踐，在高度推測的實驗理解的基礎上運作，將失敗作為一種生產力量。文章追溯了西方軍事話語和實踐中的原型戰爭概念，并放大了原型戰爭是如何將實驗直接帶入戰場的，文章最后概述了原型戰爭是如何將軍事干預重新配置并正常化為實驗。

人工智能（AI）系統很可能會改變軍事行動。本文探討了人工智能系統如何影響準備和進行軍事行動的主要工具，并受其影響。因此，本文在戰略、理論、計劃、交戰規則和命令的背景下分析和討論了人工智能，以確定機會、挑戰和開放性問題的位置，并提出總體意見。本文采取了一個廣泛的分析角度，能夠根據新的政策和技術發展以及對政治、軍事、法律和道德觀點的考慮，對這一問題進行總體審查。因此，本文提供了一些見解和途徑，以推動對人工智能在軍事行動中的適當整合、管理和使用的進一步思考、研究和決策。

隨著廣泛的應用，人工智能(AI)催生了一系列與人工智能相關的研究活動。其中一個領域就是可解釋的人工智能。它是值得信賴的人工智能系統的重要組成部分。本文概述了可解釋的人工智能方法，描述了事后人工智能系統(為先前構建的常規人工智能系統提供解釋)和事后人工智能系統(從一開始就配置為提供解釋)。解釋的形式多種多樣:基于特征的解釋、基于說明性訓練樣本的解釋、基于嵌入式表示的解釋、基于熱度圖的解釋。也有結合了神經網絡模型和圖模型的概率解釋。可解釋人工智能與許多人工智能研究前沿領域密切相關，如神經符號人工智能和機器教學