摘要

不確定性是混合沖突的一個核心概念。許多混合沖突是隱蔽的、可否認的，并在正常的國家間關系和武裝沖突之間的灰色地帶進行。此外，混合沖突的信號可能來自于在很長一段時間內收集的大量公開和秘密來源，并且具有不同程度的可靠性。這些因素加在一起，對混合沖突的決策構成了重大挑戰。處理高層次的不確定性要求在情報分析和評估方面有創新的解決方案。在這方面，一個有希望的方法是對不確定性的明確估計。在這項研究中，我們借鑒了統計學、情報分析和人工智能的知識，提出了一種新的方法，并為量化和系統地估計不確定性開發了一個統計模型。該模型考慮了情報分析中不確定性的幾個重要因素：來源可靠性、信息可信度、概率語言和及時性。我們使用標記的和模擬的數據測試了我們的方法，并討論了使用人工智能和數據科學實現這一過程自動化的機會和挑戰。通過這樣做，這項研究向智能分析工具邁出了一步，以減輕混合沖突決策中的不確定性挑戰。

引言

不確定性是情報分析中的一個基本概念。幾乎所有的情報評估都應該用不確定性來表達。這是因為評估要么試圖從不完整的或往往是模糊的數據中做出推斷，要么試圖預測未來的事件（Mandel & Irwin, 2020）。混合沖突的幾個特點1增加了情報分析和評估的不確定性。許多混合沖突是隱蔽的、可否認的，并在正常的國家與國家之間的關系和武裝沖突之間的灰色地帶進行，導致新出現的威脅的信號很弱，而且往往不完整（Monaghan, Cullen & Wegge, 2019）。此外，混合沖突的信號可能來自于長期收集的大量公開和秘密來源，并具有不同的可靠性。這些問題因日益數字化而被放大，數字化導致了公開來源信息的爆炸性增長，而這些信息越來越容易被誤傳或假傳（Treverton, 2021）。

混合沖突的這些特點給情報分析人員帶來了一些挑戰：不確定性增加、模糊性、不可捉摸性、低于檢測閾值的活動、信息過載和數字來源的爆炸（Cullen，2018）。這些挑戰反過來又加劇了情報界對不確定性的系統和定量估計的呼吁。在混合沖突的情報分析中，需要創新方法來處理這些前所未有的不確定性和模糊性。這反過來將支持決策者制定應對復雜的混合威脅的政策。這些呼吁得到了實證研究的響應，實證研究顯示有可能減少分析偏差，改善合作，促進分析透明度，并為實現（半）自動化的情報分析過程鋪平道路（TR-SAS-114，2020）。

盡管各國情報組織之間存在定性標準，并且已經提出了改進不確定性估計的方法，但據我們所知，沒有任何情報組織采用系統的不確定性估計方法（Friedman & Zeckhauser, 2012）。換句話說，不確定性的估計或多或少地隱含在 "分析者的頭腦中"。此外，不確定性最常以定性方式（如 "極有可能"）而非定量方式（如 "75%可能"）來表達。盡管對不確定性的量化存在一些不情愿的態度--擔心涉及到對 "最佳估計 "的判斷的虛幻的具體感（有 "硬數字"）--數值有可能緩解語言障礙，解決不確定性詞匯中的語義差異，并鼓勵分析者的責任感（Dhami & Mandel, 2020）。

這項研究試圖解決這些差距，并提出一種系統地、定量地估計和表達不確定性的方法。這項工作的新穎之處在于，它提出并測試了一種從情報報告本身提取不確定性信息的方法，而不是嚴重依賴分析員的判斷（例如，Lesot, Pichon & Delavallade, 2013；Schum & Morris, 2007）。因此，我們的方法也旨在對不確定性進行更客觀和可重復的估計。另一個主要貢獻是，我們考慮了這個過程自動化的步驟、機會和挑戰（使用數據科學和人工智能的技術）。畢竟，系統地手工估計不確定性將極大地增加分析者的工作量。通過這樣做，這項工作向更快、更系統、更客觀的不確定性判斷邁出了一步，減輕了混合沖突中決策支持的挑戰。

摘要

本文旨在展示開源數據的潛力，結合大數據分析和數據可視化，以表明特定領域的彈性水平，其中包括北約彈性評估的基線要求(blr)。

本文中描述的概念驗證提取了特定領域的相關彈性指標，涵蓋了包括能源和交通在內的選定基線要求。概念驗證使用交互式儀表板，允許終端用戶從多個角度探索可用的公共數據，以及對這些數據進行高級分析和機器學習模型的結果。

關鍵詞:大數據分析，機器學習，彈性，能源，交通，媒體

引言

軍隊越來越意識到大數據分析在作戰和戰略決策中的重要性和作用。在正確的時間獲得相關信息一直是做出最佳決策的關鍵因素。今天，這種影響甚至更大，因為數據和信息可以大規模收集并提供給每個人。技術和人工智能方法成為利用數據的巨大推動者[1]。

廣泛可用的開源數據來自媒體、科學文章、相關(專家)門戶網站，涵蓋經濟、政治、社會、能源、交通運輸等帶來了創造更有洞察力的背景的可能性，并通過分析各種來源和整合結果為任何評估提供了有價值的新維度。

從軍事角度來看，我們從開源數據中確定了許多跨不同領域的重要指標，這些指標可以用于評估整個聯盟的戰備和恢復能力。來自不同領域的許多指標似乎相互影響，可以相互關聯。

在去年，北約CI機構數據科學團隊參與了一項創新性的概念驗證，包括轉型和作戰命令，如ACT、SHAPE和JFCBS;為了識別、提取、計算和呈現開源數據中最相關的指標，以支持整個聯盟的彈性評估。由于彈性評估是一項復雜的評估，它依賴于許多不同領域和事件的關系，因此該項目定義了較小的范圍，重點關注以下關鍵領域:

?關鍵基礎設施——醫院、發電廠、港口、液化天然氣接收站和軍事設施

?能源——專注于電力和天然氣

?交通——專注于空運、公路、海運和接近實時的交通指標

?媒體——態勢感知

其主要目標是通過使用來自公開數據集的大數據來確定相關指標。然后創建有用的策劃數據和機器學習(ML)模型，以識別相關關系，并提供對當前情況和破壞性事件影響的見解。為了提高結果的準確性，我們最初關注于一個特定的地理區域。

摘要

混合沖突的分析、評估和決策是復雜的，原因有很多：混合活動的信號是多維的；結合多種類型的信息是必要的；許多混合沖突是隱蔽的，或者很難從正常的國家與國家的關系中分辨出來。對混合沖突的評估需要包括對手行為者的戰略目標、被利用的社會脆弱性和背景事件、跨社會領域的活動，以及對目標社會的影響。在早期的工作中，我們根據混合沖突的這五個要素提出了一個分析過程。在本文中，我們在這項工作和更廣泛的情報文獻的基礎上，解決如何進行混合沖突評估的問題。具體來說，我們概述了一個詳細的評估過程，為決策者提供對形勢的了解，以選擇對混合威脅的預防性和反應性反應。所提議的程序的優點在于它對混合沖突的綜合評估，結合了目標社會的觀點和對手行為者的觀點。此外，所提出的評估功能依賴于人類產生的分析性見解--考慮到背景、模糊性、規范性--和從傳入數據中產生的信號--考慮到結構化和結合來自多個來源的信息--之間的持續互動。這種綜合視角超越了傳統的分析方法。我們提出的評估很適合引導人類和自動化情報的結合，并提供了一個分析方法和工具的藍圖，以應對混合沖突中的決策挑戰。

引言

混合沖突是國家之間的一種沖突，大多低于公開戰爭的門檻（見歐盟等的定義，2018年，北約，2019年和荷蘭層面的定義，NCTV，2019年）。混合沖突中的國家使用許多國家權力的措施來影響其他社會。這些措施包括外交、信息、軍事、經濟、金融、情報和執法手段。戰略層面上的混合沖突案例研究需要敘事和社交媒體操縱、針鋒相對的金融和經濟制裁、外交威脅、大規模軍事演習和許多其他全社會的互動。許多類型的混合威脅在前些年的經驗中是已知的。例如，美國的選舉影響，中國通過基礎設施投資的影響，以及俄羅斯在破壞烏克蘭穩定方面的努力。

混合沖突給決策者帶來了不同的挑戰。這是因為公開的軍事對抗大多被避免，只有低于武裝沖突的法律門檻的活動才被應用。網絡領域和信息領域是針對政府和社會的影響活動發生的主要領域。由于混合沖突中許多活動的隱蔽性或模糊性，在將活動歸于國家行為者方面存在很大問題。最后，混合沖突是對各種手段和方法的創造性安排，它創造了新的情況，對分析來說具有內在的挑戰性。在這篇文章中，更詳細地研究了在面臨上述挑戰時對混合沖突的評估。

摘要

有效的項目管理有賴于對風險的細致和精確的量化。根據Kaplan和Garrick(1981)的說法，風險是概率和影響。然而，影響往往是多維的，包括進度維度、安全維度、財務維度或技術維度等。本文打算介紹利用統計科學將多個風險維度合并為一個數值。在美國國家航空航天局（NASA）的許多項目中都使用了一種叫做MRISK的多維風險工具來評估和確定風險和緩解措施的優先次序。此外，本文將總結北約盟軍司令部轉型（ACT）目前的風險管理準則，并將告知北約ACT在風險評估和管理方面可以從統計科學中獲益的潛在方式。

MRISK工具是由博思艾倫咨詢公司在NASA蘭利研究中心開發的。我曾作為MRISK的開發者，通過這篇論文，我旨在提高對定量風險評估的認識，并介紹其在北約ACT的潛在應用。博思艾倫咨詢公司撰寫的MRISK原始論文是美國國家航空航天局的專利，并存放在美國國家航空航天局科學和技術信息（STI）庫中。本文所表達的觀點僅代表我個人，不代表我以前或現在的雇主的觀點或意見。

引言

所有的項目，無論其組織、復雜性、時間框架或目標如何，都會有風險。項目管理協會將風險定義為 "一個不確定的事件或條件，如果它發生，會對一個或多個目標產生積極或消極影響"。一個積極的風險被認為是一個機會，而一個消極的風險被認為是一個威脅。大多數情況下，風險管理意味著威脅管理。鑒于，不可能避免項目威脅，有效的項目管理必須包括成功管理它的方法。特別是考慮到減輕風險的缺陷最終會給聯盟帶來大量的資金，以及戰爭能力發展和進展的潛在滯后，它被證明是項目管理的一個重要組成部分。

風險管理包括風險識別、風險評估和風險應對。風險評估階段的目標是定性和/或定量地評估風險的概率和影響。傳統上，風險評估是定性進行的，這意味著它依賴于對單個風險的概率和影響的判斷。判斷可以基于過去的經驗、可比較的項目、或項目主題領域的專業知識。以這種方式進行的風險評估可以由一個人完成，也可以在一個有不同利益相關者和專家的團隊環境中完成。然而，僅僅是定性的風險評估并不總是充分的。

如果風險評估的主要目的是對風險進行優先排序，以確定哪些風險需要進一步研究和應對，那么定性評估就可能是足夠的。相反，如果風險評估需要高度的精確性和更多的結論性評價，那么定量評估與定性評估一起進行將對項目有益。

摘要

建模與仿真（M&S）是作戰分析人員用來支持決策者的一種關鍵方法，因為它有能力對復雜的問題提供清晰的見解。鑒于其好處，許多北約國家和北約內部的組織擁有大量的M&S專業知識，并將其應用于廣泛的問題。然而，這些模擬，特別是那些具有高度復雜性的模擬，可能是昂貴的，開發和驗證需要時間，并且需要專業知識和資源來使用。雖然在整個北約共享這些專業知識和這些模擬可能會導致更有效的決策支持，但它充滿了障礙，包括與項目時間表有關的時間壓力、知識產權，有時還需要共享機密材料。克服這些障礙將有助于北約從整個聯盟的M&S投資和專業知識中獲得應有的決策優勢。然而，為了克服這些障礙，需要有切實可行的解決方案。

在本文中，我們概述了MSG-SAS-178的工作，其目的是開發一種方法來減少這些障礙。我們討論了該小組的兩個主要貢獻。首先，該小組對北約內部共享M&S軟件、資源和模擬本身的常見障礙進行了識別和分類。其次，我們提出了一個障礙交換框架，在考慮數據、軟件、供應商和決策者等多個方面的障礙時，它可以作為決策支持工具。該框架提供了一種可操作的方式，通過仔細考慮模型和數據交換的要求以及交換帶來的障礙來塑造合作。這使得整個聯盟的M&S共享得到加強。

引言

幾十年來，建模與仿真（M&S）已被成功地用于支持北約的決策，是一種關鍵的分析能力。應用的領域包括先進的作戰計劃、基于能力的計劃、能力和/或概念開發，以及支持實驗和戰爭游戲。M&S有多種形式，從設計多年的大型復雜戰役模擬，到為單一目的快速建立的模擬。大型復雜模型的開發和維護成本很高，而且許多模型需要專家的專業知識，而這些專業知識是供不應求的。成本和所需的專業知識使M&S成為北約集體能力和合作意愿的一個領域，應使聯盟比其對手更有優勢。

通常情況下，有四個來源可以提供模擬服務。(1）北約實體，（2）國家政府，（3）工業，和（4）學術界。這四個方面都有專業知識、工具和數據。專業知識和工具的開發和維護可能是昂貴和費時的，特別是在專業或利基領域。對于數據來說，國防中使用的分類級別可能是一個問題，限制了工業界和學術界，并影響了國家和北約層面的共享。

北約實體和國家政府已經成為北約仿真服務的首選。在北約內部簽訂服務合同相對容易，但經驗表明，與國家政府或其他實體簽訂合同則充滿了困難。在整個北約提供模擬服務方面存在障礙，導致爐灶和低效率。在北約的科學和技術組織（STO）下，2019年啟動了一個聯合建模與仿真小組（MSG）和系統分析與研究（SAS）活動（MSG-SAS-178）。該活動的目的是考慮如何克服障礙，使北約及其所有成員受益。本文討論了該小組的兩個主要貢獻。首先，該小組對在北約內部共享M&S軟件、資源和模擬本身的共同障礙進行了識別和分類。第二，一個障礙交換框架，在考慮數據、軟件、供應商和決策者等多個方面的障礙時，可作為決策支持工具。該框架提供了一種可操作的方式，通過仔細考慮模型和數據交換的要求以及交換帶來的障礙，來塑造合作并為成功創造條件。這使得整個聯盟的M&S共享得到加強。

本文的其余部分組織如下。第2節概述了本研究中使用的方法。接下來，第3節討論了共享的障礙：首先是通過對知識共享文獻的回顧而發現的障礙，其次是通過MSG-SAS-178活動而發現的與北約內部和國家之間共享模擬有關的障礙。第4節介紹了一種引導模型和數據交換的方法，這也許是國防領域最重要的一組障礙。從MSG-SAS-178更詳細的案例研究庫中，我們介紹了數據和模型交換框架如何在現實世界的場景中使用。第5節提供了結論意見。

摘要

作為一個多國聯盟，當北約的成員國能夠在短時間內自信地將他們的部隊聚集在一起時，北約是最有效的。因此，一個關鍵的信息要求是了解其國家部隊的互操作性程度。為了有效地傳達這種理解，需要統一的、可重復的、可靠的和結構化的方法和框架。成立SAS-156的目的是為互操作性數據的測量、收集和評估制定一個北約標準。信息時代的要求對不同單位快速、方便、安全地連接和共享信息的能力提出了挑戰，但人和程序的因素仍然同樣重要。作者將介紹他們根據在加拿大聯合作戰司令部的工作經驗，對參與國的現有評估框架進行綜合和擴展的工作。加拿大武裝部隊的經驗特別相關，因為它是北約在拉脫維亞的多國增強型前沿存在戰斗小組的框架國家，并且輪流領導北約常設海上小組。

引言

聯盟和伙伴關系一直是上個世紀成功的大規模作戰行動的一個關鍵組成部分。互操作性--為實現戰術、作戰和戰略目標而一致、有效和高效地共同行動的能力--是取得成功的關鍵。北約國家和合作伙伴了解互操作性的重要性，并且已經和正在收集關于行動和演習及活動的大量數據，以評估多國聯盟能夠實現互操作性的程度。然而，諸如缺乏標準術語等障礙仍然存在，而且可靠和有效的數據收集方法仍然難以找到。為了彌補這一缺陷，向系統分析和研究（SAS）小組提出的技術活動建議在2019年獲得批準，由此產生的后續活動，即北約任務組SAS-156 "制定評估多國互操作性的標準方法"，正在追求這些明確的研究和利用目標：

• 幫助北約實現互操作性數據定義、收集和管理的標準。

• 讓軍事規劃人員更好地了解他們與合作伙伴的互操作性狀況，并在他們之間以共同的方式討論這些評估。

• 為追求自身互操作性目標的各個國家的資源配置決策提供依據。

摘要

人工智能領域的進展繼續擴大這組技術的潛在軍事應用范圍。本文探討了信任在人機聯合作戰中的關鍵作用，以及依靠人工智能來補充人類認知的潛在影響。如果依靠人工智能來準確處理傳感器數據，操作自主系統和平臺，或通過擬議的作戰概念（如以決策為中心的戰爭）提供有利的決策支持，設想機器智能的中央指揮和控制作用，那么信任機器智能將是未來作戰中的一個關鍵組成部分。鑒于這些技術和理論的發展，信任的概念對于機器智能在戰術和作戰層面的軍事行動中的使用變得高度相關，正確校準的信任水平是安全和有效行動的基礎。在簡要回顧了機器智能的最新進展和對信任概念的探索之后，本文概述了人工智能在戰場上的當前和潛在應用，以及由不充分或不合理的高信任度帶來的挑戰。

引言

縱觀歷史，技術已經擴大了武裝沖突的領域，戰術交戰的節奏，戰場的地理范圍，以及指揮官與部隊溝通的手段。技術創新--包括軍事和民用--改變了軍隊的作戰方式以及國家計劃和進行這些沖突的方式。在21世紀，迄今為止，很少有進步能像統稱為人工智能（AI）的一組技術那樣獲得如此多的關注。人工智能正準備迎來一個新的時代，在這個時代，機器智能和自主性正在為軍事行動的規劃和執行產生明顯的新概念。算法戰爭可能會帶來一些獨特的東西：增強甚至取代人類決策過程的系統，其速度可能超過人類規劃者的認知能力。
新興技術的整合提出了任何數量的基本組織和倫理問題，值得關注。本文將采用定性的社會科學方法，重點討論人類-自治團隊（HAT）的一個重要方面：鼓勵對機器智能的適當信任程度。有大量的學術文獻關注自動化或機器人技術中的信任問題，但有關具體軍事應用的工作較少。當人工智能在聯合作戰中被實際部署時，在信任方面有哪些挑戰和機會？在簡要回顧人工智能和概述機器智能在戰場上的可能應用之后，本文在分析鼓勵適當信任水平的陷阱和潛在解決方案之前，探討了信任和信任校準的概念。

人工智能的進展

幾十年來，人類一直對賦予機器某種形式的人工智能的可能性著迷，Nils Nilsson將其定義為 "致力于使機器智能化的活動，而智能是使一個實體在其環境中適當運作并具有預見性的品質"。在數字時代的早期，出現了兩種廣泛的人工智能方法。自上而下的專家系統方法使用復雜的預編程規則和邏輯推理來分析一個特定的數據集。對于具有可預測規則的明確定義的環境--諸如分析實驗室結果或下棋等應用--專家系統或 "符號 "人工智能（基于符號邏輯）的性能主要取決于處理速度和算法的質量。另一大類使用自下而上的機器學習方法，模擬人類通過檢測數據中的模式進行學習的方式。神經網絡是一種以人腦為模型的機器學習形式，能夠通過使用多個（因此是 "深"）人工神經元層來識別復雜的模式，是被稱為 "深度學習 "的技術的基礎。通過其在數據集中尋找關系的能力，這種技術也被稱為 "連接主義"。
自上而下、基于規則的符號系統和自下而上的機器學習連接主義技術之間的差異是很大的，特別是關于它們的潛在應用范圍和靈活性。深度學習方法的顯著特點是能夠將學習與它所訓練的數據集分開，因此可以應用于其他問題。基于規則的算法可以在狹義的任務中表現得非常好，而深度學習方法能夠迅速找到模式，并在 "蠻力 "專家系統計算方法無效的情況下有效地自學應用。最近的一些人工智能進展顯示了模仿創造力的能力，產生了有效的解決問題的方法，這些方法對人類來說可能是反直覺的。
然而，總的來說，人工智能仍然是狹窄的或 "脆弱的"，即它們在特定的應用中功能良好，但在用于其他應用時仍然不靈活。與人類的認知相比，鑒于機器的計算速度遠遠超過人腦，機器智能在將邏輯規則應用于數據集時要優越得多，但在嘗試歸納推理時，它必須對數據集或環境進行一般性的觀察，這就顯得不足。大多數機器學習仍然需要大量的訓練數據集，盡管新的方法（包括生成對抗網絡（GAN）和 "小于一次 "或LO-shot學習）正在出現，需要非常小的數據集。圖像識別算法很容易被混淆，不能像人類那樣立即或直觀地理解情景背景。這種脆性也延伸到了其他問題，比如游戲。雖然人工智能在視頻游戲中經常表現出超人的能力，但他們往往不能將這種專業知識轉移到具有類似規則或玩法的新游戲中。
 雖然人工智能技術繼續在變得更加適應方面取得重大進展，但任何接近人類的人工通用智能仍然難以實現。評估人工智能的近期前景因該技術的漸進式進展而變得更加復雜。圍繞著人工智能的炒作--在很大程度上被深度學習方法的成功所推動--既導致了對該技術未來的不切實際的期望，也導致了對其非常大的進展的正常化。正如一份報告所指出的，"人工智能將一項新技術帶入普通人的視野，人們對這項技術習以為常，它不再被認為是人工智能，而出現了更新的技術"。盡管象征性的人工智能和各種形式的機器學習構成了該領域最近的大部分進展，也許除了融合這兩種方法的嘗試之外，未來仍然不確定。一些人猜測，機器學習技術帶來的進展可能會趨于平穩，而另一些人則保持樂觀。相關的技術進步，如短期內的計算機芯片設計和長期內的量子計算，可能會影響進一步進展的速度。

?

對于群體智能中的人類操作員來說，關鍵情況下的決策支持至關重要。自主系統共享的大量數據很容易使人類決策者不堪重負，因此需要支持以智能方式分析數據。為此，使用了用于評估情況和指示可疑行為或統計異常值的自主系統。這增強了他們的態勢感知能力并減少了工作量。因此，在這項工作中，強調為檢測監視任務中的異常而開發的數據融合服務，例如在海事領域，可以適應支持集群智能的運營商。此外，為了使人類操作員能夠理解群體的行為和數據融合服務的結果，引入了可解釋的人工智能 (XAI) 概念。通過為某些決策提供解釋，這使得自主系統的行為更容易被人類理解。

作者解決了由于自主系統共享大量數據而導致的信息過載問題。為了緩解這個問題，他們建議通過兩種智能數據分析方式來幫助人類操作員。第一種方法是自動異常檢測，這可能會加強人類操作員的 態勢感知SA 并減少他們的工作量。第二種方法是可解釋的人工智能 (XAI) 概念；它們有可能使群體行為以及異常檢測結果更易于理解。

作者認為，控制一群無人機仍然具有挑戰性。一方面，（半自動化）群體代理“必須決定行動方案”；另一方面，人類操作員必須決定他們的行動，例如與群體互動。提出的建議力求改善人在循環中。考慮到海上監視的應用，使用非固定代理的動態方法具有幾個優點。首先，某些場景只能使用動態方法進行管理；其次，與固定監視傳感器相比，代理更便宜；第三，在多個地點靈活使用代理可以減少操作群體所需的人員數量。然而，情況評估仍然需要知情的操作員。

作者認為，在海洋領域用于船舶分析的異常檢測算法可能適用于引入以下場景的群體。“假設我們有一個群體來支持海上船只，這些船只不僅會收集它們自己的傳感器系統可用的數據，還會收集所有資產的數據。所有來源收集的信息都需要融合成一幅連貫的畫面。這不應僅限于 JDL 數據融合的第一級，而應包括更高級別的數據融合過程，以獲取有關附近所有對象的可用信息。” 數據驅動的方法能夠應對這種情況。文獻提供了三種檢測位置和運動異常的方法：統計解釋為與正常行為相比的異常值；聚類分析聚類相似的軌跡和確切的路線；用于建模正常移動模式的深度學習方法。為了應對更復雜的場景，包括船舶周圍環境（基礎設施、地理、天氣等）在內的算法是必要的。在某些復雜異常的情況下，區分正常和異常行為需要基于規則、基于模糊、多智能體或基于概率圖形模型的算法。對于所有提到的算法類別，作者都指出了大量的示例算法。

一些算法是黑盒模型，因此，它們的解釋對于人類操作員來說是復雜的。XAI 概念可以幫助緩解這個問題。XAI 概念旨在“提供道德、隱私、信心、信任和安全”，并努力在“它已經做了什么、現在正在做什么以及接下來會發生什么”中明確決策。，從而提高了人工操作員的 SA。考慮到 XAI 模型，模型特定方法（僅限于某些數學模型）可以與模型無關（適用于任何類型的模型）方法區分開來。

在目前的貢獻中，重點是與模型無關的方法。考慮到這些，局部解釋方法（解釋整個模型的單個預測結果）可以與全局解釋方法（解釋整個模型的行為，例如以規則列表的形式）區分開來。此外，作者使用特征屬性、路徑屬性和關聯規則挖掘來區分方法。通過特征屬性，“用戶將能夠了解他們的網絡依賴于哪些特征”；方法示例是提供全局和局部可解釋性的 Shapley Additive Explanations (SHAP) 和指示“模型在進行預測時考慮的輸入特征” 的局部可解釋模型無關解釋 (LIME)。路徑集成梯度（PIG，使用局部解釋）等路徑屬性提供了對模型預測貢獻最大的特征，從而深入了解導致決策的推理。關聯規則挖掘（ARM）是另一種使用全局解釋的方法，發現大型數據集中特征之間的相關性和共現。ARM 方法使用簡單的 if-then 規則，因此被認為是最可解釋的預測模型。可伸縮貝葉斯規則列表 (SBRL)、基尼正則化 (GiniReg) 和規則正則化 (RuleReg) 技術被認為適用于監視任務。

作者認為，使用這樣的 XAI 概念，人類操作員（決策者）可以更好地理解、更好地控制和更好地與一群自主代理進行通信，尤其是在具有挑戰性的環境中。總而言之，將異常檢測和 XAI 概念這兩種方法應用于人類在環、用戶對群體智能的理解和信任可能會得到改善。