美國空軍無處不在的一套任務是在高附帶環境下從空中平臺攻擊民用環境中的軍事目標。概述戰術條令的《聯合出版物 3-60》將其定義為 “發現、固定、跟蹤、瞄準、攻擊、評估” (F2T2EA)“殺傷鏈”。前三個階段(F2T)代表情報、監視和偵察(ISR),必須在與目標交戰前完成。MQ-9 “死神 ”是一種遙控飛機(RPA),它已成為任務集中的一項重要資產。
RPA ISR 行動的一個限制因素是,如果指揮鏈路被切斷,就會失去目標軌跡。RPA 要在沒有指揮鏈路的情況下有效執行 ISR 任務,就需要具備自主 F2T 目標的能力。自動查找、固定和跟蹤 (AFFTRAC) 就是為幫助解決這一問題而開發的。雖然算法組件并不新穎,但創建并集成到概念驗證戰術自動駕駛儀中卻很新穎。單目立體視覺用于處理軌道期間獲取的連續圖像,以生成原始結構的部分結構點云。然后,利用該部分結構點云生成飛機停留區域的密度。一種簡單的貪婪算法利用這一滯留區域密度生成飛機轉彎指令,以近似于戰術 ISR 滯留。其結果是,現有 MQ-9 傳感器的圖像被用來提供指令引導,以自主保持對目標的視線。
通過加權分類準確性對保持區域密度的生成進行評分。模擬中 55% 的準確率足以保證保持正確。飛行測試中 38% 的得分不足可能是由于部分結構點云的旋轉誤差造成的。生成的轉彎指令正確率為 94%。然而,次優指令并沒有引導飛機攔截停機區域密度的中間部分,從而產生了振蕩飛行路徑。在模擬飛行中,AFFTRAC 有 87% 的時間停留在保持區域內,但在飛行測試中,由于較高的空速和較低的指令延遲,只有 45% 的時間停留在保持區域內,這使得振蕩飛行路徑更加惡化。在模擬飛行中,AFFTRAC 有 96% 的時間與目標保持視線一致,而在飛行測試中則為 100%。這優于 360 度恒定保持的 82% 和 MQ-9 飛行員的 96%。總體而言,AFFTRAC 是一個很有前途的戰術自動駕駛儀初始框架,但還需要進一步開發,使組件算法更加成熟。
本論文的結構遵循典型的順序。但是,必須牢記有兩種模式:模擬和飛行測試。在論文的正常進程中,這兩個部分將并行處理。第 2 章包括文獻和理論綜述。本章需要學術讀者特別注意,因為其中提出的許多操作概念對理解至關重要。一些設計選擇源自這些操作范式。第 3 章詳細介紹了模擬和現實世界實例的方法。該章按這兩個領域的組成部分進行了細分。第 4 章討論結果并評估其性能。第 5 章包含模擬和測試之間的定性比較、總體結論以及對后續工作的具體建議。
無人戰術自主控制與協作(UTACC)系統旨在以不增加作戰人員認知負擔的方式將陸戰隊員與機器整合在一起。當機器與人類是相互依存的隊友,而不是遵循人類操作機器人的框架時,機器如何與人類交流,反之亦然?這一能力的關鍵在于將可觀察性、可預測性和可指導性納入界面設計的能力。以前的研究是從海軍陸戰隊火力小組的角度來研究這個問題的,該火力小組的成員之一就是機器人。選擇合適的界面類型來促進火力小組(無論是人類還是機器)之間的交流,對于他們能否真正發揮團隊作用和相互信任至關重要。但是,這些通信都是在隊友的近距離內進行的。如果將這一概念擴展到小分隊之外,會發生什么變化呢?本論文包括三個基本重點領域。首先,UTACC 火力小組與更高級別的軍事單位之間保持態勢感知所需的基本信息是什么?換言之,這是信息交換的 “內容”。其次,無論交換什么類型的信息,界面設計的原則是什么?最后,本論文提出了評估這些原則和具體信息交換要求的方法。
本文分為另外四章。第二章是文獻綜述,探討了人機界面(HMI)和人機協作的態勢感知模型。第三章介紹了將機器納入美國海軍陸戰隊部隊以提高任務能力的研究方法,重點是通過團隊態勢感知進行溝通和決策。第四章介紹第三章所述的研究結果。第五章總結了論文的研究成果,并為海軍陸戰隊在人機界面和機器人領域的進一步研究提出了建議。
這份多軍種戰術、技術和程序(MTTP)出版物規定了戰術指揮與控制(TAC C2)的通信戰術、技術和程序(TTP),以管理空中行動并控制空域和飛機。它還規定了部隊包裝和直接空中支援協調、空對空(A/A)通信、A/A 攔截、威脅 A/A 警告、威脅地對空警告和空對地通信的 TTP。
本出版物為控制和協調 TAC C2 管理責任區 (AOR) 內的空中行動提供了 MTTP。
本 MTTP 出版物適用于在聯合部隊指揮官 (JFC) 管理的責任區(AOR)內執行空中行動的所有 TAC C2 空域控制人員和作戰人員,并由空域控制當局根據 JFC 簽署的空域控制計劃 (ACP) 和空域控制命令 (ACO) 進行監督。作戰計劃人員和演習計劃人員可利用本出版物為 ACP、ACO、特別指令、區域防空計劃和交戰規則提供信息。
本出版物為各軍種提供了利用情報、監視和偵察(ISR)群的途徑。它提供了通過與 TAC C2 聯系,利用 RQ-4H、RC-135、E-8 聯合監視目標攻擊雷達系統 (JSTARS)、U-2、無人機系統 (UAS)、太空和網絡空間等平臺的當前情報的 TTP。TAC C2 可由美國空軍、海軍或海軍陸戰隊負責。TAC C2 將提供當前的綜合戰區情況。
例如,地面部隊指揮官命令 “阿帕奇 ”在美國陸軍控制的空域進行武裝偵察。主要目標是敵方防空和炮兵連。在出發執行任務前,部隊情報部門通報了已知威脅和目標位置,但 “阿帕奇 ”沒有有機的 ISR 來更新這些位置。在執行任務期間,“阿帕奇 ”將與戰術控制中心 C2 聯系,以獲取 ISR 人員關于威脅和目標位置的最新情報。這些信息將提高態勢感知能力和任務效率。
在攻擊多個目標后,機組人員的彈藥耗盡,但目標依然存在。機組人員將再次向 TAC C2 尋求支持。向 TAC C2 傳遞網格位置增強了戰區全貌,并能重新分配其他資產打擊目標,支持地面部隊指揮官實現目標。
航空業中的小型無人機系統(sUAS)領域正經歷著前所未有的增長。然而,將 sUAS 安全納入國家空域系統 (NAS) 的監管指南并未跟上市場技術發展的步伐。目前對視線操作的監管限制可能會影響到為無人機系統的操作建立與有人駕駛飛機同等的安全水平。視線操作討論的焦點一直是無人機系統飛行員能否安全及時地看到并避開所有障礙物和其他飛機。本論文研究的目的是考察在 NAS 內駕駛 sUAS 時使用第一人稱視角(FPV)技術是否會對操作員的工作量產生影響,以及 FPV 技術是否會影響操作員的 1 級態勢感知(SA)。更具體地說,本研究考察了使用三種視覺敏銳度技術時無人機系統操作員的工作量和 1 級態勢感知:視覺視線、使用 21 英寸液晶顯示器的 FPV 以及使用 FPV 頭戴式護目鏡。
為了收集分析所需的數據,設計并進行了一項初步實驗。參與者被隨機分配到三個視覺敏銳度技術組中的一組,并被要求在飛行路線上駕駛大疆 Inspire 1 四旋翼飛行器。參與者完成了一項人口調查、石原色盲測試和兩項實驗后測試。實驗后測試包括美國國家航空航天局任務負荷指數(NASA TLX)問卷調查和 1 級 SA 測試,分別用于評估參與者在實驗過程中根據指定視敏度技術感知到的工作量和對飛行課程環境因素的回憶。為驗證假設,進行了方差分析和方差分析檢驗。結果表明,三組學員在感知工作量或 SA 方面的得分在統計學上沒有顯著差異。
實驗的初步結果為使用從美國國家航空航天局航空安全報告系統數據庫中檢索到的無人機系統數據集(其中主要飛機被列為無人機系統)進行進一步分析奠定了基礎。在事件報告中,SA 被確定為人為因素中最普遍的致因。使用卡方統計檢驗對 SA 組和非 SA 組進行了比較。結果表明,將 SA 列為致因因素的事件報告與報告中列出的事件地理區域之間存在顯著的統計學關聯。其他的卡方分析表明,在報告中未指明地理區域的事件報告中,SA 的人為因素與時間壓力之間存在統計學意義上的顯著關聯。航空組織的安全管理人員必須不斷分析其安全管理系統的性能,以確保其風險緩解措施的有效性。本文研究提供的信息有助于業務經理及其風險緩解流程的選擇。
軍事行動需要具備對復雜的大城市環境進行態勢了解的能力。這通常是在情報、監視和偵察(ISR)任務中制定的。這些任務類型發生在戰斗的不同階段,包括戰斗行動和穩定與支持行動(SASO)。自主移動機器人小組可在已知的動態城市環境中執行巡邏和偵察任務,為士兵提供支持。
本文旨在開發一個名為 "風險地圖 "的概率框架。自主機器人將使用 "風險地圖 "規劃其行動,"風險地圖 "顯示了一個與戰術相關的位置,在該位置的暴露或環境可能使攻擊造成最大傷害(例如,可能的簡易爆炸裝置或狙擊手位置)。
“風險地圖”以決策過程為基礎,針對適應性對手事件分配機器人巡邏。這些技術將利用時間演化來防止對手不可避免地適應這些策略,因為這可能會使這些策略的效果大打折扣。
使用多機器人協調方法進行分散、信息量大且自適應的采樣應用不會出現單點故障。它允許隨時預測,任何機器人在任何時間點都能獲得環境的合理模型。此外,它還能將所需的通信量保持在最低水平。此外,適當的地理信息系統(GIS)技術為軍事指揮官提供了快速整合數據集、評估條件、規劃戰略和評估選項的手段。
圖:UGV和無人機之間的交互作用,進行源搜索和目視目標識別。
未來,人類將與人工智能系統密切合作。智能系統將成為團隊成員,并將起到擴展單個單元的覆蓋范圍和能力的作用,從而實現前所未有的能力。
自主機器人的智能探索和強大的協作監控將成為城市行動的關鍵,使其能夠預防未來的脆弱性和威脅風險。本論文探討了環境的先驗知識和類似場景中的行動歷史如何預測和預防未來的攻擊。在這篇論文中,我們提出了一個概率框架,在這個框架中,可以將一套領域專家規則與空間和語義知識結合起來,使自主智能體能夠收集信息。然后,自主智能體可以利用這個不斷演化的框架,針對不斷變化的信息環境規劃最佳行動,從而以最佳方式完成任務。我們的方法擴展了[Pit+08; ZST15]中描述的技術,用于本論文中介紹的 MAST/ARL 導航模塊所使用的基于信息的探索框架。Pita 等人創建了系統架構: ARMOR。該系統提供的月歷滿足了洛杉磯國際機場官員對檢查站和警犬在洛杉磯國際機場部署的所有關鍵要求。
多機器人團隊為部隊提供支持的一大挑戰是了解環境是如何動態變化的,以便為車隊選擇最明顯或最便捷路線的區域提供安全保障。為了應對這一挑戰,利用有關特定地點的地理信息系統數據和活動日志很有意義。實現這一目標的一種方法是使用基于信息的地圖(風險地圖),該地圖由一組模塊化組件組成,在評估風險的先驗概率時,這些組件代表了敵方戰略知識。此外,風險地圖還有一個時間組件,可逐漸回到先前的地圖狀態,代表戰爭迷霧。
我們考慮的現實場景是,由不同能力的機器人組成的團隊探索未知環境,每個機器人獲取并計算自己的地圖,并與團隊其他成員交換這些信息,同時考慮到通信限制,即機器人只能在特定距離內通信,信息量的交換受帶寬限制。此外,每個機器人都能從探索任務切換到尋找任務源,并能在需要時提供或請求援助。
利用自適應信息采樣的多機器人探索和導航協調策略,使機器人平臺能夠在未知環境中自主執行情報、監視和偵察(ISR)任務,從而防止未來的脆弱性和威脅風險。
本論文的所有貢獻都通過使用模擬和真實數據的實驗結果得到了驗證。
圖:模擬地圖,用于在舞臺模擬器內的各類環境中測試協調策略。機器人在其初始起始區域顯示為一排紅點,該區域代表一個突破口。導航關鍵點用紅色 "X "標記表示。
低成本的無人駕駛飛行器(UAV)編隊已被接受為合作搜索和勘測地形的替代方案。這些無人飛行器由可靠性較低的單元組裝而成,因此可能出現單元故障。由于無人飛行器也是通信節點,因此因故障而失去無人飛行器會降低編隊的覆蓋效率并影響通信。飛行 Ad Hoc 網絡(FANET)就屬于這種情況,一個通信節點的故障可能會使覆蓋多個節點的網絡部分被隔離。
本研究的主要目標是開發一種彈性模型,使我們能夠分析單個無人機故障對編隊性能的影響,從而提高編隊的彈性。
所提出的解決方案使用基于智能體的建模與仿真技術對無人機編隊進行建模與仿真。無人機被建模為自主智能體,搜索到的地形被建模為二維 MxN 網格。通過智能體之間的通信,可以實時掌握所有單元格過境和占用的準確數據。通過這種通信,無人駕駛飛行器智能體可以估算出在網格內移動的最佳選擇,并知道所有智能體訪問單元格的確切次數。
每架無人機都被模擬為業余愛好者使用的固定翼飛機,配備一套通用執行器和一個通用控制器。單個無人飛行器的故障按照可靠性故障樹進行模擬。每個受影響的無人飛行器都會被禁用,并從有效單元庫中剔除。每次單元故障后,系統都會生成新的拓撲結構。它會為網格中的每個節點(無人飛行器)生成一組最小距離樹。因此,在節點故障后,或在網格發生變化時,新樹將根據需要描繪出重新排列的鏈接。 節點移動導致拓撲結構發生變化。該模型應生成各種參數,如受損節點的數量和位置、故障前后的性能,以及建立編隊恢復能力模型所需的估計恢復時間。本研究涉及三個研究目標:為無人機場景建模確定適當的工具;開發一個用于評估無人機編隊恢復能力的模型,以克服以往研究的局限性;以及通過多次模擬對模型進行測試。
由于以往的研究側重于系統通信中斷(即節點故障),而沒有考慮無人機單元的可靠性,因此本研究填補了這一文獻空白。隨著使用容易發生故障的低成本小型單元的普及,這種考慮變得至關重要。
隨著技術的不斷進步和日常對海洋資源的依賴,無人水面航行器(USVs)的作用成倍增加。目前,具有海軍、民用和科學用途的 USV 正在各種復雜的海洋環境中進行廣泛的作業,并對其自主性和適應性提出了更高的要求。USV 自主運行的一個關鍵要求是擁有一個多車輛框架,在此框架下,USV 可以在實際海洋環境中作為一個群體運行,并具有多種優勢,例如可以在更短的時間內勘測更廣闊的區域。從文獻中可以看出,在單體 USV 路徑規劃、制導和控制領域已經開展了大量研究,而在了解多載體方法對 USV 的影響方面卻鮮有研究。本論文整合了高效的最優路徑規劃、穩健的路徑跟蹤制導和合作性集群聚合方法等模塊,旨在開發一種新的混合框架,用于 USV 蟲群的合作導航,以實現海洋環境中的最優自主操作。
首先,設計了一種基于 A* 算法的有效而新穎的最佳路徑規劃方法,其中考慮到了與障礙物的安全距離約束,以避免在移動障礙物和海面洋流的情況下發生碰撞。然后,將這種方法與為 USV 開發的新型虛擬目標路徑跟蹤制導模塊相結合,將路徑規劃器的參考軌跡輸入制導系統。當前工作的新穎之處在于將上述集成路徑跟蹤制導系統與分布式集群聚集行為相結合,通過基于簡單電位的吸引和排斥功能來維持 USV 蟲群的中心點,從而引導 USV 集群進入參考路徑。最后,介紹了一個用于 USV 船隊合作導航和制導的最佳混合框架,該框架可在實際海洋環境中實施,并可在海上有效地實際應用。
在機載預警與控制(AEW&C)系統中,作戰員需要保持警惕,執行多項任務,進行溝通,并在任務期間同時處理不同來源的信息。作戰員的主要目標是接收、解釋和分發 AEW&C 系統提供的信息和數據,以創建識別海空圖像(RASP)。然后利用這些信息來執行戰斗機控制和探測異常情況等任務。指揮與控制(C2)系統能力的增強和環境中新威脅的出現,使作戰員的任務比以往任何時候都更加廣泛、復雜和繁瑣,這有可能損害他們的態勢感知(SA),進而影響他們的決策。這一領域具有高風險,錯誤的決策可能會帶來毀滅性的影響。因此,尋找促進 SA 的新技術的重要性不容忽視。隨著人工智能(AI)應用的快速增長,技術的日益成熟為創建促進 SA 的系統提供了新的可能性。這促使我們開展研究,探索和分析人工智能為 AEW&C 作戰員提供的促進 SA 的機會,特別是戰斗機控制員(FC)和監視作戰員(SO)等關鍵角色。本研究旨在回答何時以及如何實施人工智能以促進 SA 的問題。
在回答這些問題時,采用了通過設計進行研究的方法。在回答 "何時 "的問題時,采用了系統分析、用戶研究、概念開發和評估等方法;在回答 "如何 "的問題時,采用了通過文獻研究和親和圖來制定指導原則,并在概念開發和評估中應用這些指導原則進行測試的方法。該系統分為四個獨立的子系統,分別規定了目標、主體、工具和結果。分別為 FC 和 SO 確定了七類與 SA 相關的挑戰。為每個角色創建了四個旨在改進 SA 的概念,其中談話翻譯工具、隊形識別工具、異常檢測工具和時間軸工具被認為是最有希望進一步開展工作的概念。為人工智能功能開發的三個階段制定了指導方針:規劃、設計和評估。這些指導方針證實了通過研究進行設計的實用性,可用于探索實施人工智能的機會、構思和創建概念,并在 AEW&C 環境中對其進行評估。
圖 5. 與通過研究框架進行設計有關的預研究階段
地面戰斗單位應利用和加強機動作戰的作戰理念,將人機協作和人機結合概念化,以實現和利用更快的節奏、更多的機動選擇和對海軍陸戰隊的保護。
半人馬機動作戰的目的是探索海軍陸戰隊下一代地面作戰單元(GCE)如何利用人機協作(HM-C)和有人無人協同作戰(MUM-T)來實現機器人和自主系統的協同效益,從而提高海軍陸戰隊在戰場上的戰斗力。在古典希臘神話中,半人馬代表著 "一種擁有人的頭部、手臂和軀干,馬的身體和腿的生物"。與這種神話生物如何利用邊緣存在的好處類似,HM-C 和 MUM-T 反映了半人馬的各種表現形式。在這一構想中,新興的戰斗網絡通過利用自主性和狹義人工智能方面的商業進步,將人類的精華與機器的精華結合在一起,以實現相對于對手的比較優勢。由此產生的 "第五代地面作戰單元半人馬"(Centaurs for the Fifth-Generation Ground Combat Element)概念涉及海軍陸戰隊作戰概念中的軍種方向、海軍陸戰隊司令部提出的為 21 世紀重振機動作戰思維的任務,以及為 GCE 提供第五代能力的任務。探索這些方向的方法包括:對戰爭中的 "人馬 "進行文獻綜述;對 "UE CITY "行動進行歷史案例研究,以檢查 GCE 所特有的問題集;以及通過作戰決策游戲對最初的概念假設進行測試。這些工作為最終概念的形成提供了依據。
第五代地面作戰單元 "半人馬 "利用、加強并充當了重振機動作戰這一作戰理念的工具。最近的技術進步為取得相對優勢所提供的價值在于人機協同作戰,以提高人類作戰人員的效能,而不是取代他們。HM-C 加強了 GCE 創造時間優勢的能力,利用速度和時間作為武器。與作戰網絡連接的高性能計算、自主性和狹義人工智能有助于過濾大量數據中的噪音,以發現作戰環境中的相關線索、異常值和異常現象。這種機器輔助功能可幫助指揮官及其參謀人員確定敵方的方向,從而更快地做出與敵方或與作戰環境相關的競爭因素有關的正確決策。MUM-T 加強了全球指揮和控制中心創造空間優勢、利用敵方空隙和弱點的能力。無人系統可作為有人編隊的先頭部隊和側翼屏障,發現、固定和擾亂敵方編隊,而主力部隊則以速度、出其不意和集中果斷的行動來利用這些塑造行動。利用無人系統提供的戰術阻隔,可加強對配對有人編隊的保護。MUM-T 加強了 GCE 創造心理優勢的能力,將欺騙作為一種武器加以利用。多領域無人系統擴大了欺騙和誤導能力,以破壞敵方決策的速度和準確性。第五代地面作戰單元的 "半人馬 "并不會降低對陸戰隊空中地面特遣部隊(MAGTF)航空作戰單元或后勤作戰單元的需求或取代其價值。地面半人馬編隊是對 MAGTF 構建的補充,是聯合武器小組的擴展,旨在使敵方失去平衡,陷入無法取勝的困境。作為 "唯一能奪取和占領地形的 MAGTF 要素",第五代地面作戰要素應成為發展 21 世紀 MAGTF 聯合武器小組屬性的主要工作方向。
對手對美國在太空、網絡空間和電磁頻譜上的優勢的競爭的崛起要求海軍陸戰隊的指揮、控制和通信(C3)發生變化。戰術空中指揮中心(TACC)是海軍陸戰隊中最關鍵的C3節點,在海軍陸戰隊的遠征先進基地作戰(EABO)概念下,在有爭議的通信環境中,目前所采用的方式將無法生存。
海軍陸戰隊必須轉變其對通信的概念化和理解,以促進在有爭議的通信環境中的指揮和控制。爭奪電磁頻譜內外的通信途徑將需要預測在通信斷續期間做出作戰決策所需的信息。TACC應該成為一個低可觀察性、小型和移動、具有聯合互操作性的網絡化的C3節點,在對手的武器交戰區內運作。通過這些改變,TACC將成為符合海軍陸戰隊EABO概念的有彈性、有條件的前方海軍空中作戰中心(AOC),并將為海軍-海軍陸戰隊團隊和聯合部隊提供重要的C3能力。
目前,人工智能(AI)為改造許多軍事行動領域提供了巨大的機會,包括作戰、指揮與控制(C2)、后勤、安全和維護,以提高其整體作戰效率。空中和導彈防御(AMD)是一個特別復雜的任務領域,人工智能的應用至關重要。空中導彈防御任務指的是保衛國土、保護區、地面基地、地面部隊或艦艇免受敵對的空中或導彈威脅。AMD的威脅包括敵對的飛機、無人駕駛飛行器(UAV)或機載導彈。AMD行動的復雜性源于威脅的嚴重性、威脅的意外性、對形勢認識的不確定性以及事件的快速發展,因為作戰人員必須迅速評估形勢,制定適當的行動方案,并最好地利用他們的戰爭資產來應對。美國國防部(U.S. DOD)正在研究使用AI系統(或AI-enabled AMD[AI-AMD]系統)作為AMD作戰人員的自動決策輔助工具,以大大減少他們的認知負荷(Jones等人,2020),使AMD決策更快、更好。
人工智能的一個關鍵方面已經聚集了大量的研究興趣,那就是信任。信任是有效團隊的一個基本原則。它同時適用于人類和人機團隊。信任使團隊成員能夠很好地合作,是有效團隊表現的基礎(Lee and See 2004)。與人工智能系統的成功合作將需要人類對人工智能系統有一個校準的信任和依賴程度(泰勒等人,2016)。
隨著更先進和更快的空中和導彈威脅彈藥的發展和投入使用,操作人員更需要在AMD行動中迅速作出監測。不及時的決策和反應將導致災難性的后果。因此,人工智能是一個可能的解決方案,通過自動決策輔助工具加快和加強決策過程。這些AMD自動戰斗管理輔助工具可以幫助戰術操作人員應對更快的決策周期、大量的數據以及需要觀察的幾個系統或屏幕(Galdorisi 2019)。然而,為了有效地利用人工智能能力的潛力,需要操作員的高度信任。操作員對系統的信任程度低,可能會導致人工智能-AMD系統利用不足,受到不適當的監控,或者根本不使用(Floyd, Drinkwater, and Aha 2016)。這些問題中的任何一個都可能導致操作者的工作量不必要的增加,或者任務失敗的可能性。
論文對信任的定義、人機交互(HMI)的概念、信任因素以及包括AMD殺傷鏈模型、威脅場景、架構、模型和功能在內的概念模型進行了廣泛的回顧。有了這樣的認識,論文提出了人工智能-AMD系統的信任框架,對人機交互和人工智能-AMD系統信任因素的描述。論文最后提出了在人類操作者和AI-AMD系統之間實現校準信任的策略。
信任框架始于對系統背景的分析。圖1顯示了AI-AMD指揮與控制(C2)系統(包括AI-AMD操作員和決策輔助工具)及其他與之互動的子系統的背景圖,這些子系統有助于操作員和AI-AMD決策輔助工具之間信任的發展。背景圖使我們能夠研究各系統之間的相互作用,以及它們對AI-AMD操作員和決策輔助工具之間信任動態的影響。
圖1. AI-AMD系統框架圖。
這篇論文將信任定義為操作者的態度,即AI-AMD決策輔助工具將有助于實現操作者的目標,即在一個以不確定性和脆弱性為特征的作戰環境中迅速摧毀來襲威脅的任務。這種信任的定義表明,它是對操作者相信或感知AI-AMD決策輔助工具的一種情感評估。為了積極地影響信任,操作者必須親自看到并感受到AI-AMD決策輔助行動的優勢。AI-AMD行動涉及很多不確定因素,以及天氣、電磁干擾和地形等環境因素以及不斷變化的威脅的性質所帶來的脆弱性。操作員將預期AI-AMD決策輔助系統按照 "合同 "執行,以處理這些不確定性和脆弱性。這些合同將是人工智能-AMD決策輔助工具應該執行的感知功能或任務,以及執行這些功能或任務的理想表現。
圖2說明了操作員和AI-AMD決策輔助工具之間的信任框架。y軸代表人類對AI-AMD決策輔助系統的信任程度,x軸代表AI-AMD決策輔助系統的能力。綠色的45°虛線表示最佳的信任水平或校準的信任線,其中的信任與AI-AMD的能力相對應,導致正確的利用(Lee and See 2004)。過度信任由最佳信任水平線以上的區域表示,此時的信任超過了系統能力,導致誤用。低于理想信任水平線的區域表示不信任,這時的信任沒有達到系統能力,導致濫用。假設存在一些默認的信任水平(如黃框所示),目標是制定一個策略,以提高AI-AMD輔助決策能力的信任。在使用該系統時,可能會發生違反信任的情況,從而降低操作員的信任。因此,信任修復行動必須被納入,以保持信任在最佳水平。
圖2. 人類操作員和AI-AMD決策輔助工具之間的信任。
基于功能分配的操作員和AI-AMD決策輔助工具之間的人機交互研究表明,操作員和AI-AMD決策輔助工具應該被設計成在大多數殺戮鏈功能中作為一個 "團隊"運作。這引導論文研究了單獨和集體考慮人類和決策輔助的信任因素。對操作員和人工智能-AMD決策之間的人機交互的研究還顯示,操作員的角色已經從手動控制器變成了監督控制器。因此,一個值得信賴的決策輔助工具是很重要的,因為操作者會期望系統的表現符合預期,以幫助操作者更好地履行他的角色。另外,為了進一步幫助減輕操作者的認知工作量,信息的外部表示、決策輔助工具的建議必須易于閱讀和理解。
關于信任因素,本論文提出了一個 "由外而內 "的框架,如圖3所示。論文首先考慮了與操作環境相關的因素,這些因素描述了AMD操作系統的背景。第二,它研究了與組織環境相關的因素,操作人員和人工智能-AMD系統得到了培訓和發展。第三,論文研究了操作人員和人工智能-AMD決策輔助工具之間的交互,以提出與操作人員、人工智能-AMD、單獨和集體相關的因素。
圖3. 建議的信任因素
圖4顯示了擬議的戰略銜接圖,以實現操作者和AI-AMD輔助決策之間的校準信任。對信任定義、人機界面和信任因素的審查表明,該戰略應關注三個關鍵領域:(1)人類對自動化技術和AI-AMD決策輔助系統的集體和個人感知;(2)增強操作員和AI-AMD決策輔助系統的團隊活力;(3)AI-AMD決策輔助系統的可信度,重點是系統開發。該戰略利用DOTMLPF-P框架提出了三個關鍵原則和五個支持原則。首先,軍事作戰人員需要被告知自動化技術的真正能力和局限性,特別是AI-AMD輔助決策。第二,操作員的培訓要求必須增加,以應對新的工作范圍和不斷變化的威脅。第三,必須在人工智能-AMD決策輔助系統的開發中加入新的要求,以提高系統的可感知的可信度。這三個關鍵原則得到了DOTMLPF-P框架其他方面的支持,如組織、領導、人員、設施和政策。
圖4. 實現操作員和人工智能-AMD決策輔助工具之間校準信任的戰略銜接圖