協作機器人(即 "cobots")和基于機器學習的智能體正越來越多地進入人類的工作空間,目的是提高生產率、增強安全性和改善生活質量[1, 2]。這些智能體將在動態和新穎的環境中與各種各樣的人進行動態交互,使人機團隊在醫療保健[3]、制造[4]和搜救[5]等領域更加普遍。在這些領域中,合作者必須目標一致,并保持對其他智能體行為的感知,以避免潛在事故的發生。至關重要的是,智能體必須能夠理解用戶之間的異同,并為用戶提供信息,支持心智模型的調整。
在文中,首先研究了模擬大規模多智能體系統中協作的本質。具體來說,探索了在部分可觀測環境中分散機器人之間利用基于上下文的通信技術,發現利用有針對性的通信(第4章)和考慮隊友異質性(第5章)有利于生成有效的協調策略[6, 7]。接下來,過渡到人機系統,并開發了一個數據高效、針對特定人員且可解釋的基于樹的學徒學習框架(第6章),使機器人能夠推斷并理解異構用戶的決策行為[8, 9]。在此基礎上,擴展了基于神經樹的架構,支持通過強化學習(reinforcement learning)為機器人學習可解釋的控制策略[10]。這一進步不僅允許終端用戶檢查學習到的行為模型,還為開發人員提供了驗證控制策略安全性的方法(第 7 章)。隨后,描述了可解釋人工智能(xAI)技術的實用性,該技術有望在人機協作中增強團隊態勢感知和共享心智模型開發[11](第8章)。最后,讓最終用戶能夠通過圖形用戶界面交互式修改可解釋的學習策略,以支持重復人機協作范例中的團隊發展(第9章)。
本文的貢獻如下:
創建基于通信的新型多智能體強化學習(MARL)架構: 開發了多智能體圖注意通信(MAGIC)[6],這是一種利用目標通信(智能體主動決定 "何時 "和 "與誰 "通信)的多智能體強化學習(MARL)架構,用于在部分可觀測環境中的分散智能體之間學習高性能團隊協調策略。團隊成員通過信息共享和與合作者的模擬體驗,開發出一種隱含的共享心智模型。
創建支持異構機器人團隊的 MARL 架構: 開發了異構策略網絡(HetNet)[7],這是一種 MARL 架構,可有效模擬異構機器人團隊(即由具有不同狀態、行動和觀察空間的智能體組成)。通過 HetNet,利用可變編碼器-解碼器通道來考慮類間信息的異質性,將編碼信息 "翻譯 "成異構機器人團隊中各智能體之間共享的中間語言,從而促進各智能體之間的通信。
開發可解釋的、針對個人的 "從異質演示中學習"(LfHD)框架: 提出了一種個性化的、可解釋的學徒調度算法,該算法通過提取決策標準,推斷出所有人類任務演示者的可解釋表征,推斷出的個性化嵌入與演示者類型的數量無關[8, 9]。通過這種技術,協作機器人可以自主地獲得對人類隊友決策行為的個性化、隱含的理解,從而使機器人同行的個性化程度更高。
開發基于樹的模型,該模型可通過基于梯度的現代強化學習方法進行優化,以產生高性能、可解釋的策略:介紹了可解釋的連續控制樹(ICCTs),這是一種可解釋的強化學習架構,允許在類似稀疏決策樹的表征中進行直接優化[10]。新架構在生產安全、可驗證、基于機器學習的自主系統方面邁出了堅實的一步,這些系統已準備好在現實世界中部署并與人類互動。
描述可解釋人工智能(xAI)在人機協作中的效用: 進行了兩項新穎的人類-受試者實驗,以量化在人機協作場景中部署 xAI 技術的益處。評估了人類隊友通過增強 xAI 技術獲得更好態勢感知的能力,并量化了 xAI 支持的 SA 對人機團隊流暢性的主觀和客觀影響[11]。重要的是,這些發現強調了為人機協作開發 "正確 "的 xAI 模型以及支持學習這些 xAI 模型的優化方法的重要性。
找出通過基于學習的技術產生的智能體在質量上的差距,并探索基于 xAI 的技術作為提高人機協作性能的潛在解決方案。人機協作領域中最先進的協作代理是僵化的,其重點是提高智能體的個性化貢獻,而不是人機團隊之間的有效協作。為了消除個性化協調與成功人機協作之間的性能差距,探索利用可解釋模型和圖形用戶界面,讓最終用戶與通過強化學習訓練的可解釋機器人策略進行交互。這種圖形用戶界面允許終端用戶 "深入 "機器學習模型,調整承受能力或交互式地迭代重新編程行為。重要的是,發現有證據表明,在交互式修改的支持下,用戶與白盒智能體組隊的效果優于單獨與白盒智能體組隊的效果。
圖 1.1: 該圖顯示了論文概覽。在第 4 章和第 5 章中,利用基于圖的架構來有效地模擬和促進多智能體系統中的通信。在第 6 章和第 9 章中,為機器人同行提供了更多個性化服務。在第7章和第8章中,通過使用可解釋人工智能技術來促進機器人與人類之間的定向交流。這些內容有助于促進團隊內共享心智模型的發展,從而實現高質量的人機協作。
人工智能(AI)被視為當今時代最具顛覆性的技術。科學界和商業界正在對它進行大量投資和深入研究。它已在許多小工具和設備(如手機、電腦、網絡應用服務器等)中顯示出初步的商業用途,如搜索輔助、需求預測、數據分析和驗證、建模和模擬、語言學、心理學等。谷歌、微軟和亞馬遜等商業巨頭正在利用人工智能進行消費者行為預測。自 2011 年以來,我們一直生活在被稱為 "認知時代 "的時代,因為人工智能正越來越多地融入每個人的日常生活。IBM 的沃森(Watson)可能是首個用于解決各領域問題的人工智能商業應用,于 2013 年推出。2011 年,沃森在 "危險 "游戲中擊敗了有史以來排名最高的兩位選手,從而備受矚目。此后,沃森得到了進一步改進。
據預測,人工智能將在十年左右的時間內滲透到所有主要民用系統和小工具中,形成其軟件基礎。此外,據預測,在二三十年內,人工智能將徹底改變世界的運行方式。美國(US)、歐盟(EU)和中國等主要大國、區域已經出臺了在各個領域開發、采用和推廣人工智能的政策文件和路線圖。
不同的專家對人工智能提出了不同的定義。所有這些定義都趨向于機器獲得類似人類智能的概念,通常遵循一個被稱為感知-認知-行動(或決策)信息處理循環的順序。人工智能的程序同樣遵循這一循環,即人工智能計算機感知周圍的世界,通過優化和驗證算法處理接收到的信息,并以類似于人類的方式做出行動選擇。目前,各種先進的人工智能能力正處于不同的開發和使用階段,包括自然語言處理、信息搜索、面部、物體或手勢識別、自適應學習、直觀感知、綜合推理、混合智能(人機結合智能)、集體蜂群智能、問題解決、預測和響應等。
人工智能在軍事上的應用雖然是人工智能發展的必然產物,具有巨大的潛力和優勢,但一直是一個有爭議的問題,也是科學界經常產生分歧的話題。隨著人工智能的迅猛發展及其進入軍事領域,人工智能已經在以一種重要的方式重塑軍隊的運作。可以預見,它將從根本上改變未來的戰爭和軍事行動。與此同時,由于技術的飛速發展,戰爭本身也在概念層面發生著變化。未來人工智能將如何塑造戰爭,專家學者們仍在探討。
本文旨在根據人工智能的發展軌跡以及圍繞其未來軍事用途的主要問題,確定人工智能在不久的將來--預計未來十年或二十年--在戰爭中的擴散情況。本文還為印度尋找了一種衍生工具。本文以 "人工智能系統分類 "一節開篇,帶領讀者略微深入地了解人工智能,以便客觀分析人工智能的發展和應用軌跡。非凡壯舉 "部分揭示了該技術的顛覆性。未來的表現 "一節討論了人工智能未來的發展和普及。這一部分還強調了與人工智能相關的各種問題,同時建立了對人工智能的總體認識。在 "人工智能推動戰爭 "一節中,試圖推導出人工智能將浸漬軍事系統并重塑戰爭,包括概念和條令。然后,本文重點討論了影響人工智能應用情況的一個主要問題 "不確定性談判",并從這個角度分析了人工智能在作戰空間的應用。下一節分析了與人工智能系統軍事應用相關的 "挑戰"。關于 "全球領導力競賽 "的部分強調了人工智能軍事應用的全球趨勢,隨后分析了 "印度的立場",并向印度決策者提出了一些建議。
近年來,對無人駕駛車輛等自主實體的研究開始給軍事和民用設備帶來革命性的變化。自主實體的一個重要研究重點是自主機器人群的協調問題。傳統上,機器人模型被用于考慮操作機器人群所需最低規格的算法。然而,這些理論模型也忽略了重要的實際細節。其中一些細節,如時間,以前也曾被考慮過(如執行的歷時)。在本論文中,將結合幾個問題來研究這些細節,并引入新的性能指標來捕捉實際細節。具體來說,我們引入了三個新指標:(1) 距離復雜度(反映機器人的耗電量和損耗),(2) 空間復雜度(反映算法運行所需的空間),(3) 局部計算復雜度(反映蜂群中每個機器人的計算要求)。
將這些指標應用于研究一些著名的重要問題,如完全可見性和任意模式形成。還引入并研究了一個新問題--"門道出口",它抓住了機器人群在受限空間中導航的本質。首先,研究了一類完全可見性算法所使用的距離和空間復雜性。其次,提供了整數平面上的完全可見性算法,包括一些在時間、距離復雜度和空間復雜度方面漸近最優的算法。第三,介紹了門道出口問題,并為各種機器人群模型提供了不同最優性的算法。最后,還提供了網格上任意圖案形成的最優算法。
過去幾十年來,在安全、監視、情報收集和偵察等許多領域,對目標跟蹤(OT)應用的需求一直在增加。最近,對無人系統新定義的要求提高了人們對 OT 的興趣。機器學習、數據分析和深度學習的進步為識別和跟蹤感興趣的目標提供了便利;然而,持續跟蹤目前是許多研究項目感興趣的問題。本論文提出了一個系統,實現了一種持續跟蹤目標并根據其先前路徑預測其軌跡的方法,即使該目標在一段時間內被部分或完全隱藏。該系統分為兩個階段: 第一階段利用單個固定攝像機系統,第二階段由多個固定攝像機組成的網狀系統。第一階段系統由六個主要子系統組成:圖像處理、檢測算法、圖像減法器、圖像跟蹤、跟蹤預測器和反饋分析器。系統的第二階段增加了兩個主要子系統:協調管理器和相機控制器管理器。這些系統結合在一起,可以在目標隱藏的情況下實現合理的目標跟蹤連續性。
與決策相關的活動,如自下而上和自上而下的策略制定、分析和規劃,都將受益于基于計算機的模型的開發和應用,這些模型能夠在當地環境中表現人類的時空社會行為。在努力了解和尋找減緩氣候變化特定影響的方法時尤其如此,在這種情況下,此類模型需要包括相互影響的社會和生態要素。此類模型的開發和應用一直受到以下挑戰的嚴重阻礙:設計行為以經驗證據和理論為基礎的智能體,以及測試智能體代表現實世界決策者行為的能力。本論文通過以下方法克服了這些挑戰,從而提高了開發此類模型的能力: (a) 三個新框架,(b) 兩種新方法,以及 (c) 兩種新的開源建模工具。這三個新框架包括 (a) SOSIEL 框架,它為開發新一代認知、多智能體和基于知識的模型提供了一個有理論基礎的藍圖,這些模型由具有認知架構的智能體組成; (b) 一個分析決策者有界理性的新框架,它為分析決策情境與決策者決策之間的關系提供了洞察力和便利;以及 (c) 一個分析人工智能體雙重有界理性(DBR)的新框架,它對決策情境與人工智能體決策之間的關系做了同樣的分析。這兩種新方法包括 (a) 用于獲取和操作決策知識的 SOSIEL 方法,它提高了我們為認知模型、多智能體模型和基于知識的模型獲取、處理和表示決策知識的能力;以及 (b) 用于測試人工智能體表示人類決策能力的 DBR 方法。這兩個開源建模工具包括 (a) SOSIEL 平臺,這是一個基于認知、多智能體和知識的平臺,用于模擬人類決策;以及 (b) 將該平臺作為 SOSIEL 人類擴展(SHE)應用于現有的森林氣候變化模型,即 LANDIS-II,以便分析人類與森林氣候之間的共同進化互動。為了提供示例背景和知識獲取指南,論文包括烏克蘭喀爾巴阡山地區社會生態互動的案例研究,該地區目前正在應用 LANDIS-II 和 SHE。因此,本論文通過以下方式推動科學發展 (a) 為下一代基于認知、多智能體和知識的模型提供理論基礎并展示其實施;(b) 為理解、分析和測試人工智能體代表人類決策的能力提供植根于心理學的新視角。
多智能體機器人技術有望塑造工業的未來,有可能改變日常生活的許多方面。在未來十年中,它們預計將對運輸系統、軍事應用(如偵察和監視、搜救行動或太空任務)產生影響,并為急救人員提供支持。
在機器人領域最新發展的推動下,隨著新一代多智能體機器人系統變得更加智能、精確,應用領域也更加多樣化,本論文將為這些系統的發展做出貢獻。但是,為了實現這些目標,組成合作機器人系統的各個智能體需要在確保準確性和保留執行多樣化任務能力的同時,對它們所能完成的任務進行專業化。
本論文在考慮單個智能體專業化能力的特定背景下,探討了蜂群機器人技術中的任務分配問題。基于每個智能體都擁有專門的功能能力,以及分布在周圍環境中的預期任務提出了特定要求的假設,提出的任務分配機制在兩個不同的空間中制定。首先,團隊成員專業化的初級形式被表述為嵌入智能體動力學控制空間的合作控制問題。其次,定義了智能體專業化的高級表述,在專用的專業化空間中估計單個智能體的任務分配概率,這是本論文對蜂群機器人領域的進步和實踐的核心貢獻。
在專業化空間中制定的原始任務分配過程經歷了四個發展階段。首先,從概念上引入了任務特征識別階段,利用嵌入在智能體中的傳感層的輸出來驅動所提出的任務分配方案。其次,制定匹配方案,將每個智能體的專業能力與相應的檢測任務進行最佳匹配。在這一階段,智能體專業化的一般二進制定義是任務-智能體關聯的基礎。第三,將任務-智能體匹配方案擴展為創新的基于概率專業的任務-智能體分配框架,以推廣這一概念并挖掘智能體專業化考慮的潛力。第四,根據智能體的機械、物理結構和嵌入式資源對其專業化進行調制定義,進一步完善了總體框架。此外,還對原有框架進行了擴展,并引入了優先級層,以提高系統對復雜任務的響應能力,這些復雜任務的特點是基于對多個類別的識別。
在模擬和實際實驗中對所提出的基于專長的任務分配方法進行了實驗驗證,并結合潛在應用對結果進行了介紹和討論,以證明所提框架的有效性和效率。
這項工作旨在填補以往解決機器人群個體專業化問題的工作中的技術空白。本論文的成果通過開發一個創新框架,利用傳感能力來支持智能體之間專業化的概念化和實施,從而推動了蜂群機器人領域的發展。重點在于定義單個智能體的專長,并根據每個任務的特定約束條件,將其與這些單個智能體所要掌握的任務相匹配。為此,本研究打算回答以下研究問題:
問題 1:一群智能水平相對較低的機器人如何完成復雜的任務,這些任務需要單個機器人代理的專業化?
過去二十年來,多智能體系統的合作編隊控制受到了研究人員的極大關注。本論文以文獻綜述(第 2 章)中提到的方法為基礎,提出了一種解決方案,以填補機器人團隊中單個成員專業化方面的研究空白。本論文的重點是通過利用智能體的非同質性來增強蜂群的能力。為此,本論文擴展了合作蜂群的概念,并提出了一個嚴格的流程來利用單個智能體之間的專業異質性。
為了回答問題 1,我們首先進行了一項早期調查,以驗證這一概念。這一過程將機器人團隊工作空間的不同區域定義為分配給不同任務的獨立區域。所開發的解決方案可讓機器人順利安全地切換位置,并根據每個訪問區域要執行的特定任務動態調整整體隊形。它定義了如何在每個區域管理機器人群的編隊。作為一種初級的專業化形式,當智能體從一個區域轉移到另一個區域時,該框架會將智能體的領導角色從一個智能體切換到另一個智能體。在第一階段的研究中,假定一個特定的智能體(即蜂群中的一個成員)是每個區域中唯一專門執行領導任務的智能體。在任務完成之前,該智能體被指定為相關區域的專門領導者。第一部分研究的詳細情況將在第 3.4 節中報告。
問題 2:能否對最初的方法進行升級,讓專業化個體從環境中的自動目標識別中獲益,能否讓智能體之間的合作變得足夠穩健和靈活,以便在發現目標后自動將適當的專業化智能體分配到相應的任務中?
為了回答這個問題,我們進一步擴展了原有的協調系統,用于在專用機器人之間分配基于任務的領導權。通過對分布在機器人群工作空間中的專業化影響區域的定義進行演化,對問題進行了重新表述。受早期編隊方法的啟發,出現了一種有趣的解決方案。從使用機載傳感器自動識別工作區目標的假設出發,選擇有資格執行識別任務的智能體的過程應逐步經歷三個基本狀態,分別稱為搜索狀態、任務狀態和執行狀態。這種方法還可擴展到目標移動時的動態影響區域,以及多個任務共享同一區域時的動態影響區域。這更好地反映了移動機器人的實際干預場景。這方面的工作將在第 3.5 節中報告。
問題 3:為了改進蜂群的管理,能否根據智能體的專業化程度,在一定程度上適合響應給定任務的概率匹配機制中,適當定義和制定每個智能體的專業化功能?
為了解決這個問題,可以利用基于概率的建模來完善用于實現單個智能體角色專業化的框架設計。建立這樣一種智能體行為的概率表征,可以形成一種可擴展的機制。后者支持自動化流程,能夠處理任務和專業化定義中的不確定性,并應對任務約束和智能體能力之間的不完美匹配。所提出的智能體選擇方案是根據任務識別的置信度和特定智能體滿足任務特定要求的概率來制定的。所提出的基于專業的任務分配方案旨在根據所識別的任務約束條件,計算蜂群中各個智能體的匹配適合度,即任務-智能體專業匹配概率。本框架的開發過程詳見第 4.3 和 4.4 節。
問題 4:提議的框架能否應用于實際系統?
為了證明所提方法的有效性及其在現實世界中的應用潛力,我們從兩個方面對其進行了測試。首先,在仿真中對所提出的框架進行驗證,以證明其有效性。第 5 章介紹了大量的模擬實驗。然后,作為案例研究介紹了擬議方法的潛在應用,同時詳細介紹了擬議框架在真實機器人平臺上的實施情況,以驗證和檢驗基于專業的任務分配方案在實現預期協調水平方面的性能。這項工作將在第 6 章中介紹。
圖 3.12 任務執行的先后順序:(a-c)影響區重疊,操作員選擇任務 1(紅色)為優先任務,這促使紅色機器人繼續擔任領導者,直到紅色任務完成;(d-f)第二優先任務(藍色)正在執行,藍色機器人轉為領導者位置;(g-h)蜂群恢復到影響區重疊外的搜索狀態,然后搜索其他任務(綠色,然后是紅色),由相應的領導者機器人執行。
在許多淺水和沿海水域應用中,視覺制導水下機器人與人類潛水員一起執行合作勘探、檢查和監測任務。這類陪伴機器人最基本的能力是在水下任務的各個階段以視覺解讀周圍環境并協助潛水員。盡管近年來技術不斷進步,但現有的實時視覺感知系統和解決方案在很大程度上受到能見度低、光照變化和突出特征稀少等海洋因素的影響。而水下光傳播的脆弱性(如與波長相關的衰減、吸收和散射)所導致的一系列非線性圖像失真又加劇了這些困難。在本論文中,我們提出了一套新穎的改進型視覺感知解決方案,以應對這些挑戰,從而實現有效的水下人機合作。研究成果包括底層視覺和基于學習的算法的新穎設計和高效實施,以及廣泛的現場實驗驗證和單板部署的實時可行性分析。
論文分為三個部分。第一部分側重于為自動潛航器(AUV)開發實用的解決方案,以便在執行水下任務期間陪伴人類潛水員。其中包括基于視覺的強大模塊,使自動潛航器能夠理解人類的游泳動作、手勢和身體姿勢,以便在保持平穩的時空協調的同時跟隨人類并與之互動。一系列封閉水域和開放水域現場實驗證明了我們提出的感知算法在水下人機合作中的實用性和有效性。我們還確定并量化了這些算法在不利視覺條件下不同操作約束條件下的性能變化。論文的第二部分致力于設計高效的技術,通過恢復水下圖像的感知和統計質量來克服能見度低和光學失真的影響。我們進一步證明了這些技術作為視覺導航自動潛航器自主流水線預處理器的實際可行性。最后,本論文的第三部分開發了高層次決策方法,如為快速視覺搜索建立空間注意力模型,學習識別何時需要圖像增強和超分辨率模塊來實現詳細感知等。我們證明,這些方法可將機載視覺感知模塊的處理速度提高 45%,使自動潛航器能夠做出智能導航和操作決策,尤其是在自主探索任務中。
總之,本論文描述了我們為解決水下人機合作實時機器視覺所面臨的環境和操作挑戰而進行的嘗試。針對各種重要應用,我們開發了穩健、高效的模塊,讓自動潛航器在僅依靠嘈雜的視覺傳感的情況下,通過準確感知周圍環境來跟隨同伴潛水員并與之互動。此外,我們提出的感知解決方案能讓視覺引導機器人在嘈雜條件下看得更清楚,并在有限的計算資源和實時限制條件下做得更好。除了推動最先進技術的發展之外,我們提出的方法和系統還讓我們朝著縮小理論與實踐之間的差距、改善野外人機合作的方向邁進了一步。
美國網絡安全人員嚴重短缺[1]。雖然有一些工作試圖培訓和招聘更多的人才,但與此同時,一項重要的工作是開發工具,以提高現有從業人員的效率。人工智能 (AI) 已被用于構建許多工具,以增強其他領域的員工隊伍 [2] [3] [4] [5] [6] [7] [8]。此外,已有多篇關于使用人工智能協助逆向工程(一項重要的網絡安全任務)的學術論文發表 [9] [10] [11] [12] [13] [14] [15] [16] [17] [18] [19] [20] [21]。本研究探討了訓練人工智能完成程序理解任務的可能性。具體來說,人工智能將把機械提取的程序特征作為輸入,并輸出有關功能的英文單詞和句子描述。這一輸出將有助于逆向工程師調查軟件的功能和漏洞。輸入的特征可能是靜態的,即僅通過檢查軟件獲得;也可能是動態的,即從程序執行中提取。在這項新苗研究中,我們調查了一些最新出版物、現有數據集、數據源以及二進制文件和英文文章的嵌入。作為研究的一部分,我們構建了一個新的數據集,該數據集將提供給研究社區供普遍使用。簡而言之,這項研究有兩方面的成果。首先,我們從 100 多萬個堆棧溢出頁面中構建的數據集質量不夠高,無法用于訓練程序理解的人工智能。此外,有證據表明,用于英語文章的嵌入對于我們的目的來說過于粗糙,混淆了我們希望它能區分的概念。本報告最后提出了未來研究的一些想法,包括使用我們的數據集質量度量來識別或加權更高質量的示例,以及使用從源搜索和自動生成的網絡搜索中提取文章的一些想法。
生成式AI系統的快速發展和崛起正在重塑各行各業以及人類的創造力。雖然生成式AI提供了新的機會,但它也可能放大對個人和社會帶來的現有和新出現的傷害。例如,我們已經看到了聊天機器人對用戶提示提供不恰當和有害的反饋,生成式AI深度偽造的廣泛傳播,以及合成兒童性虐待材料的創建。平衡生成式AI的潛在利益和風險是至關重要的。
這份立場聲明檢查了生成式AI的不斷演變的景觀,提供了生成式AI生命周期的概述、其使用和誤用的例子,以及在線安全風險和機會的考慮。聲明還提出了一系列監管挑戰和方法。最后一部分強調了新興的良好實踐和新的“安全設計”措施,為行業提供有意義的、可操作的和可實現的指導,以最小化現有和新出現的生成式AI傷害。
人工智能是下一個競爭領域;第一個開發出人類水平人工智能的國家將產生類似于原子彈開發的影響。為了維護美國及其人民的安全,美國國防部資助了人工智能及其應用的發展研究。本研究使用強化學習和深度強化學習方法作為當前和未來AI智能體,并評估開發中的潛在問題。在兩個游戲和一次遠足中對智能體的表現進行了比較: 分別是貨物裝載、河內塔和背包問題。據觀察,深度強化學習智能體能處理更廣泛的問題,但表現不如專門的強化學習算法。
在過去的幾年里,人工智能(AI)系統的能力急劇增加,同時帶來了新的風險和潛在利益。在軍事方面,這些被討論為新一代 "自主"武器系統的助推器以及未來 "超戰爭 "的相關概念。特別是在德國,這些想法在社會和政治中面臨著有爭議的討論。由于人工智能在世界范圍內越來越多地應用于一些敏感領域,如國防領域,因此在這個問題上的國際禁令或具有法律約束力的文書是不現實的。
在決定具體政策之前,必須對這項技術的風險和好處有一個共同的理解,包括重申基本的道德和原則。致命力量的應用必須由人指揮和控制,因為只有人可以負責任。德國聯邦國防軍意識到需要應對這些發展,以便能夠履行其憲法規定的使命,即在未來的所有情況下保衛國家,并對抗采用這種系統的對手,按照其發展計劃行事。因此,迫切需要制定概念和具有法律約束力的法規,以便在獲得利益的同時控制風險。
本立場文件解釋了弗勞恩霍夫VVS對當前技術狀況的看法,探討了利益和風險,并提出了一個可解釋和可控制的人工智能的框架概念。確定并討論了實施所提出的概念所需的部分研究課題,概述了通往可信賴的人工智能和未來負責任地使用這些系統的途徑。遵循參考架構的概念和規定的實施是基于人工智能的武器系統可接受性的關鍵推動因素,是接受的前提條件。