物聯網（IoT）和大數據描述了許多行業對數據收集、通信和分析的關注。利用射頻識別（RFID）等工具，可以最大限度地發揮物聯網和大數據的潛在效益，將設備相互連接起來，并為終端用戶提供與技術互動的有意義的方式。醫療保健行業已經徹底改變了其物聯網方法，希望能夠節約成本、提高效率和改善醫療質量。海軍醫學在大數據方面已有一定的歷史，在未來，技術與醫療保健之間可能會有更多的交叉。在采用新技術的過程中，可能會遇到技術變革的阻力。阻力的類型、強度及其調解在很大程度上取決于領導者如何處理最終用戶的阻力和接受程度。引入新的 RFID 技術有可能對手術工具消毒、病人和員工追蹤等流程產生積極影響。展望未來，醫療保健與技術的融合將繼續快速發展，物聯網、大數據和 RFID 技術將在醫療保健行業發揮重要作用。

人工智能（AI）已經滲透到生活的許多領域，國防領域也不例外。從優化物流鏈到處理大量情報數據，人工智能在軍事領域都有應用。越來越多的人認為，人工智能將對未來戰爭產生重大影響，世界各地的部隊都在大力投資人工智能所帶來的能力。盡管取得了這些進步，但戰斗在很大程度上仍然是人類的活動。

通過使用人工智能支持的自主武器系統（AWS）將人工智能引入戰爭領域，可能會徹底改變國防技術，這也是當今最具爭議的人工智能用途之一。關于自主武器如何遵守出于人道主義目的而制定的武裝沖突規則和條例，一直存在著特別的爭論。

政府的目標是 "雄心勃勃、安全、負責任"。當然，我們原則上同意這一目標，但愿望與現實并不相符。因此，在本報告中提出建議，以確保政府以合乎道德和法律的方式在 AWS 中開發和使用人工智能，提供關鍵的戰略和戰場效益，同時實現公眾理解和認可。必須將 "雄心勃勃、安全負責 "轉化為實際執行。

政府必須尋求、建立并保持公眾對開發和使用人工智能的信心和民主認可，尤其是在 AWS 方面。從媒體對我們調查的報道中可以清楚地看出，人們對在預警系統中使用人工智能有著廣泛的興趣和關注。實現民主認可有幾個要素：

理解： 對自主武器的討論，以及在很大程度上對人工智能的討論，都受到追求議程和缺乏理解的困擾。我們的目標之一是為建設性辯論提供事實依據，政府的坦誠和透明將有助于這一進程。

議會的作用： 議會是開發和使用預警系統的決策中心。議會的監督能力取決于信息的可獲得性，取決于其預測問題而不是事后反應的能力，也取決于其追究部長責任的能力。政府必須在議會時間表中留出足夠的空間，并提供足夠的信息，以便議會（包括其專門委員會）有效地審查其人工智能政策。我們當然理解政策制定的內容可能高度敏感，但我們有既定的方法來處理此類信息。絕不能以保密為由逃避責任。

保持公眾信心： 對英國防部 "目前沒有開展監測或民意調查以了解公眾對使用自主武器系統的態度 "這一事實感到失望。政府必須確保在開發自動武器系統時適當征求公眾意見。它還必須確保道德規范處于其政策的中心位置，包括擴大英國防部人工智能道德咨詢委員會的作用。

實現以下目標對這一進程至關重要：

政府應以身作則，在國際上參與對 AWS 的監管。人工智能安全峰會是一個值得歡迎的舉措，但它并不包括國防。政府必須將人工智能納入 AWS，因為政府宣稱希望 "以包容的方式共同努力，確保以人為本、值得信賴和負責任的人工智能是安全的"，并 "通過現有的國際論壇和其他相關倡議支持所有人的利益"。

幾年來，國際社會一直在辯論如何監管人工智能系統。這場辯論的結果可能是一項具有法律約束力的條約，也可能是澄清國際人道主義法應用的非約束性措施--每種方法都有其擁護者。盡管在形式上存在分歧，但關鍵目標是加快努力，達成一項有效的國際文書。

其中的一個關鍵因素將是禁止在核指揮、控制和通信中使用人工智能。一方面，人工智能的進步有可能提高核指揮、控制和通信的效率。例如，機器學習可以提高預警系統的探測能力，使人類分析人員更容易交叉分析情報、監視和偵察數據，并改善核指揮、控制和通信的防護，使其免受網絡攻擊。

然而，在核指揮、控制和通信中使用人工智能也有可能刺激軍備競賽，或增加各國在危機中有意或無意地升級使用核武器的可能性。使用人工智能時，決策時間被壓縮，可能會導致緊張局勢加劇、溝通不暢和誤解。此外，人工智能工具可能會被黑客攻擊，其訓練數據可能會中毒，其輸出結果可能會被解釋為事實，而實際上它們只是統計上的相關性，所有這些都可能導致災難性的結果。

政府應采用可操作的 AWS 定義。令人驚訝的是，政府目前還沒有這樣的定義。英國防部表示，它對采用這樣一個定義持謹慎態度，因為 "此類術語已具有超出其字面解釋的含義"，并擔心 "在一個如此復雜和快速發展的領域，過于狹隘的定義可能很快過時，并可能無意中阻礙國際討論的進展"。然而，我們認為可以創建一個面向未來的定義。這樣做將有助于英國制定有意義的自主武器政策，并充分參與國際論壇的討論。

政府應確保在 AWS 生命周期的各個階段都有人類控制。人們對 AWS 的關注主要集中在由人工智能技術實現自主的系統上，由人工智能系統對從傳感器獲得的信息進行分析。但是，為了確保人類的道德代理權和法律合規性，對系統的部署進行人為控制是至關重要的。這必須以我們國家對國際人道法要求的絕對承諾為支撐。

政府應確保其采購程序是為人工智能世界而適當設計的。英國防部的采購工作缺乏問責制，過于官僚化。特別是，英國防部缺乏軟件和數據方面的能力，而這兩者都是人工智能發展的核心。這可能需要革命性的變革。如果需要，那就改變吧；但時間緊迫。

在未來戰場上，人工合成的決策將出現在人類決策的內部和周圍。事實上，人工智能（AI）將改變人類生活的方方面面。戰爭以及人們對戰爭的看法也不例外。特別是，美國陸軍構想戰爭方式的框架和方法必須進行調整，以便將非情感智力的優勢與人類情感思維的洞察力結合起來。人工智能與人類行動者的組合有可能為軍事決策提供決定性的優勢，并代表了成功軍事行動的新型認知框架和方法。人工智能在軍事領域的應用已經開始擴散，隨之而來的作戰環境復雜性的增加已不可避免。

正如核武器結束了第二次世界大戰，并在二十世紀阻止了大國沖突的再次發生一樣，競爭者預計人工智能將在二十一世紀成為國家力量最重要的方面。這項工作的重點是美國陸軍的文化，但當然也適用于其他企業文化。如果要在未來有效地利用人工智能，而且必須這樣做才能應對競爭對手使用人工智能所帶來的幾乎必然的挑戰，那么成功地融入人工智能工具就需要對現有文化進行分析，并對未來的文化和技術發展進行可視化。美國將致力于在人工智能的軍事應用方面取得并保持主導地位。否則將承擔巨大風險，并將主動權拱手讓給積極尋求相對優勢地位的敵人。

結論

合成有機團隊認知的兩大障礙是美陸軍領導的文化阻力和軍事決策的結構框架。首先，也是最重要的一點是，領導者必須持續觀察人工智能工具并與之互動，建立信心并接受其提高認知能力和改善決策的能力。在引入人工智能工具的同時，幾乎肯定會出現關于機器易犯錯誤或充滿敵意的說法，但必須通過展示人工智能的能力以及與人類團隊的比較，來消除和緩和對其潛在效力的懷疑。將人工智能工具視為靈丹妙藥的健康而合理的懷疑態度有可能會無益地壓倒創新和有效利用這些工具的意愿。克服這一問題需要高層領導的高度重視和下屬的最終認可。其次，這些工具的結構布局很可能會對它們如何快速體現自身價值產生重大影響。開始整合人工智能工具的一個看似自然的場所是在 CTC 環境中，以及在大型總部作戰演習的大型模擬中。最初的工具在營級以下可能用處不大，但如果納入迭代設計、軍事決策過程或聯合規劃過程，則幾乎肯定會增強營級及以上的軍事規劃。雖然在本作品中，對工具的描述主要集中在與指揮官的直接關系上，但在最初的介紹中，與參謀部的某些成員（包括執行軍官或參謀長、作戰軍官和情報軍官）建立直接關系可能會更有用。與所有軍事組織一樣，組織內個人的個性和能力必須推動系統和工具的調整，使其與需求保持平衡。

幾乎可以肯定的是，在將人工智能工具融入軍事組織的初期，一定會出現摩擦、不完善和懷疑。承認這種可能性和任務的挑戰性并不意味著沒有必要這樣做。人類歷史上幾乎所有的創新都面臨著同樣的障礙，尤其是在文化保守的大型官僚機構中進行創新時。面對國際敵對競爭對手的挑戰，美國陸軍目前正在文化和組織變革的許多戰線上奮力前行，在整合人工智能工具的斗爭中放棄陣地無異于在機械化戰爭之初加倍使用馬騎兵。在戰爭中，第二名沒有可取的獎賞，而人工智能在決策方面的潛在優勢，對那些沒有利用這一優勢的行為體來說，是一個重大優勢。現在是通過擁抱人工智能工具和改變戰爭節奏來更好地合作的時候了。

探測無人機系統（UAS）非常復雜。在多個領域（空中、陸地和海洋）整合和共享雷達信息是一個難題。目前有關無人機系統探測的研究主要集中在探測地面兵力和國家關鍵基礎設施上空的無人機系統，但當無人機系統開始挑戰港口或公海上的軍艦時會發生什么？在多機構危機事件中，如何通過無線方式收集和共享信息？探測到的無人機傳感器數據能否通過無線網格網絡（WMN）與其他機構共享？研究表明，在一次小規模的多機構危機響應演習中，可以將 SAAB 的 G1X 雷達系統的模擬數據與戰術突擊套件（TAK）態勢感知應用程序集成在一起。該技術運行完美；但是，注意到，必須進一步檢查和改進反無人機系統戰術技術和程序（TTP）、國際無人機系統法律法規以及提示和自動化，以適應當今的戰斗和機構間響應。此外，發現在演習期間，手機信號無法有效覆蓋舊金山灣。為了縮小這一差距，使用 Persistent Systems 公司的 MPU-5 無線電設備成功擴展了 WMN，從而在非網絡環境中創造了更廣泛的維護網絡功能的能力。

壓縮的戰術決策周期將是未來快節奏的超級戰爭的支點。人工智能武器系統有望擴展和最大化人類的能力，成為武裝部隊在這種致命作戰環境中的生存能力和殺傷力的關鍵。人工智能不是武器；它是武器系統的組成部分或元素--最可能是一個軍事網絡或 "軍事物聯網"，它將加速火力或效果應用的速度和決策。網絡化部隊將為整個企業的態勢感知和戰斗管理提供信息。部隊不太可能出動 "殺手機器人"--攜帶武器、不受人類指揮做出生死決定的單獨實體。相反，創建和使用自主武器系統（AWS）將需要一個定義明確的作戰環境，并獲得豐富、準確、超大的數據集，如GPS，由分布式傳感器提供，加上改進的機器學習算法和高性能處理器，將人工智能融合到殺傷鏈中。殺傷鏈過程結合了多光譜傳感器，以了解作戰環境，積極地識別、跟蹤和選擇目標，并以最適當的效果與他們交戰。(蘇聯將這一過程稱為 "偵察打擊綜合體"，而在20世紀90年代，美國的約翰-博伊德推廣了 "OODA循環 "一詞，即武裝部隊在對手面前競相觀察、定位、決定和行動）。人工智能旨在促進這種適應性的、多領域的、高速的決策模式，在此過程中，它有望提供決定性的軍事優勢。本研究的第二部分敘述了美國武裝部隊在武裝沖突期間對人工智能的當前和潛在使用。

在第三部分，研究轉向適用于戰爭中使用人工智能的規則。所有的戰爭方法和手段，包括人工智能，都必須符合戰爭法，也稱為武裝沖突法（LOAC）或國際人道主義法律（IHL）。指揮官有責任確保他們所掌握和指揮的方法和手段，包括人工智能，符合武裝沖突法的原則，如區分、相稱性和攻擊中需要預防的規則。

第四部分探討了《特定常規武器公約》（CCW）成員國為制定有助于確保AWS遵守武裝沖突法的標準所做的努力。特定常規武器公約》召集了一個政府專家小組（GGE），考慮對AWS的人類判斷或控制水平進行標準化的定義，以確保人類對機器的行為負責。政府專家小組最關注的是確保在敵對行動中使用致命性武器（LAWS）符合武裝沖突法。這項工作旨在彌補致命性武器系統在法律上暴露的 "漏洞"。然而，無論這一過程中產生了什么標準，都不可能成為確保致命性武器系統的運作符合武裝沖突法的有效和可靠的指導。

此外，一些非政府組織和有關國家認為，讓指揮官對行為不可預測的自主武器系統負責是不公平的，但這正是軍隊運作的方式--賦予軍事指揮部對部隊的全權和責任。特定常規武器公約》政府專家小組的努力不太可能產生詳細的、被廣泛接受的規則，從而有意義地改進這種模式。作戰的軍事指揮官已經對他們在武裝沖突期間使用人工智能武器系統負責，這是第五部分的重點。

第五部分探討了體現在軍事指揮官身上的人類問責制。軍事指揮官對人工智能武器系統的使用以及在他或她的指導下支持戰爭行動的所有努力路線負責。直接的、個人的指揮責任是長期的、完整的。對所有軍事行動--包括武裝沖突中由人工智能發動的攻擊--的相應責任由指揮系統的最高層承擔。這種問責可能是以刑法的形式，但也包括一系列行政和非司法措施。直接問責涵蓋了武裝沖突期間發生的每一件事，包括那些國際刑事法院缺乏管轄權或證據不足的事件，因此它規范了指揮官的行為，即使他們沒有犯罪意圖，事實上，即使他們沒有直接 "過錯"。

第六部分的結論是，指揮官的直接和個人問責的好處是長期存在，被廣泛理解，并被一線軍官和軍事領導人直觀地理解；它是軍事文化的一部分。雖然它可以利用法律程序，包括軍事司法系統，但它并不完全受制于或依賴這些程序。雖然指揮官仍然要為戰爭罪受到刑事處罰，但軍事問責制也包括一系列非司法和行政制裁。指揮官對人工智能武器系統的問責尤其引人注目，因為與常規武器不同，如果出了問題，沒有額外的人（或更少的人）可以負責。

美國戰略家認為，人工智能(AI)有可能實現更好、更快的決策，這在未來的軍事沖突中是決定性的。機器學習應用將越來越多地影響政治和軍事領導人對戰略環境的看法，權衡風險和選擇，并判斷他們的對手。但是，將關鍵的人類決策過程暴露在人工智能系統的中會有什么風險？

要獲得人工智能在決策方面的優勢，首先需要了解其局限性和陷阱。人工智能系統根據數據模式進行預測。總是有一些意外行為或失敗的機會。現有的工具和技術試圖使人工智能對失敗更加穩健，往往會導致性能上的權衡，解決了一個問題，但可能會使另一個問題惡化。人們對人工智能的脆弱性和缺陷的認識不斷提高，但也需要在現實的部署背景下對技術故障的潛在后果進行更深入的分析。

本簡報研究了直接或間接影響決策的人工智能系統故障如何與戰略壓力和人為因素相互作用，從而引發危機或沖突的升級：

• 納入人工智能的進攻行動或干擾對手的人工智能系統可能導致不可預見的系統故障和連帶效應，引發意外的升級。
• 不安全的、訓練不足的或應用于錯誤類型問題的人工智能系統可能為決策過程注入不良信息，導致意外升級。
• 發現人工智能系統被破壞，可能會對關鍵能力的可靠性或生存能力產生不確定性，如果沖突似乎迫在眉睫，會促使決策者故意升級。

這些情景揭示了一個核心困境：決策者希望使用人工智能來減少不確定性，特別是當涉及到他們對戰場的認識，了解對手的意圖和能力，或了解他們自己抵御攻擊的能力。但通過依賴人工智能，他們在人工智能系統技術故障的可能性和后果方面引入了一個新的不確定性來源。

有效利用人工智能需要以一種有謹慎的和有風險的方式來平衡優勢與局限。沒有辦法保證概率性人工智能系統會完全按照預期行為，也沒有辦法保證它能給出正確的答案。然而，軍隊可以設計人工智能系統和依賴它們的決策過程，以減少人工智能失敗的可能性并控制其后果，包括通過：

• 為決策環境中使用的人工智能系統定義一套特定的任務屬性、標準和要求，如信任度量和保障措施，以檢測妥協或突發屬性。
• 規定人工智能在決策中的使用，將人工智能應用于非常適合的狹窄問題，同時保留人類判斷問題，如解釋對手的意圖；并考慮在某些領域完全排除人工智能。
• 盡可能地讓高級決策者參與他們所依賴的系統的開發、測試和評估過程，并讓他們了解人工智能的優勢和缺陷，以便他們能夠識別系統的故障。

美國應繼續帶頭制定負責任地開發和使用人工智能的全球標準，采取步驟展示某些可靠性，并盡可能地鼓勵其他國家采取類似的預防措施：

• 澄清為限制支持決策的人工智能系統的風險而實施的做法和保障措施。
• 開展國際合作，制定互利的技術保障措施和最佳做法，以減少人工智能災難性故障的風險。
• 承諾在使用包含人工智能能力的進攻性行動和針對人工智能系統的行動時保持克制，因為這些行動存在重大升級風險。

美國已經進入了一個大國競爭的新時期。俄羅斯和中國的崛起在全球權力結構中形成了復雜的三足鼎立局面。最近人工智能方面的技術進步使這種多變的國際動態進一步復雜化。學者、政治家和高級軍官已經意識到，人工智能的融入是軍事事務中一場新革命的起源，有能力改變權力的戰略平衡。美國在中東被二十年的反叛亂所困擾，并受到僅延伸至2025年的長期人工智能戰略的阻礙，沒有準備好進入這個 "第六代 "軍事能力，以確保其戰略利益。這種人工智能化的部隊將由半自主和自主系統定義，包括致命的自主武器系統。第一個開發和使用這些武器的國家行為者將在這個新時代獲得對其競爭對手的戰略優勢。雖然美國目前在人工智能方面擁有優勢，但由于缺乏前瞻性思維和重點投資政策，這種優勢正在迅速消失。這是一份旨在解決這一差距的政策文件。20世紀90年代中期的中國軍事現代化模式為美國未來的政策提供了一條潛在的途徑。雖然兩國政府結構存在差異，但其中的幾個基本原則可以在美國的制度框架內適用。因此，美國可以通過制定健全的投資政策、集中的技術發展計劃和新的行動概念來確保人工智能的首要地位，以便在新能力出現時將其最大化。

針對美國的政策建議與評估

大國競爭必須相對于其他大國的能力進行評估。因此，沒有一種能力可以被評估為產生可持續的絕對優勢。然而，在潛在的對手獲得同樣的能力之前，開發人工智能技術和應用為21世紀沖突設計的CONOPS的能力將在整個政治/軍事領域產生一個暫時的戰略優勢。美國目前的公共政策和戰略并沒有延伸到25年后。隨著中國準備在2030年成為占主導地位的人工智能大國，美國為了確保長期戰略利益，不能接受人工智能競賽的現狀。由于人工智能領域的技術發展速度很快，人工智能RMA的狀態和抓住初始優勢的能力正在接近一個拐點。建議美國采取側重于美國在人工智能競賽中的首要地位的政策，特別是在致命性自主武器系統的研究和開發方面。美國在這一領域保持優勢的能力對于國家安全和參與21世紀人工智能輔助和/或人工智能環境的準備工作是至關重要的。

由于致命性自主武器系統是一項仍在開發中的未來技術，因此不可能確定致命性自主武器系統對戰略環境的完整影響。本研究承認，對于評估一個未來武器系統的影響沒有預測性的措施，該系統在實現其全部潛力之前還將經過幾代技術的演變。然而，評估投資政策、技術和CONOPS演變的影響以及它如何影響軍事準備、政治資本和戰略環境的能力是有據可查的。

本文的建議將以1990年至今的中國軍事投資戰略為藍本。在此期間，中國國防開支的增加創造了一個前所未有的能力和軍事力量的增長，為美國未來的人工智能政策提供了一個框架。由于全球力量是以相對而非絕對的方式衡量的，美國至少必須在多極環境中與不斷增長的大國保持平等。雖然從美國的角度來看，中國戰略的某些方面，特別是盜竊知識產權的因素是不切實際的，但那些關于教育和貨幣投資的內容可以被納入美國未來的人工智能政策中。這項研究建議：

1.設立一個負責人工智能政策的助理國防部長的新職位，直接負責人工智能的發展和整合到美國防部。

2.指示ASDAI為美國軍隊制定一個關于第六代能力的預期最終狀態，每十年更新一次。

3.建立30年、15年和5年的人工智能目標，每五年更新一次，讓各個機構，如DARPA、JAIC、國防創新部門（DIU）和相關組織負責特定的發展水平。這將使美國政策制定者有能力根據ASDAI評估和更新的多變的戰略環境，為每個機構提供適當的資金。

4.成立一個委員會，負責發展和保留研究生水平的科學、技術、工程和數學（STEM）人才。

5.建立一個戰略規劃組織，負責研究和整合新的人工智能技術，因為它們出現在15年和5年的基準點上，以便在收購過程中納入其中。

對這些政策的評估必須對照美國對手在人工智能領域的成就和進步。建立在美國在人工智能領域的首要地位上的政策應該集中在教育和經濟投資，新的人工智能技術的初步發展，以及新的CONOPS的發展，以便在新的人工智能能力可用時充分和有效地進行。本研究報告的其余部分重點關注中國國防現代化計劃對美國未來人工智能政策和建議的調整。

為了面對軍事防御的挑戰，軍隊及其戰術工具的現代化是一個持續的過程。在不久的將來，各種任務將由軍事機器人執行，以實現100%的影響和0%的生命風險。國防機器人工程師和公司有興趣將各種戰略自動化，以獲得更高的效率和更大的影響，因為陸地防御機器人的需求正在穩步增長。在這項研究中，軍事防御系統中使用的陸地機器人是重點，并介紹了各種類型的陸地機器人，重點是技術規格、控制策略、戰斗參與和使用目的。本研究還介紹了陸地機器人技術在世界軍事力量中的最新整合，其必要性，以及各國際防務公司對世界經濟的貢獻，表明其在軍事自動化和經濟穩定中的優勢。本報告還討論了近期發展的局限性和挑戰、機器人倫理和道德影響，以及與機器人安全有關的一些重要觀點和克服近期挑戰的一些建議，以促進未來的發展。

引言

為了加強軍事防御系統，必須大力發展和提高智能自主戰略能力。在大多數第一世界國家，研究國防技術改進是實現軍事防御現代化的優先事項。未來戰爭的特點可以根據不同領域的沖突進行分析，如：海洋、陸地、空中、網絡、太空、電磁和信息。隨著現代智能和機器人技術的改進，跨域（X域）和多域戰略也需要被關注。無人自主X域（多域）系統，簡稱UAxS，現在是研究和發展的重點，以使軍事力量更加強大、有力和智能。圖1展示了多域和X域的戰爭模式。

圖 1：多域和 X 域戰爭模型

現代防御機制可以在四個相互關聯的領域進行研究：先進的戰艦、良好的通信、人工智能和自主武器。這基本上意味著在軍事防御系統中實施機器人技術。在戰場上，一支裝備精良的機械化部隊是指揮官非常重要的資產。在戰爭中，指揮官必須專注于火力、機動性、人機合作、決策、支持裝甲和指揮步兵。在未來，機器人和自動化系統將通過提供支持和減少負擔來幫助解決這些問題，因為這些系統將更加智能、可靠和合作。在最近的軍事活動中，機器人和自主技術被用于偵察、設備供應、監視、掃雷、災難恢復、受傷士兵的檢索等（Dufourda, & Dalgalarrondo, 2006；Akhtaruzzaman, et al., 2020）。

為了確保可靠的使用和獲得最高的技術影響，機器人必須在半自動化、自動化和人機交互工程方面進行良好的設計。無人地面車輛（UGV）很有前途，在國防應用中具有很大的潛力，在這些應用中高度需要更快和可靠的通信鏈接（鏈接預算）和快速獲取信息（RAtI）（Akhtaruzzaman, et al., 2020）。機器人的價值比人的生命還要低。機器人在感知、檢測、測量和分析方面速度更快。機器人沒有任何激情或情感，不會像人類那樣感到疲勞或疲倦，而是在極端和關鍵條件下保持運作。在不久的將來，機器人將成為作戰計劃和參與的核心技術（Abiodun, & Taofeek, 2020）。它們將能夠通過智能傳感器技術與環境溝通，通過建模理解環境，理解人類的行動，定義威脅，服從命令，以更高的處理能力獲取信息，通過信息交換和共享與其他機器人互動，通過先進的控制技術自主適應敵對環境，并通過強大的計算能力與自動生成的程序應用智能進行自我學習（Akhtaruzzaman, & Shafie, 2010a, 2010b; Karabegovi?, & Karabegovi?, 2019）。

在不久的將來，UGV系統將成為軍事行動的關鍵技術，因為它們將確保幾乎零人力風險，不需要將人力直接安置到戰斗中。UGV系統還將能夠開放各種設施，如負載、自動監視、邊境巡邏、風險降低、障礙物清除、力量倍增器、遠程操縱、信號中繼等（Sathiyanarayanan等人，2014）。陸地防衛機器人必須能夠適應各種崎嶇的地形、惡劣的環境和非結構化的區域，同時發揮指定的作用并保持指揮層次。作為軍事部隊的一種程度，陸地機器人不能給團隊帶來任何額外的工作負擔。因此，必須實施有效的人工智能（AI）工程，以實現UGV或陸地機器人與行動部隊之間可靠的人機合作。

今天的智能機器人或自主武器仍然處于狹義人工智能（ANI）的水平（Horowitz，2019年），或者以某種方式處于ANI和通用人工智能（AGI）之間。這反映出它們還沒有準備好在災難或戰爭等敵對情況下完全自主并做出可靠的決定。人類擁有在很大程度上應用感知經驗的智慧，能夠適應環境，并能在關鍵情況下做出適當的決定。如果這些能力能夠被植入機器人的大腦，該系統就可以說是AGI系統。盡管與人類相比，機器人可以抵御枯燥、骯臟和危險的工作，但它們包括一些有限的功能，如航點或目標導向的導航、障礙物檢測、障礙物規避、威脅檢測、人類檢測和識別、定位、地圖構建、通過圖像和聲音處理提取信息，以及與其他機器人的某種合作。因此，如果能確保機器人和人類之間的良好合作，機器人將在人類的監督下自主工作，那么軍用地面機器人將是最有效的。

本研究對軍用陸地機器人系統、最近的技術進步、應用和道德影響進行了回顧。一些發達國家和不發達國家的現狀，以及通過推進和發展軍事武器、自動化武器和智能技術對世界經濟的工業影響，都反映在審查研究中。本文還闡述了參與戰爭的機器人倫理以及該技術對道德國家的影響。該研究主要試圖通過確定最近的差距、局限性和技術進步的倫理影響，來確定地面機器人技術的最新應用和實施情況。

許多軍事人工智能的研究和開發資金是針對短期內可以實現的戰術級系統的改進。在這里，人工智能（AI）的潛在好處往往受到感官輸入質量和機器解釋能力的限制。然而，為了充分理解人工智能在戰爭中的影響，有必要設想它在未來戰場上的應用，傳感器和輸入被優化為機器解釋。我們還必須嘗試理解人工智能在質量上和數量上與我們的有什么不同。本文介紹了綜合作戰規劃過程中自動化和機器自主決策的潛力。它認為，人工智能最重要的潛力可能是在戰役和戰略層面，而不是戰術層面。然后探討了更多機器參與高級軍事決策的影響，強調了其潛力和一些風險。人工智能在這些情況下的應用發展應該被描述為一場我們輸不起的軍備競賽，但我們必須以最大的謹慎來進行。

1 引言

目前，人工智能（AI）的民用發展大大超過了其在軍事方面的應用。盡管知道網絡將是一個重要的未來領域，但國防部門還沒有習慣于數字-物理混合世界，因此，國防部門與新的社會技術的顛覆性變化相對隔絕。在軍事上運用人工智能的努力往往集中在戰術應用上。然而，人工智能在這些領域的好處受到輸入傳感器的限制，它們被用來復制人類的行為，并在需要與物理環境互動的角色中使用。在作戰和戰略層面上，軍事總部的特點是信息的流入和流出。如今，這些產品無一例外都是完全數字化的。考慮到作戰計劃的過程，可以看出，即使在目前的技術水平下，其中有很大一部分可以可行地實現自動化。這種自動化的大部分并不構成可能被理解的最純粹意義上的人工智能，即 "擁有足夠的通用智能來全面替代人類的機器智力"。然而，軟件可以在特定任務中勝過人類的事實，再加上高級軍事決策過程被細分為此類特定任務的事實，使其成為比較人類和機器決策的優點、限制和能力的有用工具。這樣做，人類的能力似乎有可能被輕易取代。因此，追求軍事決策自動化的動機肯定是存在的。本文討論了部分自動化軍事決策的潛力和實用性，并想象了為這些目的無限制地發展人工智能可能帶來的一些風險和影響。

人工智能已經使用了幾十年。它已經被部署在有人駕駛的編隊中，并將在未來幾年內繼續被用于軍事。目前的戰略和作戰概念要求在整個國防企業中增加使用人工智能能力，從高級領導人到戰術邊緣。不幸的是，人工智能和它們所支持的戰士不會 "開箱即用"地兼容。簡單地將人工智能植入人類團隊并不能確保成功。美國防部必須仔細注意如何將人工智能與人類一起部署。這在團隊中尤其如此，因為團隊的結構和成員的行為可以決定業績的好壞。由于人類和機器的工作方式不同，團隊的設計應該利用每個伙伴的優勢。團隊設計應該考慮到機器伙伴的固有優勢，并利用它們來彌補人類的弱點。這項研究通過提交新的概念模型，捕捉人類和機器在人機合作結構中運作時的理想團隊行為，對知識體系做出了貢獻。這些模型可以為人機團隊的設計提供信息，從而提高團隊的績效和敏捷性。

圖1 智能自主系統技術框架

圖3 美國人工智能相關戰略

引言

核導彈發射被探測到。那是1960年10月5日，北約正處于最高級別的警戒狀態。以99.9%的準確率，來襲的蘇聯彈道導彈被格陵蘭島的預警系統探測到。值得慶幸的是，北約的報復行動被制止了，操作人員發現，"智能 "系統正在跟蹤上升的月亮（Singer，2009）。自然，這并不是唯一一次世界幾乎在人工智能（AI）引起的核交換中喪生。1983年9月26日，蘇聯的彼得羅夫中校發現自己是莫斯科附近Serpukhov15掩體內的值班人員。在太空中運行的蘇聯Oko預警衛星系統完全肯定地報告說，多枚導彈正在前往莫斯科的路上。問題是，奧科系統把從云頂反射的陽光誤認為是美國的一系列導彈發射（Scharre，2018）。解讀其系統的局限性，并將事件置于背景中，操作人員能夠防止災難的發生。當然，這些極端案例是少見的，對于今天的人工智能，我們沒有那么依賴人類的判斷，對嗎？不幸的是，不盡然。人類和人工智能（AI）的工作方式不同，所以像美國防部（DOD）這樣的組織在將人工智能系統插入操作團隊時，需要非常慎重。

B 研究問題、方法和路徑

1 研究問題

本研究試圖回答以下問題：

• 成為隊友意味著什么？
• 機器如何在團隊中與人類成為伙伴？
• 將機器伙伴融入以前的人與人之間的團隊，如何提高團隊的敏捷性？
• 能否用共享的團隊心理模型或互動的團隊認知方法更好地理解機器伙伴？

2 方法

將對文獻進行詳盡的回顧，并對兩個適用的案例研究進行分析。這項研究的目標是產生一個人機協作的概念模型，并提供有關人機團隊內部溝通的背景性、現實世界的知識。鑒于目前可用的基于實驗室的人機協作實驗數量有限，本研究將檢查數據以確定廣泛的主題和模式。

人類團隊和人類團隊動態的性質已經得到了廣泛的研究。這一領域的文獻有豐富的發現，可以提供關于人與人團隊動態的細節；然而，關于機器融入人與人團隊的文章卻很少。隨著機器伙伴被納入傳統意義上的人類團隊，就需要對人機團隊進行研究。本研究將首先描述人工智能的特點及其對戰爭的預期影響。將提供關于機器-機器團隊的現有文獻分析，然后是人類認知和人-人團隊的更多發展主題。這項研究在描述人機團隊的通信、協調和互動動態之前，將對人機團隊進行特征描述。然后，作者將展示這些動態如何與團隊敏捷性和績效的概念相聯系。

3 研究目的

本研究目的是探索人機團隊中的溝通、協調和互動動態，并闡述它們對團隊敏捷性和績效的潛在影響。隨著人機團隊結構在DON中變得越來越普遍，這種探索對于發展對團隊動態的理解是必要的。這項研究將產生人機團隊的概念模型，可以為未來系統的設計提供參考。這項研究的結果可以幫助美海軍軍部更好地理解將狹義的人工智能能力整合到團隊構建中的影響。這種知識將最終使美國防部能夠應用研究結果來提高人機團隊的敏捷性。

提綱

• 第2章 美海軍部人工智能戰略分析
• 第3章 編隊理論綜述
• 第4章 指揮與控制概念及條令綜述
• 第5章 對人工智能理論、能力和局限性的綜述
• 第6章 人機編隊
• 第7章 方法論
• 第8章 分析
• 第9章 未來工作總結