摘要

應對氣候變化對北約具有戰略意義。對可能的氣候措施和后果進行充分知情的決策支持分析將決定北約如何很好地應對這一挑戰。環境科學和軍事行動分析的結合將使各國和聯盟能夠做出明智的決定，有可能減少溫室氣體排放和成本，并提高行動效率。

挪威國防部已責成挪威國防研究機構（FFI）在軍事要求規定的范圍內研究挪威武裝部隊減少溫室氣體排放的潛力。

我們對挪威武裝部隊未來的排放量進行了建模，并對七項措施的減排量和成本進行了量化。總的來說，這些措施有可能使溫室氣體排放相對于未來排放的基線減少15-30%，平均估計為22%。此外，我們還確定了幾個同樣重要的措施，這些措施的減排量可能難以量化。

武裝部隊的軍事平臺有很長的服務壽命。現在投資于能源效率低下的解決方案將在未來許多年內產生排放和成本。因此，我們建議，排放預測在采購決策和長期國防規劃過程中得到更突出的作用。

引言

挪威武裝部隊的活動對環境產生了一些負面影響。鑒于武裝部隊任務的性質，其中一些影響是不可避免的。對環境的影響進行了持續的調查，并每年進行報告。國防部門的溫室氣體排放在國際和國內得到了越來越多的關注，挪威國防部責成挪威國防研究機構（FFI）研究減少挪威武裝部隊溫室氣體排放的潛力。

本文的目的是在軍事要求規定的范圍內，對這種潛力進行建模。這項研究并不包含國防部門可能的環境措施的完整清單。我們已經優先考慮了目前知識缺乏的領域。我們還考慮了一個新提出的海上戰爭替代概念的排放效應。這不應該被理解為一種減排措施，它是一種提高能力和降低成本的措施。然而，我們希望證明這樣一個概念的排放后果，并將其作為一個例子，說明如何在國防部門利用技術來實現更多的氣候效率解決方案。

在本章中，我們將簡要地討論氣候變化和對挪威武裝部隊可能產生的后果。在接下來的章節中，我們將說明我們的分析方法和數據、結果和結論。

圖1-1：根據目前的長期計劃，挪威武裝部隊未來排放的模擬基線。

摘要

人工智能領域的進展繼續擴大這組技術的潛在軍事應用范圍。本文探討了信任在人機聯合作戰中的關鍵作用，以及依靠人工智能來補充人類認知的潛在影響。如果依靠人工智能來準確處理傳感器數據，操作自主系統和平臺，或通過擬議的作戰概念（如以決策為中心的戰爭）提供有利的決策支持，設想機器智能的中央指揮和控制作用，那么信任機器智能將是未來作戰中的一個關鍵組成部分。鑒于這些技術和理論的發展，信任的概念對于機器智能在戰術和作戰層面的軍事行動中的使用變得高度相關，正確校準的信任水平是安全和有效行動的基礎。在簡要回顧了機器智能的最新進展和對信任概念的探索之后，本文概述了人工智能在戰場上的當前和潛在應用，以及由不充分或不合理的高信任度帶來的挑戰。

引言

縱觀歷史，技術已經擴大了武裝沖突的領域，戰術交戰的節奏，戰場的地理范圍，以及指揮官與部隊溝通的手段。技術創新--包括軍事和民用--改變了軍隊的作戰方式以及國家計劃和進行這些沖突的方式。在21世紀，迄今為止，很少有進步能像統稱為人工智能（AI）的一組技術那樣獲得如此多的關注。人工智能正準備迎來一個新的時代，在這個時代，機器智能和自主性正在為軍事行動的規劃和執行產生明顯的新概念。算法戰爭可能會帶來一些獨特的東西：增強甚至取代人類決策過程的系統，其速度可能超過人類規劃者的認知能力。
新興技術的整合提出了任何數量的基本組織和倫理問題，值得關注。本文將采用定性的社會科學方法，重點討論人類-自治團隊（HAT）的一個重要方面：鼓勵對機器智能的適當信任程度。有大量的學術文獻關注自動化或機器人技術中的信任問題，但有關具體軍事應用的工作較少。當人工智能在聯合作戰中被實際部署時，在信任方面有哪些挑戰和機會？在簡要回顧人工智能和概述機器智能在戰場上的可能應用之后，本文在分析鼓勵適當信任水平的陷阱和潛在解決方案之前，探討了信任和信任校準的概念。

人工智能的進展

幾十年來，人類一直對賦予機器某種形式的人工智能的可能性著迷，Nils Nilsson將其定義為 "致力于使機器智能化的活動，而智能是使一個實體在其環境中適當運作并具有預見性的品質"。在數字時代的早期，出現了兩種廣泛的人工智能方法。自上而下的專家系統方法使用復雜的預編程規則和邏輯推理來分析一個特定的數據集。對于具有可預測規則的明確定義的環境--諸如分析實驗室結果或下棋等應用--專家系統或 "符號 "人工智能（基于符號邏輯）的性能主要取決于處理速度和算法的質量。另一大類使用自下而上的機器學習方法，模擬人類通過檢測數據中的模式進行學習的方式。神經網絡是一種以人腦為模型的機器學習形式，能夠通過使用多個（因此是 "深"）人工神經元層來識別復雜的模式，是被稱為 "深度學習 "的技術的基礎。通過其在數據集中尋找關系的能力，這種技術也被稱為 "連接主義"。
自上而下、基于規則的符號系統和自下而上的機器學習連接主義技術之間的差異是很大的，特別是關于它們的潛在應用范圍和靈活性。深度學習方法的顯著特點是能夠將學習與它所訓練的數據集分開，因此可以應用于其他問題。基于規則的算法可以在狹義的任務中表現得非常好，而深度學習方法能夠迅速找到模式，并在 "蠻力 "專家系統計算方法無效的情況下有效地自學應用。最近的一些人工智能進展顯示了模仿創造力的能力，產生了有效的解決問題的方法，這些方法對人類來說可能是反直覺的。
然而，總的來說，人工智能仍然是狹窄的或 "脆弱的"，即它們在特定的應用中功能良好，但在用于其他應用時仍然不靈活。與人類的認知相比，鑒于機器的計算速度遠遠超過人腦，機器智能在將邏輯規則應用于數據集時要優越得多，但在嘗試歸納推理時，它必須對數據集或環境進行一般性的觀察，這就顯得不足。大多數機器學習仍然需要大量的訓練數據集，盡管新的方法（包括生成對抗網絡（GAN）和 "小于一次 "或LO-shot學習）正在出現，需要非常小的數據集。圖像識別算法很容易被混淆，不能像人類那樣立即或直觀地理解情景背景。這種脆性也延伸到了其他問題，比如游戲。雖然人工智能在視頻游戲中經常表現出超人的能力，但他們往往不能將這種專業知識轉移到具有類似規則或玩法的新游戲中。
 雖然人工智能技術繼續在變得更加適應方面取得重大進展，但任何接近人類的人工通用智能仍然難以實現。評估人工智能的近期前景因該技術的漸進式進展而變得更加復雜。圍繞著人工智能的炒作--在很大程度上被深度學習方法的成功所推動--既導致了對該技術未來的不切實際的期望，也導致了對其非常大的進展的正常化。正如一份報告所指出的，"人工智能將一項新技術帶入普通人的視野，人們對這項技術習以為常，它不再被認為是人工智能，而出現了更新的技術"。盡管象征性的人工智能和各種形式的機器學習構成了該領域最近的大部分進展，也許除了融合這兩種方法的嘗試之外，未來仍然不確定。一些人猜測，機器學習技術帶來的進展可能會趨于平穩，而另一些人則保持樂觀。相關的技術進步，如短期內的計算機芯片設計和長期內的量子計算，可能會影響進一步進展的速度。

美國衛生與公眾服務部發布了其人工智能手冊，以提供有關可信賴人工智能的高級信息以及在其典型生命周期中部署人工智能的指導。

該手冊旨在指導HHS領導層圍繞TAI制定政策，并評估與AI投資相關的風險，同時也強調了項目和項目經理如何恰當地將其納入，在構建AI解決方案之前與團隊合作，監督項目的整個生命周期，并降低風險。

該手冊沒有鞏固正式的政策或標準，而是為人工智能的采用描繪了一個大致的框架，以推廣白宮的人工智能原則，集中相關的聯邦和非聯邦資源，并為人工智能的整個生命周期和未來的使用設置一個智能采用的框架。

該手冊強調了應在“人工智能項目的所有階段”應用的六條原則，呼吁衛生與公眾服務部把握好人工智能公平、公正、透明、可解釋、負責任、健壯、可靠、安全、保護隱私。

從這些原則出發，該手冊著眼于整個人工智能生命周期，從啟動和概念到部署和運營維護，以強調如何將這些原則應用于人工智能采用的常見和關鍵步驟。

該手冊提供了生命周期各個階段的各種用例，以說明如何在設計解決方案和評估模型風險因素等步驟中應用這些原則。這些用例包括自動化醫療文檔處理、用于醫療賬單欺詐檢測的人工智能、用于客戶服務的聊天機器人等。

有了該手冊，HHS 將在 2022 年專注于圍繞人工智能的進一步合作和對話。其中包括：

• 培養 HHS AI 實踐社區
• 為 HHS 人員舉辦進一步的 AI 午餐和學習課程
• 成立 HHS AI 委員會以執行 HHS AI 戰略
• 根據需要擴展劇本以促進道德和值得信賴的人工智能
• 開發 AI 用例清單

人工智能 (AI) 和相關的數字技術將如何重塑律師的工作和律師事務所的結構？傳統上，法律服務由高技能的人提供，即律師。人工智能最近的巨大進步引發了人們對自動化系統在法律服務中取代人類的程度的猜測。一個相關的爭論是法律界對合伙形式的堅持是否會抑制投資新技術所需的資金籌集。

本文介紹了人工智能在法律服務中的實施進行的最全面的實證研究，包括基于訪談的案例研究和調查數據。我們關注兩個相互關聯的問題：法律服務工作的性質將如何變化，以及協調這項工作的公司將如何組織。一個中心主題是，先前關注變革的“人與技術”方面的辯論忽略了技術正在改變法律服務的人的維度的方式。

我們對人工智能對法律服務工作影響的分析表明，雖然它會在某些任務中取代人類，但它也會改變那些未被取代的人的工作。它將增強使用人工智能服務作為工作投入的人類律師的能力，并為法律專家在生產這些人工智能服務方面發揮新的作用。我們記錄了這些聚集在多學科團隊（“MDT”）中的新角色，這些團隊將法律與一系列其他學科投入相結合，以增強技術系統的運行。我們確定了傳統律師事務所合作伙伴在實施人工智能方面面臨的挑戰。與之前的爭論相反，這些并非來自對技術資產投資的資金限制。相反，核心問題與人力資本有關：做出必要的戰略決策；招募、協調和激勵必要的 MDT；并調整專業界限。這些發現對律師、律師事務所和法律界具有重要意義。

關鍵詞：人工智能、法律職業、律師事務所組織、法律科技、法律服務的未來

當人工智能 (AI) 的使用在法律服務中變得普遍時，律師事務所和法律界會發生什么？我們通過考慮三個相關的分析級別來解決這個問題：任務、業務模型和組織。

首先，我們審查人工智能與任務相關的技術能力，以確定它可能取代或增強人類的環境。人工智能能夠比律師更好地完成一些（但不是全部）法律任務，并且可以通過多學科的人工輸入來增強。

其次，我們確定了通過應用人工智能在法律服務中創造價值的新商業模式。這些不同于律師事務所傳統的法律咨詢業務模式，因為它們需要技術（非人力）資產和多學科人力投入。

第三，我們分析了新舊商業模式相輔相成的組織結構：專業合伙（P2）非常適合提供法律咨詢業務模式，但公司提供的集中管理、外部資本和員工激勵機制形式似乎更好地補充了新的支持人工智能的商業模式。

一些律師事務所正在嘗試同時追求新的和舊的商業模式。然而，當商業模式結合時，互補的差異會產生沖突。這些沖突通過承包部分外化，并通過垂直整合進行隔離和重新調整。我們的分析表明，律師事務所嘗試將不同的商業模式與不同的組織實體相結合，以及道德問題，將影響法律專業成為“混合專業人士”的程度。

本報告描述了北約第一個多領域小組IST-173所取得的成果。與會者包括來自不同小組和團體的科學家，以及來自北約機構和軍事利益攸關方、學術界和工業界的科學家，這為AI和軍事決策大數據這一主題創造了第一個利益共同體。該團隊在實踐中證明了一種新的STO方法的可行性，即任務導向研究，以激發公開對話、自我形成的研究合作和跨小組活動。此外，該方法還有助于為人工智能和軍事決策大數據這兩個主要能力領域聯合開發北約首個科技路線圖，以應對北約在這些領域面臨的作戰挑戰。由于新的組織(軍事利益相關者積極參與的多領域團隊)和這種創新方法的應用，確定了一些經驗教訓，應該支持軍事決策AI和大數據的進一步操作。

隨著現代信息技術的不斷發展，汽車行業已經進入新能源數字化時代，汽車逐步向智能化、網聯化深入發展。車聯網是 “互聯網 +” 時代網絡空間的延伸，是車輛之間以及與基礎設施、行人和網絡組成的車際網。車聯網的發展將實現人、車、路、云之間數據互通，并服務于智能交互、自動駕駛、智慧交通等各種場景。

然而，智能汽車在車聯網中扮演的角色將不僅僅是一般意義上的交通工具，為實現更多的功能與場景，智能汽車正在成為深度收集、處理、傳輸和使用大量包含個人信息、汽車運行數據和環境數據的可移動、可交互 的汽車數據樞紐。汽車數據是車聯網運行的關鍵，其中包含的大量重要數據將涉及到個人、車輛、企業以及 國家的安全。如何保障汽車數據安全，并在合規前提下，促進汽車數據的充分合理利用，逐漸成為關系到整 個車聯網產業健康良性發展的重要課題。

目前，我國已經制定并開始實施《網絡安全法》《數據安全法》《個人信息保護法》等數據保護領域的重要 法律。在車聯網領域，相關部門也在不斷加強監管和保護，并陸續出臺了《汽車數據安全管理若干規定（試 行）》《關于加強智能網聯汽車生產企業及產品準入管理的意見》等重要行業規定和意見，對車聯網產業提出 了全方位的數據保護要求。

基于此，畢馬威中國與觀韜中茂律師事務所聯合發布《車聯網數據安全監管制度研究報告》。本報告對當前車 聯網領域涉及的汽車數據類型、數據安全的監管現狀、行業監管重點等問題進行梳理和分析，并提出監管建 議，希望能為社會各界提供借鑒和參考。

【報告標題】

Human Factors and ISR Concept Development and Evaluation 人為因素和情報、監視、偵察 (ISR) 概念開發和評估

【報告來源】

北約技術報告

【出版時間】

2022年2月

【研究問題】

情報、監視和偵察 (ISR) 行動是關于收集信息并向操作員提供信息，而操作員又需要就其戰區的各種行動方案做出具體決策。可以肯定的是，ISR 行動是技術密集型的。然而，與此同時，ISR 行動是一個非常以人為本的過程。盡管如此，ISR 概念開發和評估 (CD&E) 過程中幾乎沒有人為因素 (HF) 研究。通過研究新的ISR技術和概念對不同操作環境下操作員性能的影響，研究人員可以提供更科學的建議，為高層政策和決策者提供關于所有ISR環境下未來ISR技術和能力的信息：包括空中、海面、地下和空間。就這一點而言，HF 研究方法應成為任何 ISR CD&E 過程的組成部分，為 ISR 指揮鏈各級的政策和決策者提供信息和建議。

【研究目的】
 北大西洋公約組織 (NATO) 研究和技術組織 (RTO) 人為因素和醫學 (HFM) 小組任務組 (RTG) 276 (NATO RTG HFM-276) 題為“人為因素和 ISR 概念開發和評估”，旨在識別和理解對有效 ISR 操作至關重要的 HF 問題。更準確地說，這項開創性工作的目標是：

1 確定有效 ISR 行動的關鍵 HF 問題（例如，態勢感知、工作量、組織結構、協調和協調機制、可視化、信任、信息共享和管理、領導力以及做決定）;

2 使用行為理論模型來發展我們的研究方法并理解我們的發現；

3 就 ISR CD&E 操作中 HF 研究的使用和實施提出建議。

【結果、意義、影響】
 北約 HFM-276 任務組使用組織有效性模型開發了一組調查，以識別和了解對有效 ISR 行動至關重要的 HF 問題。該模型的核心是由任務、收集、處理、利用和傳播 (TCPED) 組成的 JISR 流程。源自該模型以及其他來源的數據收集計劃著眼于 ISR 行動中的一些 HF 問題的作用：基本 HF 知識、情況評估、工作量、組織結構、信任、信息共享、信息管理、領導力、文化、組織過程、組織靈活性、共享意識和責任、協調和協調機制、決策、能力、情報請求管理（IRM）、通信、元數據和應用系統。所有這些 HF 因素都會影響 ISR 操作概念并影響操作員的績效。此外，該報告總結了一些改進北約和非北約行動的 ISR CD&E 過程的實際影響，重點是開發應包含在 ISR CD&E 過程中的 HF 研究方法。這種 HF 方法將像技術和程序 ISR 概念開發的質量控制組件一樣工作。預計研究結果將有助于為 ISR 指揮鏈各級的政策和決策者提供信息和建議，以增強北約 ISR 規劃、任務執行和能力發展中的信息和決策優勢。它還有望幫助告知 ISR 與其他聯合流程的整合，例如在確定當前與 ISR 相關的 HF 差距以及與其他流程整合方面的聯合目標。

?世界各地的軍隊正在根據戰爭的發展開發、集成和使用機器人和自主系統 (RAS)。需要進一步思考這一過程在荷蘭境內發生的條件以及可能產生的挑戰和影響。HCSS 項目“軍事背景下的 RAS”試圖為這一討論做出貢獻。

在兩年的時間里，該項目產生了五篇公共研究論文，涵蓋了與在軍事背景下實施 RAS 相關的一系列主題。這些研究論文涵蓋了軍事適用性、倫理考慮、法律論述、合作要求以及 RAS 在軍事環境中的實施。所有論文都合并在此報告中，包括簡要總結分析的綜合報告和一系列六份情況說明書。 研究方法側重于獲取從業人員、研究人員、倫理學家、法律專家、行業專業人士、技術人員、民間社會組織、軍事人員和國防界其他成員的專業知識。這樣做不僅能夠收集對主題的多方面理解，而且還能將這些利益相關者獨特地聯系在一起，并促進他們之間具有挑戰性的討論。在項目過程中，與不同的咨詢委員會成員舉行了五次會議，指導了研究軌跡，并為其立場文件和研究論文草稿提供了寶貴的意見。還收集了來自 200 多名利益相關者的專業知識，參加了六場專家會議，其中涉及各種方法，包括基于場景的討論、設計會議、

次要目標是為公眾辯論提供信息，并在抵制流行的“殺手機器人”觀念的軍事背景下就 RAS 進行更細致的對話。為此，舉辦了關于 RAS 的道德困境的公開研討會，與 BNR Nieuwsradio 合作發布了五個 De Strateeg 播客，組織了會議和圓桌會議，并于 2021 年 2 月發布了一部 18 分鐘的紀錄片。

引 言

2019 年 12 月，普京在俄羅斯國防部董事會會議上發表講話時表示，“機器人系統和無人機正在被嚴格引入并用于戰斗訓練，這極大地提高了武裝部隊的能力。”幾個月后，俄羅斯國防部宣布了一項價值約 420 萬歐元的封閉招標，旨在“研究為新一代人工智能軍事系統創建神經網絡開發、訓練和實施的實驗模型”。雖然中國在公開場合遠沒有那么自夸，但他們的軍事優勢戰略是由人工智能和自動化的發展引領的，這導致一些分析人士認為，解放軍的目標是通過系統沖突和高度智能化的戰爭來主導。

這些觀點意味著一個更大的現象。世界各地的軍隊正在根據戰爭的第四次演變開發、整合和使用機器人和自主系統，需要進一步思考在荷蘭境內進行這一過程的條件以及可能出現的挑戰和影響作為結果。

HCSS 項目“軍事背景下的 RAS”試圖為這一討論做出貢獻。在兩年的時間里，該項目產生了五篇公共研究論文，涵蓋了與在軍事背景下實施 RAS 相關的一系列主題。該綜合將這些主題聯系在一起，并展示了該項目最相關的發現。下面總結了 HCSS 研究對道德要求、法律話語、合作伙伴合作、實施和概念開發和實驗的觀察，然后是關于 RAS 的軍事適用性的初級部分。

RAS的軍事適用性

機器人和自主系統 (RAS) 在軍事環境中提供了大量、重要且影響深遠的機會。為了觀察這些系統在這種情況下的適用方式并評估它們的效用，需要解決一些定義和概念：

1 自主性：人類賦予系統執行給定任務的獨立程度。根據系統自身的態勢感知（綜合感知、感知、分析）、規劃和決策，實現分配任務是自治的條件或質量。自主性是指一系列自動化，其中可以針對特定任務、風險水平和人機協作程度定制獨立決策。自主級別可以包括遠程控制（非自主）、操作員協助、部分自動化、條件自動化、高度自動化或完全自動化。

2 機器人：能夠通過直接的人工控制、計算機控制或兩者兼而有之來執行一組動作的動力機器。它至少由平臺、軟件和電源組成

3 機器人和自主系統 (RAS)：RAS 是學術界和科學技術 (S&T) 社區公認的術語，強調這些系統的物理（機器人）和認知（自主）方面。RAS 是一個框架，用于描述具有機器人元素和自主元素的系統。值得注意的是，RAS 的每個連續部分都涵蓋了廣泛的范圍。“系統”部分指的是廣泛（在我們的例子中為軍事）應用領域的各種物理系統。在計算機或網絡上運行的自動化軟件系統，包括“機器人”，即無需人工干預即可執行命令的軟件，不符合 RAS 的條件，因為它們缺少物理組件。“機器人”部分，指的是系統的物理布局，認為系統是無人或無人居住的。所有其他物理方面（大小、形式，無論是飛行、漂浮還是滾動等）都保持打開狀態。

4 致命自主武器系統 (LAWS)：一種武器，在沒有人為干預的情況下，根據人為部署武器的決定，在沒有人為干預的情況下選擇和攻擊符合某些預定義標準的目標，因為攻擊一旦發動，人為干預就無法阻止。

5 有意義的人類控制（MHC）：MHC 包括（至少）以下三個要素：（1）人們就武器的使用做出知情、有意識的決定；(2) 人們被充分告知，以確保在他們對目標、武器和使用武器的背景所了解的范圍內，使用武力符合國際法；(3) 所討論的武器是在現實的操作環境中設計和測試的，并且相關人員已經接受了足夠的培訓，以便以負責任的方式使用武器。MHC 是一個復雜的概念，在許多情況下，上述描述并不是決定性的。荷蘭官方的立場是，“所有武器，包括自主武器，都必須保持在有意義的人類控制之下。”

“殺手機器人”的言論已將公眾對軍事環境中機器人和自主系統的看法縮小為完全關于高度或完全自主系統使用致命武力的觀點。實際上，RAS 可應用于眾多軍事功能和任務，每個功能具有不同程度的自主性（見下圖）。機器人和自主系統的廣泛軍事適用性產生了無數和巨大的機會。未來幾年的挑戰是充分利用這些機會，發揮軍事優勢的潛力，同時降低所帶來的風險。

在這些功能中實施 RAS 會帶來重大挑戰，但也預示著軍隊將面臨更有效、更高效和更敏捷的新機遇。可以根據這些類別評估 RAS 繼續改進/再改進國防領域的潛力。

速度。在促進快速決策和威脅優先級排序的人工智能的幫助下，RAS 已經能夠超越人類的反應時間并縮短 OODA（觀察、定位、決定、行動）循環。

可靠性。將任務委派給機器需要高度的信任，但到目前為止，RAS 還不能證明在所有軍事應用領域都有足夠的可靠性。然而，我們對這些系統的信心將會增加，因為它們證明了它們在執行特定任務時的可靠性和有效性。

準確性。人工智能系統的面部圖像識別和感官能力已經超過了人類的表現水平，盡管無人系統比人類操作員更精確的說法受到廣泛爭議。

大規模效應。由于射程和耐力的增加，RAS 有能力增強對戰場的覆蓋范圍并壓倒對手。這種潛力的最好例子是“蜂擁而至”。

可達性。RAS 極大地增強了監視、情報、偵察和武器系統的可用存在點。

穩健性。在短期內，由于惡劣的天氣和任務的變化等意外條件，RAS 將比人類更容易失敗。這種脆弱性延伸到虛擬域：由于連接丟失、黑客攻擊和其他干擾可能導致系統無法運行。

安全。RAS 可以執行“枯燥、危險和骯臟”的任務，以便人類可以專注于更專業的任務并遠離火線。

成本。盡管最先進技術的獨家使用權將保留給最富有的玩家，但現在被認為是高度先進的系統的成本將在未來 20 年內下降，從而變得更加普及。

維護。考慮到系統的復雜性和涉及的多個（外部）合作伙伴，更新和升級 RAS 軟件和硬件可能會更加困難。

時間效率。RAS 可以 24/7 全天候高標準執行乏味且重復性的監控任務，無需休息，高效解決后勤規劃，快速超越人工多任務處理的極限。

靈活性。盡管 RAS 目前在執行特定任務方面表現出色，但在可預見的未來，人類仍將是最靈活的。隨著開發人員繼續創新當前系統，這種動態可能會發生變化。

適應性。RAS 具有高度自適應性，并且隨著時間的推移在系統生命周期（擴展、擴展、升級等）期間易于重新配置，以便跟上動態環境中出現的新要求。

外部合法性。因此，軍方與 RAS 的接觸必須在他們（可能）提供的先進能力與其所服務的社會的價值觀和規范之間取得平衡。

內部合法性。RAS 的信任和組織規范化將隨著時間的推移而得到加強。隨著對系統的理解、可預測性和熟悉度的提高，它們在組織內的合法性將得到鞏固。

許多國家認識到這種潛力并意識到需要在瞬息萬變的國際舞臺上具有軍事競爭力，因此將 RAS 用作其武裝部隊的一部分（圖 2）。然而，盡管有明顯的機會，但在軍事環境中實施 RAS 并非易事。許多實際和理論挑戰阻礙了實施過程，需要政策制定者、創新者、研究人員、國防界和民間社會成員之間的討論，在許多情況下，這些挑戰考驗著我們賴以監管、開發、獲取、整合和使用其他軍事技術。為了分析這些挑戰，重要的是確定 RAS 系統生命周期的三個階段：開發、集成和使用（圖 3）。下一節總結了在 HCSS RAS 項目期間探索和分析的理論考慮（道德和法律）和實際考慮（私營部門合作和概念試驗與開發）。

RAS的開發是一個硬件和軟件設計和生產的動態過程，在后期根據系統測試、集成、監控和使用的結果不斷地重新審視。RAS的設計和開發需要國防部門和私營部門之間更深入的互動與合作。因此，私營部門在塑造 RAS 生命周期的發展階段和解決與該階段相關的理論和實踐考慮方面發揮著關鍵作用。

這一階段涉及 RAS 的組織嵌入，由此與系統開發者/生產者的關系發生變化，新的參與者（例如實際的軍事最終用戶）出現或獲得更主導的角色。在這個階段，“交接”變化的性質引發了關于不同參與者角色的新問題。

在作戰環境中使用 RAS 會影響軍隊的工作方式、與誰合作以及在什么條件下工作。這是因為相關系統的更大自主性促使操作員和指揮官以“更高的抽象層次”與系統進行交互。除了部署之外，這個階段還包括RAS的維護和服務。

結 論

機器人和自主系統代表了軍事領域的轉變。它們提供了顯著的軍事能力，以擴大軍事行動的質量、范圍、效率和安全性，并正在改變我們現在和未來對抗沖突的方式。RAS 功能正在實施，不僅是荷蘭武裝部隊，還有我們的潛在對手。技術、運營、法律和道德問題，以及這種新興技術的潛在擴散是復雜且相對較新的。

隨著新發展的出現和在運營使用過程中獲得經驗，我們概念化、設計、建造和運營 RAS 的方式將需要反復重新考慮。這也意味著需要不斷的知識開發、概念開發和實驗。為了充分了解 RAS 的潛力及其作為軍事工具箱中重要戰略工具的要求，必須在操作環境中進行實際測試。

要讓行業充分參與這些市場，在這個快速發展的領域中共同開發和共同試驗需要不同的思維方式。在產品完全成熟并且操作使用表明它們被充分理解和可預測之前，RAS 將需要通過短周期創新過程進行不斷調整。

在軍事背景下開發和實施 RAS 將需要持續關注、創造性的大局思維以及與利益相關者（包括政策制定者、學者、倫理學家、律師、行業專業人士、技術人員、民間社會和國防界）的強大合作網絡。

Drone Wars UK 的最新簡報著眼于人工智能目前在軍事環境中的應用方式，并考慮了所帶來的法律和道德、作戰和戰略風險。

人工智能 (AI)、自動決策和自主技術已經在日常生活中變得普遍，并為顯著改善社會提供了巨大的機會。智能手機、互聯網搜索引擎、人工智能個人助理和自動駕駛汽車是依賴人工智能運行的眾多產品和服務之一。然而，與所有技術一樣，如果人們對人工智能了解甚少、不受監管或以不適當或危險的方式使用它，它也會帶來風險。

在當前的 AI 應用程序中，機器為特定目的執行特定任務。概括性術語“計算方法”可能是描述此類系統的更好方式，這些系統與人類智能相去甚遠，但比傳統軟件具有更廣泛的問題解決能力。假設，人工智能最終可能能夠執行一系列認知功能，響應各種各樣的輸入數據，并理解和解決人腦可以解決的任何問題。盡管這是一些人工智能研究計劃的目標，但它仍然是一個遙遠的前景。

AI 并非孤立運行，而是在更廣泛的系統中充當“骨干”，以幫助系統實現其目的。用戶不會“購買”人工智能本身；他們購買使用人工智能的產品和服務，或使用新的人工智能技術升級舊系統。自主系統是能夠在沒有人工輸入的情況下執行任務的機器，它們依靠人工智能計算系統來解釋來自傳感器的信息，然后向執行器（例如電機、泵或武器）發出信號，從而對機器周圍的環境造成影響.

人工智能被世界軍事大國視為變革戰爭和獲得戰勝敵人的優勢的一種方式。人工智能的軍事應用已經開始進入作戰使用，具有令人擔憂的特性的新系統正在迅速推出。與軍事和公共部門相比，商業和學術界已經引領并繼續引領人工智能的發展，因為它們更適合投資資金和獲取研究所需的資源。因此，未來人工智能的軍事應用很可能是對商業領域開發的技術的改編。目前，人工智能正在以下軍事應用中采用：

• 情報、監視和偵察
• 賽博戰
• 電子戰
• 指揮控制和決策支持
• 無人機群
• 自主武器系統

人工智能和英國軍事

綜合審查和其他政府聲明毫無疑問地表明，政府非常重視人工智能的軍事應用，并打算繼續推進人工智能的發展。然而，盡管已經發布了概述使用自動化系統的學說的出版物，但迄今為止，英國國防部 (MoD) 仍然對管理其人工智能和自主系統使用的倫理框架保持沉默，盡管已經做出了一些重大決定。軍事人工智能的未來用途。

英國國防部一再承諾發布其國防人工智能戰略，預計該戰略將制定一套高級倫理原則，以控制軍事人工智能系統的整個生命周期。該戰略是在與來自學術界和工業界的選定專家討論后制定的，盡管政府尚未就與人工智能的軍事用途相關的倫理和其他問題進行公開磋商。該戰略的主要目的之一是向行業和公眾保證，國防部是人工智能項目合作的負責任合作伙伴。

與此同時，在沒有任何道德指南的情況下，計劃和政策正在迅速推進，主要問題仍未得到解答。英國軍隊在什么情況下會采用人工智能技術？政府認為何種程度的人為控制是合適的？風險將如何解決？英國將如何向其盟友和對手證明英國打算采取有原則的方法來使用軍事人工智能技術？

軍事人工智能系統帶來的風險 上述人工智能的每一種不同的軍事應用都會帶來不同的風險因素。作為國防部總部后臺操作的一部分，對數據進行排序的算法會引發不同的問題和擔憂，并且需要與自主武器系統不同級別的審查。

盡管如此，目前正在開發的人工智能系統無疑會對生命、人權和福祉構成威脅。軍事人工智能系統帶來的風險可以分為三類：道德和法律、操作和戰略。

道德和法律風險

• 遵守戰爭法： 目前尚不清楚機器人系統，特別是自主武器如何能夠滿足戰爭法制定的致命決定和保護非戰斗人員的標準。

-問責制：目前尚不清楚如果出現問題，誰來承擔責任：如果計算機運行不可預測并因此犯下戰爭罪行，懲罰它是沒有意義的。

• 人權和隱私：人工智能系統對人權和個人隱私構成潛在威脅。

• 不當使用：在戰斗環境中處于壓力之下的部隊可能會試圖修改技術以克服安全功能和控制。

作戰應用風險

• 偏見的技術來源：人工智能系統的好壞取決于它們的訓練數據，少量損壞的訓練數據會對系統的性能產生很大影響。

• 偏見的人為來源：當人類濫用系統或誤解其輸出時，可能會導致偏見。當作戰員不信任系統或系統非常復雜以至于其輸出無法解釋時，也會發生這種情況。

• 惡意操縱：軍用 AI 系統與所有聯網系統一樣，容易受到惡意行為者的攻擊，這些行為者可能試圖干擾、黑客攻擊或欺騙系統。

戰略風險

• 降低門檻：人工智能系統帶來了政治領導人在沖突中訴諸使用自主軍事系統而不是尋求非軍事選擇的風險。

• 升級管理：涉及人工智能的軍事行動的執行速度降低了審議和談判的空間，可能導致快速意外升級并造成嚴重后果。

• 軍備競賽和擴散：對軍事人工智能的追求似乎已經引發了軍備競賽，主要和地區大國競相發展其能力以保持領先于競爭對手。

• 戰略穩定性：如果先進的人工智能系統發展到能夠預測敵人戰術或部隊部署的程度，這可能會產生高度不穩定的后果。

本簡報列出了為人工智能設想的各種軍事應用，并強調了它們造成傷害的可能性。它認為，減輕軍事人工智能系統帶來的風險的建議必須基于確保人工智能系統始終處于人類監督之下的原則。

迄今為止，公眾對人工智能和機器人技術進步所帶來的社會變化和風險似乎知之甚少。這份簡報的部分目的是為了敲響警鐘。人工智能可以而且應該用于改善工作場所的條件和對公眾的服務，而不是增加戰爭的殺傷力。