本文剖析了擬議中用于探測、監控及對抗“認知戰”的人工智能系統，批判性審視此類系統對基本權利與價值觀的影響。在闡釋當代公共安全話語中的“認知戰”概念后，文章指出人工智能作為新興工具，可能加劇針對社會在線信息生態系統的惡意活動。為應對此挑戰，研究者與決策者提議利用人工智能制定反制措施——從基于人工智能的預警系統到政府主導的全網絡內容審核工具。然而這些干預措施在不同程度上干預了隱私權、言論自由、信息自由與自決權等基本權利與價值觀。所提出的人工智能系統缺乏充分考量當代在線信息生態系統的復雜性，尤其未能解決“認知戰”活動與不良后果間因果關系的固有判定難題。其后果在于，利用人工智能對抗“認知戰”反而可能損害本應受保護的基本權利與價值觀。決策者應減少對看似立竿見影的技術解決方案的過度關注，轉而投入構筑立足于保障基本權利的長效策略，以應對數字傳播生態系統中的信息失序問題。

近期沖突中自主武器技術的興起，彰顯人工智能日益加劇的軍事化趨勢。基于人工智能的目標鎖定系統和自主武器系統等新技術的迅猛發展，給國際社會帶來重大挑戰。一方面，人工智能軍事化存在潛在威脅；另一方面，算法決策與法律責任引發倫理困境。盡管過去十年間《特定常規武器公約》框架下的監管機制建設持續推進，少數抵制國家仍阻礙著進展進程。然而近期區域與國際會議表明，支持采用"雙軌路徑"締結國際條約的共識正日益增強——該路徑旨在全面禁止完全自主武器，同時規范武器系統中的自主功能。

在近期武裝沖突中，新一代武器系統引發國際社會高度關注。這些系統的核心特征在于作戰行動中不斷提升的自主運作能力。借助傳感器技術與強大算法的進步，敵對區域自主導航、監視偵察、情報收集及目標鎖定輔助等功能實現顯著升級。游蕩彈藥（俗稱自殺式或神風無人機）已成為此類武器系統最顯著的例證，相繼部署于納戈爾諾-卡拉巴赫、利比亞及烏克蘭戰場。其他代表性系統包括無人地面載具、自主艦艇，以及多國正在研發的新一代超大型潛艇。隨著這些系統在戰爭舞臺的加速部署，殺傷決策自動化程度提升與人類控制權逐步喪失的憂慮正被證實，尤其在"福音"（Gospel）和"薰衣草"（Lavender）等人工智能輔助瞄準系統應用中更為凸顯。2024年維也納自主武器系統會議的主題標語"人類處于十字路口"，精準映射了當前局勢。過去數年人工智能應用的快速進化，正逐步取代軍事領域各環節的人類參與，這種趨勢在生死決策場景中尤為令人憂心。本文旨在探究人工智能軍事應用對國際安全的深度影響，同時審視建立國際公認法律框架以規范人工智能與自主武器系統關聯的可行性。

武器系統自主化的戰略優勢

通過區分有形部分（硬件）與無形部分（算法），可清晰辨識軍事裝備自主化持續發展的多重優勢。這種區分使我們能從功能視角解析人工智能的軍事應用。在硬件層面，尖端傳感器技術在惡劣環境與敵后區域的性能遠超人類能力，尤其在情報監視偵察（ISR）及情報監視目標獲取與偵察（ISTAR）任務中。自主武器系統不受身體或精神疲勞、睡眠不足、壓力及生理需求等因素影響，可實現超長時部署——這對可潛航數周、隱蔽性遠超載人潛艇的無人潛艇至關重要。軍用機器人（如無人地面載具）能在城市戰場或生化核污染區等高危環境作業；無人機可在士兵進入前完成戰場勘察。美國"盾牌AI"（Shield AI）與"尼姆巴斯實驗室"（NIMBUS Lab）等集群技術制造商正致力于該領域研發。在邊境管控中，韓國SGR-A1哨兵機器人的部署，大幅降低了朝韓非軍事區監控所需的人力資源需求。此外，憑借更高精度與更低人為失誤率，自主武器系統有望降低平民傷亡風險。人工智能在自主載具中的深度集成，使其環境適應性、自主決策力及動態響應能力顯著提升，甚至可實現實時殺傷判定。當人工智能融入決策系統，可實質性減少人力需求——諸如"福音"或"薰衣草"等瞄準系統中，人工智能基于傳感器輸入生成目標清單；在"算法戰跨職能小組"（即"梅文計劃"）中，人工智能可解析無人機監視情報。

本背景資料簡報概述人工智能（AI）與國防領域的交匯點。AI現部署于教育、金融、交通、醫療與國家安全等多領域。國防領域作為國家安全體系的核心構成，涵蓋以維護國家主權與利益為目標的軍事能力與行動。盡管AI有望提升國防活動效能，但其應用引發人權與國防領域善治相關的諸多挑戰。本簡報將界定AI概念，探討其在國防領域的應用場景，剖析對善治的潛在風險，并就強化監管提出建議（包括完善監測機制、提升透明度、健全問責制及促進利益相關方協作）。

本背景資料簡報解答以下問題
? 何為人工智能（AI）？
? 國防領域的定義為何？
? 國防領域為何使用AI？
? AI對國防領域構成哪些風險？
? AI如何影響國防領域善治？
? 如何強化國防領域AI應用的監管？

國防領域人工智能應用

國防領域人工智能應用監管框架

本文探討了如何在軍隊中開發和訓練強大的自主網絡防御（ACD）智能體。本文提出了一種架構，將多智能體強化學習（MARL）、大型語言模型（LLM）和基于規則的系統組成的混合人工智能模型集成到分布在網絡設備上的藍色和紅色智能體團隊中。其主要目標是實現監控、檢測和緩解等關鍵網絡安全任務的自動化，從而增強網絡安全專業人員保護關鍵軍事基礎設施的能力。該架構設計用于在以分段云和軟件定義控制器為特征的現代網絡環境中運行，從而促進 ACD 智能體和其他網絡安全工具的部署。智能體團隊在自動網絡操作 (ACO) gym中進行了評估，該gym模擬了北約受保護的核心網絡，可對自主智能體進行可重復的培訓和測試。本文最后探討了在訓練 ACD 智能體理過程中遇到的主要挑戰，尤其關注訓練階段的數據安全性和人工智能模型的穩健性。

圖 1：四個網絡位置（A-D）容納五個藍色智能體（1-5）的情景。

本文探討了為自主網絡防御（ACD）智能體訓練混合人工智能（AI）模型時所面臨的挑戰和機遇，尤其是在戰術邊緣環境中。這些挑戰源于此類環境所特有的獨特、不可預測和資源受限的設置。北約研究任務組 IST-162 和 IST-196 的工作重點是 “軍事系統的網絡監控和檢測”[1]、[2] 和 “虛擬化網絡中的網絡安全”。虛擬化網絡中的網絡安全"[3] 至 [5]，本研究旨在利用混合人工智能框架推進 ACD 智能體的設計和功能，以確保整個聯盟網絡的穩健網絡安全。多智能體強化（MARL）、大型語言模型（LLM）和基于規則的系統的采用構成了我們 ACD 架構的核心，增強了智能體在戰術邊緣環境中普遍存在的斷開、間歇、有限（DIL）帶寬條件下有效執行自主網絡防御任務的能力。這些條件要求系統具有彈性，能在網絡和資源嚴重變化的情況下保持高性能水平，這對傳統的網絡安全系統來說是一個重大挑戰。例如，將深度強化學習（DRL）與生成式人工智能相結合，有利于開發能夠進行復雜決策和自適應學習的智能體，提高其在動態網絡環境中應對復雜網絡威脅的能力[3]。此外，本文還討論了如何將 ACD 智能體集成到模擬的北約啟發的受保護核心網絡環境中，并在此環境中針對一系列網絡威脅對其進行評估。智能體利用人工智能技術的戰略組合，自動執行監控、檢測和緩解等關鍵防御行動，支持對關鍵軍事和民用網絡基礎設施的持續保護。

本文的貢獻如下： 第一，在一個集成了 MARL、LLM 和基于規則的系統的代理層次結構中使用代理智能體范例的方法論，以增強自主網絡防御能力。第二，討論在戰術邊緣環境中為 ACD 智能體訓練混合人工智能模型的挑戰和機遇。第三，定義一套評估指標，用于衡量 ACD 代理在數據和訓練保護方面的性能。本文的組織結構如下： 第二節回顧了相關文獻并解釋了研究原理。第三節詳細介紹了使 ACD 智能體適應戰術邊緣環境的方法。第四節介紹了我們的實證評估結果。最后，第 V 節總結了本研究的意義并概述了未來的研究方向。

在當代威脅環境中，威脅可能在意想不到的時間從意想不到的角度出現。準確辨別戰術意圖的能力對于有效決策至關重要。傳統的威脅識別策略可能不再適用。本文將探討如何利用算法識別威脅的戰術意圖。為此，在模擬實驗中比較了人類和算法在識別敵對智能體戰術意圖方面的功效。在實驗中，70 名人類參與者和一個算法在一個海軍指揮和控制場景中扮演數據分析師的角色。在該場景中，敵方智能體控制一艘艦艇將攔截多艘友軍艦艇中的一艘。數據分析師的任務是及時識別敵方智能體可能攻擊的目標。我們對識別的正確性和及時性進行了研究。人類參與者的識別準確率為 77%，平均反應時間為 7 秒。算法的準確率達到了 87%，同時受限于人類的反應時間。當人類參與者識別正確時，算法有 89% 的時間表示同意。相反，當人的反應不正確時，算法有 91% 的時間不同意，這表明決策支持系統有機會在這種情況下影響人的決策。這項研究有助于加深我們對復雜作戰環境中的態勢感知和決策支持的理解。

在數字化和戰略競爭日趨激烈的現代，成功與否取決于一個組織是否有能力比競爭對手更好、更快地利用數據和技術。人工智能（AI）技術的飛速發展正在徹底改變公共和私營機構保持領先的方式，影響著傳統的、由人類驅動的分析流程的各個層面。本報告探討了在情報周期中應用人工智能工具的機會，以增強人類分析師的能力，同時減少其局限性，從而推動更加無縫的情報流程。

人類分析師擅長批判性思維和直覺判斷。他們解讀細微信息、理解復雜環境并根據不完整數據集做出明智決策的能力無與倫比。然而，數據超載、認知偏差、需要資源密集型培訓以及有限的時間和精力等限制因素卻阻礙了他們的工作效率。相反，人工智能技術擅長數據處理、客觀性和日常任務自動化。它們能以前所未有的速度分析海量數據、識別模式并執行重復性任務，而不會造成身心疲憊。

因此，人類和機器能力的互補優勢表明，分析流程將發生轉變，分析師-機器團隊將自適應地持續合作，以近乎實時的洞察力應對復雜的威脅。這種新模式將需要敏捷的協作框架、能夠有效使用人工智能工具并解讀人工智能生成的洞察力的熟練分析師、可靠而全面的培訓數據和流程，以及強大的監督機制。

隨著人工智能（AI）領域的飛速發展，這些技術的變革潛力對國家和國際安全產生了深遠的影響。因此，全世界的政策制定者和監管者越來越認識到，迫切需要超越國界和個人利益的共同理解，尤其是在人工智能應用于安全和國防領域的情況下。

然而，國家和非國家行為者之間在人工智能、安全和防衛方面缺乏既定的全球合作框架，這構成了一項重大挑戰。這種共同治理的缺失導致技術進步不協調和各自為政，給國際和平與安全、穩定和繁榮帶來嚴重后果。然而，各國與非國家行為者合作的愿望日益強烈。各國認識到，這種參與至少可以為治理方法和解決方案提供信息，并確保其制定、采納和實施都有據可依。此外，它還可以確保行業、民間社會組織、研究、技術和科學界以及學術界的認識和支持。

高層也有同感：聯合國秘書長在其《和平新議程》中強調，必須 “確保工業界、學術界、民間社會和其他部門的利益攸關方參與 ”制定 “關于通過多邊進程設計、開發和使用人工智能軍事應用的規范、規則和原則”。因此，迫切需要建立、促進和支持一個獨立、中立和可信賴的平臺，該平臺將促成多方利益攸關方對話，并為軍事領域負責任地開發、獲取、部署、整合和使用人工智能技術孵化治理途徑和解決方案。

• 優先領域 1：建立知識庫

通過跨地區、跨學科和多方利益相關者的投入，在軍事領域建立一個共享的、堅實的人工智能知識庫。

• 優先領域 2：建立信任

建立對技術和他人的信任

• 優先領域 3：人的因素

解讀人工智能系統在軍事領域的開發、測試、部署和使用中的人的因素

• 優先領域 4：數據實踐

了解和解讀軍事領域負責任人工智能的數據實踐

• 優先領域 5：生命周期管理

了解人工智能系統的生命周期影響（包括生命周期的終結），在軍事領域推廣負責任的人工智能

• 優先領域 6：不穩定

了解與人工智能有關的破壞穩定問題的驅動因素、手段、方法和應對措施，包括人工智能系統促成、誘發和倍增的破壞穩定問題

隨著人工智能（AI）領域的飛速發展，這些技術的變革潛力對國家和國際安全產生了深遠的影響。因此，全世界的政策制定者和監管者越來越認識到，迫切需要超越國界和個人利益的共同理解，尤其是在人工智能應用于安全和國防領域的情況下。

然而，國家和非國家行為者之間在人工智能、安全和防衛方面缺乏既定的全球合作框架，這構成了一項重大挑戰。這種共同治理的缺失導致技術進步不協調和各自為政，給國際和平與安全、穩定和繁榮帶來嚴重后果。然而，各國與非國家行為者合作的愿望日益強烈。各國認識到，這種參與至少可以為治理方法和解決方案提供信息，并確保其制定、采納和實施都有據可依。此外，它還可以確保行業、民間社會組織、研究、技術和科學界以及學術界的認識和支持。

聯合國秘書長在其《和平新議程》中強調，必須 “確保工業界、學術界、民間社會和其他部門的利益攸關方參與”，“通過多邊進程，圍繞人工智能軍事應用的設計、開發和使用制定規范、規則和原則”。因此，迫切需要建立、促進和支持一個獨立、中立和可信賴的平臺，該平臺將促成多方利益攸關方對話，并為軍事領域負責任地開發、獲取、部署、整合和使用人工智能技術孵化治理途徑和解決方案。

本文探討了基礎模型的雙重用途挑戰及其對國際安全構成的風險。隨著人工智能（AI）模型越來越多地在民用和軍用領域進行測試和部署，區分這些用途變得更加復雜，有可能導致國家間的誤解和意外升級。基礎模型的廣泛能力降低了將民用模型轉用于軍事用途的成本，從而難以辨別另一個國家開發和部署這些模型背后的意圖。隨著人工智能對軍事能力的增強，這種辨別能力對于評估一個國家構成軍事威脅的程度至關重要。因此，區分這些模型的軍用和民用應用的能力是避免潛在軍事升級的關鍵。本文通過基礎模型開發周期中的四個關鍵因素分析了這一問題：模型輸入、能力、系統用例和系統部署。這一框架有助于闡明民用與軍事應用之間可能產生歧義的點，從而導致潛在的誤解。本文以《中程核力量條約》（INF）為案例，提出了幾項降低相關風險的策略。這些策略包括為軍事競爭劃定紅線、加強信息共享協議、采用基金會模式促進國際透明度，以及對特定武器平臺施加限制。通過有效管理雙重用途風險，這些戰略旨在最大限度地減少潛在的升級，并解決與日益通用的人工智能模型相關的權衡問題。

本文通過對美國防部相關人員的深入訪談，以及對現有指南、標準和相關文獻的嚴格審查，提出了見解。本文重點關注數字建模、數據利用和數據驅動決策的關鍵方面，主要側重于美國陸軍地面車輛應用，以應對挑戰和機遇。數據驅動決策在很大程度上依賴于精確的數字孿生模型，這對地面車輛在預定環境中的準備工作至關重要，尤其是在北極車輛準備等具有挑戰性的環境中。因此，在現實應用和數字孿生之間建立協同關系至關重要。然而，美國陸軍在從原始設備制造商那里獲取全面的數字數據方面面臨著障礙，特別是對于較老的地面車輛平臺，因此必須通過逆向工程來彌補差距。挑戰源于缺乏標準化的數字數據實踐，這就需要建立一個有凝聚力的數字建模框架。為此，本文提出了一個智能前端框架。該框架優化和整合了國防應用和決策的數據管理。總之，本文強調了采用數字技術、優化和實現數據利用以及應對數據挑戰對提高國防部戰備和效能的重要意義。

圖 1. 系統工程中的迭代循環數字化過程

美國國防部（Department of Defense，DoD）正在進行的數字化轉型有可能徹底改變其從設計、后勤到運營和可持續性等各方面的運作。數字技術的整合有望大幅提高效率和效益。基于對國防部利益相關者的一系列訪談，本研究深入探討了這一數字化轉型過程中的挑戰和復雜性，主要側重于將數字模型匯總并納入更廣泛的系統級能力。雖然數字化工作取得了重大進展，但仍迫切需要一項具有凝聚力的戰略，以確保這些數字模型通過數字化（即數字化轉型）有效促進任務分析和優化。

研究方法圍繞兩個核心要素展開： (1) 與美國防部內的主要利益相關者進行深入討論；(2) 對現有指南、標準和相關文獻進行嚴格審查。對于 (1)，通過與利益相關者的討論，作者利用了積極參與該主題的國防部人員所擁有的豐富知識和專業技能。他們的第一手觀點、經驗和建議為我們的研究奠定了重要基礎。對于 (2)，我們的全面審查過程深入研究了該領域的既定最佳實踐、行業標準和最新進展。這種審查確保了我們的研究具有堅實的基礎和最新的信息，使我們能夠以現有的框架為基準來衡量我們的研究結果。我們的研究方法結合了國防部利益相關者的見解以及對指導方針和標準的審查，體現了一種全面的、數據驅動的方法，旨在提供可靠的、可操作的結果。