亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

哪些因素決定人工智能的軍事干預傾向？盡管AI在兵棋推演與軍事規劃中的應用呈指數級增長，但對其模型核心驅動力的基礎分析尚屬空白。本文通過聯合實驗構建軍事干預決策模型，在640個情境案例中各運行100次，系統探究AI干預決策機制。分析發現：國內支持度與軍事勝率是AI決定干預的最強預測因子；國際譴責、軍人傷亡、平民死傷及經濟負面影響等成本因素雖具統計學顯著性，但效應值僅為前兩者的一半；機會窗口僅在與它因素交互時顯現統計顯著性。該規律在各類場景及不同模型（OpenAI GPT、Anthropic Claude、Google Gemini）間呈現顯著一致性，揭示AI決策的固有模式。

若2003年由AI擔任美國總統，會否發動伊拉克軍事干預？若2022年由AI擔任俄羅斯總統，會否下令對烏克蘭行動？隨著人工智能在高風險領域的普及，理解其軍事干預邏輯及驅動因素變得至關重要（Hirsh 2023; Black等 2024）。

關于AI地緣軍事決策的研究文獻激增。在人機交互領域，將AI作為獨立玩家或輔助智能體嵌入兵棋推演已成趨勢（Lamparth等 2024）；純AI研究中，學者通過多場景模擬讓不同模型對抗以測定其沖突升級傾向（Rivera等 2024; Hua等 2024）；另有研究訓練AI玩《外交》等復雜戰略游戲（Meta FAIR團隊等 2022）。Jensen等（2025）的新近工作轉向大樣本分析，在不同模型運行400種場景。現有共識是：AI模型常表現高升級傾向且比人類更難預測。研究空白在于厘清具體影響因素——當前人機交互與純AI研究方法均側重復雜決策建模，難以剝離行為驅動要素。

本文采用聯合實驗法（Hainmueller等 2014; Kertzer等 2021），在OpenAI GPT 4o-mini模型上運行覆蓋5類21世紀典型軍事干預場景（從人道干預到勢力范圍爭奪）的因子情境實驗，檢驗AI思維中的先驗假設。這屬于通過模擬現有調查方法剖析模型深層認知的新興研究范式（Qu與Wang 2024）。

實驗顯示：AI平均干預傾向為30/100分，既非好戰亦非綏靖。軍事干預最強預測因子是國內支持度（效應值0.17）與軍事勝率（0.15）；軍人傷亡（-0.08）、平民死傷（-0.07）、經濟沖擊（-0.07）及國際譴責（-0.06）等成本因素雖顯著但影響減半；學界新近關注的機會窗口在多數場景不顯著。有趣的是，僅當國內支持與勝率雙高時，成本因素對AI的重要性才提升——這與人類"國內支持高漲時忽視成本"的常識相悖。

研究在OpenAI GPT 4o、Anthropic Claude Haiku 3.0、Claude Sonnet 3.5及Google Gemini 2.0 flash模型復現實驗。核心驅動因子跨模型高度一致：所有模型均優先考量國內支持度（效應值0.14-0.18）與軍事勝率（0.12-0.16）。Claude Sonnet 3.5是唯一異常模型，其勝率系數呈矛盾負值（-0.04）。值得注意的是，GPT 4o與Claude Sonnet 3.5等復雜模型更重視機會窗口理論。模型間好戰性差異顯著：GPT 4o均分2.1（極度反戰）至Claude Sonnet 3.5均分39.1（中度好戰）。

本文核心貢獻在于揭示AI的戰爭認知邏輯：聯合實驗表明，當前AI發展階段的軍事干預決策主要受公共支持與勝率感知驅動。隨著AI在軍事領域指數級滲透，系統化理解其機制至關重要——例如兵棋推演中作為輔助工具的AI，實則主要響應公眾支持與勝率信號（本研究揭示）。方法論上，聯合實驗為探索AI思維提供簡潔系統路徑：當前主流復雜研究方法難以分離基礎驅動因子，定性兵棋推演雖促進人機互動但缺乏系統重復性，定量多周期AI對抗推演產生過度復雜升級模式且無法剝離簡單驅動力。聯合實驗作為成熟方法，可助力跨學科學者探究各領域AI決策的核心邏輯。

當前假新聞已成為全球性嚴峻挑戰，社交媒體快速傳播錯誤信息的能力加劇了這一問題。本文提出基于大語言模型（LLM）能力的新型特征計算流程構建方法，應對假新聞檢測的緊迫挑戰。核心目標在于優化可疑文本屬性轉化為分類適用數值向量的過程，從而填補系統整合語言線索與深度上下文嵌入的研究空白。在英語（FakeNewsNet）和烏克蘭語（真假新聞）數據集上的實驗表明：該方法以88.5%（英語）和86.7%（烏克蘭語）準確率超越四個基線模型。關鍵發現顯示：將復述比率、情感比率等數值指標與LLM嵌入結合，可提升欺詐文章檢測召回率，較標準技術平均提高2-3個百分點。這些結果表明所提特征計算流程在保持模型決策透明度的同時顯著提升檢測精度。研究最終強調：系統化設計的數值特征對LLM嵌入的補充至關重要，為構建更可靠、適應性強且可解釋的假新聞檢測系統指明路徑。

假新聞——偽裝成可信新聞的虛假或誤導性內容——在數字時代已發展為全球性重大威脅[1,2]。超過36億社交媒體用戶使未經核實信息突破傳統編輯監管快速傳播，加速虛假敘事擴散[2]。2016年美國總統大選[3]與2019年印度大選[4]等事件印證了錯誤信息影響輿論的速度。例如新冠疫情期間，關于病毒及疫苗的有害謠言在網絡蔓延，削弱公共衛生信息公信力。研究表明假新聞比真實新聞傳播更快更廣[5]，可能加劇社會極化、侵蝕主流媒體信任[6]甚至煽動暴力[7,8]。過去十年研究者聚焦機器學習（ML）與自然語言處理（NLP）方法實現大規模虛假信息識別[9]。早期嘗試將假新聞檢測形式化為二分類問題——僅通過文本分析區分真假新聞[2]。傳統方法采用樸素貝葉斯、支持向量機（SVM）或隨機森林等算法，結合n元語法或專業詞典等特征工程，有時取得較好效果[10]。然而假新聞制造者適應偽裝能力意味著捕捉深層語義線索仍是開放挑戰[7,11,12]。

深度神經網絡（特別是卷積神經網絡CNN與長短期記憶網絡LSTM）被提出用于自動學習潛在文本表征。盡管LSTM在某些基準任務中準確率超99%[10]，但綜合實驗證實：除非融入更豐富上下文理解，高度復雜或領域特定的假新聞仍能規避這些模型[7,8]。同時詞嵌入技術（如TF-IDF、Word2Vec和FastText）通過將單詞映射為稠密向量改進了詞袋模型[13]。盡管能捕獲語義關系，這些靜態嵌入仍難以應對多義詞與語境變化[1]。基于Transformer的模型開創了上下文嵌入新范式：雙向Transformer編碼器（BERT）[14]可捕捉微妙語言線索，尤其在領域特定任務微調后。研究證實BERT在包括虛假信息檢測的多個NLP任務中顯著超越傳統基線[15]。但在實際假新聞場景（尤其多語言環境）部署BERT仍受限于領域數據匱乏與資源開銷[16]。

大語言模型（LLM）如OpenAI的GPT-4[17]與Meta的LLaMA[18]的興起，為利用海量預訓練語料獲取高級文本表征提供機遇。初步研究表明LLM嵌入能識別小模型無法察覺的微妙虛假信息線索[19]。然而高計算需求與LLM決策解釋難題仍未解決[20,21]。對此可解釋人工智能（XAI）領域研究提出將深度學習預測能力與可解釋機制結合以闡明分類結果[22]。但多數文本分類XAI方法仍難將內在特征映射為終端用戶可理解的文本線索。基于這些挑戰，本研究引入新型特征計算流程構建方法，借鑒可解釋LLM流程的洞見：將檢測分解為合成可疑特征→數值化計算特征→構建魯棒模型→生成透明結論的鏈式任務。

本研究目標是通過整合LLM驅動的特征提取選擇框架與闡明特征重要性的可解釋策略，增強假新聞檢測能力。旨在證明該流程能提升多語言文本數據的準確性與可解釋性。主要貢獻如下：
? 受可解釋AI研究啟發，提出假新聞檢測特征計算流程構建方法
? 在傳統LLM對比（TF-IDF/Word2Vec/BERT）基礎上，新增使用大語言模型計算解釋特征的顯式步驟，彌合原始嵌入與透明決策的鴻溝
 ? 在雙數據集驗證LLM驅動特征實現最高精度（英語88.5%/烏克蘭語86.7%），并闡釋框架如何揭示文本被判定虛假的原因

本文結構如下：第2章精煉相關工作，闡明方法如何融合現有特征提取技術與可解釋性；第3章詳述新提出的任務分解架構、數據流及特征計算優化機制；第4章報告實驗結果（含現有方法定量對比）；第5章探討優勢缺陷與開放性問題；第6章展望未來（聚焦數值結果、現存挑戰及研究方向）。

圖1：本方案整體工作流程
融合基于LLM的嵌入表示、數值化特征計算及最終專家結論模板。圖示闡明本方法的四大核心任務：
(i) 特征合成 → (ii) 特征計算流程構建 → (iii) 機器學習模型建立 → (iv) 專家結論模板生成
展示原始文本與衍生特征在各階段的流向。

人工智能（AI）技術，尤其是機器學習技術，正在通過增強人類決策能力迅速改變戰術行動。本文探討了人工智能驅動的人類自主組隊（HAT）這一變革方法，重點關注它如何增強人類在復雜環境中的決策能力。雖然信任和可解釋性仍是重大挑戰，但我們的探討重點是人工智能驅動的 HAT 在改變戰術行動方面的潛力。通過改善態勢感知和支持更明智的決策，人工智能驅動的 HAT 可以提高此類行動的有效性和安全性。為此，本文了提出了一個綜合框架，該框架涉及人工智能驅動的 HAT 的關鍵組成部分，包括信任和透明度、人類與人工智能之間的最佳功能分配、態勢感知和道德考量。所提出的框架可作為該領域未來研究與開發的基礎。通過識別和討論該框架中的關鍵研究挑戰和知識差距，我們的工作旨在指導人工智能驅動的 HAT 的發展，以優化戰術行動。我們強調開發可擴展且符合道德規范的人工智能驅動的 HAT 系統的重要性，該系統可確保無縫的人機協作、優先考慮道德因素、通過可解釋的人工智能（XAI）技術提高模型的透明度，并有效管理人類操作員的認知負荷。

人工智能和自主技術的融合給包括國防和戰術行動在內的各行各業帶來了革命性的變化。HAT 的興起可歸因于幾個因素，包括自主技術和人工智能的快速進步、任務和環境的日益復雜、能力更強的自主系統的發展，以及數據和計算能力的不斷提高。隨著這些技術變得越來越復雜和強大，人們越來越認識到，將人類的認知能力與自主系統的計算能力和效率相結合，可以實現潛在的合作。現代 HAT 系統的興起也是由于需要應對快速發展和動態環境的復雜性和挑戰。隨著任務變得越來越復雜、對時間越來越敏感、數據越來越密集，人類與智能體之間的協作對于有效駕馭和應對這些挑戰變得至關重要。

HAT 是一個新興領域，探索人類與自主系統之間的協作伙伴關系，以執行任務或實現共同目標。這涉及一種協作安排，其中至少有一名人類工作者與一個或多個智能體協作。這種協作方式有可能徹底改變各行各業完成任務的方式，并為人類與智能自主系統攜手解決復雜問題和實現共同目標的未來鋪平道路。HAT 系統旨在允許人類將任務委托給智能自主體，同時保持對整體任務的控制。這里所說的智能體是指在決策、適應和通信方面具有不同程度自治能力的計算機實體。這一定義得到了先前研究成果的支持。在 HAT 中，人類的認知能力與自主系統的計算能力和效率相結合，可以提高性能、決策和系統的整體能力。

在此，將定義和澄清一些關鍵概念，這些概念對于理解本研究的范圍和背景至關重要。這些概念包括人工智能、自主、自主系統和戰術自主。通過提供明確的定義并區分這些術語，我們希望讀者能夠達成共識。

自主性。HAT背景下的自主性是指智能自主系統或智能體在團隊環境中獨立運行和決策的能力，具有不同程度的自我管理能力。這涉及到自主系統在學習、適應和推理基礎上更高程度的決策能力。它是系統的一種屬性，而非技術本身。自主實體可以感知、推理、規劃和行動，以實現特定的目標或目的，而無需人類的不斷干預。值得注意的是，自主的程度可能各不相同，有的系統可以完全自主地做出所有決定，有的系統則是半自主的，在某些情況下需要人的干預。在戰術自主方面，HAT 涉及將自主能力整合到戰術行動中。這種整合可包括各種應用，如利用自主系統收集情報、執行監視和其他關鍵活動。自主性使系統能夠在復雜和不確定的環境中運行，從經驗中學習，并在任何情況下都無需明確的人工干預即可做出決策。然而，必須將其與傳統自動化區分開來，傳統自動化通常遵循預先編程的規則、決策樹或基于邏輯的算法來執行任務或做出決策。傳統自動化的適應性和靈活性有限，無法在沒有明確編程的情況下處理動態或不可預見的情況。本文討論了人工智能驅動的自主性如何通過強調學習、適應和決策能力來區別于傳統自動化。這些能力最終會提高戰術行動中人類-自動駕駛團隊合作的整體有效性和敏捷性。

自主系統。自主系統可以在沒有人類持續控制的情況下執行任務或操作。它們利用人工智能算法和傳感器感知和導航環境，實現高度自主。

戰術自主。在本研究中，戰術自主是指自主系統在動態和復雜的作戰環境中做出實時決策和采取行動的能力。這涉及人類與自主系統之間的無縫協調和互動，使它們能夠作為一個優勢互補的統一團隊發揮作用。HAT 的重點是通過人類操作員與智能自主系統之間的無縫協調與協作，實現共同的任務目標。本文介紹了一種人工智能驅動的 HAT，它將人工智能集成到 HAT 框架中。這種方法結合了人類專業技能和人工智能能力的優勢，從而提高了決策、態勢感知和作戰效率。戰術自主性將人類的認知能力（如適應能力、直覺和創造力）與自主系統的計算能力、精確性和動態執行能力相結合，有可能給包括國防、應急響應、執法和危險環境在內的各個領域帶來革命性的變化。必須區分戰術自主和戰略自主，以明確人工智能驅動的人類-自主團隊如何在軍事和作戰環境中促進這兩個層次的自主。戰略自主是指一個國家或組織就廣泛的安全目標做出自主選擇的能力，而戰術自主與戰略自主相反，側重于單個單位或團隊在特定任務中的獨立行動。戰略自主涉及更高層次的決策和規劃，要考慮長期目標、總體任務目標和更廣泛的態勢感知。它涉及指導整體任務或戰役的協調、資源分配和戰略決策過程。

戰術行動。戰術行動涉及在特定區域或環境中的協調活動，通常是在軍事、執法或戰略背景下，重點是通過快速決策、適應動態形勢以及在局部區域和時間范圍內應用軍事技能和資源來實現短期目標。

近年來，人工智能、機器學習（ML）、機器人和傳感器技術的進步為實現戰術自主的潛力鋪平了道路。這些技術進步使自主系統能夠執行復雜任務，實時處理大量數據，做出明智決策，并與人類團隊成員無縫協作。這為增強人類能力、優化資源配置和提高整體作戰效率提供了新的可能性。然而，有效的戰術自主需要全面了解人類與自主系統之間的動態關系。包括信任、溝通、共享態勢感知和決策在內的人為因素在確保 HAT 取得成功方面發揮著至關重要的作用。必須認真應對各種挑戰，如建立適當的信任度、解決潛在的認知偏差、管理工作量分配和保持有效的溝通渠道，以確保無縫協作，最大限度地發揮戰術自主的潛在優勢。戰術自主的 HAT 是一種使用人類和自主系統來操作和控制武器及其他軍事系統的協作方法。在 HAT 中，人類操作員和自主系統共同努力實現共同目標。人類操作員負責總體任務并做出高層決策。自主系統負責執行指定任務。

正如第四節詳細解釋的那樣，人類操作員根據自己的經驗和對任務目標的理解，貢獻戰略洞察力、背景和高層決策能力。交互和通信代表著界面和通信渠道，各組成部分可通過這些渠道交換信息、開展協作并做出共同決策。在共享決策過程的背景下，人類操作員和自主系統參與協作決策過程，共享見解、數據和建議，以制定有效的戰略。自主系統負責實時數據處理、分析和特定任務的執行，為人類操作員提供及時、相關的信息支持。隨后，一旦做出決策，自主系統就會根據共同決策過程的指令執行具體任務，包括偵察、導航或數據收集。

本文全面探討了 HAT 的歷史發展和現狀，并深入探討了利用人工智能實現戰術自主的機遇、挑戰和潛在的未來方向。它強調了人工智能對戰術自主性的變革性影響，并提出了改進決策、態勢感知和資源優化的機遇。通過認識和應對與采用人工智能相關的挑戰，并規劃未來的研究方向，可以為人類與自主系統無縫協作的未來鋪平道路，最終實現戰術環境中更安全、更高效、更成功的任務。

圖1:HAT的應用。

人工智能能否解決戰爭中的倫理、道德和政治困境？人工智能（AI）驅動的戰爭如何改變我們思考戰爭倫理-政治困境和實踐的方式？本文探討了現代數字化戰爭中人機互動的倫理、道德和政治困境的關鍵因素。有觀點認為，人工智能的 “理性 ”效率可以同時為人類在戰斗中的心理和生理缺陷提供可行的解決方案，同時保留人類對戰爭機器的 “有意義的 ”控制，本文對這一觀點提出了反駁。這種龐洛士式的假設忽視了人機互動的心理特征、未來人工智能沖突的速度以及現代戰爭復雜而混亂的本質。文章闡述了人機互動的關鍵心理學見解，以闡明人工智能如何塑造我們思考未來戰爭的政治和倫理困境的能力。文章認為，通過人機融合的心理過程，人工智能將不僅僅是現有先進武器的武力倍增，而將成為戰爭中事實上的戰略行動者--“人工智能指揮官問題”。

文章分為三個部分。第一部分通過對人類與技術以及人機互動的更廣泛對接進行背景分析，為論點提供框架。文章探討了人類為何以及如何與機器和新出現的復雜社會技術系統糾纏在一起、軍事技術倫理的根源以及無風險、無摩擦戰爭的概念。報告將人工智能技術描述為這一社會技術趨勢的新表現形式。它認為，在戰爭決策中外包人類良知--幻想解決戰爭的倫理、道德和政治困境--有可能侵蝕人類與戰爭之間的重要聯系。本節還討論了質疑 “用機器取代人類一定是個壞主意 ”這一觀點的各種反駁意見（“人工智能樂觀主義者”）。例如，人類會犯錯誤，經常做出非理性的行為，而且容易產生暴力、不道德和非人化等原始本能（Haslam，2006 年；Brough，2007 年）。

第二部分探討了人機互動的心理特征。具體地說，本節分析了人類的幾種偏差--控制幻覺、啟發式捷徑（Einstellung效應、存在偏差）和自動化偏差--這些偏差會使指揮官容易濫用或過度使用軍事力量以達到不公正的目的。報告還討論了這些偏差在更廣泛的政治驅動力中的潛在影響，這種政治驅動力就是通過技術神器來實現戰爭的可預測性和集中控制。

最后，第三部分探討了利用人工智能等技術完善無風險、無摩擦戰爭的手段對軍事倫理和戰爭中的道德責任的潛在影響。它將圍繞人工智能技術將人類倫理編碼到機器中的爭論背景化。它還探討了人類情感的作用，人類情感賦予我們理性和深思熟慮的感覺，影響我們的決策，并塑造我們對倫理和道德困境--沒有明顯理想結果的情況--的反應。人類的倫理道德能否被編程到算法中？如果可以，那么如果道德責任外包給人工智能，人類又該如何保留自己的倫理和價值觀？

未來沖突環境中有兩個相互關聯的問題值得情報組織關注：大數據帶來的分析挑戰和網絡威脅。前所未有的數據生產正在超越人類和機器的分析能力，而不斷涌現的技術正在增強對手滲透通信網絡的能力。在未來的沖突中，情報組織將利用易受網絡入侵的不完善的傳統計算來分析大數據，并通過同樣易受入侵的媒介來傳播已完成的情報。在未來沖突中使用傳統的分析和加密技術，表明情報機構沒有能力或不愿意利用先進技術提高情報分析能力和數據保護能力。在發展中的技術中，基于量子的計算和人工智能以及量子加密技術為這兩個問題提供了解決方案。考慮到量子技術在未來 10-15 年內前所未有的潛力，海軍陸戰隊和其他軍種的情報實體應開發一種量子與傳統計算機的集成架構，以產生人機分析能力和量子加密來保護情報通信網絡。

圖 2：假設沖突 OE 和全球環境中的大數據生產和網絡威脅。已部署的 IOC 與 MIC/MCIA 量子人工智能加密中心之間的支持和關系。

人工智能（AI）在增強國防系統能力、革新戰略決策和塑造未來軍事行動格局方面發揮著重要作用。神經符號人工智能是一種新興的方法，它利用并增強了神經網絡和符號推理的優勢。與傳統的人工智能系統相比，這些系統可能更具影響力和靈活性，因此非常適合軍事應用。本文全面探討了神經符號人工智能的不同層面和能力，旨在闡明其在軍事領域的潛在應用。我們研究了它在改進決策、自動進行復雜情報分析和加強自主系統方面的能力。除了在軍事領域的應用外，我們還進一步探討了它在解決各領域復雜任務方面的潛力。通過這種探索，我們解決了對神經符號人工智能在軍事和民用領域的開發和部署至關重要的倫理、戰略和技術問題。本研究是對神經符號人工智能廣泛可能性的全面探索，為日益增多的研究做出了貢獻。

神經符號人工智能將推動未來的人工智能戰場，徹底改變戰爭。在軍事決策過程中利用人工智能可以提高戰場效率，改善關鍵作戰決策的質量。神經網絡與符號推理的結合有可能顯著提高威脅探測的準確性，并實現更快、更精確的戰術決策，從而徹底改變軍事行動。本文分析透徹，為關注人工智能在戰爭中的未來的研究人員、從業人員和軍事決策者提供了寶貴的見解。通過對現有研究的批判性審視，確定了關鍵挑戰，并概述了未來有希望的發展方向。這旨在進一步增強神經符號人工智能在優化后勤、增強態勢感知和動態決策等領域的負責任部署。此外，神經符號人工智能在軍事應用方面取得的進步也為其在醫療保健、金融和交通等民用領域的廣泛應用帶來了巨大潛力。這種方法提高了不確定性條件下的適應性、可解釋性和推理能力，徹底改變了傳統方法，推動了軍事和民用效能的發展。

貢獻。本文對神經符號人工智能領域做出了以下重要貢獻。

• 本研究全面探索了神經符號 AI 在軍事應用方面的廣泛可能性，為不斷增長的研究成果做出了貢獻。
• 強調了神經符號人工智能在軍事行動中的變革潛力，突出了它在加強國家安全和提高行動效率方面的作用。通過全面分析其應用和影響，我們強調了將神經符號人工智能融入軍事戰略和決策過程的重要意義。
• 全面論述了在軍事環境中開發和部署神經符號人工智能所必須考慮的倫理、戰略和技術因素。
• 最后，本文概述了在動態和復雜情況下將神經符號人工智能融入軍事行動的戰略意義，強調了神經符號人工智能如何能夠重新定義戰略、提高行動效率并促進國家安全。

圖 6：神經符號人工智能的一些主要軍事應用。

新技術的影響和未來作戰空間速度的加快可能會使指揮和控制職能過度集中于政治或戰略層面，從而繞過合格參謀人員所發揮的咨詢作用。政治和/或戰略領導人可能會發現，發動先發制人的戰爭或預防性戰爭，以此作為獲取對敵不對稱優勢的戰略是很有吸引力的。本文研究了這一趨勢的根源，將歷史觀點與下一代技術可能對指揮和控制產生的影響聯系起來。

圖 3. 自主武器與自主戰爭之間的平行關系

新技術的影響和未來戰場節奏的加快可能會使政治或戰略層面的指揮和控制職能過度集中。政治和戰略領導人可能會將先發制人或預防性戰爭作為一種戰略，以獲得對敵人的不對稱優勢，這不是因為他們必須這樣做，而是因為他們可以這樣做。因此，高級領導人可能會被鼓勵繞過其合格參謀人員所發揮的咨詢作用，并削弱下級指揮官的自主權。技術系統的進步可能會終結任務指揮、Auftragstaktik。唐納德-E-范德格里夫（Donald E. Vandergriff）將 Auftragstaktik 定義為軍事職業化的一種文化理念： 總指揮官的意圖是讓成員努力追求專業精神，作為回報，個人將在完成既定任務時獲得自由。將采用嚴格的、但經過驗證且站得住腳的標準來識別少數有能力從事軍事職業的人。一旦一個人被接納加入這一職業，就會與戰友們形成一種特殊的紐帶，這種紐帶使團隊合作和解決復雜任務成為可能。這種指揮文化......必須從基礎訓練一開始就融入所有教育和培訓中。

本文探討了這一趨勢的根源，將歷史觀點與下一代技術可能對指揮與控制產生的影響聯系起來。

技術創新在戰爭中發揮著至關重要的作用。在戰爭中采用新技術有助于取代傳統上由人類扮演的角色。在第一次世界大戰和第二次世界大戰之間的戰時，戰爭得到了優化，以便通過日益復雜的機器來應對更遠的距離和更快的執行速度。武裝部隊的總參謀部變得更加精密和復雜，以處理更多的信息。戰場逐漸遠離指揮官，而作為戰爭關鍵職能的指揮和控制則走向自動化。

當前的軍事能力是技術和信息不斷發揮核心作用的演變趨勢的結果。隨著以網絡為中心的戰爭（NCW）作戰概念的引入，或各級網絡化部隊的使用，指揮官現在可以訪問由傳感器、決策者和士兵組成的網絡，從而在幾乎全球范圍內提供共享意識、更快的節奏、更強的殺傷力和生存能力。新技術的開發和采用使政治和戰略決策者能夠實時控制戰場，甚至在戰術層面也是如此。新技術的影響和未來戰場速度的加快可能會使政治或戰略層面的指揮和控制職能過于集中。其后果可能不利于在作戰和戰術層面開展軍事行動。此外，自主武器和人工智能是戰爭自動化的下一步，對指揮與控制有著至關重要的影響。

在對指揮與控制的調查中，作者沿用了《指揮與控制》、《海軍陸戰隊條令出版物（MCDP）6》所采取的方法，并使用了美國空軍上校約翰-R-博伊德的 OODA 循環（觀察、定向、決策和行動），因為用《指揮與控制》的話說，它 “描述了指揮與控制過程的基本順序”。此外，OODA 循環對有效決策也有重要作用。作者認為，雖然高度自主技術的引入已經并將繼續對觀察（O）、定向（O）和行動（A）階段產生重大影響，但決策（D）階段仍需要 “環路上 ”的人來控制行動的進行。新技術的采用將大大加快 OOA 階段的速度，決策階段也將從中直接受益，但運用判斷和專業經驗的能力仍將是這一階段的關鍵因素。戰爭規劃》（MCDP 1）正確地強調，軍事決策不僅僅是數學計算。決策既需要有識別特定問題本質的情境意識，也需要有制定切實可行解決方案的創造能力。這些能力是經驗、教育和智慧的產物。

然而，對可靠、準確和快速軍事選擇的追求可能會讓人類從許多過程和程序中消失。事實上，機器可能會在決策過程的許多關鍵階段取代人類。這種可能性引起了軍事工作者和學者的一些擔憂。在經常被描述為超戰爭的未來戰爭中，由于競爭要素的反應近乎瞬時，OODA 循環中可能幾乎完全沒有人類決策。這篇文章描述了未來作戰環境自動化程度的提高所帶來的速度提升的副作用：不可避免且必要的 OODA 循環壓縮。

多年來，人工智能一直被用于改進信號情報的收集和分析，但本文探討了生成式人工智能可為戰略情報分析人員執行的一系列任務。文章認為，將生成式人工智能融入情報評估的最穩妥做法是作為人類分析師的 “副駕駛員”。盡管存在不準確、輸入偏差和 “幻覺 ”等問題，但生成式人工智能可以解放時間不足的分析人員，讓他們專注于人類最有價值的任務--運用他們的專業知識、隱性知識和 “現實感”。

人工智能（AI）是無法回避的。我們每個人每天都直接或間接地與它打交道。除了柯潔在圍棋比賽中輸給谷歌的 AlphaGo 這樣的偶然拐點之外，人工智能幾乎沒有大張旗鼓地滲入社會。但現在，圍繞人工智能的爭論非常突出。這主要與用戶友好型生成式人工智能軟件的發布和廣泛采用有關，其中最著名的是 ChatGPT 和 Google Bard。這些功能強大的程序潛力巨大，許多評論家認為它們的影響堪比另一場工業革命。的確，將人工智能應用到各個領域，尤其是醫學領域，可能會帶來革命性的變化；但同樣，它也會帶來巨大的潛在風險--安全、經濟、社會和文化風險。首相蘇納克（Rishi Sunak）希望英國能掌握這個等式的兩面：在人工智能監管和安全方面引領世界，11 月在布萊切利公園舉行的人工智能安全峰會就是一個標志；同時也要抓住這項技術帶來的機遇。八十年前，布萊切利公園的前主人--密碼破譯員、語言學家、數學家和工程師--曾與英格瑪機器搏斗并開創了計算技術的先河。本文關注的是生成式人工智能為他們在情報界的繼承者，特別是那些專注于情報評估技術的繼承者帶來的機遇和挑戰。文章認為，生成式人工智能有可能極大地補充分析工作。但就目前而言，它最有用的應用是作為輔助工具、副駕駛員，它有可能極大地增強分析人員的工作，但也應謹慎使用。

情報與技術是一對老朋友。幾十年來，它們彼此推動著對方的發展。這一點在電子和計算機領域體現得最為明顯。在秘密行動中，情報機構推動了技術的發展。它們還經常是新技術的早期采用者，利用新技術開發、維護和增強能力。畢竟，適應性是成功情報機構的標志之一。英國皇家情報總部成功地從模擬機構轉型為數字機構，如今甚至將自己定位為 “情報、安全和網絡機構”。人工智能已經以多種方式補充了情報工作。各國經常使用人工智能增強系統來協助收集情報。許多在秘密領域工作的私營部門承包商也在人工智能領域大顯身手。由人工智能軟件支持的閉路電視攝像網絡被廣泛用于識別和追蹤城市環境或恐怖風險較高地區（如火車站）的個人或物體。這種技術也為專制政府提供了無與倫比的機會來壓制不同意見或異議，新疆和其他地方的情況就說明了這一點。除數據收集外，這項活動的大部分內容還涉及更輕松、更高效地對數據進行鑒別或選擇，從而為時間有限的分析人員的工作提供便利，因為他們需要評估這些數據的含義。人工智能被廣泛應用于翻譯、將截獲的互聯網流量減少到可控水平、語音識別或在開放的互聯網上搜索對象的協會和聯系人等費力的任務。在英國，INDEX 系統允許分析人員在政府和外部報告中進行搜索。核心信息可以通過自然語言處理系統提取和匯總。但是，正如剛剛退休的英國聯合情報委員會主席西蒙-加斯（Simon Gass）爵士在今年 6 月指出的，“我們正處在這個階段的山腳下”。

需要將生成式人工智能和大型語言模型（LLM）整合到情報評估的正常業務中。簡單地說，生成式人工智能是指 “能夠根據訓練數據生成高質量文本、圖像和其他內容的深度學習模型”。這些技術已經在國防和情報領域受到高度重視。英國國防部國防創新總監約翰-里奇（John Ridge）最近指出，“我們可以肯定的一點是，這類能力將是絕對關鍵的”。這些能力是革命性的，還是只是情報工作的另一個發展階段，還有待觀察。但它們改變商業模式的潛力是顯而易見的。前幾代人工智能主要集中在更有效地收集數據和更有效地整理擺在民間和軍事情報分析師面前的材料上，而生成式人工智能則展示了承擔迄今為止只有人類分析師才能完成的任務的潛力。基于 LLM 的工具（如 ChatGPT）的主要賣點是，它們可以對問題或命令形式的提示做出響應，并利用現有材料在特定參數范圍內做出響應。或者換一種說法，可以命令它們按照特定規格撰寫類似人類的報告，以計算機的速度，根據大量數據提出見解或作出推論。

從這個意義上說，情報分析和評估與其他以研究為基礎的工作領域處于類似的地位，它們可能（而且幾乎肯定會）受到干擾。這些領域包括醫療和法律行業，在這些行業中，根據有關特定主題的全部數字化文獻資料快速、清晰地編寫報告或文件的前景非常誘人。教育領域也受到了影響，其傳統模式正在被檢測機器生成的作品這一挑戰以及人工智能時代究竟什么才是合法研究這一更具哲學意義的問題所顛覆。盡管如此，在這些領域中的每一個領域，理論上都可以在很大程度上將曾經由人類完成的基本任務外包給機器，盡管需要保持謹慎的警惕。這樣做已經產生了令人印象深刻、有時甚至發人深省的成果，比如一篇關于 ChatGPT 對檢測剽竊行為的影響的學術論文，該論文已提交給同行評審的學術期刊，并被其接受，但這篇論文是用 ChatGPT “寫 ”出來的。不過，如果從各行各業廣泛采用 LLM 的軼事證據來看，人類分析師的日子還遠未到頭。在不久的將來，應將 LLMs 視為情報分析員的額外工具，是提高效率和效力的輔助工具。他們是 “副駕駛員”，可以評估論點、進行數據分析或校對，而不是潛在的替代者。就目前而言，在這些領域中的任何一個領域，要想以其他方式開展工作，風險都太大了。情報工作也不例外：在全球競爭的環境中，整合這些工具的必要性只會越來越強，但過快或魯莽行事顯然存在風險。審慎的做法是，情報評估機構利用人工智能增強人類分析師的能力，為他們創造更多的時間和空間，讓他們運用不可或缺的隱性知識和 “現實感”--以賽亞-伯林（Isaiah Berlin）所說的感同身受的理解是歷史解釋的一個關鍵特征--來理解全局。

令人欣慰的是，谷歌Bard也同意這一點。當被問及它能為情報分析帶來哪些好處時，該程序回答說，它可以執行許多有用的任務。這些任務包括收集信息、分析信息、生成報告、交流研究結果、提出情報需求、管理情報資源和監督情報行動，以確保它們符合法律和道德標準。但是，當被要求確定使用 LLMs 進行戰略情報分析的風險時，它指出："重要的是，要將機器的產出與情報分析結合起來： 重要的是要將機器輸出與人工分析和解釋以及對地緣政治環境的全面了解結合起來"。顯然，如果 “言聽計從”，該系統具有巨大的潛力。但在充分挖掘潛力之前，所有相關人員都需要考慮并解決幾個基本挑戰。

這些問題包括通常對 IT 網絡安全性和穩健性的擔憂，例如：確保集成軟件經過安全架構審查所面臨的挑戰、供應鏈風險的可能性、數據存儲的安全性、確保提交給任何系統的查詢都經過加密或不可能被敵方重建。其他值得注意的安全問題來自于大量的訓練數據、數十億個參數以及設計可行工具所需的訓練過程。目前，這項工作是在基于云的系統中進行的，因此除了常見的網絡安全問題外，還增加了數據主權問題。此外，為了最大限度地發揮其價值和效用，特別是在快速發展的情況下，LLM 需要經常或持續訪問互聯網。顯然，有必要將那些與開放互聯網保持聯系的系統與情報分析員處理更敏感材料和制作情報評估產品的封閉、保密網絡分開。

上述問題都不是不可克服的，但這些挑戰突出表明，必須有條不紊地解決這一問題，協調政府各相關機構利益攸關方，以成功實施這一至關重要的信息技術項目。這些挑戰也并不都集中在如何確保系統不被敵對勢力破壞上。還需要考慮監管問題。事實上，大衛-安德森（David Anderson）勛爵在上議院關于人工智能的辯論中指出，"在一個人人都在使用開源數據集來訓練大型語言模型的世界里，英國信息中心受到了《調查權力法》第 7 部分的獨特限制。這些限制'在某些重要情況下影響了英國信息中心的靈活性，影響了它與商業伙伴的合作，影響了它招聘和留住數據科學家的能力，并最終影響了它的效率'。

只要能找到令人滿意的解決方案，LLM 對分析師工作的許多方面都極為有用。其中包括較為傳統但費力的任務，如作為研究助理，就特定主題（如國際爭端的背景）提供近乎即時的不同長度和細節的摘要，或構建時間軸、撰寫簡介、總結或分析冗長的文本，或（假設版權和訂閱問題得到解決）將最新的學術著作納入其中。雖然第一批LLM是在英語語料庫中接受培訓的，但目前開發多語言模型的工作進展順利。當然，鑒于已發現生成式人工智能生成的回復在準確性和完整性方面存在問題，任何此類產品都必須經過主題專家的檢查，類似于跨白廳當前情報小組系統。這可能會提高穩健性和效率，并隨著時間的推移，促進機構學習和流程改革。

但潛力顯然不止于此。生成式人工智能還可以包括更先進、更重要的工作。例如，分析師可以使用 LLM 來審查和驗證他們的書面報告，從而增強現有的分析流程和產品審計程序。例如，可以要求提供任何對關鍵判斷提出質疑或證偽的數據；查詢長期以來生成的報告，以確定已成為傳統智慧的假設；或使用工具生成 “紅隊 ”評估。從理論上講，這種能力可以在幾個方面幫助分析人員識別或根除導致情報失敗的某些偏見因素，并確保報告盡可能是最新的。不難想象，這些工具的提供和適當使用將如何提高分析界的速度、影響范圍和批判性地反思其行為和業績的能力。

目前這一代 LLM 也可以撰寫報告或評估報告。將此類寫作任務的早期起草階段外包給一個工具，可為資源和時間貧乏的情報分析員創造經濟效益。毫無疑問，謹慎采用 LLM 是有道理的。但這項技術仍然有限，需要認真監測。這些局限性帶來了風險，這一點在 2023 年大眾廣泛嘗試使用 LLM 之后已經得到證明和充分記錄（在 META 推出 Threads 之前，沒有任何應用能像 ChatGPT 那樣迅速得到采用，該應用在推出后五天內用戶就達到了 100 萬）。對于情報分析師及其產品的接收者來說，其中許多挑戰都是非常棘手的。其中包括對這些工具所提供信息的準確性和可靠性的擔憂。這些系統非常善于生成似是而非的文本、聲明和結論。但這些可能在現實中沒有任何依據，甚至在建立 LLM 的訓練數據中也沒有任何依據。這種 “幻覺 ”已被廣泛觀察到；在學術工作中，經常出現的 “幻覺 ”是生成不存在的資料來源（例如，引用聽起來很有道理但實際上并不存在的網頁）來支持生成的主張。這究竟是 LLM 的一個特點還是一個缺陷，還存在爭議。無論如何，這都對采用 LLM 進行情報評估構成了重大挑戰。分析人員從這些工具中獲取材料并將其納入分析產品時，必須對基礎源數據進行系統檢查。因此，這項技術提出了一個悖論：一是節省時間，二是增加工作量。

與其他人工智能系統一樣，LLM 也會在其生成的任何內容中嵌入偏見。該系統的吸引力和潛力在于它有能力攝取和查詢大量資料--基本上是整個開放互聯網--但必然結果是，該系統也會攝取現有的偏見和廢話，這些偏見和廢話可能是關于特定主題的主流敘事，或者是關于特定主題的特定語言。同樣，毫無疑問，破壞性或惡意行為者會利用 LLM 快速、廉價地生成大量虛假信息并充斥網絡。毫無疑問，敵對行為者也會試圖毒害公共或專有 LLM。目前，大多數開放的生成式人工智能應用程序本質上都是黑盒子，這些系統不允許（或不會允許）用戶檢查它們得出特定判斷的過程。這是由于神經網絡依賴多層節點處理數據的本質所致。這種可觀察性的缺乏，再加上基于 LLM 的系統在可復制性方面的某種脆性--即它對準確提示措辭的依賴--帶來了風險和挑戰。事實上，鑒于在專業情報界對分析評估采用可審計程序的重要性，在這些工具被納入正常業務之前，這個問題構成了一個需要克服的重大障礙--或者說需要掌握的挑戰。正如在人工智能之前的時代一樣，結論必然需要由經驗豐富、訓練有素的人員進行檢查、驗證和整個過程的審計。

這些風險有可能被充分降低，使這些工具能夠相對迅速地融入分析流程。許多研究人員正在開發人工智能系統，以識別人工智能在各種情況下生成的內容，如學術論文或視頻文件。還有一些研究人員正在研究可審計的 LLM 系統；還有一些研究人員正在研究如何開發安全的系統，讓分析人員能夠在分類系統和開放的互聯網上進行搜索。但是，即使這些問題可以得到緩解，還有另一個根本性的問題，即這些系統是否只能是衍生系統，因為它們基本上完全建立在基于已有材料的計算模型之上。它們所提供的洞察力能否與任何接近 “想象力 ”的東西相匹配，還是說它們目前的貢獻仍將局限于語法和風格的練習，偶爾會出現幻覺？或者，換一種說法，他們可能會對某個問題進行極其（或表面上）合理的討論，但鑒于這些討論是根據一個統計模型得出的，該模型關注的是某個特定的詞或概念或 “標記 ”與另一個詞或概念或 “標記 ”相聯系的可能性，并以訓練材料為基礎，那么討論結果中是否會存在固有的保守主義或其他偏見？盡管如此，該領域的變化速度之快，即使預測其對情報評估的相對近期影響也充滿了不確定性，突出表明需要不斷審查該領域的發展。

雖然其他類型人工智能的貢獻已經得到證實，但對生成型人工智能的前景過于技術樂觀也會帶來風險。雖然這不是一個精確的類比，但美國情報界在 9/11 事件之前忽視人類情報（HUMINT）技能而青睞高科技的做法，應該為任何想把 LLM 的出現視為減少情報界人力的機會的人提供一個警示。選擇不當的捷徑會造成長期延誤。顯然，政府必須也必須與 LLM 打交道，必須不斷審查現有技術的效用，并愿意在這些系統得到驗證后擴大其使用范圍。但是，除了投資（擁有或使用）LLM，政府還應保留并加倍投資于人。在采用 LLM 的過程中，最大限度地提高效益和降低風險的一個關鍵因素將需要包括保持和發展對情報分析師的培訓，使他們能夠最好地利用這些強大的新工具。這可能包括專業途徑，培養一批善于將生成式人工智能融入分析實踐 “新常態 ”的官員，使他們能夠掌握現有系統，最大限度地發揮其效用，同時將其帶來的風險降至最低。但同時也應保持并優先培養主題和分析技術方面的專家，他們可以用經驗和智慧、隱性知識和人類特有的 “現實感 ”來補充生成式人工智能的巨大威力。在開展這項工作的同時，還應在政府內部（更不用說更廣泛的公眾）開展更廣泛的教育計劃，讓他們了解人工智能的用途和局限性。消費者，尤其是自詡為技術狂熱者和有遠見的 “深層國家 ”或 “小集團 ”的破壞者，應該仔細了解由于 LLM 的便利而繞過其分析機制的局限性和風險。世界不需要唐納德-拉姆斯菲爾德（Donald Rumsfeld）在伊拉克戰爭前的 “特別計劃辦公室”（ChatGPT）。就目前而言，將 LLM 衍生工具整合到分析流程中最合理的使用案例是，由經驗豐富、訓練有素的人類分析師作為 “副駕駛員”，嵌入到仍然樂于向消費者提供不受歡迎的消息的組織中。

先進人工智能（AI）與當代各部門和各行業的融合不僅僅是技術升級，更是一場具有深遠影響的變革。本文探討了與先進人工智能在社會、經濟和政治系統中的快速融合相關的結構性風險概念。這一框架挑戰了主要關注人工智能直接威脅（如事故和誤用）的傳統觀點，并提出這些更近似的風險是相互關聯的，并受到更大的社會技術系統的影響。通過分析技術進步與社會動態之間的復雜互動，本研究確定了結構性風險的三個主要類別：前因結構、前因人工智能系統和有害反饋回路。我們提出了一個全面的框架來理解驅動這些風險的因果鏈，強調了社會規模的結構性力量與誤用、系統故障和錯位系統擴散等更近似的風險之間的相互依存關系。本文闡述了不加控制的人工智能進步如何重塑權力動態、信任和激勵結構，從而導致深刻且往往不可預測的社會變革。介紹了繪制、模擬和推演這些動態的方法論研究議程，旨在讓政策制定者和國家安全專業人員做好準備，應對下一代人工智能技術帶來的挑戰。本文最后提出了政策建議，通過將對人工智能-社會技術關系的細致理解納入戰略規劃和國際治理，來降低這些風險。

結構性風險的定義和概念化

技術的開發和應用不是孤立的，而是與人類的需求、動機和環境緊密聯系在一起的。人工智能系統尤其如此--經過訓練的適應性學習技術，能夠與社會和物理世界融合互動。這種社會技術生態通過人機互動不斷發展，在改變社會結構（文化、經濟和政治）的同時推動技術加速發展（Valverde，2016 年）。因此，研究人員越來越多地從復雜系統的角度來評估人工智能，重點關注其結構、功能以及與平行系統的關系如何影響風險動態（Lazar & Nelson, 2023; Weidinger et al.） 越來越多的文獻研究了人工智能在技術、人類和系統層面的安全性，指出了反饋回路（Weidinger 等，2023 年；Anwar 等，2024 年）和社會適應（Bernardi 等，2024 年）的重要性。人工智能治理研究人員將這類風險稱為結構性風險：技術如何塑造或被更廣泛的環境塑造（Zwetsloot 等人，2019 年；Dafoe，2020 年）。盡管如此，對人工智能結構性風險動態的研究仍然有限，只有戰略武器和威懾（Avin & Amadae, 2019; Flournoy et al., 2020; Wong et al., 2020; Johnson et al., 2023）和快速社會變革（Ward, 2022）領域有明顯的例外。

圖 1. 人工智能風險格局。事故風險和誤用都與自我強化動態有著廣泛的重疊。誤用人工智能系統會讓技術安全問題顯現出來，而結構性力量（如經濟或地緣政治）會促使未經測試的系統過早發布，改變權力動態（改變攻防平衡），或降低進入門檻。

結構性風險可定義為在更廣泛的社會技術系統中開發和部署先進人工智能技術所產生的動態變化，包括互為因果的事件鏈、激勵結構和權力不對稱。對結構性風險的研究將分析重點從因果鏈末端的威脅--近因和事件，如無法控制的美國空軍人工智能無人機系統--轉移到潛在的結構性力量、它們之間的相互作用以及意想不到的后果。因此，雖然結構性風險有別于人工智能帶來的其他更直接的威脅（如目標錯位或網絡威脅），但它們是其特征和嚴重性的基礎。因此，大多數人工智能風險都具有間接因果途徑的結構性基礎（圖 1）。例如，過早部署一個功能強大、潛在不安全的系統可能會對事故產生直接影響，如系統故障，或部署錯位系統，或間接改變進攻-防御力量的對稱性（如增強進攻性網絡能力），導致國家間關系緊張，甚至沖突。事實上，新能力的提升會影響到更廣泛的社會和政治環境，同時也會受其影響。這種框架導致一些研究人員認為，大多數人工智能風險本質上都是結構性的（Krueger，2023 年；Clarke，2022 年）。

為了進一步闡明間接風險這一點，可以考慮采用化石燃料的歷史例子。雖然人類使用化石燃料已有數千年的歷史，但在 19 世紀，化石燃料的廣泛傳播造成了人口和工業的爆炸性增長，推動了工業革命的空前發展（Jianfen，2021；Wrigley，2013）。化石燃料使用的外部效應導致了廣泛的健康影響（如污染、工廠作業）、城市和國防工業基地的快速擴張以及大氣中二氧化碳的持續增加。因此，從第一批燃煤發電廠和鐵路到內燃機以及二戰前線軍事裝備的開發和運輸，都可以追溯到間接的因果聯系（布萊克，2017；達福，2020）。技術如何改變支撐發展和國際安全的結構性力量，推動社會組織和沖突的特征進入二十世紀。

權力動態和對對手的不信任會推動新技術快速融入全球軍事，導致以前無法想象的沖突形式，如一戰中的無限制潛艇戰、閃電戰戰術，以及二戰中第一顆原子彈的使用。雖然技術進步與沖突之間沒有直接的因果關系，但驚人的能力確實改變了可能的平衡，而權力不平衡、不信任和維持統治地位的動機又加劇了這種平衡。這些力量會形成危險的反饋循環，扭曲價值結構，加速競爭，增加事故和濫用的風險。在德國決定在一戰中實施無限制潛艇戰之前，各方都認為在戰爭中使用這種戰術是不可想象的（Gompert，2014）；然而，首次使用引發了各方參與，導致美國卷入一戰。今天，關于完全自主武器系統的倫理和禁止問題也有類似的討論（Kallenborn, 2020）。然而，歷史的教訓表明，新的能力與正確的激勵措施相結合，可以從根本上改變可允許性的結構動態。

這些動態的一個當代例子是圍繞人工智能發展的經濟和地緣政治競賽動態，推動公司和國家加快部署時間表。另一個例子是社交媒體算法對人類社會組織和決策的影響，導致整個政治制度和個人傷害的轉變。此外，對武器系統（戰略、戰術或指揮控制系統）自主性的信任螺旋式上升，導致緊張局勢加劇和技術升級（Avin & Amadea, 2019）。隨著系統越來越強大，社會和技術世界變得越來越相互依存，結構性風險可能會出現新的表現形式。事實上，人工智能內容選擇算法對青少年自殺或投票行為的影響，在達到人工智能復雜性的特定門檻之前，并沒有人注意到。在一些尚未考慮的領域，情況可能也是如此。正如在 1945 年北卡羅來納州洛斯阿拉莫斯的特尼狄核彈試驗之前，核輻射的影響還相對遙遠一樣，人工智能的結構性風險也存在著一個巨大的、不確定的問題空間，目前還在視線之外。

本文探討了無處不在的人工智能對戰斗本質的改變。將目光從人工智能取代專家轉向人機互補的方法。利用歷史和現代實例，展示了由人工智能操作員和人工智能/機器學習代理操作員組成的團隊如何有效管理自主武器系統。方法基于互補原則，為管理致命自主系統提供了一種靈活、動態的方法。最后，提出了實現機器加速戰斗綜合愿景的途徑，即由人工智能操作員操作戰場人工智能，觀察戰場內的行為模式，以評估致命自主系統的性能。與任何純粹的自主人工智能系統相比，這種方法能開發出更符合道德規范、以機器速度運行并能應對更廣泛動態戰場條件的作戰系統。

2022 年 11 月，ChatGPT 的發布標志著人工智能（AI）發展史上的一個關鍵時刻。幾十年來，人工智能一直是人們熱衷研究的課題，但對于普通人來說，它仍然是一個抽象的概念，更多的是科幻小說或技術演示，比如 IBM 的沃森贏得了《危險邊緣》（Jeopardy）。然而，有了 ChatGPT，人工智能走出了實驗室，人們可以用與朋友和同事交流的方式與人工智能對話。ChatGPT 將公眾對人工智能的看法從未來的可能性轉變為實實在在的現實。與此同時，在距離開發 ChatGPT 的辦公室千里之外，烏克蘭正在將人工智能融入戰場。面對俄羅斯大規模的射頻干擾，烏克蘭部署了人工智能增強型無人機，能夠在敵對條件下，在無人監督的情況下有效運行。人工智能的這一應用并不是要進行對話或模擬類似人類的互動，而是要在傳統系統失靈的情況下，增強對大型對手的作戰能力。ChatGPT 的認知能力與烏克蘭無人機對人工智能的功利性應用之間的對比，說明了人工智能在不同領域的多樣性和變革性。

這兩項人工智能應用促使美國國防部（Department of Defense，DoD）關于戰場人工智能的戰略思想發生了潛在轉變。最初的人工智能條令強調，對人工智能系統 "適當程度的人為判斷 "至關重要，"要有明確的程序來激活和關閉系統功能，并對系統狀態提供透明的反饋"[5]。對 "自主和半自主武器系統的人機界面"[5] 的要求意味著一定程度的人類直接互動，通常稱為 "人在回路中"（HITL）或 "人在回路中"（HOTL）。這種人類直接參與人工智能或監控錯誤的方式，證明了對關鍵流程自動化的謹慎態度。

之所以會出現這種轉變，是因為人們認識到，人工智能及其不可避免的技術普及，將不僅僅是補充，而是從根本上改變戰場上的行動和情報搜集，就像它已經開始改變社會上幾乎所有其他地方一樣。這種演變并非首次發生。就在上一代，互聯網的出現和智能手機的普及徹底改變了通信和信息獲取方式，以至于國防部別無選擇，只能適應。與這些創新一樣，人工智能也正走在一個類似的基本層面上。現在的挑戰不在于試圖支配人工智能的整合，而在于適應其不可避免的普遍性，在擔心數據偏差、計算 "幻覺 "的情況下確保軍事系統的可靠性和有效性，同時確保致命性自主武器系統的行為符合國際人道主義法（IHL）。本文件旨在探討這些挑戰，并提出緩解這些挑戰的途徑，同時認識到人工智能增強戰爭的進程不僅不可避免，而且已經開始。

討論

2022 年，人工智能達到了一個拐點。隨著電子戰的加劇，烏克蘭沖突迫使自主無人機快速發展。與此同時，像 ChatGPT 這樣的強大語言模型的發布吸引了全球觀眾，盡管它們的局限性也變得顯而易見。這些系統容易出現事實錯誤和赤裸裸的捏造，凸顯了將模式識別誤認為真正理解的風險。在人工智能顛覆整個行業的同時，我們也認識到，人工智能的流暢性往往掩蓋了根本無法分辨真假的缺陷。

人工智能在軍事上的應用提出了獨特而棘手的倫理問題。根據特定數據訓練的人工智能系統是實現其設計目的的強大工具。它們擅長模式識別和快速執行所學任務。但人工智能系統適應新情況的能力，尤其是在人命關天的情況下，仍然不太清楚。

雖然人工智能在數據處理和分析方面的能力毋庸置疑，但它在道德框架內指導行為的能力卻不那么確定。圖 1 展示了戰場自主人工智能的典型組織結構。作戰人員（橙色圓圈）直接操作一套武器系統（藍色圓圈），每套系統都通過一個人工智能模型進行調解，該模型經過訓練，可控制特定武器與敵人交戰。然而，如果敵人已經找到了欺騙人工智能模型的方法，作戰人員往往無法改變模型的行為。相反，作戰人員必須依靠其他可能風險更大的手段與敵人交戰。在戰爭中強調簡化、精簡的人工智能模型會帶來一種危險的脆性。當人工智能模型被愚弄時，它可能會使作戰人員面臨更大的風險，同時將關鍵優勢拱手讓給敵人。

在本文中，我們提出了 3.8 節中介紹的人工智能操作員或 "馬夫 "的角色。這種角色延伸了加里-卡斯帕羅夫（Garry Kasparov）在 "高級國際象棋 "中提出的 "半人馬"（centaur）概念，即人類與多個國際象棋程序合作，將人類的戰略洞察力與機器的計算能力相融合，以達到超高水平的競爭[21, 13]。這些相互促進或互補的領域已被證明優于任何一個單獨的組成部分[23]。互補的概念是將多個元素結合在一起，產生一個比任何一個部分都更有效的整體，這與更常見的替代做法有著本質區別，替代做法是單獨使用能力最強的部分--人類、自動化或人工智能。替代系統的實際結果是，它們的強大取決于最薄弱的部分。由作戰人員、戰場人工智能、遠程人類操作員及其本地人工智能代理組成的網絡可確保人類和人工智能的優勢得到最大程度的發揮（圖 2）。半人馬概念在軍事戰略中的演變說明，未來人類與人工智能的合作不僅有益，而且對于在高度動態和競爭激烈的環境中取得優勢至關重要。

要想讓人工智能系統在軍事環境中可靠運行，人類操作員必須了解人工智能的決策過程。這就意味著要對具有不同技能和背景的操作員進行培訓。就像棋手調整策略一樣，操作員應能根據需要切換人工智能模型。不能指望單一的人工智能模型在每一種戰場場景中都能完美發揮作用。情況是不可預測的；在一種情況下最好的模型在另一種情況下可能會失效。操作員必須了解每種人工智能模型的優缺點，以確保使用最有效的工具來完成手頭的任務。這種適應性是人工智能成功融入軍事行動的關鍵。

在軍事行動中，采用這種靈活的方法將人類與人工智能配對，可創建出比人工智能單獨運作的系統更靈活、適應性更強的系統。這種人類與人工智能的共生關系可以破壞對手的 "觀察、定位、決策、行動"（OODA）循環[18]，有效地 "反客為主"。人工智能在人類直覺和經驗的充實下，引入了不可預測性和復雜性，純人工智能對手可能難以理解或實時處理這些不可預測性和復雜性。這可能會使天平向有利于人類-人工智能團隊的方向發生決定性的傾斜，使他們在關鍵時刻超越和思考純人工智能系統，從而獲得戰術優勢。

人類可以利用自己的創造力和創新力提出人工智能無法提出的新想法和解決方案。例如，將人類對已知危險和風險的了解融入自主系統，可以讓操作員確定并預測基于人工智能的控制器在遇到真實世界的風險因素時的行為[6]。我們還能理解人工智能忽略的細微差別和情境，這對決策至關重要。最后，人類在群體中表現最佳，每個人都能帶來不同的視角和技能，從而提供深度理解，而目前的人工智能似乎可以模仿，但卻無法復制。