將自主武器系統(AWS)納入軍事行動既是重大機遇,也是嚴峻挑戰。本文探討了 AWS 信任的多面性,強調有必要建立可靠、透明的系統,以降低與偏見、操作失敗和問責制相關的風險。盡管人工智能(AI)取得了進步,但這些系統的可信度,尤其是在高風險的軍事應用中,仍然是一個關鍵問題。通過對現有文獻的系統回顧,本研究確定了在 AWS 開發和部署階段對信任動態的理解方面存在的差距。研究主張采用包括技術專家、倫理學家和軍事戰略家在內的合作方法來應對這些持續存在的挑戰。研究結果強調了人機協作和提高系統智能性對確保問責制和遵守國際人道主義法的重要性。最終,本文旨在為當前關于 AWS 的倫理影響以及在國防背景下實現可信人工智能的必要性的討論做出貢獻。
本節重點介紹 AWS 開發和部署中的主要挑戰,研究現代戰爭和國防戰略中的潛在障礙,分為五組:
挑戰 1--系統可靠性: 即使有強大的可靠性框架,由于子系統之間不可預測的相互作用以及在軍事行動中可能面臨的意外情況,AWS 的運行可靠性也無法得到完全保證[64]。值得注意的是,包括 AWS 使用的軟件在內的大多數軟件都可能不安全,這往往是由于規范中排除了安全要求。這種不安全性,再加上用于暴力破解攻擊的硬件成本不斷降低,使得密鑰管理問題變得更加復雜。因此,不斷驗證和增強其可靠性變得至關重要,重點是安全方面,并應對這些挑戰,以增強 AWS 的可信度。在軍事行動中,AWS 可以利用戰前分布的各類無線傳感器。這些傳感器與多智能體系統中的自主軟件代理相連接,可以提供戰場戰術優勢。然而,確保這些傳感器之間通信的完整性至關重要。公鑰基礎設施可能是一種解決方案,但它也帶來了自身的挑戰,例如私鑰的安全存儲和密鑰的安全空中傳輸。關于 AWS,信任是一個二元決定,取決于人們是將其視為僅僅具有可靠性和可預測性的工具,還是將其視為具有更高信任閾值的道德主體。解決在測試、驗證和核實這些系統的可預測性和可靠性方面的重大技術挑戰至關重要。人工智能能力有了顯著提高,尤其是在目標識別方面,但在復雜環境中仍面臨挑戰。例如,深度學習模型擅長獨立學習和適應,但可能會在偏離訓練的任務中舉步維艱,而且它們缺乏類似人類的語境理解能力。此外,人工智能系統還可能很 “脆弱”,在處理與其設計規格略有不同的任務時會很吃力。這些模型通常被視為 “黑盒”,很難理解它們的決策過程,這在要求決策透明的情況下是很成問題的。在部署 AWS 時,必須建立定義明確的問責機制,以防止出現以有組織的不負責任為特征的系統。此外,將《交戰規則》和國際人道主義法等問責規則轉化為軟件的嘗試大多因其復雜性而未獲成功。迄今為止,尚無實用的方法來模擬分析軍事行動相稱性所涉及的定性評估。
挑戰 2--訓練和適應性: 另一個關鍵挑戰是管理人類與 AWS 之間的信任平衡。確保人類行動者既不過分也不過分信任這些系統至關重要。盡管機器具有超強的適應能力,但人類往往會誤判機器的能力,從而導致 “自動化偏見”。這種偏見有兩種表現形式:人類可能會過度信任系統,即使系統做出的決定不公正也會接受;也可能會過度信任系統,不斷監控或推翻系統的任務。
此外,雖然 AWS 具有減輕壓力和認知超負荷的潛力,但其有效性受制于其收集和傳達與任務相關的準確信息的能力。這主要是人工智能能力的現狀造成的。目前,人工智能在識別物體,尤其是復雜環境中的物體方面還不如人類精通。此外,盡管在圖像識別方面有可能取得進步,但人工智能仍表現出基本的 “脆性”。它們被訓練來執行特定的、狹義的任務,在適應哪怕是稍有不同的任務時都會遇到困難。
挑戰 3--戰略脆弱性: 關鍵問題之一是先發制人的不穩定性概念,它是 AWS 開發和部署過程中出現的戰略漏洞。這種不穩定性源于 AWS 的固有特性,如速度、精確度和限制人類風險的能力。這些特性可能會刺激先發制人的攻擊,在不危及人員安全的情況下,以較低的成本提供快速、精確的攻擊等戰術優勢。即使人工智能繼續朝著降低脆性和增加透明度的方向發展,這種情況下,一方由于這些優勢而被激勵先發制人,這就構成了先發制人的不穩定性。AWS 的保密性可能會導致盟國之間的不確定性增加,從而使先發制人的不穩定性問題變得更加復雜。具體來說,各國可能不愿意分享其 AWS 能力的細節,這有可能給它們之間的關系造成壓力。在實際操作層面,人們對人工智能系統準確區分合法與非法目標的能力存有疑慮。此外,任何錯誤識別的潛在后果都是巨大的,進一步加劇了當前問題的復雜性。AWS 的先發制人不穩定性帶來了若干挑戰。決策算法往往缺乏透明度,讓決策者無所適從--這個問題被稱為 “黑盒”挑戰。此外,AWS 還面臨與數據相關的問題,如數據獲取、數據傾斜、濫用和隱私問題。同時,人工智能有可能延續現有的歧視性結構和偏見,這也是一個需要解決的重大問題。最后,人類在這些自主系統中的作用因環境而異;在軍事系統中,法律或道德上可能需要人類的監督,而在交通領域,人類的參與可能不那么必要--特別是如果人為錯誤是造成操作事故的主要原因。在戰略脆弱性方面,問責制和責任制是主要挑戰。在使用 AWS 時,必須制定明確的規則和機制,以防止不負責任的行為。然而,將法律轉化為軟件的嘗試已被證明具有挑戰性,而且在復雜的軍事場景中也不存在評估相稱性的實用策略。
挑戰 4--人機協作: 建立信任和理解是人機協作的關鍵挑戰。AWS 是一個動態系統,會不斷進化和適應,因此不可預測,需要人類深入了解其工作原理,以便能夠充分信任它們。操作自主性與控制之間的平衡也是一個挑戰。系統設計者必須在賦予機器人足夠的自主性以發揮其作用,同時又保持適當的人類控制之間取得平衡。找到適當的平衡是關鍵:人類必須對自主系統有適當程度的信任,但又不能過于信任。其次,還有訓練和適應性。學習型 AWS 真正以有效方式適應環境的程度,與人類團隊成員能夠有效識別和使用其數據的程度成反比。隨著自主系統的改進,其適應能力可能會降低其與人類合作時的實用性,因為人類很難理解和利用其增強的能力。最后,溝通和協調對于人機合作至關重要。決策者認為自主系統不是一種固定的控制狀態,而是人類與計算機之間分層協作的過程。另一方面,國防科學委員會對自主性的觀點也很獨特,它將自主性定義為人類和計算機之間為實現某些能力而有意分配認知任務和責任。這種作戰動態方法承認,在任何特定時間,預警機都可能對不同任務的不同方面擁有不同程度的控制權。
挑戰 5--把握道德、法律和社會層面: 推動在 AWS 中納入倫理原則,凸顯了為某種情況選擇最合適的倫理標準這一尚未解決的任務。各種倫理理論已被用于解決道德困境。然而,目前倫理專家們在選擇適用的倫理理論方面尚未達成共識。在部署 AWS 以防止系統性不負責任時,建立強有力的問責機制至關重要。人工智能放大歧視性結構的風險是一個重大問題,因此有必要采取積極主動的措施來消除潛在的偏見。此外,AWS 的社會影響和公眾看法也是一個重大挑戰。核心問題包括人工智能強化現有歧視性結構的潛力,以及自主系統的民主問責制,特別是當這些系統做出影響公共權利或公共利益分配的決定時。
因此,透明度和可解釋性也是重大挑戰。一個首要問題是自主系統在決策方面的透明度,這通常被稱為 “黑盒”挑戰。與人腦不斷學習并以先前獲得的知識為基礎不同,算法通常只在一個數據集上訓練一次。這種方法限制了算法在不重新訓練的情況下學習新信息的能力,在動態和復雜的環境中,持續學習至關重要,這給算法帶來了挑戰。
最后,在軍事環境中使用自主系統會帶來與人權和戰爭原則相關的倫理困境。人類挑戰這些機器的成文道德規范的能力可能會降低,從而導致道德真空,現有的法律、道德準則和社會規范可能無法滿足需要。從更實際的角度來看,人們對人工智能驅動的功能能否準確區分合法與非法目標存有疑慮。
展望未來,本節將探討 AWS 的開發和部署可為現代戰爭和防御戰略帶來的機遇。AWS 的好處和優勢分為五個關鍵領域:
機遇 1 - 能力:
機遇 2--訓練和認識: 技術和企業專家參與 AWS 的設計、開發、部署和管理,推動了 AWS 的發展,確保了尖端技術的融入,并為軍事行動提供了競爭優勢。雖然完全自主的武器系統尚未公開部署,但軍事人員正在通過成本效益高的模擬訓練演習、講習班和桌面演習,為其最終實施做好準備。正如澳大利亞國防軍目前的做法所體現的那樣,這些準備措施對于在作戰部署之前建立對 AWS 的熟悉和鼓勵對 AWS 的實驗至關重要。基礎和應用科學家之間的合作研究正在加強對自主系統中以人為本方面的理解,從而改進 AWS 的設計和實施。此外,通過研究軟件對軍事航空和遙控飛機系統事故的影響所獲得的見解,正被用于提高 AWS 的安全性和有效性,為制定更嚴格的安全測試、認證和監管流程提供信息。
機遇 3 - 戰略和軍事優勢: 對于技術先進的國家來說,AWS 的發展和與軍事行動的整合具有重大的戰略優勢,特別是在提高精確度、速度和效率方面。這種對機器自主性的關注是由通過人機協作提高作戰效率的潛力所驅動的。將 AWS 集成到 C2 系統中,有望增強決策過程,為指揮官提供數據驅動的洞察力和更廣泛的戰術選擇。公眾對 AWS 的看法似乎是可塑的,當有信息強調 AWS 具有挽救士兵生命和減少失誤的潛力時,支持率就會提高。AWS 通過在不適合人類士兵的高威脅環境中工作,顯示出更高的作戰效率和風險緩解能力,從而在提高作戰能力的同時降低人命風險。這些系統可發揮戰斗力倍增器的作用,執行原本需要多名人類士兵才能完成的任務,從而提高作戰效率。歐洲武器制造商通過設計選擇和實踐,塑造了在特定武力使用情況下進行適當人類控制的隱性規則,為 AWS 的累積改進做出了貢獻。
機遇 4--人機協作: AWS 的集成強調了人機團隊合作的極端重要性,人與機器之間的信任對于行動的成功至關重要。人類與自主系統之間的有效協作對于確保作戰環境中的可靠性和性能至關重要。隨著軍事戰略的發展,半自主設備與致命性自主武器系統之間的界限凸顯出對這種協同作用的依賴性越來越強,這表明未來的作戰行動將在很大程度上依賴于有效的人機互動。各部隊的現代化計劃,如意大利陸軍對自主性的重視和英國對無人機群的投資,反映了增強自主性的大趨勢,有可能帶來更有效、更高效的防御戰略。此外,隨著 AWS 能力的擴大,改善決策和戰略靈活性的潛力也變得顯而易見,使指揮官能夠獲得更廣泛的戰術選擇和見解。
機遇 5--把握道德、法律和社會層面: 圍繞 AWS 的倫理、社會和法律考慮是多方面的,對其部署至關重要。其中一個主要的倫理問題是,通過承擔致命決定的責任,可以減輕士兵的道德傷害,從而減輕與戰斗行動相關的心理負擔和負罪感。這種 “道德卸載 ”概念提出了有關道德責任委托的復雜問題,因為它將殺人的道德影響從士兵轉移到了機器。為確保負責任地使用 AWS,這些系統的開發和部署必須以不斷發展的標準和法規為指導。國際標準化組織(ISO)、國際電工委員會(IEC)和電氣和電子工程師學會(IEEE)等國際組織正在積極制定技術標準,以解決算法偏差和可信度等關鍵問題,這對于在軍事背景下接受 AWS 至關重要。建立專業的軍事道德規范也至關重要,因為它涉及到設計價值和法律責任等基本問題,尤其是在高風險環境中。此外,引入 AWS 需要對現有法律框架進行重新評估,以適應自主系統帶來的獨特挑戰。這種重新評估為軍事法律和倫理的創新提供了機會,正如美國國防部的 “國防創新倡議”(Defence Innovation Initiative)等舉措所體現的那樣。它們影響國際規范和法規的潛力巨大;它們可能會改變國際法核心條款的解釋方式,或與現有法律標準并行運作。公眾和基于實踐的審議在形成圍繞 AWS 的新興規范和實踐方面發揮著至關重要的作用,確保這些規范和實踐立足于現實世界的應用和公眾的期望。這種互動促進了自主系統使用中的透明度和問責制,使人們更好地理解什么是 “有意義的 ”人類控制。因此,AWS 的倫理意義延伸到其運行可靠性和安全性,因為它們可以通過識別和減少軟件缺陷來加強軍事行動,從而在遵守倫理標準的同時提高任務的整體成功率。
由美國國防部高級研究計劃局(DARPA)等項目開發的智能子彈代表了精確戰爭的突破性進展。本文對智能子彈技術進行了全面回顧和批判性分析,探討了其技術的復雜性、軍事應用、倫理影響、經濟考量和未來前景。通過集成先進的光學傳感器、制導系統和機動機制,智能子彈在戰場上實現了無與倫比的精確度和殺傷力。其軍事應用范圍包括精確瞄準和快速打擊多種威脅,在戰斗力方面具有顯著優勢。然而,有關平民傷亡、擴散風險和問責問題的倫理關切也需要慎重考慮。此外,從經濟角度看,智能子彈技術的商業化既有潛在的成本節約,也存在道德困境。未來,人工智能、材料科學和微型化方面的進步有望進一步提高能力。然而,要確保在軍事行動中負責任地、合乎道德地使用智能子彈技術,從而為全球安全與穩定做出貢獻,就必須應對當前的倫理、法律和技術挑戰。
圖 1:裝有制導系統的智能子彈(資料來源:Melvin, 2015)
智能子彈體現了尖端技術的融合,旨在提高戰場上的精確瞄準和戰術效果。這些彈丸融合了先進的光學傳感器、制導系統和機動機制,可實現無與倫比的精確度和殺傷力(圖1)。
智能子彈或制導彈丸的結構由基本組件組成。其主體包括制導系統、推進機制和有效載荷。制導系統采用全球定位系統或激光制導等技術,引導子彈飛向目標,而推進裝置則為機動提供必要的推力。有效載荷可以多種多樣,從爆炸材料到針對特定任務目標的專用有效載荷。鰭等控制面可以調整彈道,確保精確度。此外,電源可為機載電子設備提供動力,通信系統可為外部更新或指令提供便利。這些集成元素共同賦予了智能子彈精確打擊的能力,為各種作戰環境提供了多功能性。智能子彈的最大速度為 1200 米/秒,射程為 5 千米,可確保迅速而準確的交戰。它能在發現后 3 秒內做出反應,精確度無與倫比,偏差誤差低于 5 米。智能子彈體積小巧,威力強大,長 30 厘米,直徑 5 厘米,僅重 1 千克。智能子彈已證明能以無與倫比的精確度擊中移動目標,從而提高軍事狙擊手的殺傷力(Melvin,2015 年)。
智能子彈為軍事行動帶來了范式轉變,在各種作戰場景中提供了多種應用。這些先進的彈丸為軍隊提供了 增強了精確瞄準能力,大大提高了戰場效率(Melvin,2015)。智能子彈的主要軍事應用之一是其實現精確瞄準的能力,即使在具有挑戰性的環境中也是如此。
在城市戰或反叛亂行動等擔心平民傷亡的情況下,智能子彈可以在遠距離準確打擊目標,并將附帶損害降到最低(The Week Staff,2015)。這些射彈的精確瞄準能力最大限度地降低了對非戰斗人員造成意外傷害的風險,從而提高了軍事行動的整體安全性和人道主義影響(Keller,2017b)。
此外,智能子彈還能使軍隊以更高的效率和效力與目標交戰。通過自主調整彈道以補償環境因素和目標移動,這些彈丸提高了成功交戰的概率(McCormick,2015)。這種能力在動態作戰環境中尤為有利,因為在這種環境中,快速準確地瞄準目標對任務的成功至關重要。
除精確瞄準外,智能子彈還具有同時攻擊多個目標的多功能性。DARPA 的多方位防御快速攔截彈交戰系統(MAD-FIRES)計劃旨在為機槍配備智能子彈功能,使其能夠快速精確地打擊多個威脅(Keller,2017c)。這種能力增強了軍隊對蜂擁而至的威脅(如無人機或快速攻擊艇)的防御能力。
總之,智能子彈在軍事上的應用多種多樣,意義深遠,在戰場上提供了精確瞄準、高效和多功能等顯著優勢。
智能子彈技術在提高戰場精確瞄準和交戰能力方面已顯示出卓越的功效。實彈演示和實地測試展示了智能子彈打擊移動和躲避目標的能力,即使在具有挑戰性的環境條件下也是如此(McCormick,2015)。
此外,智能子彈還能快速精確地打擊多個目標,從而提高整體戰斗力,具有徹底改變軍事行動的潛力(Keller,2017a)。
然而,智能子彈盡管功效顯著,但也存在某些局限性和挑戰,必須加以解決。其中一個限制是制導系統對電源的依賴,這可能會限制智能子彈在長時間交戰中的作戰耐力(Dias,2023 年)。此外,目標的警覺性和環境條件等因素也會影響智能子彈的性能,這凸顯了持續研發以提高其堅固性和可靠性的必要性(The Week Staff,2015)。
此外,開發和部署智能子彈技術的成本仍是廣泛采用的一大障礙。雖然隨著時間的推移,技術的進步可能會降低生產成本,但智能子彈系統的研究、開發和測試所需的初始投資可能是巨大的(Pike,2022 年)。
雖然智能子彈技術在提高精確作戰和戰術能力方面具有顯著功效,但必須承認并應對其局限性和挑戰。通過了解這些限制因素并不斷創新,軍事組織和國防承包商可以最大限度地發揮智能子彈的潛力,同時降低風險并確保在軍事行動中負責任地使用。
未來沖突環境中有兩個相互關聯的問題值得情報組織關注:大數據帶來的分析挑戰和網絡威脅。前所未有的數據生產正在超越人類和機器的分析能力,而不斷涌現的技術正在增強對手滲透通信網絡的能力。在未來的沖突中,情報組織將利用易受網絡入侵的不完善的傳統計算來分析大數據,并通過同樣易受入侵的媒介來傳播已完成的情報。在未來沖突中使用傳統的分析和加密技術,表明情報機構沒有能力或不愿意利用先進技術提高情報分析能力和數據保護能力。在發展中的技術中,基于量子的計算和人工智能以及量子加密技術為這兩個問題提供了解決方案。考慮到量子技術在未來 10-15 年內前所未有的潛力,海軍陸戰隊和其他軍種的情報實體應開發一種量子與傳統計算機的集成架構,以產生人機分析能力和量子加密來保護情報通信網絡。
圖 2:假設沖突 OE 和全球環境中的大數據生產和網絡威脅。已部署的 IOC 與 MIC/MCIA 量子人工智能加密中心之間的支持和關系。
俄羅斯在烏克蘭的戰爭證明,小型無人駕駛航空系統在戰場上的迅速擴張顛覆了對空中優勢的傳統定義。在近距離沖突中,對手的先進系統很可能會使美國空軍 70 年來對載人威脅保持空中優勢的無懈可擊的記錄化為泡影。對此,美國及其盟國和合作伙伴須在文化上,在如何組織、訓練和裝備部隊,以及如何計劃、執行、指揮和控制行動方面進行調整和創新。必要的調整包括部隊和總部的分布式作戰,以及對下放風險和決策權的重新認識。如果能在系統和組織層面進行創新,就能實現高端和低端能力的平衡組合。
北約面臨的一個重大挑戰是空域日益擁擠和爭奪,既受到對手威脅的影響,也受到各軍種相互競爭的戰術優先事項的影響。條令提供了應對這一挑戰的機制。美國的聯合條令中已經有了戰斗管理領域,但在實施過程中仍有一些問題需要解決,必須根據具體情況量身定做。在聯合空中力量能力中心(JAPCC)最近主辦、北約空軍司令部(AIRCOM)承辦的一次會議上,空地一體化是主要議題之一。所有與會者都對這一戰斗管理領域的主題有了新的認識,空陸一體化小組為北約空軍司令部(AIRCOM)和美國駐歐洲空軍(USAFE)的工作人員確定了后續領域。
俄羅斯在烏克蘭的戰爭再次證明,空中優勢仍然是第一要務。但必須明確目的。空中力量并不只是為了追求空中優勢而追求空中優勢。空中優勢不僅是我們首先要努力實現的目標;它通常仍是首要任務--即使在戰役后期它的重要性有所下降--因為它能提供機動自由,能夠完成所有其他任務,而且因為如果不這樣做,減員率將變得令人望而卻步。自第二次世界大戰的聯合轟炸機攻勢以來,就知道這一點,而烏克蘭當前的局勢則不斷提醒空中僵局的可怕代價。
戰斗管理區旨在提高靈活性和獨立行動能力,這是無可厚非的,但也必須確保任何變化都不會影響空中組成部分的行動自由,也不會對地面領域的支持產生負面影響。聯合部隊航空兵指揮官的資產在更高的地層做什么?其中很大一部分出動是通過下層直接提供近距離空中支援和戰場空中攔截火力,以支持地面指揮官和聯合部隊指揮官的目標。
這并不意味著低層空域是美國空軍與生俱來的權利,而是應當遵循 “指揮與控制能力 ”原則。今天的空軍始終并將繼續密切關注垂直維度。72 小時瞄準周期雖然還有改進的余地,但它是航空兵從整個聯盟提供可預測和可持續空中力量的機制。通過預先分配的待命近距離空中支援和攔截任務,仍有足夠的靈活性來滿足地面指揮官的需求,但同樣致力于尋找創新方法來提高空中力量的反應能力。
俄羅斯在烏克蘭的戰爭帶來了豐富的教訓,在此僅舉幾例。
首先,拒止威懾取決于是否擁有裝備精良、訓練有素、精通作戰的部隊。換句話說,當問及什么樣的力量態勢能提供可信的威懾時,答案是能夠隨時表明北約擁有強行阻止對手實現其目標所需的力量。專制政權不可能因公眾對軍事冒險主義的反對而受到制約,因此我們必須訴諸于他們的理性利益,即與北約發生沖突不值得其國家軍隊或政權付出代價和承擔風險。
其次,可以從烏克蘭的相對僵局中汲取許多教訓。北約國家不能僅僅依靠高端能力來贏得戰斗,因為低成本威脅的擴散使得高端武器系統的介入難以為繼。除了嚴重低估烏克蘭的政治、軍事和社會決心外,俄羅斯還在戰爭初期消耗了其大部分精確彈藥,但收效甚微,盡管它正在快速重組這些彈藥。由于沒有作戰計劃、強大的目標定位程序和充足的電子戰資源,俄羅斯最初浪費了其寶貴的精確彈藥儲備,而現在它正瘋狂地試圖補充這些彈藥。
第三點,也是與第二點的重要區別,是古老的大規模原則。在工業化規模的戰爭中,任何大規模交戰方之間的戰爭,如果不能在早期戰役中決出勝負,就會演變成一場工業化的消耗戰。事實上,像海灣戰爭這樣的短期決定性戰役是證明規則的例外。烏克蘭才是常態。
第四,工業戰爭的現實引出了更多結論,即贏得工業戰爭取決于整體經濟實力和應變能力、適應和創新能力以及政治意愿和社會凝聚力。我們的聯盟在這方面具有明顯的優勢: 只要我們的盟國和合作伙伴從一開始就采取集成設計方法,實現零日互操作性,那么來自不同國防工業的多樣化和重疊能力就是一種戰略優勢。在全面沖突中,聯盟成員很可能會迅速克服各種挑戰,如采購流程的遲緩以及互操作性和信息共享方面的政策障礙,尤其是在北約受到攻擊的情況下。我們現在必須以同樣的力度解決這些問題,以創建未來威懾和防御所需的零日能力。
多年來,人工智能一直被用于改進信號情報的收集和分析,但本文探討了生成式人工智能可為戰略情報分析人員執行的一系列任務。文章認為,將生成式人工智能融入情報評估的最穩妥做法是作為人類分析師的 “副駕駛員”。盡管存在不準確、輸入偏差和 “幻覺 ”等問題,但生成式人工智能可以解放時間不足的分析人員,讓他們專注于人類最有價值的任務--運用他們的專業知識、隱性知識和 “現實感”。
人工智能(AI)是無法回避的。我們每個人每天都直接或間接地與它打交道。除了柯潔在圍棋比賽中輸給谷歌的 AlphaGo 這樣的偶然拐點之外,人工智能幾乎沒有大張旗鼓地滲入社會。但現在,圍繞人工智能的爭論非常突出。這主要與用戶友好型生成式人工智能軟件的發布和廣泛采用有關,其中最著名的是 ChatGPT 和 Google Bard。這些功能強大的程序潛力巨大,許多評論家認為它們的影響堪比另一場工業革命。的確,將人工智能應用到各個領域,尤其是醫學領域,可能會帶來革命性的變化;但同樣,它也會帶來巨大的潛在風險--安全、經濟、社會和文化風險。首相蘇納克(Rishi Sunak)希望英國能掌握這個等式的兩面:在人工智能監管和安全方面引領世界,11 月在布萊切利公園舉行的人工智能安全峰會就是一個標志;同時也要抓住這項技術帶來的機遇。八十年前,布萊切利公園的前主人--密碼破譯員、語言學家、數學家和工程師--曾與英格瑪機器搏斗并開創了計算技術的先河。本文關注的是生成式人工智能為他們在情報界的繼承者,特別是那些專注于情報評估技術的繼承者帶來的機遇和挑戰。文章認為,生成式人工智能有可能極大地補充分析工作。但就目前而言,它最有用的應用是作為輔助工具、副駕駛員,它有可能極大地增強分析人員的工作,但也應謹慎使用。
情報與技術是一對老朋友。幾十年來,它們彼此推動著對方的發展。這一點在電子和計算機領域體現得最為明顯。在秘密行動中,情報機構推動了技術的發展。它們還經常是新技術的早期采用者,利用新技術開發、維護和增強能力。畢竟,適應性是成功情報機構的標志之一。英國皇家情報總部成功地從模擬機構轉型為數字機構,如今甚至將自己定位為 “情報、安全和網絡機構”。人工智能已經以多種方式補充了情報工作。各國經常使用人工智能增強系統來協助收集情報。許多在秘密領域工作的私營部門承包商也在人工智能領域大顯身手。由人工智能軟件支持的閉路電視攝像網絡被廣泛用于識別和追蹤城市環境或恐怖風險較高地區(如火車站)的個人或物體。這種技術也為專制政府提供了無與倫比的機會來壓制不同意見或異議,新疆和其他地方的情況就說明了這一點。除數據收集外,這項活動的大部分內容還涉及更輕松、更高效地對數據進行鑒別或選擇,從而為時間有限的分析人員的工作提供便利,因為他們需要評估這些數據的含義。人工智能被廣泛應用于翻譯、將截獲的互聯網流量減少到可控水平、語音識別或在開放的互聯網上搜索對象的協會和聯系人等費力的任務。在英國,INDEX 系統允許分析人員在政府和外部報告中進行搜索。核心信息可以通過自然語言處理系統提取和匯總。但是,正如剛剛退休的英國聯合情報委員會主席西蒙-加斯(Simon Gass)爵士在今年 6 月指出的,“我們正處在這個階段的山腳下”。
需要將生成式人工智能和大型語言模型(LLM)整合到情報評估的正常業務中。簡單地說,生成式人工智能是指 “能夠根據訓練數據生成高質量文本、圖像和其他內容的深度學習模型”。這些技術已經在國防和情報領域受到高度重視。英國國防部國防創新總監約翰-里奇(John Ridge)最近指出,“我們可以肯定的一點是,這類能力將是絕對關鍵的”。這些能力是革命性的,還是只是情報工作的另一個發展階段,還有待觀察。但它們改變商業模式的潛力是顯而易見的。前幾代人工智能主要集中在更有效地收集數據和更有效地整理擺在民間和軍事情報分析師面前的材料上,而生成式人工智能則展示了承擔迄今為止只有人類分析師才能完成的任務的潛力。基于 LLM 的工具(如 ChatGPT)的主要賣點是,它們可以對問題或命令形式的提示做出響應,并利用現有材料在特定參數范圍內做出響應。或者換一種說法,可以命令它們按照特定規格撰寫類似人類的報告,以計算機的速度,根據大量數據提出見解或作出推論。
從這個意義上說,情報分析和評估與其他以研究為基礎的工作領域處于類似的地位,它們可能(而且幾乎肯定會)受到干擾。這些領域包括醫療和法律行業,在這些行業中,根據有關特定主題的全部數字化文獻資料快速、清晰地編寫報告或文件的前景非常誘人。教育領域也受到了影響,其傳統模式正在被檢測機器生成的作品這一挑戰以及人工智能時代究竟什么才是合法研究這一更具哲學意義的問題所顛覆。盡管如此,在這些領域中的每一個領域,理論上都可以在很大程度上將曾經由人類完成的基本任務外包給機器,盡管需要保持謹慎的警惕。這樣做已經產生了令人印象深刻、有時甚至發人深省的成果,比如一篇關于 ChatGPT 對檢測剽竊行為的影響的學術論文,該論文已提交給同行評審的學術期刊,并被其接受,但這篇論文是用 ChatGPT “寫 ”出來的。不過,如果從各行各業廣泛采用 LLM 的軼事證據來看,人類分析師的日子還遠未到頭。在不久的將來,應將 LLMs 視為情報分析員的額外工具,是提高效率和效力的輔助工具。他們是 “副駕駛員”,可以評估論點、進行數據分析或校對,而不是潛在的替代者。就目前而言,在這些領域中的任何一個領域,要想以其他方式開展工作,風險都太大了。情報工作也不例外:在全球競爭的環境中,整合這些工具的必要性只會越來越強,但過快或魯莽行事顯然存在風險。審慎的做法是,情報評估機構利用人工智能增強人類分析師的能力,為他們創造更多的時間和空間,讓他們運用不可或缺的隱性知識和 “現實感”--以賽亞-伯林(Isaiah Berlin)所說的感同身受的理解是歷史解釋的一個關鍵特征--來理解全局。
令人欣慰的是,谷歌Bard也同意這一點。當被問及它能為情報分析帶來哪些好處時,該程序回答說,它可以執行許多有用的任務。這些任務包括收集信息、分析信息、生成報告、交流研究結果、提出情報需求、管理情報資源和監督情報行動,以確保它們符合法律和道德標準。但是,當被要求確定使用 LLMs 進行戰略情報分析的風險時,它指出:"重要的是,要將機器的產出與情報分析結合起來: 重要的是要將機器輸出與人工分析和解釋以及對地緣政治環境的全面了解結合起來"。顯然,如果 “言聽計從”,該系統具有巨大的潛力。但在充分挖掘潛力之前,所有相關人員都需要考慮并解決幾個基本挑戰。
這些問題包括通常對 IT 網絡安全性和穩健性的擔憂,例如:確保集成軟件經過安全架構審查所面臨的挑戰、供應鏈風險的可能性、數據存儲的安全性、確保提交給任何系統的查詢都經過加密或不可能被敵方重建。其他值得注意的安全問題來自于大量的訓練數據、數十億個參數以及設計可行工具所需的訓練過程。目前,這項工作是在基于云的系統中進行的,因此除了常見的網絡安全問題外,還增加了數據主權問題。此外,為了最大限度地發揮其價值和效用,特別是在快速發展的情況下,LLM 需要經常或持續訪問互聯網。顯然,有必要將那些與開放互聯網保持聯系的系統與情報分析員處理更敏感材料和制作情報評估產品的封閉、保密網絡分開。
上述問題都不是不可克服的,但這些挑戰突出表明,必須有條不紊地解決這一問題,協調政府各相關機構利益攸關方,以成功實施這一至關重要的信息技術項目。這些挑戰也并不都集中在如何確保系統不被敵對勢力破壞上。還需要考慮監管問題。事實上,大衛-安德森(David Anderson)勛爵在上議院關于人工智能的辯論中指出,"在一個人人都在使用開源數據集來訓練大型語言模型的世界里,英國信息中心受到了《調查權力法》第 7 部分的獨特限制。這些限制'在某些重要情況下影響了英國信息中心的靈活性,影響了它與商業伙伴的合作,影響了它招聘和留住數據科學家的能力,并最終影響了它的效率'。
只要能找到令人滿意的解決方案,LLM 對分析師工作的許多方面都極為有用。其中包括較為傳統但費力的任務,如作為研究助理,就特定主題(如國際爭端的背景)提供近乎即時的不同長度和細節的摘要,或構建時間軸、撰寫簡介、總結或分析冗長的文本,或(假設版權和訂閱問題得到解決)將最新的學術著作納入其中。雖然第一批LLM是在英語語料庫中接受培訓的,但目前開發多語言模型的工作進展順利。當然,鑒于已發現生成式人工智能生成的回復在準確性和完整性方面存在問題,任何此類產品都必須經過主題專家的檢查,類似于跨白廳當前情報小組系統。這可能會提高穩健性和效率,并隨著時間的推移,促進機構學習和流程改革。
但潛力顯然不止于此。生成式人工智能還可以包括更先進、更重要的工作。例如,分析師可以使用 LLM 來審查和驗證他們的書面報告,從而增強現有的分析流程和產品審計程序。例如,可以要求提供任何對關鍵判斷提出質疑或證偽的數據;查詢長期以來生成的報告,以確定已成為傳統智慧的假設;或使用工具生成 “紅隊 ”評估。從理論上講,這種能力可以在幾個方面幫助分析人員識別或根除導致情報失敗的某些偏見因素,并確保報告盡可能是最新的。不難想象,這些工具的提供和適當使用將如何提高分析界的速度、影響范圍和批判性地反思其行為和業績的能力。
目前這一代 LLM 也可以撰寫報告或評估報告。將此類寫作任務的早期起草階段外包給一個工具,可為資源和時間貧乏的情報分析員創造經濟效益。毫無疑問,謹慎采用 LLM 是有道理的。但這項技術仍然有限,需要認真監測。這些局限性帶來了風險,這一點在 2023 年大眾廣泛嘗試使用 LLM 之后已經得到證明和充分記錄(在 META 推出 Threads 之前,沒有任何應用能像 ChatGPT 那樣迅速得到采用,該應用在推出后五天內用戶就達到了 100 萬)。對于情報分析師及其產品的接收者來說,其中許多挑戰都是非常棘手的。其中包括對這些工具所提供信息的準確性和可靠性的擔憂。這些系統非常善于生成似是而非的文本、聲明和結論。但這些可能在現實中沒有任何依據,甚至在建立 LLM 的訓練數據中也沒有任何依據。這種 “幻覺 ”已被廣泛觀察到;在學術工作中,經常出現的 “幻覺 ”是生成不存在的資料來源(例如,引用聽起來很有道理但實際上并不存在的網頁)來支持生成的主張。這究竟是 LLM 的一個特點還是一個缺陷,還存在爭議。無論如何,這都對采用 LLM 進行情報評估構成了重大挑戰。分析人員從這些工具中獲取材料并將其納入分析產品時,必須對基礎源數據進行系統檢查。因此,這項技術提出了一個悖論:一是節省時間,二是增加工作量。
與其他人工智能系統一樣,LLM 也會在其生成的任何內容中嵌入偏見。該系統的吸引力和潛力在于它有能力攝取和查詢大量資料--基本上是整個開放互聯網--但必然結果是,該系統也會攝取現有的偏見和廢話,這些偏見和廢話可能是關于特定主題的主流敘事,或者是關于特定主題的特定語言。同樣,毫無疑問,破壞性或惡意行為者會利用 LLM 快速、廉價地生成大量虛假信息并充斥網絡。毫無疑問,敵對行為者也會試圖毒害公共或專有 LLM。目前,大多數開放的生成式人工智能應用程序本質上都是黑盒子,這些系統不允許(或不會允許)用戶檢查它們得出特定判斷的過程。這是由于神經網絡依賴多層節點處理數據的本質所致。這種可觀察性的缺乏,再加上基于 LLM 的系統在可復制性方面的某種脆性--即它對準確提示措辭的依賴--帶來了風險和挑戰。事實上,鑒于在專業情報界對分析評估采用可審計程序的重要性,在這些工具被納入正常業務之前,這個問題構成了一個需要克服的重大障礙--或者說需要掌握的挑戰。正如在人工智能之前的時代一樣,結論必然需要由經驗豐富、訓練有素的人員進行檢查、驗證和整個過程的審計。
這些風險有可能被充分降低,使這些工具能夠相對迅速地融入分析流程。許多研究人員正在開發人工智能系統,以識別人工智能在各種情況下生成的內容,如學術論文或視頻文件。還有一些研究人員正在研究可審計的 LLM 系統;還有一些研究人員正在研究如何開發安全的系統,讓分析人員能夠在分類系統和開放的互聯網上進行搜索。但是,即使這些問題可以得到緩解,還有另一個根本性的問題,即這些系統是否只能是衍生系統,因為它們基本上完全建立在基于已有材料的計算模型之上。它們所提供的洞察力能否與任何接近 “想象力 ”的東西相匹配,還是說它們目前的貢獻仍將局限于語法和風格的練習,偶爾會出現幻覺?或者,換一種說法,他們可能會對某個問題進行極其(或表面上)合理的討論,但鑒于這些討論是根據一個統計模型得出的,該模型關注的是某個特定的詞或概念或 “標記 ”與另一個詞或概念或 “標記 ”相聯系的可能性,并以訓練材料為基礎,那么討論結果中是否會存在固有的保守主義或其他偏見?盡管如此,該領域的變化速度之快,即使預測其對情報評估的相對近期影響也充滿了不確定性,突出表明需要不斷審查該領域的發展。
雖然其他類型人工智能的貢獻已經得到證實,但對生成型人工智能的前景過于技術樂觀也會帶來風險。雖然這不是一個精確的類比,但美國情報界在 9/11 事件之前忽視人類情報(HUMINT)技能而青睞高科技的做法,應該為任何想把 LLM 的出現視為減少情報界人力的機會的人提供一個警示。選擇不當的捷徑會造成長期延誤。顯然,政府必須也必須與 LLM 打交道,必須不斷審查現有技術的效用,并愿意在這些系統得到驗證后擴大其使用范圍。但是,除了投資(擁有或使用)LLM,政府還應保留并加倍投資于人。在采用 LLM 的過程中,最大限度地提高效益和降低風險的一個關鍵因素將需要包括保持和發展對情報分析師的培訓,使他們能夠最好地利用這些強大的新工具。這可能包括專業途徑,培養一批善于將生成式人工智能融入分析實踐 “新常態 ”的官員,使他們能夠掌握現有系統,最大限度地發揮其效用,同時將其帶來的風險降至最低。但同時也應保持并優先培養主題和分析技術方面的專家,他們可以用經驗和智慧、隱性知識和人類特有的 “現實感 ”來補充生成式人工智能的巨大威力。在開展這項工作的同時,還應在政府內部(更不用說更廣泛的公眾)開展更廣泛的教育計劃,讓他們了解人工智能的用途和局限性。消費者,尤其是自詡為技術狂熱者和有遠見的 “深層國家 ”或 “小集團 ”的破壞者,應該仔細了解由于 LLM 的便利而繞過其分析機制的局限性和風險。世界不需要唐納德-拉姆斯菲爾德(Donald Rumsfeld)在伊拉克戰爭前的 “特別計劃辦公室”(ChatGPT)。就目前而言,將 LLM 衍生工具整合到分析流程中最合理的使用案例是,由經驗豐富、訓練有素的人類分析師作為 “副駕駛員”,嵌入到仍然樂于向消費者提供不受歡迎的消息的組織中。
新興技術和顛覆性技術及其在安全和國防領域的應用已成為歐洲聯盟(歐盟)倡議的核心。人工智能(AI)系統也不例外。作為大國競爭和日益武器化的焦點,人工智能技術因其軍民兩用的特點,以及在網絡物理領域的日益部署,在改變軍民關系方面既帶來了風險,也帶來了機遇。本文探討了歐盟最近所做的工作,確定了共同的計劃和項目,并考慮了歐洲技術主權的論述、最近的戰略舉措以及所涉及的主要利益相關者。由于歐盟缺乏明確闡述對這一新興技術領域及其負責任的軍事研究、開發和實戰的立場的戰略愿景,這些工作有可能成為缺失的總體知識拼圖中的零散片段。本文還對將人工智能驅動的技術解決方案納入歐盟安全與防務的主流提出了警示,指出這將使特定的地緣政治和軍國主義創新想象合法化,而這種想象可能與歐盟倡導的對此類系統負責任、可信賴和以人為本的愿景不符。
人工智能(AI)系統等新興和顛覆性技術(EDT)正在開創一個高科技全球競爭和地緣政治對抗的新時代。人工智能,尤其是機器學習(ML)的進步,已經以各種方式影響著戰爭。尖端的人工智能系統作為美國和中國等主要大國的 "終極助推器",預示著巨大的戰略優勢,但也有可能對武裝沖突的全球監管和基于規范的制度造成不可預見的破壞。作為一種無所不能的使能技術,人工智能是一個總括性術語,經常被認為會徹底改變戰爭的本體,并引發戰略、作戰和戰術軍事實踐的范式轉變。不可否認,人工智能已成為國家戰略和軍事條令的基石。出于軍事目的開發人工智能加劇了人們對新一輪 "軍備競賽 "的擔憂,并擔心對抗性的零和思維將主導全球政治。尤其是人工智能在安全和國防領域的應用,正引發有關該技術武器化和廣泛軍事化的激烈辯論,以及對在戰場上使用和部署人工智能技術的倫理和監管問題的擔憂。
需要對 "軍事人工智能 "這一概念進行更多批判性的探討,特別是因為它已被狹隘地與軍國主義對技術顛覆未來的設想混為一談,從而助長了相關的研發(R&D)努力和部署致命自主武器系統(LAWS)的競賽。最近,這一概念與使用人工智能無人機群(或稱 "軍事蜂群")進行軍事行動聯系在一起。雖然為更多地將致命武力交給此類技術鋪平道路的努力值得認真反思,但從國防工業供應鏈到研發、軍事決策、作戰、訓練、后勤和部隊保護等方面的軍民動態,智能軍事的快速發展已準備好改變戰爭的幾乎所有方面。最近的分析主要集中在美國和中國的力量動態上,而較少關注歐洲聯盟(歐盟)的努力或其對軍事人工智能的看法。
在此背景下,人工智能系統的地緣政治因素在歐盟層面吸引了更多關注,它被視為經濟、政治和軍事國家策略的有力工具。在最近關于加強歐洲 "戰略自主權 "和 "技術主權 "的討論中,以及在現任主席烏蘇拉-馮德萊恩自詡為 "地緣政治 "歐盟委員會的領導下,這一地緣政治因素也得到了體現。鑒于將軍事人工智能等關鍵技術納入歐洲安全與防務實踐的主流所面臨的挑戰,這并不奇怪,主要是因為歐盟內部及其成員國在外交、安全與防務等高政治領域的權限各不相同。事實上,安全和防務事務,包括與技術和工業領域相關的事務,以及各自的戰略研發舉措,傳統上一直是成員國的專屬權限。這些事務由歐盟內部的政府間決策機構負責,而不是受歐盟的超國家領導。然而,近年來,歐盟委員會通過基于市場和工業的倡議,擴大了其在這些領域的權限,以塑造和加強歐洲防務技術和工業基地(EDTIB)的競爭力和創新能力。歐盟委員會還越來越多地將民用科學、技術和創新計劃與歐盟主導的安全和國防研發政策領域的興起聯系起來,這些領域受益于關鍵軍民兩用技術的創新。在此背景下,本文通過探討歐盟主導的融資計劃(如歐洲防務基金(EDF)及其前身計劃)下的項目,以及歐洲防務局(EDA)主導的項目,重點介紹歐盟近期的人工智能安全與防務技術計劃。
首先,第二節探討了歐盟人工智能安全與防務倡議的研發趨勢。然后,第三節討論了歐盟國防研究試點項目下的無人蜂群系統計劃。第四節描繪了防務研究預備行動(PADR)下與人工智能相關的防務研究項目,第五節重點介紹了歐洲防務工業發展計劃(EDIDP)中由人工智能支持的幾個防務工業項目。第六節評估了歐洲國防工業發展計劃在改變人工智能國防技術游戲規則方面的作用。最后,第七節探討了歐洲防務局率先提出的幾項人工智能防務倡議和應用,最后在第八節和第九節提出了本文的建議和總體結論**。
隨著技術解決主義的現實政治愿景在布魯塞爾和歐盟成員國首都獲得越來越多的戰略牽引力,重要的是要注意到,這同樣使特定的地緣政治和軍國主義想象合法化,而這種想象可能并不總是與歐盟作為規范和民事大國的身份相一致。社會技術想象是群體的成就和集體持有的愿景,在這種想象中,某些愿景和愿望占據了主導地位,并隨著時間的推移,隨著主要利益相關者調動資源使其愿景更加持久和理想而獲得集體力量。這種軍國主義愿景的形成有助于將歐洲塑造成一個在戰略上獨立的全球大國和技術上擁有主權的想象空間。但與此同時,也應關注歐盟如何為基于規則的國際秩序和軍事人工智能軍備控制制度做出貢獻,從而緩解軍事人工智能和自主系統在戰爭中的使用及其在戰場上的廣泛部署日益正常化的趨勢。
為實現這一目標,歐盟資助的計劃和歐洲防務局的倡議都應采取相關措施,制定最佳做法,應對軍事人工智能帶來的潛在風險、挑戰和不希望出現的結果,從建立人類對人工智能技術的監督標準,到考慮某些系統的不可預測性和安全性,以及認識到沖突升級和違反國際法及道德原則的可能性增加。懷疑論者反對過分夸大人工智能系統的破壞性影響,認為這預示著一場新的 "軍事革命"。不過,應該指出的是,人工智能帶來了一系列新的挑戰和風險,因為這關系到人的作用。本文旨在通過識別具有人工智能驅動的安全與國防技術元素的共同項目,批判性地參與歐盟主導的努力。重點是歐盟層面的超國家和政府間防務合作。
本報告介紹了美國陸軍在向自動駕駛車輛過渡時將面臨的幾項挑戰--在當前測試有限的采購環境下,這些挑戰只會被放大。人工智能算法帶來了額外的復雜性,導致系統中人、機器和自主控制器的復雜組合。這些自動駕駛車輛的采購過程需要采用不同的方法,以確保這些系統的安全可靠。采用 "系統視角 "來適當考慮交互的復雜性,并在這些系統開發的早期階段將當前可用的工具和技術結合起來,對于項目的成功至關重要。這將使陸軍能夠高效地獲得這些能力,同時還能保證它們按預期運行。
從吸塵器到割草機和商用汽車,人工智能(AI)在現代世界的許多領域都已變得十分普遍。這些功能正在不斷發展,每天都有更多的產品和系統應用這些功能,為人類帶來了眾多潛在的好處。人工智能在自動駕駛汽車(AVs)中尤其引人關注,其好處包括減少認知工作量、提高效率以及改善人類操作員的安全性。
最近,學術界和產業界進行了大量投資,旨在改進自動駕駛汽車的使能技術。谷歌和特斯拉是業界比較知名的兩個例子,谷歌開發了自動駕駛汽車,特斯拉則提供了全自動駕駛(FSD)自動駕駛系統。福特和寶馬也在開發自己的自動駕駛汽車。盡管有這些投資,這些系統仍然是一個挑戰。
美國國家公路交通安全管理局(NHTSA)最近對特斯拉的調查凸顯了這些技術的重要性和難度。美國國家公路交通安全管理局的行動編號為 23V085000(NHSTA,2023a),涉及召回 30 多萬輛配備 FSD Beta 系統的汽車。召回摘要指出,FSD Beta 系統可能導致車輛出現不安全行為。這些不安全行為包括:在轉彎專用車道上直行通過交叉路口、進入STOP標志控制的交叉路口時未完全停車,以及在黃色交通信號穩定期間不加警惕地駛入交叉路口。召回還指出,該系統可能無法對張貼的速度限制變化做出反應,也無法對駕駛員將車速調整至超出這些限制的情況做出說明。
NHTSA運動編號23V037000(NHSTA,2023b)是較早的一次召回,涉及約5.3萬輛汽車,也討論了FSB Beta系統的問題。該系統在軟件中包含 "滾動停車 "功能,可使車輛在通過全向停車路口時不停車。這兩次召回都可以通過遠程空中軟件更新來解決,這實際上也是自動駕駛汽車可能具備的一個重要優勢。
最近一項針對自動駕駛汽車深度學習方法的調查也認識到了廣泛使用自動駕駛汽車仍然存在的困難。這項工作確定了必須解決的 10 項挑戰: 1) 自動駕駛(AD)系統的復雜性;2) 道路環境的動態性;3) 大數據和實時處理;4) 智能數據優先級;5) 穩健性和適應性;6) 用于動態決策的感官數據集成/融合;7) 自動駕駛深度學習的公平性、可問責性和透明度;8) 自動駕駛的在線學習能力;9) 對抗惡意攻擊的穩健性;以及 10) 交通標志板的可變性(Muhammad 等人,2021 年)。
根據美國國家公路交通安全管理局(NHTSA)的指導意見,自動駕駛汽車的整體安全性由制造公司負責。每家公司都必須遵守聯邦機動車安全標準,同時還要證明其車輛不存在固有的安全風險。雖然許多公司目前正在測試自動化程度較高的車輛,以確保其按預期運行,但 NHSTA 指出,許多專家表示,車輛開發商仍需開展更多工作,以確保車輛在投入商用前安全運行(NHSTA,n.d.)。有關安全自動駕駛算法方法的詳細研究尚未完成。這些研究應被視為 AVs(包括為陸軍使用而開發的 AVs)安全的支柱。
考慮到這里提出的問題,陸軍須做好準備,調整目前開發和采購這些系統的戰略。他們必須確保這些系統有利于接收它們的單元,并且不會導致作戰漏洞或不可預見的安全隱患。不過,在調整任何采購戰略之前,不妨先考慮一下人工智能的基本局限性,以及它們與陸軍感興趣的系統之間的關系。人工智能系統通常是為了在具有不同程度不確定性的復雜環境中運行而設計的,但算法并不能實現完美無瑕的性能。因此,技術上可靠的系統仍會偶爾產生異常結果。這一點可能與反車輛系統所期望的性能背道而馳,但卻有助于強調謹慎對待開發和采購過程的重要性。這些系統不再僅僅是機器或人機互動。相反,它們是人、機器和自主控制器的復雜組合。任何開發和獲取這些系統的方法都必須將這種復雜的組合作為其基礎。
本報告的其余部分安排如下。第 2 節概述了美國陸軍內部測試的現狀。第 3 節討論了自主性的各種影響以及在當前采購方法下自主性會帶來的要求。第 4 節提供了 AVs 應考慮的當前采購方法的替代方案,第 5 節包含結論和對未來工作的建議。
隨著可機動高超音速導彈的威脅在本已繁多的彈道導彈和其他導彈威脅的基礎上進一步增加,美國正在部署越來越廣泛和復雜的天基衛星群,提供導彈預警和跟蹤功能,以加強美國的導彈防御能力。
本文探討了需要西方國家進行有效導彈防御的威脅,以及美國為防范此類威脅而進行的提供導彈預警和跟蹤(MW/MT)的最新天基計劃發展。文章還回顧了美國防部最近發布的關于保護當前和未來天基 MW/MT 及相關衛星資產的戰略。
戰略和戰術彈道導彈以及高超音速導彈構成的威脅是一種現實存在的危險,最近的地緣政治現實就充分說明了這一點。在烏克蘭戰術層面使用彈道導彈和高超音速導彈--包括首次在實戰中使用俄羅斯的 "烈火 "導彈--以及持續不斷的核威脅言論。除此之外,俄羅斯在北冰洋新澤姆利亞群島上的前核試驗場還進行了明顯的核試驗場擴建活動。2023 年 9 月,衛星探測到了這一活動,這表明俄羅斯可能在為未來的核試驗做準備--此舉將使全面禁止核試驗條約陷入混亂。俄羅斯最近表示,RS-28 "薩爾馬特 "洲際彈道導彈(ICBM)現已投入使用。
圖為 HBTS、DSP/SBIRS 和 NGP/NGG 空間架構。太空是一個高度競爭的環境,不斷演變的導彈威脅將很難被探測和摧毀。 資料來源:諾斯羅普-格魯曼公司
2023 年 7 月 13 日,朝鮮進行了最新的 "華城-18 "洲際彈道導彈試驗。據美國戰略與國際研究中心(CSIS)稱,伊朗已擁有 "中東地區最多樣化的導彈武庫,擁有數千枚彈道導彈和巡航導彈,其中一些導彈可遠至以色列和東南歐"。2023 年 6 月初,伊朗還公布了一種名為 "法塔赫 "的新型中程彈道導彈,據說射程達 1400 公里,最大速度可達 14 馬赫。
為防范此類威脅,多年來,復雜的天基衛星和傳感器對北美航空航天防御司令部(NORAD)的地面戰略防御預警能力起到了補充作用。其中包括諾斯羅普-格魯曼公司的防御支持計劃(DSP)衛星,該衛星為陸基系統的指揮和控制部門提供導彈發射探測、跟蹤和瞄準信息。諾斯羅普-格魯曼公司發言人向 ESD 詢問有關 DSP 衛星的最新信息時說:"由于技術的關鍵性,有關 DSP 的某些信息將繼續受到強化安全措施的保護。
然而,隨著導彈技術的進步和武庫的擴大,對更加復雜、互聯、彈性和重疊的天基 MW/MT 資產、傳感器和星座的需求也在增加。美國太空部隊的下一代高空持續紅外(Next-Gen OPIR)星座就是為滿足這些復雜需求而開展的一項計劃,它將最終取代目前的天基紅外系統(SBIRS)。順便提一下,SBIRS 本身最初就是為了取代一些 DSP 資產而投入使用的。洛克希德-馬丁公司(Lockheed Martin)和諾斯羅普-格魯曼公司(Northrop Grumman)正在為這一新計劃提供五個下一代 OPIR 空間飛行器;洛克希德-馬丁公司提供的三個將被置于地球靜止軌道(GEO),被稱為 NGGs(下一代地球同步軌道),諾斯羅普-格魯曼公司提供的兩個將被置于高橢圓極地軌道(HEP),被稱為 NGPs(下一代極地軌道)。
洛克希德-馬丁航天公司的第六顆也是最后一顆 SBIRS 衛星 SBIRS GEO-6 于 2022 年 8 月發射到地球同步軌道,并加入了太空部隊的 SBIRS 星群。 資料來源:洛克希德-馬丁公司
洛克希德-馬丁航天公司的第六顆也是最后一顆 SBIRS 衛星 SBIRS GEO-6 于 2022 年 8 月發射到地球同步軌道,加入了太空部隊的 SBIRS 衛星群,以提供和維持盯梢紅外監視和導彈預警能力。洛克希德公司是 SBIRS 的主承包商,諾斯羅普-格魯曼公司是有效載荷供應商。洛克希德-馬丁航天公司在一份新聞稿中說,第六顆衛星是 "邁向 SBIRS 的后繼者 NGG 系統所提供的彈性導彈預警的墊腳石",該公司稱,"與 SBIRS GEO-5 和 GEO-6 一樣,NGG 系統也是基于該公司現代化的 LM 2100 戰斗總線"。該系統 "與 SBIRS GEO-5 和 GEO-6 一樣,基于公司現代化的 LM 2100 戰斗總線",提供額外的網絡加固、彈性和增強的航天器動力,以及改進的推進和電子設備。該公司 OPIR 任務區副總裁 Michael Corriea 當時表示,對 OPIR 的需求 "從未像現在這樣重要",并在聲明中強調彈道導彈技術已經 "在全球擴散,每年跟蹤的導彈發射超過 1,000 次"。因此,SBIRS GEO-6 不僅能加強當前的導彈預警架構,其后繼者 NGG 還將提供更大的能力,并擴大其覆蓋范圍。
至于諾斯羅普-格魯曼公司的 NGP OPIR 衛星,它們將從 HEP 軌道覆蓋北半球的極地地區。據公司媒體消息稱,這兩顆衛星將包括紅外傳感器,用于 "探測和跟蹤彈道導彈和高超音速導彈",以及 "向地面傳輸任務數據的增強型通信系統,使決策者能夠識別來襲威脅的紅外熱特征"。每個 NGP 的組成還包括 "減少反空間和網絡攻擊脆弱性 "的復原功能,以及 "受保護、有保障、可生存的通信能力"。
兩個 NGP 空間飛行器的 HEP 軌道至關重要,因為跨極地路線是攻擊北美的敵對導彈的首選飛行路線,因為到達目標的距離較短。由于地球曲率的原因,地球同步軌道上的衛星無法直接看到兩極,因此只有在高頻軌道上的衛星才能實現覆蓋。
洛克希德-馬丁公司的下一代高空持續紅外 (OPIR) 地球同步軌道 (NGG) Block 0 早期導彈預警衛星。 資料來源:洛克希德-馬丁公司
在諾斯羅普-格魯曼公司對極地上空的 NGP 導彈預警事件進行的模擬中,NGP 資產現在將成為首個探測敵方導彈發射和飛行的傳感器,這得益于 OPIR 性能比早期系統的改進。一旦被探測到,實時機載處理將立即啟動,對事件進行定性,并通過實時下行鏈路向美國大陸傳輸這些信息以及導彈預警、跟蹤和其他信息。諾斯羅普-格魯曼公司稱,兩顆衛星組成的 NGP 星群將確保與地面指揮和控制的全天候直接視距通信,并有助于防止北半球極地導彈對北美的突襲。
除上述計劃和工業參與者外,美國防部還將其他天基導彈預警和跟蹤制造既得利益交到了其他參與者手中,如波音公司的千年空間系統公司、L3Harris 公司和雷神情報與航天公司。這兩家公司目前都在為美國防部的其他導彈預警和跟蹤計劃提供太空飛行器(近年來也是如此),這些計劃要求在不同平面的軌道上安裝傳感器,從低地球軌道(LEO)到中地球軌道(MEO),再到地球靜止軌道(GEO)以及高地球軌道(HEO)。
諸如美導彈防御局(MDA)的高超音速和彈道跟蹤空間傳感器(HBTSS)工作、空間發展局(SDA)的擴散戰士太空架構(PWSA)方案或美國太空部隊的寬視場(WFOV)導彈預警傳感器等方案,只是這些行業參與者正在開展的活動的一部分。
PWSA 將追蹤現在和未來的高級威脅。追蹤層將與傳輸層的低延遲網狀通信網絡相集成。 資料來源:SDA
例如,L3Harris 和諾斯羅普-格魯曼公司(Northrop Grumman)都參與了許多此類計劃,包括 MDA 的 HBTSS 計劃。L3Harris 公司于 2023 年 6 月獲得一份合同,為 MEO - 導彈跟蹤保管 (MTC) Epoch 1 計劃開發紅外傳感器有效載荷數字模型,為太空部隊未來彈性 MW/MT 星座的高超音速導彈探測和跟蹤提供支持。千年公司和雷神公司也在推進該計劃的原型空間飛行器開發,預計交付日期為 2026 年。
從上述情況不難看出,太空已成為一個競爭日益激烈的攻防環境。然而,上述復雜的高科技計劃組合,其多層次、多軌道、光學嚙合衛星方法、先進的紅外傳感器和 MW/MT 能力,提供了有彈性的設計架構,完全有機會應對和擊敗日益復雜、規避和危險的新興導彈威脅。
由于篇幅有限,無法詳細介紹所有計劃和項目,但 ESD 還是采訪了 MDA 和 SDA,以了解 HTBSS 和 PWSA 的最新進展。
據 MDA 稱,HBTSS 計劃旨在提供一個全球 HBTSS 跟蹤衛星星座,從發射到重返大氣層和/或飛行終止,持續跟蹤導彈威脅(無論是彈道導彈還是高超音速導彈),并向整個導彈防御系統的指揮和控制提供火控跟蹤數據。
據該機構稱,HTBSS星座的兩顆衛星將與陸基和海基雷達以及 "最近部署的太空部隊跟蹤衛星 "合作,演示它們如何跟蹤高超音速威脅并為攔截提供目標數據,并補充說,"這次演示將為未來導彈預警跟蹤防御任務的PWSA提供信息"。
據說,MDA 計劃在 2023 年底之前發射兩顆 HBTSS 原型衛星,以演示該系統的上述在軌能力,該機構稱,一旦演示成功,HTBSS 將成為"太空部隊擴散運行的關鍵空間傳感器星座的一部分,隨著導彈威脅的演變,它將提供更強的跟蹤目標和攔截高超音速威脅的能力"。屆時,該計劃預計將移交給 SDA。
ESD雜志采訪了 MDA,簡要了解了 HBTSS 目前的最新情況,以及該計劃是否有望在今年年底前開始在軌傳感器測試。MDA 發言人 Heather Cavaliere 告訴 ESD:"對于 HBTSS 計劃的當前階段(在軌原型演示),MDA 于 2021 年 1 月授予 L3Harris Technologies 公司(L3H)和諾斯羅普-格魯曼公司(NGC)協議。兩家公司都在開發不早于 2023 年 12 月中旬發射的在軌原型演示衛星。發射后將進行在軌測試,以測試、描述和驗證 HBTSS 的性能"。卡瓦列雷補充說:"HBTSS負責探測和跟蹤威脅,并將數據傳輸給導彈防御系統的指揮和控制部分。"
至于MDA與SDA的合作如何取得進展,以確保美軍--美國空軍/美國太空部隊等--盡快擁有最佳的天基導彈預警能力,特別是考慮到烏克蘭的情況以及美國各對手正在進行的導彈研發、 卡瓦列雷回應說:"MDA 正在與美國太空部隊的 SDA 和太空系統司令部(SSC)合作,開發 HBTSS,作為高空持續紅外(OPIR)傳感器的原型,獨特地提供火控質量數據。在操作上,HBTSS 的火控能力將成為 SDA 的 PWSA 的一部分,并將比地面雷達更快地探測到高超音速、彈道和其他先進威脅,提供高超音速威脅跟蹤數據,以便通過鏈接的導彈防御武器進行交接"。
這就引出了 "擴散戰士太空架構"(PWSA)的發展。這是 SDA 的一項計劃,該公司于 2023 年 4 月宣布成功首次發射了 10 顆衛星,這些衛星組成了該計劃的第 0 批(T0)衛星,即傳輸和跟蹤層衛星,它們將展示低延遲通信鏈路,以支持作戰人員的彈性綜合能力網絡,包括從低地軌道跟蹤先進導彈威脅。
關于該計劃的最新進展,ESD采訪了SDA負責戰略參與的副主管喬納森-威辛頓(Jonathan Withington),他說:"PWSA將追蹤現在和未來最先進的威脅。跟蹤層將與傳輸層的低延遲網狀通信網絡集成,實現從擴散低地軌道跟蹤常規和先進導彈,并隨著威脅的演變,通過螺旋式發展增加未來幾代的能力"。
今年 4 月,SDA 的公共空間服務局(PWSA)使用 SpaceX 獵鷹 9 號可重復使用兩級火箭從范登堡空軍基地發射了首批 10 顆運輸和跟蹤層 0 級(T0)衛星。 圖片來源:SDA
威辛頓補充說:"公共衛生衛星系統的開發和實戰工作進展順利,第0批(Tranche 0)衛星的前兩次發射將計劃發射的27顆衛星中的23顆送入軌道,第三次發射計劃于今年晚些時候進行。第 0 批的前兩顆跟蹤衛星在發射后 60 多天就實現了 "初亮"。自 2024 年底開始,SDA 還將按計劃投入使用第一代 PWSA(Tranche 1)"。
另一位 SDA 官員為 ESD 補充了一些背景情況,他說:"Tranche 0(T0),即作戰人員浸入式 Tranche,展示了增殖式架構在成本、進度和可擴展性方面的可行性,以實現視線外瞄準和先進導彈探測與跟蹤的必要性能。一旦完成,T0 將由 28 顆衛星組成--20 顆傳輸層衛星和 8 顆跟蹤層衛星。
該官員繼續說:"該機構對 2023 年 4 月和 2023 年 9 月發射的前兩組衛星的初步運行情況感到滿意,"他補充說,"這些衛星將繼續進行測試和檢查。SDA 在前兩次發射中發射了四顆跟蹤衛星。今年晚些時候,SDA 將與 MDA 的 HBTSS 衛星一起發射最后四顆 T0 跟蹤衛星。這種發射合作使公共工程安全局的 MW/MT 傳感器和 MDA 的 HBTSS 導彈防御傳感器在進行未來 MW/MT/ 導彈防御混合架構演示時能夠發揮更大的協同作用"。
SDA已經開始了Tranche 1衛星的建造階段,并仍計劃從2024年末開始實戰第一代PWSA。"該官員說:"T1跟蹤層將為MW/MT提供近乎全球的單點覆蓋,從2025年開始發射。T2 跟蹤層正在進行源選擇,將為 MW/MT 提供近乎全球的立體覆蓋,并根據從 T0、HBTSS 和 T1 吸取的經驗教訓提供初步的導彈防御能力。T1 跟蹤層將能夠感知最新的彈道導彈和高超音速導彈威脅,并對其做出作戰響應。T2 跟蹤系統將繼續提高靈敏度,并領先于未來的威脅。這位 SDA 官員最后確認,Tranche 1 將包括大約 150 顆運輸和跟蹤衛星。
在四月發射時的新聞聲明中,SDA 主任 Derek Tournear 說:"通過這次發射,我們證明了 SDA 可以按計劃每兩年提供一次增強功能。這種革命性的方法得益于商業市場的增長,使公共工程和服務管理局能夠繼續前進,在未來的每個階段提供作戰能力"。該機構自己也表示,其 "方案在通信、數據傳輸和導彈預警領域提供了國家安全混合空間架構的一個組成部分",其 "獨特的采購戰略......通過設計和快速部署一個由低地球軌道小型衛星組成的威脅驅動的彈性星座,實現了更快和更便宜的能力交付"。
在太空中部署大量昂貴的衛星是一回事,但說到對這些 MW/MT 和其他天基資產的威脅和保護,美國防部 9 月中旬發布的 "太空政策審查和衛星保護戰略 "就涉及到了這些問題。
該文件首先強調了未來五年俄羅斯等大國在太空安全環境中的威脅。
如前所述,俄羅斯在烏克蘭戰爭中廣泛使用彈道導彈并引進高超音速系統,這提醒當今世界導彈戰爭的可怕性質。根據這份政策文件,俄羅斯確實運行著 "世界上一些能力最強的單個 ISR 衛星,用于光學圖像、雷達圖像、信號情報和導彈預警"。
然而,根據該政策文件,俄羅斯對美國和盟國的 MW/MT 及其他天基資產的威脅來自于 "可逆和不可逆反空間系統的開發、測試和實戰",包括 "干擾和網絡空間能力、定向能武器、在軌能力和地基 DA-ASAT 導彈能力"。
事實上,俄羅斯的 DA-ASAT 能力在 2021 年 11 月 15 日得到了證明,當時俄羅斯摧毀了自己的一顆過時衛星,據報道使用的是 A-235 PL-19 反彈道/反衛星導彈。美國國務卿安東尼-布林肯在當時的新聞聲明中說:"到目前為止,這次試驗已經產生了 1500 多塊可跟蹤軌道碎片,并可能產生數十萬塊較小的軌道碎片。這次危險而不負責任的試驗所產生的長壽命碎片將在未來幾十年內威脅到對所有國家的安全、經濟和科學利益至關重要的衛星和其他空間物體。" 然而,值得注意的是,美國、中國和印度此前也都開發并測試過 DA-ASAT 能力。
為了保護 MW/MT 衛星系統和傳感器,美國防部的政策審查和戰略指出,"彈性"將作為 "使對手無法從太空攻擊中獲益 "的關鍵方法,并將通過 "國防部太空架構轉變 "來實現,在可能的情況下,"從依賴高價值的專用衛星轉變為設計彈性架構",國防部補充說,這一轉變 "已經在進行中"。事實上,根據該文件,國防部希望在這一方法下重新開發的第一個領域是 MW/MT。
該文件說,已經對"......旨在滿足未來作戰性能需求、建立應對現代軍事威脅的復原力并確保成本參數的架構......提出了關于衛星數量和軌道系統能力多樣化的建議 "進行了評估。報告補充說,"正在進行的部隊設計研究包括:應對遠程威脅的火力控制;實現前沿作戰的戰術 ISR;確保數據貫穿決策和作戰管理的空間數據網絡;以及保護和防御行動,以保護重要基礎設施和天基能力"。
NGP 將覆蓋北極地區,并對北半球進行全天候覆蓋。 資料來源:諾斯羅普-格魯曼公司
審查還涉及敵方系統對天基資產的威脅,這些敵方系統旨在從軌道上對天基資產進行物理操縱,或以干擾等其他方式剝奪天基資產的運行效力,并采取移動和機動等緩解行動來保護天基資產。在保護天基多波段/多載波雷達和其他系統時,還必須考慮非敵對性的空間和地面自然氣候事件。審查報告沒有忘記來自網絡空間的威脅,指出 "網絡安全在提高美國太空架構的復原力方面也發揮著關鍵作用",并將強化網絡以抵御網絡攻擊列為 "一項優先工作"。
美國2024 財年預算將投入 50 億美元,用于開發 "新的增殖彈性 MW/MT 架構,包括下一代 OPIR 空間能力",以及配套的地面系統,這些系統將共同 "跟蹤更大范圍的威脅,包括高超音速和機動武器"。
此外,2024 財年預算還要求撥款 4.81 億美元,用于 "地面和天基傳感器、深空雷達和地基光學系統項目",這些項目可對空間系統面臨的威脅發出警報和警告,從而 "提高國防部空間數據系統的能力和復原力"。
審查報告最后列舉了五項能力,美國太空司令部司令認為,要實現審查文件中的建議,這五項能力是優先事項。這些能力包括:彈性指揮與控制、綜合空間火力與保護、靈活的電子戰架構、增強的空間戰場意識以及強大的網絡防御能力。
參考來源:歐洲安全與防務雜志
將人工智能(AI)融入陸軍后勤工作,可以徹底改變供應鏈管理、優化資源配置并增強決策能力。不過,這需要采取全面的方法,解決實施過程中的挑戰和問題。
人工智能技術的迅猛發展為將其應用于包括陸軍后勤在內的各行各業提供了新機遇。認識到人工智能的潛力,陸軍應努力大規模利用其能力,并將其應用到戰術層面,以改善供應鏈管理、資源分配和決策過程。通過與《聯合出版物 4-0:聯合后勤》、《野戰手冊 4-0:維持行動》和《陸軍條令出版物 4-0:維持》中概述的指導原則保持一致,陸軍可以在日益復雜和快速發展的世界中發展適應性強、反應迅速和有效的后勤行動。然而,將人工智能融入陸軍后勤工作會帶來一些挑戰和問題,如在自動化與人類專業技能之間找到最佳平衡點、確保強大的網絡安全、解決倫理問題以及使勞動力適應不斷變化的技術環境。本文探討了在陸軍后勤中整合人工智能的潛在優勢和劣勢,并討論了在最大限度地提高效益的同時,最大限度地降低風險和解決與實施人工智能相關的問題所需的全面方法。
人工智能在大幅提升陸軍供應鏈管理方面的變革能力毋庸置疑。正如美陸軍物資司令部前司令埃德-戴利(Ed Daly)將軍所強調的那樣,人工智能對于實現實際后勤所需的相關速度至關重要。他的愿景是將人工智能和機器學習無縫融入陸軍后勤流程的方方面面,從而為戰場上的士兵提供無與倫比的效率和及時支持。為支持這一觀點,《國際生產經濟學雜志》上發表的一項研究顯示,將人工智能融入供應鏈管理可將效率提高 20% 或更多。
人工智能分析海量數據、預測未來趨勢和資源分配需求的能力是陸軍后勤的另一大優勢。通過利用人工智能驅動的分析,陸軍可以更精確地預測士兵的需求,確保重要物資在正確的時間和地點到達目的地。此外,預測分析還能通過簡化人員和裝備分配來優化陸軍行動。陸軍后勤中的預測分析可以確定車輛部件何時需要更換,從而在故障發生前進行主動維護。這種方法可節省大量成本并提高運營安全性,減少因維護和事故而計劃外停機的可能性。此外,預測性分析還可以通過預測供應需求和驗證在正確的時間和地點是否有正確的資源來完善供應鏈管理。這一戰略可提高運營效率、縮短交付周期并提高供應鏈的可見性。
適應當地快速變化條件的能力是現代軍事行動的重要組成部分。適應性后勤和決策對于維持陸軍在復雜環境中的有效性和反應能力至關重要。人工智能通過提供實時信息、復雜的分析和先進的決策支持工具,有可能徹底改變軍事后勤的這一方面。
人工智能在適應性后勤方面的一個重要優勢是它有能力收集和分析來自各種來源的大量數據,包括傳感器、衛星和其他情報平臺。此外,人工智能還能訪問來自不同陸軍源系統的記錄系統數據,如全球指揮與控制系統-陸軍、后勤現代化計劃、港口自動化工具和運輸協調員移動信息自動化系統 II。人工智能還可以利用非陸軍系統,如全球決策支持系統和后勤功能區服務。通過這種全面的數據分析,可以做出更明智的決策,提高后勤效率。
這些信息可為作戰環境提供全面的最新情況,使指揮官能夠根據實時情報做出明智決策。通過獲取準確及時的數據,陸軍可以更有效地應對新出現的威脅,最大限度地降低風險,并抓住機遇。
除了提供實時信息外,人工智能還能通過識別人類分析人員可能不易察覺的模式和趨勢來加強決策。通過機器學習算法和先進的數據分析,人工智能系統可以發現隱藏的相關性,并產生可操作的見解,為戰略和戰術決策提供依據。例如,人工智能可以幫助預測敵人的動向,預測后勤瓶頸,或在潛在的供應鏈中斷發生之前加以識別。有了這些洞察力,指揮官就能做出更明智的決策,更有效地分配資源,并在戰場上保持競爭優勢。
人工智能還能通過自動化某些后勤規劃和決策環節,提高陸軍應對突發事件和緊急情況的能力。例如,人工智能驅動的系統可以根據不斷變化的環境條件或供應鏈的突然中斷,自動調整物資和人員的路線。通過實現這些流程的自動化,陸軍可以最大限度地減少延誤,并確保將關鍵資源運送到最需要的地方,即使在不確定和逆境中也是如此。
人工智能在適應性后勤中的另一項應用涉及使用模擬和優化技術來支持復雜多變條件下的決策。人工智能驅動的模擬模型可以幫助指揮官探索各種場景,評估潛在的行動方案,并確定實現目標的最有效策略。這可以使后勤計劃更加穩健、更具彈性,并提高任務的整體成功率。
雖然將人工智能融入陸軍后勤會帶來諸多益處,但也有合理的擔憂和潛在的弊端需要考慮。一些批評者認為,依賴人工智能可能會導致過分強調技術,而忽視人的經驗和直覺,而人的經驗和直覺在復雜和不可預測的情況下至關重要。人工智能有可能造成虛假的安全感,導致過度自信和戰略失誤。
此外,與實施人工智能技術相關的巨大成本,如基礎設施升級、軟件開發和持續維護,可能會超過潛在的好處。預算限制和相互競爭的優先事項可能會使為人工智能集成分配足夠的資源變得具有挑戰性,從而可能限制其有效性。
另一個令人擔憂的問題是人工智能系統易受網絡攻擊和敵方操縱。隨著人工智能驅動的后勤系統對陸軍行動越來越關鍵,它們也成為對手試圖破壞或損害軍事能力的高價值目標。制定強有力的網絡安全措施至關重要,但無法保證這些防御措施在應對快速發展的威脅時始終有效。
此外,還要考慮與軍事后勤中的人工智能有關的倫理問題。使用人工智能可能會導致決策偏差、缺乏透明度或意想不到的后果。必須明確界定人工智能系統行動的責任,以確保在出現錯誤或故障時能追究責任。
最后,將人工智能融入陸軍后勤可能會給后勤軍事職業專業帶來意想不到的后果。雖然特定任務的自動化可以提高效率,但也可能導致工作崗位的轉移,并需要對勞動力進行大量的再培訓。確保陸軍能夠適應這些變化并保留一支熟練的勞動力隊伍至關重要,但這需要持續的努力和投資。
雖然反駁意見中提出的擔憂不無道理,但必須指出,不應完全否定整合人工智能的潛在好處。相反,有必要采取一種平衡的方法,仔細考慮與人工智能實施相關的風險和挑戰,同時尋求利用其在陸軍后勤中的變革潛力。通過制定全面的戰略,陸軍可以解決這些問題,最大限度地發揮人工智能集成的效益。
將人工智能融入陸軍后勤工作,為徹底改變供應鏈管理、優化資源配置和加強決策過程提供了眾多機會。然而,至關重要的是要認識到并解決與實施人工智能相關的挑戰和問題,如在自動化和人類專業知識之間取得適當平衡、確保強大的網絡安全、解決道德問題以及使勞動力適應不斷變化的技術環境。
為了充分利用人工智能的潛力,陸軍應采取全面的方法,包括投資人工智能基礎設施、促進公共和私營部門之間的合作、為人員提供持續的教育和培訓,以及制定強有力的網絡安全措施。此外,必須就人工智能在軍事后勤中的道德影響保持公開對話,并建立明確的指導方針和問責結構,以確保負責任地部署人工智能。
通過采取全面的方法,陸軍可以克服與人工智能集成相關的挑戰,釋放其變革潛力,并在日益復雜和快速發展的全球安全環境中保持競爭優勢。
在過去的75年里,蘭德公司進行了支持美國國家安全的研究,目前為聯邦政府管理著四個聯邦資助的研究和發展中心(FFRDCs):一個為國土安全部(DHS),三個為國防部(DoD)。本文將重點評論國防部如何能夠最好地確保人工智能(AI)的進展有利于美國國家安全,而不是降低它。
在一系列廣泛的技術中,人工智能因其進展速度和應用范圍而脫穎而出。人工智能具有廣泛改變整個行業的潛力,包括對我們未來經濟競爭力和國家安全至關重要的行業。由于幾個原因,將人工智能納入我們的國家安全計劃帶來了特殊的挑戰:
這些技術是由商業實體驅動的,而這些商業實體經常在國家安全框架之外。
這些技術正在迅速發展,通常超過了政府內部的政策和組織改革。
對這些技術的評估需要集中在私營部門的專業知識,而這些專業知識很少被用于國家安全。
這些技術缺乏區分良性和惡意使用的常規情報特征。
美國目前是全球人工智能的領導者;然而,這種情況可能會改變,因為中國尋求在2030年前成為世界主要的人工智能創新中心--這是中國人工智能國家戰略的明確目標。此外,中國和俄羅斯都在追求軍事化的人工智能技術,加劇了挑戰。作為回應,將強調美國防部可以采取的四組行動:
1.確保美國防部的網絡安全戰略和網絡紅方活動跟蹤可能影響網絡防御和網絡進攻的人工智能的發展,如網絡武器的自動開發。
2.為防止不良行為者獲得先進的人工智能系統,(1)確保對領先的人工智能芯片和芯片制造設備進行強有力的出口控制,同時許可芯片的良性使用,如果需要的話,可以進行遠程節流;(2)利用國防生產法的授權,要求公司報告大型人工智能計算集群、訓練運行和訓練模型的開發或分發情況;(3) 在美國防部與云計算供應商簽訂的合同中,要求他們在訓練大型人工智能模型之前對所有客戶進行 "了解你的客戶 "篩選;(4) 在美國防部與人工智能開發商簽訂的合同中包括 "了解你的客戶 "篩選,以及強大的網絡安全要求,以防止大型人工智能模型被盜。
3.與情報界合作,大幅擴大收集和分析敵國參與人工智能的關鍵外國公共和私營部門行為者的信息,包括評估關鍵外國公共和私營實體;他們的基礎設施、投資和能力;以及他們的工具、材料和人才供應鏈。通過以下方式加強國防部開展此類活動的機構能力:(1)在美國和盟國政府機構、學術實驗室和工業公司之間建立新的伙伴關系和信息共享協議;(2)招募私營部門的人工智能專家以短期或兼職的方式為政府服務。
4.投資于人工智能安全的潛在計劃,包括(1)嵌入人工智能芯片的微電子控制,以防止開發沒有安全保障的大型人工智能模型,以及(2)在部署人工智能系統之前評估其安全性的通用方法。
在過去的幾年里,人工智能(AI)系統的能力急劇增加,同時帶來了新的風險和潛在利益。在軍事方面,這些被討論為新一代 "自主"武器系統的助推器以及未來 "超戰爭 "的相關概念。特別是在德國,這些想法在社會和政治中面臨著有爭議的討論。由于人工智能在世界范圍內越來越多地應用于一些敏感領域,如國防領域,因此在這個問題上的國際禁令或具有法律約束力的文書是不現實的。
在決定具體政策之前,必須對這項技術的風險和好處有一個共同的理解,包括重申基本的道德和原則。致命力量的應用必須由人指揮和控制,因為只有人可以負責任。德國聯邦國防軍意識到需要應對這些發展,以便能夠履行其憲法規定的使命,即在未來的所有情況下保衛國家,并對抗采用這種系統的對手,按照其發展計劃行事。因此,迫切需要制定概念和具有法律約束力的法規,以便在獲得利益的同時控制風險。
本立場文件解釋了弗勞恩霍夫VVS對當前技術狀況的看法,探討了利益和風險,并提出了一個可解釋和可控制的人工智能的框架概念。確定并討論了實施所提出的概念所需的部分研究課題,概述了通往可信賴的人工智能和未來負責任地使用這些系統的途徑。遵循參考架構的概念和規定的實施是基于人工智能的武器系統可接受性的關鍵推動因素,是接受的前提條件。