隨著人工智能（AI）領域的飛速發展，這些技術的變革潛力對國家和國際安全產生了深遠的影響。因此，全世界的政策制定者和監管者越來越認識到，迫切需要超越國界和個人利益的共同理解，尤其是在人工智能應用于安全和國防領域的情況下。

然而，國家和非國家行為者之間在人工智能、安全和防衛方面缺乏既定的全球合作框架，這構成了一項重大挑戰。這種共同治理的缺失導致技術進步不協調和各自為政，給國際和平與安全、穩定和繁榮帶來嚴重后果。然而，各國與非國家行為者合作的愿望日益強烈。各國認識到，這種參與至少可以為治理方法和解決方案提供信息，并確保其制定、采納和實施都有據可依。此外，它還可以確保行業、民間社會組織、研究、技術和科學界以及學術界的認識和支持。

聯合國秘書長在其《和平新議程》中強調，必須 “確保工業界、學術界、民間社會和其他部門的利益攸關方參與”，“通過多邊進程，圍繞人工智能軍事應用的設計、開發和使用制定規范、規則和原則”。因此，迫切需要建立、促進和支持一個獨立、中立和可信賴的平臺，該平臺將促成多方利益攸關方對話，并為軍事領域負責任地開發、獲取、部署、整合和使用人工智能技術孵化治理途徑和解決方案。

人工智能（AI）有可能在社會、經濟和政策的各個方面帶來變革，包括國防和安全。英國希望成為在民用和商業應用領域推廣人工智能以及負責任地發展國防人工智能的領頭羊。這就要求對與人工智能軍事應用相關的新出現的風險和機遇，以及英國如何與其他國家開展最佳合作以減輕或利用這些風險和機遇，有一個清晰而細致的認識。

2024 年 3 月，英國國防部（MOD）國防人工智能與自主單元（DAU）和外交、聯邦與發展辦公室（FCDO）聯合委托蘭德歐洲公司（RAND Europe）開展一項簡短的范圍界定研究。該研究的目的是初步探討人工智能在軍事上的應用可能在戰略層面產生風險和機遇的方式，因為迄今為止的大部分研究都集中在戰術層面或非軍事主題（如人工智能安全）上。后續工作將更詳細地探討這些問題，為英國在這些問題上的國際參與戰略提供信息。

本技術報告旨在為理解人工智能軍事應用所帶來的戰略風險和機遇設定一個基線。一份獨立的總結報告則側重于為決策者提供高層次的研究結果。

人工智能的出現正在給競爭和沖突帶來深刻變化

人工智能最好被理解為一套雙重用途的通用技術，以硬件為基礎，但以軟件為核心。與傳統軍事技術不同的是，它們高度民主化，擴散速度極快。創新是由商業用途的私營部門驅動的，而不是由政府或國防部門驅動的。對軍事應用和影響的集體認識正在提高，但起點較低。辯論往往優先考慮某些引人注目的問題，如致命自主武器系統（LAWS）或人工智能（AGI），而忽略了其他議題。它只關注戰術，而忽視戰略；只關注風險，而忽視機遇；或只關注軍事人工智能的直接后果，而忽視從長遠來看可能影響最大的二階和三階效應。

為了解決這個問題，國防部和國防和外交、聯邦與發展辦公室（FCDO）委托進行這項研究，以制定一個概念框架，規劃軍事人工智能帶來的戰略風險和機遇。

圖 0.1 框架：人工智能軍事應用的戰略風險與機遇

人工智能對國防和安全構成復雜、重大且未被充分認識的風險

本報告詳細探討了許多風險和機遇，其中最緊迫的包括

• 信息操縱，如人工智能深度偽造，這不僅會引發政治、經濟和社會問題，還會在危機時刻影響軍事決策。

• 賦予非國家行為者挑戰國家軍隊主導地位的不對稱能力，或者在最壞的情況下，賦予他們新的大規模毀滅性工具（如生物武器）。

• 人工智能對對手之間攻防平衡、戰爭升級動態以及核威懾穩定性的相互影響。這些問題在超級大國競爭加劇的情況下，在世界已經在應對其他不安全因素（如烏克蘭、以色列-伊朗\移民、氣候變化等）的情況下，尤其令人擔憂。

• 與未來出現的任何人工智能相關的潛在災難性安全和安保風險。

在英國國內，還需要應對對國內政治和經濟產生破壞性影響的重大問題。這些問題決定了國防的目的和手段。在國外，人工智能同樣會對以規則為基礎的國際秩序的健康產生深遠影響，這取決于各國、工業界和民間社會是否以及如何有效地共同管理其影響。人工智能專家非常擔心，人工智能會在多大程度上使世界許多地方的平衡傾向于壓制性和獨裁的治理模式，同時有可能顛覆民主政治、污染信息環境和破壞社會的戰斗意志。

同樣，在軍事人工智能方面的領導力也可能帶來巨大的利益。

其中許多潛在風險也可能成為戰略優勢的機遇。人工智能的利弊平衡取決于各國如何快速有效地調整武裝部隊等機構，以利用人工智能的優勢。同樣，這也取決于各國政府如何在國際上施加影響，使全球軍事人工智能行為朝著符合本國利益和價值觀的方向發展。這就意味著各國政府要愿意進行重大投資、組織改革和文化變革，以改變國防部門對新技術的態度。

需要采取緊急行動，降低新出現的風險，利用各種機遇

為了應對這些挑戰，各國必須緊急制定一項全面的行動計劃，考慮到人工智能技術進步、圍繞人工智能或通過人工智能進行的地緣政治競爭以及國際體系中圍繞人工智能不斷演變的規范之間復雜的相互作用。這應利用一套影響不同受眾的機制工具包，運用外交、信息、軍事和經濟（DIME）杠桿，匯集一套積極主動的行動方案：

• 努力促進負責任地采用人工智能，最大限度地發揮其對國防的益處。
• 努力限制非國家行為者、恐怖主義行為者或敵對/無賴國家采用軍事人工智能，同時也要讓他們付出代價，以影響他們的行動。
• 努力為軍事人工智能制定全球、小型和雙邊治理安排。

這也應借鑒其他領域的經驗教訓--如本報告所述--以及最近關于人工智能的高級別倡議的勢頭。突出的例子包括布萊切利峰會、軍事領域負責任的人工智能（REAIM）峰會和《軍事人工智能政治宣言》。

表0.2塑造全球國防人工智能發展的機制工具包

工具包類別	優先行動手冊
促進英國國防采用人工智能并從中獲益的機制	加快整個國防領域對人工智能的投資和采用，同時提高抵御惡意或意外濫用人工智能的能力
限制采用人工智能的機制和對手的利益	采取競選方式，限制、減緩或增加對手（國家或非國家）部署軍事人工智能的成本
形成新的軍事人工智能管理安排的機制	在提高對軍事人工智能風險的認識、發現問題和分享學習成果方面發揮領導作用;與主要盟國（如美國）和競爭對手制定透明度和建立信任措施，以降低升級風險;促進采用包容性和參與性方法，就人工智能軍事領域負責任的行為規范達成新的全球共識，為今后達成更強有力的具有約束力的協議做好準備;促進減少核和生物相關的人工智能緊急風險的小型多邊機制的平行發展;研究如何將人工智能納入核查和合規機制，反之亦然;隨著時間的推移，將當前零散的人工智能治理倡議整合為一個更加具體的架構

法國、俄羅斯、英國、美國、中國等核武器國家日益認識到將人工智能（AI）融入核武器指揮、控制和通信（NC3）系統的意義。盡管風險和隱患已得到廣泛承認，但在瞬息萬變的核領域獲得戰略優勢的誘惑，加上擔心落后于競爭對手的人工智能創新，可能會推動這些國家競相將人工智能技術整合到可靠性尚待驗證的 NC3 系統中。

人工智能并不是一個新名詞，核武器國家已經將屬于這一范疇的技術整合到 NC3 系統中。但是，與當前基于規則的模型相比，當今最先進的基于深度學習的人工智能模型的可能集成帶來了一系列明顯不同的、更大的挑戰。人們對功能強大的大型模型在影響核武器決策等關鍵功能方面的可靠性和適用性存在重大擔憂。

歐洲領導力網絡（ELN）開展的題為"研究人工智能對戰略穩定的影響：歐洲和五核國的觀點"。在美國國務院軍控、核查與合規局的支持下，該項目確定了核武器國家如何在其 NC3 系統中使用和尋求使用人工智能技術，并探討了這種整合的反響。

報告探討了當今先進人工智能系統的固有風險，揭示了該技術不同分支的特點和風險。報告為通用風險評估框架奠定了基礎，以分析考慮整合的模型，并為暫停將高風險人工智能系統整合到 NC3 奠定了規范和門檻基礎。

在一系列秘密對話中，來自核武器國家的專家比較了他們對在 NC3 系統中使用人工智能的風險和益處的評估，以期建立防止危機情況下核升級的防范措施。

該項目的核心發現包括

• 核武器國家將人工智能納入 NC3 系統的方式各不相同，反映了特定的核條令、軍事文化、軍民關系和道德考量。不過，它們都看到了人工智能在提高態勢感知、早期威脅探測和決策支持方面的價值。

• 所有核武器國家都強調人類監督核決策的重要性。它們都同意讓 “人在回路中 ”的概念，但不清楚它們的解釋在多大程度上有重疊。

• 整合尖端人工智能模型，如大型語言模型，由于其不透明性和不穩定性，對戰略和危機的穩定性構成了特殊風險。

• 核武器國家應同意迅速暫停整合高風險的人工智能模型。可在本報告介紹的風險分析系統基礎上對暫停措施進行詳細說明，以提供一個評分系統，對高風險人工智能系統進行分類。

• 對于不具有同樣高風險的人工智能模型，第一軌道層面的雙邊倡議應圍繞保留人類對核系統的控制展開。與此同時，第二軌道對話應深入探討技術問題，如確保人類監督的實用方法。

我們所處的時代，技術變革日新月異，影響著我們生活和社會的方方面面。這一點在信息技術（IT）領域尤為明顯，國防領域正努力跟上商業領域不斷取得的顯著發展。這與 30 年前的冷戰時期大相徑庭，當時軍方主導技術發展，對這種變革采取深思熟慮的方法，并小心翼翼地管理各種干擾。

與國防有關的商業領域最新出現的顛覆性技術包括先進計算、"大數據 "分析、人工智能（AI）、自動駕駛和機器人技術。在這方面，2018 年《美國國防戰略》反映了當代的許多戰略思維，它宣稱：開發[這些]新技術的動力是無停歇的，以較低的準入門檻擴展到更多行為體，并以不斷加快的速度....。語氣中充滿憂慮，因為這些'技術'是'能夠打贏未來戰爭'所必需的。

上一段中提到的五項 "技術 "并不具有嚴格的可比性。有些是技術，但有些是其他技術可能賦予未來作戰人員的能力。事實上，某些能力，如自主能力，已經投入使用，而且已經使用了幾十年。這種將技術與軍事能力混為一談的做法往往會阻礙當前的國防辯論，而不是使其更加尖銳。相反，"算法戰爭 "這一新術語可能更有助于描述和討論由技術推動的最新作戰概念。

算法是機器用來解決問題的一系列指令和規則。它們將輸入轉化為輸出，因此是現代信息技術和新型智能機器的重要概念和技術基石。算法也可能成為未來作戰的概念和技術基石。

該術語目前的使用源于美國國防部的 "Project Maven "項目。該項目旨在利用先進計算技術訓練的人工智能系統自主分析大數據。顯而易見的是，這項工作需要整合多種不同的技術和功能。Maven 的成功取決于所使用算法的性能。

無論使用何種術語，智能機器對既有的部隊結構和作戰的實際影響都是不確定的。算法戰是意味著可以把事情做得更好，還是相反，可以把事情做得更好？目前的作戰方式只是簡單的演變，還是會因為智能機器的加入而發生革命性的變化？智能機器是否會改變我們當前的部隊結構模式？本文將探討這些問題以及更多。

第 2 章深入探討了算法戰爭的技術基礎，重點關注具有學習和突發特性的機器；這些機器在本質上與我們目前的可編程機器有很大不同。第 3 章探討了影響算法戰爭實施的實際問題，以及人機界面對于贏得戰爭的明顯、或許是意想不到的重要性。第 4 章研究算法戰爭，討論算法戰爭如何增強我們當前的作戰概念，以及如何從根本上改變這些概念。算法戰可能會取代我們當前以網絡為中心的戰爭概念。第 5 章探討了大國的想法；都在利用算法戰爭的獨特應用進行社會管理。第 6 章探討了倫理和相關武裝沖突法問題。

重要的是，本文試圖切實關注新興和可能出現的智能機器技術在作戰中的應用。由于商業原因，虛構的書籍和電影仍然對機器人士兵與人類進行最后決戰的概念非常著迷。正如本文所言，這些論壇所涉及的技術仍然遙不可及。然而，雖然《終結者》中的半機械人和賽博迪恩公司的天網都是虛構的，但今天的智能手機和互聯網搜索引擎已經使用了智能機器技術，中國政府的天網智能監控系統已經投入使用，"Maven項目"向美國空軍提供人工智能分析系統。智能機器已經到來。算法戰爭現在已經非常現實，需要深入的專業考慮。

人工智能（AI）已經滲透到生活的許多領域，國防領域也不例外。從優化物流鏈到處理大量情報數據，人工智能在軍事領域都有應用。越來越多的人認為，人工智能將對未來戰爭產生重大影響，世界各地的部隊都在大力投資人工智能所帶來的能力。盡管取得了這些進步，但戰斗在很大程度上仍然是人類的活動。

通過使用人工智能支持的自主武器系統（AWS）將人工智能引入戰爭領域，可能會徹底改變國防技術，這也是當今最具爭議的人工智能用途之一。關于自主武器如何遵守出于人道主義目的而制定的武裝沖突規則和條例，一直存在著特別的爭論。

政府的目標是 "雄心勃勃、安全、負責任"。當然，我們原則上同意這一目標，但愿望與現實并不相符。因此，在本報告中提出建議，以確保政府以合乎道德和法律的方式在 AWS 中開發和使用人工智能，提供關鍵的戰略和戰場效益，同時實現公眾理解和認可。必須將 "雄心勃勃、安全負責 "轉化為實際執行。

政府必須尋求、建立并保持公眾對開發和使用人工智能的信心和民主認可，尤其是在 AWS 方面。從媒體對我們調查的報道中可以清楚地看出，人們對在預警系統中使用人工智能有著廣泛的興趣和關注。實現民主認可有幾個要素：

理解： 對自主武器的討論，以及在很大程度上對人工智能的討論，都受到追求議程和缺乏理解的困擾。我們的目標之一是為建設性辯論提供事實依據，政府的坦誠和透明將有助于這一進程。

議會的作用： 議會是開發和使用預警系統的決策中心。議會的監督能力取決于信息的可獲得性，取決于其預測問題而不是事后反應的能力，也取決于其追究部長責任的能力。政府必須在議會時間表中留出足夠的空間，并提供足夠的信息，以便議會（包括其專門委員會）有效地審查其人工智能政策。我們當然理解政策制定的內容可能高度敏感，但我們有既定的方法來處理此類信息。絕不能以保密為由逃避責任。

保持公眾信心： 對英國防部 "目前沒有開展監測或民意調查以了解公眾對使用自主武器系統的態度 "這一事實感到失望。政府必須確保在開發自動武器系統時適當征求公眾意見。它還必須確保道德規范處于其政策的中心位置，包括擴大英國防部人工智能道德咨詢委員會的作用。

實現以下目標對這一進程至關重要：

政府應以身作則，在國際上參與對 AWS 的監管。人工智能安全峰會是一個值得歡迎的舉措，但它并不包括國防。政府必須將人工智能納入 AWS，因為政府宣稱希望 "以包容的方式共同努力，確保以人為本、值得信賴和負責任的人工智能是安全的"，并 "通過現有的國際論壇和其他相關倡議支持所有人的利益"。

幾年來，國際社會一直在辯論如何監管人工智能系統。這場辯論的結果可能是一項具有法律約束力的條約，也可能是澄清國際人道主義法應用的非約束性措施--每種方法都有其擁護者。盡管在形式上存在分歧，但關鍵目標是加快努力，達成一項有效的國際文書。

其中的一個關鍵因素將是禁止在核指揮、控制和通信中使用人工智能。一方面，人工智能的進步有可能提高核指揮、控制和通信的效率。例如，機器學習可以提高預警系統的探測能力，使人類分析人員更容易交叉分析情報、監視和偵察數據，并改善核指揮、控制和通信的防護，使其免受網絡攻擊。

然而，在核指揮、控制和通信中使用人工智能也有可能刺激軍備競賽，或增加各國在危機中有意或無意地升級使用核武器的可能性。使用人工智能時，決策時間被壓縮，可能會導致緊張局勢加劇、溝通不暢和誤解。此外，人工智能工具可能會被黑客攻擊，其訓練數據可能會中毒，其輸出結果可能會被解釋為事實，而實際上它們只是統計上的相關性，所有這些都可能導致災難性的結果。

政府應采用可操作的 AWS 定義。令人驚訝的是，政府目前還沒有這樣的定義。英國防部表示，它對采用這樣一個定義持謹慎態度，因為 "此類術語已具有超出其字面解釋的含義"，并擔心 "在一個如此復雜和快速發展的領域，過于狹隘的定義可能很快過時，并可能無意中阻礙國際討論的進展"。然而，我們認為可以創建一個面向未來的定義。這樣做將有助于英國制定有意義的自主武器政策，并充分參與國際論壇的討論。

政府應確保在 AWS 生命周期的各個階段都有人類控制。人們對 AWS 的關注主要集中在由人工智能技術實現自主的系統上，由人工智能系統對從傳感器獲得的信息進行分析。但是，為了確保人類的道德代理權和法律合規性，對系統的部署進行人為控制是至關重要的。這必須以我們國家對國際人道法要求的絕對承諾為支撐。

政府應確保其采購程序是為人工智能世界而適當設計的。英國防部的采購工作缺乏問責制，過于官僚化。特別是，英國防部缺乏軟件和數據方面的能力，而這兩者都是人工智能發展的核心。這可能需要革命性的變革。如果需要，那就改變吧；但時間緊迫。

新興(和)顛覆性技術(EDTs)在創造經濟繁榮方面發揮著關鍵作用。但它們也帶來了一系列挑戰，帶來風險和機遇，而且往往是同時出現的。例如，社交媒體公司目前使用人工智能(AI)的方式可能會影響民主進程。但是，類似的技術——例如用于確定個別帖子內容的技術——可以用來幫助創造促進包容性公民話語和防止暴力煽動的網絡環境。就人工智能而言，這項技術可能的發展方向，至少在社交媒體領域，取決于立法者采取什么措施來監管這項技術、開發這項技術的公司，以及使用這項技術的環境。在軍事和經濟等其他領域，人工智能對社會的影響軌跡將在很大程度上取決于各國政府能夠在多大程度上達成限制人工智能可接受應用的協議。

因此，國際合作是必要的，但由于越來越多地認為獲取和控制EDT是一種零和博弈，這一事實嚴重阻礙了國際合作。在當今國家間競爭的時代，各國都有動機利用自己掌握的工具來擴大對這些技術的獲取和控制，以提高自己當前和未來的競爭力，并削弱對手的競爭力，在某種程度上也削弱盟友的競爭力。政策工具包括但不限于傳統的重商主義做法，如進出口管制、補貼國家冠軍企業、旨在迫使外國公司轉讓核心技術的法律、修訂國際技術標準的倡議，甚至包括全球基礎設施發展戰略。此前HCSS在2021年進行的一項研究將這種現象稱為“技術民族主義”。本報告以這項研究為基礎，更新并擴展了其建議。

在當前競爭激烈的全球環境中，荷蘭的政策制定者應該尋求減少荷蘭創新生態系統對技術民族主義做法的脆弱性，并提高其國際競爭能力，同時尋求國際合作來規范EDT的社會影響。近年來，荷蘭已經投入了各種形式的長期資金，以提高其創業生態系統的生產力。然而，新的立法還必須減輕荷蘭在基于外國直接投資(FDI)的技術民族主義實踐之外的脆弱性。

這項研究涵蓋了量子計算、人工智能、半導體和空間相關技術。這些EDT有可能(在某些情況下已經)對地緣政治、社會和戰爭產生廣泛影響。其中一些EDT會相互作用。例如，量子計算是一種為基于人工智能的過程提供超充電的途徑。這對各種變化都有影響，例如軍事感知的轉變。EDT還影響多個領域。人工智能應用程序可以用來收集和利用個人數據。此外，人工智能應用還可以在短期內用于自主武器系統的部署以及軍事規劃和后勤的自動化優化。在州際競爭日益激烈的背景下，EDT的相關性也帶來了其他問題。例如，半導體供應鏈引發了荷蘭和歐洲對外國依賴的嚴重擔憂。這些連鎖店也有相當大的環境足跡，加劇了全球不平等，并使工人在所需的關鍵原材料(CRM)的開采和精煉過程中暴露于有毒化合物中。最后，與空間有關的技術對經濟繁榮以及國際和國家安全正變得越來越重要。然而，它們在國際層面上監管不足，為太空競爭和軍事化打開了大門。這四種顛覆性技術及其影響在本研究的附件中有詳細闡述。

電子信息技術帶來的威脅和機遇可以從三個方面來列舉:(1)電子信息技術的獲取;(二)作戰能力和EDTs;(3)電子廢棄物的社會影響。

第一個方面主要是地緣政治和地緣經濟。不同的國家和地區對培育電子教育發展所需的物質和資源的獲取不平等。EDTs也是高度資源密集的。因此，電子信息技術相關行業的金融準入門檻非常高。不同國家和行為體在使用電子貿易工具方面的不平等勢必導致基于規則的國際秩序內部的摩擦。過度優化的“準時制”全球供應鏈和由此產生的瓶頸進一步加劇了這種摩擦。中美兩國之間的大國對抗和中美經貿摩擦將相互加劇。這些事態發展可能會推動經濟脫鉤進程，從而確保供應安全，但也消除了政治和軍事領域競爭的限制。與此同時，對于歐洲來說，在獲取和使用電子傳輸裝置方面保持戰略優勢至關重要。

第二個維度，作戰能力和電子傳輸技術，涉及電子傳輸技術對軍事領域的影響。EDT允許更多自主武器系統的擴散和部署。類似地，電子數據傳輸系統也可以為不太敏感的領域提供支持，例如通過實現更智能的軍事后勤。由此產生的難題是雙重的。一方面，修正主義行為體通過發展EDT來增強其作戰能力，對自由國家構成威脅。同樣，鑒于這些行為者的人權記錄不佳，這些行為者部署EDT授權的能力會引發道德困境。另一方面，如果自由民主國家能夠成功地利用EDT提供的作戰能力，這可能有助于基于規則的秩序的安全。

第三個方面，電子廢物的社會影響，論述電子廢物對社會的影響。例如，社交媒體、民主進程和司法程序都可能受到EDT的積極或消極影響，并在各個領域產生多米諾骨牌效應。例如，社交媒體上的回音室效應也對民主進程產生了影響。因此，EDT通過民粹主義、幻滅和激進主義對自由民主構成威脅。然而，EDT也可能被證明是社會增強復原力的寶貴工具。盡管事實證明，系統競爭對手在社會工程方面依賴edt。EDT確實可能使專制的治國模式成為可能，但也可能作為防止其影響的保護性檢查。這里的挑戰將在于自由民主國家在利用edt對維護社會凝聚力的可能貢獻方面，實行克制和節制。

下表總結了所研究的四個EDT在三個概述維度上帶來的威脅和機遇。

政策制定者和社會對電子交通相關問題的認識和理解有助于荷蘭應對電子交通帶來的挑戰。這將是帶頭和支持建立面向管理可接受使用的國家和國際管理框架的關鍵。以下要點簡要概述了這些政策目標的重要性，以及可以設想的可能解決方案。報告第4章提供了一套更為詳細的建議。

1.減輕荷蘭和歐盟市場的脆弱性。荷蘭和歐盟市場盡管出臺了幾項有希望的監管措施，但仍極易受到其他國家采取的技術民族主義措施的影響。荷蘭應該實施更強大、更全面的監管框架，以減輕間諜活動、網絡犯罪和各種形式的技術盜竊的負面影響。緩解措施將包括審查《投資、兼并和收購安全評估法》的各個方面。

2.加強荷蘭和歐盟市場的競爭力。適應日益加劇的州際競爭需要提高荷蘭創新生態系統對外國技術民族主義實踐的適應能力。實現具有國際競爭力的創新生態系統將為荷蘭提供更多的荷蘭和國際人才，將理論研究轉化為現實世界的用例，并為尖端研究和開發(R&D)創造必要的收入。一個必要的步驟將是深化與歐洲防務局(EDA)、永久結構性合作(PESCO)和歐洲防務基金(EDF)等機制的接觸。荷蘭和歐洲應該繼續加大對半導體產業的支持力度，并投資于敏感技術。加強先進民主國家在半導體生態系統中的技術優勢，可能需要與半導體行業積極對話，調動荷蘭、歐洲和機構資金，分配稅收優惠，快速跟蹤荷蘭和歐盟的晶圓廠建設，擴大半導體和關鍵原材料價值鏈的競爭前研究資金。透過選擇性放寬簽證，培育和吸引與經濟技術發展有關的學生和人才，以及推動科學、技術、工程和數學(STEM)領域的發展。與上面列出的措施類似的措施可以推廣到整個edt。

3.提高對EDT相關問題的認識和理解。圍繞技術民族主義和EDT的負面社會和軍事影響問題制定有效的監管框架取決于對這些技術如何工作及其實際用例的深刻理解。提高包括立法者在內的關鍵利益相關者對電子傳輸相關主題的認識和理解，將有助于制定更有效的立法。在政策一級，這些措施應包括實施獎勵措施，以吸引人力資本也進入公共部門。此外，擴大和補貼現有的國家資助的研究委員會，如分析和研究服務(DAO)或數字事務委員會(DiZa)，可以作為這里概述的努力的有效框架。

4.減少半導體供應鏈對東亞的過度依賴。不僅是荷蘭消費者面臨的一個關鍵挑戰，也是支撐荷蘭武裝部隊作戰能力的供應鏈面臨的一個關鍵挑戰，就是對臺積電(TSMC)的持續依賴。這使得荷蘭不僅容易受到地緣政治事件可能導致的供應鏈中斷的影響，而且容易受到其控制之外的供需動態的影響。這些挑戰可以通過提高國內和區域生產能力來緩解。最近的美國和歐洲芯片法案或荷蘭經濟事務和氣候部(EZK)在2022年初申請2.3億歐元的研發項目補貼計劃，可以作為相關的先例，并可能作為這一努力的框架。

5.支持建立國家和國際監管框架。與edt相關的很大一部分風險可以直接或間接地與edt開發過程中缺乏(或有意識地忽視)護欄聯系在一起。反過來，這可以歸因于作為國家間競爭副產品的無能的國際監管環境。建立國家和國際框架來管理EDT，它們在軍事和國內環境中使用之前應該滿足的標準，以及它們應該和不應該使用的用例，將大大有助于減輕這些風險。這種多邊或多邊協定應處理不同層次的管制，在每個層次上有不同的適用。因此，本報告分別從國內、區域、國際和商業四個層面對現有的四種EDT進行了擬議的規定。

6.制定荷蘭和歐洲監管社交媒體平臺的立法。人工智能和潛在的量子計算對民主進程的負面影響，在很大程度上可以歸因于部分國家在監管社交媒體平臺方面的缺陷。目前有很多政策可供選擇，以減少網上錯誤信息帶來的威脅，其中一些政策尚未在荷蘭實施。例子包括隱私保護、過濾深度造假，以及禁止主要向用戶展示令人不快的內容的算法。這些措施將減輕回聲室效應，從而抑制幻滅和激進化的影響。

7.促進歐洲冠軍企業和自愿聯盟的發展。由于國內在優化抗風險能力方面的努力不充分，電子交易相關風險帶來的地緣政治風險進一步加劇。這些影響又可以通過軍事和民用領域的一體化努力、補貼和鼓勵歐洲冠軍企業以及這些行動者聯盟密切監測與歐洲經委會相鄰的活動來減輕。在美國等盟友實施保護主義政策，并向歐洲經濟體施加壓力，要求其遵守其政策之際，這也將加強歐洲的地位。荷蘭可以通過深化與ASML等瓶頸公司以及恩智浦等該領域占主導地位但非瓶頸公司的合作，鞏固其在半導體供應鏈中獨特角色所帶來的戰略杠桿作用。反過來，在歐洲和大西洋兩岸的層面上，國家行為體和行業領軍者之間形成自愿聯盟，可能會加強對修正主義系統性競爭對手的戰略姿態。最后，民用和軍事領域在電子信息技術相關問題上的深化融合帶來了雙重好處，即通過電子信息技術提高軍事能力，以及通過電子信息技術提高社會經濟復原力。

這些建議應成為荷蘭和歐洲政策制定者的重要目標。地緣政治局勢緊張，并傳達了一個直截了當的信息:警鐘已經響起，現在是采取行動的時候了。

大約五年前，隨著生成性人工智能模型能夠自動進行魚叉式攻擊和漏洞發現的例子，人工智能支持的網絡攻擊話題浮出水面。從那時起，由人工智能支持的社會工程和冒充攻擊已經發生，造成了數百萬美元的經濟損失1。目前人工智能研究的快速進展，加上它所帶來的眾多新應用，使我們相信人工智能技術將很快被用來支持網絡攻擊中通常使用的更多步驟。這就是為什么人工智能支持的網絡攻擊的想法最近從學術界和工業界獲得了越來越多的關注，以及為什么我們開始看到更多的研究致力于研究如何利用人工智能來加強網絡攻擊的原因。

2019年底的一項研究表明，超過80%的決策者關注人工智能支持的網絡攻擊，并預測這些類型的攻擊可能在不久的將來成為主流2。目前的人工智能技術已經支持典型攻擊鏈的許多早期階段。高級社會工程和信息收集技術就是這樣的例子。由人工智能驅動的網絡攻擊已經是一個組織無法應對的威脅。隨著我們見證人工智能方法論的新進展，以及人工智能的專業知識變得更加廣泛，這種安全威脅只會增加。

本報告旨在通過總結當前關于該主題的知識，調查人工智能支持的網絡攻擊的安全威脅。人工智能技術目前只能夠加強少數攻擊者的戰術，它很可能只被高級威脅者，如民族國家的攻擊者所使用。在不久的將來，快速發展的人工智能將通過自動化、隱蔽性、社會工程或信息收集來增強和創造更大范圍的攻擊技術。因此，我們預測，在未來五年內，人工智能支持的攻擊將在不太熟練的攻擊者中變得更加普遍。隨著傳統的網絡攻擊將變得過時，人工智能技術、技能和工具將變得更容易獲得和負擔得起，激勵著攻擊者利用人工智能支持的網絡攻擊。

網絡安全行業將不得不適應，以應對人工智能網絡攻擊的出現。例如，生物識別認證方法可能會因為人工智能帶來的先進冒充技術而變得過時。新的預防和檢測機制也將需要開發，以應對人工智能的網絡攻擊。更多的自動化和人工智能技術也將需要在防御解決方案中使用，以配合人工智能支持的網絡攻擊的速度、規模和復雜程度。這可能會導致攻擊者不受限制地使用人工智能技術，而防御者則受到即將出臺的人工智能應用法規的限制，從而形成不對稱的斗爭。

一、簡介：顛覆性……或（只是）新興技術？

自《研究報告》首次發布以來，顛覆性技術，特別是區塊鏈、物聯網、人工智能和機器學習，包括在海關領域，已經有了很大的提升。然而，仍有機會得到更廣泛的實施，這就是為什么世界海關組織、世貿組織和其他利益攸關方正在研究這些技術和其他技術，以確定支持國際貿易和更廣泛的經濟的主要好處，并確定它們可以協助海關管理部門實現其目標，如確保貿易便利化、安全、安保和公平征稅。在過去的三年里，兩個組織采取了許多舉措，包括網絡研討會、在線會議、政策文件和能力建設工作，目的是支持其成員的這些努力。

二、為未來的智能海關全面使用技術

2021年會議強調了海關在促進全球貿易方面發揮的關鍵作用。為了使未來的全球供應鏈更加高效，智能海關必須最大限度地減少清關時間和成本，同時智能地管理進出境貨物和車輛。顛覆性技術需要結合使用。此外，在實施創新解決方案時，需要考慮許多因素，如網絡安全、數據協作、標識符等。

三、技術

1 區塊鏈技術

區塊鏈促進海關流程的潛力是多方面的，從清關到機構間合作、認證、身份管理、合規管理、稅收和清關后審計。通過這項技術，在不同的節點上，所有各方都能以最新、最可信、最安全和不可改變的方式即時獲得相同的賬本副本，從而避免了按照目前的做法，由每一方維持單獨的賬本。

考慮到區塊鏈的潛力，世界海關組織和世貿組織在過去幾年里一直在探索在海關領域使用這項技術。根據世界海關組織2021年年度綜合調查（ACS）收到的結果，區塊鏈和分布式賬本技術（DLT）對海關來說仍處于實驗階段，約有三分之一的海關當局回應調查，通過概念證明（22個成員）和試點項目（15個成員）測試，主要使用私人（許可）區塊鏈，而只有兩個海關當局報告全面部署這一技術。26個海關當局計劃在未來三年內采用這種技術，而另外45個海關當局則表示尚未有這方面的計劃。

2 物聯網

據Statista估計，到2025年，全球物聯網將由超過300億臺設備組成（每人超過4臺設備）。海關可以努力加強與某些采用物聯網應用的利益相關者（托運人、承運人、貨代等）的合作，以期迅速獲得與某些風險因素相對應的任何信息。因此，海關管理部門將能夠專注于使用分析工具，根據通過物聯網技術收集的信息，確定高風險和低風險的貨物和供應鏈。

現在，一切與互聯網相連或與互聯網互動的事物都可以被地理定位，這是一個重要的新參數，也可能為海關提供新的機會。上述調查的一半受訪者表示，他們在海關業務流程中使用了物聯網，9%的人計劃部署物聯網。然而，多達40%的人暫時沒有使用該技術的計劃。在72個部署物聯網的受訪者中，大多數表示這與X射線或計算機斷層掃描（CT）有關，還有相當多的人使用二維碼和條形碼閱讀器、自動車牌閱讀器和照相機，以及電子印章（電子封條）。

3 大數據、數據分析、人工智能和機器學習

在海關和邊境管理中使用大數據、數據分析、人工智能（AI）和機器學習（ML）在人員跨境流動和商業方面帶來了巨大的機會。由于人員和貨物的跨境流動產生了大量的數據，這組技術提供了對這些巨大的、不斷增加的數據進行分析的能力。這些技術可以用來攝取這些數據，并比人類更準確地檢測和預測模式。視覺搜索和面部識別技術，以及已經在其他部門使用的行為和預測分析技術，也可以在海關和邊境管理中進一步調整使用。

根據世界海關組織的ACS，幾乎45%的海關當局使用數據分析，或人工智能/ML，或兩者都使用。有許多案例研究集中在風險管理和目標定位，改善關稅分類和稅收，打擊包括低估在內的欺詐行為，對授權經濟運營商（AEO）進行預先分析，等等。

4 生物識別

世界各地的政府和組織正在選擇生物識別技術來打擊身份欺詐和安全漏洞，保護機密數據，降低成本和改善整體用戶體驗。生物識別技術是信息技術領域中一個快速增長的領域，預計指紋識別仍將是生物識別技術中最主要的形式。海關管理部門在展示機構間協調的有用方法方面具有獨特的地位，而生物識別技術需要這種協調。海關管理部門也有很長的協調和機構間工作的歷史，因為他們為伙伴政府機構執行法律和法規。他們經常與移民機構在同一地點辦公，可以努力促進這些工作的采用和促進。

海關機構、其他政府伙伴和私人行為者應密切監測這一領域，以確定更多的用途，可能用于以下目的：核實身份和控制海關操作員的準入；識別供應鏈中的不同行為者，如海關經紀人、貨運代理、物流操作員和其他人員；等等。

5 無人機

無人機已經是國際貿易供應鏈的一個組成部分，推動監管機構對該技術更加適應，從而制定一個法律框架，確定它們的運作條件。研究表明，無人機在貿易環境中的整合可以支持經濟增長。然而，成功和安全地整合它們需要市場上的所有參與者做好準備并參與到這一過程中來，以確保供應鏈能夠充分實現其利益。在貿易環境中，貨物的實際交付模式正在不斷地被重新定義。

一些海關管理部門已經在使用無人機進行監視和監測。一些人正越來越多地使用無人機來監測港口地區和沿海地區。這涉及到監控不僅是為了打擊毒品走私，也是為了提供空中援助。一架帶有高清攝像頭的遙控無人機已經被用于水下監控，可以深入到50米深處，對一艘船進行詳細掃描。

海關需要監測、分析和理解無人機使用方面的新發展，以及相關的監管發展，并提出適當的政策回應，同時在必要時對海關程序和要求進行潛在的調整。

6 虛擬現實、增強現實和混合現實

在海關方面，增強現實和混合現實可用于在物理世界中投射視覺援助，例如在進行物理檢查時。另一個潛在用途是大數據集的可視化。當使用混合現實技術時，數據可以作為數字藝術品投射到物理世界中，可以像真實物體一樣進行操作。

政府和世界海關組織已經成功地將虛擬現實解決方案用于海關培訓目的，以提高檢查員識別違禁物品的效率。虛擬培訓方案為檢查員提供了在低風險的虛擬環境中磨練他們的技能和對其職責和責任的了解，同時遵循一個進展系統。

7 3D打印

根據一些報告，2018年全球約有140萬臺3D打印機發貨，估計2027年將有800萬臺發貨。有預測說，3D打印有可能在未來對海關的工作產生重大影響。

一些人認為，海關應參與監測虛擬供應鏈，有人提出如何實現這一目標的問題，包括現有的法律文書是否足以涵蓋這種責任。總的來說，海關與稅務機關和其他相關機構的合作（可能作為協調邊界管理的一個新層面）被認為在這一領域很重要。

世界海關組織強調了3D打印對原產地、估價、知識產權和安全，特別是對增值稅的影響。甚至有人認為，未來可能需要重新定義 "貨物 "一詞。正如2021年經合組織貿易政策報告所強調的，在評估3D打印機的整體影響方面仍然存在挑戰。作為回應，增材制造（3D打印機）的新標題84.85已作為世界海關組織協調制度（HS 2022）2022年版的一部分創建，并于2022年1月1日在國際上生效，這將使各國更好地監測3D打印機及其對貿易的影響。

四、技術背后的戰略

有必要利用最新的技術，因為旅客和貿易的增長，包括電子商務，已經大大超過了典型的公共服務的演變，挑戰我們的傳統業務、計劃政策和立法。區塊鏈、生物識別技術和人工智能等技術不僅僅是業務的推動者，它們為我們的客戶設定了期望，并改變了我們的工作方式。然而，必須將技術變革的重點放在對一個組織的任務至關重要的方面，否則就會有過度投入的風險。

必須根據所需的服務和本組織的需求來評估實施新興技術的選項。大型的、多年的IT啟用項目的高失敗率，導致各組織不再進行大型的IT系統開發，而是選擇那些在未來可以輕松遷移到新硬件的技術。所使用的新方法的關鍵是快速失敗，快速恢復的原則。

五、建議

世界海關組織和世界貿易組織廣泛探討了顛覆性技術的主題，分享經驗并討論了不同的項目和吸取的教訓。已經為政策制定者考慮了一些可能的建議。其中包括關于海關和私營部門如何合作，以最佳方式利用顛覆性技術促進和保障貿易的建議。

六、結論

人們普遍認識到需要緊跟這一領域的發展，并不斷尋求了解最新技術能夠為海關和邊境管理帶來的挑戰和機遇。海關管理部門和其他利益相關者分享的許多試點項目和概念驗證（PoCs）的信息顯示了對擴大使用這些技術的興趣，以及對這些技術將為海關實現其目標和支持跨境貿易帶來的好處的信心。本研究報告將繼續以最新的見解和試點信息進行更新。

自主系統將塑造戰爭的未來。因此，土耳其的國防人工智能（AI）發展主要側重于提高自主系統、傳感器和決策支持系統的能力。提高自主系統的情報收集和作戰能力，以及實現蜂群作戰，是發展國防人工智能的優先事項。雖然土耳其加強了自主系統的能力，但在可預見的未來，人類仍將是決策的關鍵。

人類參與決策過程提出了一個重要問題：如何有效確保人機互動？目前，自主系統的快速發展和部署使人機互動的問題更加惡化。正如土耳其國防工業代表所爭論的那樣，讓機器相互交談比較容易，但將人類加入其中卻非常困難，因為現有的結構并不適合有效的人機互動。此外，人們認為，人工智能對決策系統的增強將有助于人類做出更快的決定，并緩解人機互動。

土耳其發展人工智能的意圖和計劃可以從官方戰略文件以及研發焦點小組報告中找到。突出的文件包括以下內容：

• 第11個發展計劃，其中規定了土耳其的經濟發展目標和關鍵技術投資。

• 《2021-2025年國家人工智能戰略》，它為土耳其的人工智能發展制定了框架。

• 焦點技術網絡（Odak Teknoloji A??，OTA?）報告，為特定的國防技術制定了技術路線圖。這些文件提供了關于土耳其如何對待人工智能、國防人工智能和相關技術的見解。

土耳其特別關注人工智能相關技術，如機器學習、計算機視覺和自然語言處理，其應用重點是自主車輛和機器人技術。自2011年以來，自主系統，主要是無人駕駛飛行器（UAV），仍然是土耳其人工智能發展的重點。此后，這已擴大到包括所有類型的無機組人員的車輛。同時，用人工智能來增強這些車輛的能力也越來越受到重視。人工智能和相關技術的交織發展構成了土耳其人工智能生態系統的核心。

土耳其的人工智能生態系統剛剛起步，但正在成長。截至2022年10月，有254家人工智能初創企業被列入土耳其人工智能倡議（TRAI）數據庫。土耳其旨在通過各種生態系統倡議在其國防和民用產業、學術機構和政府之間創造協同效應。由于許多組織都參與其中，這些倡議導致了重復和冗余。冗余也來自于人工智能技術本身的性質。由于人工智能是一種通用技術，可以應用于不同的環境，各種公司都有用于民用和國防部門的產品；因此相同的公司參與了不同的生態系統倡議。此外，民用公司與國防公司合作，在國防人工智能研究中合作，并提供產品，這是司空見慣的。

土耳其鼓勵國際人工智能在民用領域的合作，但不鼓勵在國防領域的合作。然而，由于技能是可轉移的，國防人工智能間接地從這種合作中受益。

土耳其非常關注自主系統發展中的互操作性問題，特別是那些具有群集能力的系統。除了蜂群，北約盟國的互操作性也是一個重要問題。因此，土耳其認為北約標準在發展自主系統和基礎技術方面至關重要。

土耳其目前對人工智能采取了分布式的組織方式。每個政府機構都設立了自己的人工智能組織，職責重疊。目前，盡管國防工業局（Savunma Sanayi Ba?kanl???，SSB）還沒有建立專門的人工智能組織，但SSB的研發部管理一些人工智能項目，而SSB的無人駕駛和智能系統部管理平臺級項目。目前，根據現有信息，還不清楚這些組織結構如何實現國防創新或組織改革。

土耳其尋求增加其在人工智能方面的研發支出，旨在增加就業和發展生態系統。SSB將在未來授予更多基于人工智能的項目，并愿意購買更多的自主系統，鼓勵研發支出的上升趨勢。然而，盡管土耳其希望增加支出，但金融危機可能會阻礙目前的努力。

培訓和管理一支熟練的勞動力對于建立土耳其正在尋找的本土人工智能開發能力至關重要。這包括兩個部分。首先是培養能夠開發和生產國防人工智能的人力資源。因此，土耳其正在投資于新的大學課程、研究人員培訓、開源平臺和就業，同時支持技術競賽。第二是培訓將使用國防人工智能的軍事人員。國防人工智能也正在慢慢成為土耳其武裝部隊（Türk Silahl? Kuvvetleri，TSK）培訓活動的一部分。目前，關于土耳其打算如何培訓軍事人員使用國防人工智能的公開信息非常少。

美國已經進入了一個大國競爭的新時期。俄羅斯和中國的崛起在全球權力結構中形成了復雜的三足鼎立局面。最近人工智能方面的技術進步使這種多變的國際動態進一步復雜化。學者、政治家和高級軍官已經意識到，人工智能的融入是軍事事務中一場新革命的起源，有能力改變權力的戰略平衡。美國在中東被二十年的反叛亂所困擾，并受到僅延伸至2025年的長期人工智能戰略的阻礙，沒有準備好進入這個 "第六代 "軍事能力，以確保其戰略利益。這種人工智能化的部隊將由半自主和自主系統定義，包括致命的自主武器系統。第一個開發和使用這些武器的國家行為者將在這個新時代獲得對其競爭對手的戰略優勢。雖然美國目前在人工智能方面擁有優勢，但由于缺乏前瞻性思維和重點投資政策，這種優勢正在迅速消失。這是一份旨在解決這一差距的政策文件。20世紀90年代中期的中國軍事現代化模式為美國未來的政策提供了一條潛在的途徑。雖然兩國政府結構存在差異，但其中的幾個基本原則可以在美國的制度框架內適用。因此，美國可以通過制定健全的投資政策、集中的技術發展計劃和新的行動概念來確保人工智能的首要地位，以便在新能力出現時將其最大化。

針對美國的政策建議與評估

大國競爭必須相對于其他大國的能力進行評估。因此，沒有一種能力可以被評估為產生可持續的絕對優勢。然而，在潛在的對手獲得同樣的能力之前，開發人工智能技術和應用為21世紀沖突設計的CONOPS的能力將在整個政治/軍事領域產生一個暫時的戰略優勢。美國目前的公共政策和戰略并沒有延伸到25年后。隨著中國準備在2030年成為占主導地位的人工智能大國，美國為了確保長期戰略利益，不能接受人工智能競賽的現狀。由于人工智能領域的技術發展速度很快，人工智能RMA的狀態和抓住初始優勢的能力正在接近一個拐點。建議美國采取側重于美國在人工智能競賽中的首要地位的政策，特別是在致命性自主武器系統的研究和開發方面。美國在這一領域保持優勢的能力對于國家安全和參與21世紀人工智能輔助和/或人工智能環境的準備工作是至關重要的。

由于致命性自主武器系統是一項仍在開發中的未來技術，因此不可能確定致命性自主武器系統對戰略環境的完整影響。本研究承認，對于評估一個未來武器系統的影響沒有預測性的措施，該系統在實現其全部潛力之前還將經過幾代技術的演變。然而，評估投資政策、技術和CONOPS演變的影響以及它如何影響軍事準備、政治資本和戰略環境的能力是有據可查的。

本文的建議將以1990年至今的中國軍事投資戰略為藍本。在此期間，中國國防開支的增加創造了一個前所未有的能力和軍事力量的增長，為美國未來的人工智能政策提供了一個框架。由于全球力量是以相對而非絕對的方式衡量的，美國至少必須在多極環境中與不斷增長的大國保持平等。雖然從美國的角度來看，中國戰略的某些方面，特別是盜竊知識產權的因素是不切實際的，但那些關于教育和貨幣投資的內容可以被納入美國未來的人工智能政策中。這項研究建議：

1.設立一個負責人工智能政策的助理國防部長的新職位，直接負責人工智能的發展和整合到美國防部。

2.指示ASDAI為美國軍隊制定一個關于第六代能力的預期最終狀態，每十年更新一次。

3.建立30年、15年和5年的人工智能目標，每五年更新一次，讓各個機構，如DARPA、JAIC、國防創新部門（DIU）和相關組織負責特定的發展水平。這將使美國政策制定者有能力根據ASDAI評估和更新的多變的戰略環境，為每個機構提供適當的資金。

4.成立一個委員會，負責發展和保留研究生水平的科學、技術、工程和數學（STEM）人才。

5.建立一個戰略規劃組織，負責研究和整合新的人工智能技術，因為它們出現在15年和5年的基準點上，以便在收購過程中納入其中。

對這些政策的評估必須對照美國對手在人工智能領域的成就和進步。建立在美國在人工智能領域的首要地位上的政策應該集中在教育和經濟投資，新的人工智能技術的初步發展，以及新的CONOPS的發展，以便在新的人工智能能力可用時充分和有效地進行。本研究報告的其余部分重點關注中國國防現代化計劃對美國未來人工智能政策和建議的調整。