研究問題

RAS-AI，更具體地說，人機協作（HMT）對皇家海軍的未來勞動力有什么影響？

澳大利亞皇家海軍（RAN）正在對其部隊進行現代化改造，以更好地應對澳大利亞在印度-太平洋地區面臨的日益增長的挑戰。本報告概述了機器人、自主系統和人工智能（RAS-AI）對國防人員的各種影響，為皇家海軍正在進行的促進RAS-AI整合的工作提供參考。

作者對相關的公開來源的學術和灰色文獻進行了審查，重點是為RAN確定可能的教訓。分析集中在RAS-AI對國防勞動力和技能的總體影響上，特別關注人機協作（HMT）對國防勞動力的影響。

研究結果強調了有效采用HMT所需的根本性的不同和新穎的工作方式。將HMT納入勞動力隊伍需要對復雜的人員網絡進行靈活管理，并不斷調整現有結構和概念。

本報告是為支持2020年發布的RAN的RAS-AI戰略2040而進行的工作的延續。蘭德公司被要求提供政策分析和建議，以支持制定一個可操作的RAS-AI運動計劃，協助RAS-AI的實施工作。研究小組已經研究了三個具體領域，以支持制定一個可操作的計劃：軍事創新，海上RAS-AI的任務和技術評估，以及HMT。這項工作應該為皇家海軍、澳大利亞其他國防部門和國防部更廣泛地了解HMT對皇家海軍未來員工隊伍的影響。

研究成果

• 在RAN中實現HMT的正常化將需要對國防人員進行靈活的管理，并不斷調整現有的結構和概念。

• HMT需要在認知方面進行轉變，就像培訓和感知一樣。

• HMT的目標是優化互動，發揮人和機器的優勢。

• HMT包含了廣泛而復雜的問題，無法將其歸類為一個不可避免的原則、活動和資源的清單。

• 了解和考慮人機互動（HMI）的范圍是不可或缺的。

• 新技術的發展應該與實際問題/需求相一致。

• 人機交互所需的技能/屬性可能在傳統上并不被國防部所重視。

• 組織學習必須被接受，以提供這種挑戰性的能力。

• HMT不僅應該作為一種有效的軍事作戰能力，而且還應該作為一種同步的訓練能力來利用。

• HMT的成功需要在整個員工隊伍中得到顯著提升。

• HMT需要識別人類和機器的長處和短處，并利用優勢，使其大于各部分之和。

• HMT的重點應該是要解決的問題，適當的比例和HMI的模式，以及找到努力回報的最佳點。

• RAS-AI的性能必須使它們在使用它們的人中灌輸一種信任、安全和可靠的感覺。

• 從設計的那一刻起，就必須主動關注HMT范式的概念和道德的復雜性。

摘要

本報告是CNA提供關于俄羅斯民用和軍用人工智能（AI）領域的及時、準確和相關信息及分析的一部分，特別是俄羅斯如何將AI應用于其軍事能力。本報告基于俄語公開資料整理。

管理和法律的發展

1. 立法者在儲蓄銀行會議上討論先進技術的發展

1月21日，在儲蓄銀行企業大學舉行的數字轉型會議上，政府代表和行業專家討論了旨在促進先進技術進一步發展的潛在立法。國家杜馬主席維亞切斯拉夫-沃洛金說，立法者需要為發展數字技術創造條件，并表示俄羅斯需要成為這一領域的領導者。正如沃洛金所說，"如果你擁有技術，你就擁有了世界"。

然而，杜馬金融市場委員會主席阿納托利-阿克薩科夫說，俄羅斯在發展數字經濟的許多領域仍處于道路的起點，與領先國家相比有很大差距。他說，不可能迅速克服這種落后，因為這種進展需要通過相關法律，盡管他也說杜馬正在為此積極努力。阿克薩科夫表示，希望杜馬將在春季會議上接受一些旨在實現這一發展的新法律。據杜馬第一副主席亞歷山大-朱可夫稱，杜馬正在審議的法律包括與保護個人數據有關的法律。

會議特別討論了作為優先事項的人工智能發展，自民黨領導人弗拉基米爾-日羅諾夫斯基表示，最重要的是尋求與人類發展水平相當的智能。一些與會者，如共產黨根納季-久加諾夫，對這個話題表達了細微的看法。久加諾夫說，人工智能是一種幫助人類解決問題的工具，在發明人工智能產品時，創造者必須記住他們對人類的道德責任，因為他們將對如何使用它負責。阿克薩科夫還對忽視數字領域風險的后果提出警告，稱有必要規范人類和人工智能之間的道德關系。

2. 政府在實施數字化轉型失敗后進行大清理

2021年1月，俄羅斯政府宣布，它將解雇和替換62名負責數字化轉型的政府副職中的10名，因為他們未能執行委托給他們的任務。這些副手在一些相關領域的表現得到了很低的評價，包括準備部門數字轉型計劃和實施人工智能項目。

根據俄羅斯副總理的說法，到目前為止，只有18個聯邦機構在數字化轉型領域表現出高績效。它們包括緊急情況部、聯邦稅務局、工業和貿易部、農業部、俄羅斯聯邦通信信息技術和大眾傳媒監督局、聯邦知識產權服務和聯邦環境、技術和核監督服務。表現最差的機構包括自然資源部、聯邦檔案局、聯邦青年事務局和聯邦海運和河流運輸局。

對各部門和首席數字轉型官員的評估考慮了各種事項，包括政府命令的執行質量和速度以及預算義務的履行情況。

3. 關于數字沙盒的法律生效

關于俄羅斯聯邦數字創新領域實驗性法律制度的法律于1月28日生效，取消了許多關于測試新技術的限制性規定。目前正在討論首批8個實驗案例，在專家組的框架下，在潛在的沙盒參與者、專家團體以及監管機構和經濟發展部代表的參與下，進行方案草案的制定。

4. 俄羅斯聯邦通信信息技術和大眾傳媒監督局（Roskomnadzor）起草了對個人數據處理的同意要求

2021年1月，Roskomnadzor發布了一項命令草案，明確規定個人如何同意處理其個人數據。這些要求包括通過Roskomnadzor信息系統用俄語提供同意，說明數據處理的目的，并提供某些識別信息，如個人的全名和聯系信息，以及接受同意的運營商的信息。主體可以限制或禁止經營者以主體選擇的方式分發其個人數據，并且必須包括同意的有效期。

大數據協會對Roskomnadzor的草案并不完全滿意，并建議為數據主體增加更多細節。雖然一些專家對草案的部分內容表示擔憂，包括措辭和缺乏聯邦預算的額外資金，但其他專家贊揚了圍繞個人數據處理同意的更新規則的價值，認為這將使數據轉移的處理更加謹慎和自覺。

為了執行2020年12月30日通過的第519-FZ號聯邦法律 "關于'個人數據'聯邦法律的修正案 "的規定，Roskomnadzor制定了該草案。該聯邦法律賦予Roskomnadzor制定個人數據處理同意要求的權利。對法律草案的討論將持續到2月10日，法律將于3月1日生效。

5. 聯邦委員會領導層關注人工智能的影響

俄羅斯聯邦委員會發言人Valentina Matvienko表示，她希望參與新技術和人工智能的監管，因為她擔心人類可能成為 "活的機器人"。

馬特維延科指出，人們擔心人工智能機器人會在各種工作甚至個人生活中取代人類。在提到Sber負責人German Gref展示的視頻中的主角時，她說："會有一種或另一種職業嗎？或者人類化身將在工作場所取代他們？ ...... 當然，這很嚇人。因為，上帝保佑，你早上醒來時，出現的不是你的丈夫，而是一個茶壺"。她表示擔心，人工智能會消除情感和文化，將人類變成活生生的機器人。她過去曾對科幻電影和書籍中描述的未來機器人起義表示擔憂。馬特維延科的觀點在整個俄羅斯公眾中是很普遍的。

軍事和安全方面的發展

6. 俄羅斯國家技術集團（Rostec）開發第四代戰斗裝備

俄羅斯最大的軍事工業集團--羅斯特克國家公司（見第3-19期《俄羅斯的人工智能》關于羅斯特克的活動）已經開始研究為未來的士兵創造戰斗裝備。這項新的發展應該是為了取代第三代Sotnik裝備。

該項目將從卡拉什尼科夫控股公司、精密機械工程中央科學研究所和其他羅斯托克機構抽調專業知識和資源，研究世界各國軍隊使用的先進戰斗裝備，并建立創建新一代戰斗裝備所需的RDT&E范圍。據羅斯特克公司稱，最終目標將是形成一個名為 "2035年軍事裝備發展 "的跨部門綜合目標計劃，國防部已授權該企業對這一主題進行研究。

Rostec公司的公告指出了士兵戰斗裝備的第四代計劃。今天，羅斯特克公司正在開發第三代 "索特尼克 "裝備，其幾個要素已經在進行初步測試。據羅斯特克公司的工業主管Bekkhan Ozdoev稱，新一代裝備將包括新技術，如機器人設備和信息交流的綜合系統。早些時候，Rostec和國防部的聲明表明，Sotnik是目前整個俄羅斯軍隊使用的Ratnik戰斗系統的進一步發展，未來的設計將有機載AI和其他先進技術。截至2020年底，俄羅斯技術公司已經向在俄羅斯和敘利亞服役的士兵交付了超過30萬套第二代Ratnik戰斗裝備。

7. 帶有人工智能的俄羅斯太空機器人將在2023-2024年出現

據塔斯社國家媒體報道，安卓技術（AT）企業宣布，第一批能夠與宇航員智能互動的機器人將在2023-2024年出現。這家俄羅斯公司因開發2019年飛往國際空間站的FEDOR機器人而聞名。FEDOR也是與俄羅斯高級研究基金會合作開發的（請見《俄羅斯的人工智能》第5期）。

據AT公司稱，目前正在開發的關鍵技術元素將使機器人--名為 "Teledroid"--能夠與宇航員互動。該公司明確指出，某些人工智能元素將被用于Teledroid的創造，以便在外太空工作。該公司明確指出，這種新的機器人將主要在遙控模式下工作；其完全自主操作是次要功能，因為其工作應在人類監督下完成。

2020年10月，AT公司宣布，第一個用于外太空工作的機器人原型將在2021年下半年開始測試。在這些測試之后，該公司將開始開發機器人的外觀、功能，以及在國際空間站工作的具體協議。

8. 新科學家加入ERA科技城

2021年1月，國防部的ERA科技城舉辦了年輕軍事科學家的宣誓儀式。這批新成員由來自俄羅斯30多個地區的150名大學畢業生組成。據國防部科學研究活動總局局長安德烈-岡察洛夫少將稱，為了被ERA的高度競爭計劃所接受，畢業生必須具有一定的科學、技術和工程背景。這些新科學家將他們的技術研究與現役軍人結合起來。在宣誓就職之前，這批人參加了聯合武器訓練課程，以熟悉軍事條例和服務。在不久的將來，這些年輕科學家將開始他們在一些學科的研究，如人工智能技術和超級計算機。

2018年，國防部啟動了ERA科技城（"科技城"），作為軍隊的研發和科技機構，年輕軍官可以與非軍事和民用高科技機構一起工作，為國家的武裝力量開發突破性技術。2019年，國防部指定ERA為軍方主要的人工智能RDT&E中心，并于2020年在那里開設了一個人工智能實驗室。

9. 俄羅斯無人駕駛航空時代的到來

2021年1月21日，俄羅斯首屈一指的軍事記者之一阿列克謝-拉姆討論了國防部無人機機隊的目前狀況。他指出，此時，無人駕駛飛機是俄羅斯所有軍事部門的一部分，地面部隊擁有最大的無人機隊，有1500多架無人機。

Orlan-10無人機構成了地面部隊無人機隊的核心，還有Granat、Eleron-3和Tachyon短程無人機。無人機連隊駐扎在摩托化步槍和坦克旅和師。拉姆指出，類似的無人機部隊正在新成立的獨立偵查旅中組建。每個聯合武器部隊、旅和師的每個無人機連都有兩個無人機排。第一個是短程排，配備Orlan-10和Tachyon-4無人機。第二個排也被稱為 "短程"，因為它有Granat-1、2、3和4、Zastava、Tachyon和Elon-3無人機，射程都小于100公里。這種結構被復制到整個空降部隊和海軍步兵中，第61（北方艦隊）和第40（太平洋艦隊，堪察加）海軍陸戰隊旅都有無人機連。

拉姆進一步指出，在炮兵旅、工兵旅、導彈旅、偵察旅、甚至鐵路旅中都有無人駕駛部隊。這些單位是單獨的排，配有短程無人機，就像前面提到的那些。工程師使用無人機偵察雷區和敵人的防御工事；鐵路工人使用無人機來評估鐵道床的狀況，并評估橋梁和其他基礎設施。在導彈旅中，無人機被用來為伊斯坎德爾系統選擇合適的位置并對其進行防護。拉姆特別指出，作為炮兵旅的一部分，無人機部隊的組織和人員結構很有意思。除了裝備Orlan-10的排，還包括最新的Orion-30無人機，以及裝備無人炮兵偵察系統的排。預計空降兵部隊新組建的炮兵旅中的無人駕駛部隊也會有類似的組織。Orlan-30無人機也被用來引導Karsnopol迫擊炮的高精度制導導彈，這種新型無人機的射程可達300公里。

航空航天部隊已經成立了幾個無人機中隊。Forpost無人機曾經是那里唯一服役的無人機，但最近這個機群得到了Orlan-10的補充。拉姆指出，俄羅斯海軍擁有最原始的無人機組織。只有海軍有獨立的無人機團，這些團配備了Forpost和無處不在的Orlan-10無人機。值得注意的是，Orlan-10也可以在海上作業--自2018年以來，海軍將Orlan-10機組設在輕型護衛艦和護衛艦上。

拉姆進一步指出，俄羅斯武裝部隊有新的無人機加入。新的Korsar無人機可以成為聯合武器旅和師的獨立無人駕駛航空連的一部分，以及獨立的偵察旅。每個無人駕駛連至少可以增加一個 "Korsar "排，進行視覺和電子偵察，并進行高精度打擊。在2018年5月的勝利日閱兵中，"Korsar "向公眾展示。拉姆寫道，與監測站和雷達站以及輕型炸彈和導彈一起，射程為200公里的Korsar將成為旅和師一級以及聯合武器部隊的基本要素--它將能夠在敵人的戰術后方行動，識別指揮所、炮兵陣地等。在局部沖突中，Korsar無人機可以追蹤無線電通訊，監測戰斗人員的行動，并打擊建筑物和車輛。

拉姆進一步指出，國防部計劃組織遠程重型無人機部隊；據推測，這種部隊將在各個偵察航空中隊組建。2020年底，俄羅斯軍方終于收到了第一批MALE Orion無人機--每個無人機綜合體包括一個指揮所和三架飛機。拉姆指出，獵戶座將執行與土耳其Bayraktar無人機類似的任務。除了在幾百公里的深度進行偵察外，這種無人機還將摧毀目標并為部隊提供直接支持。拉姆認為，值得注意的是，在這一點上，Altius遠程無人機不太可能組成無人駕駛航空隊--眾多的生產延遲，此外，無人機開發商之間的變化也嚴重減緩了其建造和測試計劃。與此同時，俄羅斯海軍顯然對Altius感興趣；這種帶有圣安德魯旗的無人機的照片已經在互聯網上公布。

Altius的主要優勢是其獨特的飛行時間和范圍。按照計劃，該無人機可以在空中停留48小時以上，飛行距離可達10,000公里。因此，這種無人機可以成為一種優秀的海軍偵察機，支持海軍水面艦艇群、海軍航空兵和潛艇部隊。Altius的運載能力也使其有可能攜帶制導武器--特別是Kh-35U反艦導彈。拉姆認為，每個海軍陸戰隊的無人駕駛航空團中至少會有一個 "Altius "中隊，而在航空航天部隊的每個無人駕駛航空中隊中可以有一個或兩個 "Altius "中隊。

拉姆進一步證實，S-70 Okhotnik是航空航天部隊武器庫中最高科技的無人駕駛飛行器。盡管這種無人機還沒有完成其完整的測試計劃，但人們已經推測它將對敵人后方具有戰略意義的目標進行監視或實施外科手術式打擊。利用其隱身設計，以及在機上攜帶最現代化的雷達和無線電設備的能力，奧霍特尼克將能夠克服對手的高科技防空系統、雷達站和軍用飛機。每個無人機連將包括一個或兩個S-70中隊。

同時，Okhotnik計劃的一個重要因素是它與蘇-57有人駕駛戰斗機的整合；S-70中隊可以包括在俄羅斯第五代飛機的三個航空團的組成中。這將簡化維護和操作，因為Okhotnik和蘇-57使用共同的設備和武器系統。拉姆指出，戰斗機飛行員將不斷地與這些無人機進行 "忠誠的僚機 "合作，在與其他軍種的作戰訓練中可以積極使用蘇-57-S-70部隊。早些時候，俄羅斯國防部暗示，Altius和Okhotnik無人機都將搭載人工智能，用于C4ISR（見《俄羅斯的人工智能》第10期和第14期）。

公司和市場的發展

10. 國家技術倡議IWG開會討論神經網絡路線圖

2021年1月22日，部門間工作小組（IWG）會議舉行，處理國家技術倡議的發展和實施。會議在科學和高等教育部長瓦利-法爾科夫的主持下舉行，俄羅斯聯邦總統數字和技術發展特別代表德米特里-佩斯科夫以及國家技術倡議市場的領導人參加了會議。這是會議結果的譯文。

會議期間，NTI神經網絡路線圖制定和實施工作組組長安德烈-伊瓦申科介紹了神經網絡路線圖的最新版本。因此，向俄羅斯政府經濟現代化和創新發展委員會提出建議，批準NTI的 "神經網 "行動計劃（路線圖）。

神經元網路線圖實施的第一階段是創建神經元網技術的數百家初創公司，并與之合作。第二階段涉及到幾十家中型公司的出現，這些公司反過來應該產生能夠在全球范圍內具有競爭力的國家領導人（第三階段）。新的NTI神經網絡路線圖版本反映了調整后的社區優先事項，考慮到2020年取得的成果，以及當前的社會和技術趨勢，如大流行病及其后果造成的變化。到2025年，有新的細分領域和更新的性能基準：

• 在 "Neuromedtekhnika "部分，現在有 "外康復"、"神經替代 "和 "新一代TCP "部分。

• 在 "神經通信和營銷 "部分增加了 "神經經濟學 "子板塊。

• 在 "NeuroAssistant "部分為 "AI in telecom "和 "AI in industry "領域增加了一個產品和服務子板塊。

• 路線圖中還增加了與俄羅斯市場容量和俄羅斯高科技產品出口有關的目標。更新后的路線圖文本將很快公布。

神經網絡工作組的組成也被更新，增加了兩名專家：

• 伊利亞-季米特洛夫--數字經濟發展的監察員；電子交易平臺協會（AETP）的執行董事；SELDON集團的總裁

• 阿列克謝-帕耶夫斯基--科學記者；Neuronovosti.ru網站的主編；指標門戶網站的科學編輯；醫學史博客的共同作者；科普和新聞文章的作者

部門間工作組會議總結了由國家技術倡議支持的幾個大型項目的成果。NeuroIntellect iPavlov項目的成果被認為是成功的。該項目的本質是開發深度機器學習算法，考慮到人腦的架構原理，同時以技術平臺的形式開發 "對話式 "機器智能，以實現與用戶的目標對話自動化。

iPavlov開發的技術質量不僅在俄羅斯層面得到認可，而且在國際層面也得到認可。對于2020年Alexa獎社交機器人大挑戰3，Alexa獎委員會從375份申請中選出了10個決賽選手。俄羅斯團隊入選，并獲得了25萬美元的研究經費，獲得了擴展主題聊天數據集的使用權，以及來自Alexa開發者的支持。2020年12月25日，DeepPavlov項目在2020年技術突破頒獎典禮上獲得了文憑。iPavlov項目的成果將被應用于Sberbank數字生態系統中。

NTI神經網絡路線圖的上一版本于2016年6月24日由俄羅斯聯邦總統領導的經濟現代化和創新發展委員會主席團批準。

在2016-2020年的執行期間，發生了以下情況：

• 創建了一個由數千名技術領導人組成的社區，以協調和參與在神經網絡技術和神經網絡產業聯盟領域工作的新成員。

• 為110多家小企業啟動了資助（FSI、Razvitie-NTI、Start-NTI計劃）。

• 啟動了12個關鍵平臺項目（第317號政府令）。

• 為130多個青年項目提供資金（UMNIK計劃，VIF）。

• 形成了一個兒童圈的伙伴網絡（Robbo、Bitronics、Robotrek）。

• 在Leader-id系統中登記的活動超過400次。

• 組織了七個商業代表團，分別前往德國、瑞士、英國和美國。

據報道，2016年制定的績效指標在2020年已經實現并超過了。

神經網絡產業聯盟是一個非營利性的伙伴關系，它將神經科學和神經技術領域的開發商、制造商和研究人員聚集在一起，目的是為神經網絡--下一代信息交換環境創造一個有競爭力的俄羅斯市場。

NTI是一個長期的綜合計劃，為確保俄羅斯公司在未來15-20年內在新的高科技市場上的領先地位創造條件。NTI是一個廣泛的聯盟，涉及到由志同道合的人組成的團體，如技術企業家、主要大學和研究中心的代表、俄羅斯的大型商業協會、發展機構、專家和專業團體以及有關行政當局。目前，NTI有12個工作組，它們有九個有前途的市場和三個跨市場領域的發展路線圖。

11. 1000萬美元的新基金將投資于人工智能項目

據報道，2021年1月19日，Begin Capital推出了一個新的1000萬美元的基金，投資于人工智能項目。Begin Capital的創始人Alexey Menn表示，資金將流向處于早期發展階段的初創企業，這些企業可以指望獲得10萬到25萬的投資。該基金專注于歐洲市場，投資將在種子和A輪階段進行。

門恩說，人工智能是一種催化劑，可以加速大多數行業的發展，他的公司認為，那些將有效使用人工智能解決方案的公司將比競爭對手有巨大的優勢，因為他們在一開始就有 "人工智能的DNA"。門恩還強調，該基金仍然非常活躍，并計劃在2021年完成五到七筆新交易，每筆交易的目標是100萬美元。

門恩還澄清說，他的基金不是在尋找投機性交易；相反，他和他的同事們有興趣幫助有才華的企業家建立他們不愿離開的全球公司。這個基金，以及越來越多的類似投資機制和工具，對于那些需要資金和支持來將他們的想法發展成實際產品的新晉人工智能企業家來說至關重要。這個私營部門的基金也是對越來越多的由政府支持的尋求促進人工智能創新生態系統的資金機制的一個重要平衡。

12. 俄羅斯將在2025年前測試飛行出租車

據Hover無人駕駛航空出租車項目總經理亞歷山大-阿塔馬諾夫稱，到2025年將在俄羅斯三個地區進行飛行無人駕駛出租車的試點測試。阿塔馬諾夫在2021年1月25日舉行的出租車無人機演示會上提供了這一最新信息。

無人駕駛飛行出租車是一種客運無人機，可以同時將兩個人舉到空中（總重量不超過300公斤），并能夠從一個沒有準備的地方，如停車場起飛。該車輛由一個數字系統控制，完全將乘客排除在控制之外。乘客在一個保護艙中，在發生事故時可以吸收撞擊。有一個用于緊急情況的救援降落傘，它可以將汽車輕輕地降到地面。無人機的尺寸與傳統汽車相似，它可以在空中停留半小時。

莫斯科市創業和創新發展部參與了允許無人駕駛出租車在城市周圍飛行的工作。據阿塔馬諾夫說，由于莫斯科市政府的組織和行政支持，這些測試成為可能。一輛空中出租車在斯科爾科沃測試成功，該公司計劃在工業區、立交橋、河流、湖泊和運河上空飛行。如果該項目成功完成，Hover公司計劃在今年年底啟動飛行汽車的大規模生產。與此同時，與其他國家地區的領導層的談判也在進行中。

Hover計劃向服務聚合商和其他類似于Uber的新市場參與者提供飛行汽車。阿塔馬諾夫指出，到2025-2030年，無人駕駛飛行出租車航班將比直升機航班便宜100倍，在高峰期比乘坐出租車便宜3倍。自2016年以來，Hover已經籌集了大約300萬美元。這家初創公司是國家技術倡議（NTI）Aeronet協會的成員，也是斯科爾科沃基金會的駐地。作為支持NTI項目的一部分，該公司從創新促進基金獲得1000萬盧布，2018年又獲得2000萬盧布。NTI仍然是快速增長的俄羅斯民用人工智能生態系統中的一個積極參與者。

教育和培訓的發展

13. 公司創建計算機視覺工具來遠程監考

據報道，Visionlabs和Examus公司聯合創建了一個名為 "Luna Exam "的產品，能夠遠程監控學生的考試。這兩家公司都是斯科爾科沃創新中心的居民，它們利用基于計算機視覺的算法開發了這個工具，該算法分析了來自網絡攝像頭的生物識別數據。除了最初驗證應試者的身份外，該軟件還能夠檢測他或她的頭部位置和凝視方向，學生在攝像頭視野中的持續存在，是否有對話，以及框架中是否有陌生人。該工具將由教育中心使用，但也可用于認證員工的培訓。

14. 教育部計劃將人工智能教育納入學校課程

據1月25日《漫步者》雜志文章稱，俄羅斯教育部宣布，俄羅斯學校內的計算機科學課程作業將很快包括有關人工智能的材料。根據這篇文章，培訓材料將在2021年5月前準備好，第一批試驗課程將在2021年9月進行。這些課程將包括數字平臺的支持，可能包括Sberbank的SberClass平臺或Yandex的 "課本"。

教育部的公告引用了信息技術市場咨詢公司Gartner的統計數據，這些數據強調了培養下一代俄羅斯IT和AI專家的必要性。根據該研究，由于經濟各部門積極引入人工智能，到2025年，創造的工作崗位數量將超過被淘汰的崗位數量200萬。到2022年，每五個從事 "非標準任務 "的員工就會使用人工智能。

15. 莫斯科科技園正在為青少年舉辦免費的人工智能課程

據國際文傳電訊社1月26日文章，為14-18歲的莫斯科學生提供的免費人工智能培訓項目將從2021年2月至5月進行。該培訓項目由Mosgormash兒童科技園和莫斯科通信與信息學技術大學（MTUCI）聯合舉辦。預計將有約30名學生參加該計劃。學生們將被分成兩組，分別專注于不同的專業。"醫學中的人工智能 "和 "確保企業安全的人工智能"。根據新聞稿，莫斯戈爾馬什兒童科技園成立于2016年5月，已經開設了各種相關領域的課程：地理信息學、虛擬和增強現實、機器人、神經技術、現代宇航學、信息技術、無人駕駛車輛和高科技。

16. 濱海地區在學校實施技術培訓課程

據報道，俄羅斯濱海州在過去一年半的時間里，實驗性地實施了教育科技開發公司 "Robbo "的教育工具，并取得了成功。Robbo是國家技術倡議的 "圈子運動 "成員。由于更新了 "俄羅斯聯邦教育機構'技術'學科領域的教學概念"，羅博的課程和設備被分配到濱海地區。濱海區是第一個收到這些學習工具的地區。

文章稱，每個 "機器人班 "都包括一套設備、軟件和教學材料，用于培訓學生的工程和技術革新。"Roboplatform"、"Robbo實驗室"、一套用于組裝互動機器人 "Otto "的材料、"Robbo 3D打印機Mini "等。這些課程已經在47所學校和37個技術團體中使用。

羅博的創始人和制作人帕維爾-弗羅洛夫被引述如下：

• 在俄羅斯建立創新經濟的過程中，同樣重要的是在成長中的一代中培養使用最現代技術的文化和開發尚未存在的IT產品的能力。要做到這一點，你需要教學童在實踐中制作和組裝技術設備。由于引入了Robbo課程，濱海地區是俄羅斯地區中最早使技術學科領域的內容完全符合高科技社會要求的地區之一。

國際合作

17. 俄羅斯進行首次無人機出口銷售，其無人機在維和任務中發揮作用

2021年1月22日，俄羅斯聯邦同意向緬甸提供Orlan-10E無人駕駛飛行器，以及Pantsir-S1防空系統。俄羅斯國防部長謝爾蓋-紹伊古和他的同行敏昂-赫連大將在紹伊古訪問該國期間簽署了該協議。

這是俄羅斯首次出口無人機，它終于進入了一個競爭非常激烈的市場，目前該市場被美國、以色列和中國等無人機出口領導者占據，土耳其和伊朗也在發揮著越來越積極的作用。奧蘭-10是俄羅斯軍用無人機機隊的主力，占國防部2000架無人機的近一半。這種特殊的無人機是一種戰術ISR無人機，射程可達120公里；它也被用作電子戰角色，作為攜帶手機塔干擾器的Leer-3系統。奧蘭-10戰機在敘利亞的表現相對較好，俄羅斯出售一種在戰斗中得到驗證的技術是合理的。早些時候，俄羅斯宣布愿意出口其新型獵戶座MALE ISR無人機。

自2001年以來，俄羅斯和緬甸已經為有效的雙邊軍事技術合作建立了法律和監管框架。俄羅斯向緬甸提供了作戰和訓練飛機、直升機和防空導彈系統，以及雷達站、裝甲車和火炮系統。有了這第一筆Orlan-10的銷售，俄羅斯無疑希望更多的國家能夠得到更多的訂單，這些國家正在尋找一種簡單的具有成熟戰斗特性的ISR無人機。到目前為止，沒有證據表明俄羅斯會因為緬甸民兵在2021年2月發動的政變而退出這筆交易。

俄羅斯國防部最近在納戈爾諾-卡拉巴赫（NK）開設了一個俄土聯合中心，以監測阿塞拜疆和亞美尼亞之間的停火執行情況。2020年9月至10月，阿塞拜疆和亞美尼亞為有爭議的納戈爾諾-卡拉巴赫地區打了起來。亞美尼亞在沖突中敗下陣來，因為阿塞拜疆軍隊為戰斗做了更好的準備，其中包括獲得和使用一系列土耳其和以色列的ISR和戰斗無人機。俄羅斯維和人員將使用Orlan-10和Forpost ISR無人機，這兩種無人機都被俄羅斯軍隊在敘利亞積極使用。Orlan-10的航程為120公里，Forpost MALE無人機的航程為250公里。此外，這兩架無人機可以對朝鮮領土進行全天候的監測。無人機的數據進入俄羅斯特遣隊，在那里進行處理，然后傳送到監測中心，那里有俄羅斯和土耳其軍人24小時值班。然后，值班人員決定在休戰被違反的情況下該怎么做。俄羅斯在過去幾年里一直在擴大無人機的使用范圍，其許多軍用級ISR無人機執行監測自然災害和發展緊急情況的任務。

18. 斯貝爾購買波士頓動力公司的機器人

據其Telegram頻道報道，Sber公司從美國波士頓動力公司購買了四條腿的狗狀機器人Spot。該機器人將用于研究自然環境中的機器人行為和機器人與人的互動。該機器人價格為74500美元，可供公眾使用。這次購買凸顯了Sber從一家儲蓄銀行（Sberbank）向一家專注于人工智能研究的IT公司的持續轉型。

19. 俄羅斯公司為可持續發展提出人工智能解決方案

五家俄羅斯創業公司（大部分位于斯科爾科沃）參與了1月27日（星期三）的AI for Good全球峰會，他們在會上介紹了他們基于AI的可持續解決方案。該峰會是一項計劃的一部分，旨在通過將人工智能創新者與問題所有者聯系起來，努力解決與可持續性有關的全球挑戰，從而加速實現聯合國可持續發展目標（SDGs）。該項目最初的俄羅斯賽道有280個參賽項目，有40個入圍者。俄羅斯賽道的五名獲勝者被邀請參加全球峰會。

被選中的公司包括EMBLE，這是一項利用神經網絡技術對馬的內部器官進行監測和功能診斷的服務；Intellogic的Botkin. AI，一個基于軟件的平臺，利用人工智能技術進行放射學研究分析；Oz Forensics，通過自動化在線入職和客戶驗證過程，包括防止深度偽造欺詐和通過假視頻進行欺騙攻擊的組件，幫助降低成本和生物測量欺詐。SOL，一個遠程手語翻譯平臺，使聾啞人能夠獲得市場上為健聽公民提供的一系列服務；以及BIOGEOHUB，該軟件可以通過使用照片和視頻分析自動識別生物群落和海底地貌特征來繪制海景圖和監測生態系統。

斯科爾科沃基金會主席Arkady Dvorkovich強調，俄羅斯人工智能正在努力實現可持續發展，同時保持最高的道德標準。他指出，斯科爾科沃正在 "盡一切努力確保斯科爾科沃項目參與者的發展有助于實現聯合國制定的全球目標"。他繼續說："同時，我們考慮到我們的工業伙伴對企業ESG（環境、社會、治理）標準的技術開發的要求。在 "全球挑戰 "中結合這兩個載體是可能的。人工智能促進可持續發展目標的計劃，從今年開始將成為真正的全球性計劃。"

聚焦：俄羅斯軍事工程師和勘探人員將獲得機器人技術

2021年1月，俄羅斯軍事工程師慶祝了彼得大帝創立其服務的320周年。為了慶祝這一服務的主要成就，俄羅斯國家媒體和軍事期刊刊登了一些涉及軍事工程師的最新技術成就和技術的出版物。這些分析的核心是獲得最新的排雷機器人系統，如Uran-6和Uran-14，這兩個系統都被俄羅斯軍隊在敘利亞使用。

為了紀念這個軍事節日，塔斯社發表了一篇關于國防部國際排雷行動中心的報告。自2014年該中心成立以來，其專家參加了國際人道主義排雷行動，包括在敘利亞、老撾和納戈爾諾-卡拉巴赫。據中心主任弗拉基米爾-西多連科上校稱，具有戰斗和人道主義排雷經驗的教官主持所有課程，這些設施考慮到了他們的俄羅斯軍事經驗。該中心的課程和任務不斷得到更新，以了解世界各地的恐怖組織和非國家行為者使用的改裝簡易爆炸裝置的新信息。迄今為止，超過115名來自亞美尼亞、白俄羅斯、哈薩克斯坦、吉爾吉斯斯坦、烏茲別克斯坦和塞爾維亞的軍事人員已經在該中心接受了培訓。此外，1200名敘利亞工兵已經從該中心畢業，以滿足國內的排雷需求。該中心采用開放式建筑，模擬各種環境和氣候條件下的不同工作條件。

據Sidorenko稱，Uran-6排雷UGV用于最大限度地減少人員損失的風險，并且已經在高強度的沖突中證明了其可靠性。其他機器人系統也在中心和現場被掌握，包括Scarab和Sphera小型ISR UGV，以及MICR多功能排雷工程綜合體。西多連科證實，除了Uran-6之外，俄羅斯工程部隊很快將收到新的重型機器人--2021年，俄羅斯開發人員將繼續研究重型IMRTK-RT排雷UGV和IMRTK-ShR突擊和清理UGV。他還指出，在2020年，俄羅斯工兵收到了15個Uran-6排雷機器人和7個Uran-14滅火機器人。2021年，國防部將向工程部門提供20臺Uran-6和17臺Uran-14。

為了紀念這個軍事節日，國防部的官方出版物《紅星報》還發表了對俄羅斯工程兵總司令尤里-斯塔維茨基的采訪。他指出，他的部隊的現代武器庫包括75個類別的600多項技術，包括用于偵察、隱蔽和模仿，以及克服水障礙、地雷爆炸障礙和其他障礙。軍事工程師們還在掌握動態模擬器和培訓專家的教育多媒體課程。斯塔維茨基將軍指出，在2020年，他的部隊獲得了近640種不同的車輛和系統，以及超過19.5萬套的工程設備和各種彈藥。這些車輛還包括西部和南部軍區初步購置的烏蘭6。

俄羅斯的Izvestia新聞門戶網站還發表了對工程部隊最新單位之一--機器人公司的一名服務人員的采訪。他描述了他的部隊對Uran-14的使用，以及最近對Uran-6 UGV的采購。在納戈爾諾-卡拉巴赫排雷部隊服務時，他有機會指揮Uran-6。他特別指出，這種UGV通過定位爆炸裝置，然后將其引爆或使其無法使用，從而挽救了人的生命。操作員位于離UGV大約一公里的地方，通過機載攝像頭控制它，而Uran-6則清理出一條1.5米寬的路徑。這種車輛能夠承受高達4公斤TNT的爆炸，以及打破高達1米的垂直墻和穿越高達1.5米寬的溝渠。

同樣在1月20日，《俄羅斯報》（RG）發表了其記者的一篇報道，該記者有機會在測試場操作烏蘭-6。為了激活UGV，操作員在操作臺上輸入六位數的密碼，該操作臺懸掛在操作員的脖子上。RG指出，該控制臺看起來類似于典型的視頻游戲機，無疑是為了方便越來越年輕的俄羅斯士兵操作，他們在一個個人電子和游戲設備無處不在的時代長大。如果密碼正確，UGV尾部的紅色燈塔開始閃爍，以表明車輛已經識別了操作者，并準備好聽從特定的命令。

車輛的遙控器上有兩個屏幕。較小的屏幕帶有傳感器，顯示有關車載系統狀態的信息：燃料供應、油溫等。大的那個顯示來自視頻攝像頭的圖像；Uran-6有四個攝像頭。其中一個，在車輛的前面，顯示前方的情況。如果帶掃雷功能的裝甲盾牌被抬起，則沒有來自前面攝像機的畫面。在這種情況下，操作員可以切換到兩個側面的攝像機，顯示軌道正前方的情況。最后，烏蘭的第四只 "眼睛 "提供了后方視野。

RG指出，操作臺的左側手柄控制機器的移動，而右側手柄控制車輛的排雷附件；Uran-6配有五個拖網，用于不同類型的地雷。一個大的紅色發動機 "停止 "按鈕從控制臺的底部伸出來。一個更大的紅色按鈕位于UGV本身的尾部區域--在它的幫助下，操作員可以在必要時迅速停止車輛。車上還有一個小的圓形艙門--如果操作員背包里的電池用完了，他可以把電纜插入艙門，連接到操作臺，繼續工作。Uran-6的無線電控制頻道是為了防止干擾和攔截，這也是在控制臺和電池組上有許多天線的原因。

Arsenal Otechetsva（"祖國的軍火庫"）雜志的主編Viktor Murakhovsky指出，UGV的遠程控制操作有其缺點。操作員由于遠離車輛，只能通過電視攝像機來評估情況。這些攝像機不能提供深度、體積和其他參數的感覺。然而，他指出，現代機器人系統使得有效清理地形成為可能，挽救了士兵的生命，并節約了重型設備資源。

Uran-6 UGV將證明是俄羅斯部隊的一個多功能遙控平臺。它不僅將被陸軍和工兵部隊使用，也將被俄羅斯海軍使用。國防部最近決定為海軍工程團配備Uran-6排雷UGV。Uran-6很可能能夠在沿海淺水區作業，探測地雷，放置浮標指示地雷，并銷毀爆炸物。俄羅斯軍事專家在評論這一發展時指出，在水下作業的破壞者和滲透部隊可以在沿海地區附近放置小尺寸的彈藥，而Uran-6可以在清除這種裝置時發揮作用。

前面提到的著名俄羅斯軍事記者阿列克謝-拉姆在其發表在Novo Voenmnoe Obozerbie（NVO，"新軍事評論"）的文章中討論了俄羅斯工程和排雷部隊的演變。拉姆指出，聯合部隊的工兵團已經變成了縮小的旅：國防部已經建立了一個混合營，而不是單獨的工兵營、炮兵營和突擊營，作為這些團的一部分。它包括一個排雷工兵連、一個突擊連和一個裝備有掃雷設備的連。他進一步指出，配備機器人系統的連隊是為了加強營級和旅級連隊。特別是，Uran-6是工兵營的一部分。拉姆還指出，在不久的將來，Uran-9戰斗型UGV也可能成為受雇于突擊和突破工事的部隊的一部分。拉姆指出，Uran-9還可以在工兵營的排雷行動中提供火力支持。

而且，不僅僅是軍事工兵在使用UGVs。莫斯科地區國民警衛隊（Rosgvardiya）總局的OMON "Rusich "單位的工程師正在使用MRK-15移動機器人綜合體進行工程偵察，檢查車輛，遠程探測以及檢查和消除爆炸物。Rosgvardia的工兵也配備了Araks移動綜合體，用于搜索和處理爆炸物。KRMM-06移動機器人綜合體是Araks的一部分，被設計用來攜帶重達1.5公斤的貨物，以便在200米以內進行清除。該綜合體有兩個視頻攝像頭，可以在任何天氣和季節下工作。

本報告由CNA的戰略、政策、計劃和方案部（SP3）撰寫。

戰略、政策、計劃和項目部提供基于區域專業知識的戰略和政治軍事分析，以支持海軍部、國防部長辦公室、統一作戰司令部、情報界和國內機構的作戰和政策層面的決策者。該部門利用社會科學研究方法、實地研究、區域專業知識、主要語言技能、1.5軌道伙伴關系以及政策和業務經驗來支持高級決策者。

CNA是一個非營利性的研究組織，通過提供深入的分析和以結果為導向的解決方案，幫助政府領導人在制定政策和管理業務時選擇最佳行動方案，從而為公眾利益服務。

2022年6月15日，英國國防部在倫敦科技周人工智能峰會上發布了《國防人工智能戰略》，旨在“雄心勃勃、安全和負責任地”使用人工智能的戰略和相關政策。本戰略支持創建新的國防人工智能中心（DAIC），以提供前沿技術樞紐，支撐英軍使用和創新相關技術。本戰略概述了以下內容：一是在國防中使用人工智能的新倫理原則；二是人工智能在國防部加強安全和現代化的地位和應用；三是考慮通過人工智能研究、開發和實驗，通過新概念和尖端技術徹底改變武裝技術能力，并有效、高效、可信地向戰場交付最新裝備。該戰略將將成為英國人工智能戰略的關鍵要素，并加強國防在政府層面通過科學和技術獲取戰略優勢的核心地位。

圖 英國國防部發布《國防人工智能戰略》

（本文根據原文編譯整理，僅供交流參考，觀點不代表本機構立場。）

英國國防部人工智能戰略的愿景是：以英國規模為標準，成為世界上最有效、最高效、最可信和最具影響的國防組織：

有效——提供戰場制勝能力和支持，以及英國與盟友關于人工智能生態系統合作的能力；

高效——通過創新使用技術交付能力，進行作戰并實現生產力效應；

可信——基于人工智能系統的安全性和可靠性受到公眾、盟友和人民的信任，根據英國核心價值觀合法合規地使用人工智能；

影響——積極參與合作和引領人工智能技術的全球發展和管理趨勢；

二**、背景和必要性******

英國國防部《綜合評估（2021）》強調指出，國家在人工智能領域的卓越表現是確保英國在2030年前成為“科技超級大國”的核心。英國國防部《國家人工智能戰略（2021年）》指出，人工智能在改寫整個行業的規則、推動經濟大幅增長和改變生活的所有領域方面具有巨大潛力。英國國防部《綜合作戰概念 （2020年） 》描述了無處不在的信息和快速的技術變革如何改變了戰爭的性質。在軍事作戰的各個領域，沖突正變得愈發復雜。新技術產生大量數據，解鎖新的威脅和漏洞，并通過如蜂群無人機、高速武器和先進網絡攻擊等下一代先進能力擴大潛在攻擊的規模。

人工智能技術以及其影響可能會極大地縮短決策時間，使人類理解負擔加重，而且這些在現代戰場中需要快速做出反應。正如《國防司令部文件（2021）》所指出的，“未來沖突的勝負可能取決于所采用人工智能解決方案的速度和效率”。因此信息作戰變得越來越重要。簡而言之，當代國防正在發生一場根本性的劇變，與人工智能相關的戰略競爭正在加劇，因此必須迅速、主動和全面應對。

本戰略闡述了英國將如何應對這一重大戰略挑戰，其應該引起英國國防部的重視，并參與部隊發展和國防轉型，英國國防部需要明確其機構與人工智能相關的要素并采取相應行動，以在后續執行和交付方面發揮關鍵作用。

三、發展途徑

**一是英國國防部需要轉變為“人工智能就緒”的組織。**具體措施是：1）推動文化、技能和政策變革，培訓領導人，提高人員技能，并加強國防人工智能和自主部門的組織能力；2）創建國防人工智能技能框架和新的人工智能職業發展和晉升路徑；3）將數據視為關鍵戰略資產進行管理和應用，建設新的數字主干網絡和國防人工智能中心。

**二是在速度和規模上采用和利用人工智能，以獲得防御優勢。**具體措施是：1）將人工智能視為能力戰略和部隊發展過程中戰略優勢的關鍵來源；2）短期路線采用成熟的數據科學、機器學習和先進的計算統計技術提升效果和生產力，長期路線進行尖端人工智能技術研發；3）采用多學科多技術將人類認知、創造力和責任與機器速度分析能力相結合以評估人工智能系統的脆弱性和威脅；4）與盟友和伙伴密切合作開發創新能力解決方案以應對共同的挑戰。

**三是推動和支持英國國防和安全人工智能生態系統。**具體措施是：1）通過英國工業和學術人工智能的雄厚基礎以及政府的支持建立信心并明確要求；2）視人工智能生態系統為戰略資產，消除行業壁壘，建立更具活力和一體化的伙伴關系；3）促進行業聯系建立新的國防和國家安全人工智能網絡，促進人才交流和共創，鼓勵業界投資國防相關的人工智能研發，并簡化國防數據和資產的獲取。4）促進中小企業，使監管方法現代化，支持業務增長并最大限度地利用國防人工智能相關知識產權促進相關技術商業化。

**四是塑造全球人工智能發展，以促進安全、穩定和民主價值觀。**具體措施是：1）按照英國的目標和價值觀塑造人工智能的發展，促進倫理方法，并影響符合民主價值觀的全球規范和標準；2）促進安全與穩定，確保英國的技術進步得到適當保護，同時探索建立信心和將軍事人工智能使用風險降至最低的機制；3）考慮可能出現的極端甚至事關生存的風險，并積極與盟友和合作伙伴接觸，制定未來的安全政策，尋求建立對話，以降低戰略錯誤、誤解和誤判的風險。

四、優先效果

通過采用人工智能技術實現本戰略目標，使英國武裝部隊實現現代化，并迅速從工業時代的聯合部隊過渡到敏捷信息時代的綜合部隊，國防部將受益于效率和生產率的提高，其期望的優先效果如下：

決策優勢：通過更充足、更分散的決策制定和基于威脅的機器快速響應，提高作戰節奏和靈活性。

效能：通過智能自主提高靈活性、效能和可用性。

解鎖新能力：通過開發新的作戰方式確保作戰優勢，增強軍事效果，保護人民免受傷害。

武裝部隊：減輕部隊負擔，并將人類決策集中在基于獨創性、背景思維和判斷力的高價值職能上。

五、戰略綜述總結****

**六、**結束語

人工智能必須成為未來必不可少的技術，其也促使著英國國防部改變對現代技術的看法，調整其技術方向和戰略需求，全面擁抱世界領先的人工智能解決方案和能力，推進其國防業務中觀念、文化、規劃和交付方面的持久變化，并將其作為國防戰略融入國防領域，以確保英國軍隊成為敏捷信息時代的綜合部隊。

編譯：船の心

END

世界軍事電子領域2021年度十大進展

軍事電子領域

毫無疑問，今天圍繞人工智能（AI）的最復雜的治理挑戰涉及國防和安全。CIGI正在促進戰略制定：人工智能對軍事防御和安全的影響項目將這一領域的主要專家與來自國防部的40多名公務員和加拿大武裝部隊的人員聚集在一起，討論人工智能對國家安全和軍事領域的力量倍增效應。

這一努力依賴于一系列的四次研討會，以產生關于數據驅動技術如何引發巨大的技術重組的前瞻性思考，這將對加拿大的國防規劃產生深遠影響。具體來說，這些研討會集中在數據治理和政策（道德、云計算、數據準備和互操作性）；決策（可信賴性、人機一體化、生物技術和問責制）；模擬工具（培訓、兵棋推演、人機合作、機器人、自主和可信的人工智能）；以及信息時代的加拿大情報（將人工智能用于情報）。CIGI還主辦了一個研究生研討會，以激勵整個加拿大在全球公共政策、計算機科學和安全等領域學習的新興學者。

報告總結

本文探討了在人工智能（AI）和機器學習背景下的軍事特定能力的發展。在加拿大國防政策的基礎上，本文概述了人工智能的軍事應用和管理下一代軍事行動所需的資源，包括多邊參與和技術治理。

維持先進軍事能力的前景現在與人工智能的武器化直接聯系在一起。作為一項通用技術，人工智能代表著一種力量的倍增器，有能力重塑戰爭規則。事實上，在核彈頭仍然是一種單一的技術應用的情況下，人工智能有能力支持許多不同類型的武器和系統。正如北大西洋公約組織（NATO）的指導意見所指出的，人工智能和其他 "智能 "技術現在對加拿大及其盟國的未來安全至關重要。

新技術在改變戰爭的性質方面有著悠久的歷史。從馬匹和盔甲的使用到航空母艦和戰斗機的引進，人工智能和機器人只是代表了軍事技術發展的最新階段。常規武器與人工智能和機器學習的融合，必將重塑決策的性質和軍事戰略轉型中的武力應用。

即使當代人工智能系統的能力被限制在機器學習算法的狹窄范圍內，這種限制可能不會持續太久。與神經科學、量子計算和生物技術相重疊的發現領域正在迅速發展，代表了 "智能機器 "進化的未知領域。在這些新的研究領域中的科學和技術發現給加拿大的國防帶來了巨大的風險，但同時也代表著巨大的機遇。

顯而易見的是，新興技術已經成為高度緊張的地緣政治競爭的基礎，它與一系列商業產業和技術平臺相重疊。中國、俄羅斯、美國和其他國家和非國家行為者正在積極追求人工智能和其他前沿技術的軍事應用。競爭的領域包括云技術、高超音速和新導彈技術、空間應用、量子和生物技術以及人類增強。

盡管技術創新一直塑造著國家間沖突的性質，但新興和顛覆性技術（EDT）的規模和速度是前所未有的。加拿大的國防政策反映了這種擔憂，它呼吁使加拿大武裝部隊（CAF）適應不斷變化的地緣政治環境。加拿大國防規劃已著手擴大和發展加拿大武裝部隊，在新的軍事平臺整合中納入下一代偵察機、遙控系統和天基設施。

基于對不斷變化的技術環境的廣泛評估，加拿大國防部（DND）認識到，這個新時代的特點是全球力量平衡的變化。這包括在快速發展的創新經濟中大國競爭性質的變化。就像石油和鋼鐵為工業時代設定條件一樣，人工智能和機器學習現在也可能為數字時代設定條件。

這種規模的破壞是由技術和制度變化的融合所驅動的，這些變化可以以新的和不可預測的方式觸發復雜的反饋回路。在這個新的環境中，人工智能技術將迫使世界各國軍隊投射力量的能力倍增。確定軍事人工智能發展中的護欄對于避免未來危機至關重要。應用減少風險的措施來識別和減輕軍事人工智能可能帶來的一系列風險將是關鍵。事實上，在這些能力完全嵌入世界上目前和未來的軍隊之前，治理人工智能可能會更容易。

從整體上看，這種轉變預示著從初級機器到數據驅動技術和精密電子的巨大轉變。這種物理、數字和生物技術的加速融合代表了一場巨大技術革命的早期階段。在全球范圍內管理這些新興和顛覆性的技術，對于減少未來沖突的風險至關重要。

1 引言

從人工智能和機器人到電池存儲、分布式賬本技術（DLT）和物聯網（IoT），新興和顛覆性技術（EDT）現在正在激起一個商業創新的新時代。這一巨大的技術變革景觀正在醞釀一場社會和經濟變革，對中央銀行的發展具有巨大影響。正如北約最近的一份報告所指出的（北約新興和顛覆性技術咨詢小組2020），這些技術包括：

→ 人工智能和機器學習。人工智能/機器學習的發展及其對創新的潛在影響。這包括神經形態計算、生成式對抗網絡，以及人工智能從已經收集或尚未收集的數據中揭示出意想不到的見解的能力。

→ 量子技術。正在進行的從量子過程研究中獲得的知識轉化為量子技術的應用，包括量子計算、量子傳感、量子密碼系統，以及在量子尺度上對材料的操縱和開發。

→ 數據安全。用于保障和損害通信、數據交易和數據存儲安全的算法和系統的設計，包括量子證明加密方法、區塊鏈和分布式賬本架構，以及更廣泛的網絡安全領域。

→ 計算功能的硬件。微型化、電力采集和能源儲存方面的進展，包括在全球范圍內提供數字化關鍵基礎設施所需的物理系統（物聯網）和機器人的廣泛使用及其對全球系統和流程的持續影響。

→ 生物和合成材料。從原子/分子層面的材料設計、合成和操作到中觀和宏觀尺度的創新，支持生物工程、化學工程、基因層面的操作、增材制造和AI介導的生成設計。

正如蒸汽機和印刷術激發了工業革命一樣，人工智能和機器人技術現在也在軍事技術的性質和全球力量平衡方面引發了巨大變革。人工智能的興起并非沒有歷史先例，但伴隨著人工智能的變化表明，需要對國防規劃進行更精確的調整，以適應一個數據驅動的時代。

在大國競爭和多極體系的背景下，人工智能已經成為競爭的一個特別焦點。中國、俄羅斯、美國和其他許多國家都在積極追求人工智能能力，并把重點放在國防和安全方面。例如，中國希望到2030年在人工智能方面領先世界，并期望通過利用大量的豐富數據，擴大其在人工智能產業化方面的領先優勢（Lucas和Feng，2017年）。

事實上，數據和數據驅動的技術現在占據了全球經濟的制高點。整個全球數據經濟的競爭已經與大國競爭密不可分（Mearsheimer 2021）。盡管美國和中國的經濟深深地相互依存，但中國在整個歐亞大陸不斷擴大的投資將很快使其成為世界貿易的中心。

技術優勢仍然是北約國家的關鍵支柱，但中國正在迅速趕超。即使美國在人工智能發現方面建立了強大的領先優勢，中國也越來越有可能在人工智能驅動的應用產業化方面占據主導地位。中國不僅有先進的商業能力，而且還有一個連貫的國家戰略。中國的技術部門正在達到專業知識、人才和資本的臨界質量，正在重新調整全球經濟的指揮高度（Lucas and Waters 2018）（見圖1）。

中國產業部署的大部分技術創新都是 "漸進式 "的，而不是 "顛覆式 "的，但現在這種情況正在改變。將新興市場聚集在其軌道上，中國前所未有的經濟擴張現在對世界經濟產生了引力（The Economist 2018）。標志性項目，價值數萬億美元的 "一帶一路 "倡議（世界銀行2018年）為圍繞電動汽車、電信、機器人、半導體、鐵路基礎設施、海洋工程以及最終的人工智能的廣泛戰略轉變提供了一個全球平臺（McBride和Chatzky 2019年）。

毫不奇怪，中國已經是國際專利申請的世界領導者（世界知識產權組織2020）。隨著自主機器（Etzioni和Etzioni 2017）、可再生能源基礎設施、量子通信（?iljak 2020）、增強型腦機接口（Putze等人2020）和天基武器（Etherington 2020）的出現，重新思考加拿大國家安全，特別是加拿大國防的性質的壓力正在增加。鑒于技術創新的步伐不斷加快，以及亞洲作為世界貿易中心的崛起（Huiyao 2019），來自國外的技術的影響可能是巨大的。

圖1：按購買力平價計算的國內生產總值預測（以萬億美元計）

2 AI與軍事防御

2.1 AI定義

人工智能的概念已被廣泛討論，但該術語的精確定義仍然是一個移動的目標。與其說人工智能是一項具體的技術或特定的創新，不如說它是一個材料的集合。事實上，即使人工智能技術已經成為廣泛的主流商業應用的基礎，包括網絡搜索、醫療診斷、算法交易、工廠自動化、共享汽車和自動駕駛汽車，人工智能仍然是一個理想的目標。

盡管人工智能領域的研究始于20世紀40年代，但隨著機器學習和計算機處理能力的改進，過去十年對人工智能興趣的爆炸性增長已經加速。人工智能的持續進步被比喻為在人腦中發現的多尺度學習和推理能力。當與大數據和云計算相結合時，預計人工智能將通過將 "智能 "人工智能和機器學習系統與第五代（5G）電信網絡（即物聯網）上的大量聯網設備連接起來，使數字技術 "認知化"。

作為人工智能的一個子集，機器學習代表了人工智能的最突出的應用（見圖2）。機器學習使用統計技術，使機器能夠在沒有明確指令的情況下 "學習"，推動許多應用和服務，改善一系列分析和物理任務的自動化。通過使用數據自動提高性能，這個過程被稱為 "訓練 "一個 "模型"。使用一種算法來提高特定任務的性能，機器學習系統分析大量的訓練數據集，以便做人類自然而然的事情：通過實例學習。

今天，機器學習的最常見應用是深度學習。作為更廣泛的機器學習家族的一部分，深度學習利用人工神經網絡層來復制人類智能。深度學習架構，如深度神經網絡、遞歸神經網絡和卷積神經網絡，支持一系列廣泛的研究領域，包括計算機視覺、語音識別、機器翻譯、自然語言處理和藥物設計。

圖2：人工智能的層級

2.2 加拿大國防部：將人工智能應用于國家安全

安全人工智能位于新興和顛覆性技術（EDT）星座的中心，包括機器人學、基因組學、電池存儲、區塊鏈、3D打印、量子計算和5G電信。在研究層面，美國仍然是人工智能的全球領導者。目前，國家科學基金會每年在人工智能研究方面的投資超過1億美元（國家科學基金會2018年）。國防高級研究計劃局（DARPA）最近宣布投資20億美元用于一項名為AI Next的計劃，其目標是推進上下文和適應性推理（DARPA 2018）。

與過去的原子武器或隱形飛機的技術發展不同，沒有國家會壟斷軍事人工智能。研究人員和領先的商業企業之間廣泛的全球合作意味著人工智能和機器學習的進步可能會在全球范圍內擴散。事實上，人工智能發展的大多數技術進步是由工業界而不是政府推動的。除了市場主導的技術公司，世界各地廣泛的網絡集群正在孵化新一代的商業創新（Li and Pauwels 2018）。因此，許多未來的軍事應用將可能是為商業產業開發的技術的改編。

幸運的是，加拿大一直是人工智能研究前沿的領導者，并繼續通過2017年推出的泛加拿大人工智能戰略下的幾個項目培育一個強大的人工智能生態系統。加拿大政府積極參與人工智能咨詢委員會和各種國際伙伴關系，包括2020年啟動的全球人工智能伙伴關系；人工智能國防伙伴關系，其第二次對話在2021年舉行；以及重疊人工智能驅動的安全和規劃的多邊協議（五眼，北約）。事實上，加拿大的國防政策，"強大、安全、參與"（SSE），反映了加拿大政府對增加年度國防開支的承諾，重點是技術。

目前的聯邦預算包括對人工智能發展的實質性承諾，承諾在10年內投入4.438億美元（Silcoff 2021）。在政府2021年的預算中，1.85億美元將支持人工智能研究的商業化；1.622億美元將用于在全國范圍內招聘頂尖的學術人才；4800萬美元將用于加拿大高級研究所；五年內4000萬美元將旨在加強埃德蒙頓、多倫多和蒙特利爾的國家人工智能研究所的研究人員的計算能力；五年內860萬美元將幫助推進人工智能相關標準的發展和采用（加拿大政府2021年，148）。

2.3 增強加拿大的情報能力

人工智能是一個影響廣泛的商業和軍事技術的模糊領域。像電力或化石燃料一樣，人工智能的廣泛應用意味著人工智能和其他通用技術有能力重新配置現代軍隊的步伐和組織（Bresnahan和Trajtenberg 1995）。從整體上看，人工智能代表了國家安全性質的結構性轉變。出于這個原因，SSE設想了一個未來的軍事態勢，更加注重開發、獲取和整合先進的變革性技術，包括網絡和自主系統。

即使加拿大在傳統聯盟（北美防空司令部、北約和五眼聯盟）中的持續作用仍然是國家安全的基礎，EDT正在從根本上改變沖突的性質。正如格雷格-菲夫（2021年）所觀察到的，人工智能作為戰爭工具的崛起與升級加拿大國家安全架構，特別是加拿大情報部門的日益增長的需求相重疊。技術變革和信息爆炸的復合周期，新的技能組合和新的數據分析戰略對國防規劃的演變變得至關重要。

在數字時代，戰爭正日益成為基于知識的戰爭。隨著沖突進入信息領域，軍事規劃開始重新聚焦于信息/虛假信息行動、網絡行動、情報行動和政治或經濟影響行動。事實上，這種混合戰爭作為一種戰爭工具由來已久，其目的是利用宣傳、破壞、欺騙和其他非動能軍事行動，從內部破壞對手（Bilal 2021）。

網絡仍然是潛在對手、國家代理人、犯罪組織和非國家行為者的一個關鍵目標。這包括對通信、情報和敏感信息的嵌入式監視和偵察。正如Amy Zegart（2021年）所解釋的那樣，技術正在通過極大地擴展數據和信息的獲取，使情報的性質民主化。事實上，今天驅動戰略情報的大部分信息實際上是開放源碼情報（OSINT）或在公共領域。

現代軍隊正變得嚴重依賴安全、及時和準確的數據。隨著數據的急劇膨脹，消化它變得不可能。這種數據爆炸正在推動對新的分析模式和新型網絡工具的需求。在數字時代，安全和情報人員需要新的平臺、新的工具和跨領域工作的新OSINT機構。在這方面，人工智能可能特別有幫助。

隨著數據的重要性增加，在廣闊的數字領域的對抗性競爭也在增加。人工智能和機器學習可以通過篩選巨大的數據庫來極大地提高加拿大的國家情報能力。人工智能不是銀彈。人工智能系統不能產生意義或提供因果分析。然而，人工智能和機器學習可以極大地增強人類在管理數據和數據驅動的分析方面的情報能力。

2.4 增強加拿大軍力

隨著決策者為數據驅動的世界調整其安全態勢，人工智能有望改變軍事沖突的既定模式。DND/CAF面臨的關鍵挑戰之一是數據驅動的網絡重塑指揮和控制系統的速度（Thatcher 2020）。集中式系統的優勢在于其協調人類活動的效率。在指揮系統中，人員和傳感器推動威脅檢測，將信息向決策堆棧上移，以便決策者可以做出適當的反應。數字技術深刻地加速了這個過程。

人工智能在軍事領域的應用可能被證明對傳統的指揮和控制系統具有挑戰性。例如，在美國，五角大樓的第一位首席軟件官最近辭職，以抗議技術轉型的緩慢步伐。在離開國防部職位后的一次采訪中，尼古拉-沙伊蘭告訴《金融時報》，美國未能對技術變革和其他威脅作出反應，使國家的未來面臨風險（Manson 2021）。

除了變化的速度緩慢，軍事指揮和控制系統的集中性意味著單點故障提供了脆弱的攻擊點。指揮機關和自動或人類控制者往往容易受到利用不良或欺騙性信息的對抗性技術的影響，甚至自上而下的決策在適應復雜的突發挑戰方面也會很緩慢。

神經形態計算、生成式對抗網絡（GANs）、人工智能決策支持、數據分析和情報分析方面的新創新在增強軍事行動的結構和進程方面可能會產生巨大影響。機器學習算法的快速發展已經在商業和軍事領域引發了一波投資熱潮。

超越對損耗和動能攻擊的傳統關注，轉向基于加速和適應的新方法，數據驅動的技術可能是促成國家安全性質徹底轉變的關鍵。人工智能不是一種單一的技術。相反，它是一類可以在一系列軍事和商業應用中整合的技術。這些技術不斷演變的基礎是數據。

數字技術現在由數據推動，并將繼續推動創造越來越多的數據驅動的技術--特別是人工智能。數據是訓練人工智能和先進機器學習算法的基礎。數據既是大規模運行的數字系統產生的 "操作廢氣"，也是機器對數據輸入作出反應的過程，它現在推動了機器的 "自主性"。

數據驅動的技術支撐著現代社會的核心社會和經濟功能，涵蓋了基礎設施、能源、醫療保健、金融、貿易、運輸和國防。隨著5G網絡的全球推廣，預計在高度健全的全球信息網絡中創建、收集、處理和存儲的數據將出現爆炸性增長。根據市場研究公司IDC的數據，目前全球數據正以每年61%的速度增長（Patrizio 2018）。預計到2025年，數據將達到175 zettabytes（一萬億吉字節），改變數字經濟的性質和規模（同上）。

出于這個原因，DND/CAF將數據提升到國家資產的水平是明智的。這對經濟增長和加拿大國防都至關重要。將數據作為國家資產加以保護和利用，將意味著重新思考目前構成當代數據架構的大型集中式數字基礎設施。可以肯定的是，網絡時代的數據安全應該是分散的和聯合的，以避免集中式系統的脆弱性。

3 武器化AI：致命的自治系統

關于技術破壞的傳統預測往往會犯一個錯誤，即假設這種規模的系統變化只是以一對一的方式取代舊技術。在現實中，這種規模的顛覆往往會不成比例地取代舊的系統，使其具有巨大的新的架構、界限和能力（Arbib和Seba 2020）。

正在進行的人工智能武器化正在助長一場全球軍備競賽，有望重塑加拿大國防戰略的輪廓。事實上，世界上許多國家在人員系統自動化、設備維護、監視系統以及無人機和機器人的部署方面已經遠遠領先（斯坦利和平與安全中心、聯合國裁軍事務廳和史汀生中心2019）。從美國到俄羅斯到以色列再到中國，軍事研究人員正在將人工智能嵌入網絡安全舉措和支持遠程手術、戰斗模擬和數據處理的機器人系統。

以先進的物流、半自動車隊、智能供應鏈管理和預測性維護系統的形式將人工智能應用于軍事行動代表了人工智能的近期應用（Perry 2021）。然而，能夠在陸地、海洋、空中、太空和網絡領域針對個人（無論是否需要人類干預）的自主武器的演變代表了軍事沖突的可能未來（見圖3）。事實上，近100個國家的軍隊目前擁有某種程度的武裝或非武裝無人機能力（Gettinger 2019）。

圖3:全球無人機激增

商業無人機技術在采礦、農業和能源領域的縱橫捭闔，正在助長無人機技術的廣泛擴散。正如最近亞美尼亞和阿塞拜疆之間的沖突所表明的那樣，一群相對便宜的自主和半自主無人機可以被利用來壓倒傳統的軍事系統，使一系列當代平臺變得過時（Shaikh和Rumbaugh 2020）。輕型、可重復使用的武裝無人機，如土耳其的Songar（Uyan?k 2021）可以配備一系列有效載荷，包括迫擊炮、手榴彈和輕機槍。最近對沙特阿拉伯的Abqaiq石油加工設施（Rapier 2019）和俄羅斯的Khmeimim空軍基地（Hambling 2018）的攻擊反映了軍事無人機在不同戰場環境中的應用越來越多。

致命自主武器系統（LAWS）被定義為可以在沒有人類授權的情況下選擇和攻擊目標的武器，它被設計為在獨立識別目標之前在指定的行動區域內長期徘徊。多個無人機或機器人可以并行運作，以克服對手的防御或摧毀一個特定目標。開發人員傾向于將致命性武器系統分為三大類，即觀察、定位、決定和行動（OODA）循環（見圖4）。這些類別包括。"循環中的人"、"循環中的人 "和 "循環外的人"。這種區分也被框定為 "半自主"、"受監督的自主 "和 "完全自主 "的技術系統。不幸的是，受監督的致命性自主武器系統和完全自主的致命性自主武器系統之間的區別，可能只是一個軟件補丁或一個監管程序。

圖4：OODA環

隨著致命性自主武器系統和其他數據驅動的技術變得更便宜和更廣泛，它們可能會給廣泛的國家和非國家行為者提供平臺和工具，以新的和破壞性的方式利用人工智能和機器學習。除了收緊OODA循環外，軍事人員將需要了解人工智能在加速OODA循環方面的影響，以確定在特定情況下哪種模式最合適。

3.1 網絡平臺

鑒于EDT的范圍和規模，認為我們可以簡單地保持從上個世紀繼承的系統和做法是錯誤的。正如英國查塔姆研究所2018年的一份報告所警告的那樣，美國、英國和其他核武器系統正變得越來越容易受到網絡攻擊（Unal and Lewis 2018）。這些擔憂是有根據的。人工智能和EDT的擴散一起，幾乎肯定會通過利用人工智能和自主系統的規模效應，為小國和非國家行為者帶來好處。

對于許多北約國家來說，網絡平臺已經成為多領域行動的關鍵--海、空、陸、網絡和空間。大規模的網絡使得在復雜環境中可視化和協調大量資源成為可能。在5G電信和云計算的基礎上，信息系統現在可以有效地收集、傳輸和處理大量的戰場數據，提供實時數據分析。

連接設備正在成為協調空襲、駕駛無人機、消化戰斗空間的實時視頻和管理高度復雜的供應鏈的關鍵。在英國，國防數據框架提供了一個結構，以解決軍事組織與數據驅動的企業需求相一致的挑戰（Ministry of Defence 2021）。從戰略到通信到后勤到情報，數字平臺現在是協調復雜軍事行動的基礎。數據現在是所有作戰領域的命脈。

在一個數字化的戰斗空間中，每個士兵、平臺和資源現在都是一個復雜軍事網絡中的節點。從20世紀90年代以網絡為中心的美國軍事行動開始，數字技術已經成為先進武器、戰術和戰略的基礎。從戰場態勢感知和自主無人機到精確制導彈藥和機器驅動的心理行動，網絡正在使戰爭進入網絡時代。

在集中式機構對工業時代至關重要的地方，平臺和網絡正在成為數字時代的關鍵。人工智能本質上是一種 "自下而上 "的技術，依靠不斷 "喂養 "大量的數據來支持機器學習作為 "學習引擎"。隨著數字生態系統的激增，網絡平臺和它們所依賴的數據管理系統成為管理不斷擴大的資源和人員的關鍵。

與金融部門一樣，DND應該尋求區塊鏈等DLT，以加速加拿大軍隊的數字化轉型。通過在分散的網絡中橫向分配數據，CAF區塊鏈可以幫助減少官僚化系統固有的限制和脆弱性。DLT提供了一個高度分散的驗證系統，可以確保所有的通信和數據傳輸免受對手的攻擊，同時消除集中式節點的潛在故障。

3.2 無人機群和機器人技術

人工智能在軍事規劃中的應用正在迅速推進，許多國家在部署無人機和機器人方面已經取得了很大進展。事實上，無人機技術的全球擴散正在順利進行中。

世界各地的軍隊正在加速開發或采購攻擊型無人機（見圖5）。俄羅斯的 "閃電"（BulgarianMilitary.com 2021）、西班牙的Rapaz8以及英國、9美國10和以色列11的各種無人機項目共同代表了軍事技術新時代的早期階段。與工業時代的軍事技術不同，無人機可以以低成本獲得，并需要相對較少的技術技能。

無人機群技術涉及微型/迷你無人機/無人駕駛飛行器或無人機群，利用基于共享信息的自主決策。事實上，當代軍用無人機已經可以被設計成在沒有人參與的情況下定位、識別和攻擊目標。利用蜂群技術，數以百計的非武裝無人機可以從現場收集信息，同時用各種武器（即火器、火炮和/或彈藥）引導數以千計的無人機。

正如簡短的視頻 "Slaugherbots "所展示的那樣，完全自主的武器將使瞄準和殺死獨特的個人變得非常容易和便宜。在面部識別和決策算法的基礎上，國家和非國家行為者都可以廣泛使用致命性武器。數以千計的相對便宜的無人機配備了爆炸性的彈頭，有可能壓倒防空系統，攻擊基礎設施、城市、軍事基地等等。

圖5：無人機對比

3.3 馬賽克戰爭

無人機群壓倒加拿大軍事設施的威脅，以及對關鍵基礎設施的網絡攻擊或在衛星傳感器檢測到威脅時自動發射的高超音速導彈，代表了一個令人不安但越來越可能的未來。從復雜性科學和對昆蟲的研究中產生的，使用無人機來支持 "集群情報 "代表了一個加速戰爭節奏的新工具集。

為了應對這種不斷變化的環境，DARPA提出了 "馬賽克戰爭"的概念。馬賽克戰爭的中心思想是，模塊化系統可以成為應對高度網絡化環境的廉價、靈活和高度可擴展的工具。就像馬賽克中的瓷片一樣，單個作戰平臺可以被設計成高度可配置的。編隊利用分散的代理在 "殺戮網 "上進行重新配置。殺戮網的目標是避免 "單體系統 "的結構僵化。

與傳統戰爭中需要的復雜棋局不同，馬賽克戰爭利用數字網絡，利用模塊的靈活性和增強的決策（時間壓縮）加快動態響應時間。像自然界中的復雜系統一樣，殺傷性網絡使用算法來消除單點故障，通過模塊化設計加速反應時間。

從主導地位（預測）轉向加速反應（適應），"馬賽克戰爭 "旨在支持混合軍事單位，利用 "決策棧 "上下的橫向網絡。人工智能、無人機、傳感器、數據和人員結合在一起，為地面上的作戰指揮官提供支持，使小型編隊能以更快的速度獲得情報、資源和后勤資產。

像 "馬賽克戰爭 "這樣的模塊化系統表明，未來的戰爭將越來越多地利用現在驅動戰爭游戲和模擬的計算、數據分析和算法。推動高度流動、游戲化和不可預測的環境，未來的人工智能系統可以將戰爭加速到一個隨著結果范圍的擴大而變得極其密集的計算速度和節奏。

DARPA最近的AlphaDogfight（2019-2020年）為這一新現實提供了一個窗口。使用復雜的F-16飛行模擬器讓計算機與有經驗的人類飛行員對決，試驗的目的是為DARPA的空戰進化計劃推進人工智能開發者。毫不奇怪，F-16人工智能代理通過積極和精確的機動性擊敗了人類飛行員，而人類飛行員根本無法與之相提并論，五局為零。

4 對抗性攻擊

人工智能的武器化也在激起對抗人工智能系統的新戰略和方法。正如網絡行動（無論是間諜活動還是攻擊）可以指示計算機網絡或機器以它們不打算的方式運行，對手也可以對人工智能系統使用同樣的策略。這個過程被稱為對抗性機器學習，旨在找出機器學習模型的弱點并加以利用。攻擊可能發生在開發或部署階段，包括通過提供欺騙性輸入（例如，"毒化"數據）或針對模型本身來誤導模型。

這些方法在國家安全環境中特別危險，因為在許多情況下，它們是微妙的，人類無法察覺。此外，具有挑戰性的是，對手不一定需要對目標模型的具體知識或直接訪問其訓練數據來影響它。隨著人工智能系統變得更加普遍，更多的人可以接觸到，對手的吸引力和攻擊機會將增加。

4.1 攻擊數據

攻擊者可能試圖修改訓練數據或測試數據。這是通過創造對抗性樣本來實現的，這些樣本被故意 "擾亂 "或改變并提供給模型，從而導致錯誤。例如，通過改變洗衣機圖像的分辨率，研究人員能夠欺騙一個模型，將機器分類為 "安全 "或 "擴音器"（Kurakin, Goodfellow and Bengio 2017）。對人的眼睛來說，對抗性圖像看起來幾乎是一樣的。

在國家安全方面，對手可能會試圖使用同樣的技術來暗示武器系統實際上是一個社區中心。如果這是在孤立的情況下發生的，那么這個問題很可能被識別和解決。如果對手的樣本被長期大規模使用，這可能成為一個重大的挑戰，并影響對情報收集系統的信任。

此外，一些對手可能并不精確--或有技能--并可能試圖迫使一個模型對整個類別而不是特定類別進行錯誤分類。由于我們在國家安全環境中越來越依賴計算機圖像，并不總是能夠實時或在有爭議的空間進行驗證，因此在這種攻擊中出現誤判的風險是很大的。

高后果的人工智能系統并不是對抗性攻擊的唯一目標。受對抗性樣本影響的人工智能系統可以包括生物識別，其中假的生物特征可以被利用來冒充合法用戶，語音識別中攻擊者添加低量級的噪音來混淆系統（Zelasko等人，2021）和計算機安全（包括在網絡數據包中混淆惡意軟件代碼）。

由于DND/CAF尋求通過部署人工智能系統來提高效率--如軍艦上的語音助手（McLeod 2019）--必須在部署前評估對抗性使用的風險并制定對策。

4.2 攻擊模型

除了改變輸入，另一種攻擊方法可用于逆向工程模型以獲取訓練數據（Heaven 2021）。由于機器學習模型對訓練數據的表現比新的輸入更好，對手可以識別目標模型預測的差異，并與包括個人身份信息在內的已知數據相匹配（Shokri等人，2017）。隨著機器學習即服務變得越來越多--而且在許多情況下，被用作開發更復雜的能力的基礎--DND將需要仔細審查國家安全系統的數據泄漏風險。這甚至適用于看似無害的系統，如語音助手。

人工智能系統的弱點的例子很多（Hadfield-Menell等人，2017）。這些例子包括吸塵器將收集到的灰塵彈回它剛打掃過的地方，以便它能收集更多的灰塵，或者數字游戲中的賽艇在原地循環以收集分數，而不是追求贏得比賽的主要目的。雖然這些例子沒有生命危險，但同樣的技術--被稱為獎勵黑客（當一個模型被指示使其目標函數最大化，但卻以非故意的方式進行）--可以被用于更嚴重的效果。

從旨在用固定的訓練數據解決 "單步決策問題 "的機器學習過渡到解決 "順序決策問題 "和更廣泛的數據集的深度機器學習，將使對抗性攻擊更難發現。這種威脅是如此之大，以至于美國情報高級研究項目活動正在資助一個項目，以檢測木馬人工智能對已完成系統的攻擊。令人擔憂的是，政府可能會在不知情的情況下操作一個產生 "正確 "行為的人工智能系統，直到出現 "觸發 "的情況。例如，在部署過程中，對手可能會攻擊一個系統，并在更晚的時候才導致災難性的故障發生。這些類型的攻擊可能會影響到圖像、文本、音頻和游戲的人工智能系統。

4.3 防御和反制措施

正如對抗性樣本可以用來愚弄人工智能系統一樣，它們可以被納入訓練過程中，以使它們對攻擊更加強大。通過對最重要的國家安全人工智能系統進行清潔和對抗性數據的訓練--要么給它們貼上這樣的標簽，要么指示一個模型將它們分離出來--更大的防御是可能的。但是，復雜的對手很可能會自行躲避這種防御方法，而使用額外的戰術進行深度防御將是必要的。

GANs有各種各樣的用例，從創建深度假說到癌癥預后（Kim, Oh and Ahn 2018）。它們也可用于防御對抗性攻擊（Short, Le Pay and Ghandi 2019），使用一個生成器來創建對抗性樣本，并使用一個判別器來確定它是真的還是假的。一個額外的好處是，使用GANs作為防御，實際上也可能通過規范數據和防止 "過度擬合 "來提高原始模型的性能（IBM云教育2021）。

對抗性攻擊和防御模型進行基準測試--如使用GANs--是一種全面的對策，可以對AI系統進行比較。這種方法為制定和滿足安全標準提供了一個量化的衡量標準，并允許評估人工智能系統的能力和限制。

作為這個測試和評估過程的一部分，博弈論可能有助于建立對手的行為模型，以確定可能的防御策略。由于人工智能系統無法在傳統的信息安全意義上進行 "修補"，因此在部署前應仔細分析針對國家安全人工智能系統的對抗性攻擊的風險，并定期進行審查。此外，訓練有素的模型--特別是那些關于機密數據和最敏感應用的模型--應該得到仔細保護。

5 關于人工智能的全球治理

數據驅動的戰爭的速度和范圍表明，我們正在進入一個新的時代，其中致命性武器系統的潛力--無論是否有人類參與--都可能極大地改變全球力量平衡。從殺手級無人機和人機合作到增強的軍事決策（殺手2020），人工智能技術將使世界各國軍隊投射力量的能力大大增加。正在進行的人工智能武器化也與空間武器化相重疊（《經濟學人》2019年），因為低地球軌道（LEO）日益成為軍事監視、遙感、通信、數據處理（Turner 2021）和彈道武器（Sevastopulo和Hille 2021）的操作環境。

人工智能與低地軌道和致命性自主武器系統的興起，代表了全球安全性質的一個關鍵轉折點。為此，世界各地的學術研究人員、技術企業家和公民都對人工智能的軍事化所帶來的危險表示擔憂。正如他們正確地指出的那樣，在規范負責任地開發和使用人工智能的規范和法律方面缺乏國際共識，有可能造成未來的危機。

5.1 戰爭法則

除了我們在科幻小說中經常看到的對人工智能的夸張描述，重要的是建立適當的制衡機制，以限制人工智能技術可能提供的權力集中。關于管理人工智能和其他數字技術的共同國際規則和條例將塑造未來幾十年的戰爭和沖突的輪廓。在軍事人工智能的發展中制定護欄，對于減少未來沖突的可能性至關重要。

加拿大和其他北約國家積極參與這一討論可能是未來全球和平與安全的關鍵。在發動戰爭的條件（jus ad bellum）和戰爭中的人工智能行為（jus in bello）方面，規范人工智能使用的戰爭法仍有待確定。鑒于美國和中國之間不斷擴大的競爭，需要制定關于致命性自主武器系統的使用及其擴散的條約是再及時不過了。

正如北約所觀察到的，加拿大及其盟國應尋求促進、參與和建立合作機會，以支持開發和應用人工智能和其他EDT的廣泛、全面的架構（北約新興和顛覆性技術咨詢小組2020）。盡管面臨著艱巨的挑戰，全球治理在規范軍事人工智能方面可以發揮重要作用。盡管對人工智能及其武器化有不同的看法，但過去的談判可以作為未來條約的基礎，特別是在定義戰爭規則方面。這包括關于常規武器、核軍備控制、生物和化學武器、地雷、外層空間和平民保護的條約（見圖6）。

到目前為止，《聯合國特定常規武器公約》（CCW）已經監督了一個討論應對自主武器帶來的人道主義和國際安全挑戰的進程。已經提出了一系列監管致命性自主武器系統的潛在方案，包括《特定常規武器公約》下的一項國際條約，一個不具約束力的行為準則，宣布各國承諾負責任地開發和使用致命性自主武器系統。在聯合國之外，2013年發起了 "停止殺手機器人 "運動，目標是完全禁止致命性自主武器系統。

聯合國秘書長安東尼奧-古特雷斯強調了人工智能和其他數字技術的風險和機遇（聯合國2020），并呼吁禁止致命性自主武器系統（古特雷斯2021）。不幸的是，聯合國成員國，特別是聯合國安理會的觀點存在分歧，一些國家認為監管是民族國家的專屬權限，而另一些國家則側重于更多部門的做法。除了人工智能的武器化，在圍繞人權、算法偏見、監控（公共和私人）以及國家支持的或國家支持的網絡攻擊等問題上也存在廣泛的分歧。

對于世界上的主要軍事大國來說，缺乏互信仍然是追求人工智能集體軍備控制協議的一個重大障礙。即使相當多的國家支持提供新的具有法律約束力的條約，禁止開發和使用致命性自主武器，但世界上大多數主要軍事大國都認為人工智能的武器化具有重大價值。鑒于這些分歧，致命性自主武器系統的多邊管理將需要建立信任措施，作為打開政治僵局的軍控進程的手段。

走向平凡的監管 也許制定管理人工智能的政策和監管制度的最具挑戰性的方面是難以準確地確定這些制度應該監管什么。與生物和化學武器不同，人工智能大多是軟件。事實上，人工智能是一個移動的目標：40年前被定義為人工智能的東西，今天只是傳統的軟件。

人工智能是一個模糊的技術領域，影響著廣泛的商業和軍事應用。例如，機器學習算法是搜索引擎（算法排名）、軍用無人機（機器人技術和決策）和網絡安全軟件（算法優化）的成分。但它們也支撐著平凡的行業，甚至兒童玩具（語義分析、視覺分析和機器人技術）、金融軟件和社交媒體網絡（趨勢分析和預測分析）。

與屬于這些平凡的監管領域的產品和流程一樣，人工智能技術不是被設計成最終實體，而是被設計成在廣泛的產品、服務和系統中使用的成分或組件。例如，一個 "殺手機器人 "不是一種特定技術的結果。相反，它是人工智能 "成分 "重新組合的結果，其中許多成分也被用來檢測癌癥或增加駕駛者的安全。

雖然人們傾向于使用一個專門的不擴散鏡頭來監管人工智能，但雙重用途的挑戰仍然存在。與核擴散或轉基因病原體不同，人工智能不是一種特定的技術。相反，它更類似于一個材料或軟件成分的集合。與大多數二元的核不擴散鏡頭相比，可以在食品監管中找到更相關（盡管不那么令人興奮）的監管模式的靈感，特別是食品安全和材料標準（Araya和Nieto-Gómez 2020）。

5.2 治理人工智能

鑒于對人工智能進行全面監管存在重大的概念和政治障礙，治理仍然是一項艱巨的挑戰。一方面，如果我們把人工智能理解為一系列復制人類活動的技術實踐，那么就根本沒有一個單一的領域可以監管。相反，人工智能的治理幾乎重疊了每一種使用計算來執行任務的產品或服務。另一方面，如果我們將人工智能理解為大幅改變人民和國家之間權力平衡的基礎，那么我們就會面臨重大挑戰。

幸運的是，這并不是民族國家第一次面臨影響全球安全的新技術。在第二次世界大戰之后，世界上最強大的國家--美國、英國、蘇聯、中國、法國、德國和日本--對核武器、化學制劑和生物戰的全球治理進行監督。當時和現在一樣，世界必須采取集體行動來治理人工智能。

與冷戰時期一樣，包括定期對話、科學合作和分享學術成果在內的建立信任措施可以幫助減少地緣政治的緊張。為管理軍事人工智能帶來的風險制定一個共同的詞匯，可以為隨著時間的推移制定更有力的人工智能多邊條約提供基礎。

在這方面，經濟合作與發展組織（OECD）已經公布了其關于人工智能的建議，作為一套政府間標準，于2020年2月啟動了人工智能政策觀察站。加拿大和法國政府還與經合組織一起領導了一個全球人工智能伙伴關系（GPAI），旨在成為一個人工智能政策的國際論壇。GPAI的成員專注于以 "人權、包容、多樣性、創新和經濟增長原則 "為基礎的負責任的人工智能發展。

除了GPAI，一些歐洲國家已經呼吁歐盟成員開始一個關于負責任地使用新技術的戰略進程--特別是人工智能。美國已經邀請盟國討論人工智能的道德使用問題（JAIC公共事務2020）。北約已經啟動了一個進程，鼓勵成員國就一系列道德原則和具有軍事用途的電子技術關鍵領域的國際軍備控制議程達成一致（Christie 2020；NATO 2020）。認識到EDT對全球安全的深遠影響，北約于2019年12月推出了EDT路線圖（北約科技組織2020）。

從整體上看，二十一世紀需要進行正式監管。從長遠來看，這很可能包括尋求與禁止生物武器、化學武器和殺傷人員地雷一樣的人工智能條約。然而，鑒于人工智能的創新速度和世界超級大國之間日益擴大的分歧，就人工智能的全球治理進行談判的機會之窗可能正在關閉。

圖6:人工智能的全球治理

6 結論：走向國家創新體系

即使在工業時代即將結束的時候，技術創新也在加速進行（Araya 2020）。自從大約80年前誕生以來，人工智能已經從一個神秘的學術領域發展成為社會和經濟轉型的強大驅動力。人工智能在戰爭中的整合被一些軍事分析家描述為一個不斷發展的 "戰場奇點"（Kania 2017）。在 "技術奇點"（Schulze-Makuch 2020）的概念基礎上，人們越來越多地猜測，人工智能和機器人將超越人類的能力，有效地應對算法驅動的戰爭。

人工智能和其他EDT的演變正在將先進的數據、算法和計算能力匯集起來，以 "認知 "軍事技術。在這種新環境下，現代軍隊正變得嚴重依賴提供安全、及時和準確數據的網絡。數據已經成為數字系統的 "作戰用氣 "和驅動 "智能機器 "的原料。隨著數據重要性的增加，在廣闊的數字領域的對抗性競爭也在增加。事實上，數據的真正價值在于其推動創新的數量和質量。

正如北約關于EDT的年度報告（北約新興和顛覆性技術咨詢小組2020）明確指出，要想跟上技術變革的步伐，就必須在技術的開發、實驗和應用方面保持靈活性和快速迭代。整個CAF的創新能力必須是一個更廣泛的創新生態系統的一部分，該系統有效地整合了公共和私人生態系統的研究和實施。這包括與加拿大工業界合作利用雙重用途的GPT的明確目標，以便利用已經存在的技術。

這種多領域的合作在歷史上被定義為國家創新體系（NSI）（OECD 1997）。事實上，NSI政策和規劃可以采取多種形式，從松散的協調到高度整合的伙伴關系。在美國（Atkinson 2020）、中國（Song 2013）和歐洲（Wirkierman, Ciarli and Savona 2018）應用的各種NSI規劃模式表明，在最大化政府-產業-研究伙伴關系方面可以找到大量的經濟和社會回報。政府應通過稅收優惠、采購和研究資金以及戰略規劃，努力建設加拿大的技術能力。但它不能單獨行動。

國家創新必然取決于機構參與者在一個共享的生態系統中進行合作。出于這個原因，一個協調的加拿大國家統計局將需要在推動長期創新的過程中，人們和機構之間的技術和信息的相互流動。鑒于EDT的許多創新是由工業界主導的，推進公私伙伴關系對加拿大軍隊的發展至關重要。對于國防部/加拿大空軍來說，要推進適合數字時代的軍隊，政府、工業界和學術界將需要以更綜合的方式進行合作。

建立一個強大的加拿大創新生態系統將意味著更廣泛的公私合作和持續的知識和資源的再培訓、培訓和孵化。盡管開發尖端人工智能需要人力資本投資，但大多數人工智能應用現在可以通過開源許可獲得，即使核心學習算法可以在公共平臺和整個學術生態系統中獲得。這種 "開放一切 "環境的影響是對封閉的等級制度和深思熟慮的官方機構的實質性挑戰。

政府程序和規劃將需要適應加速的創新生命周期，以配合EDT積極的淘汰周期。除了與網絡技術相關的巨大的不對稱安全風險外，向數據驅動型軍隊的轉變將需要大量關注數據安全和數據治理。與進行傳統的國家間沖突所需的大量成本和規劃不同，網絡攻擊的破壞性影響可以由僅有一臺個人電腦的小團體對關鍵基礎設施發動。鑒于未來不斷增加的挑戰，大型官僚機構（公司、政府、學術和軍事）的設計變化是不可避免的。

除了對新的和不同的知識、資源和專長的需求，加拿大政府和加拿大軍方將需要平衡硬實力和不斷變化的地緣政治格局的需求。在美國占主導地位的時代之外，二十一世紀正被一個以技術民族主義和后布雷頓森林體系為特征的多極體系所塑造。面對一個快速發展的數字時代，國際合作將是確保和平與安全的關鍵。信息共享、專家會議和多邊對話可以幫助世界各民族國家及其軍隊更好地了解彼此的能力和意圖。作為一個全球中等國家，加拿大可以成為推動這一努力的主要伙伴。

國際治理創新中心（CIGI）

國際治理創新中心（CIGI）是一個獨立的、無黨派的智囊團，其經同行評議的研究和可信的分析影響著政策制定者的創新。其全球多學科研究人員網絡和戰略伙伴關系為數字時代提供政策解決方案，目標只有一個：改善各地人民的生活。CIGI總部設在加拿大滑鐵盧，得到了加拿大政府、安大略省政府和創始人吉姆-巴爾西利的支持。

2021年11月17日，美國國家安全政策智庫新美國安全中心（CNAS）發布《數字秩序的未來》報告[1]，鼓吹所謂“民主同盟”和“自由數據技術”，攻擊中國、俄羅斯和中東在數據技術方面的成功事實和做法。報告認為成功利用新興信息和通信技術的巨大經濟、政治和社會力量的國家將會塑造全球數字秩序的未來，并就如何制定、促進和維護一個更加開放和民主的數據政策提出了建議。報告從信息控制、監視和技術治理三個方面分析中國、俄羅斯和中東的數據政策，指出：①中國已經成為塑造全球數字秩序的主要推動者；②俄羅斯現有的數據秩序模式可能更容易適應西方的數字管理體系，并具備持久性；③在中東，政府使用數字工具監視公民。 報告提出了美國應采取的對策：①建立所謂“民主行動者聯盟”，將包括歐洲和印太等地區的伙伴國家納入聯盟，以對抗所謂“非自由主義趨勢”；②在國內，同時與美國傳統的民主和非民主群體接觸；③頒布美國國家數據保護和隱私保護法，并在國外盡可能采取長臂管轄；④美國政府相關部門應與科技公司就非民主政府在有業務往來的國家開展業務的風險定期進行正式磋商；⑤美國政府需要優先考慮支持對隱私保護技術解決方案的研究和開發。

//www.casisd.cn/zkcg/ydkb/kjzcyzxkb/kjzczxkb2021_188403/zczxkb202201/202203/t20220314_6390562.html

本出版物是歐盟委員會科學和知識服務機構聯合研究中心 (JRC) 的一份報告。它旨在為歐洲決策過程提供基于證據的科學支持。所表達的科學成果并不意味著歐盟委員會的政策立場。歐盟委員會或代表委員會行事的任何人均不對本出版物的可能使用負責。

前言

本報告是在 AI Watch 的背景下發布的，這是歐盟委員會于 2018 年 12 月推出的用于監測歐洲人工智能 (AI) 的發展、采用和影響的知識服務。

人工智能已成為具有戰略意義的領域，有可能成為經濟發展的關鍵驅動力。人工智能還具有廣泛的潛在社會影響。作為其數字單一市場戰略的一部分，歐盟委員會于 2018 年 4 月在其“歐洲人工智能”中提出了一項歐洲人工智能戰略。宣布的歐洲人工智能戰略的目標是：

● 提高歐盟的技術和工業能力以及人工智能在整個經濟中的應用，包括私營和公共部門；

● 為人工智能帶來的社會經濟變化做好準備；

● 確保適當的道德和法律框架。

2018 年 12 月，歐盟委員會和成員國就歐盟人工智能的發展發布了“人工智能協調計劃”。協調計劃提到了 AI Watch 監控其實施的作用。

隨后，在 2020 年 2 月，委員會公布了其對所有人都適用的數字化轉型的愿景。委員會提交了一份白皮書，提出了一個基于卓越和信任的可信賴人工智能框架。

此外，2021 年 4 月，歐盟委員會提出了一系列促進人工智能卓越發展的行動，以及確保該技術值得信賴的規則。擬議的《歐洲人工智能方法條例》和《人工智能協調計劃》的更新旨在保障人民和企業的安全和基本權利，同時加強歐盟國家的投資和創新。 2021 年對 AI 協調計劃的審查參考了 AI Watch 的報告，并確認了 AI Watch 在支持協調計劃的實施和監測方面的作用。

AI Watch 監測歐盟在人工智能方面的工業、技術和研究能力；成員國與人工智能相關的政策舉措；人工智能的采用和技術發展；和人工智能的影響。 AI Watch 在全球范圍內以歐洲為重點。在 AI Watch 的背景下，委員會與成員國協調工作。 AI Watch 結果和分析發布在 AI Watch Portal (//ec.europa.eu/knowledge4policy/ai-watch_en) 上。

通過AI Watch的深入分析，我們將能夠更好地了解歐盟的優勢領域和需要投資的領域。 AI Watch 將對人工智能對增長、就業、教育和社會的影響和益處進行獨立評估。

AI Watch 由歐盟委員會聯合研究中心 (JRC) 與通信網絡、內容和技術總局 (DG CONNECT) 合作開發。

本報告涉及 AI Watch 的以下目標：開發一個 AI 指數，包括與政策制定相關的維度。它通過以指標的形式提供統計證據來總結 AI Watch 提供的主要結果。

摘要

經過多年非常活躍的技術發展，無論是在硬件還是軟件方面，人工智能領域已經蔓延開來，其影響在經濟和社會中無處不在，越來越多的人工智能支持的工具和應用程序被用于工作環境和個人領域。與所有創新技術一樣，必須對新興人工智能領域及其趨勢進行全面監測，以了解其影響的范圍。這個動作可以讓您了解可能需要注意或干預的問題和情況。在這方面，本出版物從多個角度分析了與人工智能發展相關的多個指標。盡管地理重點是歐盟 27 國，但在可能的情況下，我們會提供與全球主要人工智能強國（即美國和中國等）的比較。此外，如果可用，還為 27 個歐盟成員國提供指標。

該分析分為五個維度：(i) 人工智能領域的全球視野，(ii) 行業，(iii) 研發 (R&D)，(iv) 技術，以及 (v) 社會方面。結果表明，正如預期的那樣，人工智能正處于技術演進和改進的階段。美國在經濟方面處于世界領先地位。中國緊隨其后，特別是由于該領域的專利活動非常突出。歐盟位居第三，但有幾個因素支持這樣一個論點，即與這兩個領先國家的距離并不像人們經常提到的那樣。分析表明，歐盟在研發方面的表現非常出色——超出了歐共體資助項目的考慮范圍。此外，歐盟展示了人工智能服務和自主機器人技術的專業化。此外，歐盟在工業機器人和新機器人初創企業的貿易中表現出非常積極的動態。關于人工智能的投資，我們觀察到歐盟領域潛在發展的積極信號，因為去年所有 27 個歐盟成員國的私人和公共投資水平都有所增加。

執行總結

本報告介紹了人工智能觀察指數，這是一組指標，可以更好地了解歐洲的優勢領域以及人工智能 (AI) 領域值得關注的領域。 AI Watch Index 提供了一套結構化的量化指標，用于衡量 EU1 在與決策相關的 AI 的各個維度上的表現和定位。該指數的地理重點是歐盟，在有數據的情況下，覆蓋各成員國。由于部分指標覆蓋全球，歐盟與美國、中國等人工智能領域主要參與者的比較分析也成為可能。該指數圍繞五個維度進行組織：(i) 人工智能領域的全球視野，(ii) 行業，(iii) 研發 (R&D)，(iv) 技術，以及 (v) 社會方面。表 1 列出了圍繞 5 個維度和 10 個子維度組織的 22 個指標列表。

表1：AI 觀察指數各維度指標匯總

分析顯示，在全球人工智能格局、人工智能產業和人工智能研發維度上，美國在人工智能領域處于全球領先地位，其次是中國和歐盟。

歐盟最重要的因素一方面在于其在人工智能服務和機器人技術（包括自主機器人和工業機器人）中的重要作用，另一方面在于其在人工智能研發活動方面的強勢地位。關于人工智能服務——與提供人工智能服務和應用程序相關的活動，包括基礎設施、軟件和平臺服務——歐盟在全球范圍內具有優勢，因為其在人工智能領域的經濟活動份額高于全球平均水平。事實上，雖然美國在人工智能服務的全球份額中占有較高的份額，但相對歐盟人工智能服務在歐盟人工智能活動總數中的份額高于美國。同樣，歐盟在自主機器人技術方面也具有比較優勢——機器人系統旨在在涉及與其他機器或人類交互的相對復雜的環境中運行。歐洲在工業機器人貿易（考慮出口和進口）方面的比較優勢，以及新機器人初創企業數量的穩步增長趨勢，都補充了這一點。鑒于人工智能有望在機器人領域發揮重要作用，作為其技術發展下一步的關鍵推動力，這一點尤其重要。事實上，人工智能支持的未來幾代機器人有望更好地與物理現實交互，尤其是與人類交互（例如，用于照顧人類的機器人）。歐盟在機器人相關領域的主導地位表明其在該領域的未來競爭力。同時，這里考慮的技術領域極具活力，需要對工業和技術發展進行投資以保持競爭優勢。

其次，歐盟在人工智能研發活動方面非常活躍，以人工智能相關專利和頂級人工智能會議上的前沿研究出版物為代表。盡管英國脫歐對整個歐盟 AI 格局產生了明顯影響，但歐盟成員國形成的研究合作和伙伴關系使他們能夠在全球范圍內擁有影響力。換句話說，歐盟成員國建立了研發合作網絡，支持他們交換信息的能力，進而建立知識。這些是創新能力的關鍵要素。單獨考慮專利和研究出版物，可以觀察到一些相關差異：雖然歐盟在前沿研究出版物方面發揮著非常重要的作用，僅次于美國，但歐盟的專利活動仍然較為平和。還有第三種類型的研發活動，即歐盟資助的項目，為了進行國際比較，我們的分析并不總是考慮這些活動。然而，它們對整個研發生態系統的貢獻是根本性的。此外，正如之前的 AI Watch 工作（Righi 等人，2021 年）所討論的，框架計劃的項目（例如 FP7 和 H2020）使眾多經濟參與者能夠參與 AI 領域。由于此，歐盟在這一技術領域的經濟參與者數量幾乎翻了一番（與不考慮歐盟資助項目的參與者數量相比）。然而，這些參與者在沒有公眾支持的情況下在人工智能領域保持活躍的能力值得進一步探索。

如上所述，美國是全球人工智能領導者：它擁有大量活躍的人工智能參與者；它在多個人工智能領域（人工智能服務、音頻和自然語言處理、自主機器人以及聯網和自動駕駛汽車）具有比較優勢；它擁有大量以人工智能為核心業務并同時開發人工智能專利的公司；并從事大量研發活動（專利和前沿研究）。因此，美國的領先地位顯得穩固，沒有明顯的弱點。

我們對中國人工智能格局的了解主要得益于其非常激烈的專利活動。然而，專利質量標準的降低和中國政府最近實施的政策導致申請量激增，這支持了這樣一種論點，即中國在人工智能領域的規模可能沒有乍看之下那么突出。盡管如此，中國仍應被視為該領域的主要參與者，主要有兩個原因。首先，它在 ICT 制造領域的大量參與保證了任何數字技術（包括人工智能）蓬勃發展的基本硬件需求。例如，近年來，中國的 ICT 行業增加值每年增長 13.1 個百分點（Mas 等人，2021 年），同時已經從主導地位發展（增加值第二，僅次于美國）。其次，即使考慮到上述觀點，在中國提交的大量人工智能相關專利申請也不容忽視，特別是考慮到大量經濟參與者參與人工智能領域（超過 9,000 個）。關于中國值得考慮的另一個方面是對數據的大量訪問，這是人工智能系統的燃料。除其他外，這是由于使用數字服務和應用程序的人口眾多，以及對訪問和使用個人數據的法律限制較少（Arenal 等人，2020 年）。

這項工作的其他見解涉及人工智能領域的技術發展。我們觀察到 AI 技術在多項任務（例如圖像分類、人臉識別、語音識別、文本摘要）中的性能不斷提高。基準每年都在改進這一事實，清楚地證實了人工智能目前正在經歷技術擴展階段。觀察到的大量 AI 標準化活動強化了這一結論，這是歐盟成員國積極參與的一個方面，特別是考慮到制定支持歐洲 AI 法規提案（AI 法案）的標準。

AI Watch Index 的另外兩個指標涵蓋社會方面：AI 研究的多樣性，以及大學級別的高級 AI 技能教育產品。重要的是，初步結果顯示，最近人工智能研究界在性別、隸屬位置和研究人員所屬機構類型方面的異質性有所增加，這可能反映了研究界中包容性和多樣性政策的影響。這與值得信賴的人工智能的發展和社會包容都有關。事實上，研究人員的出身、性別和隸屬關系的異質性有望減少算法開發中的偏見，促進為訓練集選擇具有代表性的數據源，并減輕研究界有限視角可能導致的其他類型的風險。該維度還分析了與人工智能相關的大學學術課程，因為這勢必會影響未來工人的就業能力以及經濟中先進數字能力的整體存在。在這方面，發現成員國之間存在顯著差異，這可能導致未來歐盟人口之間的不平等。結果表明，人工智能內容在碩士學位課程中的出現頻率高于在學士學位課程中的出現頻率。這似乎表明，在已經向學生傳授基本知識之后，人工智能被認為是一門專業學科，主要涵蓋在教育路徑的后期階段。建議在各個層面提供更廣泛的人工智能相關內容，而不僅僅是高級課程，以促進人口的數字包容并增加歐洲數字轉型帶來的經濟利益。

近年來，以人工智能、量子信息、集成電路、生命健康、腦科學、生物育種、空天科技、深地深海等為代表的新一輪科技革命和產業變革深入發展，正在重構全球創新版圖、重塑全球經濟結構。在眾多極具“顛覆性”的科技領域中，腦科學無疑是最尖端、最前沿的一個，被稱為生命科學的“終極疆域”。

腦科學是生命科學最尖端、最前沿的領域，也是人類最難攻克的“科學堡壘”之一。但腦科學卻是諸多前沿科技發展的基礎，如人工智能、腦機接口、信息科學、仿生科學等，也是醫學、教育和軍事等領域發展的關鍵，尤其是事關人類生命健康的抑郁癥、自閉癥、帕金森癥、阿爾茲海默癥等神經性和精神性疾病，亟需腦科學的進步為其提供新的解決方案。因此，腦科學是事關國家安全和發展全局的核心領域之一。

為更好地推動腦科學相關知識的普及，使全國上下充分認識腦科學戰略地位、戰略導向的重要性，提高全社會對這一前沿領域的重視程度、參與廣度和投入力度，推動國家戰略部署的實施與落地，眾誠智庫重磅發布“國家戰略科技研究系列之《2021全球腦科學發展報告》”。

本報告立足中國，放眼全球，理清歷史脈絡，展望未來，對腦科學基本原理和研究成果進行了梳理和深入地研究，對世界主要國家在腦科學領域的戰略部署進行了分析和對比，分別從腦科學發展現狀、應用現狀和發展趨勢等方面進行剖析，并在如何科學應對內外挑戰方面深入思考、總結結論，旨在為我國加快推進腦科學發展進程提供一些建議。

報告認為，當前以人工智能、量子信息、集成電路、生命健康、腦科學、生物育種、空天科技、深地深海等為代表的新一輪科技革命和產業變革深入發展，正值重構全球創新版圖、重塑全球經濟結構之時，腦科學早已成為世界主要經濟體科技角逐的主要賽道之一。自2013年以來，世界主要國家和地區紛紛發布“腦計劃”，將腦科學的競技賽推向了新的高潮。我國自20世紀90年代就十分重視腦科學，2015年發布“中國腦計劃”；2021年，國務院發布的《中華人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》也將腦科學作為國家戰略科技力量之一。

報告認為，從歷史發展進程和西方大國的發展經驗來看，基礎研究是科技創新、產業興盛、社會發展和防范國家安全的底層支撐，尤其是面向未來的基礎研究，腦科學作為未來最重要的一個基礎研究領域，將關系到人來自身的發展，并進一步顛覆我們的生活方式和生產方式。生產方式的變革和生產工具的升級將更多地替代、解放勞動力，同時提高生產效率，為未來應對老齡化社會的發展從科技層面給出一定的解決方案。新一輪的智能化、數控化產業革命，工業機器人、數控軟件、智能裝備等將成為工業制造領域最主要的發展方向，數字化智能化農業、智能服務機器人也將深入到我們的生活，這些都離不開腦科學和類腦智能在其中發揮作用。

從近五年全球腦科學相關的論文發表量與專利申請量來看，腦科學研究陣營逐漸由美歐兩極主導向美歐亞三極鼎立的格局轉變。報告認為，中國目前在論文發表量上已緊隨西方大國之后，在專利的申請量上僅次于美國，位居世界第二位，已躋身世界腦科學大國行列，但整體水平還不夠強，相信在持續高速增長和國家的大力扶持下，可以預見，到本世紀中葉，中國有望躋身于世界腦科學強國行列。

//www.uthinktank.com/news/media/2021-06-09/2021BrainScience.pdf

「美國人仍未認真思考 AI 革命將對社會、經濟和國家安全產生多大影響」，3 月 1 日，美國國家人工智能安全委員會（the National Security Commission on Artificial Intelligence，NSCAI）發布的一份報告，提出了對于總統拜登、國會及企業和機構的數十項建議。

該組織稱，中國是對于美國技術主導地位的首要挑戰，在第二次世界大戰后第一次有國家對美國的經濟和軍事力量產生了如此程度的威脅。該報告的一個結論是，在未來十年內，美國可能會失去對中國的軍事技術優勢。

這個由 15 名成員組成的委員會主張以 400 億美元的投資擴展和民主化 AI 研究的進程，并為「未來技術突破進行投資」，鼓勵決策者們對創新投資持類似態度。該組織最終希望能推動聯邦政府在未來幾年里對于人工智能投資數千億美元。