人工智能在軍事領域的前景之一是其廣泛的適用性,這似乎可以保證其被采用。在軍事方面,人工智能的潛力存在于所有作戰領域(即陸地、海洋、空中、太空和網絡空間)和所有戰爭級別(即政治、戰略、戰役和戰術)。然而,盡管有潛力,需求和人工智能技術進步之間的銜接仍然不是最佳狀態,特別是在軍事應用的監督機器學習方面。訓練監督機器學習模型需要大量的最新數據,而這些數據往往是一個組織無法提供或難以產生的。應對這一挑戰的絕佳方式是通過協作設計數據管道的聯邦學習。這種機制的基礎是為所有用戶實施一個單一的通用模型,使用分布式數據進行訓練。此外,這種聯邦模式確保了每個實體所管理的敏感信息的隱私和保護。然而,這個過程對通用聯邦模型的有效性和通用性提出了嚴重的反對意見。通常情況下,每個機器學習算法在管理現有數據和揭示復雜關系的特點方面表現出敏感性,所以預測有一些嚴重的偏差。本文提出了一種整體的聯邦學習方法來解決上述問題。它是一個聯邦自動集成學習(FAMEL)框架。FAMEL,對于聯邦的每個用戶來說,自動創建最合適的算法,其最優的超參數適用于其擁有的現有數據。每個聯邦用戶的最優模型被用來創建一個集成學習模型。因此,每個用戶都有一個最新的、高度準確的模型,而不會在聯邦中暴露個人數據。實驗證明,這種集成模型具有更好的可預測性和穩定性。它的整體行為平滑了噪音,同時減少了因抽樣不足而導致的錯誤選擇風險。
關鍵詞:聯邦學習;元學習;集成學習;軍事行動;網絡防御
隨著步伐的加快,人工智能(AI)正在成為現代戰爭的重要組成部分,因為它為大規模基礎設施的完全自動化和眾多防御或網絡防御系統的優化提供了新的機會[1]。人工智能在軍事領域[2]的前景之一,似乎保證了它的采用,即它的廣泛適用性。在軍事方面,人工智能的潛力存在于所有作戰領域(即陸地、海洋、空中、太空和網絡空間)和所有級別的戰爭(即政治、戰略、戰役和戰術)[3]。但與此同時,隨著參與連續互聯和不間斷信息交換服務的互聯系統數量的實時擴大,其復雜性仍在成倍增長[4]。從概括的角度來看,可以說人工智能將對以下任務產生重大影響:
1.太快的任務,反應時間為幾秒鐘或更少,在高復雜度(數據、背景、任務類型)下執行。
2.操作時間超過人類耐力的任務,或意味著長期的高操作(人員)成本。
3.涉及巨大的復雜性的任務,需要靈活地適應環境和目標的變化。
4.具有挑戰性的行動環境,意味著對作戰人員的嚴重風險。
支持上述任務的實時監測事件的應用程序正在接收一個持續的、無限的、相互聯系的觀察流。這些數據表現出高度的可變性,因為它們的特征隨著時間的推移而發生巨大的、意想不到的變化,改變了它們典型的、預期的行為。在典型情況下,最新的數據是最重要的,因為老化是基于它們的時間。
利用數據的軍事人工智能系統可以將軍事指揮官和操作員的知識和經驗轉化為最佳的有效和及時的決策[3,4]。然而,缺乏與使用復雜的機器學習架構相關的詳細知識和專業知識會影響智能模型的性能,阻止對一些關鍵的超參數進行定期調整,并最終降低算法的可靠性和這些系統應有的概括性。這些缺點正在阻礙國防的利益相關者,在指揮鏈的各個層級,信任并有效和系統地使用機器學習系統。在這種情況下,鑒于傳統決策系統無法適應不斷變化的環境,采用智能解決方案勢在必行。
此外,加強國防領域對機器學習系統不信任的一個普遍困難是,采用單一數據倉庫對智能模型進行整體訓練的前景[1],由于需要建立一個潛在的單點故障和對手的潛在戰略/主要目標[6],這可能造成嚴重的技術挑戰和隱私[5]、邏輯和物理安全等嚴重問題。相應地,可以使更完整的智能分類器泛化的數據交換也給敏感數據的安全和隱私帶來了風險,而軍事指揮官和操作人員并不希望冒這個風險[7]。
為了克服上述雙重挑戰,這項工作提出了FAMEL。它是一個整體系統,可以自動選擇和使用最合適的算法超參數,以最佳方式解決所考慮的問題,將其作為一個尋找算法解決方案的模型,其中通過輸入和輸出數據之間的映射來解決。擬議的框架使用元學習來識別過去積累的類似知識,以加快這一過程[8]。這些知識使用啟發式技術進行組合,實現一個單一的、不斷更新的智能框架。數據保持在操作者的本地環境中,只有模型的參數通過安全流程進行交換,從而使潛在的對手更難干預系統[9,10]。
在提議的FAMEL框架中,每個用戶在水平聯邦學習方法中使用一個自動元學習系統(水平聯邦學習在所有設備上使用具有相同特征空間的數據集。垂直聯邦學習使用不同特征空間的不同數據集來共同訓練一個全局模型)。以完全自動化的方式選擇具有最佳超參數的最合適的算法,該算法可以最佳地解決給定的問題。該實施基于實體的可用數據,不需要在遠程存儲庫中處置或與第三方共享[11]。
整個過程在圖1中描述。
圖1.FAMEL框架。
具體來說就是:
步驟1--微調最佳局部模型。微調過程將有助于提高每個機器學習模型的準確性,通過整合現有數據集的數據并將其作為初始化點,使訓練過程具有時間和資源效率。
步驟2--將本地模型上傳至聯邦服務器。
步驟3--由聯邦服務器對模型進行組合。這種集成方法使用多種學習算法,以獲得比單獨使用任何一種組成的學習算法都要好的預測性能。
步驟4--將集成模型分配給本地設備。
從這個過程中產生的最佳模型(贏家算法)被輸送到一個聯邦服務器,在那里通過啟發式機制創建一個集成學習模型。這個集成模型基本上包含了本地最佳模型所代表的知識,如前所述,這些知識來自用戶持有的本地數據[12]。因此,總的來說,集成模型提供了高概括性、更好的預測性和穩定性。它的一般行為平滑了噪音,同時降低了在處理本地數據的場景中由于建模或偏見而做出錯誤選擇的總體危險[13,14]。
將機器學習應用于現實世界的問題仍然特別具有挑戰性[44]。這是因為需要訓練有素的工程師和擁有豐富經驗和信息的軍事專家來協調各自算法的眾多參數,將它們與具體問題關聯起來,并使用目前可用的數據集。這是一項漫長的、費力的、昂貴的工作。然而,算法的超參數特征和理想參數的設計選擇可以被看作是優化問題,因為機器學習可以被認為是一個搜索問題,它試圖接近輸入和輸出數據之間的一個未知的潛在映射函數。
利用上述觀點,在目前的工作中,提出了FAMEL,擴展了制定自動機器學習的一般框架的想法,該框架具有有效的通用優化,在聯邦層面上運作。它使用自動機器學習在每個聯邦用戶持有的數據中找到最佳的本地模型,然后,進行廣泛的元學習,創建一個集成模型,正如實驗所顯示的那樣,它可以泛化,提供高度可靠的結果。這樣,聯邦機構就有了一個專門的、高度概括的模型,其訓練不需要接觸他們所擁有的數據的聯合體。在這方面,FAMEL可以應用于一些軍事應用,在這些應用中,持續學習和環境適應對支持的行動至關重要,而且由于安全原因,信息交流可能很難或不可能。例如,在實時優化有關任務和情況的信息共享方面就是這種情況。在部署了物聯網傳感器網格的擁擠環境中,FAMEL的應用將具有特別的意義,需要滿足許多安全限制。同樣,它也可以應用于網絡空間行動,在雜亂的信息環境和復雜的物理場景中實時發現和識別潛在的敵對活動,包括對抗負面的數字影響[45,46]。必須指出的是,在不減少目前所描述的要點的情況下,所提出的技術可以擴展到更廣泛的科學領域。它是一種通用的技術,可以發展和產生一種開放性的整體聯邦學習方法。
盡管總的來說,聯邦學習技術的方法論、集成模型以及最近的元學習方法已經強烈地占據了研究界,并提出了相關的工作,提升了相關的研究領域,但這是第一次在國際文獻中提出這樣一個綜合框架。本文提供的方法是一種先進的學習形式。計算過程并不局限于解決一個問題,而是通過一種富有成效的方法來搜索解決方案的空間,并以元啟發式的方式選擇最優的解決方案[47,48]。
另一方面,聯邦學習模型應該對合作訓練數據集應用平均聚合方法。這引起了人們對這種普遍方法的有效性的嚴重關注,因此也引起了人們對一般聯邦架構的有效性的關注。一般來說,它將單個用戶的獨特需求扁平化,而不考慮要管理的本地事件。如何創建解決上述局限性的個性化智能模型,是目前一個突出的研究問題。例如,研究[49]是基于每個用戶必須以聯邦的形式解決的需求和事件。解釋是可解釋系統的各種特征,在指定的插圖的情況下,這些特征有助于得出結論,并在局部和全局層面提供模型的功能。建議只對那些變化程度被認為對其功能的演變相當重要的特征進行再訓練。
可以擴大擬議框架研究領域的基本課題涉及元集成學習過程,特別是如何解決創建樹和它們的深度的問題,從而使這個過程自動完全簡化。還應確定一個自動程序,以最佳的分離方式修剪每棵樹,以避免負收益。最后,探索將優化修剪的樹的版本添加到模型中的程序,以最大限度地提高框架效率、準確性和速度。
(完整內容請閱讀原文)
盡管在評估5G技術對軍事事務的影響方面已經有了很多論述(見Gambuzzi, 2019; Bijlsma, 2022; Bussagli, 2022),但本信息快報(IF)試圖通過澄清這一新型技術對軍事決策的影響來為這一蓬勃發展的文獻作出貢獻。鑒于現有的數據,本報告將主要關注美國(US)軍隊的努力。本綜合報告首先將對5G的及其一般軍事應用進行簡要概述。隨后,將討論5G在軍事決策中的作用這一核心問題。
一般來說,5G或第五代無線寬帶網絡技術,顧名思義,代表了4G寬帶技術的技術進步。這種技術進步包括兩個相互關聯的要素:速度和延遲(Halpern, 2019)。根據5G的一些支持者的說法,這項新技術將比其前身快一百倍。這種速度的提高預計將 "減少,甚至可能消除指示計算機執行命令和執行命令之間的延遲"。在不迷失于太多技術細節的情況下,重要的是要注意到,5G技術依賴于 "高頻、短波長頻譜",正是這種所謂的 "毫米波",允許超過每秒1Gbps的前所未有的速度(Gambuzzi, 2019)。自然,5G以及它所承諾的進步,對消費者、工業和軍事都有很高的期望。特別是,5G被看作是經濟發展的驅動力。預計到2035年,將有多達 "12萬億美元 "的資金以5G技術的名義投資于全球經濟。這種對全球經濟的巨大現金注入預計會發生,不僅僅是因為5G將提高信息交流的速度,還因為它將產生重大的連鎖反應,特別是在物聯網方面。5G被認為能夠實現 "自主設備的互聯,如智能家居、自動駕駛汽車、精準農業系統、工業機械和先進機器人"(Hoehn & Sayler, 2022)。5G技術的這一方面被稱為mMTC(大規模、機器類型通信)。雖然mMTC經常被 "忽視",但它確實是革命性的,因為它將允許 "每平方公里多達一百萬臺設備的互連"(Gambuzzi,2019)。
關于軍事問題,5G有大量潛在的非民應用。5G可能會大大改善現有的情報、監視和偵察(ISR)系統。此外,它將允許采用新的指揮和控制(C2)方法,并使后勤管理的方法更加精簡。這種改進有賴于5G "在地理上分散的系統中近乎實時地分享更大量的數據"(Medin & Louie, 2019, p.21)。不僅更多的數據將被共享--更快--跨越遙遠的距離,而且5G還將 "通過機載或基于衛星的5G系統 "將戰術通信的范圍擴展到以前被剝奪的領域(Bastos等人,2019年,第4頁)。幸運的是,5G預計也會有明顯的成本效益。因此,軍隊將能夠以相對較低的成本大規模部署5G技術。正如美國國防部(DoD)相關咨詢機構--國防創新委員會2019年的一份研究報告指出。"由5G促成的未來的戰斗網絡將越來越多地包括大量更便宜、連接更緊密、更具彈性的系統(Medin & Louie, 2019, p. 21)。
5G的一個特別有前途的應用將是它與無人駕駛飛行器(UAVs,即無人機)的整合。無人機已經被證明是現代戰爭的一個重要部分,盡管有爭議,特別是在反叛亂運動中(見Walsh, 2013, passim)。一旦配備了5G技術,無人機將能夠 "與C2中心和參戰部隊實時傳輸和分享4K圖像"(Gambuzzi, 2019)。這種新的能力將允許"增強目標探測,更快的數據處理",并全面提升偵察能力。根據無人機的設備和操作參數(如交戰規則),4K圖像傳輸,以及5G技術,可能會在動能任務中實現更高的瞄準精度(Walker等人,2021)。除了傳輸速度的改進,5G技術還允許各種自主車輛(包括陸地車輛)配備云存儲功能。將云存儲整合到自動駕駛汽車中可以因此 "潛在地規避車載數據處理的限制"(Hoehn & Sayler, 2022)。這種規避本身就很可取,而且還有可能實現 "新的軍事行動概念",例如 "蜂群",它指的是車輛之間的自主合作,為特定任務服務。
然而,5G的應用并不限于空間、陸地和空中領域,也適用于海上行動。在海上行動方面,5G有可能極大地 "加強船與船、船與兩棲和船與岸的連接"(同上,第6頁)。例如,這可以改善受影響的船只和軍事資產以及各國軍事資產之間對海盜活動的反應時間[1]。特別是,提高通信速度可能有利于國際軍事任務的船只之間的協調,如現已解散的亞特蘭大號(見EUNAVFOR, 2022),以及鄰近國家的各自海軍。這種協調是國際海事法所要求的。海軍資產可以在國際水域追擊海盜,甚至可以進入相鄰國家的專屬經濟區(距海岸370公里),但他們不能進入一個國家的領海(距海岸22公里)(UNCTAD, 2014, p. 10; see also Ahmad, 2020)。因此,如果海盜船逃入領海,追擊的海軍資產必須迅速與鄰近國家的海軍或海岸警衛隊協調反海盜活動。
如上所述,5G技術極大地提高了數據傳輸的速度和數量,這對軍事通信的效率有巨大的影響。軍事規劃人員希望利用這種速度(≈1≥Gbps)和容量的急劇增加來提高決策的速度,從而提高執行的速度。這種速度的大幅提高是必要的,因為 "未來的沖突可能需要在幾小時、幾分鐘或可能幾秒鐘內做出決定,而目前分析[原文如此]作戰環境和發布命令的過程需要數天時間"(Hoehn, 2022)。實現這種理想的決策速度增長的方法之一是利用5G的力量,為提高部隊的內部操作性服務。基本想法是,5G支持的通信技術將允許美國武裝部隊的所有部門以更大的速度交換信息、數據和情報。這種通信、數據和情報共享的增加將使C2決策得到簡化。
圖1 JADC2視覺可視化[Hoehn, 2022]。
目前,美國國防部正試圖通過其全域聯合指揮與控制(JADC2)概念實現更大的部隊內部可操作性(見圖1)。JADC2概念試圖完成一個單一的傳感器網絡,并取代以前的方法,即每個軍種 "傳統上開發自己的戰術網絡,與其他軍種的網絡不兼容。" 以前的沖突已經說明了一個軍隊在其各軍種之間實現和保持高水平的內部操作性的能力的重要性。特別是,在1982年(未宣布的)福克蘭群島戰爭期間,阿根廷軍隊不同部門之間缺乏協調是英國成功的一個重要因素。英國福克蘭群島戰役的官方歷史學家勞倫斯-弗里德曼爵士在最近一次皇家聯合服務研究所的活動中指出,阿根廷軍隊的三個部門似乎在 "打三場不同的戰爭"(RUSI, 2022)。
為了充分解釋5G對未來軍事決策的意義及其與JADC2等概念的關系,將這些發展置于更廣泛的地緣政治背景中至關重要。目前,華盛頓特區的政策制定者和軍事規劃者正專注于他們所描述的近距離競爭者所帶來的威脅(Vergun, 2020)。從本質上講,"近鄰競爭者 "指的是中國和俄羅斯等國家,它們越來越被認為是未來的潛在對手。一個在華盛頓圈子里穩步發展的相關概念是大國競爭(Dei?ner & Fehrenbach, 2020)。其必然結果是,美國不再滿足于為小規模戰爭和反叛亂做準備,比如在伊拉克和阿富汗。相反,美國官員擔心他們將很快不得不面對像中國這樣的行為體,其軍事能力更接近于他們自己。特別令人擔憂的是,"潛在的對手已經發展了復雜的反介入/區域拒止(A2/AD)能力,如電子戰、網絡武器、遠程導彈和先進的防空設施"(Hoehn,2022)。因此,軍事領導人表示,在未來的沖突中,涉及 "潛在的近同行對手,需要采取多領域的方法。" 這種多領域方法被編入JADC2概念中,只有5G技術,特別是數據傳輸速度和容量的進步才使其可行。
即使在更微觀的層面上,參與開發和測試支持5G的軍事通信技術的軍事官員也敏銳地意識到了這種情況。美國陸軍指揮、控制、通信-戰術(PEO C3T)項目執行官羅伯特-柯林斯少將和美國陸軍網絡跨職能小組主任杰斯-雷伊準將最近在今年的C4ISRNET會議上就這個話題發表了講話。柯林斯將軍和雷伊將軍強調,5G技術的發展和部署不應完全從技術發展本身的角度來理解,還應該理解為與敵對行為者構成的 "威脅保持同步"(C4ISRNET,2022)。
然而,5G技術的發展和部署不僅對遏制潛在對手帶來的威脅至關重要,而且其本身也可能成為不安全的一個重要來源。就5G成為不安全的來源而言,必須考慮兩個因素。首先,戰術環境和指揮部之間的每一次通信都會有一個簽名。當通信量急劇增加時,就像引進5G技術那樣,那么排放物可能會上升到對手很容易在戰場上定位美軍的程度。柯林斯將軍指出,排放控制是一個關鍵問題,軍事領導人需要 "小心和注意 "這項技術的潛在威脅增強(C4ISRNET, 2022)。因此,5G技術必須通過 "士兵主導的實驗 "進行開發和測試。此外,軍方和其行業伙伴之間需要有適當的反饋渠道。其次,5G網絡可能容易受到網絡攻擊,甚至來自非國家行為者。同樣,5G網絡從一開始的設計就需要考慮到網絡威脅。然而,幸運的是,5G技術依靠的是短程信號,更難截獲(Gambuzzi,2019)。
最后,正如雷伊將軍所強調的,JADC2下給軍事決策帶來的變化也對軍事互操作性產生了重大影響。雷伊表示,美軍 "將不再單獨作戰"(C4ISRNET,2022)。因此,互操作性問題從一開始就包括在關鍵項目中,如22號融合項目,這些項目旨在實現JADC2。在 "融合項目2022"的背景下,雷伊說,重點是 "數據共享行動同步以及與我們的聯盟伙伴整合"。此外,JADC2還將包括美國軍隊與其聯盟伙伴之間更正式的軍事互操作性機制。在這個意義上,合作將不再是偶發的,相反,5G還將為一個 "持續的持久環境 "來交換互操作性接口標準。
多域作戰(MDO)會給訓練帶來許多挑戰。各種不同的組織和部門的參與會加劇這些挑戰,并需要平衡集中協調和分散訓練的目標。此外,盡管MDO的基本概念并不新鮮,但實際的術語最近才被美國陸軍作為一個理論概念引入。因此,訓練技術的發展有可能是被動的,導致孤立的效果。新興的訓練技術可以幫助支持MDO的獨特復雜性,但這些技術和相關系統的發展可能需要與理論發展相配合,與追蹤過程相一致,并盡早納入最終用戶的投入。如果MDO要提供新的好處,訓練界可能需要解決老問題。它可能需要更有效地溝通。
新興技術可以緩解因多域作戰(MDO)而放大的復雜訓練挑戰。為了發揮效益,技術研究和開發(R&D)可能需要與理論發展同步進行。然而,協調和有效的采購一直是軍隊的一個長期問題(Wong等人,2022),如果MDO要提供新的好處,訓練界可能需要解決老問題。它可能需要更有效的溝通。
盡管它在軍事文獻中被普遍使用,但MDO的定義可能有細微差別,并可能有所不同。盡管MDO的基本概念并不新鮮,但美國陸軍訓練和理論司令部最近在其2018年的小冊子(TP)525-3-1《2028年多域作戰中的美國陸軍》(美國陸軍,2018)中引入了這個術語。它納入了戰場戰略,但從根本上說,MDO是一種作戰戰略。它從線性作戰、非線性作戰和戰略癱瘓理論演變而來,它描述了陸軍將如何在所有領域作戰,包括電磁波譜和信息環境。
具體來說,MDO可以定義如下(Kasubaski,2019)。"一場由多場戰斗和行動組成的戰役,跨越領域、時間和有爭議的空間進行,最終使友軍(聯合/聯盟)的能力趨于一致,增加對對手(或敵人)的限制因素,減少對友軍的限制因素,打開多個機會窗口,對對手(或敵人)的關鍵漏洞和COG[重心]實現決定性的打擊。"
MDO最初描述了美國陸軍作為聯合部隊[陸軍、海軍、空軍、海軍陸戰隊和太空部隊]的一部分,如何對抗和擊敗能夠在所有領域[空中、陸地、海上、太空和網絡空間]與美國抗衡的近鄰對手(CRS,2021)。這個基本概念與所有領域的聯合指揮和控制密切相關(Marler等人,2022)。然而,無論具體定義如何,MDO的一個普遍主題是通過使用技術來解決復雜戰爭的挑戰(de Leon, 2021)。這個主題適用于訓練(de Leon, 2021),這是支持任何總體戰略的必要條件。
大規模的訓練可能需要在集中協調和分散目標之間取得平衡,即使只是在一個軍種內。這種平衡在MDO中可能變得特別困難。這種挑戰涉及到組織管理和技術研發,而且隨著更多組織的整合,這種挑戰會增加。
支持訓練的能力應該來自于基本的訓練目標(Marler, 2022)。也就是說,有效的技術與預期的用途相一致。然而,通常情況下,技術的出現不是為了滿足市場需求,而是由于行業的推動。開發者可能會完善或加強一種能力,然后才會追求市場。然而,一般來說,當產品源于最終用戶的需求并與之保持一致時,它們會更加有效。訓練技術尤其如此;當它們從一開始就針對特定的訓練目標和特定的用戶群而設計時,它們是最有效的。
隨著用戶群的擴大和變得更加復雜,訓練目標也是如此。通常情況下,單一的訓練能力無法應對大量不同的目標。這反過來又造成了集中協調和分散需求之間的矛盾。在一個大型組織內,不同的訓練需求可能會促進潛在的分散的訓練目標。這種獨立的目標可能是合法的,如果被忽視或混為一談,訓練就會變得無效。然而,如果不加以控制,這種情況可能會導致孤島式的發展--不同的小組獨立進行研發,只為解決他們獨特的目標。這反過來可能會有重復工作的風險,從而浪費了資金。此外,它可能會失去在不同組織之間分享訓練目標、研發和流程方面的最佳做法的機會。因此,某種程度的集中協調可能是有益的。
為了促進協調,由一個組織來跟蹤和分享有關技術發展的信息可能是有益的。然而,在大型組織可能有機發展的情況下,這種意圖可能與人性相悖。例如,盡管每個軍種都可能有一個專門負責訓練的組織,但整個軍種的研發和訓練能力的使用可能并不明確和廣泛透明(Marler等人,2020)。確保整個軍種的適當協調可能需要持續關注。
調和獨特的訓練目標和協調工作的挑戰可能會隨著應用于更多的梯隊和組織而擴大。事實上,在這方面考慮一個連續體可能是合適的,即隨著訓練從單個人延伸到個人、團體、軍種、作戰指揮部以及最終國家(盟國和伙伴國)之間的互動,復雜性也會增加。這種復雜性在聯合社區中得到了充分的認可,各部門被要求進行整合,以便在戰斗中進行訓練(Marler等人,2020)。
引入不同的作戰環境--不同的領域--可能會進一步加劇這些復雜性。不同的環境,涉及不同的領域,可以呈現復雜的場景,需要大量的訓練協調。因此,MDO可能會提出對復制和準備特別具有挑戰性的場景。事實上,當訓練不僅跨越上述組織復雜性的連續體,而且跨越戰爭領域時,它可能是最復雜的,從而形成了一個復雜性矩陣,其兩軸代表了越來越多的作戰領域,以及相互作用的組織的復雜性,如下圖10.1所示。
圖 10.1:復雜性矩陣
為MDO進行有效的訓練可能需要在聯合背景下進行訓練,并解決這個復雜的完整矩陣。學習跨領域的思考、計劃和無縫操作可能是一個巨大的訓練挑戰。對此,與其簡單地從單一服務的角度來看待訓練,不如更全面地看待訓練,可能會有好處。為了利用新興技術的好處,盡早而不是晚些時候考慮復雜的全部矩陣可能是謹慎的。
各種訓練技術可能對MDO特別有利,并可能有助于平衡集中協調與分散目標。特別是,軍隊正在越來越多地利用虛擬環境,包括虛擬現實(VR)和增強現實(AR)(Lye,2019)。VR涉及用戶完全沉浸在虛擬環境中,而AR涉及將虛擬實體疊加到真實物品上。這種環境可以提供各種好處,從允許安全地練習危險的活動,到鍛煉機密的操作和能力,到增加訓練的重復性。它們還可以為MDO提供專門的好處,主要是連接的形式;通過數據交換將各種聯網的虛擬環境連接起來可能相對容易。
此外,虛擬游戲在軍事訓練中提供了超過十年的價值,讓我們看到了軟件系統的好處,它允許離散的團體和個人整合并基本上一起訓練(Shaban, 2021)。現場、虛擬和建設性(LVC)能力也可以幫助支持MDO(Marler等人,2022)。這涉及到將使用真實武器系統的真實作戰人員與操作虛擬系統(例如,模擬器)的真實作戰人員與控制虛擬系統(建設性)的計算機聯系起來。混合能力涉及將實戰與虛擬和/或建設性相結合,而合成能力包括虛擬和建設性。此外,所有這些能力都可以促進基于性能的評估,即虛擬環境在使用期間和之后提供反饋。在虛擬環境中幾乎所有的操作都可以被存儲、分析和審查,這可能是新興訓練技術的另一個好處。
如圖10.2所示,虛擬訓練能力的兩個好處與MDO特別相關:1)容易開發各種環境的能力;2)連接各種能力的能力。通過游戲、VR、AR、LVC和一般的虛擬環境,可以相對容易地在不同的領域進行練習。可以肯定的是,這些技術并不是集體的萬能藥,某些訓練目標只能通過真實世界的練習來解決。此外,當需要高fi delity模擬時--根據訓練目標,它們并不總是必要的(Straus等人,2018)--適當的基礎模擬模型的可用性可能會帶來瓶頸。盡管如此,虛擬環境提供了開發、改變和使用無數種情況的能力,這可能包括所有的戰爭領域。因此,虛擬環境可能自然有利于MDO。
圖 10.2:訓練環境
除了代表多個領域外,虛擬環境可能有助于促進連接,使大規模的訓練演習與現實世界的演習相比相對容易。當然,整合不同組織開發的軟件系統不一定是小事;它可能需要組織協作和遵守數據標準。盡管如此,將許多不同的模擬器和模擬系統聯網可能比整合現實世界的系統更容易,因為這些系統可能有幾十年的歷史。因此,對于各軍種、作戰指揮部、甚至盟國和伙伴國來說,在聯合MDO訓練的背景下進行虛擬連接可能相對容易。
最終,正是這種連接的潛力可能有助于在集中的協調和分散的訓練目標之間建立一種平衡。如果發展得到適當的管理和激勵,虛擬訓練技術可以讓不同的用戶尊重他們獨特的訓練目標并開發專門的內容,同時允許軟件和模擬器連接到同一個聯盟中(維基百科)。這種聯盟的例子已經以JLVC(聯合實戰、虛擬和建設性)(美國聯合部隊司令部,2010)和JLCCTC(聯合陸地部分建設性訓練能力)(美國陸軍,n.d)的形式出現。然而,這些系統已經有機地成熟起來,從一開始就對復雜的聯合MDO環境進行了最少的整體考慮。盡管如此,連接軟件和模擬器的聯盟可以加強協調。
與現實世界的系統一樣,連接的潛在好處可能伴隨著挑戰,包括技術和組織方面。然而,可能有一些基本原則,如果在開發周期的早期考慮,可以釋放出MDO訓練的潛力。這些原則總是與基于模擬的訓練有關,但它們對于產生MDO訓練的好處可能特別關鍵。
首先,讓訓練內容與訓練目標相一致可能會有幫助。盡管源于20世紀80年代陸軍 "空地一體戰 "理論的發展,但MDO這個詞相對較新。因此,訓練技術,更不用說一般的訓練,可能會對新的作戰理論產生反應,特別是隨著時間的推移,理論的發展。各種新興的訓練技術可能有助于解決MDO的獨特復雜性,但盡早與理論和終端用戶的投入一起開發這些技術可能會產生額外的好處。否則,可能會失去效率,訓練效果也會受到影響。從組織的角度來看,這可能需要理論發展組織與訓練發展組織緊密結合。
第二,訓練能力的部署過程可能與訓練能力的開發過程同樣重要(Marler, 2022)。即使有了針對適當目標的能力,如果沒有與訓練過程適當結合,它們也可能是無效的。因此,在開發訓練能力的過程中,考慮將其插入的課程可能是有益的。例如,僅僅購買VR系統和開發高質量的內容可能是不夠的;開發人員和用戶可能有必要事先了解VR在當前訓練管道中的使用情況,包括從基礎訓練到繼續訓練以及高級訓練。
第三,系統的互操作性可能需要在開發過程的早期成為訓練能力整合的基石。如果把它作為采購的事后考慮,可能會被扼殺。新的訓練軟件和模擬器可以從盡早加強互操作性的努力中受益(SPPS, 2022)。
這些原則可能需要被激勵。國防部可能有責任設計和實施促進協調的激勵措施。另一種選擇是在新的復雜問題面前重溫舊的挑戰和錯誤。可以肯定的是,以政策的形式進行積極的約束,要求各組織以某種方式進行協調,肯定是有先例的。還有一個先例是更多的被動激勵,比如資金,它吸引了一個預期的行為。也許不太常見的是,在廣泛的透明度和溝通新出現的能力和意圖方面的內在激勵。如果不同的組織,無論是國家還是軍事部門,適當地公布他們的訓練目標、能力和過程,這將有助于促進協調。這后一種形式的激勵可能是平衡集中協調和分散目標的關鍵。也許,如果MDO要提供新的好處,解決老問題的方法之一可能只是更頻繁的溝通。
(2020年2月5日,美海軍陸戰隊網絡空間司令部的海軍陸戰隊員在馬里蘭州米德堡拉斯韋爾大廳的網絡作戰中心觀察計算機運行情況。海軍陸戰隊開展進攻性和防御性網絡作戰以支持美國網絡司令部,并操作、保護和保衛海軍陸戰隊事務網絡)
沖突的勝負取決于軍事抵消,也就是國防單位可以用不對稱的方式來打擊對手的優勢。隨著大國競爭、對手技術的超常發揮以及不斷擴大的戰場,傳統的抵消手段往往被人工智能(AI)所增強。然而,國防部(DOD)將人工智能投入使用的能力剛剛起步。五角大樓采用的最初的人工智能計劃側重于將商業能力轉移到國防部門,因此強調技術性能,不強調以任務為導向的功能。因此,最初的試點項目未能進入現實世界的作戰環境(OE)。
實用化取決于這樣一種認識,即人工智能不是一種最終狀態,而是實現軍事優勢的一種方式。為此,人工智能相關方法的技術執行必須與作戰環境相結合。這種考慮與傳統思維不同,因為人工智能解決方案的開發通常是為了實現某種統計閾值(例如,召回率、精確度),而不是軍事目標(例如,增加對峙距離)。
這一動態被 "算法戰"一詞所混淆,目前該詞混淆了技術和軍事特征。算法戰旨在減少處于危險境地的作戰人員的數量,在時間緊迫的行動中提高決策速度,并在人類無法操作的時候和地方進行操作。然而,這些目標都不涉及數學或計算機科學;它們完全建立在軍事最終狀態之上。問題是,在五角大樓走上人工智能的道路之前,科學、技術、工程和數學學科與軍事目的之間的橋梁從未建立。
所需的橋梁是一個指導和評估人工智能實用化的框架,一邊是算法性能,另一邊是任務效用。這樣的組合確保了數學方程可以證明或從數字上驗證一個人工智能系統,而定性的基準則保證了實際應用。其結果是算法戰不僅基于統計數據,而且基于更廣泛的作戰相關性架構。這種相關性體現在五個要求上:
為軍事人工智能項目制定有效性措施(MOE)需要將研究和技術方法(例如,基礎理論)與美國防部的條令相結合。如果沒有這種映射,算法戰就會淪為算法開發過程,而不是作戰部署。例如,一個旨在檢測視頻中目標的計算機視覺算法(如地理空間情報分析)被簡化為該模型發現的車輛數量或其發現這些車輛的準確性。那么,成功是指該算法在85%的時間內正確找到車輛。
但在軍事行動中,85%的時間檢測到車輛有什么用?這就是維護理論的完整性所帶來的背景。以上面的例子為例,評估同一算法時不是看它正確探測車輛的頻率,而是看它對任務的影響:由于該模型的存在,分析人員識別感興趣的車輛的速度提高了95%。這樣的方法將算法的設計與任務的部署聯系起來。雖然這似乎是常識,而且這種關系甚至可能在項目文件中被模糊地表示出來,但在國防部的任何地方都沒有一個表示的標準。
評估標準仍然需要保持解決方案的獨立性(即,無論情報類型、使用的算法、部署的作戰環境或任務要求如何,這些標準都適用)。因此,在這項研究中,人工智能原則被編入可量化的屬性和指標中,與系統和程序無關。評估標準也以 "去 "與 "不去 "的方式進行表述,以創建一個符合邏輯的、自上而下的層次結構,與相關的聯合出版物同義。其結果是規范、監測和評估國防部人工智能系統的基線。
如前所述,可實操化的人工智能是由任務效用的五個方面定義的人工智能:最低限度的可行性、適應未知和不可知情況的能力、洞察力優先于信息、應用所需的自主性水平以及戰場準備情況。這些MOE中的每一個都是算法戰的基礎。對這些信息的分析產生了一個全面的框架,其中包括每個MOE的指標和效果。整個框架是以條令定義和程序為基礎的。
(2017 年 11 月 1 日在華盛頓特區舉行的 NVIDIA GPU 技術大會期間,顯示屏展示了用于執法的車輛和人員識別系統。該大會展示了人工智能、深度學習、虛擬現實和自主機器。)
衡量有效性的軍事程序依賴于一個自上而下的架構。這意味著,只有當一項措施的每一個指標也存在時,該措施才會存在。同樣,一個指標只有在該指標的所有影響也存在時才會存在。這是一個二元的、全有或全無的過程,可以像常規軍事活動一樣隨時適用于人工智能。
在傳統的高價值目標(HVT)生命模式分析中,一個MOE定義了軍事行動的一個預期結果(例如,高價值目標移出責任區[AOR])。該MOE的所有定義指標必須得到滿足,因此不能任意或有選擇地稱之為成功。例如,情報應該表明:(a) 在新的責任區發現了HVT,(b) 在新的責任區發現了已知的HVT同伙,以及(c) HVT在新的責任區獲得了基本的生活支持系統(例如,住房,交通)。隨后的效果遵循同樣的過程:支持指標 "a "的效果可能包括識別已知的物理特征和探測通信信號。
因此,盡管常規和人工智能MOE在戰術執行上有所不同,但決策驗證的基本系統是相同的。只有在對人工智能領域有基本了解的情況下,才能驗證人工智能MOE,這與情報部門制定的MOE不能由作戰部門驗證的情況是一樣的。
算法戰是通過人工智能手段進行的戰爭。人工智能手段是指那些不僅是智能的(收集和應用洞察力),而且是人工的(以人類無法做到的方式對智能采取行動)。在沒有人類干預的情況下,系統必須學習如何為自己表示數據。這方面的另一個術語被稱為機器學習。有不同類型的機器學習,但當涉及到戰場時,無監督的機器學習將成為黃金標準,因為它的靈活性和從未知和非結構化信息中獲取輸出的能力。在這個黃金標準中,一種被稱為深度學習的特定方法是獨一無二的,它能夠更精確地表示復雜的問題。鑒于戰場的動態性質,更精確地表示復雜問題的能力是最重要的。
因此,算法戰只能通過以下方式實現:(a) 工作系統(最低限度可行)能夠(b)從未知和不可知的場景(無監督)中自行學習,同時(c)將復雜的戰場環境轉化為有用的洞察力(啟用深度學習)(d)幾乎沒有無指導(自主)和(e)在實時任務環境中(戰場準備)。這些MOE和圖中的架構是人工智能實操化的第一步;它們為如何凝聚技術和操作因素奠定了基礎,同時也使任何人工智能項目的 "成功 "標準化。
(圖 數字算法(人工智能)戰爭的有效性度量)
最低限度的可行性檢驗了算法戰是否積極地改變了作戰環境。"積極改變作戰環境 "意味著存在著競爭優勢和性能改進,證明人工智能的部署是合理的。該理由來自行業指標(技術因素)、針對類似系統的排名以及對人類操作員的效用。
在翻譯的例子中,一個自然語言處理算法在以下情況下是最可行的:(1)行業指標證實它準確地將地面真相數據翻譯成正確的語言;(2)該算法在同一技術類別和OE中優于其他可用算法;(3)機器翻譯優于人類。
與最低生存能力相關的競爭優勢和性能改進因素是必要的,因為如果沒有這些因素,非算法衍生的戰爭將更加有效--因此,否定了對可操作人工智能的需求。
無監督算法是實戰任務的理想選擇,因為它們的靈活性和即使在未知情況下也能得出洞察力的能力。簡而言之,無監督系統可以在沒有預設信息的情況下運行,并在新信息出現時學習。
可以從敵人交戰的例子中得出一個常規的等價物。例如,部署的服務成員在交火結束之前并不知道交火會如何發展。然而,他們被期望在沒有警告的情況下對敵人的火力做出適當的反應,并對新的對手的運動和活動得出相關結論。
成功的算法戰項目將需要在戰術執行和長期學習能力方面表現出與軍人相同的適應性。
回顧一下,深度學習可以降低復雜性。在實際任務中降低復雜性是關于如何表示和理解信息。正如人類一樣,有效的算法戰是以模式檢測、推理和問題解決為前提的。
模式檢測本質上是獲得知識,然后可以概括地預測未來的未知情況。假設一個部署在機場的非航空部門的軍人看到一架直升機從頭頂飛過。這個人注意到該直升機獨特的物理特征,如整體尺寸或串聯旋翼。這些獨特的特征將直升機與其他變化區分開來,隨著時間的推移,服役人員可以利用學到的視覺線索在整個機群中選擇正確的直升機。人工智能以同樣的方式識別視覺模式;在隨后的觀察中反復學習直升機特征。然后,這些特征被概括為區分一架直升機和另一架直升機或一架直升機和非直升機。
推理改進了知識的獲得,以便發現環境中的微妙之處,并將這些微妙之處邏輯地聯系起來。例如,如果在某些天氣模式下從未見過直升機,推理將推斷出天氣(OE的次要元素)影響了飛行能力。有了人工智能,惡劣的天氣會增加二次確認,即沒有旋翼的飛行物不是直升機。
最后,順序問題的解決將一個大問題(即如何駕駛直升機)分解成更小的問題(即飛行路徑是什么,有多少燃料,需要多少飛行員,等等)。因此,如果不降低復雜性,算法戰將缺乏將信息轉化為洞察力的能力。
由于算法戰假定利用了非人類的手段,人工智能必須獨立地制定和裁決行動方案。而人工智能必須根據自己的決策、反應能力和對形勢的認識來完成這一裁決。
決策是一個在環境中發展和解決選擇的問題。在一個慣例的環境中,一個指揮官面對相互沖突的情報、監視和偵察飛行路線,會制定一個資產優先級矩陣,然后根據這些要求進行沖突處理。這不僅僅是一個產生可行方案的問題,而且還要弄清楚這些方案中哪個對整個任務最有利。為了做到這一點,系統必須能夠融合決策標準(例如,資產的數量、收集要求、飛行時間等)。必須有傳感器來定義決策標準(例如,飛機燃油表或人類/口頭提示)。然后,必須對所有可用的選項進行修剪。最后,系統必須認識到當前狀態的變化,并對該變化產生的新信息做出反應(例如,航空資產的駐留時間結束,所以不再需要解消沖突)。
響應性是對決定性的補充。也就是說,系統能否在規定的時間內對它從未見過的情況作出適當的反應?要做到這一點,系統必須具備必要的態勢感知功能:攝入、處理、迭代和行動。所有的指標都能確保可操作的人工智能改善決策時間表,而不是抑制它們。
戰場準備度是衡量系統是否能在實際任務空間中運作的標準。由于任務限制是巨大的,人工智能不能在實驗室里開發,而不預先考慮它將如何在現實世界中運作。明確地說,實驗室人工智能的局限性并沒有被戰場所規避,而是被放大了。開放式架構受到軍事基礎設施的限制。不可知的管道被孤立的、傳統的系統所困。普及的高速網絡一旦部署到前方就會變得零星或斷斷續續。而商業部門普遍存在的未經審核的專家則被訪問受限的用戶社區取代,他們幾乎沒有人工智能的專業知識。
簡而言之,人工智能必須補充,而不是混淆正在進行的行動。從一開始就解決任務限制,然后必須包括與現有系統的整合和溝通。此外,這種整合應該進行測試或鑒定,以便在部署前證明效用,以及這種效用的左右限制。這就像軍事人員被授予可部署性的范圍一樣,或者反過來說,糟糕的體能測試會導致不可部署性的發生。
五個可操作的人工智能MOE共同代表了初始和完全操作能力(IOC/FOC)的標準閾值。使用MOE框架中的決策門做出的IOC/FOC決定將加速人工智能的采用并改善美國在算法戰爭領域的定位。
(圖 軍事人工智能發展的目標之一是在人類智能代理團隊中將戰場上的士兵與無人駕駛車輛直接聯網,這將加速情報收集、目標識別和火力任務執行。)
如果沒有一個支持算法戰的人工智能操作框架,當前的美國防部計劃將會失敗。本文提出的框架是第一個在國防人工智能領域定義成功的框架,并將為政府監督提供必要的問責措施。
雖然本文的意圖是對算法戰爭的不可知的解決方案,但額外的研究是必要的。應指定資金用于將這一框架串聯到具體的系統、學科和項目。為了支持這一努力,獲取機密材料和對機密系統進行定量實驗將是至關重要的。定量實驗不僅可以驗證本文的前提,還可以開始創建一個網絡來比較和改進國防人工智能測試和評估。也就是說,在多種環境、系統和問題集中持續、一致地使用MOE架構將使人工智能項目在一個單一、共同的評估框架下保持一致。為此,本文介紹的MOE架構支持兩種功能:(1)通過迭代改進 "走-不走 "決策門的結果來實現更有效的系統;(2)通過比較各自的MOE來決定各種系統。
從戰略上講,圖中概述的架構應該被整合到國防部的采購、技術和后勤流程中。目前的范式不是為人工智能項目的指數增長和非傳統性質而建立的。圍繞普遍的評估標準校準當前和未來的國防部人工智能解決方案將實現標準化,同時加快耗時的采購流程。此外,負責企業人工智能活動的組織應在其工作中實現框架的標準化,以便更迅速地將應用研究和開發過渡到業務使用。
不過,組織的努力不應停留在政策上。目前,國防部沒有利用軍事人員進行人工智能活動的機制。具體來說,沒有與人工智能相關的軍事職業專業(MOS),也沒有官方系統來識別和分配熟練人員到人工智能項目。其結果是缺乏可用的混合人才;也就是說,既精通人工智能又精通任務的人員。建立一個數據科學或以人工智能為導向的MOS,類似于在網絡領域發生的情況,將使人工智能能力的運作更具可持續性。它還將以越來越多的合格軍事人員來充實小規模的合格人工智能專業人員庫。另外,傳統的MOS可以適應現代戰爭的特點。例如,在一個多情報融合普遍存在的世界中,特定學科的情報分析員可能并不重要。修改或增加人工智能技能標識或專業將遏制MOS相關性的下降。
在戰術上,五角大樓對人工智能的推動需要伴隨著一場自下而上的運動,這樣采用人工智能的組織就不會簡單地被賦予一種沒有背景的能力。相反,他們應該在他們帶來的抵償中擁有積極的發言權。基層的努力可能包括在IOC/FOC設計計劃之前在單位層面進行影響分析和壓力測試,以了解脆弱性和優先需求。
人工智能的操作是一項以任務為中心的努力,必須在戰術上有意義,才能產生任何戰略影響。在為地面部隊帶來切實的投資回報之前,人們對算法戰爭的價值普遍猶豫不決;因此,對抗性的超限戰將成為一個越來越無法獲勝的現實。
國防部不能在沒有操作這些項目的框架下繼續執行人工智能項目。本文介紹的架構正是通過加速和規范政府通過高度創造性的、具有操作性的技術發展人工智能能力的努力來實現的。
網絡空間是支持戰場物聯網(IoBT)的數字通信網絡,是以防御為中心的傳感器、計算機、執行器和人類以數字方式連接的模式。一個安全的IoBT基礎設施有助于在分布式子系統中實時實施觀察、定位、決定、行動(OODA)循環。網絡犯罪分子和戰略對手的成功黑客行為表明,像IoBT這樣的網絡系統并不安全。三條工作路線展示了一條通往更強大的IoBT的道路。首先,收集了企業網絡流量的基線數據集,并通過生成方法對其進行建模,允許生成真實的、合成的網絡數據。接下來,通過算法制作了網絡數據包的對抗性例子,以欺騙網絡入侵檢測系統,同時保持數據包的功能。最后,提出了一個框架,使用元學習來結合各種薄弱模型的預測能力。這導致了一個元模型在數據包的整體準確性和對抗性實例檢測率方面優于所有基線分類器。國防戰略強調網絡安全是保衛國土和在信息時代保持軍事優勢的必要條件。這項研究提供了學術觀點和應用技術,以推進美國防部在信息時代的網絡安全態勢。
圖 22. 對抗性樣本的生成和測試的4個步驟
圖23. 元學習框架通過智能地結合每個基礎模型的預測能力來加強對對抗性攻擊。對抗性訓練的分類器是通過5.3所述的增強數據集進行訓練。
美國國防部(DoD)預計,未來的戰爭將主要在網絡領域進行,對手包括戰略競爭對手和非國家行為者。由于美國從未打過一場全面的網絡戰爭,因此對 "路線規則"并不十分了解[6]。敵人有可能通過已知和未知的威脅載體來攻擊美國的利益。這些攻擊的影響可能是非動能性的,即對信息系統的未獲許可的訪問或控制,或者是動能性的,即攻擊導致物理資產的破壞、基礎設施的損害或死亡。許多遺留的網絡物理系統在建造時沒有預見到網絡漏洞[7]。隨著戰場物聯網的發展,包括更多的這些系統,潛在的網絡威脅暴露也在增加。想象一下,當士兵的可穿戴設備在戰斗中因網絡攻擊而發生故障時,會出現怎樣的混亂。至關重要的是,我們要在對手利用這些缺點之前,用新技術解決我們軍隊的網絡安全問題。生成式機器學習和元學習是新興領域,可能為網絡安全研究中一些長期存在的障礙提供解決方案。
入侵檢測系統(IDS)是一種阻止和防御網絡攻擊的方法[7]。不幸的是,IDS需要大量的數據集進行訓練[2]。有機的網絡攻擊數據,帶有標記的條目,是出了名的稀缺。NSL-KDD[8]試圖糾正被廣泛引用的KDD-CUP基準數據集的問題,然而,即使是改進的版本也是過時的,而且范圍有限。
生成式機器學習是人工智能的一個領域,有可能以新的方式解決未解決的問題。諸如馬爾科夫鏈蒙特卡洛、自動編碼器和生成對抗網絡(GANS)和自動編碼器的方法被用來估計未知的概率分布函數。對多樣化和現實的生成數據的應用是很迫切的,特別是對網絡。生成方法提供了一個分析和綜合網絡數據的途徑,而生成方法與元學習的結合提供了一個防止某些網絡攻擊的機會。
本章的其余部分介紹了三個促進美國網絡系統安全的研究課題。第2章提供了一個相關主題的總體文獻回顧,以及一個精心挑選的可能對讀者特別有價值的來源的快速參考表。第3至5章提供了與貢獻1、2和3相對應的已完成的研究手稿。以前發表的研究是第六章,最后總結了研究的主要發現以及它們對現代防御的影響。附錄提供了不適合于主文件的額外信息。附錄A是元學習NIDS的相關研究,不適合于所述貢獻。附錄B是一個參考的AFIT論文表。附錄C包括支持貢獻1的數據表格。
本論文提出了三個研究課題以支持軍隊安全態勢的現代化。雖然每個課題都可以獨立進行,但本論文采取了連續的方法,早期研究的結果增強了后來的工作。本論文的總體目標是證明在建立一個對對抗性攻擊具有強大抵抗力的入侵檢測系統方面取得了重大進展。
貢獻1:生成真實的合成網絡數據。
第一個研究目標是對現代網絡數據的概率分布進行建模,并從基線分布中生成額外的、現實的數據。預定的生成模型可以是明確的,以概率分布函數的形式,或隱含的,如GAN。生成方法將在第2.2節討論。無論怎樣,模型生成的現實數據必須證明與基線數據的分布相匹配。與第4.2節中NSL-KDD[8]、KDD-CUP[9]、UNSW-NB15[10]等其他基準數據集不同,生成的數據必須能夠代表現代政府系統中的網絡流量,包括授權和惡意行為者的例子,而且比例適當。惡意流量必須是現代網絡攻擊的代表,并反映原始分布中未觀察到的例子。一個可能的策略是通過在敵對環境中收集的真實網絡數據或在現實的高保真模擬中收集的數據來訓練一個生成模型。然后,基線數據可以用來訓練一個生成模型,能夠從與基線相同的分布中創建新的、現實的例子。
特別是,生成模型應該強調對模式崩潰的復原力,并且應該對變量之間的宏觀層面的關聯性進行建模。如果成功,現實生成的網絡數據將被用作創建對抗性例子的起點。擴大的、生成的數據集比小的真實數據集更受歡迎,因為它展示了生成方法的可行性,以克服新型網絡攻擊中的數據不足。隨著網絡日志數據中新現象的發現,它們將被復制到更大的數量,有利于創建對抗性例子和強大的IDS。如果生成方法不能產生現實的數據,那么目標二可以使用數量更多的基線數據來實現,而這些數據的獲取是昂貴和費力的。為了支持貢獻1,已經提交并接受了兩篇存檔的同行評審論文。《網絡領域生成方法的挑戰和機遇》已被《2021年冬季模擬會議論文集》接受,《為訓練和評估網絡入侵檢測系統的機器學習分類器生成現實的網絡數據》已提交給《應用專家系統》。這兩項工作都是由Marc Chal′e(主要作者)撰寫的,委員會成員為支持學位論文研究做出了貢獻。支持貢獻1的工作在第三章和附錄C中介紹。
貢獻2:生成對抗性樣本。
第2個研究目標是產生能夠躲避現代IDS的對抗性樣本。對抗性樣本必須使用新的技術來創建,包括適用的生成方法。對抗性樣本必須超越諸如[11]的工作,強制執行網絡數據的不可變方面[12],并實現端到端的攻擊。解決這一挑戰可能會增加最先進的網絡攻擊對當前IDS的有效性,但一旦這些技術被確定,它們就可以在強大的IDS中得到解決。盡管最近在計算機視覺領域創造對抗性攻擊方面取得了進展,但在網絡領域產生對抗性攻擊是特別具有挑戰性的[12]。為了使被擾亂的互聯網協議(IP)數據包能夠促進端到端的網絡攻擊,數據包必須保持其專門的數據結構以及執行時的原始功能。雖然圖像可以不受限制地被擾動,并產生一個有效的圖像文件,但在互聯網上傳輸的IP數據包在擾動過程中會被破壞,導致無效的端到端攻擊。盡管最初對網絡領域的對抗性攻擊的研究[11] [13] [14]集中在擾亂網絡數據的特征向量上,但更困難的任務是擾亂網絡數據包的實際有效載荷,同時保持其原始功能[13] [15] [12]。或者,可以生成一個對抗性的特征向量,然后反向設計成一個能躲避IDS的功能性IP數據包。在努力實現端到端黑盒攻擊的過程中,我們必須證明對抗性例子可以被限制在網絡領域的標準內。這一目標在提交給《計算機與工業工程》的期刊文章《基于約束優化的網絡入侵檢測系統轉移攻擊的對抗性實例生成》中實現。 這項工作是由Marc Chal′e(主要作者)撰寫的,委員會成員為支持論文研究做出了貢獻。支持貢獻2的工作在第四章和附錄D中介紹。
貢獻3:展示一個強大的入侵檢測系統。
入侵檢測系統在保護網絡系統數據的保密性、完整性和可用性方面發揮著重要作用,但它們存在根本性的缺陷。幾種流行的基于規則的IDS對惡意軟件的檢測率在實踐中是驚人的低。一項研究發現,Zeek使用其基于規則的警報系統只檢測到52%的惡意軟件攻擊[16]。這種乏善可陳的表現可能促使了機器學習入侵檢測系統的最新發展。雖然近年來IDS的能力有所提高,但對手也在不斷創新他們的方法。此外,自2005年以來,美國報告的入侵事件的比率一直在增加。大多數IDS漏洞被認為是規避攻擊的結果,其中IP數據包被修改為看似無害,但實際上是有害的[17]。在現代,諸如[11]這樣的規避攻擊使用啟發式方法來擾亂IP數據包的特征,騙過IDS。
因此,最終的研究目標是利用GML和元學習等技術,提高基于機器學習的IDS的分類性能和魯棒性,如[2]。通過分類性能,我們特別指出了召回率(檢測率)和準確率的指標。穩健性是指算法對來自于與訓練所用的例子不同的分布的例子有很好的概括傾向[18];它是當今網絡環境中模型的一個越來越重要的特征。
雖然貢獻2暴露了基于ML的IDS的安全漏洞,但貢獻3提供了一個解決方案。這一研究目標在MADFACTS中實現。MADFACTS: Meta-learning Augmented Defense For Adversarial Cyber Techniques是一篇已完成的長篇文章,正等待提交給《計算機與安全》、《未來互聯網》或《優化通訊》等刊物。這項工作是由Marc Chal′e(主要作者)撰寫的,委員會成員為支持論文研究做出了貢獻。支持貢獻3的工作將在第四章介紹。
影響。
上述研究目標對物聯網的網絡防御和整個國家安全有協同的影響。貢獻1旨在解決網絡領域長期缺乏標記的高質量訓練數據的問題。貢獻2提供了一個技術優勢,以對抗那些希望開發針對物聯網的新型對抗性攻擊的網絡犯罪分子和對手。貢獻1和貢獻2的成功加強了貢獻3的工作,其中一個強大的IDS擊敗了對手的例子。這些成就符合軍事戰略的更大愿景,即在所有領域(包括網絡、空間、陸地、空中和海上)實現機動性自由。加強整個IoBT的網絡安全對于指揮官在現代跨域戰爭中造成預期的影響是必不可少的,因為指揮、控制、情報和識別是決策的骨干,而且越來越數字化了。這項研究提供了一條有希望的途徑,以提高對抗不斷變化的攻擊威脅的穩健性。
2022年6月15日,英國國防部在倫敦科技周人工智能峰會上發布了《國防人工智能戰略》,旨在“雄心勃勃、安全和負責任地”使用人工智能的戰略和相關政策。本戰略支持創建新的國防人工智能中心(DAIC),以提供前沿技術樞紐,支撐英軍使用和創新相關技術。本戰略概述了以下內容:一是在國防中使用人工智能的新倫理原則;二是人工智能在國防部加強安全和現代化的地位和應用;三是考慮通過人工智能研究、開發和實驗,通過新概念和尖端技術徹底改變武裝技術能力,并有效、高效、可信地向戰場交付最新裝備。該戰略將將成為英國人工智能戰略的關鍵要素,并加強國防在政府層面通過科學和技術獲取戰略優勢的核心地位。
圖 英國國防部發布《國防人工智能戰略》
(本文根據原文編譯整理,僅供交流參考,觀點不代表本機構立場。)
英國國防部人工智能戰略的愿景是:以英國規模為標準,成為世界上最有效、最高效、最可信和最具影響的國防組織:
有效——提供戰場制勝能力和支持,以及英國與盟友關于人工智能生態系統合作的能力;
高效——通過創新使用技術交付能力,進行作戰并實現生產力效應;
可信——基于人工智能系統的安全性和可靠性受到公眾、盟友和人民的信任,根據英國核心價值觀合法合規地使用人工智能;
影響——積極參與合作和引領人工智能技術的全球發展和管理趨勢;
二**、背景和必要性******
英國國防部《綜合評估(2021)》強調指出,國家在人工智能領域的卓越表現是確保英國在2030年前成為“科技超級大國”的核心。英國國防部《國家人工智能戰略(2021年)》指出,人工智能在改寫整個行業的規則、推動經濟大幅增長和改變生活的所有領域方面具有巨大潛力。英國國防部《綜合作戰概念 (2020年) 》描述了無處不在的信息和快速的技術變革如何改變了戰爭的性質。在軍事作戰的各個領域,沖突正變得愈發復雜。新技術產生大量數據,解鎖新的威脅和漏洞,并通過如蜂群無人機、高速武器和先進網絡攻擊等下一代先進能力擴大潛在攻擊的規模。
人工智能技術以及其影響可能會極大地縮短決策時間,使人類理解負擔加重,而且這些在現代戰場中需要快速做出反應。正如《國防司令部文件(2021)》所指出的,“未來沖突的勝負可能取決于所采用人工智能解決方案的速度和效率”。因此信息作戰變得越來越重要。簡而言之,當代國防正在發生一場根本性的劇變,與人工智能相關的戰略競爭正在加劇,因此必須迅速、主動和全面應對。
本戰略闡述了英國將如何應對這一重大戰略挑戰,其應該引起英國國防部的重視,并參與部隊發展和國防轉型,英國國防部需要明確其機構與人工智能相關的要素并采取相應行動,以在后續執行和交付方面發揮關鍵作用。
三、發展途徑
**一是英國國防部需要轉變為“人工智能就緒”的組織。**具體措施是:1)推動文化、技能和政策變革,培訓領導人,提高人員技能,并加強國防人工智能和自主部門的組織能力;2)創建國防人工智能技能框架和新的人工智能職業發展和晉升路徑;3)將數據視為關鍵戰略資產進行管理和應用,建設新的數字主干網絡和國防人工智能中心。
**二是在速度和規模上采用和利用人工智能,以獲得防御優勢。**具體措施是:1)將人工智能視為能力戰略和部隊發展過程中戰略優勢的關鍵來源;2)短期路線采用成熟的數據科學、機器學習和先進的計算統計技術提升效果和生產力,長期路線進行尖端人工智能技術研發;3)采用多學科多技術將人類認知、創造力和責任與機器速度分析能力相結合以評估人工智能系統的脆弱性和威脅;4)與盟友和伙伴密切合作開發創新能力解決方案以應對共同的挑戰。
**三是推動和支持英國國防和安全人工智能生態系統。**具體措施是:1)通過英國工業和學術人工智能的雄厚基礎以及政府的支持建立信心并明確要求;2)視人工智能生態系統為戰略資產,消除行業壁壘,建立更具活力和一體化的伙伴關系;3)促進行業聯系建立新的國防和國家安全人工智能網絡,促進人才交流和共創,鼓勵業界投資國防相關的人工智能研發,并簡化國防數據和資產的獲取。4)促進中小企業,使監管方法現代化,支持業務增長并最大限度地利用國防人工智能相關知識產權促進相關技術商業化。
**四是塑造全球人工智能發展,以促進安全、穩定和民主價值觀。**具體措施是:1)按照英國的目標和價值觀塑造人工智能的發展,促進倫理方法,并影響符合民主價值觀的全球規范和標準;2)促進安全與穩定,確保英國的技術進步得到適當保護,同時探索建立信心和將軍事人工智能使用風險降至最低的機制;3)考慮可能出現的極端甚至事關生存的風險,并積極與盟友和合作伙伴接觸,制定未來的安全政策,尋求建立對話,以降低戰略錯誤、誤解和誤判的風險。
四、優先效果
通過采用人工智能技術實現本戰略目標,使英國武裝部隊實現現代化,并迅速從工業時代的聯合部隊過渡到敏捷信息時代的綜合部隊,國防部將受益于效率和生產率的提高,其期望的優先效果如下:
決策優勢:通過更充足、更分散的決策制定和基于威脅的機器快速響應,提高作戰節奏和靈活性。
效能:通過智能自主提高靈活性、效能和可用性。
解鎖新能力:通過開發新的作戰方式確保作戰優勢,增強軍事效果,保護人民免受傷害。
武裝部隊:減輕部隊負擔,并將人類決策集中在基于獨創性、背景思維和判斷力的高價值職能上。
五、戰略綜述總結****
**六、**結束語
人工智能必須成為未來必不可少的技術,其也促使著英國國防部改變對現代技術的看法,調整其技術方向和戰略需求,全面擁抱世界領先的人工智能解決方案和能力,推進其國防業務中觀念、文化、規劃和交付方面的持久變化,并將其作為國防戰略融入國防領域,以確保英國軍隊成為敏捷信息時代的綜合部隊。
編譯:船の心
END
世界軍事電子領域2021年度十大進展
由HAVELSAN公司開發的虛擬環境中的部隊(FIVE)模擬器軟件,利用各種虛擬戰爭設備(如武器、傳感器和通信工具等),以安全和具有成本效益的方式提供全面的戰術和行動訓練環境。目前,管理FIVE實體的行為模型高度依賴于由現場專家和系統工程師開發的基于規則的行為。然而,FIVE軟件的基于規則的操作需要密集的編程和現場專家的指導,因此是高度勞動密集型。此外,這項任務的復雜性和負擔隨著場景的復雜性而大大增加。此外,具有基于規則的行為的虛擬實體對其環境有標準和可預測的反應。因此,在這項研究中,我們通過強化學習技術和其他機器學習技術,即FIVE-ML項目,提出了從基于規則的行為到基于學習的自適應行為的過渡研究。為此,我們主要對空對空和空對地兩種情況下的六個虛擬實體進行了基于強化學習的行為模型訓練。據觀察,用強化學習訓練的虛擬實體主導了現有的基于規則的行為模型。在這些實驗中,我們還發現,在強化學習之前,利用監督學習作為起點,可以大大減少訓練時間,并創造出更真實的行為模型。
今天,培訓將使用飛機的飛行員是最重要的。用真實的飛機訓練飛行員是相當困難的,原因包括空域法規、過高的成本和訓練中可能出現的風險,以及創造真實世界場景的復雜性,包括對手或盟友使用的真實防御和戰爭平臺。飛行員訓練中使用的飛行模擬經常與戰術環境模擬結合在一起工作。通過這些戰術環境模擬,飛行員通過控制高保真飛機模型在許多低保真實體的存在下完成場景的訓練。這些低保真資產由計算機創建和控制,通常被命名為計算機生成的部隊(CGF)[1],它們是代表空中、陸地或海上防御或攻擊系統的自主單位。
CGFs被用于人員部署的準備過程、戰術訓練或新戰略的開發。CGFs需要為每個應用(或每個場景)進行不同的編程。這些由傳統方法創造的力量會導致非適應性和不靈活的行為模式。這導致學生在靜態編程的資產面前接受模擬訓練,降低了訓練的質量。當需要新的場景時,需要專家來創建新的場景。此外,由于情景創建將使用經典的控制分支進行,在創建新情景的過程中,考慮所有的可能性往往是不可行的,即使是可能的,也是一項相當有挑戰性的任務。由于這些原因,人們越來越需要更真實的虛擬環境和新的場景來適應不斷變化的世界,以模擬飛行員候選人自己的任務和敵對部隊的當前能力和戰術。
在這項研究中,提出了向以人工智能為導向的行為建模過渡,而不是傳統的特定場景建模,以此來解決前面描述的問題。換句話說,虛擬實體將被轉化為能夠學習的動態虛擬實體。但這些虛擬實體在訓練過程中需要考慮許多情況。首先,他們必須學會對他們用傳感器感知到的環境因素作出適當的反應。然后,它必須識別他的隊友和敵人,并根據他們的等級信息和附加在他們身上的彈藥類型采取行動。它應該能夠與他的隊友合作,采取團隊行動。
為虛擬資產添加智能的機器學習的首選方法是強化學習(RL)[2],其根本原因是:實體將采取的行動有延遲的后果。近年來,與傳統的控制方法相比,RL被認為是解決復雜和不可預測的控制問題的新方法,并在許多領域得到利用,如機器人、計算機視覺、自動駕駛、廣告、醫學和保健、化學、游戲和自然語言處理[3]-[9]。自從將深度學習引入RL概念(即深度RL[10])后,文獻中的研究得到了提升,如許多具有挑戰性的計算機視覺和自然語言處理任務[11]-[15]。
為了這個目的,在這項研究中(即FIVE-ML),已經實現了從HAVELSAN FIVE軟件的基于規則的行為模型向基于RL的行為模型過渡的第一階段實驗。從這些實驗中可以看出,用RL算法訓練的智能虛擬實體在空對空和空對地的情況下都優于HAVELSAN現有的基于規則的實體。此外,模仿學習[16]、[17]和RL的聯合實施也取得了成功,這加快了FIVE軟件的完整過渡過程。
可以預見,通過學習飛行員候選人的選擇來開發新策略的模擬將把飛行員培訓帶到一個非常不同的點。當項目完成后,將設計一個新的系統,允許在其領域內培訓更多裝備和專業的戰斗機飛行員。一個現有的基于規則的場景系統將演變成一個可以自我更新的系統。因此,飛行員候選人將有機會針對智能實體發現的新策略來發展思路,而不是滿足于該領域的專家的知識和經驗。此外,從一個經過大量努力準備的場景機制,計算場景自動化機制將使整個過程自動化。
在決定是否減輕或接受網絡攻擊對武器系統的風險時,最重要的考慮因素是它如何影響作戰任務——也稱為任務影響。然而,對整個空軍的每個系統和所有任務進行全面評估是不切實際的,因為每個系統都很復雜,有大量潛在的漏洞需要檢查,每個漏洞都有自己復雜的威脅環境。
進入網絡任務線程分析框架。為了分析任務影響,作者提出了這種旨在同時實現幾個目標的新方法:足夠全面,可以在美國空軍的每個任務的規模上執行,但信息量足以指導決定接受或接受減輕特定風險。此外,該方法非常簡單,可以在不超過幾個月的時間內執行,并且可以根據需要進行更新。
該框架遵循自上而下的方法,從捕獲所有關鍵任務元素的整個任務的“線程”(映射)開始,然后是支持其執行的系統。雖然作者并未將網絡安全風險評估問題簡化為交鑰匙解決方案,但他們提出了有用的方法來分類與任務成功最相關的領域,同時將對漏洞和威脅的詳細調查限制在最關鍵的領域。他們的框架旨在大規模完成,適用于各種場景,并明確其工作方式。
00 報告研究的問題
01 主要發現
1.1 在合理的資源支出下分析大規模的任務影響是一個主要的挑戰
1.2 隨著新系統的引入、舊系統的修改以及戰術、技術和程序的發展,執行任務的方式發生了變化
1.3 網絡空間的特點之一是冗余無效
1.4 失去指揮和控制可能會在沒有任何系統或組件故障的情況下損害任務
1.5 當決策者不了解分析的工作原理時,他們通常會恢復直覺和判斷
02 建議
要大規模執行任務影響評估并節省工作量,請使用系統工程熟悉的方法和可用于分類的任務關鍵性標準組合。
定義任務時,不要包含任何系統。在分析的后期介紹特定系統的作用。
將隨著時間推移相對穩定的工作與需要在系統生命周期中更新的分析分開。
盡可能使用現有的和經過驗證的技術以保持透明,以便決策者了解分析的工作原理及其局限性,并信任它來指導決策。
應用網絡分離的概念來解決冗余問題。
在任務和系統級別合并功能流程圖,以解決對手指揮和控制分析問題。
為了全面驗證和驗證網絡任務線程分析框架,空軍應該在各種不同的任務中應用和測試它。
03 報告目錄
第一章
評估武器系統網絡安全風險的一些注意事項
第二章
評估任務影響的原型框架
第三章
框架的討論
Drone Wars UK 的最新簡報著眼于人工智能目前在軍事環境中的應用方式,并考慮了所帶來的法律和道德、作戰和戰略風險。
人工智能 (AI)、自動決策和自主技術已經在日常生活中變得普遍,并為顯著改善社會提供了巨大的機會。智能手機、互聯網搜索引擎、人工智能個人助理和自動駕駛汽車是依賴人工智能運行的眾多產品和服務之一。然而,與所有技術一樣,如果人們對人工智能了解甚少、不受監管或以不適當或危險的方式使用它,它也會帶來風險。
在當前的 AI 應用程序中,機器為特定目的執行特定任務。概括性術語“計算方法”可能是描述此類系統的更好方式,這些系統與人類智能相去甚遠,但比傳統軟件具有更廣泛的問題解決能力。假設,人工智能最終可能能夠執行一系列認知功能,響應各種各樣的輸入數據,并理解和解決人腦可以解決的任何問題。盡管這是一些人工智能研究計劃的目標,但它仍然是一個遙遠的前景。
AI 并非孤立運行,而是在更廣泛的系統中充當“骨干”,以幫助系統實現其目的。用戶不會“購買”人工智能本身;他們購買使用人工智能的產品和服務,或使用新的人工智能技術升級舊系統。自主系統是能夠在沒有人工輸入的情況下執行任務的機器,它們依靠人工智能計算系統來解釋來自傳感器的信息,然后向執行器(例如電機、泵或武器)發出信號,從而對機器周圍的環境造成影響.
人工智能被世界軍事大國視為變革戰爭和獲得戰勝敵人的優勢的一種方式。人工智能的軍事應用已經開始進入作戰使用,具有令人擔憂的特性的新系統正在迅速推出。與軍事和公共部門相比,商業和學術界已經引領并繼續引領人工智能的發展,因為它們更適合投資資金和獲取研究所需的資源。因此,未來人工智能的軍事應用很可能是對商業領域開發的技術的改編。目前,人工智能正在以下軍事應用中采用:
人工智能和英國軍事
綜合審查和其他政府聲明毫無疑問地表明,政府非常重視人工智能的軍事應用,并打算繼續推進人工智能的發展。然而,盡管已經發布了概述使用自動化系統的學說的出版物,但迄今為止,英國國防部 (MoD) 仍然對管理其人工智能和自主系統使用的倫理框架保持沉默,盡管已經做出了一些重大決定。軍事人工智能的未來用途。
英國國防部一再承諾發布其國防人工智能戰略,預計該戰略將制定一套高級倫理原則,以控制軍事人工智能系統的整個生命周期。該戰略是在與來自學術界和工業界的選定專家討論后制定的,盡管政府尚未就與人工智能的軍事用途相關的倫理和其他問題進行公開磋商。該戰略的主要目的之一是向行業和公眾保證,國防部是人工智能項目合作的負責任合作伙伴。
與此同時,在沒有任何道德指南的情況下,計劃和政策正在迅速推進,主要問題仍未得到解答。英國軍隊在什么情況下會采用人工智能技術?政府認為何種程度的人為控制是合適的?風險將如何解決?英國將如何向其盟友和對手證明英國打算采取有原則的方法來使用軍事人工智能技術?
軍事人工智能系統帶來的風險 上述人工智能的每一種不同的軍事應用都會帶來不同的風險因素。作為國防部總部后臺操作的一部分,對數據進行排序的算法會引發不同的問題和擔憂,并且需要與自主武器系統不同級別的審查。
盡管如此,目前正在開發的人工智能系統無疑會對生命、人權和福祉構成威脅。軍事人工智能系統帶來的風險可以分為三類:道德和法律、操作和戰略。
道德和法律風險
-問責制:目前尚不清楚如果出現問題,誰來承擔責任:如果計算機運行不可預測并因此犯下戰爭罪行,懲罰它是沒有意義的。
人權和隱私:人工智能系統對人權和個人隱私構成潛在威脅。
不當使用:在戰斗環境中處于壓力之下的部隊可能會試圖修改技術以克服安全功能和控制。
作戰應用風險
偏見的技術來源:人工智能系統的好壞取決于它們的訓練數據,少量損壞的訓練數據會對系統的性能產生很大影響。
偏見的人為來源:當人類濫用系統或誤解其輸出時,可能會導致偏見。當作戰員不信任系統或系統非常復雜以至于其輸出無法解釋時,也會發生這種情況。
惡意操縱:軍用 AI 系統與所有聯網系統一樣,容易受到惡意行為者的攻擊,這些行為者可能試圖干擾、黑客攻擊或欺騙系統。
戰略風險
降低門檻:人工智能系統帶來了政治領導人在沖突中訴諸使用自主軍事系統而不是尋求非軍事選擇的風險。
升級管理:涉及人工智能的軍事行動的執行速度降低了審議和談判的空間,可能導致快速意外升級并造成嚴重后果。
軍備競賽和擴散:對軍事人工智能的追求似乎已經引發了軍備競賽,主要和地區大國競相發展其能力以保持領先于競爭對手。
戰略穩定性:如果先進的人工智能系統發展到能夠預測敵人戰術或部隊部署的程度,這可能會產生高度不穩定的后果。
本簡報列出了為人工智能設想的各種軍事應用,并強調了它們造成傷害的可能性。它認為,減輕軍事人工智能系統帶來的風險的建議必須基于確保人工智能系統始終處于人類監督之下的原則。
迄今為止,公眾對人工智能和機器人技術進步所帶來的社會變化和風險似乎知之甚少。這份簡報的部分目的是為了敲響警鐘。人工智能可以而且應該用于改善工作場所的條件和對公眾的服務,而不是增加戰爭的殺傷力。