執行摘要

目的和目標

本文件的目的是總結北約STO HFM探索小組（ET）184所進行的研究，其重點是觀察北約國家在改善國防指揮和控制（C2）能力方面的重大挑戰。它試圖通過采取一種新的方法來實現這一目標，即從整個系統、整體和生命周期的角度來看待觀察到的問題。

為探索小組（ET）設定的目標如下：

1）審查潛在的問題空間，并在未來的研究任務組（RTG）中確定哪些專題領域可以在盟軍C2能力的背景下進行有益的探索，以使北約國家受益。

2）探索制定軍事利益相關者指南的可能性，為C2能力的發展提供更全面的設計方法和管理過程，并作為其中的一部分，考慮是否有可能創建一個 "北約C2能力生命周期管理的最佳實踐準則"。

次要目標是：

1）探索國防和研究挑戰的性質。

2）確定它們是否適合于未來的研究調查。

3）確定北約國家是否有價值和興趣通過進一步的研究來解決所確定的挑戰。

4）如果3）被證明是積極的，建議如何通過組建一個新的北約RTG來解決這些挑戰。

主要結果/結論

研究的結果是確定了五個主要的挑戰主題，即:

主題1：評估C2能力的能力有限。為了客觀地判斷已經啟動的變革計劃效果，以及達到的C2能力水平，需要有適當的知識和能力來評估復雜的社會技術系統，如C2。然而，這可以說是大多數軍隊的情況，因此，我們在評估我們的C2能力狀況方面仍然很差。這包括對預期變化和實際結果的評估，以及對短期和長期變化影響的評估。

主題2：管理C2能力的能力有限。治理和管理C2尤其具有挑戰性，因為它是由許多不同的組成部分組成的，它們以復雜的方式相互作用，提供我們所觀察到的整體能力。然而，這種挑戰并不能為大多數國防組織似乎缺乏有效的C2管理安排提供借口。部分原因可能是，直到最近，C2還沒有被視為或作為一種需要治理的能力，與軍事體系的大多數其他部分不同。

主題3：C2發展的挑戰。與許多其他領域的發展相比，C2的發展需要人類和技術組件之間相對較高的協調程度。此外，人的結構是復雜的，包括多個決策者之間大量豐富的人際互動，每個人都可能有競爭的利益和/或對正在進行的行動和正在采用的C2實踐有不同的看法和信念。綜上所述，協調組織和技術發展的要求，及使用模糊術語描述的不明確的目標典型性，必須應對利益相關者的競爭，對行動和C2實踐有不同的看法和信念，以及C2使能器也需要為其他目的服務的事實，都對C2能力的發展和管理構成了巨大的挑戰。

主題4：對變革的抵制。任何改變和發展C2的意圖都必須預期并考慮到對改變的可能阻力。這種阻力部分來自于組織內的個人，他們認為變革會對他們產生負面影響。阻力也是制度化的，即通過傳統、培訓和教育系統、公認的規范等手段建立在系統中。雖然人員輪換是向組織注入新思想的一種方式，從而促進變革，但變革也高度依賴于推動變革的個人，這就是為什么在角色輪換率高的組織中，變革可能是短暫的。

主題5：缺乏組織學習。對當前C2實踐的觀察表明，組織的學習并沒有實現。在改變C2的發展實踐以改善個人學習方面，有很多事情可以做；例如，通過行動學習和反思實踐。非正式的知識共享也很重要，通過社會網絡和系統，可以在消除組織的一些知識生產和保留的缺陷方面發揮關鍵作用。然而，這些并不一定會導致整個組織的學習。在C2組織中，缺乏頒布組織學習的能力，這反映在類似的問題和錯誤反復出現的事實上。

為上述所有的挑戰制定解決方案超出了本工作的范圍。盡管如此，我們對文獻和記錄的經驗的審查還是產生了一些建議和教訓。因此，我們列出了一份減輕影響的解決方案的指示性清單。然而，在開始的時候，為ET設定的范圍并不是制定減輕影響的解決方案，而是確定可能存在適當的、相關的和可行的解決方案，可以由隨后的RTG進一步開發。

以下是對研究的主要結論的總結。

1）盡管C2概念已經隨著安全環境的重大發展而發生了相當大的變化，但C2實踐仍然與20多年前的觀察非常相似，特別是與其他戰爭領域的發展相比。盡管我們盡了最大的努力去改變它，但C2似乎仍然頑固地保持著靜態。這種說法的證據來自于以前的許多C2轉型嘗試，其中絕大多數都沒有實現其承諾的結果。

2）C2轉型舉措失敗的原因有很多，本報告討論了其中的一些原因，并提出了相應的初步解決方案。然而，似乎還需要一個更基本的解決方案，特別是國防組織需要采取類似于 "生命周期的觀點"，試圖理解、決定、塑造和凝聚有助于C2能力的多種因素和組成部分。這種觀點的重點不能完全放在開發過程上，因為還需要接受生命周期的反饋方面，在這方面包括組織學習和對當前和新出現的C2能力的適應性管理等主題。

3）這項研究的另一個引人注目的觀察是參加研究的各個國家所面臨的問題和挑戰非常相似。這表明，有一些基本的力量在起作用，超越了國家差異。因此，我們建議，北約和伙伴國家對這些挑戰的反應可能有利于幫助指導、刺激和推動國家和聯盟的反應。

4）然而，我們對待轉型方式的任何改變本身將是一個長期過程，需要國防組織的適應性和長期承諾。同樣重要的是，在整個組織內建立一個共同的愿景，并闡明實現該愿景的戰略，同時也要獲得組織內所有相關部門的支持。如果沒有足夠程度的長期變革承諾，那么C2能力的任何重大轉變都不可能實現。理想情況下，在實踐中需要發生的是，根據C2是一種需要有效管理的能力的原則，建立國家和聯盟的變革計劃。然而，這些計劃需要得到很好的建議。

5）由ET-184進行的研究表明，有相當多的文獻包含了關于組織變革的有益和基于證據的建議，這將有助于應對許多已確定的挑戰。這一初步探索還表明，已確定的材料可以充分結合實際情況，使其與軍事C2組織相關。因此，我們建議，未來的C2能力發展計劃可以通過創建一個C2能力轉型的良好實踐指南而得到很大的幫助，該指南匯集、整合了這些材料并對其進行了適當的背景分析。該指南的重點應放在改進變革/轉型的實際 "方法 "上，以便未來的C2變革活動能夠產生更大和更持久的有益效果。請注意，這并不是說C2應該轉變為一種新的固定形式，而是說我們需要轉變為一種更可持續的適應性形式，能夠更迅速、更有效地應對不斷變化的環境。

6）從本質上講，C2和C2發展的主要挑戰是那些與人類個人和組織有關的挑戰。因此，在很大程度上，任何未來的北約STO對這個問題的研究最好是在一個以人為因素為中心的小組內進行，即HFM。然而，由于該問題集的某些方面也與 "系統 "有關，未來研究的某些方面也可能與SAS小組有關。

本報告的一個較短版本已經發表在一個同行評審的研討會上，ICCRTS 2020 [1]。

建議

我們建議在2020年底或2021年初開始一個新的北約C2能力治理RTG。由于RTG的結果只能由我們的國防利益相關者來評估和利用，我們還建議RTG應該努力與一些參與國的相關利益相關者團體建立更緊密的聯系，最好是在北約內部。

1.0 引言

本節簡要介紹了指揮與控制（C2）能力及其在過去30年中的發展情況。

1.1 北約能力生命周期管理探索小組的背景

在組建探索小組之前，所有三個派遣國的潛在成員在1990年代至2000年代初參與了許多負責發展C2能力的國家和國際項目，并提出了一些看法。人們普遍注意到，這些項目和倡議中有許多已經消失了，幾乎沒有留下明顯的痕跡。人們還注意到，今天的困難與大約20年前的困難非常相似，而且與國防的其他領域相比，C2實踐在同一時期基本沒有變化。

因此，根據這些觀察，人們認為值得探討以下廣泛的問題。

a) 出現這些問題的主要原因是什么？

b) 是否有任何現有的科學和相應的文獻可以幫助解釋它們？

c) 是否有任何跡象表明存在可以利用的潛在緩解方案？

d) 進一步的研究是否有必要并可能是有益的，如果是的話，它應該關注什么？

請注意，關于上面的c)項，最初的意圖并不是要開發緩解的解決方案，只是確定可能存在適當的、相關的和可行的解決方案，可以由隨后的RTG進一步開發。

1.2 什么是C2能力？

在最廣泛的意義上，能力是做某事的力量或能力[2]。Lindbom, Tehler, Eriksson和Aven[3]根據在與危機管理有關的出版物中發現的15個能力定義確定了趨勢，其中能力可以被看作是。

1）等同于資源，或至少受到資源的強烈影響。

2）等同于能力（例如，準備能力，或進行培訓的能力）；或

3）能力是影響結果或目標的一個因素。

很難找到一個包含在明顯相關的北約文件中的北約定義。例如，以下定義載于北約標準化辦公室的一份出版物中。"通過使用一套綜合的、分為理論、組織、訓練、物資、領導力發展、人員、設施和互操作性的方面來創造效果的能力"，縮寫為DOTMLPFI[4]。因此，這種能力定義主要符合Lindbom等人[3]提出的第三類能力定義，即資源和這些資源的能力使某種能力得以實現。

在這種情況下，C2被定義為 "一套組織和技術屬性和流程，企業通過這些屬性和流程調集和運用人力、物力和信息資源來解決問題和完成任務"[5]。

因此，在本報告中，C2能力被定義為 "調動和使用人力、物力和信息資源來解決問題和完成任務的能力。C2能力是通過一系列的組織和技術屬性及過程來完成的。"

1.3 過去30年中C2的發展

最近國家軍事理論和概念的變化是為了修訂或調整C2方法以更好地適應不斷變化的國防環境。近年來，C2的一個決定性時刻是90年代所謂的 "軍事事務革命"，它預示著新信息技術對C2的許多有益影響。這引發了北約和其他國家對新的C2實踐的一系列發展和投資，包括諸如網絡能力（NEC，英國）、基于網絡的防御（NBF，瑞典）、聯合能力指揮（JCC，加拿大）、以網絡為中心的戰爭（NCW，美國）和北約網絡能力（NNEC，北約）。這些努力設想了一個完全連接的戰斗空間，不同部門的操作人員能夠以無縫的方式進行互動，以實現主導戰場意識的概念，并有能力利用所獲得的假定的信息優勢來迅速完成任務部隊和武器系統。

本報告的作者在20世紀90年代至21世紀初參與了這些發展C2能力的國家和國際計劃和努力。這是我們作為國防研究人員的角色，對我們中的一些人來說，也偶爾在軍隊中擔任參謀職務。從這些早期的日子到今天，我們觀察到許多這些大膽的計劃和倡議，以及它們的一系列優雅的術語和縮寫，已經消失得無影無蹤。要找到這些項目早期階段的參考資料相對容易，但要找到后期階段的出版物則難得多。因此，很難評估這些項目是否達到了最初的期望。一個例子是2000年左右啟動的先進概念技術演示（ACTD）"21世紀的總司令--CINC 21"[6]。CINC 21由一個框架、一套軟件應用程序和硬件應用程序組成，旨在通過利用先進的可視化技術和決策支持系統、協作能力以及知識和企業管理來改善部隊的指揮和控制。最初的CINC 21是美國的倡議，后來擴展為四國倡議的聯盟CINC 21（C-CINC 21），其中包括美國、澳大利亞、加拿大和英國[7]。在谷歌學術界搜索CINC 21（Commander-in-Chief 21，C-INC等），發現2001-2006年間的點擊率非常有限[6]，[7]，[8]。可以找到的文獻描述了CINC/C-CINC 21的倡議和愿景，以及在整合異構技術和實現信息共享方面的技術示范成功。然而，卻找不到任何關于后續項目的信息，也找不到任何關于技術示范中獲得的成果的實施情況。

作者還指出，觀察到C2的操作困難與支持性研究中的困難存在相似之處。這兩組困難似乎都與二十年前的困難驚人地相似；盡管它們可能用不同的詞來描述；例如，二十年前，以網絡為中心的方法占主導地位。我們很容易聲稱，我們已經從以前的錯誤中吸取了教訓，遠離了無法實現的愿景，現在專注于開發真正可行的概念。然而，看看昨天的愿景和提法，我們發現今天寫的未來概念中包含了非常相似的內容。例如，二十多年前（2001年）撰寫的美軍作戰目標之一指出，"利用信息技術和創新概念，開發一個可互操作的聯合C4ISR架構和能力，包括一個可定制的聯合作戰圖景"[9]。七年前，信息優勢是一個熱門話題[10]，最近又出現了一個非常類似的概念--信息優勢[11]。我們經常體驗到似曾相識的感覺!

結合21世紀初提到的國家倡議對以上幾點進行反思，我們判斷其中包含的許多C2發展項目并沒有完全實現其開始時提出的愿景。盡管已經實施了一些變化，但許多事情仍然相對固定，結果也許不那么 "革命性"。與其他戰爭領域的發展相比，比如武器技術，C2的實踐，包括目前的培訓和教育、組織形式和啟用技術的使用，與20年前相比基本沒有變化[12]（第14-15頁）。附件A提供了一些來自加拿大、瑞典和英國的C2能力發展問題的例子。

在應對C2轉型的挑戰方面，并不缺乏努力，例如，陸軍指揮與控制評估系統 - ACCES[13]和美國海軍總部效能分析工具HEAT[14]。此外，不同的最佳實踐守則，如GUIDEx[15]、北約C2評估最佳實踐守則[16]、實驗[16]、實驗運動[17]和審查規定了由合格的科學家團隊及其工作人員進行評估的基本原則。現有的方法和準則提供了充分的指導和信息來源，但同時它們往往要求或假定有高水平的科學控制，而這在軍事實踐中是難以獲得的。不過，在作戰需要和感知到的有效性問題的驅動下，作戰實踐不斷對新技術、支持系統、新的工作方式、新的組織結構等進行探索和試驗，以適應當前或變化的條件。輕率地這樣做可能會導致錯過機會，或者只是錯誤的結論和事后的代價[18]。

1.4 各國對未來C2發展的看法

在很大程度上，我們目前的C2方法仍然是圍繞工業式戰爭的概念和需求設計的。雖然這些內置的功能可能仍然需要，但近期、當前和未來情況的多樣性和復雜性可以說需要對C2的設計、操作和啟用方式進行重大改變。然而，這種變化的需求并不是突然出現的；它至少在過去幾十年里一直伴隨著我們。

盡管上面討論了轉型的困難，C2仍然是北約繼續發展和維持的重要能力。新興技術已經以一種挑戰傳統軍事方法的方式改變了我們的世界，因此需要對C2采取更加創新的方法。鑒于它是我們應對新出現的沖突和危機的主要手段，C2必須能夠對快速變化的環境作出有效反應，而未來的盟軍行動將在這種環境中進行。由于新出現的對手已經以比任何傳統國家更容易、更靈活和更有想象力的方式使用強大、廉價和免費的技術，未來的C2系統必須是靈活的，有可能是部分自主的，并且能夠適應它們所處的環境[19], [20]。

加拿大、瑞典和英國制定的國防政策的例子說明了C2轉型的必要性。加拿大最新的國防政策聲明[21]預測了一個日益復雜的安全環境，并提出了一個靈活和適應性的C2方法。加拿大已承諾向加拿大武裝部隊（CAF）提供更多資源，以投資于具有綜合信息和通信技術的新C2系統。在瑞典，其目的是在未來的一段時間內加強國防能力。除了重組和加強武裝部隊的組織，它還包括重新建立最初在冷戰期間建立的全面防御概念，但在最近的幾十年里，這一概念基本上已經退役。全面防衛的概念包括軍事和民事防衛，以全社會的方式處理安全問題。對于C2來說，這需要在不同的軍事和民事部門之間制定共同的合作和聯合規劃概念。英國還確定，需要一種更加靈活的C2方法來應對未來更加多樣、新穎、復雜和模糊的威脅[22]。鑒于這種需要，關于指揮與控制的未來的JCN 2/17號文件主張改變文化，在軍隊和政府內部創造更大的靈活性和C2的一致性。這就要求在適當的新技術的幫助下，采用新的思維方式和組織C2。總之，所有這三個國家，以及許多其他國家都同意，繼續發展C2是應對不斷變化的外部環境的迫切需要。

加拿大。加拿大最新的國防政策聲明 "強大、安全、參與"[21]，是基于對未來日益復雜的安全環境的預期，包括不對稱的威脅、失敗和失效的國家，以及非傳統的對手。作為回應，該政策設定了一個目標，即加拿大軍隊將采用一種現代的C2方法，這種方法是靈活的和適應性的。新的國防政策重申了加拿大空軍發展C2系統的目標，以實現聯合運作以及整合情報和信息收集能力。加拿大已承諾向中央空軍提供更多資源，以投資于具有綜合信息技術和通信的新C2系統。

瑞典。在不久的將來，瑞典國防委員會指出，應該對指揮和控制進行全面審查，在技術、方法、人員配備、教育、組織和資金方面設定現實的優先事項[23]。此外，瑞典需要在信息和網絡安全領域采取適當的預防措施，并發展在計算機和網絡操作的整個范圍內對網絡環境中的合格對手采取防御和進攻的能力。在國防方面，重新確立了全面防御的概念，并制定了不同軍事和民事部門之間的協作和聯合規劃的共同概念。瑞典武裝部隊（SwAF）的中央和區域C2功能在2025年的理想最終狀態是，武裝部隊應在方法和組織上努力做到簡單、清晰和靈活，使任務指揮和基于責任的文化成為可能[24]。有幾項舉措旨在加強與其他國家和聯盟合作的能力，這也解釋了為什么現在要與芬蘭進行聯合行動規劃。將尋求與挪威、丹麥、英國、美國和北約加強協調。最近發布了一個新的聯合行動理論，該理論與北約保持一致，將網絡與海陸空一起作為一個領域，并強調了多領域的觀點[25]。

為了支持SwAF的長期規劃，已經開發了一個未來的C2概念[26], [27]。這個概念的特點是敏捷性和彈性，包括方法和人員能力以及組織和任務問題。它包括從短期和長期的角度學習和適應新情況的能力。未來的C2概念指出，C2需求將因情況而異，沒有一種C2解決方案能適用于所有情況。在所有參與方之間分享信息和協調計劃的能力是必不可少的。這個概念假定瑞士空軍有能力利用技術上的創新。最后，后備解決方案需要到位，并進行實踐，以便在競爭日益激烈的信息環境中保持C2能力。

英國。英國關于2035年未來作戰環境的出版物指出，未來的威脅將更加多樣、新穎、復雜和含糊。為了應對這種情況，它建議可能需要一種更加靈活和激進的方法，以適當地使未來的指揮官有能力。基于這一背景，DCDC關于未來部隊概念的第1/17號聯合概念說明（JCN）提出了如何可能實現這種更加敏捷的指揮和控制，以便在面對日益復雜的行動時發展和保持優勢。作為對這一問題的回答的一部分，關于指揮與控制的未來的JCN 2/17號文件主張改變軍事文化，以便在軍隊內部和政府之間創造更大的靈活性和C2的一致性。它還建議，這將需要采用新的思維方式和組織C2，并輔以適當的新技術。最后，它指出了一個主要的發展挑戰，即為了有效地解決C2問題，它需要被視為一種能力本身，這意味著在所有適當的發展領域改善管理，并更好地理解國防部可能承擔的C2風險。

1.5 報告的目的和范圍

鑒于上述背景，本報告的目的是詳細探討管理、發展和改造C2能力的挑戰的性質。它還旨在找出與國防其他領域相比，在改變C2實踐方面缺乏進展的一些原因。首先，我們概述了通過文獻調查發現的與C2能力發展相關的挑戰。隨后，我們確定了一些暫定的解決方案，然后進行了討論，我們認為各國需要采用 "生命周期的觀點 "來成功地修改所有有助于C2能力的因素。在附件A中，介紹了一些沒有達到預期的C2項目的例子。

2022年6月美國防部副部長凱瑟琳-希克斯簽署了國防部負責任的人工智能戰略和實施途徑（RAI S&I Pathway），該途徑指導國防部（DoD）實現其可信人工智能（AI）生態系統的目標。美國防部必須將自己轉變為一個為人工智能做好準備的組織，將負責任的人工智能（RAI）作為一個突出的特征，以保持其競爭優勢。

負責任的人工智能方法意味著什么？

RAI是一個信任之旅。它是一種設計、開發、部署和使用的方法，可以確保我們系統的安全，并合乎道德的使用RAI。RAI體現在道德準則、測試標準、問責檢查、使用指導、人類系統整合和安全考慮上。

正如美國防部長奧斯汀所說："負責任的人工智能是尖端科技與永恒價值的結合點。我們不相信我們需要在它們之間做出選擇，我們也不相信這樣做會成功。我們對人工智能的使用必須加強我們的民主價值觀，保護我們的權利，確保我們的安全，并捍衛我們的隱私。"

RAI S&I路徑是DoD為確保建設一個可信人工智能生態系統，以發展和加速人工智能而采取的前進方向。國防部的人工智能任務是建立強大的、有彈性的和可靠的人工智能系統，同時在人工智能道德的全球對話中成為領導者和倡導者。該指南通過RAI管理、作戰人員信任、人工智能產品和采購生命周期、需求驗證和人工智能勞動力等RAI實施宗旨，灌輸并實施國防部人工智能道德原則。這種整體方法詳細說明了目標、關鍵的努力方向，以及加強每個領域的一套初步工具。

這一旅程始于2018年，美國防戰略呼吁 "以合法和道德的方式使用人工智能，以促進我們的價值觀"，同時國會授權 "為該部制定適當的道德、法律和其他政策，管理人工智能的發展和使用"。國防部于2020年2月正式通過了《國防部人工智能倫理原則》--世界上第一個這樣做的軍隊。為了幫助將人工智能植入整個部門，聯合人工智能中心（JAIC）于2020年9月發布了國防部人工智能教育戰略。從那時起，RAI已經向國防部各級人員進行了教育和培訓。2021年5月26日，國防部重申了國防部對RAI的承諾，并指示根據其RAI實施宗旨，"國防部對RAI采取整體的、綜合的、有紀律的方法 "進行實施，而S&I路徑正是建立在這些宗旨之上的。

RAI S&I途徑促進了國防部在追求人工智能加速的過程中對負責任的行為、過程和結果的承諾。最終，它提供了國防部推進人工智能的戰略方法，同時促進了操作的靈活性，保障了能力部署，并支持可擴展性。鑒于這一成就和其他成就，國防部已經準備好穿越軍事現代化的漫長道路，同時確保美國公民和全球合作伙伴的信心。

RAI實施宗旨包括：（1）調整管理結構和流程，持續監督國防部人工智能使用；（2）系統操作員需達到標準水平的技術熟練程度，以創建可信的人工智能系統和人工智能賦能系統；（3）考慮人工智能采辦風險，并使人工智能開發速度滿足國防部需求；（4）使用需求驗證程序，確保人工智能能力與作戰需求保持一致，同時解決相關的人工智能風險；（5）通過國內和國際合作促進對設計、開發、部署和使用負責任人工智能的共同理解；（6）確保所有美國防部人工智能人員理解實施人工智能的技術、開發過程和操作方法。

報告前言

雖然人工智能（AI）并不新鮮，但過去十年的技術突破已經大大改變了國家安全格局。我們的對手和競爭者正在大量投資于人工智能和人工智能支持的能力，威脅到全球安全、和平和穩定。為了在一個數字競爭的世界中保持軍事優勢，美國國防部（DoD）必須接受人工智能技術，以跟上這些不斷變化的威脅。以合法、合乎道德、負責任的方式利用新技術是我們的核心精神。

為了確保我們的公民、作戰人員和領導人能夠信任美國防部人工智能能力的產出，國防部必須申明，在設計、開發、測試、采購、部署和使用人工智能時，我們的軍隊對合法和道德行為的堅定承諾。負責任的人工智能（RAI）戰略和實施（S&I）途徑通過定義和溝通我們利用人工智能的框架，照亮了我們的前進道路。它有助于消除不確定性和猶豫不決--并使我們能夠更快地前進。在我們與盟友和聯盟伙伴并肩工作以促進民主規范和國際標準的過程中，從立場上整合道德規范也使國防部有能力保持盟友和聯盟伙伴的信任。

RAI S&I路徑使我們的RAI政策易于實施。它指導了DoD實施道德原則的戰略方法，以及更廣泛地推進RAI--同時確保操作的靈活性，保持能力部署的速度，提供可擴展性，并優先考慮資源的有效分配。這份文件是我們在加速RAI的過程中邁出的關鍵一步，并進一步推動了國防部在追求人工智能技術過程中對負責任的行為、過程和結果的承諾。

美國防部常務副部長希克斯（Kathleen I I. llicks ）

目錄

• 1 執行總結
• 2 RAI戰略
  • 2.1 背景
  • 2.2 國防中的RAI
  • 2.3 預期的最終狀態
  • 2.4 DoD關于RAI的基本原則
• 3 RAI實施路徑
  • 3.1 概述
  • 3.2 實施方法
  • 3.3 實施路線
    • 原則1：RAI管理
    • 原則2: 作戰人員信任
    • 原則3: 人工智能產品和采購生命周期
    • 原則4：需求驗證
    • 原則5：負責任的人工智能生態系統
    • 原則6：人工智能勞動力
• 4 結論
• 5 附加資源

報告執行總結

人工智能的進步已經證明有能力改變現代社會的每個行業。這些影響擴展到商業、金融、生產和社會行為。美國防部對人工智能的投入，專注于采用符合美國的價值觀、共同的民主理想和軍隊對合法和道德行為的堅定承諾的方式利用這一技術。

2021年5月，美國防部副部長發布了一份備忘錄（"RAI備忘錄"），確立并指導該部對RAI開發采取整體、綜合和有紀律的方法。這份RAI備忘錄提出了以下基本原則，作為指導整個部門實施RAI的優先領域：RAI管理、作戰人員信任、AI產品和采購生命周期、需求驗證、負責任的AI生態系統和勞動力。

由此產生的美國防部RAI S&I途徑是圍繞六個原則組織的，并確定了努力的方向：

• 調整管理結構和流程，持續監督國防部人工智能使用，同時考慮到技術的使用環境。

• 系統操作員需達到標準水平的技術熟練程度，以創建可信的人工智能系統和人工智能賦能系統。

• 在人工智能產品和采購生命周期中保持適當的謹慎，以確保從人工智能項目一開始就考慮到潛在的人工智能風險，并努力減輕或改善這種風險，減少意外后果，同時以美國防部所需的速度扶持人工智能發展，以滿足國防戰略。

• 利用需求驗證過程，確保利用人工智能的能力與業務需求相一致，同時解決相關的人工智能風險。

• 通過國內和國際參與，促進對RAI設計、開發、部署和使用的共同理解。

• 確保所有美國防部人工智能工作人員對技術、其開發過程和適用于實施人工智能的操作方法有適當的了解，與他們在2020年美國防部教育戰略中概述的原型角色的職責相稱。

通過在軍事道德和人工智能安全方面的領導，美國防部將贏得我們的服務成員、文職人員和公民的信任。我們也鼓勵RAI在全球范圍內的發展和使用，并加強我們與世界各地的盟友和合作伙伴解決現代國防挑戰。

《軍事中的人工智能和自主:北約成員國戰略和部署概述》報告以及相關文件《附錄A -國家概況》提供了人工智能和自主技術在北約盟國軍事中的作用的高層視圖。這是第一個專門針對北約國家軍事人工智能的學術研究。

該報告概述了每個北約國家在軍事人工智能方面的觀點和雄心，并概述了它們目前對人工智能技術的使用。在附錄A中，報告探討了每個國家在軍事和國防背景下與人工智能的接觸程度，審查了國家人工智能戰略和當前人工智能技術使用的公開來源。

本研究的策略含義如下:

鼓勵負責任的人工智能規范:作為一個基于共識的聯盟，北約在促進安全和軍事人工智能討論方面處于獨特地位，并有機會協調成員國之間的規范建設活動。

人工智能的采用:北約是一個有價值的機制，通過該機制，可以按需向成員國提供能力建設指導和更廣泛的援助。

協作增強抵御能力:加強聯盟合作可能使各國能夠利用能力建設努力，更好地應對與人工智能技術相關的安全挑戰。

維持集體防御:人工智能技術的能力差距不斷擴大，可能導致一些成員國在應對更快的沖突環境方面裝備相對不足，在這種環境中，對手越來越多地利用人工智能和自主系統。

關注未來的互操作性: 豎井式創新為聯盟提出了未來的互操作性挑戰，例如在跨國運營中共享數據和AI應用。

工業人工智能(AI)是人工智能在工業應用中的應用，是第四次工業革命中價值創造的主要貢獻者。人工智能正被嵌入到廣泛的應用程序中，幫助組織實現重大利益，并使它們能夠轉變向市場傳遞價值的方式。本文檔為基于人工智能的工業物聯網系統的開發、訓練、文檔編制、通信、集成、部署和操作提供指導和幫助。它針對來自It和操作技術(OT)的決策者，來自多個學科的業務和技術人員，包括業務決策者、產品經理、系統工程師、用例設計師、系統架構師、組件架構師、開發人員、集成商和系統操作員。

該文檔是圍繞IIC的工業互聯網參考體系結構中的體系結構觀點構建的，即業務、使用、功能和實現觀點。該文件討論了推動人工智能采用的商業、商業和價值創造方面的考慮。它還詳細闡述了人工智能的使用引起的擔憂，工業中的用例，以及與之相關的倫理、隱私、偏見、安全、勞工影響和社會問題。在技術方面，該文檔描述了與AI相關的架構、功能和數據考慮因素，并討論了各種實現考慮因素，如性能、可靠性、數據屬性和安全性。人工智能的應用預計將在該行業加速。考慮到快速增長的計算能力、更廣泛的可用于訓練的數據以及日益復雜的算法，人工智能技術將繼續發展。當前的IT標準和最佳實踐必須不斷發展，以解決人工智能本身的獨特特點，以及與工業物聯網系統的安全性、可靠性和彈性相關的具體考慮。此外，組織在人工智能方面的日益成熟將幫助他們認識到它的利遠大于弊。人工智能標準生態系統也將繼續發展，例如ISO/IEC JTC 1/SC42正在進行的標準工作，為JTC 1、IEC和ISO委員會制定人工智能標準提供指導。基于這些趨勢，毫無疑問，人工智能將繼續推動最先進的技術和功能的可能性，因此，被認為是合理的事情也將不斷發展。對技術的態度和企業對其使用的期望也將繼續發展。在未來，我們可以預期人工智能技術的使用將成為規范，而不是例外，鑒于這種技術的社會效益，“不使用人工智能”最終可能成為不負責任的做法。

2018年國防部人工智能戰略將人工智能定義為機器執行通常需要人類智能的任務的能力。戰略和相關計劃包括了全面戰略的一些特點，但不是全部。例如，國防部的9個與人工智能相關的戰略和計劃并不包括與采用人工智能技術相關的資源、投資和風險的完整描述(見圖)。在未來與人工智能相關的戰略中，發布包括綜合戰略的所有特征的指導，可以幫助國防部更好地定位，幫助管理者確保對人工智能的問責和負責任的使用。

國防部已經開始識別并報告其人工智能活動，但其人工智能基線庫存存在局限性，如排除分類活動。國防部官員表示，這些限制將在AI庫存識別過程的后續階段得到解決。然而，國防部還沒有開發一個高層次的計劃或路線圖來捕獲所有的需求和里程碑。該計劃將為國防部提供一個高層次的、端到端對所有必要特征的視圖，以實現該計劃的目標，為國會和國防部決策者提供一個完整、準確的人工智能活動清單。

國防部組織在人工智能活動上進行合作，但可以更充分地納入領先的合作實踐。國防部使用了各種正式和非正式的合作機制，GAO之前的工作已經確定，如跨機構小組。國防部已經部分納入了領先的協作實踐，例如識別領導能力。然而，國防部官員告訴我們，他們正在制定指導方針和協議，明確定義參與人工智能活動的國防部組件的角色和職責。通過最終確定和發布這樣的指南，國防部可以幫助確保所有參與者對整個部門的AI工作的責任和決策達成一致。

概述

美政府問責局（GAO）日前發布報告《人工智能：國防部應改進策略和流程并加強協作指導》。該報告通過評估2018年《國防部人工智能戰略》，發現其存在片面性的一些特征，如九項人工智能相關戰略計劃“不包括與采用AI技術相關的資源、投資和風險的完整描述”等，呼吁國防部制定更全面的人工智能戰略，以使其更好地定位、問責和負責任地使用該技術。該報告還向國防部提出以下建議：發布含AI戰略所有特征的指南、建立定期審查國防部AI戰略的程序；開發含所有需求的高級計劃或路線圖；發布指南和協議，定義該機構在AI活動中的領導和參與者的責任等。

背景

GAO的發現

2018 年國防部 (DOD) 人工智能 (AI) 戰略將 AI 定義為機器執行通常需要人類智能的任務的能力。戰略和相關計劃包括綜合戰略的一些（但不是全部）特征。 例如，國防部的九項人工智能相關戰略和計劃不包括對資源和投資以及與采用人工智能技術相關風險的完整描述（見圖）。發布指南以在未來與人工智能相關的戰略中包含綜合戰略的所有特征，可以幫助國防部更好地幫助管理人員確保問責制和負責任地使用人工智能。

國防部人工智能相關戰略和計劃的評估

國防部已開始識別和報告其 AI 活動，但其 AI 基線清單存在限制，例如排除機密活動。國防部官員表示，這些限制將在人工智能活動識別過程的后續階段得到解決。然而，國防部還沒有制定一個涵蓋所有需求和里程碑的高級計劃或路線圖。這樣的計劃將為國防部提供實現該計劃目標所需的所有功能的高級、端到端視圖，以向國會和國防部決策者提供完整和準確的人工智能活動清單。

國防部組織在人工智能活動上進行協作，但可以更充分地整合領先的協作實踐。國防部使用 GAO 先前工作已經確定的各種正式和非正式協作機制，例如跨部門小組。國防部已部分納入領先的協作實踐，例如識別領導力。然而，國防部官員告訴我們，他們正在制定指南和協議，明確定義參與人工智能活動的國防部組件的角色和職責。通過最終確定和發布此類指南，國防部可以幫助確保所有參與者就整個部門的人工智能工作的責任和決策達成一致。

為什么 GAO 做這項研究

國防部戰略指出，人工智能將改變戰爭的性質，不采用人工智能技術可能會阻礙作戰人員保衛我們國家的能力。國防部正在進行組織變革并投資數十億美元來整合人工智能技術，例如建立聯合人工智能中心以加速在整個國防部提供人工智能能力。

伴隨 2021 財年國防授權法案的眾議院報告 116-442，以及讓 GAO 評估國防部的資源、能力和人工智能技術計劃的規定。本報告評估了 (1) 國防部的人工智能戰略和相關計劃，包括綜合戰略的特征；(2) 國防部已確定并報告了整個部門的人工智能活動情況；(3) 國防部在其人工智能活動上的合作情況。GAO 審查了相關法律和國防部戰略，概述了整個部門管理人工智能的計劃和流程，采訪了官員，并進行了全部門調查。這是 GAO 于 2022 年 2 月發布的敏感報告的公開版本。國防部認為敏感的信息已被省略。

工業人工智能 (AI) 是人工智能在工業中的應用，是第四次工業革命中價值創造的主要貢獻者。人工智能正被嵌入到廣泛的應用程序中，幫助組織獲得顯著的利益，并使他們能夠改變向市場提供價值的方式。

? 本文檔為支持人工智能的工業物聯網系統的開發、培訓、文檔編制、通信、集成、部署和操作提供指導和幫助。它面向來自 IT 和運營技術 (OT)、來自多個學科的業務和技術的決策者，包括業務決策者、產品經理、系統工程師、用例設計師、系統架構師、組件架構師、開發人員、集成商和系統操作員。

該文檔圍繞 IIC 工業互聯網參考架構中的架構觀點構建，即業務、使用、功能和實施觀點。該文件討論了推動人工智能采用的商業和價值創造考慮因素。它還詳細闡述了人工智能的使用、工業用例以及與之相關的道德、隱私、偏見、安全、勞工影響和社會問題。在技術方面，該文檔描述了與 AI 相關的架構、功能和數據注意事項，并討論了各種實施注意事項，例如性能、可靠性、數據屬性和安全性?。

人工智能的采用將在行業中加速。鑒于計算能力的快速增長、可用于訓練的數據的更廣泛可用性以及算法的日益復雜，人工智能技術將繼續發展。當前的 IT 標準和最佳實踐必須不斷發展，以解決 AI 本身的獨特特征以及與 IIoT 系統的安全性、可靠性和彈性相關的具體考慮因素。此外，人工智能技術的日益成熟將幫助人們認識到它的好處遠遠超過它的風險。 AI 標準生態系統也將繼續發展，例如 ISO/IEC JTC 1/SC42 正在進行的標準工作，為 JTC 1、IEC 和 ISO 委員會制定 AI 標準提供指導。

基于這些趨勢，毫無疑問，人工智能將繼續推動技術和功能上的可能性，因此預期合理的事情將同樣發展。對技術的態度和對其使用的商業期望也將繼續發展。

未來，我們可以期待使用人工智能技術成為常態，而不是例外，考慮到這項技術的社會效益，“不使用人工智能”最終可能會成為不負責任的做法。

機器學習模型和數據驅動系統正越來越多地用于幫助在金融服務、醫療保健、教育和人力資源等領域做出決策。機器學習應用程序提供了諸如提高準確性、提高生產率和節約成本等好處。這一趨勢是多種因素共同作用的結果，最顯著的是無處不在的連通性、使用云計算收集、聚合和處理大量細粒度數據的能力，以及對能夠分析這些數據的日益復雜的機器學習模型的更好訪問。

開發負責任的人工智能解決方案是一個過程，涉及在人工智能生命周期的所有階段與關鍵利益相關者(包括產品、政策、法律、工程和人工智能/ML團隊，以及最終用戶和社區)進行輸入和討論。在本文中，我們主要關注ML生命周期中用于偏見和可解釋性的技術工具。我們還提供了一個簡短的章節，介紹了AI公平性和可解釋性的限制和最佳實踐。

//pages.awscloud.com/rs/112-TZM-766/images/Amazon.AI.Fairness.and.Explainability.Whitepaper.pdf