亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

概述

美政府問責局(GAO)日前發布報告《人工智能:國防部應改進策略和流程并加強協作指導》。該報告通過評估2018年《國防部人工智能戰略》,發現其存在片面性的一些特征,如九項人工智能相關戰略計劃“不包括與采用AI技術相關的資源、投資和風險的完整描述”等,呼吁國防部制定更全面的人工智能戰略,以使其更好地定位、問責和負責任地使用該技術。該報告還向國防部提出以下建議:發布含AI戰略所有特征的指南、建立定期審查國防部AI戰略的程序;開發含所有需求的高級計劃或路線圖;發布指南和協議,定義該機構在AI活動中的領導和參與者的責任等

背景

GAO的發現

2018 年國防部 (DOD) 人工智能 (AI) 戰略將 AI 定義為機器執行通常需要人類智能的任務的能力。戰略和相關計劃包括綜合戰略的一些(但不是全部)特征。 例如,國防部的九項人工智能相關戰略和計劃不包括對資源和投資以及與采用人工智能技術相關風險的完整描述(見圖)。發布指南以在未來與人工智能相關的戰略中包含綜合戰略的所有特征,可以幫助國防部更好地幫助管理人員確保問責制和負責任地使用人工智能。

國防部人工智能相關戰略和計劃的評估

國防部已開始識別和報告其 AI 活動,但其 AI 基線清單存在限制,例如排除機密活動。國防部官員表示,這些限制將在人工智能活動識別過程的后續階段得到解決。然而,國防部還沒有制定一個涵蓋所有需求和里程碑的高級計劃或路線圖。這樣的計劃將為國防部提供實現該計劃目標所需的所有功能的高級、端到端視圖,以向國會和國防部決策者提供完整和準確的人工智能活動清單。

國防部組織在人工智能活動上進行協作,但可以更充分地整合領先的協作實踐。國防部使用 GAO 先前工作已經確定的各種正式和非正式協作機制,例如跨部門小組。國防部已部分納入領先的協作實踐,例如識別領導力。然而,國防部官員告訴我們,他們正在制定指南和協議,明確定義參與人工智能活動的國防部組件的角色和職責。通過最終確定和發布此類指南,國防部可以幫助確保所有參與者就整個部門的人工智能工作的責任和決策達成一致。

為什么 GAO 做這項研究

國防部戰略指出,人工智能將改變戰爭的性質,不采用人工智能技術可能會阻礙作戰人員保衛我們國家的能力。國防部正在進行組織變革并投資數十億美元來整合人工智能技術,例如建立聯合人工智能中心以加速在整個國防部提供人工智能能力。

伴隨 2021 財年國防授權法案的眾議院報告 116-442,以及讓 GAO 評估國防部的資源、能力和人工智能技術計劃的規定。本報告評估了 (1) 國防部的人工智能戰略和相關計劃,包括綜合戰略的特征;(2) 國防部已確定并報告了整個部門的人工智能活動情況;(3) 國防部在其人工智能活動上的合作情況。GAO 審查了相關法律和國防部戰略,概述了整個部門管理人工智能的計劃和流程,采訪了官員,并進行了全部門調查。這是 GAO 于 2022 年 2 月發布的敏感報告的公開版本。國防部認為敏感的信息已被省略

付費5元查看完整內容

相關內容

人工智能在軍事中可用于多項任務,例如目標識別、大數據處理、作戰系統、網絡安全、后勤運輸、戰爭醫療、威脅和安全監測以及戰斗模擬和訓練。

2022年3月,美國蘭德公司發布《開發嵌入人工智能應用的聯合全域指揮控制作戰概念》報告,論述了嵌入人工智能/機器學習(AI/ML)的聯合全域指揮控制(JADC2)的需求,說明了如何在JADC2中利用商業AI/ML系統和需要克服的障礙,并指出了發展路徑。報告認為,為實現嵌入人工智能應用的JADC2,需要投入人力和資源來超越如今的人力密集型指揮控制模式,用自動化和AI/ML技術改進當前的規劃過程。

報告核心觀點包括

  • 將AI/ML納入JADC2之前需要建立“信息基礎”;
  • 實現JADC2目標的關鍵是確定核心軍事任務的指揮控制需求并建立可行的軟件開發計劃;
  • 將商業AI/ML系統用于軍事任務,必須確定技術支持的作戰需求、隨后確定實現作戰任務所需的指揮控制過程,同時了解AI/ML技術的局限性;
  • 在JADC2中應用AI/ML需要克服四個障礙:軍事文化與商業文化的差異、數據不可訪問、重組軍事行動中心并培訓人員、軍事亞文化;
  • 在JADC2中應用AI/ML的目標是實現指揮控制的高效人機組隊,而不是指揮控制的完全自動化。

將人工智能(AI)和機器學習(ML)納入JADC2進行多域作戰(MDO)之前要完成一項艱巨的任務,即建立“信息基礎”。信息基礎中的數據帶有標記,能夠安全地存儲和傳輸,且易于訪問。建立信息基礎需要持續整理和保護軍方為開展指揮控制所需的跨領域、跨軍種和跨梯隊的所有信息。這些信息是AI和ML算法所需的輸入。如果沒有這樣一個信息基礎,將AI融入JADC2的工作就無法取得進展。 盡管最近AI/ML在游戲領域取得了令人鼓舞的成功,但考慮到信息不完整、數據質量差和對手行動等現實障礙,在某些指揮控制功能中使用類似的技術仍具有挑戰性。其他AI/ML技術,例如用于預測戰區內飛機狀態的應用,其成熟度更高。實現JADC2目標取決于確定核心軍事任務集的指揮控制需求,以及建立在近期和遠期都可以實現的軟件開發計劃。

1 JADC2對支撐多域作戰的必要性

現代戰爭已經超越了傳統的陸、空、海領域,軍事指揮官及其參謀人員計劃、指揮和控制部隊不能局限于這些傳統領域,還要擴展到太空、網絡和電磁頻譜領域。更復雜的是,跨領域的活動已經超出了傳統戰爭的范疇,**在還未采取公開敵對行動之前,大多數國家早已身處競爭環境。**軍隊必須能夠在戰爭和競爭中整合這些領域。今天的軍事行動已經需要靈活和安全的手段來跨梯隊、領域、組織和地理區域進行通信和共享數據。未來的全域戰爭和競爭將對獲取信息的規模和速度、對信息的理解和快速決策提出更高的要求,這些都是JADC2能力的關鍵要素。

但是,今天用于規劃、調度和執行監視軍事任務的既存系統和基礎設施不適用于現代全域作戰。鑒于多域作戰規劃日益復雜,期限縮短,而且數據要求增加,軍事規劃人員需要新的工具,包括AI/ML工具。 要想確定對AI/ML工具投入的優先級,就需要了解這些工具的能力、面臨的障礙以及它們滿足多域作戰下新興指揮控制需求的潛力。

圖1 機器學習的類型

2 如何利用商業AI/ML系統

近來,AI/ML系統在日益復雜的游戲中展現出人類所不能及的能力,再加上人們對未來高端沖突作戰需求日益加深的理解,使AI/ML變得極具吸引力。作為一種AL/ML系統,AlphaStar在即時戰略游戲《星際爭霸》中的成功**預示著監督學習和強化學習未來有可能應用于戰術級和戰役級指揮控制。**但是,將這些技術從游戲過渡到戰爭仍需要大量的研究。

隨著人工智能算法被開發用于現實、動態、多領域、大規模和快節奏的作戰,需要選擇、評估和監控重要的度量標準來衡量算法的性能、有效性和適用性。關鍵的算法度量標準包括:效率(計算所需的時間和內存)、可靠性(算法是否產生有效的結果)、最優性(算法是否為給定目標提供最佳結果)、穩健性(算法是否能夠在意外情況下平緩降級)、可解釋性(人是否能理解所產生結果的原因)和確定性(算法是否按預期運行)。

由于商業和學術AI/ML系統沒有直接應用于軍事任務,這些技術需要過渡到軍事環境才能帶來作戰優勢。為了決定采用哪些AI/ML技術,軍方**必須首先了解需要這些技術支持哪些作戰需求,如空中優勢、防空、加油機支持等。隨后作戰需求將決定****實現作戰任務所需的指揮控制過程,**如態勢感知、空域去沖突等。**了解AI/ML技術的局限性,**尤其是它們在不確定條件下進行推理時遇到的困難,也同樣重要。否則,這些技術可能會達不到預期。

圖2 AI/ML關系

3 實現AI/ML的軍事應用需要克服的障礙

實現AI/ML的軍事應用存在以下四個主要障礙。

(1)軍事文化與商業文化的差異

由于在戰爭中生命始終處于危險之中,軍事文化通常是規避風險的。但是在商業世界中,承擔大的風險可能獲得豐厚的經濟回報。這種文化差異在共享數據方面表現最為突出。軍方傾向于保護信息(只有那些“需要了解”的人才能獲取信息),而商業世界重視開放數據訪問(“廣泛共享”),以促進應用開發并獲得經濟利益。因此,將安全考慮納入軍事軟件開發和信息技術(IT)行動(稱為DevSecOps)非常重要,由此能夠挫敗試圖通過網絡手段削弱指揮控制的對手和危險份子。最大的挑戰可能是如何確保AI/ML算法適用于真實戰場。在戰場中,“戰爭迷霧”、不完整的信息和對手的行動與游戲環境截然不同。

(2)軍方內部數據不可訪問

軍方需要統一的數據管理政策和足夠先進的信息技術使指揮控制人員可以訪問大量數據,由此支持他們的人工智能輔助決策。換句話說,**必須有一個支持收集、標記、存儲、保護和共享數據的AI生態系統。**這個生態系統將依賴于通用數據標準、明確指定的權限、完整性檢查和入侵防護。**云計算和數據湖將是關鍵組成部分。**云數據湖可以用于分布式計算、冗余存儲和整個企業內的連接。考慮到現有的軍事政策、文化、權限、預算和獲取途徑,構建這樣一個環境以跨領域和跨安全級別的安全方式提供大量數據將對JADC2提出挑戰。

(3)需要重組軍事行動中心并培訓中心的人員

機器之間通信的增加和指揮控制過程的自動化,可能會帶來作戰中心硬件和人員的變化,這使人類作戰人員能夠聚焦認知任務,如評估和完善潛在的行動方案。采用AI/ML技術將創造出新的角色和職責。作戰人員需要接受培訓以便管理和運營AI生態系統,同時充當數據管理員,確保在該生態系統中捕獲和存儲的數據的質量和完整性。此外,雖然現在規劃人員和決策人員受到的培訓是要在一個領域內思考,但新的職責可能會出現,需要人們同時在多個領域內思考。

**(4)存在軍事亞文化 **

由于作戰人員之間亞文化的差異、規劃時間線的不同,以及為實現不同的作戰效果而采用的不同的權限分配方案,即使在一個軍種內,也很難跨越空中、太空和網絡領域集成AI能力。 盡管如此,對全域指揮控制的需求是急迫的,而且這種需求越來越普遍。為此,在JADC2中嵌入AI應用必須面對和克服以上所有障礙——軍事文化、網絡安全問題、用于知識質量較差的問題的算法、數據不可訪問、作戰中心重組和培訓以及軍事亞文化。

4 實現高效發展的路徑

以上障礙讓現狀看起來很嚴峻,必須立即做出改變來響應快速向前推進的迫切需求。但是,如果將實現目標的步驟分解成一個個容易解決的問題,如果軍方清楚技術的可能性和局限性,就可以取得進展。**我們的目標不應該是指揮控制的完全自動化,而是指揮控制的高效人機組隊。**實現這一目標的步驟應該包括:第一,繼續開發JADC2作戰概念并確定其優先次序;第二,在指揮控制過程中確定采用AI/ML來增強能力的需求和機會

與此同時,有必要為數據驅動的AI生態系統設置環境,這意味著要將武器系統和相關數據遷移至多域數據湖中,供有權限的人使用,同時應用“零信任”和其他安全原則來靈活且安全地管理這些數據。隨著AI軟件應用程序的開發,有必要在作戰測試環境中對這些應用程序進行實驗,將它們與指揮控制系統集成,然后將有限的能力部署到作戰中心,接著根據用戶反饋快速更新軟件應用程序。分析師和技術專家希望探索作戰概念來促進人機組隊,建立人們對AI智能算法的信任,并提高算法的可解釋性。商業需求較少的領域可能需要有針對性的軍事投資,例如用于數據稀缺領域的AI算法學習,或者用于防御針對這些算法的攻擊的AI算法。

當前的AI/ML技術需要學習用的數據。由于缺乏真實世界的數據(缺乏這類數據也是一件幸事)來為改進這些戰爭技術提供信息,軍方可以利用建模、模擬和演習來為AI/ML算法生成訓練數據。這類算法有助于武器-目標配對等。監督或強化學習算法可以支持這種指揮控制功能,類似于最近應用于商業游戲的學習算法。但是軍事算法也必須考慮到現實世界中的不確定性,這對人類和算法來說都是一個主要困難。

正如美國空軍參謀長查爾斯?布朗(Charles Brown)2020年8月所說:“要么加速變革,要么失敗。”對現代戰爭來說,及時向JADC2邁進是必要的,而且有必要“在競爭對手的防守期限內”完成。這一需求真實存在,但對AI/ML設定現實的預期很重要。現有的指揮控制流程在自動化方面還有改進的空間,在某些情況下,在AL/ML方面也有改進的空間。美國眾議院軍事委員會主席、華盛頓州民主黨眾議員亞當?史密斯(Adam Smith)于2021年9月談到JADC2時說:“目標是正確的,但不要低估實現這個目標的難度。”

來源:防務快訊

付費5元查看完整內容

2018年國防部人工智能戰略將人工智能定義為機器執行通常需要人類智能的任務的能力。戰略和相關計劃包括了全面戰略的一些特點,但不是全部。例如,國防部的9個與人工智能相關的戰略和計劃并不包括與采用人工智能技術相關的資源、投資和風險的完整描述(見圖)。在未來與人工智能相關的戰略中,發布包括綜合戰略的所有特征的指導,可以幫助國防部更好地定位,幫助管理者確保對人工智能的問責和負責任的使用。

國防部已經開始識別并報告其人工智能活動,但其人工智能基線庫存存在局限性,如排除分類活動。國防部官員表示,這些限制將在AI庫存識別過程的后續階段得到解決。然而,國防部還沒有開發一個高層次的計劃或路線圖來捕獲所有的需求和里程碑。該計劃將為國防部提供一個高層次的、端到端對所有必要特征的視圖,以實現該計劃的目標,為國會和國防部決策者提供一個完整、準確的人工智能活動清單。

國防部組織在人工智能活動上進行合作,但可以更充分地納入領先的合作實踐。國防部使用了各種正式和非正式的合作機制,GAO之前的工作已經確定,如跨機構小組。國防部已經部分納入了領先的協作實踐,例如識別領導能力。然而,國防部官員告訴我們,他們正在制定指導方針和協議,明確定義參與人工智能活動的國防部組件的角色和職責。通過最終確定和發布這樣的指南,國防部可以幫助確保所有參與者對整個部門的AI工作的責任和決策達成一致。

付費5元查看完整內容

?

對于群體智能中的人類操作員來說,關鍵情況下的決策支持至關重要。自主系統共享的大量數據很容易使人類決策者不堪重負,因此需要支持以智能方式分析數據。為此,使用了用于評估情況和指示可疑行為或統計異常值的自主系統。這增強了他們的態勢感知能力并減少了工作量。因此,在這項工作中,強調為檢測監視任務中的異常而開發的數據融合服務,例如在海事領域,可以適應支持集群智能的運營商。此外,為了使人類操作員能夠理解群體的行為和數據融合服務的結果,引入了可解釋的人工智能 (XAI) 概念。通過為某些決策提供解釋,這使得自主系統的行為更容易被人類理解

作者解決了由于自主系統共享大量數據而導致的信息過載問題。為了緩解這個問題,他們建議通過兩種智能數據分析方式來幫助人類操作員。第一種方法是自動異常檢測,這可能會加強人類操作員的 態勢感知SA 并減少他們的工作量。第二種方法是可解釋的人工智能 (XAI) 概念;它們有可能使群體行為以及異常檢測結果更易于理解。

作者認為,控制一群無人機仍然具有挑戰性。一方面,(半自動化)群體代理“必須決定行動方案”;另一方面,人類操作員必須決定他們的行動,例如與群體互動。提出的建議力求改善人在循環中。考慮到海上監視的應用,使用非固定代理的動態方法具有幾個優點。首先,某些場景只能使用動態方法進行管理;其次,與固定監視傳感器相比,代理更便宜;第三,在多個地點靈活使用代理可以減少操作群體所需的人員數量。然而,情況評估仍然需要知情的操作員。

作者認為,在海洋領域用于船舶分析的異常檢測算法可能適用于引入以下場景的群體。“假設我們有一個群體來支持海上船只,這些船只不僅會收集它們自己的傳感器系統可用的數據,還會收集所有資產的數據。所有來源收集的信息都需要融合成一幅連貫的畫面。這不應僅限于 JDL 數據融合的第一級,而應包括更高級別的數據融合過程,以獲取有關附近所有對象的可用信息。” 數據驅動的方法能夠應對這種情況。文獻提供了三種檢測位置和運動異常的方法:統計解釋為與正常行為相比的異常值;聚類分析聚類相似的軌跡和確切的路線;用于建模正常移動模式的深度學習方法。為了應對更復雜的場景,包括船舶周圍環境(基礎設施、地理、天氣等)在內的算法是必要的。在某些復雜異常的情況下,區分正常和異常行為需要基于規則、基于模糊、多智能體或基于概率圖形模型的算法。對于所有提到的算法類別,作者都指出了大量的示例算法。

一些算法是黑盒模型,因此,它們的解釋對于人類操作員來說是復雜的。XAI 概念可以幫助緩解這個問題。XAI 概念旨在“提供道德、隱私、信心、信任和安全”,并努力在“它已經做了什么、現在正在做什么以及接下來會發生什么”中明確決策。,從而提高了人工操作員的 SA。考慮到 XAI 模型,模型特定方法(僅限于某些數學模型)可以與模型無關(適用于任何類型的模型)方法區分開來。

在目前的貢獻中,重點是與模型無關的方法。考慮到這些,局部解釋方法(解釋整個模型的單個預測結果)可以與全局解釋方法(解釋整個模型的行為,例如以規則列表的形式)區分開來。此外,作者使用特征屬性、路徑屬性和關聯規則挖掘來區分方法。通過特征屬性,“用戶將能夠了解他們的網絡依賴于哪些特征”;方法示例是提供全局和局部可解釋性的 Shapley Additive Explanations (SHAP) 和指示“模型在進行預測時考慮的輸入特征” 的局部可解釋模型無關解釋 (LIME)。路徑集成梯度(PIG,使用局部解釋)等路徑屬性提供了對模型預測貢獻最大的特征,從而深入了解導致決策的推理。關聯規則挖掘(ARM)是另一種使用全局解釋的方法,發現大型數據集中特征之間的相關性和共現。ARM 方法使用簡單的 if-then 規則,因此被認為是最可解釋的預測模型。可伸縮貝葉斯規則列表 (SBRL)、基尼正則化 (GiniReg) 和規則正則化 (RuleReg) 技術被認為適用于監視任務。

作者認為,使用這樣的 XAI 概念,人類操作員(決策者)可以更好地理解、更好地控制和更好地與一群自主代理進行通信,尤其是在具有挑戰性的環境中。總而言之,將異常檢測和 XAI 概念這兩種方法應用于人類在環、用戶對群體智能的理解和信任可能會得到改善。

付費5元查看完整內容

本報告描述了北約第一個多領域小組IST-173所取得的成果。與會者包括來自不同小組和團體的科學家,以及來自北約機構和軍事利益攸關方、學術界和工業界的科學家,這為AI和軍事決策大數據這一主題創造了第一個利益共同體。該團隊在實踐中證明了一種新的STO方法的可行性,即任務導向研究,以激發公開對話、自我形成的研究合作和跨小組活動。此外,該方法還有助于為人工智能和軍事決策大數據這兩個主要能力領域聯合開發北約首個科技路線圖,以應對北約在這些領域面臨的作戰挑戰。由于新的組織(軍事利益相關者積極參與的多領域團隊)和這種創新方法的應用,確定了一些經驗教訓,應該支持軍事決策AI和大數據的進一步操作。

付費5元查看完整內容

高超音速武器正在為戰爭的步伐增添一個新的維度,并將以極快的速度推動戰場上的交戰。這將要求軍事指揮官比對手可用的先進武器和自動化流程更快地采取行動。在這種作戰環境中獲得決策優勢必須從支撐所有軍事行動的情報活動開始。

及時準確的情報提供了支持決策周期的信息優勢。將自動化應用于情報周期的各個方面,并在這些過程中建立信任,將使傳感器到射手的結構成為攔截先進武器和滿足日益增長的及時性作戰需求所必不可少的。不能滿足對及時情報的需求將導致戰場上的決策優勢喪失,隨后喪失戰斗中的作戰主動權,并可能導致戰斗。

基于人工智能 (AI) 的解決方案將在戰場和整個情報周期中提供各種優勢。當與彈性情報、監視和偵察 (ISR) 以及高級分析相結合時,它將為作戰部隊提供前所未有的能力。然而,僅靠人工智能并不能完全解決這一挑戰。我們必須為消費者和整個情報社區 (IC) 建立對源自 AI 流程的情報的信任。信任是啟用它們的關鍵,因此我們有能力從自動化中獲得全部好處。

付費5元查看完整內容

Drone Wars UK 的最新簡報著眼于人工智能目前在軍事環境中的應用方式,并考慮了所帶來的法律和道德、作戰和戰略風險。

人工智能 (AI)、自動決策和自主技術已經在日常生活中變得普遍,并為顯著改善社會提供了巨大的機會。智能手機、互聯網搜索引擎、人工智能個人助理和自動駕駛汽車是依賴人工智能運行的眾多產品和服務之一。然而,與所有技術一樣,如果人們對人工智能了解甚少、不受監管或以不適當或危險的方式使用它,它也會帶來風險。

在當前的 AI 應用程序中,機器為特定目的執行特定任務。概括性術語“計算方法”可能是描述此類系統的更好方式,這些系統與人類智能相去甚遠,但比傳統軟件具有更廣泛的問題解決能力。假設,人工智能最終可能能夠執行一系列認知功能,響應各種各樣的輸入數據,并理解和解決人腦可以解決的任何問題。盡管這是一些人工智能研究計劃的目標,但它仍然是一個遙遠的前景。

AI 并非孤立運行,而是在更廣泛的系統中充當“骨干”,以幫助系統實現其目的。用戶不會“購買”人工智能本身;他們購買使用人工智能的產品和服務,或使用新的人工智能技術升級舊系統。自主系統是能夠在沒有人工輸入的情況下執行任務的機器,它們依靠人工智能計算系統來解釋來自傳感器的信息,然后向執行器(例如電機、泵或武器)發出信號,從而對機器周圍的環境造成影響.

人工智能被世界軍事大國視為變革戰爭和獲得戰勝敵人的優勢的一種方式。人工智能的軍事應用已經開始進入作戰使用,具有令人擔憂的特性的新系統正在迅速推出。與軍事和公共部門相比,商業和學術界已經引領并繼續引領人工智能的發展,因為它們更適合投資資金和獲取研究所需的資源。因此,未來人工智能的軍事應用很可能是對商業領域開發的技術的改編。目前,人工智能正在以下軍事應用中采用:

  • 情報、監視和偵察
  • 賽博戰
  • 電子戰
  • 指揮控制和決策支持
  • 無人機群
  • 自主武器系統

人工智能和英國軍事

綜合審查和其他政府聲明毫無疑問地表明,政府非常重視人工智能的軍事應用,并打算繼續推進人工智能的發展。然而,盡管已經發布了概述使用自動化系統的學說的出版物,但迄今為止,英國國防部 (MoD) 仍然對管理其人工智能和自主系統使用的倫理框架保持沉默,盡管已經做出了一些重大決定。軍事人工智能的未來用途。

英國國防部一再承諾發布其國防人工智能戰略,預計該戰略將制定一套高級倫理原則,以控制軍事人工智能系統的整個生命周期。該戰略是在與來自學術界和工業界的選定專家討論后制定的,盡管政府尚未就與人工智能的軍事用途相關的倫理和其他問題進行公開磋商。該戰略的主要目的之一是向行業和公眾保證,國防部是人工智能項目合作的負責任合作伙伴。

與此同時,在沒有任何道德指南的情況下,計劃和政策正在迅速推進,主要問題仍未得到解答。英國軍隊在什么情況下會采用人工智能技術?政府認為何種程度的人為控制是合適的?風險將如何解決?英國將如何向其盟友和對手證明英國打算采取有原則的方法來使用軍事人工智能技術?

軍事人工智能系統帶來的風險 上述人工智能的每一種不同的軍事應用都會帶來不同的風險因素。作為國防部總部后臺操作的一部分,對數據進行排序的算法會引發不同的問題和擔憂,并且需要與自主武器系統不同級別的審查。

盡管如此,目前正在開發的人工智能系統無疑會對生命、人權和福祉構成威脅。軍事人工智能系統帶來的風險可以分為三類:道德和法律、操作和戰略。

道德和法律風險

  • 遵守戰爭法: 目前尚不清楚機器人系統,特別是自主武器如何能夠滿足戰爭法制定的致命決定和保護非戰斗人員的標準。

-問責制:目前尚不清楚如果出現問題,誰來承擔責任:如果計算機運行不可預測并因此犯下戰爭罪行,懲罰它是沒有意義的。

  • 人權和隱私:人工智能系統對人權和個人隱私構成潛在威脅。

  • 不當使用:在戰斗環境中處于壓力之下的部隊可能會試圖修改技術以克服安全功能和控制。

作戰應用風險

  • 偏見的技術來源:人工智能系統的好壞取決于它們的訓練數據,少量損壞的訓練數據會對系統的性能產生很大影響。

  • 偏見的人為來源:當人類濫用系統或誤解其輸出時,可能會導致偏見。當作戰員不信任系統或系統非常復雜以至于其輸出無法解釋時,也會發生這種情況。

  • 惡意操縱:軍用 AI 系統與所有聯網系統一樣,容易受到惡意行為者的攻擊,這些行為者可能試圖干擾、黑客攻擊或欺騙系統。

戰略風險

  • 降低門檻:人工智能系統帶來了政治領導人在沖突中訴諸使用自主軍事系統而不是尋求非軍事選擇的風險。

  • 升級管理:涉及人工智能的軍事行動的執行速度降低了審議和談判的空間,可能導致快速意外升級并造成嚴重后果。

  • 軍備競賽和擴散:對軍事人工智能的追求似乎已經引發了軍備競賽,主要和地區大國競相發展其能力以保持領先于競爭對手。

  • 戰略穩定性:如果先進的人工智能系統發展到能夠預測敵人戰術或部隊部署的程度,這可能會產生高度不穩定的后果。

本簡報列出了為人工智能設想的各種軍事應用,并強調了它們造成傷害的可能性。它認為,減輕軍事人工智能系統帶來的風險的建議必須基于確保人工智能系統始終處于人類監督之下的原則。

迄今為止,公眾對人工智能和機器人技術進步所帶來的社會變化和風險似乎知之甚少。這份簡報的部分目的是為了敲響警鐘。人工智能可以而且應該用于改善工作場所的條件和對公眾的服務,而不是增加戰爭的殺傷力。

付費5元查看完整內容

美國國防部(DOD)報告稱,人工智能(AI)是一項革命性的技術,有望改變未來的戰場和美國面臨的威脅的速度。人工智能能力將使機器能夠執行通常需要人類智能的任務,如得出結論和做出預測此外,人工智能機器可以以人類操作員無法企及的速度操縱和改變戰術。由于AI具有廣泛用途的潛力,國防部將其指定為頂級現代化領域,并投入大量精力和資金開發和獲取AI工具和能力,以支持作戰人員。在2022財年,國防部為科學和技術項目申請了147億美元,以及8.74億美元用于直接支持其人工智能努力。根據國防部2018年的人工智能戰略,未能將人工智能能力納入武器系統可能會阻礙戰士保護我們的國家抵御近同行對手的能力其他國家正在這一領域進行大量投資,這可能會削弱美國的軍事技術和作戰優勢。

美國國防部(DOD)正在積極追求人工智能(AI)能力。人工智能指的是旨在復制一系列人類功能,并不斷在分配的任務上做得更好的計算機系統。GAO之前確定了三種AI類型,如下圖所示

國防部認識到開發和使用人工智能不同于傳統軟件。傳統軟件的編程是根據靜態指令執行任務,而人工智能的編程則是學習如何改進給定的任務。這需要大量的數據集、計算能力和持續監控,以確保功能按預期執行。支持國防部作戰任務的大部分人工智能能力仍在開發中。這些能力主要集中在分析情報,增強武器系統平臺,如不需要人工操作的飛機和艦船,并在戰場上提供建議(如將部隊轉移到哪里)。

當獲取依賴于復雜軟件的新能力時,國防部一直面臨著挑戰,例如長時間的獲取過程和熟練工人的短缺。GAO發現,它繼續面臨這些挑戰,同時還面臨人工智能特有的其他挑戰,包括有可用的數據來訓練人工智能。例如,人工智能探測對手的潛艇需要收集各種潛艇的圖像,并標記它們,這樣人工智能就可以學會自己識別。國防部還面臨著將訓練有素的人工智能集成到非為其設計的現有武器系統中的困難,以及在其人員中建立對人工智能的信任。國防部發起了一系列努力,如為人工智能和人工智能特定培訓建立一個跨服務的數字平臺,以應對這些挑戰,并支持其對人工智能的追求,但現在評估有效性還為時過早

付費5元查看完整內容

近日,美國人工智能國家安全委員會發布最終報告(草案)。本報告共分為兩大部分:第一部分,“在人工智能時代保衛美國”(第1-8章)概述了美國必須做些什么來抵御來自國家和無政府組織的人工智能相關威脅,并建議美國政府如何負責任地使用人工智能技術來保護美國人民和利益。第二部分,“贏得技術競爭”(第9-16章)概述了人工智能在更廣泛的技術競爭中的作用,并建議政府必須采取行動促進人工智能創新,從多個方面提高國家競爭,保護美國的關鍵優勢。

這兩個部分共同代表了白宮領導下的戰略綱要,該戰略旨在調整國家的方向,以應對新興時代的機遇和挑戰。

美國人工智能國家安全委員會于2019年由國會特許成立,旨在探討人工智能對美國國家安全的影響。該報告中包括對白宮、聯邦機構、國會和其他實體的詳盡建議,涉及從勞動力、知識產權到倫理的各個主題,最終報告預計將影響未來幾年拜登政府和國會議員所采取的人工智能政策。

這兩個部分共同代表了白宮領導下的戰略綱要,該戰略旨在調整國家的方向,以應對新興時代的機遇和挑戰。

付費5元查看完整內容
北京阿比特科技有限公司