以色列正在加沙使用人工智能系統識別目標,此舉被視為現代戰爭的重要一步。自2023年 10 月 7 日哈馬斯領導的武裝分子發動襲擊以來,以色列軍隊已對加沙發動了 22000 多次襲擊,其中自 12 月 1 日臨時停戰協議破裂以來就發動了 3500 多次襲擊。
以色列軍方的人工智能系統被命名為 "福音",用于迅速確定敵方部隊和裝備的位置,據稱可最大限度地減少平民傷亡。然而,批評者認為,該系統的有效性值得懷疑,它可能被用來為大量平民死亡辯護。
蘭卡斯特大學人類學家露西-蘇奇曼(Lucy Suchman)對人工智能系統的實際效果表示擔憂,因為加沙遭到了大規模破壞。來自 Trail of Bits 的海迪-克拉夫(Heidy Khlaaf)警告說,人工智能算法的錯誤率很高,尤其是在戰爭中瞄準目標等關鍵應用中。
盡管存在這些擔憂,但正如美國國防情報局前局長羅伯特-阿什利(Robert Ashley)所指出的,人工智能在戰爭中的應用是一個新階段,具有快速處理數據和決策的潛力,這一點已達成共識。由以色列 8200 單元開發的 "福音 "是用于目標推薦的多個人工智能程序的一部分,其結果明顯快于傳統方法。
美國猶太國家安全研究所的布萊斯-米斯塔爾(Blaise Misztal)指出,該系統可能利用了多種數據源,包括手機短信、衛星圖像和無人機鏡頭。然而,人們對該系統的訓練偏差以及分析人員依賴人工智能建議的壓力越來越大的擔憂也與日俱增。
在最近的沖突中,以色列如此大規模地使用人工智能是史無前例的,既要打擊哈馬斯,又要在復雜的城市環境中盡量避免平民傷亡。盡管如此,加沙大量巴勒斯坦平民的死亡和大范圍的破壞還是引起了人們對人工智能性能和道德影響的嚴重質疑。
這一事件凸顯了人工智能在軍事沖突中新出現的作用,使現代戰爭中的有效性、道德和責任等問題變得更加突出。
人工智能(AI)影響著醫療、教育、金融和娛樂等各個領域,正日益成為我們日常生活的核心。隨著人工智能的發展,有效治理以管理其使用和應對潛在風險的重要性也與日俱增。機器學習作為人工智能的一項關鍵技術,對社會產生了重大影響,引發了有關公正性、透明度、隱私和數字鴻溝的倫理問題。
由于人工智能技術復雜、發展迅速、應用多樣,有效的人工智能治理至關重要,但也極具挑戰性。它要求在創新和社會保護之間取得平衡,確保問責制和公平性。從遺傳算法中吸取經驗教訓并認識到人工智能的全球性,適應性人工智能治理至關重要。要實現人工智能標準化,需要國際合作,讓聯合國等組織和各利益相關方參與進來。
人工智能標準化對于互操作性、透明度和解決偏見等道德問題至關重要,但由于人工智能的快速發展和復雜性,標準化面臨著挑戰。盡管如此,國際標準化組織(ISO)和電氣和電子工程師學會(IEEE)等組織正在制定人工智能標準,強調利益相關者的廣泛參與。
在機器學習管理中,數據質量和隱私是關鍵。在數據需求與隱私保護之間取得平衡、消除數據偏見并確保透明度是一大挑戰,但法規可以為負責任地使用人工智能制定標準。
監管人工智能算法對公平性和問責制至關重要,但其技術復雜性和快速發展帶來了挑戰。多方利益相關者的參與、技術標準和第三方審計是潛在的解決方案。
最后,人工智能在各行各業的應用,特別是在軍事應用中的武器化,也需要監管。人工智能在戰爭中的倫理和安全影響,包括自主武器,需要一個全球倫理框架和國際合作。
總之,隨著人工智能的發展,一個全面的、針對具體部門的、全球合作的監管方法至關重要,重點是適應性,以應對當前和未來的人工智能發展。
圖:2021 年,在亞利桑那州尤馬試驗場進行的測試中,"蒼狼 "2C 無人機攔截器的兩種變體被發射。動能攔截器為美國陸軍提供了靈活的短程反無人機系統能力。(照片由美國陸軍提供)。
戰爭的新特點之一是單向無人機系統(UAS)的擴散。在烏克蘭和伊拉克/敘利亞,正在進行的戰斗由廉價生產的無人駕駛飛機組成,這些飛機裝滿炸藥,通過全球定位系統(GPS)或全球導航衛星系統(GLONASS,相當于俄羅斯的全球定位系統)飛行到距離安全發射點數百公里之外的精確目標位置。然而,現有的用于對抗敵方無人機系統的任務式指揮系統缺乏必要的技術能力,無法在當今戰場上充分捍衛戰斗力。用于反無人機系統(C-UAS)的任務式指揮系統需要人工智能(AI)、機器學習和自動化來協助操作員做出決策,并能同時使用擊潰機制。此外,當前的實戰系統缺乏與新興工業探測和擊潰系統的數據互操作性,導致基地防御操作中心(BDOC)擁有多個 "封閉 "網絡來擊潰共同的威脅。
本文明確了在美國陸軍 C-UAS 任務式指揮系統中實施人工智能、機器學習和自動化的要求。當前的 C-UAS 任務式指揮系統依賴操作員完成手動識別和交戰過程,該過程針對每個威脅按順序進行,對于試圖壓倒防御能力的多個威脅的場景來說不切實際。通過實施本文中的建議,美國陸軍將擁有一個在應對當前和未來敵方無人機系統威脅和戰術方面具有競爭優勢的任務式指揮系統。
在現代戰爭背景下,"人在環上 "和 "人在環內 "指的是人類參與決策和控制利用人工智能或自動化的系統的程度。這兩種方法的區別在于賦予系統的自主程度以及人類的監督和控制水平。
人在環內。人類直接參與決策過程,并 "完全控制 "系統 "開始或停止執行的任何操作"。這種方法通常在安全、任務精確度、責任和控制方面更受青睞。然而,在有些情況下,人在環內可能并不實用或有效。目前的 C-UAS 流程就是人在環內的一個例子,操作員必須執行每一項任務和參數輸入,才能由系統創建一個動作。
人在環內(HOTL)。人類對自動化系統進行監督,但自動化系統可以在未經人類預先批準的情況下采取行動。這種方法可以加快決策和響應速度,這在威脅迅速演變的未來至關重要。在影響人類運用微觀運動技能和正確判斷能力的高壓力情況下,有監督的自主模式(HOTL)將比完全依賴人類決策更加有效。海軍艦艇上使用的宙斯盾作戰系統和 MK 15 法陣近程武器系統就是 HOTL 防御武器系統的典范。這些系統一旦啟動并在人員的監督下,就能獨立攻擊對艦艇或其他受保護資產構成威脅的導彈、直升機和飛機。
C-UAS 流程采用主動防御措施,包含四個不同的要素:檢測、識別、決定、擊敗。這一順序為評估無人機系統在不同作戰環境中造成的威脅以及應用自動化加強操作員行動的可能性提供了一個有用的框架。在聯合部隊中,這一流程在 BDOC 中得到了積極應用,BDOC 是 C-UAS 資產和系統的負責協調、管理和使用節點。
圖:反無人機系統流程
檢測。C-UAS 流程的第一步是探測行動區域內是否存在空中航跡。這可以通過各種雷達傳感和跟蹤方法來實現,包括空中和地面傳感器。例如,雷神公司開發了 360 度 AN/MPQ-64 Sentinel 雷達,可探測無人機系統、旋轉翼飛機和固定翼飛機,并具有敵我識別詢問功能。雷神公司還開發了 360 度 Ku 波段射頻系統 (KuRFS),可感知和跟蹤飛機、火箭、火炮和迫擊炮。KuRFS 雷達支持多種動能和非動能 C-UAS 武器系統,如 Palletized 高能激光器、陸基 Phalanx 武器系統和雷神蒼狼攔截器。
識別。探測到空中航跡后,下一步是分析航跡,確定是敵是友。這是通過使用具有識別敵友能力的雷達(如上文提到的 Q-64)、空域控制機構(空中交通管制、聯合空中作戰指揮)或敵方特征對航跡進行識別敵友詢問來完成的。區分友方和敵方威脅航跡是一個復雜的過程,需要使用兩種方法之一,即正面識別和程序識別。正面識別是最可取的方法,不需要目視識別就能確定可疑航跡--利用已知的敵方特征進行數字識別(基于物理),可用于確定航跡是否為敵方無人機系統。程序性識別使用地理位置、航向時間和飛機飛行路徑來確定敵友--通常與空中任務指令和/或作戰圖形相配合。
決定。在此階段要做出兩項決定:第一,確定是否需要交戰(交戰規則、地緣政治形勢、戰術形勢等);第二,確定使用何種方法攔截威脅。如果操作員確定空中航跡具有敵意,則決定使用動能或非動能武器攔截已確定的威脅。對每個威脅的方位、高度、射程和速度進行評估,以確定交戰要求,并使用適當的武器進行最有效率和效果的交戰。
擊敗。在這一階段,操作員成功地對確定的敵方航跡造成動能或非動能影響。在這一階段,目視確認攔截或數字確認是確定成功或失敗效果的方法。如果敵方航跡未被擊潰,操作員將動用更多資產,直至擊潰威脅或擊中預定目標。
前沿區域防空指揮與控制(FAADC2)是美國陸軍目前的任務式指揮系統,它提供了探測、識別和使用動能和非動能擊潰效果的網絡架構。FAADC2 自 1989 年以來美國防部一直在使用。
FAADC2 系統目前在識別、決定和擊潰階段使用手動交戰流程,這極大地阻礙了切實有效地擊潰敵方威脅,尤其是在僅有幾秒鐘時間做出決定的情況下。操作員必須手動查詢每條雷達軌跡,并針對敵對目標手動處理每個防御系統,既耗時又容易出現人為錯誤。
圖:前沿區域防空指揮與控制用戶界面提供共同空中圖像。
這種人工操作過程無法同時進行戰斗,而在快速演變的戰斗場景中需要同時進行戰斗。手動交戰所耗費的時間將使無人機群能夠不受阻礙地攻擊和穿透防御層。在同時應對多個無人機系統的攻擊、潛在的友軍空中交通、武器系統之間的轉換、評估其他威脅和管理當前交戰時,BDOC 操作員經常面臨任務飽和和人為錯誤可能性增加的問題。
FAADC2 系統要求操作員進行手動交戰,這分散了操作員對關鍵空中航跡識別的注意力,進一步加劇了人為錯誤,降低了擊敗無人機系統的效率。威脅無人機系統攻擊速度的提高(噴氣式 "沙赫德-238")和使用地形遮蔽以避免早期雷達探測,進一步削弱了人工方法的有效性,并將導致 C-UAS 攔截成功率的下降。
應將人工智能集成到任務式指揮系統中,以提高探測敵機航跡的作戰效率。這種集成可為操作人員提供持續的分析能力,對基地防區內的空中軌跡進行詢問。人工智能的優勢在于能夠從先前記錄的數據中分析和識別模式。C-UAS 任務式指揮系統應將先前記錄的威脅數據存儲在秘密的云存儲庫中,以便人工智能識別系統在整個戰區范圍內訪問,以人類操作員無法達到的速度和精度整合空中軌跡數據。
人工智能識別和鑒定威脅空軌并及時向人類操作員發出警報的能力將降低任務飽和度,并使操作員能夠保留最終的空軌鑒定權。將人工智能納入航跡識別將提高操作員識別的準確性,并縮短識別威脅所需的時間,增加向地面部隊發出迫在眉睫的威脅警報的時間,從而保存戰斗力。
機器學習算法將在識別階段發揮重要作用,通過分析基于物理的雷達軌跡數據、全動態視頻和其他形式的探測數據,增強任務式指揮系統的能力,幫助操作員在一段時間內區分敵方和非敵方空中軌跡。機器學習算法將提高人工智能提醒操作員注意威脅航跡的能力,同時還能確保操作員根據識別的數據特征了解可能的友軍航跡。
如果不能將人工智能和機器學習算法集成到任務式指揮系統中,那么 BDOC 的性能將與人類操作員的性能相當,無法發揮系統的最大潛能。缺乏人工智能和機器學習工具的人類操作員處于不利地位。他們有可能無法快速識別航跡,也有可能無法確保成功攔截敵方航跡,以防止無人機系統打擊預定目標。雖然人類可以手動執行詢問和識別任務,但他們無法像人工智能一樣精確、快速、一致地執行任務。
為解決目前 FAADC2 人工交戰流程的局限性,一旦操作員確認空中航跡具有敵意,美國陸軍應在決定和擊敗階段實施自動化流程。通過采用自動化,FAADC2 系統將自動使用適當的方法進行交戰,直至擊敗威脅。這種自動交戰能力將大大縮短交戰響應時間,使操作員能夠集中精力識別威脅和消除空域沖突,而系統則會選擇和監控擊潰方案,以最有效的方式進行攔截,避免人為錯誤。此外,C-UAS 流程保留了 HOTL,以確保仍有人參與發射決定。
自動交戰將不再需要人類操作員手動選擇每個單獨的軌道,并執行多步驟的順序過程,以發射攔截器,并針對每個評估的威脅發射陸基 "法陣 "武器系統或托盤式高能激光器。有了自動判定和擊潰能力,操作員就可以對人類確認的敵方軌跡進行人工監督,而 C-UAS 判定和擊潰系統則有能力使用多種武器系統同時進行攻擊,以大規模打擊多種威脅,實現真正的聯合武器防御火力。自動擊潰能力將增加對無人機系統的攔截,縮短交戰時間,大幅減少人為失誤,并顯著提高擊潰無人機群攻擊的概率。
自動交戰的反對者可能會提出,操作人員需要手動與已識別的威脅交戰,以確保系統在武裝沖突法律和交戰規則范圍內行動。然而,這些保留意見在 C-UAS 流程的識別階段得到了緩解,在這一階段,由人工確定威脅是否具有敵意,并指揮機器進行干預。我們建議,除非操作員(1) 確認軌道為敵方軌道,(2) 授權系統交戰(人在環上與人在環內),否則敵方軌道不會交戰。
人工智能將為人類操作員提供在雷達的全部潛能范圍內識別擁擠空域中多條航跡的能力。威脅識別的唯一限制將是雷達在探測試圖規避或掩蓋其特征的無人機系統方面的性能。人工操作員仍可手動詢問航跡,并保留將空中航跡劃分為友好或敵對航跡的最終權力。
決定和擊敗階段的自動化將提高 C-UAS 任務式指揮系統的效率,在人工確認空中航跡為敵方航跡后,可自主同時與無人機系統交戰。通過云存儲庫存儲的實時數據融合,以及隨著威脅戰術、技術和程序不斷發展的先進機器學習算法,將使自動化系統能夠評估被人類操作員標記為敵對的空軌所構成的威脅級別,并確定適當的應對措施,如使用攔截器等動能系統或啟動電子戰對抗措施。這種自動化不僅能節省寶貴的交戰時間,還能減輕人類操作員的負擔,使人類能夠專注于威脅識別和挫敗監督。
美國陸軍應立即將機器學習和自動化融入 FAADC2 任務式指揮系統的識別、決策和擊敗階段。通過利用當今可用的自動化、人工智能和機器學習技術,任務式指揮系統可以適應和學習在戰斗中觀察到的當前威脅,并提高無人機系統攔截的成功率。商用汽車技術也取得了類似的進步,配備人工智能和機器學習技術的車輛可實現自動駕駛功能。利用人工智能和機器學習技術的車輛能夠從周圍環境中學習,通過存儲庫實時訪問數據,改進決策,學習物體分類,并向操作員發出警報。美國國防部也有自動化流程技術,只要看看美國海軍的宙斯盾戰斗系統艦艇就知道了。我們必須應用新興技術來推進我們工業時代的系統,以戰爭的速度進行創新。
通過自動化縮短威脅識別時間、增強攔截能力和提高精確度,將為應對新興無人機系統技術和威脅提供戰術優勢,特別是那些針對戰略資產、部隊集結地和高優先級地點的威脅。隨著對手不斷創新和部署無人機系統,包括噴氣式 "沙赫德-238 "無人機系統,操作人員將有幾秒鐘的時間來正確探測、識別、判斷和擊敗敵方空中航跡。美國陸軍必須走在威脅的前面,而不是等待適應。
自 1989 年以來,FAADC2 任務式指揮系統在應對空中威脅和管理空域方面發揮了至關重要的作用。然而,我們當前系統所使用的工業時代人工交戰流程對烏克蘭、伊拉克和敘利亞戰場上觀察到的當前戰術、技術和程序的效率構成了挑戰,并最終威脅到我們人員的生存能力。通過整合人工智能、機器學習和自動化技術,FAADC2 系統將提升 C-UAS 的作戰能力,使其超越對手的威脅能力。將操作員置于環內的自動交戰可實現 C-UAS 聯合武器防御,其戰術和技術決策速度是人類操作員無法獨立完成的。
不推進 C-UAS 任務式指揮系統和維持人工 C-UAS 流程的風險,將使惡意的國家和非國家行為者能夠以相對低成本/高回報的權衡方式,在沖突連續體上與美國競爭。正如最近在中東發生的事件中看到的那樣,惡意的國家和非國家行為體有能力利用低成本的無人機系統對美軍實施精確打擊,這給部隊帶來了具有戰略影響的風險,并使我們的國家利益受到威脅。在大規模作戰行動中,任務的風險在于從港口到前線部隊的編隊減員。缺乏數字時代速度和精度的干預能力將無法防止后勤節點和戰斗力的大規模破壞,需要作戰指揮官投入更多資源才能實現預期的軍事最終狀態。將人工智能、機器學習和自動化融入 C-UAS 戰斗是一項高度優先的工作,需要立即關注,以便在這個快速發展的威脅環境中保持領先對手。
自2023年10月7日以哈沖突爆發以來,美軍在中東的空襲次數明顯增加。迄今為止,空襲目標一直是伊拉克、敘利亞、也門和紅海地區受伊朗支持的武裝組織。這些打擊行動引發了國會議員和法律學者對總統根據美國法律和國際法使用武力的合法性的質疑。拜登政府在部分打擊行動后向國會提交了 "符合"《戰爭權力決議》(WPR)的報告,闡述了行政部門為其軍事行動辯護所依據的法律依據。
本法律側邊欄重點關注戰爭權力框架在打擊行動中的應用。首先解釋了最高法院的相關先例以及國會和行政部門長期以來對戰爭權的各自理解。然后,本法律專欄根據這一國內戰爭權法律框架審查了拜登政府為近期打擊行動所主張的法律依據,并討論了國會將如何尋求加強或限制行政部門實施此類打擊行動的權力。
憲法的制定者有意將戰爭權力劃分給國會和總統。第一條賦予國會多項與使用武力有關的權力,包括宣戰權、組建和支持陸軍的權力、建立海軍的權力、管理武裝部隊的權力以及簽發 "征討令 "和 "報復令 "的權力。第二條規定,總統是陸軍和海軍以及在聯邦服役的民兵的 "總司令"。總統們聲稱--最高法院和國會也在不同程度上承認--憲法第二條包含了總統固有的戰爭權力,憲法中沒有明文規定,總統可以獨立于國會行使這種權力。因此,總統使用武力的權力有兩個潛在來源,這一點已得到公認,盡管其輪廓經常引起爭議:
1.國會授權(形式可以是正式宣戰,也可以是第二次世界大戰以來使用軍事力量的法定授權);
2.第二條中隱含的獨立權力
最近,以色列國防軍(IDF)的高級軍官承認,作為以色列軍事武庫的一部分,人工智能工具的使用越來越多,這一趨勢在 2023-2024 年的以色列-加沙戰爭中也很明顯,在這場戰爭中,可以看到以色列國防軍如何部署基于人工智能的系統,以滿足防御需要、指揮和控制、收集、處理和管理數據,以及用于進攻目的。
一方面,可以說在軍事領域引入基于人工智能的工具在提高現有能力方面是有價值的。另一方面,引入不受國際法管制的新型工具會引發大量法律和倫理問題,并進一步加劇戰爭的復雜性--"不確定性的領域"。為了對越來越多的評估這兩方面以及介于這兩方面之間的問題的文獻做出貢獻,本文將把以色列的經驗作為一個測試案例,以思考前進的正確方向。
以色列在技術領域是一個精通技術的行為體,它利用自己的能力作為外交工具箱的一部分,以確立自己在國際技術治理設計中的領導地位。以色列對技術優勢的需求源于其面臨的局勢,這一點從針對以色列目標的網絡攻擊的增加,尤其是在 2023-2024 年以色列-哈馬斯戰爭期間可以明顯看出。
從以色列的經驗中可以了解到,人工智能在全球范圍內的廣泛融合,在生成式人工智能工具的推動下,已經深入到軍事領域。特別是,以色列國防軍在以下方面應用了人工智能: (1) 主動預測、威脅警報和防御系統;以及 (2) 情報分析、瞄準和彈藥。這一趨勢在 2023-2024 年以色列-哈馬斯戰爭期間有所加劇。
基于人工智能的工具可以檢測、預警,有時還能預先阻止災難性場景的發生,并有助于有效的危機管理。因此,就像北約一樣,以色列國防軍也利用人工智能技術來改善災難響應(例如,通過分析航空圖像來識別風險和受害者)。正在使用的一個值得注意的系統是 "煉金術師(Alchemist)系統",它似乎同時具備防御和進攻能力。該系統將數據整合到一個統一的平臺上,有能力識別目標,并及時向戰斗人員通報可疑動向等威脅。該系統已在2021 年的 "長城守護者行動 "中部署。
此外,"鐵穹"是以色列的一種導彈防御系統,以其保護重要基礎設施免受發射到以色列境內的火箭威脅的救生能力而聞名。在 2023-2024 年以哈馬斯戰爭中,盡管從加沙、黎巴嫩和其他地區(如敘利亞甚至也門)發射了火箭彈,但面對無人機和其他小型低空飛行物體等各種威脅,該系統仍能實現低傷亡。
Axon Vision 公司開發了另一種名為 "Edge 360"的防御系統。這種基于人工智能的系統安裝在目前在加沙作戰的裝甲車內,可從各個角度探測潛在威脅,并及時向車輛操作員發出警報。最后,以色列國防軍還將人工智能用于邊境管制。
要處理現代戰場上大量涌入的數據,必須整合基于人工智能的工具來分析大量數據。以色列國防軍使用的 DSS 之一是 "火力工廠",它可以分析大量數據集,包括以前授權打擊目標的歷史數據,從而計算所需彈藥數量,提出最佳時間表,并確定目標的優先順序和分配。在操作上,它是目標選擇周期第二階段(目標開發)和第三階段(能力分析)的綜合體。
另一個最近引起爭議的系統是 "福音 "系統,它能幫助以色列國防軍軍事情報部門改進建議并確定關鍵目標。早在 2021 年 "長城守護者 "行動期間,該系統就已生成了200 個軍事目標選項,供正在進行的軍事行動期間進行戰略交戰。該系統可在數秒內執行這一過程,而在以前,這項任務需要眾多分析人員花費數周的時間。
第三個值得注意的系統是“織火者”(Fire Weaver)系統,這是一家私營公司--拉斐爾公司開發的一種新穎工具。這種網絡化的 "傳感器-射手 "系統將情報收集傳感器與戰場部署的武器連接起來,促進了目標識別和交戰能力。Fire Weaver 系統側重于處理數據,并根據位置、視線、有效性和可用彈藥等因素為不同目標選擇最佳射手。該系統旨在提高與協同作戰的不同參與者同時工作的能力,以提高精確度,最大限度地減少附帶損害,并降低友軍誤傷的風險。
最后,據972+ 媒體最近報道,以色列國防軍部署了一個名為 "薰衣草 "的人工智能系統,據稱該系統在 2023-2024 年以哈馬斯沖突的早期階段發揮了重要作用。該系統旨在將哈馬斯和巴勒斯坦伊斯蘭圣戰組織軍事分支中可能的可疑分子標記為潛在目標。972+ 報告指出,在這種情況下,人工核查據稱僅限于辨別目標的性別,每個目標在攻擊前的平均持續時間為 20 秒,此外,報告還指出,該系統在大約 10% 的情況下會出錯。最近的一篇文章中指出,這種情況可能會在目標定位中移除人類,并繞過人類參與,從而引發對人類尊嚴的侵犯。
不過,應該指出的是,在創建和授權軍事目標的鏈條中,"972+"文章中提到的過程只是一個非常初步的過程。這是因為情報官員做出的決定隨后會傳達給目標室--在目標室中,法律顧問、行動顧問、工程師和更高級的情報官員會在批準(有時也會拒絕)之前對建議的目標進行修改。因此,"薰衣草 "的使用僅限于情報收集階段,在這之后,建議的洞察力仍需在目標室由法律顧問等進行核實,法律顧問將根據區別、相稱性和其他適用的國際人道主義法規則評估是否應攻擊目標。
聯合國大會最近對軍事領域新技術應用的出現表示關切,特別是與人工智能相關的應用,這些應用 "從人道主義、法律、安全、技術和倫理角度 "構成了嚴重挑戰。其中一個關鍵問題是決策過程(環內/環上/環外)所需或必要的適當人類參與程度。這一問題對以下三個關鍵目的具有重要意義:提高決策的準確性和精確性、增強合法性和確保問責制。這一點在人工智能系統(如 "薰衣草"、"福音"、"織火者 "和 "火力工廠")的目標定位中尤為重要。
目前看來,人工智能系統在完全沒有人類參與的情況下自主瞄準個人的情況沒有法律依據,因為國際人道主義法規定的門檻是合理的軍事指揮官(即人類指揮官,其評估標準不適用于基于計算機的人工智能系統)。因此,紅十字國際委員會指出,保持人類的控制和判斷力至關重要。根據以色列的做法,目前以色列國防軍指揮官在目標選擇方面擁有最終決策權。盡管如此,最近還是有人對 "福音 "和 "薰衣草 "等系統在目標選擇過程中人工參與的程度和效果提出了批評。
在這方面,值得注意的是習慣性預防原則。該原則規定,策劃攻擊者有積極義務'盡一切可能核實'個人或目標的軍事性質。這一原則還包含經常注意的義務,要求在進行軍事行動時,應經常注意不損害平民和民用物體。
事實上,人工智能系統生成目標的速度很快,加上指揮官進行全面審查的時間有限,令人擔憂這種情況可能達不到用盡一切 "可行 "手段避免對平民造成傷害的義務,也可能不符合持續關注的義務。Opinio Juris 最近發表的一篇博客指出,如果軍事人員無法 "深入目標",就很難看出這些系統如何有助于遵守預防原則和持續照管的義務。該博客還稱,一般來說,此類人工智能系統制造目標的速度和規模,再加上數據處理的復雜性,可能會使人類的判斷變得不可能或毫無意義。然而,應該記得以色列國防軍在這一問題上的正式立場似乎解決了這一關切。如前所述,以色列國防軍對 "福音 "和 "薰衣草 "等人工智能瞄準系統的使用僅限于情報收集階段,即目標 "生命周期 "的早期階段,從這個意義上說,后期階段包括對情報收集和評估階段的確證和監督,包括法律顧問的審查,這些審查核實所做的事實陳述,而且核實攻擊在區分、相稱性、預防措施和其他相關國際法規則方面是否適當。以色列國防軍澄清說,"福音"在選擇攻擊目標時還將經過其他幾個部門(作戰、法律和情報部門)的單獨審查和批準,這是為了確保在選擇目標的決策過程中有切實的人的參與。
另一個擔憂與可解釋性問題或 "黑盒"現象有關。基于人工智能的系統無法對其決策過程提供清晰和可理解的解釋,這是人工智能系統的一個普遍和固有的缺陷,可能會妨礙對軍事事件的調查,從而影響問責制,并抑制將重復性錯誤的風險降至最低的能力。在這方面,以色列國防軍澄清說,關于福音系統,它向情報研究人員提供了可獲取和可理解的信息,這些信息是提出建議的依據,使人能夠對情報資料進行獨立審查。與此相關的另一個值得注意的挑戰是被稱為 "自動化偏見"的現象。自動化偏見是指過度依賴或過度信任人工智能輸出的傾向。雖然以色列國防軍指揮官可以選擇無視“福音”的建議,但要避免自動化偏見仍具有挑戰性,尤其是在激烈的敵對行動期間,需要加快決策速度并不斷面臨行動壓力。
各國在武器和戰爭手段或方法的選擇上是有限的。為了核實新能力是否符合國際法,《日內瓦公約第一附加議定書》(AP I)第36 條要求各國在實際部署新武器、作戰手段或方法之前對其進行評估。與本文相關的是,"作戰手段"是一個寬泛的術語,包括用于促進軍事行動的軍事裝備、系統、平臺和其他相關裝置。為進攻行動部署的工具,如 "福音"、"火力工廠"、"火織者"和 "薰衣草",似乎構成了一種新的戰爭手段,應根據第 36 條進行法律審查。
雖然以色列不是《第一附加議定書》的締約國,而且對第 36 條的習慣地位也有討 論,但重要的是要回顧人權事務委員會第36 號一般性意見所采取的方法,即確保對生命權的保護需要采取預防性影響評估措施,包括對新武器和戰爭手段進行合法性審查。這種審查應分三個階段進行。
首先,必須確定條約或國際法是否禁止或限制使用特定戰爭手段。關于人工智能軍事工具,以色列國尚未批準一項條約,專門禁止在一般情況下或在軍事應用中使用人工智能技術。此外,除了國際人道主義法的一般原則(如區別對待)和具體規則(如保護受保護地點的規則)之外,目前似乎也沒有禁止在軍事背景下部署人工智能的常規性規定。
其次,需要確定使用該系統是否會違反國際法的一般禁令(如保護環境)。
第三,應根據 "馬頓斯條款 "考慮戰爭手段,該條款強調需要考慮 "人道原則 "或 "公共良知的要求"。在《以核武器進行威脅或使用核武器的合法性》一文中,國際法院肯定了馬頓斯條款作為 "解決軍事技術快速評估的有效手段 "的重要性。
在部署新的軍事能力時仍需謹慎。首先,通過影響評估措施--例如根據第 36 條至 API--來評估新技術的合法性至關重要。其次,設計者和操作者必須意識到內在風險,如缺乏可解釋性和偏見。這并不意味著我們建議將刑事責任歸咎于設計者,因為最終的決策者是軍事指揮官,但認為,設計者越是了解系統的局限性可能對其運行造成的影響,他們就越能預先處理好所擔心的問題,并有望減輕這些問題。對系統操作者和依賴者進行培訓也很關鍵,培訓必須包括技術、道德和法律方面。
在一個理想和價值觀日益分化的世界里,能否在前進的道路上找到共同點,不僅對未來的戰場至關重要,而且對維護國際和平與安全也至關重要。這是一個動蕩不安的時代,其中包括技術方面的飛躍,因此,超越狹隘的利益和考慮的必要性比以往任何時候都更加重要。
(網絡資源整理)
人工智能(AI)正在成為當前俄烏沖突中的一項重要資產。具體來說,人工智能已成為一種關鍵的數據分析工具,可幫助操作人員和作戰人員了解戰場上眾多系統、武器和士兵產生的日益增長的大量信息。隨著人工智能應用的不斷發展,其在當前烏克蘭戰場和未來戰場上的應用將轉化為對敵方部隊、行動和動作做出更精確、更有能力的反應。烏克蘭之所以能在戰斗中應用這一技術,離不開政府和私營部門的工作。總的來說,烏克蘭似乎從使用這種技術中獲得了更多益處,盡管現在預測這種技術優勢能否轉化為對俄羅斯固守陣地的重大優勢還為時尚早。迄今為止,烏克蘭在人工智能的使用上采用“人在環內”,由操作人員做出最終決定。
在這場戰爭中,烏克蘭從盟友和合作伙伴提供的人工智能技術和概念中獲益匪淺,這些技術和概念被用于多個關鍵領域。全球媒體公開討論了這一用途,凸顯了烏克蘭政府采用尖端做法以取得對俄軍優勢的意愿和能力。俄烏戰爭的一個重要方面是不同來源產生的大量數據,其數量遠遠超過人類快速準確分析的能力。因此,人工智能被用于數據分析,幫助烏克蘭做出決策。人工智能在烏克蘭服務中的一個關鍵作用是將目標和對象識別與衛星圖像相結合,這促使西方評論家指出,烏克蘭在地理空間智能方面具有優勢。人工智能被用于地理定位和分析社交媒體內容等開源數據,以識別俄羅斯士兵、武器、系統、單元或其動向。據公開資料顯示,神經網絡被用來將地面照片、來自眾多無人機和無人駕駛飛行器的視頻片段以及衛星圖像結合起來,以提供更快的情報分析和評估,從而產生戰略和戰術情報優勢。
事實上,全球重要的人工智能公司之一 Palantir 的首席執行官最近承認,他的企業負責烏克蘭的大部分目標瞄準工作,如坦克和大炮從衛星和社交媒體上獲取及時信息,以直觀顯示友軍和敵軍陣地,了解部隊動向,并進行戰場損害評估。Planet Labs、BlackSky Technology 和 Maxar Technologies 等西方公司也在制作沖突衛星圖像,與烏克蘭政府和軍方共享數據和分析。
俄烏沖突中首次有記錄地使用了作戰面部識別技術,烏克蘭軍方使用總部設在美國的 Clearview AI 公司識別死亡的俄羅斯士兵,并揭露俄羅斯襲擊者和打擊錯誤信息。公開報道還將人工智能置于盟軍電子戰、網絡戰和加密工作的中心。美國公司 Primer 已部署其人工智能來分析未加密的俄羅斯無線電通信,利用自然語言處理來了解俄羅斯士兵使用的特定通信方式。2022 年,總部位于美國的微軟公司報告稱,由于人工智能增強威脅情報的進步以及向云服務和其他計算機網絡快速分發保護軟件,烏克蘭的網絡防御取得了成功。
在戰線的另一端,關于俄羅斯軍方在戰爭中使用人工智能的證據和報道較少,甚至更少。與烏克蘭一樣,俄羅斯國防部(MOD)也希望人工智能能為作戰人員提供數據分析和決策能力,作為以操作員為中心或 "人在環內"的方法,更好、更快地確定戰場方向并做出決策。在俄羅斯軍事機構內部,將人工智能應用于自主、無人系統和機器人系統是該國高科技研究、開發、測試和評估工作中最引人注目的方面之一。這項技術被視為關鍵的任務倍增器,最終可在危險情況下取代人類戰斗機。例如,高級研究基金會(俄羅斯類似于 DARPA 的組織)副主任在 2020 年表示,人類戰斗機最終將被軍事機器人取代,后者比人類行動得更快、更準確、更有選擇性。
俄羅斯在這場戰爭中實際應用人工智能的例子很少,甚至沒有。俄國防部以關鍵部門和機構為中心的研發生態系統涉及技術視覺、模式識別、人工智能在機器人技術中的應用以及改進處理大型數據集的信息系統,這些都是在持續的敵對行動中引入此類技術的最實用方法。在實踐中,迄今很少有實例能讓人相信俄羅斯軍方在戰斗中使用人工智能的說法。2023 年 6 月,俄語 Telegram 頻道報道稱,"柳葉刀-3 "巡航彈藥正在使用卷積神經網絡收集、分類和分析該無人機在飛行過程中收集的圖像和視頻內容。利用這種神經網絡,"柳葉刀 "偵察無人機顯然可以探測到敵方目標,并將識別出的目標圖像傳輸給 "神風特攻隊",然后由后者實施打擊。雖然這在技術上聽起來可信,但 "柳葉刀 "的實際偵察工作通常是由 ZALA 或 Orlan-10 等其他俄羅斯無人機執行的。2022 年,"柳葉刀 "的配套無人機 "KUB-BLA "也引起了人們的關注,該無人機具有機載人工智能能力,可自主識別目標,但其使用次數相對較少,而且往往效果不佳,無法證實該無人機所謂的先進能力。這種說法往往缺乏確鑿證據,甚至得不到國防部或政府的公開承認,因此很難確定俄羅斯軍方是否真的以這種方式使用了人工智能。
俄羅斯的另一種說法涉及正在烏克蘭東部進行的 "標記 "戰斗無人地面車輛(UGV)測試。該 UGV 被移交給設在當地的一個志愿組織,用于在戰場條件下進行測試和評估。迄今為止,"標記 "仍是俄羅斯在計算機視覺、自然語言處理、導航、自主移動和群車控制方面的旗艦項目。雖然 2021 年進行的幾次測試據稱允許一組 "馬克 "自動穿越復雜地形,但目前還不清楚這種車輛是否真的能在烏克蘭發揮這種作用。更有可能的情況是,"標記 "是一個固定平臺,用于偵察系留無人機,而不是自主前往自行確定的目標地點的作戰平臺。俄羅斯軍方正尋求在信息戰中使用人工智能,但鮮有證據表明,俄國防部自己對這一問題的討論與針對烏克蘭軍民的實際效果之間存在差距。
這場戰爭的一個絕對關鍵的方面是作戰技術的快速發展以及雙方對關鍵戰術和概念的調整。如今,俄羅斯和烏克蘭軍隊及其志愿軍都在駕駛大量無人機執行偵察和作戰任務。其中許多無人機--如商用四旋翼飛行器和 FPV(第一人稱視角,"神風特攻隊 "無人機)--都是成組飛行,由一名或數名操作員駕駛。根據雙方的設想,這些戰術的自然演進將使實際的無人機群能夠在人工智能技術的支持下自主飛向目標,并分析和交換數據。烏克蘭政府官員公開表示,他們正在探索在空中無人機中使用人工智能,以提高任務效率。這種戰術甚至可能不僅僅出現在官方軍事研發機構中,還可能出現在協助雙方進行技術開發和采購的志愿者組織中。
這場戰爭的關鍵要求是建立共同的戰場作戰圖,以便迅速獲取并應對不斷變化的作戰條件。烏克蘭利用人工智能技術分析來自眾多源點的大量數據,滿足了這一需求,從而對俄軍的行動和戰術做出準確反應。俄羅斯軍方在入侵前就強調將人工智能作為決策和數據分析工具,這表明他們可能采用了類似的方法,盡管烏克蘭方面沒有公開的證據和討論。有證據表明,俄羅斯軍方正試圖集中采用人工智能作戰方法:2022 年 9 月,俄國防部成立了人工智能部,負責研究、開發和采購。俄羅斯國防部還公開表示,它將監控全球人工智能的發展,其中包括烏克蘭對這一技術的使用。
同時,必須認識到,烏克蘭在利用人工智能方面的成功離不開美國和西方的援助。事實上,上述公司正獲得前所未有的機會,在同級對手之間的常規沖突中實際應用人工智能作戰,而這在以前大多只能在模擬中實現。雖然烏克蘭的高科技部門即使在戰爭壓力下仍能開發出 Kropyva 等關鍵信息共享軟件,以及從衛星圖像中識別俄羅斯軍隊的 Reface 通知應用程序,但不清楚如果沒有這些援助,烏克蘭是否會取得同樣的成功。美國在民用和軍用人工智能技術方面的先進發展為全球如何在戰斗中利用人工智能技術開創了先河,烏克蘭也欣然采用人工智能技術,以更好地進行戰場管理。俄羅斯軍方也在密切關注美國的人工智能成就,并將美國的人工智能發展實踐(如上述中心)納入其中。烏克蘭和俄羅斯都向美國尋求應用此類技術的關鍵經驗,盡管莫斯科也向北京尋求高科技軍事合作。
與此同時,在這場沖突中,人工智能只是一個輔助工具,而不是槍尖上的解決方案,因為這場戰爭是由步兵和武器在地面上進行的,其方式更容易讓人聯想到第一次世界大戰或第二次世界大戰,領土的得失都是在緩慢而艱苦的戰斗中完成的。協助烏克蘭作戰的商業人工智能解決方案也很快被需要獨立思考的軍方所采用,而不需要漫長的采購周期或長達數年的測試和評估時間表。同時,也必須認識到,即使是先進的技術,如果由于對手適應作戰條件或愿意花費資源維持戰術現狀而無法在戰場上使用,也會有其局限性。目前,人工智能在烏克蘭的應用以人類活動為中心,操作人員在人工智能提供的分析幫助下,最終為單元、武器和系統做出最終決策。考慮到烏克蘭和俄羅斯軍隊對其中一些技術的升級速度之快,有必要考慮許多商業技術在現代作戰中的作用。烏克蘭戰爭可能會持續一段時間,雙方都在努力實現優勢互補,而人工智能將繼續在這場對抗中發揮越來越大的作用。
參考來源:Russia Matters
以色列陸軍首次在加沙作戰中部署了一些人工智能軍事技術,引發了人們對現代戰爭中使用自主武器的擔憂。
以色列陸軍暗示了新技術的用途,發言人丹尼爾-哈加里(Daniel Hagari)上個月說,以色列軍隊正在 "地上地下同時 "行動。
一名高級國防官員告訴法新社,這項技術正在摧毀敵方的無人機,并繪制哈馬斯在加沙的龐大地道網絡。
新的國防技術,包括由人工智能驅動的槍炮瞄準器和機器人無人機,成為以色列科技產業在這個不景氣時期的一個亮點。
2022 年,該行業占國內生產總值的 18%,但加沙戰爭造成了嚴重破壞,估計有 8% 的勞動力被征召參戰。
以色列科技孵化器 Startup Nation Central 的首席執行官阿維-哈森(Avi Hasson)說:"總的來說,加沙戰爭帶來了威脅,但也帶來了在戰場上測試新興技術的機會"。
"無論是在戰場上還是在醫院里,在這場戰爭中都使用了過去未曾使用過的技術"。
但人權觀察組織的武器專家瑪麗-瓦瑞姆(Mary Wareham)告訴法新社,平民死亡人數的上升表明,需要對新型防御技術的使用進行更嚴格的監督。
她說:"現在,我們正面臨著死亡和苦難的最糟糕局面--其中一些是新技術造成的。"
150多個國家在12月支持了一項聯合國決議,其中指出了新軍事技術的 "嚴重挑戰和問題",包括 "武器系統中的人工智能和自主性"。
哈馬斯還劫持了約 250 名人質,以色列稱仍有約 132 人滯留在加沙,其中至少有 29 人據信已被殺害。
據哈馬斯統治的加沙地帶衛生部稱,以色列的軍事反擊已造成加沙近 28,000 人死亡,其中大部分是婦女和兒童。
與許多其他現代沖突一樣,這場戰爭也是由廉價的無人駕駛飛行器(UAV)(又稱無人機)的擴散所決定的,這種飛行器使空中襲擊變得更加容易和便宜。
10 月 7 日,哈馬斯使用無人機投擲爆炸物,而以色列則利用新技術將其擊落。
以色列陸軍首次使用了一種由以色列初創公司Smart Shooter制造的人工智能光學瞄準鏡,它被安裝在步槍和機槍等武器上。
這位高級國防官員說:"這有助于我們的士兵攔截無人機,因為哈馬斯使用了大量無人機。"
它讓每個普通士兵--甚至是盲人士兵--都成為狙擊手。
另一種使無人機失效的系統是部署一架帶有網的友軍無人機,它可以向敵方飛行器投擲網,使其失效。
這位官員說:"這是無人機與無人機之間的較量,我們稱之為'憤怒的小鳥'。"
該網絡非常龐大,陸軍將其稱為 "加沙地鐵",美國西點軍校最近的一項研究稱,共有 1300 條隧道,綿延 500 多公里(310 英里)。
為了繪制隧道地圖,陸軍已轉向使用人工智能來學習探測人類并能在地下作業的無人機,其中包括以色列初創公司 Robotican 制造的一種將無人機包裹在機器人外殼內的無人機。
這位以色列高級國防官員說,這種無人機被用于加沙,"進入地道,在通訊允許的范圍內查看"。
這位官員補充說,戰前,由于向地面發送圖像存在問題,無人機無法在地下作業。
這場沖突引發了對人權的關注,但也鞏固了以色列作為世界領先的尖端防御系統制造商的地位。
華爾街日報上個月報道稱,美國--以色列的主要國際盟友和每年數十億美元軍事援助的提供者--正在訓練本國士兵使用智能射手的光學瞄準鏡擊落無人機。
圖:一名以色列士兵從以色列南部沿加沙邊境發射無人機
圖:以色列陸軍在加沙戰爭中部署了一些由 Al 支持的軍事技術
圖:以色列用人工智能繪制哈馬斯在加沙的地道網絡
參考來源: nbcrightnow
眾所周知,新興技術會影響各國開展軍事行動的方式。最近,全球在自主武器系統(AWS)的開發和部署、網絡空間的軍事用途等方面看到了顯著的創新。然而,在正在進行的沖突中觀察到重大飛躍的一個新興領域是具有軍事應用的非武器化人工智能 (AI)。
最近,幾位以色列國防軍 (IDF) 官員承認將基于人工智能的工具用于多種目的,包括目標支持、情報分析、主動預測以及簡化指揮和控制 (C2)。在這種背景下,當前的以色列-哈馬斯沖突使以色列部署此類系統成為人們關注的焦點,其中Habsora或“福音”,一種基于人工智能的系統,用于生成可能的軍事攻擊目標,吸引了最多的關注。
對沖突的報道表明,以色列國防軍使用人工智能作為“數據驅動的工廠”進行“大規模暗殺”。歸根結底,這種評論一方面取決于對軍隊如何運作的解釋,另一方面取決于人工智能工具實際上可以做什么和不能做什么。這種過于頻繁的評論促使人們對以色列國防軍在戰場上使用的系統有所了解。撇開夸張不談,目標是研究這些極具影響力的系統,并反思法律和道德方面的考慮。在此過程中,突出了在實踐中引入基于人工智能的新工具的愿望及其實際使用存在的法律限制。在這篇文章中,還詳細介紹了以色列國防軍在當前沖突之外使用人工智能系統的發展經驗。目標是加入關于將人工智能引入戰場的適當方式的新討論,無論是在以色列-哈馬斯沖突中還是在其他方面。
以色列是技術領域的主導者,它利用其能力作為其外交工具箱的一部分,將自己確立為國際技術治理設計的領導者。以色列在政府、安全部門和私營部門之間建立了牢固的伙伴關系,這使以色列能夠在軍事技術方面取得實質性進展。
與此同時,這種密切的伙伴關系可能成為適當監督技術發展及其在各個領域和情況下部署挑戰的根源,從純粹的軍事到執法再到情報行動。
雖然人工智能并不是一個新發展,但近年來,人工智能驅動的能力及其軍事應用取得了重大飛躍。因此,國家和超國家層面的立法者和監管機構正在覺醒,試圖趕上這一新的技術發展浪潮。全球人工智能炒作,由于免費提供的生成式人工智能工具而加劇,已經進入了軍事領域。隨著這些能力在武裝沖突中迅速成為現實,必須研究以色列國防軍在戰場上部署的一些基于人工智能的工具。
集成基于人工智能的工具來分析大量數據對于應對現代戰場上大量涌入的數據至關重要。情報、監視和偵察 (ISR) 技術的發展軌跡表明,未來的 ISR 能力將取決于人工智能驅動的決策支持系統 (DSS)。以色列國防軍對這一趨勢并不陌生,加沙持續的沖突和以前的升級都表明了這一點。
以色列國防軍使用的決策支持系統之一是“火力工廠”,它可以仔細分析廣泛的數據集,包括有關先前授權的打擊目標的歷史數據,從而能夠計算所需的彈藥數量,提出最佳時間表,以及目標的優先級和分配。在戰役上,它是目標定位周期的第二階段(目標開發)和第三階段(能力分析)的合并。從功能上講,它類似于美國 Prometheus 和 FIRESTORM 算法的混合體,就像在 “融合項目”-21 期間部署的那樣。
最近引起爭議的系統是“福音”,它幫助以色列國防軍軍事情報部門改進建議并確定關鍵目標。以色列國防軍使用人工智能進行目標開發對這場沖突并不陌生。2021 年,在“城墻守護者”行動期間,以色列信號情報小組 8200 部隊內的人工智能中心負責人透露,以色列國防軍有效地部署了一個人工智能系統,以識別加沙境內的哈馬斯導彈部隊領導人和反坦克特工。在正在進行的軍事行動“鐵劍”中,同一工具的戰斗使用產生了 200 個軍事目標選項,用于戰略交戰。系統在幾秒鐘內執行此過程,而以前需要眾多分析師在數周內完成這項任務。
在這方面,還值得注意的是,以色列國防軍透露了情報部門內發展部門 3060 部隊的存在。該單位負責推進作戰和視覺情報系統,該部隊的官方任務是通過整合用于作戰和視覺目的的人工智能系統來提高以色列國防軍的作戰效率。該單位產出的受益者包括該組織的指揮、師和旅級別。
最后,以色列國防軍部署人工智能來改進武器和彈藥本身。例如,以色列公司拉斐爾(Rafael)因其對以色列國防軍的重大貢獻而受到認可,該公司推出了一種名為“SPIKE LR II”的先進導彈系統,該系統結合了智能目標跟蹤功能、人工智能和其他功能,以在具有挑戰性的條件下維持目標鎖定,所需的人為干預最少。此外,基于人工智能的系統,如Elbit開發的Legion-X平臺,允許同時使用各種無人駕駛車輛的C2。
基于人工智能的工具還可以檢測、提醒和偶爾預防災難性情況,并有助于有效的危機管理。例如,北約在其救災演習中使用基于人工智能的系統來處理航空圖像并迅速識別受害者。同樣,以色列國防軍將人工智能技術用于類似目的。據以色列國防軍稱,在 2021 年“隔離墻守護者”行動期間,基于人工智能的系統成功地從大量潛在威脅人員中識別出哈馬斯在加沙的防空和導彈部隊的指揮官。
此外,“鐵穹”和“David’s Sling”是以色列的導彈防御系統,以其在保護關鍵基礎設施免受向以色列領土發射的火箭威脅方面的救生能力而聞名。人工智能在鐵穹中的一個重要應用是提高系統精度。特別是,人工智能驅動的算法分析雷達和其他傳感器數據,以跟蹤來襲導彈,并計算出更有效地攔截這些導彈并確定目標優先級的最佳時間。人工智能使系統更有效地應對更廣泛的威脅,如無人機和其他小型低空飛行物體。最后,使用人工智能將鐵穹的成功率提高到90%以上,并降低了作戰成本。這很重要,因為這些威脅正變得越來越普遍,并對傳統的防空系統構成挑戰,這在俄烏戰爭中很明顯。
以色列國防軍還利用人工智能為邊境管制服務,例如,為協助邊境觀察員而開發的人工智能系統,包括通過人工智能輔助的面部識別工具。邊境系統進行視頻分析,熟練識別個人、車輛、動物,甚至武裝人員或特定車型。該系統不僅包括實時視頻分析,還包含許多附加因素,例如特定地理區域的歷史數據。10 月 7 日的攻擊引發了有關該系統的幾個危險信號,但在進行官方調查之前,很難確定確切的故障。
另一個受 AI DSS 影響的領域是 C2 系統。在2022年的“破曉行動”期間,首次嘗試以這種新穎的方式使用人工智能,在此期間,計算機服務局、情報部門、南方司令部和北方司令部之間建立了聯系。主要職能是向指揮官介紹不同部隊在即將到來的軍事行動中的戰備狀態。事實證明,這個試點項目在當前的以色列-哈馬斯戰爭中是相關的,因為在這場沖突中,使用基于人工智能的系統成為以色列國防軍作案手法的一個組成部分。
在過去十年中,人工智能不斷融入軍事裝備所帶來的挑戰和機遇一直受到激烈的討論,而且往往是循環討論。然而,在《聯合國常規武器公約》主持下舉行的主要國際論壇——致命AWS政府專家組(LAWS)內部的國際監管辯論仍然局限于具有自主功能的武器系統。
以色列國防軍在福音和Legion-X方面的經驗以及媒體評論表明,軍事人工智能在這些公共論壇上是容易被誤解。首先,在本文提到的所有各種系統中,只有鐵穹和 David's Sling 可以歸類為 AWS;其他的根本不是武器,因此不在政府專家小組關于法律的職權范圍之內。其次,最有爭議的制度——福音——既不是武器,也不是決策制度。相反,對于可能選擇無視這些建議的指揮官來說,它是一種決策支持工具,因此,它應該被視為一種作戰手段,因為它形成了一個軍事系統或平臺,用于促進軍事行動。
然而,這并不意味著對此類系統的內部運作沒有擔憂。特別是,關于它所依賴的算法的可解釋性仍然存在有效的問題,尤其是在生成人類目標方面。與此相關的是,當系統出現錯誤時,人們可能會想知道可用的問責途徑。雖然這兩種擔憂都是有道理的,但值得注意的是,對戰場失誤的問責仍然概念化不足,幾乎不存在,無論它是否是使用先進技術的結果。然而,值得承認的是,人工智能系統無法闡明其操作流程,可能會影響對涉嫌違反國際人道法的行為進行調查的職責。
另一個關鍵問題是,在決策過程中(在/開/關循環)中需要或必要的適當程度的人類參與。這種關切提出了一個重要的問題,有三個關鍵目的:提高決策的準確性;增強合法性;并確保問責制。首先,人類的參與可以提高決策的準確性和質量,并且可以作為預防或減少錯誤的重要保障。與此同時,鑒于人類能力的限制,在基于人工智能的系統背景下做出決策的速度和數量確實構成了挑戰。
其次,正如實證研究表明的那樣,將人納入決策過程可以增強決策的合法性并增強公眾信任。以色列國防軍面臨著與合法性相關的挑戰,并一次又一次地面臨全球批評,在以色列-哈馬斯戰爭中使用人工智能的背景下,可以看到一些媒體指責以色列國防軍經營“大規模暗殺工廠”(與福音系統有關)。
第三,就問責制而言,人為因素的存在變得至關重要。截至今天,以色列國防軍指揮官在進攻行動方面擁有最終決策權。隨著關于如何解釋人類在現代戰斗中的作用的辯論仍在繼續,學術界和加沙正在進行的沖突都表明,美化人類屬性作為對機器的制衡與現實完全脫節。
另一個值得注意的挑戰,與人類在決策過程中的作用有關,是被稱為“自動化偏見”的現象。雖然如前所述,以色列國防軍指揮官可以選擇無視福音中的建議,并且每個目標都必須獲得以色列國防軍指揮官的授權,但避免自動化偏見具有挑戰性,尤其是在敵對行動加劇期間。自動化偏見是指過度依賴或過度信任 AI 輸出的傾向。雖然人工智能DSS是戰斗中的寶貴工具,可以加快決策步伐并獲得這種加速的相關優勢,但自動化偏差的風險可能很大,應該在可能使用人工智能工具的作戰部隊接受的訓練中加以考慮。
國際人道法的一個基本原則是,各國在選擇武器、作戰手段或方法時受到國際法規范的限制。以色列引入基于人工智能的工具引發了某種形式的合法性審查機制,例如《日內瓦公約第一附加議定書》(AP I)第36條規定的機制。根據該條,各國應在戰場部署新武器、作戰手段或方法之前對其進行評估。“武器”一詞被理解為包括在戰斗中使用的一系列能夠對物體造成損害或對人員造成傷害或死亡的攻擊能力。“作戰手段”是一個更廣泛的術語,延伸到用于促進軍事行動的軍事裝備、系統、平臺和其他相關設備。例如,如果監視系統可以收集有關潛在軍事目標的信息,則屬于這一類。相比之下,“戰爭方法”延伸到各種軍事戰略和實踐,以及軍事行動中使用的特定戰術。
雖然以色列不是《第一附加議定書》的締約國,而且第36條的習慣地位仍然值得懷疑,但人權事務委員會在其第36號一般性意見中采取的辦法是,確保保護生命權需要采取預防性影響評估措施,包括對新武器、作戰手段和方法進行合法性審查。然而,應當指出的是,一般性意見本身并不是強制性的,而是對《公民權利和政治權利國際公約》所依據的生命權提出的一種建議性解釋,這種解釋引起了一些爭議。
網絡空間已成為軍事行動的重要領域,網絡攻擊現在是武裝沖突現實中不可或缺的一部分。各國似乎準備將人工智能工具納入網絡行動。像福音和Legion-X這樣的工具確實構成了一種新的戰爭手段,應該受到法律審查。法律審查是新技術和能力組合中的一個關鍵方面,因為這些技術和能力對人道主義利益的影響和業績的可預測性缺乏科學確定性。
事實上,第36條并沒有規定進行審查的任何特定方式,而且各國所使用的實際機制在形式、方法、審查機構的任務等方面各不相同。然而,值得注意的是,根據紅十字國際委員會的說法,審查應盡可能采用多學科方法,特別是當存在幾種可能的影響時(例如,當對不同權利產生影響時,例如隱私權或健康權),或者當評估需要特定的專業知識時。
在部署新的基于人工智能的軍事工具時,有謹慎的余地,因為沒有基準可循。鑒于以色列的經驗,至少是公眾所知道的,可以提出一些初步的想法。
首先,一個重要的步驟是通過預防性影響評估措施來評估新技術的合法性的初步措施。這可以通過對發展的監管(類似第36條的機制)、貿易限制或隱私設計等程序來實現。實際上,今后的道路將包括不同階段(規劃、設計、部署和追溯審查)的各種工具,國內和國際系統應力求協調和互補。
其次,雖然依賴人工智能的趨勢是顯而易見的,但整個人工智能系統存在一些固有的風險,比如缺乏可解釋性,在某些情況下可能會引發有關個人問責制的問題。
第三,雖然私營部門在預防、教育、調查和歸因網絡行動方面至關重要,但應該避免過度私有化和權力和責任的分散。
最后,隨著世界在理想和價值觀上的分歧越來越大,在促進有效的國際反應方面存在困難。因此,除非實施額外的規范性措施以更好地應對這一挑戰,否則必須考慮現有規則如何適用于這一新的和不斷變化的現實。
參考來源:LIEBER INSTITUTE
數據驅動的"工廠"大幅增加巴勒斯坦領土上被襲擊目標的數量。
圖:一位研究人員說:"聲稱精確和狹隘地使用武力是沒有事實根據的"。照片:Atef Safadi/EPA Atef Safadi/EPA
以色列軍方對其轟炸加沙地帶的強度毫不掩飾。在進攻的最初幾天,以色列空軍首腦談到了 "晝夜不停 "的無情空襲。他說,他的部隊只是打擊軍事目標,但他補充說:"我們并沒有進行外科手術"。
然而,人們對以色列國防軍(IDF)選擇加沙目標的方法以及人工智能在其轟炸行動中發揮的作用關注相對較少。
隨著以色列在七天停火后重啟攻勢,人們對以色列國防軍在這場針對哈馬斯的戰爭中的目標定位方法越來越擔憂。據哈馬斯統治下的加沙衛生部稱,迄今為止,該地區已有超過15000人在這場戰爭中喪生。
長期以來,以色列國防軍一直以技術實力著稱,并曾大膽但無法證實地宣稱要利用新技術。2021 年 5 月加沙 11 天戰爭結束后,官員們稱以色列利用機器學習和先進計算打了 "第一場人工智能戰爭"。
最近的以哈戰爭為以色列國防軍提供了一個前所未有的機會,使其可以在更廣闊的戰場上使用這些工具,特別是部署了一個名為 "福音"的人工智能目標創建平臺,該平臺大大加快了致命目標生產線的速度,官員們將其比作 "工廠"。
通過對情報人員的采訪以及以色列國防軍和退休官員鮮為人知的言論,揭示了 "福音 "的新細節及其在以色列加沙戰爭中的核心作用。
這篇文章還參考了以色列-巴勒斯坦出版物《+972 Magazine》和希伯來語媒體《Local Call》發表的證詞,它們采訪了以色列情報界了解福音平臺的幾位現任和前任消息人士。
他們的評論讓我們得以一窺一個秘密的、由人工智能推動的軍事情報單元的內部情況,該單元在以色列應對 10 月 7 日哈馬斯在以色列南部的大屠殺中發揮著重要作用。
以色列軍方如何利用人工智能的情況正在慢慢浮出水面,其背景是,隨著世界各地的先進軍隊在戰場上擴大使用復雜而不透明的自動化系統,人們對平民面臨的風險日益感到擔憂。
一位熟悉美國軍方使用自主系統情況的前白宮安全官員說:"其他國家將會關注和學習"。
他們說,"如果以色列國防軍大量使用人工智能來做出具有生死攸關后果的目標選擇,那么以色列-哈馬斯戰爭將是一個重要時刻"。
圖:加沙地帶地面行動中的以色列士兵。照片:以色列國防軍 以色列國防軍
11 月初,以色列國防軍稱,其目標管理部門已確定加沙 "12,000 多個 "目標。
一名官員在描述該單元的目標確定過程時說:"我們在確定誰是敵人、敵人是什么方面毫不妥協地開展工作: "我們不折不扣地確定敵人是誰,敵人是什么。哈馬斯的特工無論藏身何處,都無法幸免。
該部門于 2019 年在以色列國防軍情報局成立,其活動屬于機密。
不過,以色列國防軍網站上的一份簡短聲明聲稱,它在對哈馬斯的戰爭中使用了一種名為 "福音"(Habsora)的人工智能系統,以 "快速定位目標"。
以色列國防軍說,"通過快速自動提取情報","福音 "為其研究人員提供了目標建議,"目標是使機器的建議與人的識別完全匹配"。
多個熟悉以色列國防軍目標選擇程序的消息來源向+972/Local Call證實了 "福音 "的存在,稱它已被用于為攻擊目標(如被懷疑是哈馬斯或伊斯蘭圣戰組織人員的私人住宅)提供自動建議。
近年來,目標分部幫助以色列國防軍建立了一個數據庫,據消息來源稱,該數據庫中有 3 萬至 4 萬名武裝分子嫌疑人。他們說,"福音 "等系統在建立授權暗殺人員名單方面發揮了關鍵作用。
阿維夫-科查維(Aviv Kochavi)曾擔任以色列國防軍首腦直至今年 1 月,他曾說目標部門 "由人工智能能力驅動",包括數百名軍官和士兵。
在戰前發表的一篇采訪中,他說這是 "一臺機器,能比任何人更有效地生成大量數據,并將其轉化為攻擊目標"。
據科查維稱,在 2021 年 5 月以色列與哈馬斯的 11 天戰爭中,"這臺機器一旦啟動",每天就能制造 100 個目標。"從這個角度來看,過去我們每年在加沙制造 50 個目標。現在,這臺機器每天產生 100 個目標,其中 50%受到攻擊。"
目前尚不清楚 "福音戰士 "具體攝入了哪些形式的數據。但專家們表示,基于人工智能的目標定位決策支持系統通常會分析來自各種來源的大量信息,如無人機鏡頭、截獲的通信、監控數據以及從監測個人和大型團體的行動和行為模式中獲取的信息。
設立目標分部是為了解決以色列國防軍的一個長期問題:在早先的加沙行動中,空軍多次出現無目標可擊的情況。消息人士說,由于哈馬斯高級官員在任何新攻勢開始時都會消失在地道中,"福音 "等系統使以色列國防軍能夠找到并攻擊更多的低級特工。
一名曾在前幾次加沙行動中參與目標選擇決策的官員說,以色列國防軍以前并沒有將哈馬斯基層成員的住宅作為轟炸目標。他們說,他們相信在目前的沖突中這種情況已經改變,現在無論級別高低,哈馬斯嫌疑分子的住宅都是轟炸目標。
這位官員告訴 +972/Local Call:"那是很多房子"。這位官員告訴 +972/Local Call,"哈馬斯成員其實并不意味著什么,他們住在加沙各地的家中。因此,他們在房子上做標記,然后轟炸房子,殺死那里的所有人。
在以色列國防軍關于其目標分工的簡短聲明中,一名高級官員說,該單元 "對與哈馬斯有關的基礎設施進行精確攻擊,同時對敵人造成巨大破壞,對非戰斗人員造成最小傷害"。
以色列媒體的多篇報道都強調了 "大赦國際目標庫 "建議的精確打擊。新消息報(Yedioth Ahronoth)日報報道說,該單元 "盡可能確保不傷害非涉案平民"。
以色列軍方一名前高級消息人士告訴《衛報》,行動人員使用一種 "非常精確 "的測量方法,來衡量平民在襲擊前不久撤離建筑物的比例。"我們使用一種算法來評估還剩下多少平民。它給出綠色、黃色、紅色,就像交通信號一樣"。
不過,人工智能和武裝沖突方面的專家在接受《衛報》采訪時表示,他們對基于人工智能的系統通過鼓勵更準確地瞄準目標來減少對平民傷害的說法持懷疑態度。
一位就人工智能和遵守人道主義法問題向各國政府提供咨詢的律師說,支持這種說法的 "實證證據很少"。其他人則指出了轟炸造成的明顯影響。
研究人員理查德-莫耶斯(Richard Moyes)說:"看看加沙的自然景觀,"莫耶斯是第 36 條組織的負責人,該組織致力于減少武器造成的傷害。
他說:"我們看到的是重型爆炸武器對城市地區的大面積夷平,因此,聲稱所使用的武力精確而狹小是沒有事實根據的"。
圖:加沙北部城市拜特哈嫩在戰爭造成破壞之前(10 月 10 日)和之后(10 月 21 日)的衛星圖像。照片:Maxar Technologies/Reuters Maxar Technologies/路透社
根據以色列國防軍11月公布的數據,在戰爭的前35天里,以色列襲擊了加沙的15000個目標,這一數字大大高于以往在這片人口稠密的沿海領土上的軍事行動。相比之下,在持續51天的2014年戰爭中,以色列國防軍攻擊了5000至6000個目標。
多位消息人士告訴《衛報》和+972/Local Call,在授權對被認定為哈馬斯或伊斯蘭圣戰組織人員的私人住宅進行打擊時,目標研究人員事先就知道預計會有多少平民喪生。
他們說,每個目標都有一份文件,其中包含附帶損害評分,規定有多少平民可能在襲擊中喪生。
一名在 2021 年之前一直為以色列國防軍規劃打擊行動的消息人士說,"打擊的決定是由當班單元指揮官作出的",其中一些指揮官 "比其他人更樂于扣動扳機"。
該消息人士說,有時 "對目標存在疑問","我們殺死了我認為過多的平民"。
以色列軍方發言人說: "針對哈馬斯的野蠻襲擊,以色列國防軍采取行動摧毀哈馬斯的軍事和行政能力。與哈馬斯蓄意襲擊以色列男人、婦女和兒童的行為形成鮮明對比的是,以色列國防軍遵守國際法,并采取可行的預防措施來減輕對平民的傷害"。
熟悉人工智能系統如何融入以色列國防軍行動的消息人士稱,此類工具大大加快了目標創建過程。
一位曾在目標部門工作過的消息人士告訴+972/Local Call:"我們自動準備目標,并根據檢查表開展工作。"這真的就像一個工廠。我們工作很快,沒有時間深入研究目標。我們的觀點是,我們是根據自己能創造多少目標來評判自己的"。
另一位消息人士告訴本刊,《福音書》讓以色列國防軍經營起了一家 "大規模暗殺工廠",在這家工廠里,"只重數量,不重質量"。他們說,人眼 "會在每次攻擊前查看目標,但不需要花很多時間"。
對于一些研究人工智能和國際人道法的專家來說,這種加速會引發一系列問題。
斯德哥爾摩國際和平研究所(Stockholm International Peace Research Institute)的研究員瑪爾塔-博(Marta Bo)博士說,即使 "人類參與其中",他們也有可能產生 "自動化偏見","過度依賴系統,從而對人類的復雜決策產生過多影響"。
第 36 條 "組織的莫耶斯說,在依賴 "福音 "等工具時,指揮官 "拿到的是一份計算機生成的目標清單",他們 "不一定知道這份清單是如何生成的,也沒有能力對目標建議進行充分的詢問和質疑"。
他補充說,"隨著人類開始依賴這些系統,他們有可能成為機械化過程中的齒輪,從而失去以有意義的方式考慮平民傷害風險的能力"。
參考來源: the Guardian,Betsy Reed
專家們一致認為,未來戰爭的特點將是使用人工智能(AI)技術,特別是完全自主的武器系統。這些系統--如美國空軍的 "忠誠僚機 "無人機--能夠在無人監督的情況下識別、跟蹤和攻擊目標。最近在加沙、利比亞、納戈爾諾-卡拉巴赫和烏克蘭等地的沖突中使用這些致命的自主武器系統提出了重要的法律、倫理和道德問題。
盡管人工智能被廣泛應用,但目前仍不清楚人工智能增強型軍事技術會如何改變戰爭的性質和態勢。那些最擔心將人工智能用于軍事目的的人預見到了一個烏托邦式的未來或 "人工智能啟示錄",機器將成熟到足以主宰世界。一位政策分析師甚至預測,致命的自主武器系統 "將導致世界秩序的劇變,其程度將遠遠超過核武器問世時發生的變化"。其他觀察家則質疑,鑒于通過算法模擬生物智能的復雜性,人工智能系統能在多大程度上真正取代人類。假設人工智能的這種擴展是可能的,那么依賴人工智能的軍隊將承擔數據和判斷成本,這可以說 "使戰爭中人的因素變得更加重要,而不是更加不重要"。
這些觀點雖然有助于討論人工智能對全球政治的潛在影響,但卻無法解釋人工智能究竟會如何改變戰爭的進行,以及士兵們對這一問題的看法。為了解決這個問題,作者最近研究了人工智能增強型軍事技術--整合到不同決策層面和監督類型--如何影響美國軍官對這些系統的信任,從而影響他們對戰爭軌跡的理解。在人工智能領域,信任被定義為一種信念,即一項自主技術在追求共同目標的過程中將可靠地按照預期執行。
圖:XQ-58A Valkyrie "忠實僚機 "無人駕駛戰斗飛行器由人工智能驅動,可在無人監督的情況下識別、跟蹤和攻擊目標。(圖片:美國空軍。 設計:Fran?ois Diaz-Maurin/Erik English)
為了衡量軍方對致命自主武器系統的信任程度,本文作者研究了就讀于賓夕法尼亞州卡萊爾美國陸軍戰爭學院和羅德島州紐波特美國海軍戰爭學院的軍官的態度。軍隊未來的將軍和海軍上將都將來自這些軍官,他們負責管理未來沖突中新興能力的整合與使用。因此,他們的態度對于了解人工智能在多大程度上可能塑造一個由 "戰爭機器人 "陸軍作戰的新戰爭時代非常重要。
研究有三個重要發現。首先,軍官對人工智能增強型軍事技術的信任程度不同,這取決于整合這些技術的決策層以及對新能力的監督類型。其次,軍官可以批準或支持采用人工智能增強型軍事技術,但卻不信任它們,這表明他們的態度不一致,對軍事現代化產生了影響。第三,軍官對人工智能能力的態度還會受到其他因素的影響,包括他們的道德信念、對人工智能軍備競賽的擔憂以及教育水平。總之,這些發現首次提供了軍隊對戰爭中人工智能態度的實驗證據,對軍事現代化、自主武器的政策監督和專業軍事教育(包括核指揮與控制)都有影響。
不同國家采用人工智能增強型軍事技術的決策水平(戰術或戰略)和監督類型(人類或機器)各不相同。各國可以優化算法,在戰場上執行戰術行動,或進行戰略審議,以支持總體戰爭目標。在戰術上,此類技術可以快速分析從分布在戰場上的傳感器獲取的大量數據,比對手更快地生成目標選擇,從而提高戰地指揮官的殺傷力。正如網絡安全專家喬恩-林賽(Jon Lindsay)所說,"戰斗可以被模擬為一場游戲,通過摧毀更多的敵人同時保全更多的友軍來贏得勝利"。要做到這一點,就必須大大縮短 "從傳感器到射手 "的時間線,即從獲取目標到攻擊目標的時間間隔。美國國防部的 "利馬特遣部隊"(Task Force Lima)和 "Maven計劃"(Project Maven)都是此類人工智能應用的范例。
在戰略上,人工智能增強型軍事技術還能幫助政治和軍事領導人將關鍵目標(目的)與作戰方法(途徑)和有限資源(手段)(包括物資和人員)相結合,實現同步。在未來的軍事行動中,新的能力甚至可能出現并取代人類,包括制定戰略方向和國家級戰略。正如一位專家所言,人工智能已經顯示出 "參與復雜分析和戰略制定的潛力,可與發動戰爭所需的能力相媲美"。
與此同時,各國還可以調整對人工智能增強型軍事技術的監督或控制類型。這些技術在設計上可以允許更多的人為監督,從而增強決策的自主性。這類系統通常被稱為半自主系統,即仍受人類控制。這種監督模式是目前大多數人工智能增強武器系統(如通用原子公司的 MQ-9 "死神 "無人機)運行的特點。雖然 "死神 "可以自動駕駛,根據地形和天氣條件的變化調整飛行高度和速度,但人類仍然可以做出瞄準決定。
各國還可以設計人工智能增強型軍事技術,減少人工監督。這些系統通常被稱為 "殺手機器人",因為人類不在其中。在這些應用中,人類行使的監督即使有,也是有限的,甚至在目標選擇決策方面也是如此。決策水平和監督類型的差異表明,在采用人工智能增強型軍事技術后,全球可能出現四種類型的戰爭。
圖:人工智能戰爭的四種類型。(插圖:Fran?ois Diaz-Maurin)
首先,各國可以利用人工智能增強型軍事技術在人類監督下進行戰術決策。這就是保羅-沙雷(Paul Scharre)所說的 "半人馬作戰"。"半人馬 "是希臘神話中的一種生物,上半身像人,下半身和腿像馬,因此得名。半人馬作戰強調人類為戰場目的控制機器,例如摧毀敵方武器庫等目標。
其次,各國可以利用人工智能增強型軍事技術,在機器監督下進行戰術決策。這就從字面上顛覆了半人馬戰爭,讓人聯想到古希臘的另一種神話生物--牛頭人,它有牛的頭和尾巴,人的身體。"牛頭人戰爭 "的特點是在戰斗中機器控制人類和跨領域作戰,從地面上的士兵巡邏到海洋上的戰艦編隊,再到空中的戰斗機編隊,不一而足。
第三,戰略決策加上機器監督,構成了 "人工智能將軍 "或 "單兵 "類型的戰爭。這種方法為人工智能增強型軍事技術提供了非同尋常的空間,以塑造各國的作戰軌跡,但可能會對沖突期間國家間的攻防平衡產生嚴重影響。換言之,人工智能通用型作戰可使各國在時間和空間上獲得并保持對對手的優勢,從而影響戰爭的總體結果。
最后,"馬賽克戰 "保留了人類對人工智能增強型軍事技術的監督,但試圖利用算法來優化戰略決策,以強加和利用針對同行對手的弱點。美國海軍陸戰隊退役將軍約翰-艾倫(John Allen)將這種作戰模式稱為 "超戰爭",學者們通常將其稱為算法決策支持系統。這些任務包括通過 "實時威脅預測 "過程預測敵人可能采取的行動(這是美國防部新的機器輔助分析快速存儲系統或 MARS 的任務),確定最可行、最可接受和最合適的戰略(Palantir 和 Scale AI 等公司正在研究如何做到這一點),以及調整后勤等關鍵作戰功能,以幫助軍隊在印度洋-太平洋等補給線延伸的有爭議作戰環境中獲得并保持主動權。
為了解決軍官在決策水平和監督類型不同的情況下如何信任人工智能增強型軍事技術的問題,作者于 2023 年 10 月對分配到卡萊爾和紐波特戰爭學院的軍官進行了一次調查。調查涉及四個實驗組,這四個實驗組在決策(戰術或戰略)和監督(人類或機器)方面對人工智能增強型軍事技術的使用有所不同,還有一個基線組沒有操縱這些屬性。在閱讀了隨機分配的場景后,要求受訪者用 1 分(低)到 5 分(高)來評價他們對該能力的信任度和支持度。然后,使用統計方法對數據進行了分析。
雖然樣本不能代表美國軍隊(也不能代表其分支,如美國陸軍和海軍),但它是政治學家所說的便利樣本。這有助于得出極為罕見的見解,了解軍人如何信任人工智能增強型軍事技術,以及這種信任對戰爭性質的影響。
這個樣本也是對人工智能出現后未來戰爭可能發生的變化的理解的一個艱難考驗,因為抽取了過多的野戰軍級軍官,包括少校/中校、中校/指揮官和上校/上尉。他們接受過多年的訓練,是目標瞄準方面的專家,許多人都曾參加過戰斗部署,并對無人機做出過決策。他們也是新興的高級領導人,負責評估新技術對未來沖突的影響。這些特點意味著,樣本中的軍官可能比軍隊中的其他人員更不信任人工智能增強型軍事技術,尤其是那些常被稱為 "數字原住民 "的初級軍官。
這項調查揭示了幾個重要發現。首先,基于對這些新能力的決策水平和監督類型的不同,軍官對人工智能增強型軍事技術的信任程度也不同。雖然軍官們普遍不信任不同類型的人工智能增強型武器,但他們最不信任用于單兵作戰(由機器監督的戰略決策)的能力。另一方面,他們對馬賽克戰爭(人工智能優化戰略決策的人工監督)表現出更多的信任。這表明,軍官們始終傾向于由人類控制人工智能來識別敵方活動的細微模式、生成軍事方案以應對對手的多重困境,或者在長期沖突中幫助維持戰備狀態。
與基線組相比,軍官對人工智能軍事技術的信任度在單兵作戰(18.8%)方面的下降幅度要大于馬賽克作戰(10.5%)--見圖 1。雖然與基線組相比,兩種類型的人工智能增強型戰爭中軍官的平均信任度差異在統計上都很顯著,但用于單兵作戰的新軍事能力比用于馬賽克戰爭的更明顯。此外,軍官對兩類人工智能增強型戰爭的信任概率的平均變化(即人工智能增強型軍事技術對軍官信任的平均邊際效應)僅對單兵作戰具有統計意義。總體而言,這些結果表明,軍官對人工智能增強型軍事技術的不信任程度較低,因為這些技術是在人類監督下用于輔助高層決策的。
這些關于信任度的結果在很大程度上反映了軍官的支持態度。與基線組相比,軍官對用于單兵作戰的人工智能增強型軍事技術的支持程度較低,支持率為 18.3%,統計顯著性幾乎相同。不過,與基線組相比,軍官對牛頭人戰爭的支持程度也高于其他人工智能增強型戰爭模式,支持程度的變化約為 6.5%。這表明,雖然軍官們對用于較高層次決策和人工控制的人工智能增強型軍事技術的不信任程度較低,但他們更支持用于戰術級決策和機器監督的人工智能增強型軍事技術。總之,軍官們的態度似乎反映了國王學院教授肯尼斯-佩恩(Kenneth Payne)的論點:"戰爭機器人將成為令人難以置信的戰斗員,但卻是有限的戰略家"。
圖 1. 與基線組相比,四類人工智能戰爭的信任度和支持度。注:數值代表與基線組相比,各處理組對人工智能增強型軍事技術的支持度和信任度的變化。當支持度和信任度與基線組相比下降時,數值為負。(數據:Paul Lushenko;可視化:Fran?ois Diaz-Maurin)
軍官們對在戰術層面使用人工智能增強型軍事技術的支持度相對較高,這揭示了第二個關鍵發現。軍官們對人工智能增強型軍事技術的態度可能是支持比信任更明顯。這意味著一些學者所說的 "信任悖論"。軍官們似乎支持采用人工智能增強的新型戰場技術,即使他們并不一定信任這些技術。這種現象主要與 "牛頭人 "戰爭有關(使用人工智能進行戰術決策并由機器監督)。這表明,軍官們預計人工智能增強型軍事技術將壓縮對手的機動時間和空間,同時擴大美軍的機動時間和空間,而美軍的機動時間和空間是建立在縮短 "從傳感器到射手 "的時間線基礎上的,高級軍事領導人認為這是在未來沖突中擊敗近鄰對手的關鍵。
軍官對用于戰術層面決策和機器監督的人工智能增強型軍事技術的支持程度差異大于其信任度的變化(圖 2)。此外,結果表明,軍官在信任和支持態度上的差異在統計學上具有顯著性: 軍官對用于牛頭人戰爭的人工智能增強型軍事技術的支持程度要高于對它們的信任程度。軍官支持用于牛頭人戰爭的人工智能增強型軍事技術的平均概率變化也高于其他三種類型的人工智能增強型戰爭。
綜合來看,這些結果表明美國軍官對人工智能增強型軍事技術的支持和信任存在信念偏差。盡管軍官們支持采用此類技術來優化不同層次和不同程度的監督決策,但他們并不信任因新興的人工智能能力而導致的潛在戰爭類型。這一結果表明,美國軍官可能認為有義務接受與他們自己的偏好和態度相悖的預計戰爭形式,特別是作為美國陸軍和海軍新興作戰概念基礎的牛頭人戰爭。
圖 2. 對四類人工智能戰爭的信任和支持。注:數值代表各處理組對人工智能增強型軍事技術的支持和信任的平均水平。(數據:Paul Lushenko;可視化:Fran?ois Diaz-Maurin)
其他因素進一步解釋了軍官對人工智能增強型軍事技術信任度的差異。在作者的調查中,當控制了決策水平和監督類型的差異后,發現軍官對這些技術的態度也可能受到潛在的道德、工具和教育因素的影響。
認為美國有道義上的義務在國外使用人工智能增強型軍事技術的軍官,反映出他們對這些新戰場能力的信任程度較高,這與支持的態度也是一致的。這表明,軍官對在國外使用人工智能增強型軍事技術(如在人道主義援助和救災行動中)的潛在益處的道德信念,可能有助于克服他們對采用這些能力的固有不信任。
此外,重視人工智能增強型軍事技術的工具價值并對其抱有 "害怕錯過 "態度的軍官--即他們認為其他國家采用這些技術會迫使美國也采用這些技術,以免在潛在的人工智能軍備競賽中處于不利地位--也傾向于對這些新興能力抱有更大的信任。在考慮教育時,也觀察到了類似的信任態度。結果顯示,高等教育降低了軍官對人工智能增強型軍事技術的信任度,這意味著更多或更專業的知識會讓人對未來戰爭中人工智能的優點和局限性產生疑問。最后,在這些規范性和工具性考慮的交叉點上,作者發現那些認為軍事力量對于維護全球秩序是必要的軍官也更支持使用人工智能增強型軍事技術。這些結果共同加強了早先的研究,即軍官的世界觀決定了他們對戰場技術的態度,軍官在評估他們對在國外使用武力的信任和支持時可以整合不同的邏輯。
有關美國軍官對人工智能態度的第一手證據,描繪了一幅新興技術帶來的戰爭特征演變的復雜圖景,這比一些分析家所認為的要復雜得多。然而,這些態度對作戰現代化和政策以及軍官的專業軍事教育(包括核武器管理)都有影響。
首先,盡管一些美國軍事領導人聲稱 "我們正在目睹戰爭性質的巨大變化,而這主要又是由技術驅動的",但在沖突中出現的人工智能增強型軍事技術可能更多的是一種演變,而不是一場革命。雖然加沙戰爭和烏克蘭戰爭表明軍隊作戰方式發生了重要變化,但它們也反映了關鍵的連續性。軍隊傳統上一直尋求利用新技術來提高情報能力、保護部隊、擴大戰術和作戰火力范圍,這一切在戰場上產生了 "根本的不對稱"。最近,各國使用和限制無人機方式的變化也被證明影響了公眾對合法或非法使用武力的看法,這一結果與新興的完全自主軍事技術是一致的。
然而,這些能力和其他能力對戰爭中戰略結果的影響充其量只是個疑問。戰爭中的戰略成功仍然取決于各國是否愿意犧牲士兵的生命和納稅人的錢財來實現支持國家重大利益的政治和軍事目標。事實上,在研究中,軍官們可能最支持用于牛頭人戰爭的人工智能增強型軍事技術。但是,考慮到圍繞軍事創新的炒作--如果不是夸張和恐懼--,研究參與者對新戰場技術的總體信任和支持程度仍然遠遠低于預期。這些結果表明,對于人工智能對未來沖突的范式性影響,軍事領導人應該降低他們的預期。換句話說,應該 "做好被人工智能失望的準備"。美國陸軍中校邁克爾-弗格森(Michael Ferguson)認為,由于缺乏這種清晰的視角,"時髦的理論將戰爭變成了委婉語的歌舞伎",掩蓋了殘酷的戰斗現實。戰爭是意志的碰撞,充滿人性,并受政治目標的制約。
其次,軍官對人工智能增強型軍事技術的信任態度比本研究顯示的更為復雜。事實上,正如一位前美國空軍上校、現任聯合參謀部J-8局分析師所指出的,"操作人員很難高概率地預測系統在面對適應性對手時的實際表現,這可能會削弱對系統的信任"。在另一項正在進行的研究中,發現軍官對人工智能增強型軍事技術的信任會受到一系列復雜因素的影響。這些因素包括技術規格,即其非致命目的、更高的精確度和人類監督;在平民保護、部隊保護和任務完成方面的感知有效性;以及監督,包括國內監管,尤其是國際監管。事實上,本研究中的一名軍官指出,對人工智能增強型軍事技術的信任是建立在 "遵守國際法而非美國國內法 "的基礎上的。
這些結果表明,需要對新型能力進行更多的測試和實驗,使其使用符合軍人的期望。政策制定者和軍事領導人還必須明確應鼓勵開發人工智能增強型軍事技術的作戰概念;指導其在不同領域、不同層級和不同目的中整合的條令;以及規范其使用的政策。對于后一項任務,官員們必須解釋美國的政策如何與國際法律相吻合或背道而馳,以及哪些規范是使用人工智能增強型軍事技術的條件,至少要考慮到戰地級別的軍官期望如何使用這些能力。為了填補這一空白,白宮最近宣布了美國關于負責任地在軍事上使用人工智能和自主功能與系統的政策,國防部通過了一項指令,規范美軍自主武器的開發和使用,五角大樓還設立了首席數字與人工智能辦公室,以幫助執行這一指令,不過據報道,該辦公室受到預算和人事方面的挑戰。
最后,軍事領導人還應改革專業軍事教育,讓軍官了解人工智能的優點和局限性。他們應該探索人工智能在其他戰略環境中的應用,包括核指揮與控制。美國軍方的許多舉措已經反映了這一需求,尤其是考慮到軍官們在與人工智能能力合作時猶豫不決。
在作戰方面,由美國陸軍第 18 空降軍領導的 "里奇韋項目 "旨在將人工智能整合到瞄準過程中。與之相匹配的是 "阿米莉亞 "和 "忠誠僚機",它們是海軍和空軍旨在優化人員流程和作戰的項目。在體制上,除了預先存在的認證課程外,一些分析師鼓勵將數據素養評估納入基于人才的評估計劃,如美國陸軍的指揮官評估計劃。在教育方面,軍事院校和戰爭學院都有專門研究人工智能對未來戰爭影響的教師、研究中心和選修課。美國陸軍戰爭學院最近聘請了一名數據科學教授,美國海軍學院設有 "武器、機器人和控制工程 "研究集群,美國海軍戰爭學院開設了 "戰略領導人人工智能 "選修課。
圖:MQ-9 "死神 "發射了一枚空對地導彈-114 "地獄火 "導彈,它是一種無遙控駕駛飛機,可用于情報、偵察和打擊。(圖片:美國空軍。 設計:Fran?ois Diaz-Maurin)
與此同時,在美國海軍戰爭學院和其他地方進行的兵棋推演表明,網絡能力可以鼓勵自動化和將核指揮與控制權預先下放給戰術指揮層,并激勵積極的反擊戰略。但研究結果表明,一個令人費解的結果值得更多的檢驗。從表面上看,盡管結果可能與戰爭中使用核武器的結果相同,但這些結果提出了一個令人不安的問題: 正如研究結果所表明的那樣,即使軍官們不信任人工智能,不信任或不支持使用人工智能來管理反制戰略,他們是否真的愿意支持潛在的自動化以及將核指揮與控制權預先下放給戰術級人工智能?
俄羅斯威脅在烏克蘭使用核武器,這促使美國軍方重新審視在大國戰爭中有限使用核武器的可能性。盡管這種 "回到未來 "的情景令人恐懼,而且與冷戰期間戰術核武器的擴散不謀而合,但美國戰爭學院還是重振了教育工作,為參與大規模沖突的國家之間的戰術核交換做好作戰準備。
然而,這些舉措和其他舉措在多大程度上有效地對軍官進行了人工智能教育尚不清楚。問題的部分原因在于,這些舉措將相互競爭的教學方法對立起來。一些計劃以 "一英里寬、一英寸深 "的方式調查數據掃盲和人工智能,將一門課納入更廣泛課程的一門課程中。其他計劃則提供更多的發展機會,并采用 "更窄更深 "的方法,讓少數官員自愿選擇選修課,將其放在更廣泛的課程之上。還有一些項目,如美國陸軍戰爭學院的項目,嘗試采用 "金線 "方法,將數據素養和人工智能貫穿于課程中,從而構建出更廣泛的教學計劃。然而,后一種方法迫使管理者在內容和時間上做出重要權衡,并要求教師具備深入的專業知識。
展望未來,負責協調整個美國聯合部隊培訓和教育工作的聯合參謀部 J-7 應將專業軍事教育概念化,使其成為數據素養和人工智能教學方面長期持續、不斷豐富的連續體。服役院校的預備役學生或參加后備軍官培訓團的學生應接觸有關人工智能的基本概念。初級和中級軍官應在培訓、部署和參加中級教育(如美國陸軍指揮與總參謀學院)期間將這些見解融會貫通。在被選入戰爭學院后,軍官們應與有關在戰斗中使用人工智能的概念性、規范性和工具性考量因素進行斗爭,研究表明,這些考量因素可以塑造軍隊對新技術的態度。
當然,采用這種端對端的教育方法需要時間和資金。它還容易受到不同利益相關者的特權、軍種文化和軍種間競爭的影響。然而,通過將培訓和教育與明確可行的學習成果相結合,這種整體教學模式充分利用了現有的機會,確保美軍做好準備,愿意在和平時期和未來戰爭中采用人工智能增強型軍事技術,并使其使用方式符合國際法律和規范。
參考來源:Bulletin of the Atomic Scientists,Paul Lushenko
盡管人工智能作為宣傳工具的使用一直備受關注,但烏克蘭和以色列的熱點沖突正被證明是加速人工智能和其他信息技術工具在戰場上使用的活實驗室。特別是在烏克蘭,有報道稱,人工智能甚至被用于自主瞄準打擊目標。以色列國防軍(IDF)對人工智能的使用則更為隱秘,但它肯定被用作瞄準輔助工具,以擊敗來自加沙哈馬斯的鋪天蓋地的導彈攻擊。
烏克蘭在拒絕了其他 10 個國家的人工智能項目后,開發出了自己的人工智能,因為烏克蘭確信本國開發的人工智能會更有益處,而且可以規避向商業公司報告的任何要求。烏克蘭的人工智能主要集中在龐大的攝像頭和無人機網絡提供的計算機視覺數據上。例如,名稱和目標字符識別(OCR)可以快速識別伊朗制造的 "沙赫德 "神風無人機,而不是標準導彈。 人工智能還有助于烏克蘭自己的導彈瞄準。這些人工智能工作大多由烏克蘭的 IT 陸軍完成,據說他們有 25 萬人,其中許多人在創新的 "蝸牛車庫 "里工作,而他們的預算只有西方 IT 公司的一小部分。人工智能還被用于分析俄羅斯的無線電通信和清除地雷。與此同時,俄羅斯在軍事領域的人工智能應用似乎陷入了雄心壯志與實際用途之間的脫節,尤其是自主無人機,據說供不應求。
一些通訊社報道稱,無人化嚴重的烏克蘭已經更進一步,允許配備人工智能的無人機在某些情況下不受人類控制地識別和攻擊目標,從而引發了戰場上 "機器人殺手 "的幽靈。美國軍方已經啟動了一項為期兩年的 "復制者 "計劃,準備投入數千套價格相對低廉的自主系統,主要是為了應對大國在海軍艦艇等領域的數量優勢。澳大利亞一家名為 "Anduril "的公司(以《指環王》傳奇中的一把劍命名)正在向烏克蘭提供可發射彈藥、由人工智能驅動的 "幽靈鯊 "海上無人機。
雖然烏克蘭似乎正在使用自主人工智能來攻擊坦克等大型物體,但它幾乎可以指名道姓地攻擊單個士兵。據《時代》雜志報道,備受爭議的 Clearview 公司免費提供的面部識別系統已經識別出 23 萬多名參與烏克蘭戰爭的俄羅斯士兵和官員。Clearview 系統被用于偵測滲透者、識別親俄民兵和合作者,甚至烏克蘭稱被越過俄羅斯邊境綁架的兒童。Clearview 技術標志著 "戰斗識別系統 "的首次使用,該系統有可能被用于鎖定敵方關鍵人員。例如,一架攜帶彈藥的人工智能無人機可以在原地徘徊,直到發現一名反對派將軍。
與此同時,在立志成為 "人工智能超級大國 "的以色列,人工智能技術正在協助對加沙的哈馬斯目標進行快速定位空襲--該系統被稱為 "火力工廠",但其針對軍事目標的準確性目前尚不得而知。人工智能還幫助抵御來襲的導彈襲擊,這些導彈試圖以數量優勢壓倒以色列引以為傲的 "鐵穹 "導彈防御系統。以色列國防軍(IDF)越來越多地使用人工智能,并將其應用于移動平臺,如新型 "巴拉克 "超級坦克。巴拉克 "坦克的一個主要特點是配備了 "鐵視角 "頭盔,通過一系列外部傳感器和攝像頭,坦克乘員只需按下按鈕,就能 "看穿車輛的裝甲"。
主要得益于人工智能,坦克能夠在戰場上獨立學習、適應、導航和瞄準。以色列國防軍表示,一對 "巴拉克 "坦克將能夠執行以前需要一個坦克排才能完成的任務。
大多數分析家都認為,烏克蘭和以色列正被證明是在戰斗中加速使用人工智能的前所未有的試驗基地,而這一發展在和平時期通常需要更長的時間。現在,人工智能系統正在接受來自真實戰爭的真實數據的訓練,這意味著人工智能將在下一場武裝沖突中發揮更大的作用和效力,而下一場武裝沖突很可能包括人工智能自主作戰。
參考來源:techstrong.ai
以色列與美國在許多領域建立了密切的雙邊合作關系。一份為期10年的雙邊軍事援助諒解備忘錄承諾,美國將向以色列提供33億美元的對外軍事資助,并在國會撥款的情況下,從2019財年到2028財年每年為聯合導彈防御項目支出5億美元。一些國會議員加強了對以色列使用美國安全援助的審查,從而引發了有關這一問題的辯論。本報告還討論了以下事項:
內塔尼亞胡政府和司法系統改革爭議。2022 年 12 月,利庫德集團領導人本雅明-內塔尼亞胡成為新一屆聯合政府的總理,盡管他面臨著正在進行的腐敗刑事審判。內塔尼亞胡將極端民族主義者貝扎萊爾-斯莫特里奇(Bezalel Smotrich)和伊塔馬爾-本-格維爾(Itamar Ben Gvir)納入以色列新政府,這引發了關于以色列民主的后果、以色列處理與巴勒斯坦人緊張關系的能力以及以色列與美國關系的爭論。政府提出了全面改革以色列司法系統的立法建議。盡管國內對改革或對改革的反應是否會影響制衡、凝聚力和軍事準備等問題存在很大爭議,拜登總統也努力鼓勵妥協,但聯盟還是在 2023 年 7 月通過了一項法律,防止以色列法院使用 "合理性 "標準來宣布政府行為無效。以色列高等法院已于 9 月聽取了對該法律提出質疑的辯論,從而引發了一場憲法危機的可能性。盡管內塔尼亞胡表示愿意與反對派對話至 11 月,但政府可能會考慮修改法官遴選方式的其他立法。
巴以問題。拜登政府官員希望通過談判在以色列人和巴勒斯坦人之間保持兩國解決方案的可行性,因此一直在尋求幫助控制緊張局勢、增強以色列的防御能力,以及加強在特朗普政府執政期間出現裂痕的美巴關系。政府官員經常公開反對以色列或巴勒斯坦采取可能引發暴力和破壞兩國愿景的措施,包括擴大定居點、前哨基地合法化、拆除和驅逐、破壞耶路撒冷圣地的歷史現狀,以及煽動和默許暴力。自 2022 年以來,以巴暴力引發了西岸反恐措施的加強。由于加沙地帶仍在遜尼派伊斯蘭激進組織哈馬斯(美國指定的恐怖組織)的控制之下,美國和其他國際行為體在尋求幫助重建的同時又不支持該組織方面面臨重大挑戰。
《亞伯拉罕協議》和以色列與沙特阿拉伯關系正常化的可能性。拜登政府遵循特朗普政府期間達成的協議,使以色列與四個阿拉伯或穆斯林占多數的國家--阿拉伯聯合酋長國(UAE)、巴林、蘇丹和摩洛哥--的關系正常化或得到改善。拜登政府官員曾表示,美國在協助以色列與穆斯林占多數的國家實現關系正常化方面所做的任何進一步努力,都將尋求維護通過談判達成兩國方案解決以巴沖突的可行性。以色列、阿聯酋、巴林和摩洛哥之間正在努力深化安全和經濟關系,這將推動更廣泛的地區合作--包括各類防務合作。在中國幫助促成沙特阿拉伯和伊朗的外交正常化之后,美國政府已宣布以色列與沙特阿拉伯的關系正常化是美國的優先事項。為此進行的任何談判都可能會考慮到沙特的安全和民用核需求,以及實現兩國解決方案的途徑。美國國會已經通過并提議立法,鼓勵擴大和深化涉及以色列的地區合作。
對抗伊朗和其他地區動態。以色列官員尋求對抗伊朗的地區影響,防止伊朗獲得核武器。以色列支持特朗普總統讓美國退出 2015 年限制伊朗核活動的國際協議。在美以在伊朗相關問題上的合作基調受到質疑之際,以色列領導人尋求對伊朗施加更大的國際壓力。據報道,以色列還出于各種目的對伊朗及其在敘利亞、黎巴嫩和伊拉克的盟友進行了多次秘密或軍事行動,包括阻止黎巴嫩真主黨加強其武器庫和能力。一些報道稱,未來美國和伊朗有可能達成非正式的、不成文的諒解,伊朗可能會限制一些鈾濃縮活動,并獲得一些用于人道主義目的的財政救濟,這就引起了以色列如何應對這一協議的問題。
2022年俄烏戰爭。在俄羅斯 2022 年入侵烏克蘭之后,以色列一直尋求在不疏遠俄羅斯的情況下為烏克蘭提供政治支持和人道主義救援。以色列不愿向烏克蘭提供致命援助,理由是需要消除其在敘利亞的軍事行動與俄羅斯的沖突。但據報道,以色列正在或計劃向烏克蘭提供基本情報、預警系統援助和反無人機干擾系統,以對抗俄羅斯使用的伊朗制造的無人機和導彈。