自(zi)(zi)(zi)主(zhu)系統(tong)的(de)(de)復雜性(xing)與部(bu)署(shu)范(fan)圍正(zheng)日益提升，從先(xian)進工業機器人(ren)(ren)到智能(neng)(neng)城市基礎設施，這(zhe)迫(po)切需(xu)要軟(ruan)件(jian)工程(cheng)(cheng)范(fan)式的(de)(de)根本(ben)(ben)(ben)性(xing)轉變。這(zhe)些系統(tong)不僅要求高度適(shi)(shi)(shi)應(ying)(ying)性(xing)，還需(xu)具備嚴格的(de)(de)安(an)全(quan)性(xing)與透明決(jue)策(ce)(ce)(ce)能(neng)(neng)力(li)(li)。本(ben)(ben)(ben)文提出(chu)一(yi)(yi)種(zhong)統(tong)一(yi)(yi)的(de)(de)軟(ruan)件(jian)智能(neng)(neng)框(kuang)架(jia)，通過(guo)無縫(feng)集成神經程(cheng)(cheng)序(xu)合(he)成（NPS）、量子(zi)(zi)安(an)全(quan)運維（QSD）與可(ke)解釋(shi)人(ren)(ren)工智能(neng)(neng)（XAI）來滿足這(zhe)些多維需(xu)求。該(gai)框(kuang)架(jia)借(jie)助NPS實現AI驅動(dong)的(de)(de)代碼(ma)生成，通過(guo)QSD強化軟(ruan)件(jian)生命(ming)周(zhou)期以應(ying)(ying)對(dui)(dui)新興量子(zi)(zi)威脅，并利用(yong)XAI確(que)保關鍵(jian)自(zi)(zi)(zi)主(zhu)操作中(zhong)可(ke)解釋(shi)且(qie)可(ke)信的(de)(de)決(jue)策(ce)(ce)(ce)過(guo)程(cheng)(cheng)。我(wo)們對(dui)(dui)各領域最(zui)新進展進行全(quan)面文獻綜(zong)述，詳細分析其各自(zi)(zi)(zi)挑戰(zhan)與協同潛力(li)(li)。所(suo)提出(chu)的(de)(de)架(jia)構將這(zhe)些組件(jian)統(tong)一(yi)(yi)為(wei)從規范(fan)到代碼(ma)生成、安(an)全(quan)部(bu)署(shu)及運行時適(shi)(shi)(shi)應(ying)(ying)的(de)(de)連(lian)續(xu)管道。通過(guo)一(yi)(yi)個(ge)假設的(de)(de)智慧(hui)城市基礎設施場(chang)景，闡明了該(gai)融合(he)框(kuang)架(jia)的(de)(de)實際應(ying)(ying)用(yong)與優勢，展示(shi)其快速代碼(ma)適(shi)(shi)(shi)配能(neng)(neng)力(li)(li)、后量子(zi)(zi)安(an)全(quan)性(xing)以及對(dui)(dui)自(zi)(zi)(zi)主(zhu)行為(wei)提供人(ren)(ren)類可(ke)理解解釋(shi)的(de)(de)特性(xing)。我(wo)們進一(yi)(yi)步討論此(ci)類集成固(gu)有的(de)(de)技術挑戰(zhan)，包括穩(wen)健的(de)(de)評(ping)估策(ce)(ce)(ce)略，以及在敏(min)感環境中(zhong)部(bu)署(shu)AI生成、量子(zi)(zi)安(an)全(quan)系統(tong)所(suo)涉及的(de)(de)深遠倫理、運營與安(an)全(quan)影響。本(ben)(ben)(ben)研究(jiu)為(wei)發(fa)展適(shi)(shi)(shi)應(ying)(ying)性(xing)、穩(wen)健性(xing)及可(ke)信賴自(zi)(zi)(zi)主(zhu)系統(tong)所(suo)必需(xu)的(de)(de)新興多學科領域奠定基礎。

自(zi)主系(xi)統(tong)在各大關鍵領域（從制造業(ye)先進(jin)機器人(ren)到(dao)智能(neng)城市基(ji)礎(chu)設(she)施）日(ri)益(yi)增長(chang)的(de)(de)(de)(de)(de)(de)(de)復(fu)雜性(xing)與(yu)廣泛部署，迫切需要(yao)(yao)軟件工程(cheng)(cheng)范式的(de)(de)(de)(de)(de)(de)(de)深刻演(yan)進(jin)。這些系(xi)統(tong)必須在動(dong)態(tai)且不(bu)可預(yu)測(ce)的(de)(de)(de)(de)(de)(de)(de)環境中(zhong)以(yi)前所(suo)未有(you)(you)的(de)(de)(de)(de)(de)(de)(de)適應性(xing)、安(an)全(quan)性(xing)與(yu)可信(xin)度水平運行。傳(chuan)統(tong)軟件開(kai)發方(fang)法難以(yi)跟(gen)上運營需求(qiu)的(de)(de)(de)(de)(de)(de)(de)快(kuai)速(su)演(yan)變及(ji)(ji)新(xin)興威脅的(de)(de)(de)(de)(de)(de)(de)步伐，尤其(qi)在人(ren)類(lei)干(gan)預(yu)有(you)(you)限或響應時(shi)(shi)間至關重要(yao)(yao)的(de)(de)(de)(de)(de)(de)(de)場(chang)景(jing)中(zhong)。當前自(zi)主系(xi)統(tong)發展的(de)(de)(de)(de)(de)(de)(de)挑戰源于(yu)三個核心領域：對(dui)實(shi)時(shi)(shi)軟件適配的(de)(de)(de)(de)(de)(de)(de)需求(qiu)、量(liang)(liang)子(zi)計算對(dui)經(jing)典(dian)密碼(ma)(ma)學構成(cheng)(cheng)的(de)(de)(de)(de)(de)(de)(de)存在性(xing)威脅，以(yi)及(ji)(ji)AI驅動(dong)決策中(zhong)透明性(xing)與(yu)人(ren)類(lei)信(xin)任(ren)的(de)(de)(de)(de)(de)(de)(de)必要(yao)(yao)性(xing)。程(cheng)(cheng)序員(yuan)常常難以(yi)為所(suo)有(you)(you)可預(yu)見場(chang)景(jing)快(kuai)速(su)編寫(xie)和(he)更新(xin)代碼(ma)(ma)，而(er)神經(jing)程(cheng)(cheng)序合(he)成(cheng)(cheng)（NPS）旨(zhi)在通(tong)(tong)過(guo)AI自(zi)動(dong)生(sheng)成(cheng)(cheng)或修(xiu)復(fu)代碼(ma)(ma)來解決該問題。同(tong)時(shi)(shi)，量(liang)(liang)子(zi)計算機的(de)(de)(de)(de)(de)(de)(de)出(chu)現可能(neng)破解廣泛使用的(de)(de)(de)(de)(de)(de)(de)公鑰(yao)密碼(ma)(ma)系(xi)統(tong)，從而(er)危及(ji)(ji)從開(kai)發到(dao)部署的(de)(de)(de)(de)(de)(de)(de)軟件生(sheng)命周期各階段。這需要(yao)(yao)集成(cheng)(cheng)量(liang)(liang)子(zi)安(an)全(quan)運維（QSD）以(yi)構建彈性(xing)安(an)全(quan)管(guan)道。最后(hou)，隨(sui)著AI組(zu)件日(ri)益(yi)控制自(zi)主系(xi)統(tong)中(zhong)的(de)(de)(de)(de)(de)(de)(de)關鍵決策，許多模型(xing)固有(you)(you)的(de)(de)(de)(de)(de)(de)(de)“黑箱”特性(xing)削弱(ruo)了(le)人(ren)類(lei)信(xin)任(ren)。可解釋人(ren)工智能(neng)（XAI）通(tong)(tong)過(guo)生(sheng)成(cheng)(cheng)人(ren)類(lei)操作(zuo)者可理(li)解且可審計的(de)(de)(de)(de)(de)(de)(de)推理(li)模型(xing)，旨(zhi)在彌合(he)這一差距，確保信(xin)任(ren)與(yu)問責。本文認為NPS、QSD與(yu)XAI并非(fei)孤立學科，而(er)是相互依存的(de)(de)(de)(de)(de)(de)(de)支柱，當緊密集成(cheng)(cheng)時(shi)(shi)，可構成(cheng)(cheng)下一代自(zi)主系(xi)統(tong)的(de)(de)(de)(de)(de)(de)(de)協同(tong)框架(jia)。例如，NPS生(sheng)成(cheng)(cheng)的(de)(de)(de)(de)(de)(de)(de)AI代碼(ma)(ma)應能(neng)通(tong)(tong)過(guo)XAI技術(shu)進(jin)行驗證與(yu)調(diao)試，再通(tong)(tong)過(guo)QSD管(guan)道安(an)全(quan)部署。同(tong)樣，量(liang)(liang)子(zi)安(an)全(quan)管(guan)道可保證XAI生(sheng)成(cheng)(cheng)的(de)(de)(de)(de)(de)(de)(de)模型(xing)及(ji)(ji)其(qi)解釋不(bu)被強大對(dui)手篡(cuan)改(gai)。這些領域的(de)(de)(de)(de)(de)(de)(de)融合(he)有(you)(you)望提升自(zi)主平臺(tai)的(de)(de)(de)(de)(de)(de)(de)敏捷性(xing)、安(an)全(quan)性(xing)與(yu)可信(xin)度。

本文(wen)的(de)(de)貢獻是多方(fang)面的(de)(de)：

? 對神(shen)經程序合成、量子安(an)全運(yun)維與(yu)(yu)可解釋人工智(zhi)能的最(zui)新(xin)學術與(yu)(yu)行(xing)業研究(jiu)進(jin)行(xing)廣泛回顧，聚焦其(qi)各自進(jin)展、挑戰及融(rong)合潛(qian)力。

? 提出一種新(xin)穎(ying)的(de)軟件(jian)智能框(kuang)架(jia)架(jia)構，將這三個(ge)關鍵組件(jian)統一為(wei)用于自主(zhu)系統開發與運營的(de)連(lian)續智能管道。

? 詳細闡述該融合框架內的模(mo)塊(kuai)、工作流與交互，通(tong)過一個涉及自(zi)主(zhu)資源管理(li)的假(jia)設(she)智慧城市場景說明其實際(ji)應用。

? 分析實施(shi)此(ci)類集(ji)成框架固有的技(ji)術(shu)挑戰，包括正確(que)性(xing)(xing)、可(ke)擴(kuo)展性(xing)(xing)、安全開銷(xiao)、可(ke)解釋性(xing)(xing)與復雜(za)性(xing)(xing)權(quan)衡、人機(ji)交互(hu)及集(ji)成復雜(za)性(xing)(xing)等問(wen)題。

? 概述必要(yao)的(de)(de)嚴格評估策略與性能指標，以評估所提出框架(jia)的(de)(de)有效性、可(ke)信度及倫理合規性。

? 討論(lun)在敏感環境中(zhong)部署AI生成、量子安(an)全系統(tong)所涉及(ji)(ji)的(de)更廣泛倫理(li)、運(yun)營(ying)與(yu)安(an)全影響。本工(gong)作為開(kai)發適應性(xing)、穩健性(xing)及(ji)(ji)可信(xin)賴自(zi)主系統(tong)所必(bi)需的(de)新(xin)興多學(xue)科(ke)領域奠定(ding)基(ji)礎。

態(tai)(tai)勢感知(zhi)(zhi)（SA）是(shi)通(tong)過(guo)感知(zhi)(zhi)、理解(jie)與(yu)(yu)(yu)(yu)(yu)(yu)預測環境(jing)要(yao)素的(de)連續(xu)過(guo)程，構成復(fu)雜系統的(de)重(zhong)要(yao)組(zu)件。環境(jing)信(xin)息(xi)接收(shou)具(ju)有持續(xu)性(xing)與(yu)(yu)(yu)(yu)(yu)(yu)多模(mo)態(tai)(tai)特性(xing)，人(ren)(ren)工智能技術通(tong)過(guo)將SA目標拆解(jie)為(wei)數據(ju)融合、表(biao)(biao)征、分類及預測等任務(wu)，提供更(geng)高效穩健(jian)的(de)支撐。本(ben)文系統綜述應用(yong)于各(ge)類環境(jing)與(yu)(yu)(yu)(yu)(yu)(yu)場景(jing)中構建、增強(qiang)及評估SA的(de)AI與(yu)(yu)(yu)(yu)(yu)(yu)多模(mo)態(tai)(tai)方法(fa)(fa)，重(zhong)點聚焦感知(zhi)(zhi)完(wan)整性(xing)與(yu)(yu)(yu)(yu)(yu)(yu)持續(xu)性(xing)提升。研究表(biao)(biao)明人(ren)(ren)工智能與(yu)(yu)(yu)(yu)(yu)(yu)多模(mo)態(tai)(tai)方法(fa)(fa)的(de)融合顯著(zhu)增強(qiang)了復(fu)雜系統的(de)感知(zhi)(zhi)與(yu)(yu)(yu)(yu)(yu)(yu)理解(jie)能力(li)(li)，但在未來態(tai)(tai)勢預測與(yu)(yu)(yu)(yu)(yu)(yu)多模(mo)態(tai)(tai)信(xin)息(xi)有效融合方面(mian)(mian)仍存研究缺口。本(ben)文總結AI與(yu)(yu)(yu)(yu)(yu)(yu)多模(mo)態(tai)(tai)技術實(shi)現SA的(de)應用(yong)案例與(yu)(yu)(yu)(yu)(yu)(yu)實(shi)踐經驗，并(bing)提出未來展望與(yu)(yu)(yu)(yu)(yu)(yu)挑戰，包括更(geng)全面(mian)(mian)的(de)預測能力(li)(li)、更(geng)強(qiang)的(de)可解(jie)釋性(xing)及更(geng)先(xian)進的(de)視覺信(xin)息(xi)處理技術。

圖1所示。基于人工(gong)智能和多(duo)模態(tai)技(ji)術的態(tai)勢(shi)感知系統概述。

本(ben)(ben)(ben)文(wen)剖析了擬(ni)議中用(yong)于(yu)探測、監控及對(dui)抗“認知戰(zhan)”的(de)(de)(de)(de)(de)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)系(xi)統(tong)(tong)，批判(pan)性審視此(ci)類系(xi)統(tong)(tong)對(dui)基本(ben)(ben)(ben)權(quan)(quan)利與(yu)(yu)價(jia)值(zhi)觀的(de)(de)(de)(de)(de)影響。在(zai)(zai)(zai)闡釋當代公共安(an)全(quan)話語(yu)中的(de)(de)(de)(de)(de)“認知戰(zhan)”概念后(hou)(hou)，文(wen)章指出人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)作為(wei)(wei)新興工(gong)具，可(ke)能(neng)(neng)(neng)(neng)加劇針對(dui)社會在(zai)(zai)(zai)線信(xin)(xin)息(xi)生態系(xi)統(tong)(tong)的(de)(de)(de)(de)(de)惡意(yi)活動。為(wei)(wei)應對(dui)此(ci)挑戰(zhan)，研究者(zhe)與(yu)(yu)決策者(zhe)提議利用(yong)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)制定反(fan)制措施——從基于(yu)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)的(de)(de)(de)(de)(de)預(yu)警系(xi)統(tong)(tong)到政府主導的(de)(de)(de)(de)(de)全(quan)網絡內容審核工(gong)具。然(ran)而(er)這些干(gan)預(yu)措施在(zai)(zai)(zai)不同程(cheng)度上(shang)干(gan)預(yu)了隱(yin)私權(quan)(quan)、言論自(zi)(zi)由、信(xin)(xin)息(xi)自(zi)(zi)由與(yu)(yu)自(zi)(zi)決權(quan)(quan)等基本(ben)(ben)(ben)權(quan)(quan)利與(yu)(yu)價(jia)值(zhi)觀。所提出的(de)(de)(de)(de)(de)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)系(xi)統(tong)(tong)缺乏(fa)充分考量當代在(zai)(zai)(zai)線信(xin)(xin)息(xi)生態系(xi)統(tong)(tong)的(de)(de)(de)(de)(de)復(fu)雜性，尤其(qi)未能(neng)(neng)(neng)(neng)解決“認知戰(zhan)”活動與(yu)(yu)不良后(hou)(hou)果(guo)間因果(guo)關系(xi)的(de)(de)(de)(de)(de)固有(you)判(pan)定難(nan)題(ti)。其(qi)后(hou)(hou)果(guo)在(zai)(zai)(zai)于(yu)，利用(yong)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)對(dui)抗“認知戰(zhan)”反(fan)而(er)可(ke)能(neng)(neng)(neng)(neng)損(sun)害本(ben)(ben)(ben)應受保護的(de)(de)(de)(de)(de)基本(ben)(ben)(ben)權(quan)(quan)利與(yu)(yu)價(jia)值(zhi)觀。決策者(zhe)應減少對(dui)看似立(li)竿(gan)見影的(de)(de)(de)(de)(de)技術(shu)解決方(fang)案的(de)(de)(de)(de)(de)過度關注(zhu)，轉而(er)投入構筑立(li)足于(yu)保障基本(ben)(ben)(ben)權(quan)(quan)利的(de)(de)(de)(de)(de)長效策略，以應對(dui)數字傳播(bo)生態系(xi)統(tong)(tong)中的(de)(de)(de)(de)(de)信(xin)(xin)息(xi)失(shi)序問題(ti)。

本背(bei)景資料簡報概(gai)述人工智能（AI）與(yu)(yu)國(guo)防領域的交(jiao)(jiao)匯點。AI現部署于教育(yu)、金融、交(jiao)(jiao)通、醫療(liao)與(yu)(yu)國(guo)家(jia)安全(quan)等多(duo)領域。國(guo)防領域作為(wei)國(guo)家(jia)安全(quan)體系的核心構成，涵蓋以維護國(guo)家(jia)主權(quan)與(yu)(yu)利益為(wei)目標(biao)的軍(jun)事能力與(yu)(yu)行動。盡管AI有望(wang)提升國(guo)防活動效(xiao)能，但其(qi)應(ying)用引發人權(quan)與(yu)(yu)國(guo)防領域善治相(xiang)關的諸多(duo)挑戰。本簡報將(jiang)界定AI概(gai)念，探(tan)討其(qi)在(zai)國(guo)防領域的應(ying)用場景，剖析對(dui)善治的潛在(zai)風險，并就強(qiang)化監(jian)管提出建議（包括完(wan)善監(jian)測機制、提升透明(ming)度、健全(quan)問責制及促進(jin)利益相(xiang)關方協作）。

本背景資料簡報解答以下問題
? 何為人工智能（AI）？
? 國防領域的定義為何？
? 國防領域為何使用AI？
? AI對國防領域構成哪些風險？
? AI如何影響國防領域善治？
? 如(ru)何強化國(guo)防(fang)領域(yu)AI應用的(de)監管？

國防領域人工智能應用

國防領域人工智能應用監管框架

本文介紹了(le)(le)大(da)型(xing)語言模(mo)型(xing)（LLMs）和生成式人(ren)工智(zhi)能(neng)系統（GAIs），并將讀者對(dui)其能(neng)力、局限(xian)性和合適應用的(de)(de)期望與底層技(ji)術(shu)的(de)(de)核心特征(zheng)聯系起來(lai)。我們(men)(men)(men)以文本生成為例說明了(le)(le)它(ta)們(men)(men)(men)的(de)(de)輸入(ru)和輸出(chu)，用一般術(shu)語和技(ji)術(shu)術(shu)語解釋了(le)(le)它(ta)們(men)(men)(men)的(de)(de)功(gong)能(neng)，闡明了(le)(le)它(ta)們(men)(men)(men)的(de)(de)使用和部署方式，并對(dui)它(ta)們(men)(men)(men)的(de)(de)局限(xian)性進(jin)行(xing)了(le)(le)擴展(zhan)討論。我們(men)(men)(men)注意(yi)到(dao)，GAI 是極其強大(da)的(de)(de)工具(ju)，但同時也損害了(le)(le)認知模(mo)型(xing)，并對(dui)其未來(lai)發展(zhan)提出(chu)了(le)(le)建議。

本文件是系(xi)列文件中(zhong)的第(di)一(yi)份，旨在向軍事讀者介紹(shao) LLM 和 GAI，內(nei)容包括技(ji)術(shu)、技(ji)術(shu)現(xian)狀、益(yi)處(chu)和風(feng)險、可信的高價(jia)值軍事應用，以及對未(wei)來研(yan)發重點的建議。

GAI 是(shi)(shi)指由人(ren)工智(zhi)能（AI）系(xi)(xi)統創建的(de)內容。它們根(gen)據(ju)用(yong)戶的(de)提(ti)示(shi)制作這些內容，這些提(ti)示(shi)包含各種各樣的(de)任(ren)務。GAI 系(xi)(xi)統包含多種模式(shi)，可輸(shu)入和(he)輸(shu)出文(wen)本、圖像(xiang)、音頻和(he)視頻（通常是(shi)(shi)結合使用(yong)），而(er) LLM 子類則(ze)輸(shu)入和(he)輸(shu)出文(wen)本。底(di)層技術采用(yong)機器(qi)學習，從真(zhen)正的(de)海量數據(ju)中(zhong)獲(huo)取模式(shi)，GAI 以預(yu)測(ce)的(de)形(xing)式(shi)應用(yong)這些模式(shi)，根(gen)據(ju)提(ti)示(shi)生成(cheng)(cheng)響應。GAIs 所(suo)表現(xian)出的(de)智(zhi)能水平在(zai)計(ji)算系(xi)(xi)統中(zhong)是(shi)(shi)前所(suo)未有的(de)。例如，GPT-4 可在(zai)約(yue) 25 個標(biao)準化測(ce)試中(zhong)生成(cheng)(cheng)人(ren)類水平的(de)成(cheng)(cheng)績，包括大學先修(xiu)班微積分(fen)、法學院入學考試、GRE 口語以及 SAT 基于(yu)證(zheng)據(ju)的(de)推(tui)理和(he)寫(xie)作考試。這些功(gong)能是(shi)(shi)過去幾年機器(qi)學習技術不斷(duan)進步的(de)產物。

與所有機(ji)器學(xue)習模(mo)型一(yi)樣(yang)，GAI 也由(you)兩部分組(zu)成：性(xing)能(neng)(neng)(neng)系(xi)統(tong)(tong)(tong)(tong)和學(xue)習系(xi)統(tong)(tong)(tong)(tong)。性(xing)能(neng)(neng)(neng)系(xi)統(tong)(tong)(tong)(tong)是(shi)已(yi)部署(shu)的(de)組(zu)件。它由(you)多層(ceng)神經(jing)網(wang)(wang)絡(luo)(luo)（即深(shen)度神經(jing)網(wang)(wang)絡(luo)(luo)）組(zu)成，每一(yi)層(ceng)神經(jing)元的(de)輸(shu)(shu)出為下一(yi)層(ceng)神經(jing)元提供信息。性(xing)能(neng)(neng)(neng)系(xi)統(tong)(tong)(tong)(tong)執行(xing)該神經(jing)網(wang)(wang)絡(luo)(luo)所代表的(de)功能(neng)(neng)(neng)；它接受輸(shu)(shu)入(ru)并生(sheng)成輸(shu)(shu)出，通常關(guan)閉學(xue)習功能(neng)(neng)(neng)。學(xue)習系(xi)統(tong)(tong)(tong)(tong)通過(guo)對(dui)原始材料(liao)的(de)訓練(lian)(lian)來(lai)定(ding)義該功能(neng)(neng)(neng)。每個 GAI 都是(shi)一(yi)個統(tong)(tong)(tong)(tong)計模(mo)型。它的(de)學(xue)習系(xi)統(tong)(tong)(tong)(tong)將訓練(lian)(lian)數據的(de)分布(bu)編碼到神經(jing)網(wang)(wang)絡(luo)(luo)中(zhong)，而性(xing)能(neng)(neng)(neng)系(xi)統(tong)(tong)(tong)(tong)則(ze)對(dui)該分布(bu)進行(xing)采樣(yang)；它將類似的(de)輸(shu)(shu)入(ru)映(ying)射到類似的(de)輸(shu)(shu)出中(zhong)。

LLM 是一種簡單(dan)(dan)的預測(ce)器--給定一個(ge)(ge)(ge)提(ti)(ti)示(shi)，輸出下一個(ge)(ge)(ge)最有可(ke)能出現的單(dan)(dan)詞(ci)，然后將(jiang)生成(cheng)的單(dan)(dan)詞(ci)添加(jia)到提(ti)(ti)示(shi)中，反復進行，直到完成(cheng)應(ying)答。LLM 通過對來(lai)自在線(xian)文本(ben)(ben)的數以(yi)萬億計的輸入序(xu)列進行訓(xun)練(lian)，學會預測(ce)下一個(ge)(ge)(ge)單(dan)(dan)詞(ci)的可(ke)能性；更正式(shi)地(di)說(shuo)，LLM 可(ke)以(yi)根據提(ti)(ti)示(shi)和訓(xun)練(lian)文本(ben)(ben)獲得(de)下一個(ge)(ge)(ge)單(dan)(dan)詞(ci)的條件概率分(fen)(fen)布(bu)。該(gai)分(fen)(fen)布(bu)可(ke)泛化(hua)到新(xin)的輸入序(xu)列，讓 LLM 對從未見過的提(ti)(ti)示(shi)做出反應(ying)。由于訓(xun)練(lian)文本(ben)(ben)非常廣(guang)泛，從理論上講，學習到的分(fen)(fen)布(bu)反映(ying)了人類的廣(guang)泛經驗。LLM 提(ti)(ti)示(shi)會挖掘這些知識(shi)。

LLM 的(de)(de)(de)(de)性能系(xi)(xi)統采用了一(yi)種稱為(wei)轉(zhuan)(zhuan)換(huan)器(qi)的(de)(de)(de)(de)深(shen)度神經網絡設計(ji)，對(dui)詞義進行計(ji)算。轉(zhuan)(zhuan)換(huan)器(qi)將輸入文本(ben)(ben)中(zhong)(zhong)(zhong)的(de)(de)(de)(de)單(dan)詞表(biao)(biao)示為(wei)高(gao)維空(kong)間中(zhong)(zhong)(zhong)的(de)(de)(de)(de)點（即數字向量，稱為(wei)嵌(qian)入），其(qi)中(zhong)(zhong)(zhong)含(han)(han)義相(xiang)(xiang)似的(de)(de)(de)(de)單(dan)詞具有相(xiang)(xiang)似的(de)(de)(de)(de)向量。它們(men)會(hui)移動每個(ge)(ge)單(dan)詞的(de)(de)(de)(de)表(biao)(biao)示，以反(fan)映輸入文本(ben)(ben)中(zhong)(zhong)(zhong)其(qi)他(ta)單(dan)詞的(de)(de)(de)(de)影響（通過(guo)一(yi)種稱為(wei)自(zi)我(wo)關注的(de)(de)(de)(de)計(ji)算），其(qi)中(zhong)(zhong)(zhong)單(dan)詞含(han)(han)義的(de)(de)(de)(de)特定(ding)轉(zhuan)(zhuan)換(huan)是在訓練過(guo)程中(zhong)(zhong)(zhong)為(wei)預(yu)測(ce)下(xia)一(yi)個(ge)(ge)單(dan)詞而學習的(de)(de)(de)(de)。學習系(xi)(xi)統會(hui)逐步調(diao)整轉(zhuan)(zhuan)換(huan)器(qi)網絡中(zhong)(zhong)(zhong)的(de)(de)(de)(de)權(quan)重，以提高(gao)分(fen)配給(gei)正(zheng)確單(dan)詞的(de)(de)(de)(de)概(gai)率(lv)，降(jiang)低分(fen)配給(gei)其(qi)他(ta)單(dan)詞的(de)(de)(de)(de)概(gai)率(lv)。它對(dui)訓練語料(liao)庫中(zhong)(zhong)(zhong)的(de)(de)(de)(de)每個(ge)(ge)示例都(dou)會(hui)這樣(yang)做。轉(zhuan)(zhuan)換(huan)器(qi)會(hui)學習訓練文本(ben)(ben)中(zhong)(zhong)(zhong)相(xiang)(xiang)距(ju)較遠(yuan)的(de)(de)(de)(de)單(dan)詞之間的(de)(de)(de)(de)依賴關系(xi)(xi)，這受到所謂的(de)(de)(de)(de)相(xiang)(xiang)關長(chang)度的(de)(de)(de)(de)限制。根據標準化(hua)成績(ji)測(ce)試的(de)(de)(de)(de)結果，相(xiang)(xiang)關長(chang)度越長(chang)，LLM 的(de)(de)(de)(de)性能就(jiu)越高(gao)。

GAI 通過采用對相鄰部分/像素進(jin)(jin)行操作的深度(du)學習架構（稱為卷積設計(ji)），對圖(tu)(tu)像等非序列(lie)數(shu)據進(jin)(jin)行統(tong)計(ji)分析(xi)。例(li)如，DALL-E 通過訓練(lian)卷積模型，從(cong)(cong)噪聲中構建出格式良好的圖(tu)(tu)像（在(zai)解構約 4 億張圖(tu)(tu)像為噪聲后），從(cong)(cong)而從(cong)(cong)標題生成圖(tu)(tu)像。它根(gen)據 LLM 前端(duan)生成的輸入文本表(biao)示進(jin)(jin)行重構。

GAI 應用(yong)程序通常(chang)是(shi)分階段開發的，基(ji)(ji)礎模(mo)(mo)型(xing)隨后(hou)會(hui)被調整以(yi)執行(xing)許(xu)多(duo)更具(ju)體(ti)的任(ren)務。基(ji)(ji)礎模(mo)(mo)型(xing)的創建(jian)成本很高；它(ta)們以(yi)數(shu)(shu)十億到數(shu)(shu)萬(wan)(wan)(wan)億個可(ke)學習的神經網絡參數(shu)(shu)來捕捉有關世界的知識，這些參數(shu)(shu)必須在(zai)數(shu)(shu)十億到數(shu)(shu)萬(wan)(wan)(wan)億個示例上(shang)進行(xing)訓(xun)練(lian)。訓(xun)練(lian) GPT-4 的計算預(yu)算高達 6000 萬(wan)(wan)(wan)美元。基(ji)(ji)礎模(mo)(mo)型(xing)可(ke)以(yi)通過添加（和訓(xun)練(lian)）新的層來適應新的任(ren)務，方法(fa)是(shi)將基(ji)(ji)礎模(mo)(mo)型(xing)作為(wei)預(yu)處(chu)理器，或者將其提煉為(wei)一個更小的模(mo)(mo)型(xing)，可(ke)以(yi)在(zai)移動(dong)設(she)備上(shang)重(zhong)新訓(xun)練(lian)和/或執行(xing)（但功能會(hui)有一定損失(shi)）。

雖然 GAI 是極其(qi)強大的(de)(de)工具，但它(ta)們也是受損的(de)(de)認知模型，其(qi)弱點可歸因(yin)(yin)于(yu)統(tong)計預(yu)測的(de)(de)核心特(te)(te)性。GAI 缺乏區分事(shi)實與(yu)虛(xu)構、確保(bao)邏輯一致(zhi)性、尊重(zhong)因(yin)(yin)果關系(xi)、執行推(tui)(tui)理、制(zhi)定(ding)計劃、遵(zun)循社會(hui)規范或進(jin)行判(pan)斷的(de)(de)能力。它(ta)們難以推(tui)(tui)斷出新的(de)(de)情(qing)況(kuang)。由于(yu)解決(jue)方案是片面的(de)(de)、外(wai)在于(yu)統(tong)計 GAI 框架的(de)(de)、針對特(te)(te)定(ding)任務的(de)(de)，因(yin)(yin)此這(zhe)(zhe)些(xie)弱點在未(wei)來(lai)的(de)(de) GAI 應(ying)用中仍將顯而(er)易見(jian)。因(yin)(yin)此，用于(yu)高(gao)價值(zhi)軍事(shi)任務的(de)(de) GAI，如情(qing)報分析（特(te)(te)別是反事(shi)實推(tui)(tui)理和觀察(cha)推(tui)(tui)理）、批(pi)判(pan)性思維（針對特(te)(te)定(ding)任務從(cong)多(duo)個來(lai)源得出結論）以及需要判(pan)斷的(de)(de)高(gao)風險決(jue)策任務，都需要 GAI 技術的(de)(de)進(jin)步，并(bing)帶來(lai)性能風險。在這(zhe)(zhe)些(xie)情(qing)況(kuang)下(xia)，GAI 最好與(yu)人(ren)合作使用。

云計算(suan)已成為全球數字經濟的基礎要素，釋放出前所(suo)未有的創新和連(lian)接水平。為了(le)(le)解這一關(guan)鍵使(shi)能技術(shu)對國際安全的深(shen)遠(yuan)影響，本報告概述了(le)(le)云計算(suan)的相關(guan)用(yong)例(li)、益處和風險(xian)，以及其關(guan)鍵治(zhi)理(li)挑戰和對軍(jun)備控(kong)制的影響。本報告分(fen)為兩部(bu)分(fen)--技術(shu)入(ru)門(men)和治(zhi)理(li)入(ru)門(men)--提供(gong)技術(shu)見解和政策分(fen)析(xi)。

本(ben)文(wen)對技(ji)術(shu)進行(xing)了通(tong)俗易(yi)懂的(de)描(miao)述，解(jie)讀了技(ji)術(shu)的(de)各個組成部分，同時(shi)概述了選定的(de)優勢、風(feng)險和(he)相關的(de)國際(ji)安全應用(yong)。云計算實(shi)現了計算資源的(de)可(ke)擴展性和(he)靈活性，以及(ji)成本(ben)效(xiao)益和(he)實(shi)時(shi)數據處理(li)與(yu)共享。與(yu)此同時(shi)，云計算也會加劇網(wang)絡安全威脅，增(zeng)加跨(kua)境管轄(xia)問題，增(zeng)加對少(shao)數大(da)型(xing)服務提(ti)供商的(de)依賴。

該技術入門(men)(men)指南還將云(yun)計(ji)算置(zhi)于更廣泛的人工智(zhi)能（AI）背景下，強調了云(yun)計(ji)算在促進(jin)和加速(su)人工智(zhi)能發展(zhan)方面的作(zuo)用。隨著(zhu)國(guo)(guo)防、關鍵基礎設(she)施(shi)和人道主義(yi)部(bu)門(men)(men)等(deng)與國(guo)(guo)際安全有(you)交集的部(bu)門(men)(men)越(yue)來越(yue)多地采用云(yun)計(ji)算解(jie)決方案，謹(jin)慎(shen)平衡風險與收益至關重要。

有鑒于此，治理(li)(li)入門概述(shu)了與(yu)國際安(an)全(quan)相(xiang)關的(de)(de)關鍵治理(li)(li)挑戰(zhan)。這(zhe)些挑戰(zhan)源于技術(shu)和商業(ye)模式(shi)本身的(de)(de)固有因(yin)(yin)素，以及與(yu)云(yun)計算交(jiao)織在一(yi)起的(de)(de)地緣政治和國際安(an)全(quan)現實相(xiang)關的(de)(de)更廣(guang)泛因(yin)(yin)素。這(zhe)些挑戰(zhan)包括(kuo)云(yun)計算的(de)(de)復雜性、數字主權、市(shi)場和地理(li)(li)集中(zhong)度、與(yu)其他(ta)技術(shu)治理(li)(li)工作的(de)(de)交(jiao)叉，以及軍事領域使用增加所(suo)帶來的(de)(de)治理(li)(li)挑戰(zhan)。

最后，本報告探討(tao)了云(yun)計算(suan)對軍(jun)備(bei)控(kong)制(zhi)的(de)影響。它(ta)為討(tao)論軍(jun)備(bei)控(kong)制(zhi)討(tao)論如何更好地考(kao)慮云(yun)計算(suan)帶來的(de)問(wen)題，以(yi)及(ji)傳統(tong)軍(jun)備(bei)控(kong)制(zhi)機制(zhi)（如出口(kou)控(kong)制(zhi)）如何受到新技術現(xian)實的(de)影響提(ti)供了一個跳(tiao)板。

在數字化和戰略競爭日趨激烈的現代，成功與否取決于一個組織是否有能力比競爭對手更好、更快地利用數據和技術。人工智能（AI）技術的飛速發展正在徹底改變公共和私營機構保持領先的方式，影響著傳統的、由人類驅動的分析流程的各個層面。本報告探討了在情報周期中應用人工智能工具的機會，以增強人類分析師的能力，同時減少其局限性，從而推動更加無縫的情報流程。

人類分析師擅長(chang)批判(pan)性思(si)維和(he)直覺判(pan)斷。他(ta)(ta)們(men)解(jie)讀(du)細微(wei)信息、理解(jie)復雜(za)環(huan)境并根據(ju)不完整(zheng)數據(ju)集(ji)做出明智(zhi)決策的能(neng)(neng)力(li)無(wu)與倫比。然而，數據(ju)超載、認知偏差、需要資源密集(ji)型(xing)培訓以及(ji)有(you)限(xian)的時間(jian)和(he)精力(li)等限(xian)制因素卻阻礙了(le)他(ta)(ta)們(men)的工(gong)作效(xiao)率。相反(fan)，人工(gong)智(zhi)能(neng)(neng)技術擅長(chang)數據(ju)處(chu)理、客觀性和(he)日常任(ren)務自動化。它們(men)能(neng)(neng)以前(qian)所未(wei)有(you)的速度分析海量數據(ju)、識別(bie)模(mo)式(shi)并執行重復性任(ren)務，而不會造成身心疲憊。

因此，人類和機器能(neng)(neng)力的互補優勢表明(ming)，分析(xi)流(liu)程將發生轉變，分析(xi)師-機器團隊(dui)將自(zi)適應地持續合(he)作，以近(jin)乎實時(shi)的洞(dong)察(cha)力應對復(fu)雜的威(wei)脅。這種新模(mo)式將需要敏捷的協作框架、能(neng)(neng)夠(gou)有效使用(yong)人工(gong)智能(neng)(neng)工(gong)具并解讀(du)人工(gong)智能(neng)(neng)生成(cheng)的洞(dong)察(cha)力的熟(shu)練分析(xi)師、可靠(kao)而全(quan)面(mian)的培訓數據和流(liu)程，以及(ji)強大的監督機制。

本文探討了通過機器學習（ML）技術增強計算流體力學（CFD）任務的最新進展。我們首先介紹了基本概念、傳統方法和基準數據集，然后考察了ML在改進CFD中的各種角色。本文系統地回顧了近五年內的文獻，并為前向建模提出了一種新的分類方法：數據驅動的代理模型、物理驅動的代理模型和ML輔助數值解。此外，我們還回顧了逆向設計和控制中的最新ML方法，提出了新的分類，并進行了深入討論。接著，我們重點介紹了ML在CFD中的實際應用，涵蓋了空氣動力學、燃燒、大氣與海洋科學、生物流體、等離子體、符號回歸和降階建模等關鍵科學和工程領域。除此之外，我們還識別了關鍵挑戰，并倡導未來研究方向來應對這些挑戰，例如多尺度表示、物理知識編碼、科學基礎模型和自動科學發現。本綜述旨在為快速擴展的ML在CFD領域的社區提供指南，激發未來進步的洞見。我們得出的結論是，ML有望通過提高仿真精度、減少計算時間并實現對流體動力學更復雜的分析，顯著變革CFD研究。論文資源可在//github.com/WillDreamer/Awesome-AI4CFD查看。

流體動力(li)學(xue)(xue)是一(yi)門研究(jiu)流體流動運動和(he)行為的基礎學(xue)(xue)科，它(ta)為包括空(kong)氣動力(li)學(xue)(xue)、化學(xue)(xue)工(gong)程(cheng)、生(sheng)物學(xue)(xue)和(he)環境科學(xue)(xue)在內的廣(guang)泛科學(xue)(xue)與(yu)工(gong)程(cheng)領域提供了基礎。計算流體力(li)學(xue)(xue)（CFD）通過偏微分方程(cheng)（PDEs）來(lai)模擬流體動力(li)學(xue)(xue)的數學(xue)(xue)模型。CFD的主要目標(biao)是在各種工(gong)況(kuang)下(xia)獲得模擬結果，從而減少實際實驗的高昂成本，并加(jia)速工(gong)程(cheng)設計和(he)控(kong)制過程(cheng)。

盡管(guan)在(zai)研究(jiu)和工(gong)程實踐(jian)(jian)中(zhong)(zhong)取得了(le)幾十年(nian)的(de)進(jin)展，CFD技(ji)術(shu)仍然(ran)面(mian)臨重大挑(tiao)戰。這些挑(tiao)戰包括由于對空間(jian)或時間(jian)分(fen)辨率的(de)嚴格(ge)限制導致的(de)高計算(suan)成本，捕捉湍流等次(ci)級動力學(xue)的(de)困難，以(yi)及(ji)數值算(suan)法的(de)穩定性(xing)問題等。另一方面(mian)，ML因其從(cong)觀(guan)測數據(ju)(ju)中(zhong)(zhong)學(xue)習模式(shi)(shi)和動力學(xue)的(de)能力而聞名，最(zui)近(jin)已經成為可以(yi)重塑或增(zeng)強任何一般科學(xue)學(xue)科的(de)趨勢。ML技(ji)術(shu)與近(jin)年(nian)來積累(lei)的(de)大量流體動力學(xue)數據(ju)(ju)的(de)結合，提供了(le)一種(zhong)變(bian)革(ge)性(xing)的(de)方式(shi)(shi)來增(zeng)強CFD實踐(jian)(jian)（見(jian)圖(tu)1）。隨著ML領域的(de)迅速擴展，研究(jiu)人(ren)員越來越難以(yi)跟上最(zui)新進(jin)展。因此，本綜述旨(zhi)在(zai)揭示ML在(zai)增(zeng)強CFD中(zhong)(zhong)的(de)多方面(mian)作(zuo)用。

實際上，已(yi)有(you)一(yi)些關(guan)于ML在CFD領域(yu)應(ying)用(yong)(yong)的(de)(de)(de)綜(zong)述(shu)。然(ran)而，這些綜(zong)述(shu)大(da)多有(you)以(yi)下(xia)兩點局限性：1）僅限于早期嘗試(shi)。例如(ru)，Wang等(deng)人和(he)(he)(he)Huang等(deng)人都詳細(xi)討(tao)論了(le)(le)將物(wu)理建(jian)模(mo)(mo)融入ML的(de)(de)(de)方(fang)(fang)(fang)(fang)(fang)法(fa)，強調了(le)(le)動態系統(tong)和(he)(he)(he)混合(he)(he)方(fang)(fang)(fang)(fang)(fang)法(fa)。同(tong)樣，Vinuesa等(deng)人從(cong)CFD領域(yu)的(de)(de)(de)角(jiao)度探討(tao)了(le)(le)ML的(de)(de)(de)前(qian)景方(fang)(fang)(fang)(fang)(fang)向，如(ru)直接(jie)數值模(mo)(mo)擬(ni)(ni)、大(da)渦(wo)模(mo)(mo)擬(ni)(ni)（LES）、湍(tuan)流譜圖、雷諾平均Navier-Stokes（RANS）模(mo)(mo)擬(ni)(ni)以(yi)及降維方(fang)(fang)(fang)(fang)(fang)法(fa)。然(ran)而，他們(men)僅回(hui)顧了(le)(le)2021年前(qian)PDEs的(de)(de)(de)早期ML應(ying)用(yong)(yong)。2）概述(shu)不完(wan)整。現有(you)關(guan)于ML在CFD中(zhong)的(de)(de)(de)應(ying)用(yong)(yong)綜(zong)述(shu)主要集中(zhong)在物(wu)理知識的(de)(de)(de)整合(he)(he)和(he)(he)(he)PDEs的(de)(de)(de)常見模(mo)(mo)型(xing)架構(gou)上。Zhang等(deng)人研究了(le)(le)PDEs的(de)(de)(de)前(qian)向建(jian)模(mo)(mo)和(he)(he)(he)逆向建(jian)模(mo)(mo)中(zhong)的(de)(de)(de)ML，強調了(le)(le)四個(ge)關(guan)鍵(jian)挑戰(zhan)(zhan)，但(dan)忽略了(le)(le)系統(tong)分類及其在這一(yi)領域(yu)的(de)(de)(de)潛在應(ying)用(yong)(yong)。同(tong)時(shi)，Lino等(deng)人大(da)致區分了(le)(le)物(wu)理驅(qu)動和(he)(he)(he)數據(ju)驅(qu)動的(de)(de)(de)方(fang)(fang)(fang)(fang)(fang)法(fa)，并討(tao)論了(le)(le)一(yi)些方(fang)(fang)(fang)(fang)(fang)法(fa)學上的(de)(de)(de)限制(zhi)，但(dan)同(tong)樣忽略了(le)(le)對每種方(fang)(fang)(fang)(fang)(fang)法(fa)動機的(de)(de)(de)系統(tong)分類。盡管這些貢獻存在，但(dan)ML在CFD中(zhong)的(de)(de)(de)全面(mian)、前(qian)沿和(he)(he)(he)深(shen)刻的(de)(de)(de)系統(tong)化仍然(ran)存在空白。我們(men)的(de)(de)(de)工作(zuo)代(dai)表了(le)(le)第(di)一(yi)個(ge)將這些分散的(de)(de)(de)見解整合(he)(he)為一(yi)個(ge)連貫框架的(de)(de)(de)綜(zong)述(shu)。我們(men)系統(tong)地回(hui)顧了(le)(le)該(gai)領域(yu)的(de)(de)(de)基礎知識、數據(ju)、方(fang)(fang)(fang)(fang)(fang)法(fa)、應(ying)用(yong)(yong)、挑戰(zhan)(zhan)和(he)(he)(he)未來方(fang)(fang)(fang)(fang)(fang)向。本文(wen)的(de)(de)(de)結構(gou)如(ru)圖2所示，組(zu)織如(ru)下(xia)：

在第(di)2部分中，我們(men)介紹(shao)了CFD的(de)(de)(de)基本概念和知識，并附(fu)有所回(hui)顧文(wen)獻中涉及的(de)(de)(de)所有類型(xing)PDEs的(de)(de)(de)注釋列表。然后(hou)，我們(men)系統地回(hui)顧了近五年的(de)(de)(de)文(wen)獻，將(jiang)所選研究分為三(san)個主(zhu)要類別，并在圖4中展(zhan)示：數(shu)(shu)據驅動(dong)的(de)(de)(de)代(dai)理模型(xing)（第(di)3部分），依賴(lai)于(yu)觀(guan)測數(shu)(shu)據進行訓(xun)練；物(wu)理驅動(dong)的(de)(de)(de)代(dai)理模型(xing)（第(di)4部分），將(jiang)選定的(de)(de)(de)物(wu)理先驗整(zheng)合(he)到ML建(jian)模中；以(yi)及ML輔助(zhu)數(shu)(shu)值解（第(di)5部分），部分替代(dai)傳統的(de)(de)(de)數(shu)(shu)值求解器，以(yi)在效率、準確性和泛(fan)化(hua)之間實(shi)現平衡(heng)。此(ci)外，我們(men)介紹(shao)了逆向(xiang)設(she)計(ji)和控制問(wen)題(ti)的(de)(de)(de)設(she)置（第(di)6部分），這是將(jiang)CFD應(ying)用(yong)于(yu)現實(shi)世界(jie)問(wen)題(ti)的(de)(de)(de)兩個基本問(wen)題(ti)。前者優化(hua)設(she)計(ji)參數(shu)(shu)，如初始和邊(bian)界(jie)條件，以(yi)達(da)到特定的(de)(de)(de)設(she)計(ji)目標；后(hou)者則通過(guo)施加時變外力來控制物(wu)理系統以(yi)實(shi)現特定目標。

接著，第7部(bu)分討論了(le)這些方法在(zai)關鍵科學和(he)工程(cheng)領(ling)(ling)域中的(de)(de)應用，展示(shi)了(le)它們的(de)(de)影響和(he)潛力。最后，第8部(bu)分探討了(le)當前技術(shu)狀態中的(de)(de)關鍵挑(tiao)戰和(he)局限性(xing)，并概(gai)述(shu)了(le)未來的(de)(de)研究方向。我們旨在(zai)引起更廣泛(fan)的(de)(de)ML社區對本綜述(shu)的(de)(de)關注，通過豐富的(de)(de)CFD基礎知識和(he)先(xian)進的(de)(de)發(fa)展，激(ji)發(fa)該領(ling)(ling)域未來的(de)(de)研究。

與現(xian)有(you)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)的(de)(de)(de)(de)(de)不同之處。與現(xian)有(you)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)相比，我(wo)(wo)們(men)的(de)(de)(de)(de)(de)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)具有(you)四個獨特(te)特(te)點：（1）最新總(zong)結。本(ben)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)基于(yu)當前(qian)的(de)(de)(de)(de)(de)發展狀(zhuang)況，重點關(guan)注2020年至2024年的(de)(de)(de)(de)(de)最新論(lun)(lun)文。相比之下，現(xian)有(you)的(de)(de)(de)(de)(de)相關(guan)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)均在2022年之前(qian)發表。（2）創新分(fen)(fen)類。本(ben)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)系統地(di)回顧了(le)(le)CFD領域(yu)中(zhong)(zhong)的(de)(de)(de)(de)(de)ML方(fang)(fang)(fang)法，并首次根據(ju)前(qian)向建模和(he)逆(ni)(ni)向問題的(de)(de)(de)(de)(de)方(fang)(fang)(fang)法設計動機(ji)提(ti)出了(le)(le)新的(de)(de)(de)(de)(de)分(fen)(fen)類。（3）全(quan)面(mian)討論(lun)(lun)。本(ben)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)提(ti)供(gong)了(le)(le)全(quan)面(mian)的(de)(de)(de)(de)(de)討論(lun)(lun)，涵蓋背(bei)景、數據(ju)、前(qian)向建模/逆(ni)(ni)向設計方(fang)(fang)(fang)法和(he)應用(yong)(yong)，幫(bang)助研(yan)究人(ren)員快速而全(quan)面(mian)地(di)理解(jie)該領域(yu)。（4）未來指(zhi)導。我(wo)(wo)們(men)的(de)(de)(de)(de)(de)工作總(zong)結了(le)(le)CFD的(de)(de)(de)(de)(de)最新進展，強調了(le)(le)當前(qian)CFD研(yan)究中(zhong)(zhong)的(de)(de)(de)(de)(de)挑戰，并為該領域(yu)未來的(de)(de)(de)(de)(de)工作提(ti)供(gong)了(le)(le)指(zhi)導和(he)方(fang)(fang)(fang)向，例如科(ke)學(xue)(xue)基礎(chu)模型。 廣泛影響。我(wo)(wo)們(men)的(de)(de)(de)(de)(de)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)的(de)(de)(de)(de)(de)影響體現(xian)在兩點：（1）對(dui)科(ke)學(xue)(xue)相關(guan)社區。我(wo)(wo)們(men)的(de)(de)(de)(de)(de)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)總(zong)結了(le)(le)CFD中(zhong)(zhong)的(de)(de)(de)(de)(de)有(you)效ML方(fang)(fang)(fang)法，可以幫(bang)助物理和(he)力學(xue)(xue)領域(yu)的(de)(de)(de)(de)(de)研(yan)究人(ren)員找到解(jie)決方(fang)(fang)(fang)案并從ML中(zhong)(zhong)受益。（2）對(dui)ML社區。我(wo)(wo)們(men)的(de)(de)(de)(de)(de)綜述(shu)(shu)(shu)(shu)(shu)(shu)(shu)還可以為ML研(yan)究人(ren)員提(ti)供(gong)指(zhi)導，幫(bang)助他們(men)將知識應用(yong)(yong)于(yu)CFD中(zhong)(zhong)的(de)(de)(de)(de)(de)現(xian)實科(ke)學(xue)(xue)應用(yong)(yong)。

數據驅動的代理模型

數(shu)(shu)據驅動(dong)的(de)代理(li)模型是完全依賴觀(guan)測數(shu)(shu)據來訓練(lian)算法，以模擬(ni)復雜的(de)流體動(dong)力學模型。這些(xie)模型在近年來取得了迅速的(de)發展，具(ju)有(you)重(zhong)要的(de)影響。根(gen)據其對空間離散(san)化(hua)的(de)處理(li)方(fang)式，這些(xie)模型可以大致分為兩(liang)類：1）依賴離散(san)化(hua)的(de)方(fang)法，2）獨立于(yu)離散(san)化(hua)的(de)方(fang)法。前者需要將數(shu)(shu)據域劃分為特(te)定的(de)網格、網片(pian)或粒子結構(gou)(gou)，并設計相(xiang)應的(de)模型架構(gou)(gou)，而后者則不依賴離散(san)化(hua)技(ji)術，而是直接在連(lian)續(xu)空間中學習解。

物理驅動的代理模型

盡(jin)管數(shu)據(ju)驅(qu)(qu)(qu)動(dong)模型在(zai)CFD模擬中展現(xian)了潛力，但它們也(ye)面(mian)臨一些挑戰(zhan)，如數(shu)據(ju)收集(ji)的(de)(de)(de)高成本以及對模型泛(fan)化能力和魯棒(bang)性(xing)的(de)(de)(de)擔憂(you)。因此，將(jiang)物(wu)理(li)先驗知(zhi)識(shi)融入模型至關重(zhong)要，這有(you)助(zhu)于利用物(wu)理(li)定(ding)律的(de)(de)(de)力量(liang)來提高模型的(de)(de)(de)可靠性(xing)和適用性(xing)。我們根據(ju)嵌入知(zhi)識(shi)的(de)(de)(de)類型將(jiang)這些方法(fa)分(fen)為(wei)兩類：1）物(wu)理(li)信息驅(qu)(qu)(qu)動(dong)，2）約(yue)束信息驅(qu)(qu)(qu)動(dong)。前者將(jiang)物(wu)理(li)知(zhi)識(shi)轉化為(wei)神經網(wang)絡(luo)的(de)(de)(de)約(yue)束，確(que)保(bao)預測符(fu)合已(yi)知(zhi)的(de)(de)(de)物(wu)理(li)原(yuan)理(li)。后者則從傳統的(de)(de)(de)PDE求解器中汲取靈感，將(jiang)這些方法(fa)整合到神經網(wang)絡(luo)的(de)(de)(de)訓練過程中。

結論

總(zong)之(zhi)，本文(wen)系(xi)統地探討(tao)了利(li)用機(ji)器學習（ML）在計算流體力(li)學（CFD）中(zhong)取得(de)的(de)重要進展。我們提出了一(yi)種針對前向建模和逆(ni)問題(ti)的(de)新分類方法(fa)，并詳細介紹了過(guo)去五年中(zhong)開發的(de)最(zui)新方法(fa)。我們還重點介紹了ML在關鍵科學和工程領域中(zhong)的(de)有(you)前途的(de)應用。此外(wai)，我們討(tao)論了這一(yi)快速發展的(de)領域中(zhong)的(de)挑戰和未來研(yan)究方向。總(zong)體而言，顯而易見的(de)是，ML具有(you)顯著變革CFD研(yan)究的(de)潛力(li)。

本(ben)文介(jie)紹了一(yi)個(ge)案(an)例研究(jiu)(jiu)，說明(ming)(ming)為(wei)(wei)汽車減(jian)震(zhen)器開(kai)發可(ke)靠、穩健(jian)、準(zhun)確(que)(que)的(de)(de)(de)(de)(de)(de)(de)(de)(de)數(shu)(shu)字(zi)孿生(sheng)(sheng)系(xi)(xi)統(tong)所面(mian)臨的(de)(de)(de)(de)(de)(de)(de)(de)(de)挑戰。具體來說，該數(shu)(shu)字(zi)孿生(sheng)(sheng)系(xi)(xi)統(tong)的(de)(de)(de)(de)(de)(de)(de)(de)(de)作(zuo)用是估(gu)計(ji)儲氣室中當(dang)前的(de)(de)(de)(de)(de)(de)(de)(de)(de)氣體壓(ya)力，并(bing)(bing)將其與(yu)預期壓(ya)力進行比(bi)較(jiao)。研究(jiu)(jiu)定量證(zheng)明(ming)(ming)，傳(chuan)(chuan)(chuan)感(gan)器和(he)算(suan)法的(de)(de)(de)(de)(de)(de)(de)(de)(de)設計(ji)選擇對系(xi)(xi)統(tong)的(de)(de)(de)(de)(de)(de)(de)(de)(de)準(zhun)確(que)(que)性有重大影響，而這(zhe)種(zhong)影響與(yu)數(shu)(shu)字(zi)孿生(sheng)(sheng)系(xi)(xi)統(tong)的(de)(de)(de)(de)(de)(de)(de)(de)(de)硬件成本(ben)不成正(zheng)比(bi)。經評估(gu)的(de)(de)(de)(de)(de)(de)(de)(de)(de)傳(chuan)(chuan)(chuan)感(gan)器套(tao)件成本(ben)很高(gao)，總成本(ben)從(cong) 297 澳元到 4292 澳元不等，成本(ben)相(xiang)差(cha)(cha) 14 倍。研究(jiu)(jiu)表(biao)明(ming)(ming)，使用龐(pang)大而昂(ang)貴的(de)(de)(de)(de)(de)(de)(de)(de)(de)傳(chuan)(chuan)(chuan)感(gan)器套(tao)件并(bing)(bing)不一(yi)定會相(xiang)應地提(ti)高(gao)系(xi)(xi)統(tong)的(de)(de)(de)(de)(de)(de)(de)(de)(de)精確(que)(que)度。數(shu)(shu)字(zi)孿生(sheng)(sheng)結構中使用的(de)(de)(de)(de)(de)(de)(de)(de)(de)算(suan)法和(he)傳(chuan)(chuan)(chuan)感(gan)器對系(xi)(xi)統(tong)精度有顯著(zhu)影響，RMSE 從(cong) 3.83 Bar 到 0.85 Bar 不等，精度相(xiang)差(cha)(cha)四(si)倍。數(shu)(shu)字(zi)孿生(sheng)(sheng)方(fang)法在精確(que)(que)度方(fang)面(mian)有顯著(zhu)優(you)勢，僅使用最精確(que)(que)傳(chuan)(chuan)(chuan)感(gan)器的(de)(de)(de)(de)(de)(de)(de)(de)(de)方(fang)法的(de)(de)(de)(de)(de)(de)(de)(de)(de)有效誤(wu)差(cha)(cha)值(zhi)為(wei)(wei) 2.27，而全(quan)數(shu)(shu)字(zi)孿生(sheng)(sheng)方(fang)法的(de)(de)(de)(de)(de)(de)(de)(de)(de)有效誤(wu)差(cha)(cha)值(zhi)為(wei)(wei) 0.84。成本(ben)最低的(de)(de)(de)(de)(de)(de)(de)(de)(de)系(xi)(xi)統(tong)最大限度地利用了貝葉(xie)斯方(fang)法和(he)物理建模，產生(sheng)(sheng)的(de)(de)(de)(de)(de)(de)(de)(de)(de)估(gu)計(ji)值(zhi)僅次于最精確(que)(que)的(de)(de)(de)(de)(de)(de)(de)(de)(de)系(xi)(xi)統(tong)，均方(fang)根誤(wu)差(cha)(cha)為(wei)(wei) 1.4 Bar，是最精確(que)(que)系(xi)(xi)統(tong)的(de)(de)(de)(de)(de)(de)(de)(de)(de) 165%，這(zhe)對任務仍然有效，但成本(ben)僅為(wei)(wei)后者(zhe)的(de)(de)(de)(de)(de)(de)(de)(de)(de) 7%。這(zhe)表(biao)明(ming)(ming)，通過(guo)利用混合架構中的(de)(de)(de)(de)(de)(de)(de)(de)(de)算(suan)法開(kai)發，可(ke)以顯著(zhu)提(ti)高(gao)性能，并(bing)(bing)大大減(jian)少數(shu)(shu)據集(ji)的(de)(de)(de)(de)(de)(de)(de)(de)(de)大小和(he)神(shen)經網絡(luo)組件的(de)(de)(de)(de)(de)(de)(de)(de)(de)訓練時間。

圖(tu) 1：測功機(ji)測試裝置和(he)儀器(qi)(qi)圖(tu) 注：圖(tu)片中(zhong)的減震器(qi)(qi)并非(fei)測試設(she)備。

人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)（AI）的(de)(de)(de)(de)快(kuai)速發(fa)展引發(fa)了專家、政策制定者和世界領(ling)導人(ren)(ren)(ren)對(dui)日益先進(jin)(jin)的(de)(de)(de)(de)人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)系(xi)統可能(neng)帶來災難(nan)性風(feng)險的(de)(de)(de)(de)日益擔憂。雖然許多風(feng)險已(yi)被(bei)單獨詳述，但目(mu)前迫切需(xu)要(yao)對(dui)潛在危(wei)(wei)險進(jin)(jin)行(xing)系(xi)統的(de)(de)(de)(de)討論和說明(ming)，以(yi)便更好地為減輕這(zhe)些(xie)危(wei)(wei)險提供信(xin)息(xi)。本文概述了人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)災難(nan)性風(feng)險的(de)(de)(de)(de)主(zhu)要(yao)來源，將(jiang)其(qi)分為四類(lei)：惡意(yi)使用，即個人(ren)(ren)(ren)或團體故意(yi)使用人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)造(zao)成傷(shang)害；人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)競(jing)賽(sai)，即競(jing)爭環境迫使行(xing)為者部署(shu)不安(an)全(quan)的(de)(de)(de)(de)人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)或將(jiang)控制權讓給人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)；組(zu)織風(feng)險，強(qiang)調(diao)人(ren)(ren)(ren)為因(yin)素和復雜系(xi)統如何增加災難(nan)性事(shi)故的(de)(de)(de)(de)幾率；流氓人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)，描述控制遠比人(ren)(ren)(ren)類(lei)智(zhi)(zhi)(zhi)(zhi)能(neng)的(de)(de)(de)(de)代理固有的(de)(de)(de)(de)困難(nan)。對(dui)于每一類(lei)風(feng)險，我們(men)(men)都描述了具(ju)體的(de)(de)(de)(de)危(wei)(wei)害，介紹了說明(ming)性故事(shi)，設想(xiang)了理想(xiang)場(chang)景，并提出(chu)了減輕這(zhe)些(xie)危(wei)(wei)險的(de)(de)(de)(de)實(shi)用建議(yi)。我們(men)(men)的(de)(de)(de)(de)目(mu)標是促進(jin)(jin)對(dui)這(zhe)些(xie)風(feng)險的(de)(de)(de)(de)全(quan)面了解，并激發(fa)集體的(de)(de)(de)(de)積(ji)極努力(li)，確保以(yi)安(an)全(quan)的(de)(de)(de)(de)方式(shi)開發(fa)和部署(shu)人(ren)(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)。最終，我們(men)(men)希(xi)望這(zhe)將(jiang)使我們(men)(men)能(neng)夠實(shi)現(xian)這(zhe)一強(qiang)大技術的(de)(de)(de)(de)益處(chu)，同(tong)時將(jiang)災難(nan)性后果(guo)的(de)(de)(de)(de)可能(neng)性降至(zhi)最低(di)。

圖：本(ben)文將(jiang)介紹四類人(ren)工(gong)智能風險，并討(tao)論如何(he)降低這些風險。

近年來(lai)，人工(gong)(gong)智(zhi)能(neng)（AI）突飛猛進，引起了人工(gong)(gong)智(zhi)能(neng)專家、政策制定(ding)者和世界(jie)領(ling)導人對(dui)先進人工(gong)(gong)智(zhi)能(neng)所帶來(lai)的(de)(de)(de)(de)潛(qian)在(zai)風(feng)險(xian)的(de)(de)(de)(de)擔憂。與所有(you)強(qiang)大(da)的(de)(de)(de)(de)技術一樣(yang)，人工(gong)(gong)智(zhi)能(neng)必須以高(gao)度的(de)(de)(de)(de)責任感來(lai)管理風(feng)險(xian)，并利(li)用其潛(qian)力來(lai)改善(shan)社會。然(ran)而，關于災難性(xing)或(huo)生存性(xing)的(de)(de)(de)(de)人工(gong)(gong)智(zhi)能(neng)風(feng)險(xian)可能(neng)如(ru)何發生或(huo)如(ru)何應對(dui)，可獲得(de)的(de)(de)(de)(de)信息非常有(you)限。雖然(ran)有(you)關這一主題的(de)(de)(de)(de)資料(liao)很多，但往(wang)往(wang)分散在(zai)各(ge)種論文中(zhong)，而且(qie)通常針對(dui)的(de)(de)(de)(de)受眾面較(jiao)窄，或(huo)側重于特(te)定(ding)的(de)(de)(de)(de)風(feng)險(xian)。在(zai)本文中(zhong)，我們將概(gai)述災難性(xing)人工(gong)(gong)智(zhi)能(neng)風(feng)險(xian)的(de)(de)(de)(de)主要來(lai)源，并將其分為(wei)四類：

惡意使用。行(xing)為(wei)者(zhe)可能(neng)(neng)(neng)(neng)故意利(li)用(yong)(yong)強大的(de)人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)造(zao)成(cheng)廣(guang)泛(fan)傷(shang)害。具(ju)體風(feng)險(xian)包括人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)賦能(neng)(neng)(neng)(neng)的(de)生(sheng)物(wu)恐(kong)怖(bu)主義，它可以(yi)(yi)幫助人類制(zhi)造(zao)致(zhi)命的(de)病原體；蓄意傳(chuan)播不受控制(zhi)的(de)人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)制(zhi)劑；以(yi)(yi)及利(li)用(yong)(yong)人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)能(neng)(neng)(neng)(neng)力進(jin)行(xing)宣(xuan)傳(chuan)、審查(cha)和監(jian)視。為(wei)了降低這些風(feng)險(xian)，我們建議改善生(sheng)物(wu)安全，限制(zhi)獲取最(zui)危險(xian)的(de)人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)模型，并讓人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)開發者(zhe)為(wei)其人工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)系統(tong)造(zao)成(cheng)的(de)損害承擔法律責任(ren)。

人工智能競賽。競爭可(ke)能(neng)(neng)(neng)會(hui)迫使國家和(he)企業匆忙開發(fa)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)，并將控制權拱手讓(rang)給(gei)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)系統。軍方(fang)可(ke)能(neng)(neng)(neng)會(hui)面(mian)臨開發(fa)自(zi)(zi)主(zhu)武器的(de)(de)(de)壓力(li)，并將人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)賦能(neng)(neng)(neng)的(de)(de)(de)網絡(luo)戰，從(cong)而實現(xian)一(yi)種(zhong)新(xin)的(de)(de)(de)自(zi)(zi)動化戰爭，在這種(zhong)戰爭中(zhong)，事故可(ke)能(neng)(neng)(neng)會(hui)在人(ren)(ren)(ren)(ren)類有機會(hui)干預之(zhi)前就失控。企業也(ye)將面(mian)臨類似(si)的(de)(de)(de)激勵，促使人(ren)(ren)(ren)(ren)類勞動自(zi)(zi)動化，并將利(li)潤置于安全之(zhi)上，從(cong)而可(ke)能(neng)(neng)(neng)導(dao)致大(da)規模失業和(he)對(dui)(dui)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)系統的(de)(de)(de)依賴。我(wo)們還討論了從(cong)長遠來看，進化壓力(li)可(ke)能(neng)(neng)(neng)會(hui)如何塑(su)造人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)。人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)之(zhi)間的(de)(de)(de)自(zi)(zi)然(ran)選擇可(ke)能(neng)(neng)(neng)會(hui)導(dao)致自(zi)(zi)私的(de)(de)(de)特性，而人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)相(xiang)對(dui)(dui)于人(ren)(ren)(ren)(ren)類的(de)(de)(de)優勢最終可(ke)能(neng)(neng)(neng)導(dao)致人(ren)(ren)(ren)(ren)類被(bei)取代。為(wei)了降(jiang)低人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)競賽帶來的(de)(de)(de)風險，建議對(dui)(dui)通用人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)(neng)實施安全監管、國際協(xie)調和(he)公共(gong)控制。

組織風險。組織事故造成的(de)(de)災(zai)(zai)難(nan)包括切爾諾貝利、三里島和挑戰者(zhe)(zhe)號航天飛機災(zai)(zai)難(nan)。同樣，開(kai)發(fa)和部(bu)(bu)(bu)署(shu)先進人(ren)(ren)工(gong)智(zhi)能(neng)(neng)的(de)(de)組織也可能(neng)(neng)遭受災(zai)(zai)難(nan)性事故，特別(bie)是如果它們沒有強(qiang)大的(de)(de)安(an)(an)全文(wen)化(hua)。人(ren)(ren)工(gong)智(zhi)能(neng)(neng)可能(neng)(neng)會意外泄(xie)露(lu)給公眾或(huo)被惡意行為者(zhe)(zhe)竊(qie)取。各(ge)組織可能(neng)(neng)無法(fa)投資于安(an)(an)全研究，不了解如何以(yi)比一般人(ren)(ren)工(gong)智(zhi)能(neng)(neng)能(neng)(neng)力更快的(de)(de)速度可靠地提高人(ren)(ren)工(gong)智(zhi)能(neng)(neng)的(de)(de)安(an)(an)全性，或(huo)者(zhe)(zhe)壓制內(nei)部(bu)(bu)(bu)對人(ren)(ren)工(gong)智(zhi)能(neng)(neng)風險(xian)(xian)的(de)(de)擔憂(you)。為了降低這些(xie)風險(xian)(xian)，可以(yi)建立更好(hao)的(de)(de)組織文(wen)化(hua)和結構(gou)，包括內(nei)部(bu)(bu)(bu)和外部(bu)(bu)(bu)審(shen)計、多(duo)層風險(xian)(xian)防御以(yi)及最先進的(de)(de)信息安(an)(an)全。

流氓人工智能。一個普遍而嚴重的(de)擔憂是，隨著(zhu)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)變(bian)(bian)得比(bi)我們(men)更(geng)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)，我們(men)可(ke)(ke)能(neng)(neng)(neng)(neng)會(hui)失去對人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)的(de)控(kong)制(zhi)(zhi)。人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)可(ke)(ke)能(neng)(neng)(neng)(neng)會(hui)在(zai)一種被稱為代理博弈的(de)過程(cheng)(cheng)中(zhong)，將有缺陷的(de)目標(biao)(biao)優化(hua)到極致。人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)在(zai)適(shi)應不(bu)斷變(bian)(bian)化(hua)的(de)環境時，可(ke)(ke)能(neng)(neng)(neng)(neng)會(hui)經歷(li)目標(biao)(biao)漂移，這與(yu)人(ren)(ren)在(zai)一生(sheng)中(zhong)獲得和失去目標(biao)(biao)的(de)過程(cheng)(cheng)類(lei)似。在(zai)某些(xie)情況(kuang)下，人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)變(bian)(bian)得追求權力可(ke)(ke)能(neng)(neng)(neng)(neng)是工(gong)(gong)具(ju)理性(xing)的(de)。我們(men)還(huan)研(yan)(yan)究(jiu)了人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)如何(he)以及為何(he)會(hui)進(jin)行欺騙(pian)，在(zai)不(bu)受控(kong)制(zhi)(zhi)的(de)情況(kuang)下表現(xian)出受控(kong)制(zhi)(zhi)的(de)樣子。與(yu)前三個風險來源相比(bi)，這些(xie)問題更(geng)具(ju)技術性(xing)。我們(men)概述了一些(xie)建議的(de)研(yan)(yan)究(jiu)方向，以促進(jin)我們(men)對如何(he)確保人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)可(ke)(ke)控(kong)的(de)理解(jie)。

在每一(yi)節中，我(wo)們都提供了(le)一(yi)些(xie)說明(ming)性(xing)(xing)場景，更具體地展示了(le)風險(xian)(xian)源如何可能導致災(zai)難(nan)性(xing)(xing)結果(guo)，甚至構成生存威脅(xie)。通(tong)過(guo)提供一(yi)個對(dui)風險(xian)(xian)進(jin)行適當管理的(de)(de)更安全未(wei)來的(de)(de)積極愿景，我(wo)們強調，人工智能新出(chu)現的(de)(de)風險(xian)(xian)雖然(ran)嚴(yan)重(zhong)，但并非不可克服(fu)。通(tong)過(guo)積極應對(dui)這些(xie)風險(xian)(xian)，我(wo)們可以努力實(shi)現人工智能的(de)(de)益處，同時最大限(xian)度(du)地降低災(zai)難(nan)性(xing)(xing)后果(guo)的(de)(de)可能性(xing)(xing)。