斯坦福大學人工智能研究所于2022年3月提交了這一回復,以支持白宮科技政策辦公室更新國家人工智能研究和發展戰略計劃的工作。我們就8項戰略提出了一系列建議,包括增加非國防AI研發預算,特別是與AI相關的基礎設施,以支持長期投資; 增加對跨領域和多學科人工智能研究的支持,使人類人工智能合作超越單純的技術研究; 加強與學術機構的伙伴關系,建立一個公立大學-企業人工智能研發生態系統的框架,以推動人工智能發展;和更多。這一報告由Daniel E. Ho, Jennifer King, Russell Wald和Daniel Zhang共同領導提出。
斯坦福大學以人為中心的人工智能研究所(HAI)為響應白宮科學技術辦公室關于國家人工智能研究和發展戰略計劃更新的信息請求(RFI),提交了以下材料供考慮。我們的提交建議:
戰略1: 增加非國防AI研發預算,特別是AI相關基礎設施,以支持長期投資。
戰略2: 增加對跨學科和多學科人工智能研究的支持,以擴大人類人工智能合作,而不僅僅局限于技術研究。
戰略3: 請參閱斯坦福大學(Stanford HAI)于2022年1月提交的信函,該信函是對白宮科學技術辦公室(White House Office of Science and Technology)關于人工智能權利法案(AI Bill of Rights)的提案的回應,該法案旨在保護美國公眾免受強大技術的侵害。
戰略4: 制定適當的采購戰略,更新現有的采購法規,以應對聯邦政府AI采購和采購方面的挑戰。
戰略5: 擴大對學術研究人員的政府數據訪問,以訓練人工智能模型,并為政府機構開發框架,共同評估此類數據集及其應用。
戰略6: 建立機制,在人工智能模型預期使用的確切環境中評估人工智能模型,以確保安全部署,并指定NIST與其他聯邦機構合作,在機構環境中對人工智能模型進行基準測試。
戰略7: 更新移民政策,吸引人工智能和其他技術領域的人才,并制定聯邦計劃,聘用人工智能人才,并對具備技術能力和機構知識的公務員進行技能培訓。
戰略8: 加強與學術機構的合作,建立一個公立大學-企業人工智能研發生態系統的框架,以推動人工智能發展。
北約合作網絡防御卓越中心 (CCDCOE) 是北約認可的網絡防御中心,專注于研究、培訓和演習。它代表了一個由 25 個國家組成的社區,對網絡防御提供 360 度視角,在技術、戰略、運營和法律領域擁有專業知識。該中心的核心是來自軍事、政府、學術界和行業背景的多元化國際專家團隊。
CCDCOE 是《Tallinn塔林手冊 2.0》的所在地,該手冊是關于國際法如何適用于網絡運營的最全面的指南。該中心組織了世界上規模最大、最復雜的國際實彈網絡防御演習 Locked Shields,并主辦了國際網絡沖突會議 CyCon,這是在塔林舉辦的一項獨特的年度活動,與全球網絡防御界的主要專家和決策者一起。作為網絡空間作戰培訓和教育部門負責人,CCDCOE 負責為整個聯盟的所有北約機構確定和協調網絡防御行動領域的教育和培訓解決方案。
該中心由其成員國配備人員和資助 - 迄今為止,奧地利、比利時、保加利亞、捷克、丹麥、愛沙尼亞、芬蘭、法國、德國、希臘、匈牙利、意大利、拉脫維亞、立陶宛、荷蘭、挪威、波蘭、葡萄牙、羅馬尼亞、斯洛伐克、西班牙、瑞典、土耳其、英國和美國。CCDCOE不是北約指揮結構的一部分。
本報告梳理了北約成員國的關于AI與自主性方面的戰略和部署概述。
全球能源系統脫碳的努力正在導致能源系統日益一體化和電氣化,電力、交通、工業和建筑部門之間的互動更加頻繁。能源供應脫碳的舉措也導致電力部門的高度分散化。這將需要所有行業參與者(包括消費者)更高水平的協調和靈活性,以管理這個日益復雜的系統并對其進行優化,以最大限度地減少溫室氣體排放。
人工智能在支持和加速可靠且成本最低的能源轉型方面具有巨大潛力,其潛在應用范圍包括優化和有效地將可變的可再生能源整合到電網中,支持主動和自主的配電系統,以及開辟新的收入流的需求側靈活性。人工智能還可以成為尋找支持下一代清潔能源和存儲技術的高性能材料的關鍵加速器。然而,盡管它有希望,但人工智能在能源領域的使用是有限的,它主要部署在用于預測性資產維護的試點項目中。雖然它在那里很有用,但人工智能在幫助加速全球能源轉型方面存在比目前意識到的更大的機會。
九項“人工智能能源轉型”原則(見下文)旨在就能源部門釋放人工智能潛力所需的條件以及如何安全、負責任地采用人工智能加速能源轉型達成共識。這些原則分為三個領域:管理人工智能使用的原則,幫助設計人工智能以適應目的的原則,以及支持人工智能部署并旨在幫助創建協作行業和政策實踐的原則。
全球能源系統目前正在經歷一場巨大的變革,在未來的幾十年里,它將繼續變得更加分散、數字化和脫碳。為了實現在 2015 年《巴黎協定》下做出的承諾——將全球氣溫上升限制在遠低于 2°C 的范圍內——這種轉變必須加速。近年來,能源部門的數字化程度越來越高,很明顯,進一步的數字化將成為能源轉型的一個關鍵特征,也是該部門朝著雄心勃勃的氣候目標邁進的重要驅動力。
全球能源系統正在轉型,幾個關鍵趨勢正在推動人工智能加速能源轉型的潛力。
1、能源轉型必須迅速而協調;數字化需要作為一種推動者
2、電力部門脫碳是全系統脫碳的起點
3、轉型需要大量的投資
4、未來的電力系統看起來高度分散
5、電力系統管理的復雜性將顯著增加
6、人工智能可以在很大程度上加速能源轉型
圖:全球電力系統的轉型
人工智能是一種強大的工具,可以管理全球能源轉型的復雜性,實現更高的系統效率,從而降低成本,提高轉型速度。
隨著可再生能源發電量的增長,無論是絕對值還是占電力供應的份額,更好地預測太陽能和風能發電、提高太陽能和風能發電廠的容量因素和生產正常運行時間以及準確預測電力都將變得至關重要要求。從電廠選址和設計到電力調度和調度,人工智能都可以發揮作用。
當前計劃到本世紀中葉實現凈零發電意味著在相對較短的時間內大幅增加可再生能源發電能力和擴大輸電基礎設施。由于規劃和調試新輸電基礎設施的準備時間很長(據報道,美國新輸電線路的準備時間長達十年),新輸電容量的部署可能成為瓶頸。使用人工智能優化電網運行,提高現有輸配電線路的容量,以及延長現有設備的使用壽命,將是支持能源轉型的關鍵。此外,在一個集成和分散的能源系統中,系統優化的責任發生在更高和更低的電壓級別,配電網變得更加重要,維護電網穩定和確保供應安全變得更加復雜。通過延長昂貴電網設備的使用壽命并保持整個電網系統穩定,即使整合了更多可再生能源,人工智能也有助于電網規劃以優化基礎設施建設。
人工智能可以幫助增加分布式可再生能源的滲透和使用,并有可能顯著加速其部署。它還被有效地用于提高建筑物、工廠和數據中心的能源效率。能夠減少、管理、匯總和操縱能源需求將是能源部門如何有效和廉價地脫碳的一個重要因素。
開發用于清潔能源生產和儲存的高性能、低成本材料已被認為是能源轉型的優先事項。然而,發現、開發和部署需要滿足復雜性能規格的先進材料的過程是高度資本密集型的??,通常需要數年才能完成。
圖:人工智能在能源轉型方面的應用,按數據類型分類
我們需要共同的指導原則來釋放人工智能在能源轉型中的全部潛力。
在前面的部分中,我們總結了人工智能為加速能源轉型提供的巨大潛力。但是,如果沒有多方利益相關者的一致行動,這種潛力將無法實現。在 2021 年 3 月至 2021 年 5 月期間與領先的人工智能和能源行業專家舉行的圓桌會議系列中,與會者強調了一些阻礙人工智能在行業中迅速被大規模采用的交叉問題。基于這些討論,我們制定了以下九項“人工智能能源轉型”原則,如果能源行業、技術開發人員和政策制定者采納這些關鍵共識原則,將加速為能源服務的人工智能解決方案的采用過渡。以下原則旨在就在能源部門釋放人工智能潛力所需的條件以及如何安全、負責任地采用人工智能來加速能源轉型達成共識。我們希望這些原則能夠激發圍繞人工智能發展能源轉型的協作產業和政策環境。
圖:“人工智能能源轉型”原則
原則1:自動化——設計生成設備和網格操作,實現自動化和提高AI的自主性
原則2:可持續性——采用最節能的基礎設施和圍繞可持續計算的最佳實踐,以限制人工智能的碳足跡
原則3:以設計為重點的AI開發,注重可用性和可解釋性
原則4:數據——建立數據標準、數據共享機制和平臺,以提高數據的可用性和質量
原則5:激勵——創造市場設計和監管框架,允許人工智能用例捕捉它們所創造的價值
原則6:教育——以人為本的人工智能方法增強消費者和能源勞動力的能力,并投資于教育,以匹配技術和技能發展
原則7:風險管理——就管理人工智能風險的通用技術和教育方法達成一致
原則8:標準——實現兼容的軟件標準和可互操作的接口
原則9:責任——確保人工智能的道德規范和負責任的使用是人工智能開發和部署的核心
企業和決策者必須以負責任的方式在管理和塑造人工智能在能源領域的使用方面發揮積極作用,并創造有利的環境來釋放人工智能的全部潛力。
基于“人工智能能源轉型”原則: 接下來需要發生什么?如何將這些原則付諸實施,誰需要采取行動?
能源行業,將受益于以積極和協作的方式進行與人工智能相關的技術治理。未來幾年對于鼓勵這一領域的創新和在整個能源系統中普及新的低碳技術至關重要。作為實現這一點以及更廣泛的數字化的先決條件,該行業將不得不采用通用數據標準,如果尚未采用的話。能源部門參與者之間加強合作可能包括研發合作、分享實施人工智能原則的最佳實踐方法以及展示用例。合作還有助于在人工智能技術的開發人員和用戶之間以及與人工智能系統交互的消費者和監管機構之間建立信任。
能源公司/公用事業主管,需要考慮他們是否以及如何利用人工智能(例如人工智能可以幫助解決哪些挑戰,因此哪些流程、產品和服務將從中受益最大)。公司領導層需要了解本白皮書前面確立的人工智能原則以及任何相關法規對其組織的意義,以及他們如何將其轉化為具體的產品設計、日常運營和決策-制作過程。公司可以從探索已知用例的最佳實踐開始。對于公司而言,是通過從外部供應商處采購人工智能解決方案還是在內部開發必要的能力和解決方案來采用人工智能解決方案,這將是一個戰略決策。無論哪種情況,公司都需要投資于能力建設,以確保員工能夠管理人工智能系統的集成并實現其全部價值。隨著電網的管理和運營變得越來越復雜,特別是在配電網層面,電網監管機構和運營商必須審查一系列數字技術(例如機器學習、量子計算、區塊鏈技術等)的潛力,以增強網格的運行方式。隨著電力系統的脫碳和分散化,需要重新考慮電網管理,并有機會考慮新的、更加分散的架構來進行電網接入、運營和管理決策。建議包括從傳統的手動命令和控制管理方法(使用中央系統操作員)轉向技術支持的分散決策,這將允許更快的決策和自動將較小的分布式資產添加到電網中(例如使用區塊鏈、數字身份和智能合約)。
政策制定者和系統運營商,將需要審查現有的市場設計并創建先進的電力市場,以獎勵可變的低碳發電以及靈活的需求。要做到這一點,需要為分布式發電與更大規模的發電單元建立一個真正公平的競爭環境,并消除監管障礙。由于能源領域的許多人工智能用例都與小規模分布式能源相關,因此這些用例需要不受限制地進入能源市場和相應的價值池,例如市場人工智能輔助的靈活性。
在區域和國家能源系統建模和基礎設施規劃中,規劃者應考慮支持人工智能的智能分布式能源可以發揮的作用。迄今為止,能源建模經常忽略配電網,并忽略它們作為電網靈活性來源和成為電網管理過程中有價值的參與者的潛力。整合這些資源并更好地了解它們如何支持過渡,可以導致對基礎設施投資做出更明智的決策,例如電網擴展和現代化,或部署新的集中式發電機組。
各國政府,應考慮為能源數據制定更明確的法規(例如,如何保護它以及誰有權使用它),并確保對這些數據的訪問是公平和公平的。如果數據要成為能源轉型的商品,那么政府應該制定清晰簡單的設計規則,使其能夠快速收集、安全存儲、易于使用和公平分配。在設計新法規時,重要的是要考慮由此增加的官僚主義程度,因為這可能會給初創企業和小型企業造成重大的進入障礙。作為數據公平分配的一部分,政府可以指導或激勵行業組織和公共實體管理和資助行業數據的中央數據庫。當安全、匿名和聚合時,這些數據集將支持 AI 算法訓練,并有可能減少通常由質量差或數據數量有限導致的算法偏差。
【前 言】
什么是 JADC2?
聯合全域指揮與控制 (JADC2) 是美國國防部 (DOD) 的概念,旨在將來自所有軍事部門(空軍、陸軍、海軍陸戰隊、海軍和太空部隊)的傳感器連接到一個網絡中。傳統上,每個軍種都開發自己的戰術網絡,這與其他軍種不兼容(例如,陸軍網絡無法與海軍或空軍網絡連接)。通過 JADC2,國防部設想創建一個“物聯網”網絡,將眾多傳感器與武器系統連接起來,使用人工智能算法幫助改進決策。
美國國防部 (DOD)聯合全域指揮與控制 (JADC2) 戰略描述了迫切需要集中力量推動部門行動,以增強其的聯合部隊指揮官在所有作戰領域和整個電磁頻譜范圍內指揮聯合部隊所需的能力,以威懾、并在必要時在全球任何時間、任何地點擊敗任何對手。
JADC2 戰略為識別、組織和提供改進的聯合部隊指揮和控制 (C2) 能力提供了愿景和方法,并說明了對手已經關閉了其賴以取得作戰成功的許多能力和方法優勢。作為一種方法,JADC2 支持使用創新技術開發物資和非物資解決方案選項,同時愿意修改現有政策、權力、組織結構和作戰程序,從而為聯合部隊指揮官提供信息和決策優勢。
【總 結】 全球安全環境的迅速變化正在對美國軍隊以及聯合部隊獲取、維持和保護信息和決策優勢的能力提出重大的新挑戰。此外,必須預見未來的軍事行動將在退化和競爭的電磁頻譜環境中進行。這些挑戰需要部門一致和集中的努力,以現代化如何開發、實施和管理 C2 能力,以在所有作戰領域、跨梯隊以及與任務伙伴合作。
JADC2 為塑造未來聯合部隊 C2 能力提供了一種連貫的方法,旨在產生作戰能力,以便在所有領域和合作伙伴的所有戰爭級別和階段感知、理解和行動,在相關的速度。作為一種方法,JADC2 超越了任何單一的能力、平臺或系統。它提供了一個機會,可以加速實施所需的技術進步和聯合部隊進行 C2 的方式的理論變革。 JADC2 將使聯合部隊能夠使用越來越多的數據,采用自動化和人工智能,依靠安全和有彈性的基礎設施,并在對手的決策周期內采取行動。
這一戰略的成功實施需要整個國防部 (DoD) 的集中承諾。為此,JADC2 戰略闡明了“感知”、“理解”和“行動”三個指導 C2 功能,以及額外的五個持久工作 (LOE) 來組織和指導行動以提供物資和非物資JADC2 能力。 LOE 是: (1) 建立 JADC2 數據企業;(2)建立JADC2人類企業; (3)建立JADC2技術企業; (4) 將核 C2 和通信 (NC2/NC3) 與 JADC2 集成; (5) 使任務伙伴信息共享現代化。
該戰略得到 JADC2 戰略實施計劃的支持,該計劃確定了 JADC2 的最終狀態、關鍵目標和任務,并與已建立的部門當局、論壇和流程合作,以同步和簡化工作,以優先考慮、資源、開發、交付和維持JADC2 能力。現有的軍種和機構開發和采購流程通常會產生無法滿足全域 C2 作戰需求的特定域能力。 JADC2 方法將覆蓋這些現有流程,旨在促進從根本上改進的跨域聯合能力的發展。
該戰略提供了六項指導原則,以促進整個部門在提供物資和非物資 JADC2 改進方面的努力的一致性。這些原則是: (1) 在企業層面設計和擴展信息共享能力改進; (2) 聯合部隊 C2 改進采用分層安全功能; (3) JADC2 數據結構由高效、可演進和廣泛適用的通用數據標準和架構組成; (4) 聯合部隊 C2 必須在退化和競爭性電磁環境中具有彈性; (5) 部門開發和實施過程必須統一,以提供更有效的跨領域能力選擇; (6) 部門開發和實施過程必須以更快的速度執行。
JADC2 戰略的結論是,迫切需要使用企業范圍內的整體方法來實施物資和非物資 C2 能力,以確保聯合部隊指揮官在整個競爭過程中獲得和保持對抗全球對手的信息和決策優勢的能力。
由斯坦福大學人工智能百年研究(AI100)推出的「人工智能指數」(AI Index)是一個追蹤 人工智能行業動態與發展的非營利性項目,其研究覆蓋了百年以來人工智能的總體情況, 目標是基于數據來推動人工智能的廣泛交流和有效對話。2022 年, AI Index 推出了第六份年度報告,從多個角度觀察和解讀了人工智能領域的動態和進展。
人工智能指數是斯坦福大學以人為中心的人工智能研究所(HAI)的一項獨立倡議,由人工智能指數指導委員會(AI Index Steering Committee)領導,該委員會是一個由來自學術界和工業界的專家組成的跨學科小組。該年度報告跟蹤、整理、提煉和可視化與人工智能相關的數據,使決策者能夠采取有意義的行動,以負責任和道德的方式推進人工智能。
最新版包括來自廣泛的學術、私人和非盈利組織的數據,以及比以往任何版本更多的自收集的數據和原創分析,包括一個擴展的技術性能章節,一份對世界各地機器人研究人員的新調查,25個國家的全球人工智能立法記錄數據,以及深入分析人工智能技術倫理指標的新篇章。
人工智能指數(AI Index)的一項調查顯示,過去6年,機器人手臂的價格中值下降了4倍,從2016年的每只手臂5萬美元降至2021年的12,845美元。機器人研究已經變得更容易獲得和負擔得起
IRENA 報告,全球能源轉型:2050 路線圖,確定了政策和決策者需要采取行動的六個 焦點領域:
挖掘能源效率和可再生能源之間強大的協同作用。這應該成為能源政策設計的重中之重, 因為到 2050 年,二者的聯合效應可以利用成本效益的方式實現大部分與能源相關的脫碳 需求。
規劃可再生能源作為高份額能源提供方的電力領域。全球能源轉型要求構思和運作能源系 統的方式進行重大轉變。這反過來需要長期規劃能源系統,并在地區和國家之間轉向更全 面的政策制定和更協調的方法。這對電力領域至關重要,及時部署基礎設施和重新設計行業規 章制度是成本高效的大規模集成太陽能和風力發電的必要條件。這些能源將在 2050 年成為電力 系統的支柱。
增加交通、建筑和工業用電。城市規劃、建筑法規和其他計劃政策必須一體化設計,特別 是通過電氣化,使交通和供熱領域深化成本高效的脫碳。不過,可再生電力只是這些領域 的部分解決方案。對于運輸、工業和建筑領域能源中服務無法電氣化的情況,需要部署其他可 再生解決方案,包括現代生物能源、太陽熱能和地熱。為加快這些解決方案的部署,有效的政 策框架將是必不可少的。
推進系統級創新。正如過去新技術發展對推進可再生能源發展起到了關鍵作用,未來需要 繼續進行技術創新,以實現全球能源的成功轉型。創新必須涵蓋技術的全部生命周期,包 括示范、部署和商業化。但創新遠比技術研發(R&D)涉及的面更為廣泛。它應該包括運作能源 體系和市場的新方法,并包含新的商業模式。實現能源轉型所需的創新將需要各國政府、國際 行為體和私營機構更多深入、集中和協調一致的行動。
整合能源轉型與社會經濟結構和投資。為實現社會經濟體系和轉型的整合,需要使用綜合 且全面的方法。能源轉型的實現需要大量投資,這增加了適應氣候變化所需的費用。實 現能源轉型的時間越短,適應氣候變化的成本就越低,對社會經濟的破壞就越小。金融體系應 符合更廣泛的可持續性和能源轉型要求。如今做出的投資決策決定了未來幾十年的能源體系。 資本流動迫切需要重新分配為低碳解決方案,以免經濟受困于碳密集型能源系統,同時使資產 擱置最小化。必須盡快建立規章制度和政策框架,這給所有利益攸關方提供了明確并長期的保 證:能源體系轉型是為了實現氣候目標,同時提供充分反映化石燃料的環境成本和社會成本的 經濟刺激,并移除低碳解決方案加速部署的障礙。推進并激勵機構投資方和社區金融更多地參 與到能源轉型中來。分散投資需求(能源效率和分布式發電)的特殊性也應予以考慮并解決。
確保轉型成本和收益公平分配。能源轉型需要整個社會共同協作才能實現。為實現各方有 效參與,能源轉型成本和收益應公平共享,且轉型本身的實施也應保持公正。通用能源接 入是公平公正轉型的關鍵環節。除了能源接入,目前在不同地區可用的能源服務也存在巨大差 異。只有當能源服務在所有地區融合并趨于一致時,能源轉型過程才會完成。轉型方案和規劃 應將能源接入和融合納入考慮范圍。應推進并鼓勵由個人、社區、國家和地區為實現具體轉型 做出貢獻和義務的社會核算框架。應進一步定義并實施轉型成本的公平分擔,推動并促進制定 公平分配轉型效益的結構。在一開始就應從微觀和宏觀兩個層面明確公平能源轉型所需的各方 面考慮,創造結構化能源體系,使受困于化石燃料的個人和地區能從轉型中受益。
「美國人仍未認真思考 AI 革命將對社會、經濟和國家安全產生多大影響」,3 月 1 日,美國國家人工智能安全委員會(the National Security Commission on Artificial Intelligence,NSCAI)發布的一份報告,提出了對于總統拜登、國會及企業和機構的數十項建議。
該組織稱,中國是對于美國技術主導地位的首要挑戰,在第二次世界大戰后第一次有國家對美國的經濟和軍事力量產生了如此程度的威脅。該報告的一個結論是,在未來十年內,美國可能會失去對中國的軍事技術優勢。
這個由 15 名成員組成的委員會主張以 400 億美元的投資擴展和民主化 AI 研究的進程,并為「未來技術突破進行投資」,鼓勵決策者們對創新投資持類似態度。該組織最終希望能推動聯邦政府在未來幾年里對于人工智能投資數千億美元。
主題: Directions for Explainable Knowledge-Enabled Systems
摘要: 數十年來,人們對可解釋人工智能領域的興趣不斷增長,并且近年來這種興趣正在加速增長。隨著人工智能模型變得更加復雜,并且通常更加不透明,并且隨著復雜的機器學習技術的結合,可解釋性變得越來越重要。最近,研究人員一直在研究和解決以用戶為中心的可解釋性,尋找解釋以考慮可信度,可理解性,顯性出處和上下文意識。在本章中,我們將利用對人工智能及其密切相關領域的解釋性文獻的調查,并利用過去的努力來生成一組解釋類型,我們認為這些類型反映了當今人工智能應用對解釋的擴展需求。我們定義每種類型,并提供一個示例問題,以激發對這種解釋方式的需求。我們認為,這組解釋類型將有助于未來的系統設計人員生成需求并確定其優先級,并進一步幫助生成更符合用戶和情況需求的解釋。
題目: Foundations of Explainable Knowledge-Enabled Systems
摘要:
自從人工智能時代以來,可解釋性就一直是重要的目標。 目前為止,已經有幾種產生解釋的方法被提出。 但是,這些方法中有許多都與當時的人工智能系統的能力緊密相關。 隨著有時在關鍵環境中啟用AI的系統的普及,有必要讓最終用戶和決策者對它們進行解釋。 我們將介紹可解釋的人工智能系統的歷史概況,重點是知識支持的系統,涵蓋專家系統,認知助手,語義應用和機器學習領域。 此外,借鑒過去的方法的優勢,并找出使解釋以用戶和上下文為中心所需要的空白,我們提出了新的解釋定義和可解釋的知識支持系統。