人工智能通常被認為是能夠使人類邁向更美好未來的巨大飛躍的開創性技術之一。隨著我們在采用人工智能方面取得進展,人們一直在爭論這種有可能改變企業和社會的奇跡技術的內在優劣。雖然許多人擔心我們正在慢慢走向人工智能將主宰的反烏托邦未來,但其他人則希望人工智能將在業務流程中帶來效率和速度。在此背景下,世界經濟論壇于 2022 年 1 月發布了一份題為《賦予人工智能領導力:人工智能 C-Suite 工具包》的報告,該報告為 C-Suite 高管提供了一個基本大綱,以緊跟這些技術發展。
該報告是對上屆世界經濟論壇指導董事會如何應對人工智能工作的補充,并提供了一套工具,可以幫助企業高管了解人工智能對各個方面的影響,并就其未來做出明智的決策,落地實施。該工具包是來自不同公司和行業的幾位人工智能專家和執行官合作的結果,由人工智能戰略、負責任的人工智能和人工智能實施等五個主要領域組成。關于人工智能戰略,該報告清楚地解決了一些基本問題,例如人工智能創造的戰略選擇是什么,為什么它需要與組織的整體戰略保持一致,以及如何簡單地評估組織在人工智能之旅中的成熟度。
鑒于需要采用多方面的方法來負責任地部署和管理 AI,該工具包提供了可能遇到的問題的完整地圖,這些問題也可以作為獨立模塊處理。該工具包提供了一個基本平臺,其中確定了高管在考慮部署 AI 時可能需要牢記的關鍵問題。它對決策者來說會派上用場,因為每個問題都有可能考慮的具體答案。世界經濟論壇認為,一旦組織試驗了這個工具包并分享他們的經驗,其他人就會從中受益。
本出版物是歐盟委員會科學和知識服務機構聯合研究中心 (JRC) 的一份報告。它旨在為歐洲決策過程提供基于證據的科學支持。所表達的科學成果并不意味著歐盟委員會的政策立場。歐盟委員會或代表委員會行事的任何人均不對本出版物的可能使用負責。
本報告是在 AI Watch 的背景下發布的,這是歐盟委員會于 2018 年 12 月推出的用于監測歐洲人工智能 (AI) 的發展、采用和影響的知識服務。
人工智能已成為具有戰略意義的領域,有可能成為經濟發展的關鍵驅動力。人工智能還具有廣泛的潛在社會影響。作為其數字單一市場戰略的一部分,歐盟委員會于 2018 年 4 月在其“歐洲人工智能”中提出了一項歐洲人工智能戰略。宣布的歐洲人工智能戰略的目標是:
● 提高歐盟的技術和工業能力以及人工智能在整個經濟中的應用,包括私營和公共部門;
● 為人工智能帶來的社會經濟變化做好準備;
● 確保適當的道德和法律框架。
2018 年 12 月,歐盟委員會和成員國就歐盟人工智能的發展發布了“人工智能協調計劃”。協調計劃提到了 AI Watch 監控其實施的作用。
隨后,在 2020 年 2 月,委員會公布了其對所有人都適用的數字化轉型的愿景。委員會提交了一份白皮書,提出了一個基于卓越和信任的可信賴人工智能框架。
此外,2021 年 4 月,歐盟委員會提出了一系列促進人工智能卓越發展的行動,以及確保該技術值得信賴的規則。擬議的《歐洲人工智能方法條例》和《人工智能協調計劃》的更新旨在保障人民和企業的安全和基本權利,同時加強歐盟國家的投資和創新。 2021 年對 AI 協調計劃的審查參考了 AI Watch 的報告,并確認了 AI Watch 在支持協調計劃的實施和監測方面的作用。
AI Watch 監測歐盟在人工智能方面的工業、技術和研究能力;成員國與人工智能相關的政策舉措;人工智能的采用和技術發展;和人工智能的影響。 AI Watch 在全球范圍內以歐洲為重點。在 AI Watch 的背景下,委員會與成員國協調工作。 AI Watch 結果和分析發布在 AI Watch Portal (//ec.europa.eu/knowledge4policy/ai-watch_en) 上。
通過AI Watch的深入分析,我們將能夠更好地了解歐盟的優勢領域和需要投資的領域。 AI Watch 將對人工智能對增長、就業、教育和社會的影響和益處進行獨立評估。
AI Watch 由歐盟委員會聯合研究中心 (JRC) 與通信網絡、內容和技術總局 (DG CONNECT) 合作開發。
本報告涉及 AI Watch 的以下目標:開發一個 AI 指數,包括與政策制定相關的維度。它通過以指標的形式提供統計證據來總結 AI Watch 提供的主要結果。
經過多年非常活躍的技術發展,無論是在硬件還是軟件方面,人工智能領域已經蔓延開來,其影響在經濟和社會中無處不在,越來越多的人工智能支持的工具和應用程序被用于工作環境和個人領域。與所有創新技術一樣,必須對新興人工智能領域及其趨勢進行全面監測,以了解其影響的范圍。這個動作可以讓您了解可能需要注意或干預的問題和情況。在這方面,本出版物從多個角度分析了與人工智能發展相關的多個指標。盡管地理重點是歐盟 27 國,但在可能的情況下,我們會提供與全球主要人工智能強國(即美國和中國等)的比較。此外,如果可用,還為 27 個歐盟成員國提供指標。
該分析分為五個維度:(i) 人工智能領域的全球視野,(ii) 行業,(iii) 研發 (R&D),(iv) 技術,以及 (v) 社會方面。結果表明,正如預期的那樣,人工智能正處于技術演進和改進的階段。美國在經濟方面處于世界領先地位。中國緊隨其后,特別是由于該領域的專利活動非常突出。歐盟位居第三,但有幾個因素支持這樣一個論點,即與這兩個領先國家的距離并不像人們經常提到的那樣。分析表明,歐盟在研發方面的表現非常出色——超出了歐共體資助項目的考慮范圍。此外,歐盟展示了人工智能服務和自主機器人技術的專業化。此外,歐盟在工業機器人和新機器人初創企業的貿易中表現出非常積極的動態。關于人工智能的投資,我們觀察到歐盟領域潛在發展的積極信號,因為去年所有 27 個歐盟成員國的私人和公共投資水平都有所增加。
本報告介紹了人工智能觀察指數,這是一組指標,可以更好地了解歐洲的優勢領域以及人工智能 (AI) 領域值得關注的領域。 AI Watch Index 提供了一套結構化的量化指標,用于衡量 EU1 在與決策相關的 AI 的各個維度上的表現和定位。該指數的地理重點是歐盟,在有數據的情況下,覆蓋各成員國。由于部分指標覆蓋全球,歐盟與美國、中國等人工智能領域主要參與者的比較分析也成為可能。該指數圍繞五個維度進行組織:(i) 人工智能領域的全球視野,(ii) 行業,(iii) 研發 (R&D),(iv) 技術,以及 (v) 社會方面。表 1 列出了圍繞 5 個維度和 10 個子維度組織的 22 個指標列表。
表1:AI 觀察指數各維度指標匯總
分析顯示,在全球人工智能格局、人工智能產業和人工智能研發維度上,美國在人工智能領域處于全球領先地位,其次是中國和歐盟。
歐盟最重要的因素一方面在于其在人工智能服務和機器人技術(包括自主機器人和工業機器人)中的重要作用,另一方面在于其在人工智能研發活動方面的強勢地位。關于人工智能服務——與提供人工智能服務和應用程序相關的活動,包括基礎設施、軟件和平臺服務——歐盟在全球范圍內具有優勢,因為其在人工智能領域的經濟活動份額高于全球平均水平。事實上,雖然美國在人工智能服務的全球份額中占有較高的份額,但相對歐盟人工智能服務在歐盟人工智能活動總數中的份額高于美國。同樣,歐盟在自主機器人技術方面也具有比較優勢——機器人系統旨在在涉及與其他機器或人類交互的相對復雜的環境中運行。歐洲在工業機器人貿易(考慮出口和進口)方面的比較優勢,以及新機器人初創企業數量的穩步增長趨勢,都補充了這一點。鑒于人工智能有望在機器人領域發揮重要作用,作為其技術發展下一步的關鍵推動力,這一點尤其重要。事實上,人工智能支持的未來幾代機器人有望更好地與物理現實交互,尤其是與人類交互(例如,用于照顧人類的機器人)。歐盟在機器人相關領域的主導地位表明其在該領域的未來競爭力。同時,這里考慮的技術領域極具活力,需要對工業和技術發展進行投資以保持競爭優勢。
其次,歐盟在人工智能研發活動方面非常活躍,以人工智能相關專利和頂級人工智能會議上的前沿研究出版物為代表。盡管英國脫歐對整個歐盟 AI 格局產生了明顯影響,但歐盟成員國形成的研究合作和伙伴關系使他們能夠在全球范圍內擁有影響力。換句話說,歐盟成員國建立了研發合作網絡,支持他們交換信息的能力,進而建立知識。這些是創新能力的關鍵要素。單獨考慮專利和研究出版物,可以觀察到一些相關差異:雖然歐盟在前沿研究出版物方面發揮著非常重要的作用,僅次于美國,但歐盟的專利活動仍然較為平和。還有第三種類型的研發活動,即歐盟資助的項目,為了進行國際比較,我們的分析并不總是考慮這些活動。然而,它們對整個研發生態系統的貢獻是根本性的。此外,正如之前的 AI Watch 工作(Righi 等人,2021 年)所討論的,框架計劃的項目(例如 FP7 和 H2020)使眾多經濟參與者能夠參與 AI 領域。由于此,歐盟在這一技術領域的經濟參與者數量幾乎翻了一番(與不考慮歐盟資助項目的參與者數量相比)。然而,這些參與者在沒有公眾支持的情況下在人工智能領域保持活躍的能力值得進一步探索。
如上所述,美國是全球人工智能領導者:它擁有大量活躍的人工智能參與者;它在多個人工智能領域(人工智能服務、音頻和自然語言處理、自主機器人以及聯網和自動駕駛汽車)具有比較優勢;它擁有大量以人工智能為核心業務并同時開發人工智能專利的公司;并從事大量研發活動(專利和前沿研究)。因此,美國的領先地位顯得穩固,沒有明顯的弱點。
我們對中國人工智能格局的了解主要得益于其非常激烈的專利活動。然而,專利質量標準的降低和中國政府最近實施的政策導致申請量激增,這支持了這樣一種論點,即中國在人工智能領域的規模可能沒有乍看之下那么突出。盡管如此,中國仍應被視為該領域的主要參與者,主要有兩個原因。首先,它在 ICT 制造領域的大量參與保證了任何數字技術(包括人工智能)蓬勃發展的基本硬件需求。例如,近年來,中國的 ICT 行業增加值每年增長 13.1 個百分點(Mas 等人,2021 年),同時已經從主導地位發展(增加值第二,僅次于美國)。其次,即使考慮到上述觀點,在中國提交的大量人工智能相關專利申請也不容忽視,特別是考慮到大量經濟參與者參與人工智能領域(超過 9,000 個)。關于中國值得考慮的另一個方面是對數據的大量訪問,這是人工智能系統的燃料。除其他外,這是由于使用數字服務和應用程序的人口眾多,以及對訪問和使用個人數據的法律限制較少(Arenal 等人,2020 年)。
這項工作的其他見解涉及人工智能領域的技術發展。我們觀察到 AI 技術在多項任務(例如圖像分類、人臉識別、語音識別、文本摘要)中的性能不斷提高。基準每年都在改進這一事實,清楚地證實了人工智能目前正在經歷技術擴展階段。觀察到的大量 AI 標準化活動強化了這一結論,這是歐盟成員國積極參與的一個方面,特別是考慮到制定支持歐洲 AI 法規提案(AI 法案)的標準。
AI Watch Index 的另外兩個指標涵蓋社會方面:AI 研究的多樣性,以及大學級別的高級 AI 技能教育產品。重要的是,初步結果顯示,最近人工智能研究界在性別、隸屬位置和研究人員所屬機構類型方面的異質性有所增加,這可能反映了研究界中包容性和多樣性政策的影響。這與值得信賴的人工智能的發展和社會包容都有關。事實上,研究人員的出身、性別和隸屬關系的異質性有望減少算法開發中的偏見,促進為訓練集選擇具有代表性的數據源,并減輕研究界有限視角可能導致的其他類型的風險。該維度還分析了與人工智能相關的大學學術課程,因為這勢必會影響未來工人的就業能力以及經濟中先進數字能力的整體存在。在這方面,發現成員國之間存在顯著差異,這可能導致未來歐盟人口之間的不平等。結果表明,人工智能內容在碩士學位課程中的出現頻率高于在學士學位課程中的出現頻率。這似乎表明,在已經向學生傳授基本知識之后,人工智能被認為是一門專業學科,主要涵蓋在教育路徑的后期階段。建議在各個層面提供更廣泛的人工智能相關內容,而不僅僅是高級課程,以促進人口的數字包容并增加歐洲數字轉型帶來的經濟利益。
隨著人類行為和交互繼續受到越來越普遍的技術的影響,必須不斷調整自己的能力來處理和防止惡意行為者利用不斷變化的技術環境。如果我們要釋放數字經濟的真正潛力,就必須在社會和經濟的所有領域優先考慮網絡安全。網絡安全不是一項單獨的技術,而是一套跨越第四次工業革命的技術、人員和流程的基礎系統。
在 COVID-19 大流行期間加速轉向遠程工作,再加上最近備受矚目的網絡攻擊,導致組織和國家的關鍵決策者將網絡安全放在首位。盡管人們越來越意識到網絡風險,但決策者和網絡專家在優先考慮網絡安全、將網絡風險納入業務戰略以及將網絡領導者納入業務流程方面往往意見不一。仍然需要做很多工作才能就如何加強網絡彈性達成共識。
建立網絡彈性是世界經濟論壇網絡安全中心的核心焦點。我們彌合網絡安全專家和最高級別決策者之間的差距,以加強網絡安全作為關鍵戰略優先事項的重要性。
2021 年,該中心聘請了 120 多名全球網絡領導者,就新興網絡威脅提出高層次見解。掌握網絡安全狀況的全球脈搏對于明確識別新出現的風險并制定可行的解決方案來解決這些風險至關重要。本報告的目的是深入分析安全領導者正在應對的挑戰、他們為領先于網絡犯罪分子而采取的方法以及他們在更廣泛的生態系統中正在實施的措施以增強其組織內部。
網絡空間超越國界。因此,我們需要動員全球應對以應對系統性網絡安全挑戰。我們希望本報告中的見解將有助于促進建立網絡彈性生態系統的協作方法。
全球網絡安全展望將是一份年度報告,重點介紹隨著開始從網絡防御姿態轉向更強的網絡彈性地位的趨勢和進展。隨著我們的網絡生態系統的擴展和整合,確保所有相關組織能夠快速預測、恢復和適應網絡事件變得越來越重要。以安全為中心的領導者必須能夠有效、清晰地向業務領導者傳達他們的風險和緩解策略。
我們在世界經濟論壇網絡安全領導力社區和埃森哲網絡安全論壇對來自 20 個國家的 120 位全球網絡領導者進行了調查,以從全球角度了解如何看待和實施網絡彈性,以及他們如何更好地保護我們的生態系統。要建立一個有足夠彈性的生態系統,能夠在當今環境中承受而不是動搖,需要一種統一的方法。
正如我們的調查和研討會所確定的,領導支持對于在組織內采用網絡彈性至關重要。同樣重要的是,確保網絡安全和業務領導者之間沒有溝通障礙或協調差距。鑒于在機器學習和自動化進步的推動下,技術不斷變化和快速發展,再加上網絡犯罪分子可獲得的能力越來越強且負擔得起的黑客資源,領導者必須在其網絡彈性計劃中團結一致并保持同步。
通過與世界經濟論壇網絡安全中心合作,我們的目標是提供見解和解決方案,以建立更強大的生態系統,使組織可以從中受益、學習并充滿信心地進入這個高度互聯和數字化的未來。
在撰寫本文時,數字趨勢及其因 COVID-19 大流行而呈指數級增長,已將全球人口推向數字化和互聯互通的新軌道。我們數字化帶來的最嚴重和最令人不安的新后果之一是網絡事件的發生越來越頻繁、代價高昂且具有破壞性,有時甚至會導致關鍵服務和基礎設施癱瘓。這種趨勢沒有放緩的跡象,特別是隨著復雜的工具和方法以相對較低(或在某些情況下沒有)成本更廣泛地提供給威脅參與者。
數字化程度不斷提高的跡象無處不在。國際電信聯盟最近報告稱,由于遠程辦公、遠程學習、遠程娛樂和遠程醫療的直接結果,各大洲的固定寬帶接入顯著增加。大多數技術先進的國家優先考慮擴展數字消費工具,促進數字創業和投資在大學、企業和數字當局的創新方面,而新興經濟體優先考慮增加移動互聯網接入、培訓數字人才以及對研發和數字企業進行投資。這就引出了一個問題:如果小國和實力較弱的國家無法保護其數字連接的基礎設施,它們將如何保護自己和自然資源?網絡安全貧困線問題在不斷增長的連接性浪潮中變得更加緊迫。
考慮到這些持續存在的網絡挑戰,世界經濟論壇網絡安全中心聘請了網絡安全領導社區,該社區由代表 20 個國家的私營和公共部門的 120 名網絡領導者組成。網絡安全中心的工作重點是通過網絡展望調查和網絡展望系列(見附錄)收集數據并對其進行分析,以了解網絡領導者的看法,以及網絡安全和網絡彈性的軌跡。
分析結果揭示了有關網絡狀態的寶貴見解以及對當前網絡彈性路徑的看法。
1.雖然許多因素推動網絡安全政策向前發展,但我們通過調查發現,81% 的受訪者認為數字化轉型是提高網絡彈性的主要驅動力。由于 COVID-19 大流行和我們工作習慣的轉變,數字化步伐加快,正在推動網絡彈性向前發展。多達 87% 的高管正計劃通過加強有關如何參與和管理第三方的彈性政策、流程和標準來提高其組織的網絡彈性。
2.我們的研究揭示了以安全為中心的高管(首席信息安全官)和業務高管(首席執行官)之間的三個主要和關鍵的認知差距。差距在三個方面最為明顯:
2.1 在業務決策中優先考慮網絡;雖然 92% 的受訪企業高管同意將網絡彈性整合到企業風險管理戰略中,但只有 55% 的受訪企業高管同意這一說法。
2.2 獲得領導層對網絡安全的支持; 84% 的受訪者表示,在領導層的支持和指導下,網絡彈性在其組織中被視為業務優先事項,但少得多的比例 (68%) 將網絡彈性視為其整體風險管理的主要部分。由于這種錯位,許多安全領導者仍然表示在業務決策中沒有征求他們的意見,這導致了不太安全的決策和安全問題。由于不協調的安全優先級和政策直接導致領導者之間的這種差距可能使公司容易受到攻擊。
2.3 招聘和留住網絡安全人才;我們的調查發現,由于團隊中缺乏技能,59% 的受訪者認為應對網絡安全事件具有挑戰性。雖然大多數受訪者將人才招聘和留住視為最具挑戰性的方面,但與以安全為中心的高管相比,業務主管似乎不太清楚這些差距,后者認為他們有足夠的人員應對攻擊的能力是他們的主要弱點之一。
3.勒索軟件的威脅持續增長。多達 80% 的網絡領導者強調,勒索軟件是對公共安全的危險且不斷演變的威脅。該調查證實,勒索軟件攻擊是網絡領導者最關心的問題,50% 的受訪者表示,勒索軟件是他們在網絡威脅方面最擔心的問題之一。勒索軟件攻擊的頻率和復雜程度都在增加,而這種永遠存在的威脅讓網絡領導者夜不能寐。勒索軟件攻擊緊隨其后,社會工程攻擊是網絡領導者關注的第二大問題;此列表中的第三位是惡意內部活動。惡意內部人員被定義為組織的現任或前任員工、承包商或受信任的業務合作伙伴,他們以對組織產生負面影響的方式濫用其對關鍵資產的授權訪問。
4.中小企業 (SME) 被視為對供應鏈、合作伙伴網絡和生態系統的主要威脅。在我們的研究中,88% 的受訪者表示他們擔心中小企業在其生態系統中的網絡彈性。
5.網絡領導者表示需要明確和富有成效的法規,以允許和鼓勵信息共享和協作。伙伴關系的價值已得到證實;超過 90% 的受訪者表示從外部信息共享小組和/或合作伙伴那里獲得了可行的見解。
本報告使用近年來的回顧性分析來分享網絡領導者的知識和擔憂,其目標是:幫助決策者為下一代網絡攻擊做好準備。
圖:2022年全球網絡安全展望:要點
人工智能 (AI) 和相關的數字技術將如何重塑律師的工作和律師事務所的結構?傳統上,法律服務由高技能的人提供,即律師。人工智能最近的巨大進步引發了人們對自動化系統在法律服務中取代人類的程度的猜測。一個相關的爭論是法律界對合伙形式的堅持是否會抑制投資新技術所需的資金籌集。
本文介紹了人工智能在法律服務中的實施進行的最全面的實證研究,包括基于訪談的案例研究和調查數據。我們關注兩個相互關聯的問題:法律服務工作的性質將如何變化,以及協調這項工作的公司將如何組織。一個中心主題是,先前關注變革的“人與技術”方面的辯論忽略了技術正在改變法律服務的人的維度的方式。
我們對人工智能對法律服務工作影響的分析表明,雖然它會在某些任務中取代人類,但它也會改變那些未被取代的人的工作。它將增強使用人工智能服務作為工作投入的人類律師的能力,并為法律專家在生產這些人工智能服務方面發揮新的作用。我們記錄了這些聚集在多學科團隊(“MDT”)中的新角色,這些團隊將法律與一系列其他學科投入相結合,以增強技術系統的運行。我們確定了傳統律師事務所合作伙伴在實施人工智能方面面臨的挑戰。與之前的爭論相反,這些并非來自對技術資產投資的資金限制。相反,核心問題與人力資本有關:做出必要的戰略決策;招募、協調和激勵必要的 MDT;并調整專業界限。這些發現對律師、律師事務所和法律界具有重要意義。
關鍵詞:人工智能、法律職業、律師事務所組織、法律科技、法律服務的未來
工業人工智能 (AI) 是人工智能在工業中的應用,是第四次工業革命中價值創造的主要貢獻者。人工智能正被嵌入到廣泛的應用程序中,幫助組織獲得顯著的利益,并使他們能夠改變向市場提供價值的方式。
? 本文檔為支持人工智能的工業物聯網系統的開發、培訓、文檔編制、通信、集成、部署和操作提供指導和幫助。它面向來自 IT 和運營技術 (OT)、來自多個學科的業務和技術的決策者,包括業務決策者、產品經理、系統工程師、用例設計師、系統架構師、組件架構師、開發人員、集成商和系統操作員。
該文檔圍繞 IIC 工業互聯網參考架構中的架構觀點構建,即業務、使用、功能和實施觀點。該文件討論了推動人工智能采用的商業和價值創造考慮因素。它還詳細闡述了人工智能的使用、工業用例以及與之相關的道德、隱私、偏見、安全、勞工影響和社會問題。在技術方面,該文檔描述了與 AI 相關的架構、功能和數據注意事項,并討論了各種實施注意事項,例如性能、可靠性、數據屬性和安全性?。
人工智能的采用將在行業中加速。鑒于計算能力的快速增長、可用于訓練的數據的更廣泛可用性以及算法的日益復雜,人工智能技術將繼續發展。當前的 IT 標準和最佳實踐必須不斷發展,以解決 AI 本身的獨特特征以及與 IIoT 系統的安全性、可靠性和彈性相關的具體考慮因素。此外,人工智能技術的日益成熟將幫助人們認識到它的好處遠遠超過它的風險。 AI 標準生態系統也將繼續發展,例如 ISO/IEC JTC 1/SC42 正在進行的標準工作,為 JTC 1、IEC 和 ISO 委員會制定 AI 標準提供指導。
基于這些趨勢,毫無疑問,人工智能將繼續推動技術和功能上的可能性,因此預期合理的事情將同樣發展。對技術的態度和對其使用的商業期望也將繼續發展。
未來,我們可以期待使用人工智能技術成為常態,而不是例外,考慮到這項技術的社會效益,“不使用人工智能”最終可能會成為不負責任的做法。
?美國國防部已經可以開始應用其現有的國際科技協議、全球科學網絡以及在多邊機構中的作用來促進數字國防合作。本報告將這些選項集合構建為軍事人工智能合作工具箱,可為調整政策、推進研究、開發和測試以及連接人員提供了有價值的途徑。
美國將人工智能 (AI) 的領導地位視為提升其在國際體系中的戰略地位和保持其未來軍事優勢的關鍵。美國的盟友和伙伴網絡是服務于這些目標的不對稱資產,正如旨在讓美國為當前戰略競爭時代做好準備的國家安全和國防政策所確認的那樣。
最值得注意的是,美國國防部 (DOD) 人工智能戰略中宣布的關鍵舉措和國家安全委員會關于人工智能的建議表明了國際參與對人工智能安全、安保、互操作性和與民主價值觀保持一致的重要性。
簡而言之,人們一致認為,加強聯盟和伙伴關系很重要,不僅因為美國在聯盟中行動,而且因為俄羅斯等經常單獨行動。由于技術加速如何推動軍事進步、刺激經濟增長和塑造21世紀的治理模式,人工智能和其他新興技術是與這些近乎同等競爭對手競爭的核心。如果不深化與盟友和伙伴的合作,美國既無法應對大國帶來的挑戰,也無法從塑造人工智能的民主軌跡中獲益。
在此背景下,本報告重點關注通過基于可互操作部隊和尖端技術的強大軍事關系,維護美國及其伙伴和盟國網絡相對于潛在對手的優勢的必要性。國防部已經擁有多種工具可用于深化與其盟國和國際安全伙伴的科技(S&T)合作。但為了充分利用它們在人工智能方面的潛力,該部門需要重新設想并更好地整合它們。
為此,此處的分析將現有的國防科技協議、軍事科技交流和多邊機構的要素構建為軍事人工智能合作工具箱。這項工作不僅僅是為人工智能能力開發集中資源,還包括政策調整;測試、評估、確認和驗證 (TEVV) 管道;研發(R&D)、人員交流;數據共享;和標準化。這里的目的不是提出新的協議,而是回答國防部如何利用其現有的科技合作機制來支持數字時代的軍事合作,確保相關資源和框架在尋求人工智能領導力和未來時不會被利用聯軍成功。
雖然應該承認挑戰,包括圍繞數據交換的敏感性和對技術政策的不同政策觀點,但隨著時間的推移,它們也可以成為合作以減輕這些障礙的動力。換言之,現有工具有助于在政治信任、凝聚力和互操作性方面獲得更多支持,從而使合作有助于應對數字威權主義和技術驅動的國際安全環境變化的共同挑戰。 主要發現是:
雖然軍事人工智能合作的某些方面可能需要新的投資、機制和協議,但這不應該排除現有工具可以用于新用途的多種方式。軍事人工智能合作工具箱之所以有吸引力,正是因為它可以在短期內啟動,滿足與盟友和伙伴盡早建立互操作性和推進人工智能的緊迫性。
人工智能(AI)近年來獲得了相當大的關注和興奮。人工智能被廣義地定義為通過編程讓計算機承擔類似人類的認知過程的努力,它最近的突出與機器學習(ML)的成功密切相關,這是一種開發方法AI系統使用真實世界的例子。ML方法適用于各種各樣的用例;因此,基于人工智能的工具在經濟和生活的各個領域都有大量出現。
人力資源領域也不例外。事實上,據統計,目前有超過250種基于人工智能的商業人力資源工具,提供了許多承諾和令人興奮的東西。除了快速處理信息的能力,這些工具還具有改進人力資源流程的潛力,從而實現更好的決策和結果。它們的多樣性反映了人工智能最近的進步所激發的創造力和創新,因為它們的創造者尋求解決長期存在的挑戰人力資源和擴展能力到新的領域。
與此同時,這種工具的泛濫和多樣性造成了一個令人困惑的局面,特別是因為大多數人力資源專業人員認為他們不具備評估這些工具所需的技術專長。因此,本Toolkit的第一個目標是為人力資源專業人員提供基本的人工智能知識,以幫助他們評估基于人工智能的工具。該工具包的第二個目標是為人力資源中負責任和合乎道德的使用人工智能提供指導。近年來,人工智能系統所帶來的道德挑戰影響越來越大,尤其是在人力資源領域。關于人工智能道德使用的廣泛原則,包括隱私、公平、透明和可解釋性,全球越來越達成共識,但關于如何實施這些原則的指導有限。該工具包是該中心更廣泛努力的一部分第四次工業革命,幫助組織將負責任的人工智能原則付諸實踐。
該工具包的最終目標是幫助組織有效地使用基于人工智能的人力資源工具。許多組織發現他們投資艾達不到他們的期望,因為工具是采用了錯誤的原因,他們并不預期工作必要的集成工具,或者因為他們沒有獲得足夠的支持的人應該使用它還是受到它的影響。因此,該工具箱,特別是附帶的檢查清單,將重點放在評估基于人工智能的產品以及支持其使用所需的組織實踐上。
這個工具箱是一個協作的成果人力資源專業人士、專業協會、初創公司、大公司、就業律師、人工智能倫理學家,數據科學家,以及各種學科的學者。他們有著共同的愿望,希望促進人工智能在人力資源領域的負責任使用,但他們的觀點和關注點各不相同。在這個范圍的一端,有些人非常擔心在人力資源中使用人工智能的潛在缺點。另一方面,有些人認識到有必要負責任地實施人工智能,但他們堅信基于人工智能的工具有改進的潛力人力資源的結果。在人力資源中使用人工智能的一個張力是必須承認人力資源管理實踐目前存在的缺陷,無論是由人類還是由關鍵字過濾和評估測試等非人工智能系統執行。與其他方法相比,人工智能系統往往面臨更大的審查。雖然一些社區成員認為這種審查是必要的,但其他人認為它忽略了當前實踐中類似或可能更大的問題。該工具包旨在展示這些不同的視角,消除人工智能算法本質上是客觀和公平的誤解,同時強調需要認識到當前實踐中的缺陷。
該工具箱由三個組件組成。該指南概述了人力資源中的人工智能,人工智能如何工作,以及負責任地采用和監控人工智能系統的關鍵考慮因素。該指南的每個部分都有兩份問卷。工具評估清單的重點是決定采用特定的基于人工智能的人力資源工具。它包括兩個要問的問題:供應商(或工具的內部創建者)以及組織為了成功使用工具而需要考慮的問題。計劃檢查表側重于組織的優先級、政策和程序。它的目的是幫助組織戰略性地思考他們想要如何使用人力資源中的人工智能,并建立系統以支持其負責任和有效的使用。
大大小小的公司都在啟動人工智能項目,在軟件、開發人員和數據科學家身上投入了大量資金。通常情況下,這些人工智能項目將重點放在技術上,而犧牲了可操作的或有形的業務結果,導致結果分散和投資浪費。人工智能的成功為人工智能項目制定了藍圖,以確保它們是可預測的、成功的和有利可圖的。它充滿了運行數據科學程序的實用技術,以確保它們的成本效益和專注于正確的業務目標。
對這項技術
對于一個成功的AI項目來說,最大的挑戰不是決定你可以解決哪些問題。它決定你應該解決哪些問題。擁有巨額資金和頂尖人才的人工智能系統,如果不回答那些將推動真正商業價值的問題,仍然會失敗。作為一個AI團隊的領導者,你的工作是確保你引導你的團隊朝著正確的目標前進,并實現一個能夠按時并按預算交付結果的過程。
關于這本書
在《人工智能成功之道》一書中,作者兼人工智能顧問Veljko Krunic揭示了他與《財富》500強公司、早期創業公司以及其他橫跨多個行業的企業共同開發的人工智能的成功秘訣。Veljko首先制定了一個框架,用于確定要為您的業務回答的正確問題。然后,他會教你一個可重復的過程,用于正確地組織一個AI項目,以最大化有限資源的價值,比如你的數據科學家的時間。您將學習建立指標,讓您根據業務需求來判斷您的機器學習的有效性,以及如何評估您的AI項目在其生命周期的早期是否在正確的軌道上。根據你將在現實世界中遇到的商業困境進行練習,你將學習如何管理ML流程并防止其發生固化。完成之后,您就可以開始明智地投資于數據科學,為您的業務提供具體、可靠和有利可圖的結果。
里面有什么
【導讀】紐約大學AI Now研究所發布了第四份關于人工智能現狀的年度報告。2019年AI Now報告重點關注行業AI不平等加劇等主題,政府決策者在人工智能中的作用與責任,還評估了人工智能道德與有意義的問責制之間的差距,并研究了組織和監管在人工智能中的作用。
決策者應禁止在影響人們生活和獲得機會的重要決策中使用情感識別。在那之前,人工智能公司應該停止部署它。情感識別技術是面部識別技術的一個子類,聲稱可以探測諸如性格、情緒、心理健康和其他內心狀態等方面的信息。鑒于情感識別技術存在爭議的科學基礎,它不應該被允許在人類生活的重要決策中發揮作用,比如面試或聘用誰、保險的價格、病人的疼痛評估或學生在學校的表現。在去年建議實施嚴格監管的基礎上,各國政府應明確禁止在高風險決策過程中使用情感識別。
政府和企業應該停止在敏感的社會和政治環境下使用面部識別,直到風險被充分研究和適當的監管到位。2019年,面部識別在許多領域迅速擴展。然而,越來越多的證據表明,這種技術會造成嚴重的傷害,尤其是對有色人種和窮人。在敏感的社會和政治領域——包括監視、警務、教育和就業——應暫停使用面部識別,因為在這些領域,面部識別會帶來無法追溯的風險和后果。立法者必須補充(1)透明度要求,讓研究人員,政策制定者和社區評估和理解限制和調節面部識別的最佳方法;(2)為使用這些技術的社區提供保護,使其有權自行評估和拒絕使用這些技術。
人工智能行業需要進行重大的結構性改革,以解決系統性的種族主義、厭女癥和缺乏多樣性的問題。人工智能行業驚人地同質化,這在很大程度上是因為它對待女性、有色人種、性別少數群體和其他未被充分代表的群體的方式。為了開始解決這個問題,應該公開更多關于薪酬水平、對騷擾和歧視的回應率以及招聘做法的信息。它還需要終結薪酬和機會不平等,并為高管們提供真正的激勵,以創造、促進和保護包容性的工作場所。最后,采取的任何措施都應該解決兩級勞動力的問題。在這兩級勞動力中,許多科技公司的有色人種都是薪酬過低、弱勢的臨時工、供應商或承包商。
人工智能偏見研究應該超越技術層面的修正,關注更廣泛的政治和人工智能使用的后果。對人工智能偏見和公平性的研究已開始超越以統計平等性為目標的技術解決方案,但需要對人工智能的政治和后果進行更嚴格的審查,包括密切關注人工智能的分類實踐和危害。這就要求外勤中心的“非技術”學科,其工作傳統上審查這些問題,包括科學和技術研究、關鍵的種族研究、殘疾研究,以及其他與社會背景密切相關的學科,包括如何構建差異、分類工作及其后果。
政府應要求公開披露人工智能行業對氣候的影響。考慮到人工智能發展對環境的重大影響,以及人工智能行業的權力集中,政府有必要確保大型人工智能供應商向公眾披露人工智能發展的氣候成本。與汽車和航空行業的類似要求一樣,這種披露有助于為更明智的氣候和技術集體選擇奠定基礎。信息披露應包括通知,允許開發人員和研究人員了解他們使用人工智能基礎設施的具體氣候成本。氣候影響報告應與任何抵消或其他緩解戰略的核算分開。此外,各國政府應利用這些數據,確保人工智能政策考慮到任何擬議的人工智能部署的氣候影響。
工人應該有權對剝削性和侵入性的人工智能提出異議——工會可以提供幫助。啟用人工智能的勞動管理系統的引入引發了有關工人權利和安全的重大問題。這些體制的使用亞馬遜倉庫超級InstaCart-pools權力和控制手中的雇主和危害主要是低薪工人(顏色的不成比例的人是誰)通過設置生產力目標與慢性損傷、死亡和施加心理壓力,甚至是不可預測的算法減薪,破壞經濟穩定。員工有權對這些決定提出質疑,并就安全、公平和可預見的工作場所標準達成一致。傳統上,工會一直是這一過程的重要組成部分,它強調了企業有必要讓員工組織起來,而不必擔心遭到報復。
AI的潛在應用與帶來的益處已經遠遠超過其他任何技術,從日常娛樂到提高生產效率,拯救生命,預計AI工具還將對聯邦政府產生重大影響,并對聯邦系統和結構產生音響。在享受AI好處的同時,也必須準備好應對相關風險。鑒于這項技術有可能在政府范圍內轉變工作,管理和預算辦公室以及科學和技術政策辦公司應繼續帶頭努力管理這些風險。Parthership for public Service和IBM政府事務中心希望這份白皮書能在政府內部引發對話。尤其是:如何最好地使人工智能成為機構任務規劃的一部分,而不僅僅是松散地與單獨項目關聯的某項技術而已。